نرم‌افزار Proctorio در آمریکا که از قابلیت تشخیص چهره استفاده می‌کند و برخی مواقع نمی‌تواند افراد سیاه پوست را تشخیص دهد.
به گزارش گرداب، برنامه‌ی Proctorio و برنامه‌های مشابه دیگر، برای تحت نظر داشتن دانش‌آموزان در حال آزمون دادن، طراحی شده‌اند. با این حال، بسیاری از دانش‌آموزان رنگین پوست گزارش داده‌اند که نرم‌افزار نمی‌تواند چهره‌ی آنها را تشخیص دهد و به همین علت با مشکل روبرو هستند. زمانی که این برنامه نتواند دانش‌آموزان را تشخیص دهد، به معلمان آنها اطلاع می‌دهد و دانش‌آموزان غیبت می‌خورند.
بعد از انتشار این خبر، Akash Satheesan روش‌های تشخیص چهره‌ی نرم‌افزار را بررسی کرد و مشخص شد که ابزار تشخیص چهره‌ی این برنامه دقیقاً شبیه به OpenCV است. OpenCV یک برنامه‌ی منبع باز رایانه‌ای برای تشخیص چهره است که قبلاً با مشکلاتی در زمینه‌ی تبعیض نژادی روبرو بود.
Akash Satheesan آزمایشاتی را با استفاده از OpenCV و داده‌های دیگر برای تایید نحوه‌ی کارکرد الگوریتم‌های این برنامه با چهرههای متفاوت انجام داد، اما نتایج خوبی بدست نیاورد.
این نرم‌افزار نه تنها نمی‌توانست در بعضی مواقع چهرههای سیاه را تشخیص دهد، بلکه در تشخیص چهره‌ی افراد با قومیت‌های مختلف نیز مشکل داشت و بالاترین میزان تشخیص آن، زیر 75% بود. Motherboard از یک محقق امنیتی خواست تا آزمایش مشابهی را انجام دهد و او نتایجی که Satheesan به دست آورده بود را تایید کرد. 
خود Proctorio نیز تایید کرد که از OpenCV استفاده می‌کند اما از جزئیات مربوط به نحوه‌ی عملکرد آن اطلاعاتی نمی‌دهد.
سخنگوی Proctorio گفت که آزمایشات Satheesan ثابت می‌کند که این نرم‌افزار فقط به تشخیص چهره می‌پردازد، نه هویت اشخاص. این حرف سخنگو شاید برای دانش‌آموزانی که نگران مسائل مربوط به حریم خصوصی خود هستند، خبر خوبی باشد. اما به هیچ وجه پاسخ مناسبی برای اتهامات تعصب نژادی نیست.
مشکلات مربوط به تشخیص چهره‌ی دانشجویان باعث شد تا یک دانشگاه قرارداد خود با Proctorio را فسخ کند. حتی سناتور ریچارد بلومنتال (D-CT) به هنگام صحبت کردن درباره‌ی تعصب در فضای نرم‌افزاری، به برنامه‌ی Proctorio اشاره کرد.
هرچند که تعصب نژادی موضوع جدیدی نیست اما مشاهده تاثیر این موضوع بر روی دانش‌آموزانی که فقط می‌خواهند تکلیف خود را انجام دهند، خصوصا در دورانی که آموزش مجازی تنها راه برای تحصیل است، بسیار تامل‌برنگیز است.
