Gerdab.IR | گرداب

الگوریتم کراپ عکس توئیتر تبعیض آمیز است

الگوریتم کراپ عکس توئیتر تبعیض آمیز است
تاریخ انتشار : ۲۱ مرداد ۱۴۰۰

نتایج مسابقه توئیتر نشان می‌دهد الگوریتم کراپ عکس این پلتفرم در عکس‌ها زنان را به مردان، افراد جوان را به پیر و صورت‌هایی با پوست روشن را به رنگ تیره ترجیح می‌دهد.

به گزارش گرداب، نتایج مسابقه‌ای نشان داد الگوریتم کراپ اتوماتیک عکس در توئیتر تبعیض آمیز است و افراد جوان، زنان و صورت‌هایی با پوست روشن را ترجیح می‌دهد.

حدود ۵ ماه قبل توئیتر به دلیل بیم از تبعیض نژادی این الگوریتم را غیرفعال کرد و چندی قبل نیز اعلام کرد به کاربرانی که به حذف تبعیض در این شرکت کمک کنند، جوایز نقدی می‌دهد. این شبکه اجتماعی اعلام کرده بود جایزه نقدی تا سقف ۳۵۰۰ دلار برای ردیابی باگ‌ها اعطا می‌کند و اکنون نتایج این مسابقه مشخص شده است.

توئیتر اعلام کرد هنگام توسعه الگوریتم آن را برای وجود تبعیض نژادی و جنسیتی بررسی کرده است، اما نتایج مسابقه نشان می‌دهد این ابزار، سفیدپوستان را بر سیاه پوستان و زنان را بر مردان ترجیح می‌دهد.

نخستین برنده این مسابقه متوجه شد نرم افزار مذکور صورت‌های لاغر، جوان با رنگ پوست‌های روشن و شفاف را با ویژگی‌های زنانه ترجیح می‌دهد.

برنده مقام دوم متوجه شد این الگوریتم نسبت به سن تبعیض قائل می‌شود و در مقابل افرادی با موی سفید و خاکستری تبعیض آمیز است. برنده مقام سوم مسابقه متوجه شد الگوریتم در متون نوشته شده روی تصاویر، زبان انگلیسی را به عربی ترجیح می‌دهد.

برنده جایزه نخست توئیتر بوگدان کولینیچ فارغ التحصیل دانشگاه EPFL در سوئیس است. او با استفاده از یک برنامه هوش مصنوعی تعداد زیادی صورت با ویژگی‌های واقع بینانه ساخت که رنگ پوست، لاغری و سن آن‌ها متمایز بود. این تصاویر در الگوریتم کراپ عکس توئیتر استفاده شدند تا ترجیحات ابزار مشخص شود.

نتایج مسابقه توئیتر در کنفرانس DEF CON اعلام شد.