یک شرکت نوآفرین آمریکایی برای ارتقای ربات گفتگوی هوش مصنوعی خود از اطلاعات مربوط به یک دختر جوان به قتل رسیده استفاده کرد و افشای این امر جنجال‌آفرین شده است.
به گزارش گرداب، شرکت کاراکتر.ای آی که توسط یکی از کارکنان سابق گوگل تأسیس شده به‌تازگی مجبور به حذف آواتار خلق شده توسط یکی از کاربران خود شده است. این آواتار برگرفته از اطلاعات یک دختر ۱۸ساله بود که در سال ۲۰۰۶ توسط دوست سابقش در آمریکا به قتل رسید.
شرکت کاراکتر.ای آی از اطلاعات این دختر در چت‌بات هوش مصنوعی خود استفاده کرده بود. زمانی که کاربری آواتار برگرفته از داده‌های دختر مذکور را به کار گرفت، خانواده این فرد نیز از موضوع مطلع شدند و در شبکه‌های اجتماعی به‌شدت نسبت به این رفتار غیراخلاقی اعتراض کردند.
این شرکت برای ایجاد شخصیت‌ها یا آواتار‌های گپ با بات‌های هوش مصنوعی به کاربر امکان می‌دهد از هر منبعی استفاده کند. این منابع می‌توانند برگرفته از تخیل کاربر، شخصیتی واقعی و حتی افراد مرده باشند.
بسیاری از افراد آواتار‌هایی بر مبنای شخصیت افراد مشهور طراحی می‌کنند، برخی از آنها از آواتار‌های افراد دارای انحرافات اخلاقی و جنسی استفاده می‌کنند و حالا استفاده فردی از اطلاعات یک شخص کشته شده باعث شده تا رسانه‌های آمریکا یک بار دیگر در مورد آینده خطرناک جهان با افزایش استفاده غیراخلاقی از هوش مصنوعی ابراز نگرانی کنند.
استارت‌آپ کاراکتر.ای آی یکی از رقبای جدی چت جی پی تی است که در اواخر سال ۲۰۲۱ با سرمایه‌گذاری یک‌میلیارددلاری شرکت اندریسن هوروویتز در آمریکا تاسیس شد و ماهانه ۲۰ میلیون کاربر دارد. تابه‌حال بیش از ۱۰۰ میلیون شخصیت یا آواتار در چت‌بات هوش مصنوعی کاراکتر.ای آی طراحی شده‌اند.
آواتار جنیفر کرسنت اولین‌بار روز چهارشنبه هفته قبل به کار گرفته شد و پدر و عموی این دختر که خود سردبیر سایت بازی کوتاکو و یک چهره مشهور رسانه‌ای است، به‌شدت نسبت به این موضوع اعتراض کردند. حدود ۷۰ کاربر قبل از حذف آواتار مذکور از آن استفاده کرده‌اند.
کاراکتر ای. آی پس از اطلاع از موضوع آواتار مذکور را حذف کرد و وعده داد موضوع را بررسی می‌کند. عموی این دختر در واکنش به این رویداد گفت: چرا باید چنین چیز‌هایی را تحمل کنیم؟ چرا شرکت‌های چندمیلیارددلاری به خود زحمت نمی‌دهند اصول اخلاقی، راهنما و سازوکار‌های حفاظتی ایجاد کنند تا از این اتفاقات جلوگیری کنند؟ چرا باید این موضوع را به یک شرکت گزارش دهیم و امیدوار باشیم که بعدازاین کار درست را انجام دهند؟ چگونه باید از آنها شکایت کنیم؟
