به تازگی جنجالی غیراخلاقی در تیک‌تاک آغاز شده که در آن برخی افراد با استفاده از فناوری دیپ‌فیک، تصویر کودکان به قتل رسیده را بازسازی کرده و ماجرای قتل آن‌ها را از زبان خودشان روایت می‌کنند.
به گزارش گرداب، به‌تازگی جنبشی غیراخلاقی در شبکه اجتماعی تیک تاک شکل گرفته که از هوش مصنوعی برای احیای قربانیان جرایم و قتل کودکان استفاده می‌کند. در همین حال، این ویدیو‌ها که به دلیل شدت بالای احساسی که ایجاد می‌کنند، برای جذب تعداد بیشتری کلیک و لایک طراحی شده‌اند، باعث ایجاد نگرانی کارشناسان شده‌اند.
شبکه اجتماعی تیک تاک به دلیل طرفداران زیاد، همواره محلی برای انتشار ویدیو‌های جنجالی و جذاب بوده است. اما در حال حاضر، جنبشی جدید در این شبکه اجتماعی شکل گرفته که از هوش مصنوعی برای احیای قربانیان جرایم و قتل کودکان استفاده می‌کند. این ویدیو‌ها که به طور گسترده منتشر شده‌اند، باعث نگرانی کارشناسان شده‌اند.
بسیاری از حساب‌هایی که این ویدیو‌ها را منتشر می‌کنند، به دلیل قوانین جدید تیک تاک، تصاویر و نام قربانیان را با استفاده از هوش مصنوعی تغییر می‌دهند. اما با وجود این تلاش‌ها، تعداد زیادی از ویدیو‌هایی که با استفاده از هوش مصنوعی ساخته شده‌اند و در آن‌ها روایت‌هایی از جنایات وحشتناکی که بر کودکان انجام شده است، نشان داده می‌شوند.
این ویدیو‌ها همچنان با برچسب‌گذاری نشانه‌گذاری نشده‌اند و بسیاری از آن‌ها اطلاعات تغییر یافته‌ای دارند که به تشخیص آن‌ها توسط بیننده کمک نمی‌کند.
پاول بلیک‌لی، استادیار عدالت کیفری در دانشگاه نیوهِیوِن آمریکا، می‌گوید که این ویدیو‌ها به دلیل شدت بالای احساسی که ایجاد می‌کنند، برای جذب تعداد بیشتری کلیک و لایک طراحی شده‌اند. اما تماشای این ویدیو‌ها باعث ایجاد احساس ناراحتی و غم در بیننده می‌شود. همچنین، این ویدیو‌ها ممکن است بدون داشتن اجازه از خانواده قربانیان، ساخته شده باشند که این موضوع نگرانی بسیاری را در خود ایجاد کرده است.
با وجود تلاش‌های تیم مدیریت محتوای تیک تاک برای مدیریت این محتواها، برخی از حساب‌هایی که این ویدیو‌ها را منتشر کرده‌اند، هنوز هم در دسترس هستند. این موضوع باعث شده که بسیاری از افراد از تماشای این محتواها خودداری کنند و به دنبال راهکار‌هایی برای مقابله با این موضوع باشند.
