آفکام به دنبال استفاده برقراری مقررات جدید و از هوش مصنوعی برای مصون کردن کودکان از آسیب‌های مجازی است.
به گزارش گرداب، کاهش سن اتصال به اینترنت و استفاده از بسترهای مجازی و قرار گرفتن کودکان و نوجوانان در معرض محتوا و تعاملات خطرناک موجب نگرانی بسیاری از خانواده‌ها و مقامات در سراسر جهان شده است.
پایگاه خبری TechCrunch در گزارشی به بررسی اقدامات جدید دولت انگلیس در ارتقای ایمنی کودکان در محیط سایبری می‌پردازد. در این گزارش با بررسی آخرین آمارها درباره استفاده کودکان انگلیسی از اینترنت تأکید می‌شود که دولت، بسترهای اجتماعی و والدین نقش بسیار مهمی در حفظ ایمنی کودکان دارند.
«پایگاه رسانه‌ای گرداب جهت آگاهی و افزایش دانش مخاطبان خود به ترجمه و انتشار مطالبی در حوزه‌های مختلف فناوری اقدام می‌کند. انتشار مطالب به معنای تایید محتوای آن نیست».
همزمان با کاهش سن کاربران فضای مجازی، انگلیس در حال بررسی این موضوع است که آیا هوش مصنوعی می‌تواند از آن‌ها محافظت کند.
مدتی است که دولت‌ها هوش مصنوعی را در مورد چگونگی سوءاستفاده از آن در کلاهبرداری، نشر اطلاعات نادرست و سایر فعالیت‌های آنلاین مخرب زیر ذره‌بین برده‌اند. حال یک سازمان تنظیم‌گر در انگلستان قصد دارد جنبه مثبت هوش مصنوعی و عملکرد آن در مبارزه با محتوای مخرب آنلاین در حوزه کودکان را بسنجد.
آفکام (Ofcom) که نهاد تنظیم‌گر قوانین ایمنی آنلاین انگلستان است قصد دارد پیشنهادهایی را در ارتباط با فناوری هوش مصنوعی ارائه کند که می‌تواند در آینده برای شناسایی و حذف هوشمند محتوای غیرقانونی آنلاین مورد استفاده قرار گیرد. این قابلیت می‌تواند به طور ویژه برای محافظت از کودکان در برابر محتوای مضر و شناسایی موارد سوءاستفاده جنسی که پیش‌تر تشخیص آن دشوار بود، مفید باشد.
تحقیقات آفکام نشان می‌دهد کاربران جوان‌تر به فضای مجازی بیشتر متصل هستند. آمار این سازمان حاکی از آن است که حدود 84 درصد از کودکان 3 یا 4 ساله تاکنون به اینترنت متصل شده‌اند و تقریباً یک‌چهارم از کودکان 5 تا 7 ساله که در این ارزیابی حضور داشتند هم‌اکنون تلفن همراه هوشمند خود را دارند.
ابزارهایی که آفکام احتمالاً ارائه می‌کند بخشی از پیشنهادهای گسترده‌ای است که بر اقدامات در خصوص ایمنی آنلاین کودکان متمرکز هستند. گفتگوها درباره پیشنهادهای جامع به زودی آغاز می‌شود و مباحثه درباره حوزه هوش مصنوعی در اواخر سال جاری انجام خواهد شد.
مارک بانتینگ از مدیران گروه ایمنی آنلاین آفکام می‌گوید علاقه او به هوش مصنوعی با نگاهی به چگونگی عملکرد مثبت آن به‌عنوان ابزاری برای پالایش محتوایی آغاز خواهد شد.
وی در مصاحبه با TechCrunch بیان می‌کند که در حال حاضر نیز ابزارهای شناسایی محتوای نامناسب برای کودکان وجود دارند اما اطلاعات زیادی در مورد دقت، مؤثر بودن و کارایی آنان در دست نیست. او بیان می‌کند که دنبال راه‌هایی هستند زمانی که از این ابزارهای هوشمند استفاده می‌کنند عملکرد آن‌ها به شکل مناسبی ارزیابی شود آزادی بیان و حریم خصوصی افراد مورد تهدید قرار نگیرد.
یکی از توصیه‌های احتمالی این سازمان این خواهد بود که بسترها (پلتفرم‌ها) چطور و چگونه ارزیابی کنند. این توصیه نه تنها می‌تواند باعث شود که بسترها از ابزارها و سامانه‌های پیچیده‌تر استفاده کنند بلکه در صورت عدم توانایی آنان یا عدم بهبود عملکرد در مسدود کردن محتوای نامناسب خود برای مخاطبان کم سن و سال مورد پیگرد قانونی قرار خواهند گرفت.
او بیان می‌کند همانند بسیاری از قوانین ایمنی فضای مجازی، مسئولیت بر عهده این شرکت‌ها است تا مطمئن شوند بسترها ابزارهای مناسبی جهت حفاظت از کاربران فراهم می‌کنند.
این تغییرات منتقدان و حامیانی خواهد داشت. متخصصان هوش مصنوعی در تلاش‌اند تا توانایی شناسایی این فناوری را مثلاً درباره محتوای جعل عمیق (دیپ‌فیک) بهبود بخشند. همچنین از هوش مصنوعی برای احراز هویت آنلاین کاربران استفاده می‌شود. بااین‌حال بسیاری از منتقدان این طرح به عملکرد نامطلوب هوش مصنوعی در شناسایی اشاره کرده‌اند و از همین حالا این طرح را بیهوده می‌دانند.
طبق مطالعه اخیر این نهاد ترکیب سنی خردسالانی که از خدمات آنلاین استفاده می‌کنند نشان می‌دهد امروزه آن‌ها کم‌سن‌وسال‌تر از همیشه هستند، به طوری که آن‌ها یک بخش جدید برای سنین بسیار کم ایجاد کرده‌اند.
فناوری تلفن همراه به ویژه در میان کودکان رشد قابل توجهی داشته است. در تحقیقاتی که بر اساس پاسخ‌های بین ۲۰۰۰ تا ۳۴۰۰ والدین و دانش‌آموزان انجام شده است، تقریباً یک‌چهارم کودکان ۵ تا ۷ سال اکنون گوشی‌های هوشمند شخصی خود را دارند. با احتساب تبلت‌ها این نسبت به 76 درصد افزایش می‌یابد.
در همان گروه سنی محتوای بسیاری زیادی مصرف می‌شود: 65 درصد از آن‌ها تماس‌های صوتی و تصویری برقرار کرده‌اند (درحالی‌که این عدد یک سال پیش 59 درصد بود) و تعداد کودکانی که رسانه‌های پخش محتوای آنلاین (streamed media) را تماشا می‌کنند از 39 درصد به حدود 50 درصد رسیده است.
محدودیت‌های سنی در برخی از اپلیکیشن های جریان اصلی رسانه در حال کاهش است، اما به نظر نمی‌رسد که این محدودیت‌ها در انگلستان رعایت شود. حدود 38 درصد از افراد 5 تا 7 ساله از رسانه‌های اجتماعی استفاده می‌کنند. واتس‌اپ با 37 درصد، محبوب‌ترین برنامه در میان آن‌ها است.
همچنین برنامه پرچم‌دار شرکت متا از توجه کمتری نسبت به تیک‌تاک برخوردار است. تیک‌تاک محصول بایت‌دنس (ByteDance) توسط ۳0 درصد از کودکان ۵ تا ۷ سال انگلستانی مورد استفاده قرار می‌گیرد. در رتبه‌بندی اینستاگرام (Instagram) با 22 درصد و دیسکورد با 4 درصد در رده‌های بعدی قرار دارند.
حدود یک‌سوم یعنی 32 درصد از کودکان در این سن به تنهایی آنلاین می‌شوند و 30 درصد از والدین گفته‌اند که مشکلی با حضور کودکان زیر سن قانونی خود در رسانه‌های اجتماعی ندارند. یوتیوب کودکان (YouTube Kids) با 48 درصد مخاطب همچنان محبوب‌ترین شبکه برای کاربران کم‌سن است.
استفاده از بازی‌های ویدیویی که همیشه مورد علاقه کودکان بوده رشد کرده و هم‌اکنون توسط 41 درصد از این گروه سنی انجام می‌شود. ۱5 درصد از کودکان 5 تا 7 سال بازی‌های مربوط به تیراندازی انجام می‌دهند.
اگرچه ۷6 درصد از والدین مورد مطالعه گفته‌اند که با کودکان خود در مورد ایمن ماندن در فضای مجازی صحبت می‌کنند، سازمان تنظیم‌گر ایمنی آنلاین انگلستان به نکته‌ای اشاره می‌کند که میان آنچه کودک می‌بیند و آنچه کودک ممکن است گزارش کند، تفاوت‌هایی وجود دارد.
در تحقیقاتی که بر روی کودکان بزرگ‌تر با سن ۸ تا ۱۷ سال انجام شده است، این سازمان با آن‌ها مستقیماً مصاحبه کرده و به این نتیجه رسیده است که ۳۲ درصد از کودکان گزارش داده‌اند که محتوای نگران‌کننده‌ای را در محیط آنلاین دیده‌اند، اما تنها ۲0 درصد از والدین آن‌ها بیان کرده‌اند که کودکانشان محتوای نامناسب را گزارش داده‌اند.
حتی با توجه به برخی از تناقضات گزارش‌شده، این تحقیق نشان می‌دهد که بین تجربه مواجهه نوجوانان با محتوای نامناسب مجازی و بیان این تجربیات با خانواده خود، شکاف وجود دارد.
نگرانی درباره‌ی محتوای نامناسب تنها یکی از این چالش‌ها است. مقوله‌ی جعل عمیق نیز مسئله مهمی است. به طور مثال در میان کودکان با سن ۱۶ تا ۱۷ سال، ۲5 درصد از آن‌ها توانایی تشخیص محتوای جعلی تولیدشده از محتوای واقعی را ندارند.
