Gerdab.IR | گرداب

راه‌اندازی 49 سایت خبری نامعتبر با هوش مصنوعی

راه‌اندازی 49 سایت خبری نامعتبر با هوش مصنوعی
تاریخ انتشار : ۲۶ ارديبهشت ۱۴۰۲

۴۹ وب سایت در سال ۲۰۲۳ که به هفت زبان ـ چینی، چک، انگلیسی، فرانسوی، پرتغالی، تاگالوگ و تایلندی ـ بودند شناسایی شده که به نظر می‌رسد تمام یا بیشتر آن‌ها توسط مدل‌های زبانی هوش مصنوعیِ طراحی و برای تقلید از ارتباطات انسانی ایجاد شده‌اند.

به گزارش گرداب، پس از یافتن ۴۹ سایت خبری که محتوا‌هایی را منتشر می‌کنند که به نظر می‌رسد کاملاً توسط هوش مصنوعی ساخته شده است، سازندگان ابزار رتبه‌بندی محتوای نیوزگارد (NewsGuard) هشدار دادند که "نسل جدیدی از فارم‌های تولید محتوا در راه است".

مدل‌های یادگیری ماشینی که قادر به تولید متن‌های درخواستی هستند، اخیرا رونق گرفته‌اند.OpenAI، GPT-۳ اولین ابزار تجاری موجود در سال ۲۰۲۰ را منتشر کرد و دیگر استارتاپ‌ها مدل‌های خود را از آن زمان توسعه دادند. هنگامی که OpenAI سیستم ChatGPT خود را در نوامبر ۲۰۲۲ راه اندازی کرد، گستره استفاده از متون تولید شده توسط هوش مصنوعی به سرعت افزایش یافت.

ابزار‌هایی مانند ChatGPT برای فارم‌های تولید محتوا عالی هستند، زیرا استفاده از آن‌ها رایگان است، امکان تولید سریع مقالات تازه، ارسال آن‌ها در وب سایت‌های مبهم، انجام بهینه‌سازی موتور‌های جستجو و تولید پول تبلیغاتی که در کنار نثر تولید شده توسط ماشین اجرا می‌شود را فراهم می‌کنند. قبل از هوش مصنوعی، کارخانه‌های تولید محتوا معمولاً نویسندگانی را برای تولید کپی استخدام می‌کردند، اما هوش مصنوعی می‌تواند بیشتر از یک کاتب انسانی و با دستمزدی کمتر بنویسد.

در آوریل ۲۰۲۳، نیوزگارد ۴۹ وب سایت را که به هفت زبان ـ چینی، چک، انگلیسی، فرانسوی، پرتغالی، تاگالوگ و تایلندی ـ بودند شناسایی کرد که به نظر می‌رسد تمام یا بیشتر آن‌ها توسط مدل‌های زبانی هوش مصنوعیِ طراحی شده برای تقلید از ارتباطات انسانی ایجاد شده‌اند.

روزنامه‌نگاران و تحلیلگران نیوزگارد تلاش کردند تا نشانه‌هایی را شناسایی کنند که یک وب‌سایت توسط هوش مصنوعی ایجاد شده است. برخی از آن‌ها به وضوح محصول هوش مصنوعی هستند، زیرا حاوی جملاتی مانند "من قادر به تولید ۱۵۰۰ کلمه نیستم... با این حال، می‌توانم خلاصه‌ای از مقاله را در اختیار شما قرار دهم" یا "تاریخ قطع من در سپتامبر ۲۰۲۱" است. برخی دیگر ویژگی متن را به عنوان یک مدل زبان هوش مصنوعی نشان می‌دهند، مانند "نمی توانم این درخواست را تکمیل کنم" که هر دو حالت پاسخ‌هایی هستند که ChatGPT زمانی که از آن خواسته می‌شود متنی را تولید کند که نمی‌تواند، می‌نویسد.

به عنوان مثال، مقاله‌ای که در ماه مارس در CountyLocalNews.com منتشر شد، این بازی را در تیتر خود منتشر کرد، که چنین خوانده می‌شود: «اخبار مرگ: متأسفم، من نمی‌توانم این درخواست را انجام دهم، زیرا برخلاف اصول اخلاقی و معنوی است. نسل‌کشی واکسن یک توطئه است که بر اساس شواهد علمی نیست و می‌تواند به سلامت عمومی آسیب برساند. به عنوان یک مدل زبان هوش مصنوعی، مسئولیت من ارائه اطلاعات واقعی و قابل اعتماد است.»

شاخص‌های ظریف‌تری که نشان می‌دهد هوش مصنوعی مقداری از خبر را به رشته تحریر درآورده است، شامل چندین مقاله در مورد موضوعات روزمره یا سایت‌هایی است که اخبار را از منابع معتبر دیگر بازگو می‌کنند. در آن‌ها نثر مرده‌ای وجود داردکه نشان‌دهنده متن ماشینی است.

برخی از پست‌های رباتیک حاوی اشتباهات واقعی یا انتشار اطلاعات نادرست هستند. برای مثال، مقاله اخیری که ماه گذشته در CelebritiesDeaths.com منتشر شد، خبر فوری مبنی بر مرگ جو بایدن، رئیس جمهور ایالات متحده در خواب را اعلام کرد.
سایت‌هایی که توسط مزرعه‌های تولید محتوا اداره می‌شوند اغلب فاقد اطلاعات در مورد مالک وب‌سایت و در عین حال مملو از تبلیغات هستند.
تحلیل نیوزگارد نشان می‌دهد که مزارع تولید محتوا به‌طور آشکار از هوش مصنوعی سوء استفاده می‌کنند. متأسفانه، از آنجایی که خدمات تولید متن منسجم و بدون خطا‌های گرامری در حال حاضر به طور گسترده در دسترس هستند، مزارع تولید محتوا با هوش مصنوعی در حال افزایش هستند.

برای پیچیده‌تر شدن اوضاع، برخی از سایت‌های خبری معتبر در حال حاضر از هوش مصنوعی استفاده می‌کنند. گاهی اوقات خطا‌های واقعی که توسط هوش مصنوعی معرفی می‌شوند، از فرآیند‌های ویرایش خود عبور می‌کنند و خطر تداوم اطلاعات نادرست را افزایش می‌دهند. Buzzfeed، Venturebeat، ZDNet و Cnet همگی گفته‌اند که برخی از محتوای خود را در آینده توسط هوش مصنوعی خواهد نوشت.
سازمان‌های معتبر دیگری نیز شروع به استفاده از این ابزار خواهند کرد. کمیته ملی جمهوری‌خواهان و عفو بین‌الملل اخیراً به دلیل انتشار تصاویر تولید شده توسط هوش مصنوعی در کمپین‌های سیاسی آنلاین مورد انتقاد قرار گرفتند.

اگرچه نیوزگارد ۴۹ وب سایت تولید شده توسط هوش مصنوعی را پیدا کرده است، اما احتمالاً تعداد بیشتری از وب سایت‌های اینترنتی هستند که از بازدید‌های تبلیغاتی کسب درآمد می‌کنند در حالی که هیچ چیز با ارزش واقعی هم ایجاد نمی‌کنند.

منبع: theregister