با توجه به نگرانیهای موجود درباره هوش مصنوعی مولد، گوگل اعلام کرد برنامه پاداش آسیب پذیری (VRP) خود را با تمرکز بر حملات خاص هوش مصنوعی و فرصتهای سوء استفاده از فناوری گسترش میدهد.
به گزارش گرداب، به طور دقیقتر این شرکت دستورالعمل خود را به روزرسانی کرد که در آن کشفیات واجد شرایط دریافت جایزه را اعلام کرد.
به عنوان مثال، کشف استخراج دادههای آموزشی که اطلاعات خصوصی و حساس را فاش میکند در محدوده مورد نظر قرار میگیرد، اما اگر کشف مذکور فقط دادههای عمومی و غیر حساس را نشان دهد، واجد شرایط دریافت جایزه نخواهد بود. سال گذشته، گوگل ۱۲ میلیون دلار برای کشف باگ به محققان امنیتی داد.
این شرکت امنیتی توضیح داده هوش مصنوعی با چالشهای امنیتی متفاوتی در مقایسه با دیگر فناوریها مانند دستکاری مدل و تبعیض ناعادلانه روبرو است. به همین دلیل نیازمند دستورالعملی است که این چالشها را هدف بگیرد.
در بیانیه شرکت آمده است: ما معتقدیم گسترش برنامه اعطای جایزه درباره ایمنی هوش مصنوعی و امنیت به محققان انگیزه میدهد و چالشهای احتمالی را مشخص میکند که در نهایت هوش مصنوعی را برای همه ایمن میکند.
شرکتهای سازنده هوش مصنوعی از جمله گوگل در اوایل سال جاری میلادی درکاخ سفید حضور یافتند و به گسترش اکتشافات وآگاهی از ضعفهای هوش مصنوعی متعهد شدند.