محققان دانشگاه MIT روشی برای حفاظت از تصاویر در مقابل ویرایش‌های هوش مصنوعی ابداع کرده‌اند.
به گزارش گرداب به نقل از انگجت، همزمان با پیشرفته‌تر شدن هوش مصنوعی مولد و فعالیت شرکت‌ها برای تمایز محصولاتشان از رقبا، چت بات‌هایی در سراسر اینترنت قابلیت ویرایش تصاویر و همچنین ایجاد آنها را ارائه می‌کنند. شرکت‌هایی مانند «شاتراستاک» و «ادوب» در این زمینه پیشرو هستند.
اما همراه این قابلیت‌های هوش مصنوعی چالش‌هایی نیز وجود دارد مانند دستکاری تصاویر یا سرقت آنها.
تکنیک برچسب زنی روی تصاویر احتمال سرقت را کاهش می‌دهد و اکنون تکنیک «فتوگارد» متعلق به MIT CSAIL می‌تواند از دستکاری تصاویر جلوگیری کند.
فتو گارد با جایگزین کردن پیکسل‌ها در یک تصویر عمل و به این ترتیب توانایی هوش مصنوعی برای درک عکس را مختل می‌کند.
روش حمله رمزگذار برای ارائه این اختلالات، نمایش نهفته مدل الگوریتمی از تصویر مورد نظر را هدف قرار می‌دهد. به طور دقیق‌تر محاسبات ریاضی پیچیده‌ای به کار می‌رود که موقعیت و رنگ هر پیکسل در تصویر را هدف می‌گیرد و به این ترتیب هوش مصنوعی نمی‌تواند محتوای پیش روی خود را درک کند.
روش حمله «ریزش» پیشرفته‌تر و شدیدتر است و یک تصویر را به عنوان عکسی متفاوت در مقابل هوش مصنوعی استتار می‌کند. این روش یک تصویر را به عنوان هدف تعریف می‌کند و اختلالات در تصویر خود را به گونه‌ای ارتقا می‌دهد که شبیه به هدف خود باشد. هرگونه تلاش برای تغییر عکس مذکور با کمک هوش مصنوعی روی عکس جعلی به ایجاد تصویری غیرواقعی منجر می‌شود.
هادی سلمان مولف ارشد تحقیق و دانشجوی مقطع دکتری در MIT می‌گوید: حمله رمزگذار سبب می‌شود مدل هوش مصنوعی تصور کند تصویر ورودی که قرار است اصلاح شود، یک عکس دیگر است. حال آنکه حمله «ریزش» سبب می‌شود مدل هوش مصنوعی اصلاحات را در تصویر دیگری انجام دهد.
این روش غیرقابل هک نیست و ممکن است هکر‌ها سعی کنند تا تصاویر محافظت شده را به طور معکوس مهندسی کنند.
