تحقیقات جدید نشان می‌دهد که نرم‌افزار هوش مصنوعی شرکت ان‌ویدیا دارای آسیب‌پذیری‌های امنیتی گسترده‌ایست که می‌تواند موجب افشای اطلاعات خصوصی کاربران شود.
به گزارش گرداب، شرکت ان‌ویدیا سامانه‌ای به نام «نمو» (NeMo) ارائه کرده که توسعه‌دهندگان از طریق آن می‌توانند با چند مدل بزرگ زبانی کار کنند. این سامانه به‌گونه‌ای ساخته شده که کسب‌وکار‌ها از داده‌های اختصاصی خود در کنار داده‌های عمومی مدل‌های زبانی استفاده کنند تا پاسخ بهتری برای سوالات دریافت کنند.
محققان موسسه روبوست اینتلجنس در سن‌فرانسیسکو در گزارشی اعلام کردند که محدودیت‌هایی که ان‌ویدیا برای تضمین امنیت هوش مصنوعی به کار گرفته، قابل دور زدن است.
این محققان پس از استفاده از این سامانه ان‌ویدیا تنها ظرف چند ساعت توانستند مدل‌های زبانی را مجاب کنند که محدودیت‌ها را زیر پا بگذارند. محققان مدل را مجاب کردند به بحث درباره اموری دیگر جز موارد کاری بکشانند و با او درباره سلامت ستاره سینما یا جنگ فرانسه و آلمان صحبت کردند.
این نفوذ ساده نشان می‌دهد شرکت‌های هوش مصنوعی چه چالش‌های بزرگی در زمینه نظارت و محدود کردنی این فناوری جدید دارند.
به تازگی شرکت ان‌ویدیا با تکیه بر موج هوش مصنوعی توانست رشد چشمگیری داشته باشد و به شرکت‌های تریلیارد دلاری ملحق شد.
منبع: فایننشال تایمز
