ضرورت ایجاد چارچوب‌های قانونی برای ارتقای سامانه‌های هوش مصنوعی

به گزاشر گرداب، بیانیه سیاستی مرکز پژوهش‌های مجلس در خصوص ارتقای حکمرانی هوش مصنوعی تصریح می‌کند که ایجاد چارچوب‌های قانونی و دستورالعمل‌های اخلاقی شفاف برای توسعه و استقرار سامانه‌های هوش مصنوعی مسئول ضروری است.

پس از برگزاری جلسه علمی پیش نیاز‌های قانون‌گذاری بر هوش مصنوعی با حضور نخبگان و صاحبنظران این حوزه، بیانیه سیاستی مرکز پژوهش‌های مجلس شورای اسلامی در خصوص ارتقاء حکمرانی هوش مصنوعی، تدوین و منتشر شد.

متن این بیانیه به شرح زیر است:

پیشرفت‌های چشمگیر هوش مصنوعی در عرصه‌های گوناگون، از تشخیص زود هنگام بیماری‌ها و بالا بردن اثربخشی فرایند درمان و بهبود بیماری گرفته تا کاربرد‌های گسترده استفاده از آن در پیشرفت و گسترش کشاورزی و کاربرد‌های صنعتی و خانگی، موجب تحیر کارشناسان شده و اعتقاد دارند این فناوری قابلیت دارد که به مهمترین فناوری عصر ما مبدل شود. توانایی این فناوری و فراگیر شدن آن، هرچند اشتیاق زیادی ایجاد کرده است، اما از سوی دیگر، باعث نگرانی و دغدغه کارشناسان و حکمرانان این حوزه شده است؛ به نحوی که تنظیم‌گری هوش مصنوعی در محور‌هایی نظیر محدوده سنی مجاز برای کاربران، حریم خصوصی و نقض آن، تعیین نهاد تنظیم‌گر هوش مصنوعی، توسعه و استفاده از آن بر اساس سطح مخاطره (به ویژه هوش مصنوعی مولد) و تلاش برای ایجاد رویه واحد بین‌المللی در مواجهه با این فناوری، در کشور‌هایی نظیر ایتالیا، فرانسه، انگلیس، استرالیا، چین و ژاپن مورد توجه قرار گرفته است.

پیوند فزاینده کاربرد‌های هوش مصنوعی با زندگی روزمره انسانی و اجتماعی، ظرفیت‌سازی برای اِعمال حکمرانی مؤثر بر آن و تدارک چارچوب‌های سیاستی به روزشونده را که منجر به توسعه «هوش مصنوعی قابل اعتماد و پایدار» شود ضروری می‌سازد. مرکز پژوهش‌های مجلس شورای اسلامی، در راستای اتخاذ رویکرد مواجهه فعالانه و پویا با مسائل نوظهور سیاستی، ضمن ترسیم ملاحظات کلیدیِ حکمرانی هوش مصنوعی، توصیه‌های سیاستی برای کنش هوشمندانه، پایدار، شفاف و عادلانه را ارائه می‌کند.

توسعه و استفاده هوشمندانه با در نظر گرفتن مزایا و مخاطرات هوش مصنوعی

پژوهش‌ها نشان می‌دهد هوش مصنوعی می‌تواند حکمرانی ملی، اقتصاد، سلامت و بهداشت، حمل و نقل، مدیریت تولید و مصرف منابع، کشاورزی، حفاظت از محیط زیست و آموزش را بهبود بخشد. با این حال، عدم توجه به مخاطرات آن ممکن است آسیب‌های جدی به همراه داشته باشد. محافل علمی مختلف مخاطراتی، چون ایجاد چالش برای بقای مشاغل سنتی، سوگیری و انحصار سیستم توسط یک یا چند تفکر خاص، کاهش سطح تفکر و قدرت انتخاب، نگرانی‌های مربوط به حفظ حریم خصوصی، معضلات اخلاقی و چالش‌های شناختی با اولویت کودکان و نوجوانان و همچنین تبعات امنیتی به علت نشت داده‌ها و اطلاعات را مورد تأکید قرار داده‌اند. از این رو لازم است مداخلات سیاستی و تنظیم‌گرانه برای به حداکثر رساندن منافع عمومی و در عین حال به حداقل رساندن مخاطرات توسعه و استفاده از این فناوری مدنظر قرار گیرد.

تقویت همکاری‌ها، ادبیات سازی، گفتمان و اشتراک دانش

با توجه به کارکرد‌های هوش مصنوعی در عرصه‌های مختلف، همکاری کنشگران مختلف فعالیت‌های فناورانه در کشور از قبیل دولت، بخش خصوصی متولی توسعه، دانشگاه‌ها، حوزه‌های علمیه و اندیشکده‌ها، برای به حداکثر رساندن استفاده صحیح از ظرفیت‌های هوش مصنوعی در حکمرانی ضروری است. به اشتراک‌گذاری دانش و دسترسی به بهترین شیوه‌ها از طریق سکو‌ها و رویداد‌هایی که گفتگو و همکاری بین‌بخشی را ترویج می‌کنند، توصیه می‌شود. در همین راستا، حمایت از توسعه مطالعات نظری که ماهیت و کارکرد‌های هوش مصنوعی و نحوه تعامل با آن را برجسته می‌کند نیز راهگشا است.

توسعه همکاری‌های بین المللی در حکمرانی هوش مصنوعی

ایجاد رویه‌های واحد بین‌المللی یک از دغدغه‌های مهم کشور‌ها درتنظیم‌گری جهانی توسعه و استفاده از هوش مصنوعی است. تلاش‌های مشترکی برای رسیدگی به چالش‌های فرامرزی مانند اشتراک‌گذاری داده‌ها، امنیت سایبری، جلوگیری از انحصارگرایی و سوگیری، دسترسی و بهره‌مندی عادلانه همه کشور‌ها و استفاده اخلاقی از هوش مصنوعی مورد نیاز است. از اینرو دولت باید فعالانه در مجامع و ابتکار‌های بین‌المللی مرتبط با حکمرانی هوش مصنوعی شرکت کرده تا به توسعه هنجار‌ها و استاندارد‌های جهانی مبتنی بر الزامات اخلاق اسلامی کمک کند. همچنین علاوه بر این، تلاش برای توافق‌های دوجانبه و چندجانبه همکاری با کشور‌ها (با رعایت ملاحظات امنیتی و سیاسی و توجه به مصالح ملی) در زمینه توسعه هوش مصنوعی مسئول و جلوگیری از استفاده مخرب از این فناوری نباید از نظر دور بماند.

افزایش آگاهی نسبت به کارکرد‌ها و مخاطرات هوش مصنوعی در زمینه‌های مختلف

ارتقاء آگاهی‌های عمومی و ایجاد ظرفیت لازم برای اطمینان از اینکه عموم مردم در عصر هوش مصنوعی مهارت لازم برای مواجهه و استفاده از آن را داشته باشند بسیار ضروری است. این موضوع در مورد کودکان و نوجوانان که سامانه‌های هوشمند را دوستانی قابل اعتماد دانسته و تمامی اطلاعات و راز‌های خود را در اختیار آن می‌گذارند حیاتی است. نشت اطلاعات و داده‌های کودکان در این سامانه‌ها، نه تنها منجر به ایجاد برچسب‌های شخصیتی بر روی کودک می‌شود بلکه تصمیم‌سازی‌های این نوع سامانه‌ها ممکن است کودک را به مسیری سوق دهد که مطلوب پرورش و تربیت او نباشد.

ارتقاء دانش و سواد هوش مصنوعی به منظور تربیت نیروی انسانی متخصص و ماهر

تربیت نیروی انسانی توانمند و متخصص در عرصه هوش مصنوعی برای دستیابی به جایگاه شایسته بسیار مهم است. از اینرو تدوین سرفصل‌ها و محتوای آموزش هوش مصنوعی با تمرکز بر نسل آتی هوش مصنوعی بر پایه محاسبات کوانتومی و دانش مغز، فراهم آوردن امکانات استفاده از ابزار‌های هوشمند و به‌روز برای دانش‌آموزان و دانشجویان مقاطع مختلف تحصیلی و حمایت از اجرای طرح‌ها و پروژه‌های میان رشته‌ای برای استفاده بهینه از ظرفیت‌های هوش مصنوعی در سایر حوزه‌ها باید توسط وزارتخانه‌های مرتبط مد نظر قرار گیرد. به منظور ظرفیت‌سازی و تجدید ساختار نیروی کار، برگزاری دوره‌های آموزشی مهارت محور و توانمندساز هوش مصنوعی در راستای تربیت متخصصان، نیروی کار دانشی و نیروی کار ماهر اجتناب‌ناپذیر است.

سرمایه‌گذاری در تحقیق و توسعه

برای تقویت نوآوری و ایجاد یک زیست‌بوم پایدار و منسجمِ هوش مصنوعی، سرمایه‌گذاری در تحقیق و توسعه اولویت دارد. همچنین با یک نگاه عدالت‌محور باید از خروجی تحقیقات هوش مصنوعی برای حل چالش‌های اجتماعی، شفافیت، توسعه پایدار و تقویت بنیه دفاعی کشور استفاده شود. ایجاد و تقویت زیرساخت‌های تحقیقاتی توسعه این فناوری در دانشگاه‌ها و مؤسسات پژوهشی و شرکت‌های دانش‌بنیان، تأمین مالی برای نوآوری و ارائه محصولات و خدمات مبتنی بر هوش مصنوعی از طریق سرمایه‌گذاری خطرپذیر، تقویت شبکه توسعه‌دهندگان هوش مصنوعی و ضمانت ریسک شرکت‌های فعال از دیگر سیاست‌های پیشنهادی است.

فراهم نمودن زیرساخت‌های قانونی و حقوقی

ایجاد چارچوب‌های قانونی و دستورالعمل‌های اخلاقی شفاف برای توسعه و استقرار سامانه‌های هوش مصنوعی مسئول ضروری است. این امر تداوم عملکرد شرکت‌های مرتبط با هوش مصنوعی در صورت بروز خطا‌های غیر عمدی را ضمانت می‌کند و چارچوب‌های توسعه هوشمندانه و پایدار را فراهم می‌سازد. علاوه بر این، وضع مقرراتی که جمع‌آوری، ذخیره‌سازی، اشتراک‌گذاری و استفاده از داده‌ها در سامانه‌های هوش مصنوعی را تنظیم کرده و حقوق مالکیت داده، محصول و خدمت ارائه شده از هوش مصنوعی را تعیین تکلیف کند ضروری است. در همین راستا شفافیت، رضایت آگاهانه و نیز سازوکار‌های اعمال کنترل افراد بر داده‌های خود باید در اولویت قرار گیرد.

فراهم نمودن زیرساخت‌های فنی

هوش مصنوعی بر پایه یادگیری از مجموعه بزرگ و انبوه داده‌ها استوار است؛ لذا تولید، دسترسی، اشتراک و مبادله داده‌ها در توسعه این فناوری موضوعی کلیدی است. توسعه زیرساخت‌های شبکه ملی اطلاعات، تولید الگوریتم‌ها و نرم‌افزار‌های کاربردی و همچنین سخت‌افزار‌های توانمند در کاهش زمان یادگیری و پردازش داده‌ها از الزمات توسعه هوش مصنوعی در کشور است.

فراهم نمودن زیرساخت‌های پایدار اجتماعی و اخلاقی

با وجودی که استفاده از هوش مصنوعی به عنوان ابزاری برای بقاء، بالندگی و شکوفایی اجتناب‌ناپذیر است؛ اما زیرساخت‌های پایدار اجتماعی، اخلاقی و حقوقی برای استفاده از آن باید در سطح جامعه فراهم شود؛ زیرا دسترسی نابرابر به مزایای هوش مصنوعی می‌تواند به تشدید نابرابری‌ها منجر شود.

انتخاب متولی اصلی تنظیم‌گری هوش مصنوعی به منظور ایجاد یک رویکرد همگرا و هماهنگ

ایجاد هماهنگی میان دستگاه‌های متولی، تسریع همکاری‌ها و تضمین استفاده مسئولانه و اخلاقی از هوش مصنوعی، یک نهاد هماهنگ‌ساز و تنظیم‌گر فرابخشی را می‌طلبد. در حال حاضر نهاد‌های مختلفی در کشور مشغول به فعالیت در زمینه توسعه و سیاستگذاری هوش مصنوعی هستند؛ اما هنوز جمع‌بندی مشخصی مبنی بر توافق بر یک نهاد به عنوان متولی اصلی حاصل نشده است. تعیین اصول کلی توسعه هوش مصنوعی در کشور و ملزومات به‌کارگیری آن، تدوین برنامه تقسیم کار ملی و سازوکار تعامل کلیه کنشگران؛ ارائه چارچوب‌های ارزیابی و اخذ مجوز سامانه‌های هوش مصنوعی، ارزیابی مخاطرات محصولات نوظهور هوش‌مصنوعی و سیاست‌ها و مقررات مواجهه با آن، ارزیابی اثرات اجتماعی- اقتصادی، امنیتی و اخلاقی استفاده از هوش مصنوعی و انتشار گزارش‌های دوره‌ای عمومی و ویژه نهاد‌های نظارتی، پیشنهاد قوانین و مقررات مورد نیاز در صورت ضرورت و همچنین حضور در مجامع بین‌المللی به عنوان مرجع ملی هوش مصنوعی از جمله وظایف اصلی این نهاد است.

در پایان بار دیگر تأکید می‌شود نحوه حکمرانی و تنظیم‌گری هوش مصنوعی، تأثیر بسیار مهم و راهبردی در شکل دادن به آینده ایران از دریچه چشم این فناوری خواهد داشت. از این رو باید با اتخاذ یک رویکرد جامع و آینده‌نگر، از ظرفیت‌های هوش مصنوعی برای هدایت رشد اقتصادی، ارتقاء عدالت اجتماعی، بهبود حکمرانی و افزایش رفاه شهروندان استفاده شود. توصیه‌های سیاستی ذکر شده، با هدف ترویج توسعه و استفاده از هوش مصنوعیِ مسئول، قابل اعتماد و پایدار ارائه شده است. ارزیابی و به‌روزرسانی مداوم سیاست‌های حکمرانی هوش مصنوعی برای همگام شدن با پیشرفت‌های این فناوری و رسیدگی به چالش‌های نوظهور، ضروری است. امید است از طریق تلاش‌های مشترک و تصمیم‌گیری‌های فراگیر، ایران در زمره کشور‌های پیشرو در توسعه و استفاده موفق از هوش مصنوعی قرار گیرد.