آیا هوش مصنوعی از کنترل خارج می‌شود؟

آیا هوش مصنوعی از کنترل خارج می‌شود؟
تاریخ انتشار : ۱۹ آبان ۱۳۹۷

«متاسفم، دِیو؛ نمی تونم این کار رو انجام بدم.» مخاطبان دیالوگ بالا را نخستین‌بار در سال ۱۹۶۸ از زبان رایانۀ هوشمند ِ یک فضاپیما در شاهکار علمی – تخیلی«۲۰۰۱: اودیسه فضایی» شنیدند. با این دیالوگ، رایانه «هال ۹۰۰۰» تایید کرد که قابلیت تفکر دارد و می تواند فضانوردانی را در صدد غیر فعال‌سازی آن هستند، از پای در بیاورد.

به گزارش گرداب، حالا پنجاه سال بعد از شاهکار علمی- تخیلی استنلی کوبریک در رابطه با سکونت در فضا، باید این سوال را از خود بپرسیم: «انسان‌ها تا چه اندازه به آینده مورد نظر کوبریک نزدیک هستند؟» آینده‌ای که در آن، انسان‌ها با "هوش مصنوعی” عهد ِ شراکت می بندند و این احتمال وجود دارد که روزی قابلیت کنترل آن را نداشته باشیم!

با توجه به مقاله‌ای که چند روز پیش در مجله «Science Robotics» منتشر شد، پیشرفت‌های مکانیکی حاصل آمده این پیام را می دهد که شاید ما به آینده مورد نظر کوبریک خیلی نزدیک باشیم. «رابین مورفی» نویسنده مقاله و استاد مهندسی و علوم کامپیوتر در دانشگاه تگزاس به خوبی از جزئیات هوش مصنوعی آگاهی دارد؛ او یکی از رهبران پیشگام در توسعه ربات های پاسخگو به فاجعه بود و هم اکنون به عنوان مدیر بخش «آزمایشگاه هوش مصنوعی و رباتیک» دانشگاه تگزاس مشغول به فعالیت می باشد.

تصور کوبریک از رایانه «هال» نشان دهنده نمایی از یک رشته دانشگاهی خیلی جوان بود به نام هوش مصنوعی و رباتیک. مورفی در مقاله خود می نویسد: «لذا سه اصل برای توسعه هوش مصنوعی از اهمیت خاصی برخوردار است: درک زبان طبیعی، تصویرنگری رایانه‌ای و استدلال.» رایانه هال با مشاهده محیط پیرامون، نگاه کردن و تجزیه و تحلیل گفته‌ها، حالات چهره و حرکات فضانوردان در فضاپیما به امر یادگیری پرداخت. این رایانه مسئولیت‌هایِ از قبل تعیین شده‌ای مثل حفظ و نگهداری از فضاپیما را بر عهده داشت، اما بعنوان رایانه‌ای با قابلیت تفکر، توانایی پاسخ به فضانوردان را از طریق برقراری مکالمه نیز داشت.

با این حال، وقتی ماموریت با مشکل روبرو می شود و فضانوردان تصمیم به غیرفعال‌سازی رایانه هال می گیرند، هوش مصنوعی از طریق لبخوانی به نقشه آنان پی می برد. هال به نتیجه‌گیری تازه‌ای رسید که بخشی از برنامه‌نویسی اصلی آن نبود؛ رایانه هال تصمیم گرفت با کشتن سیستماتیک ساکنان فضاپیما جان خودش را نجات بدهد. این تصور که می گوید هوش مصنوعی می تواند صدمات بیشتری را به انسانها وارد آورد، به جای اینکه منافعی به ارمغان بیاورد، چندان دور از دسترس نیست. کارشناسان اعلام داشته‌اند که هوش مصنوعی مجهز به سلاح می تواند نقش چشمگیری در کشمکش‌ها و جنگ‌های جهانی آینده داشته باشد. همچنین، استیون هاوکینگ فقید اعلام کرده بود که بزودی هوش مصنوعی به بزرگترین تهدید برای بقای انسان تبدیل خواهد شد.

هاوکینگ در سال ۲۰۱۴ در مصاحبه با تلویزیون بی بی سی گفت: «توسعه هوش مصنوعی می تواند به معنای پایان نژاد انسان باشد.» در یکی از سکانس‌های فیلم اودیسه فضایی، هال «دیوید بومن» را از فضاپیما به بیرون از فضاپیما پرت می کند و در دیالوگی می گوید: «این مکالمه دیگه هیچ معنا و مفهومی نداره.» وابستگی زیاد انسان به رایانه برای انجام طیف گسترده‌ای از کارها نشان می دهد که هوش مصنوعی در خانه‌ها و زندگی‌های ما نفوذ کرده است.

پایان عصر انسان‌ها؛ یک خدای هوش مصنوعی ظهور خواهد کرد تا بر انسان‌ها حکمرانی کند

«الیزر یودکوفسکی» محقق در موسسه تحقیقات هوش ماشینی می گوید: «هوش مصنوعی نه از انسان‌ها متنفر است، نه آنها را دوست دارد؛ انسان‌ها از اتم ساخته شده‌اند و هوش مصنوعی می تواند از اتم برای اهداف دیگری استفاده کند.» کارشناسان در بحث پیرامون آینده هوش مصنوعی به تازگی اعلام کرده اند که در ۵۰ یا ۱۰۰ سال آینده، هوش مصنوعی بیشتر از کل جمعیت جهان در مغزش اطلاعات خواهد داشت. در آن شرایط، هر وسیله‌ای در این سیاره را کنترل خواهد کرد؛ به جایگاه حکومت بر نژاد انسان‌ها نائل آمده و قدرتش را به رخ می کشد. در صورتی که ماشین‌ها به هوشی فراتر از هوش انسان دست پیدا کنند، چه اتفاقی خواهد افتاد؟ آیا این عوامل مصنوعی سعی در نابودی ما خواهند داشت یا انسان را نجات خواهند داد؟

«نیک بوستروم» زمینه را برای درک آینده بشر و موجودات هوشمند فراهم می کند. مغز انسان از یک سری قابلیت‌ها بهره می برد که سایر حیوانات از آن محروم اند. به پاسِ همین قابلیت‌های متمایز است که گونه‌های ما به چنین جایگاه رفیعی در میان سایر موجودات دسترسی دارد. اگر مغزهای ماشینی به لحاظ هوش از انسانها جلو بزنند، باید انتظار داشت که آنها به موجودات اَبَر هوشمند قدرتمندی تبدیل شوند؛ به طوری که کنترل قدرت آنها برای انسان‌ها مقدور نباشد. همچنانکه در حال حاضر سرنوشت گوریل‌ها بیشتر به انسان‌ها بستگی دارد تا به خود آن گونه‌ها، سرنوشت انسان‌ها نیز به کارهای اَبَرهوش‌های ماشینی بستگی دارد.

اما ما از یک مزیت برخورداریم: حرکت اول با ماست. آیا این امر ممکن خواهد بود یک هوش مصنوعی برای مهندسی شرایط اولیه بسازیم تا امکان بقا در برابر توسعه عظیم هوش به وجود آید؟ بوستروم گفت: «هوش مصنوعی به طور فزاینده‌ای در حال هوشمندتر شدن است. تحقیقات نشان می دهد که در طول قرن حاضر، هوش مصنوعی رایانه می تواند هوشی برابر با هوش انسان داشته باشد. و سپس گوی سبقت را از انسان خواهد ربود. هوش ماشینی باید آخرین اختراعی باشد که انسان‌ها ساختن آن را در دستور کارشان قرار می دهند. من بعنوان فیلسوف و متخصص فناوری از شما می خواهم تا در خصوص جهانی که الان می سازیم، قدری بیشتر تامل کنید. باید جانب احتیاط را در توسعه ماشین‌های هوشمند و متفکر رعایت کرد.» آیا ماشین‌های هوشمند در حفظ بشر و ارزش‌های ما نقش مثبتی ایفا خواهند کرد یا ارزش‌های خود را در اولویت قرار خواهند داد؟

bdd«مکس تگمارک» کیهان شناس و فیزیکدان MIT نیز تاکید می کند که مسئله واقعی مربوط به پیامدهای غیرقابل پیش‌بینی توسعه هوش مصنوعی توانمند است. هوش مصنوعی برای وارد کردن آسیب‌های جبران ناپذیر نیازی ندارد شرور باشد و در قالب یک ربات ظاهر شود. آقای تگمارک خاطر نشان کرد: «خطر جدی که هوش مصنوعی در پی دارد، به کارهای شرورانه آنها نَه، بلکه به توانمندی بالای آنها مربوط می شود. هوش مصنوعی اَبَرهوشمند عملکرد بسیار خوبی در حصول اهداف خویش خواهد داشت؛ اگر اهداف آنها همراستا با اهداف ما نباشد، ما انسان‌ها با مشکل جدی روبرو خواهیم شد.»

«ایلان ماسک» بنیانگذار اسپیس ایکس و تسلا، بر این باور است که ما با سازه‌های ابرهوشمند هوش مصنوعی روبرو خواهیم شد که می توانند پایان گونه‌های انسان را رقم بزنند. «سوزان اشنایدر» از موسسه مطالعات پیشرفته در پرینستون و دانشگاه کانتیکات یکی از معدود اندیشمندانی است که نوع برتری از هوش مصنوعی در جایی از جهان وجود دارد و قدمت آن به قرون متمادی می رسد. خانم اشنایدر بیان می کند: «فکر نمی کنم اکثر تمدن‌های بیگانه پیشرفته از ماهیت زیستی برخوردار باشند. پیشرفته‌ترین تمدن‌ها اَشکال پسازیستی هوش مصنوعی یا اَبرهوش بیگانه خواهند بود.»



منبع: بیگ بنگ