در این پرونده به دنبال بررسی انواع کارکرد‌های هوش مصنوعی در سیاست هستیم و براساس این کارکرد‌ها می‌خواهیم تقسیم‌بندی متناسبی از هوش مصنوعی ارائه دهیم. این بررسی، بر نقش «چرخه» که اغلب در ارتباط با تعامل انسان و ماشین و مجموعه‌ای از انسان‌ها و ماشین‌ها در فرآیند‌های تصمیم‌گیری مطرح می‌شود، تأکید می‌شود.
به گزارش گرداب، بررسی‌های زیادی درباره انواع هوش مصنوعی در سیاست مطرح شده است. کاتزن‌باخ و اولبریکت انواع حاکمیت الگوریتمی را بررسی کردند؛ در این بررسی، ابعاد شفافیت (T) و سطح اتوماسیون (A) منجر به پیدایش چهار نوع سیستم هوش مصنوعی شد: سیستم‌های استقلال‌طلب (T بالا، A پایین)، سیستم‌های مبتنی بر اعتماد (T پایین، A پایین)، سیستم‌های مجاز (T بالا، A بالا) و سیستم‌های خارج از کنترل (T پایین، A بالا). اقدام دیگر توسط سادوفسکی و سلینگر به انجام رسید. طبقه‌بندی آن‌ها به فن‌سالاری مربوط است، ولی در واقعیت، به کارکرد‌های هوش مصنوعی که کم‌تر فراگیر هستند نیز اطلاق می‌شود.
طبقه‌بندی آن‌ها حوزه‌های مختلف به‌کارگیری هوش مصنوعی را شرح می‌دهد و در این فصل، صرفاً جزئیاتی از حوزه‌ی سیاست ارائه شده است. آن‌ها سه روش احتمالی برای تأثیرگذاری هوش مصنوعی مطرح می‌کنند: الزامات، تلنگرها، میانجیگری فناورانه (بین انسان و ماشین). بسیاری از کارکرد‌های هوش مصنوعی که در این‌جا مطرح شده، شامل نوعی میانجیگری فناورانه است، ولی تلنگرها نیز به انواع هوش مصنوعی مربوط هستند؛ این در حالیست که الزامات صرفاً به سیستم‌هایی مرتبط هستند که در آن‌ها هوش مصنوعی به جای انسان تصمیم‌گیری می‌کند.
۱_پشتیبانی از تصمیم‌گیری مردم‌سالارانه
هدف اولین نوع از کارکرد‌های هوش مصنوعی این است که از تصمیم‌گیری‌هایی که توسط انسان انجام می‌شود پشتیبانی کند یا آن‌ها را افزایش دهد. بارزترین شکل پشتیبانی هوش مصنوعی در تصمیم‌گیری، استفاده از سیستم‌های هوش مصنوعی برای آنالیز است که اغلب با عنوان داده‌های عظیم تحلیلی به آن اشاره می‌شود. در اکثر بخش‌ها و حوزه‌های کسب‌وکار، برای ایجاد نگرش‌هایی جدید از داده‌های عظیم، داده کاوی و یادگیری ماشین استفاده می‌شود (Dean, ۲۰۱۴). در همین راستا، می‌توان از هوش مصنوعی در جهت ارتقای تجزیه‌وتحلیل، بهینه‌سازی، دسته‌بندی و پیش‌بینی‌ها در حوزه‌ی سیاست بهره برد.
سیاست اقتصادی از تحلیل‌های برتر درمورد الگو‌های مختلف درآمد، سرمایه‌گذاری و ایجاد سود، بهره‌مند می‌شود و سامانه‌هایی که توانایی پیش‌بینی و نظارت بر تأثیرات انواع سیاست‌های مالیاتی را دارند، می‌توانند این سیاست‌ها را ارتقاء دهند. هنگام تعیین عوارض جاده‌ای، مالیات محصولات مختلف، مزایای اجتماعی حاصل از ممنوعیت محصولات ناسالم و غیره، هوش مصنوعی می‌تواند اساس فرآیند تصمیم‌گیری باشد و در نتیجه تصمیمات را ارتقاء دهد.
شکل ١ مجموعه‌ی چرخه‌هایی برای سامانه‌های پشتیبانی هوش مصنوعی.
این سامانه‌های هوش مصنوعی از تصمیم‌گیرندگان انسانی حمایت می‌کنند. با توجه به اصطلاح تخصصی human in/on/out of-the-loop که اغلب از آن استفاده می‌شود، این پشتیبانی ما را ملزم نمی‌کند که بودن ماشین را در این چرخه مدنظر قرار دهیم. تصمیم‌گیرندگان انسانی کاملاً تحت کنترل هستند و تحلیل‌ها و پیش‌بینی‌های هوش مصنوعی صرفاً برخی از مشارکت‌های احتمالی به شمار می‌آیند. مشکلات اصلی مربوط به کارکرد‌های هوش مصنوعی ناشی از عدم شفافیت، مشکلات مربوط به تعیین مسئولیت، جایگزینی تخصص انسانی و متعاقباً محدودیت عامل انسانی و مشارکت در تصمیمات سیاسی است که منجر به نتایجی جانبدارانه و تبعیض‌آمیز می‌شود. این مشکلات در بخش ٤ مطرح شده است.
جدول ١ بررسی انواع سامانه‌های هوش مصنوعی در زمینه‌های سیاسی.
٢_ دستیار انسان‌ها
علاوه بر تحلیل محض و آماده‌سازی اسنادی که ممکن است در فرآیند‌های تصمیم‌گیری توسط انسان مدنظر قرار داده شوند، سامانه‌های هوش مصنوعی بیش از پیش در فرآیند‌ها و سیستم‌های تصمیم‌گیری حقیقی به کار گرفته می‌شوند.
هدف چنین سیستم‌هایی این است که علاوه بر ارتقای مبنای تصمیم‌گیری‌ها، به بهبود و ارتقای فرآیند‌های تصمیم‌گیری نیز کمک کنند. این کارکرد هوش مصنوعی که فراگیری بیشتری دارد، ماشین را وارد این چرخه می‌کند و ماشین‌ها در مراحل مختلف فرآیند‌های تصمیم‌گیری مشارکت می‌کنند. به جای اینکه صرفاً اطلاعاتی برای تصمیم‌گیرندگان فراهم شود هوش مصنوعی کمکی، با فراهم کردن امکان تعامل ماشین‌ها با فرآیند تصمیم‌گیری، ماشین را نیز در این چرخه می‌گنجاند.
به‌عنوان مثال، ممکن است خدمات اجتماعی یک کشور از سامانه‌ی یادگیری ماشین برای بررسی متقاضیان مزایا استفاده کند. پیرو آموزش‌های این الگو، این سامانه می‌تواند متقاضیان را بر اساس خدمات مورد نیاز پیش‌بینی‌شده، در گروه‌های مختلف قرار دهد. حتی ممکن است ماشین در تصمیم‌گیری مأموران دولتی درمورد تشخیص اینکه متقاضی از مزایای مورد نظر بهره ببرد یا خیر، کمک کننده باشد. این کارکرد‌ها اکنون متداول هستند و اداره‌ی کار و رفاه نروژ سامانه‌هایی مشابه به مواردی که در این‌جا شرح داده شده را به کار گرفته است.
از این کارکرد‌ها معمولاً با عنوان انسان-در-چرخه (Human-in-the-loop) نام برده می‌شود، زیرا تصمیم‌گیرندگان انسانی جزء لاینفک این فرآیند هستند و حضور آن‌ها در فرآیند تصمیم‌گیری ضروری است. چالش‌های اخلاقی ناشی از سامانه‌های پشتیبانی نیز در این‌جا نیز ارائه شده‌اند، ولی چالش شفافیت و جایگزینی تخصص انسانی در این‌جا تشدید شده، زیرا ممکن است انسان‌ها صرفاً دنباله‌رو باشند؛ مسئله‌ای که باعث می‌شود آن‌ها دانش و درکی از تصمیم‌گیری‌ها نداشته باشند.
شکل ٢ مجموعه‌ی چرخه‌هایی برای سامانه‌های دستیاری هوش مصنوعی.
۳_ کاهش نیروی کار انسانی
با وجود اینکه ممکن است هوش مصنوعی صرفاٌ برای تحلیل و ارائه‌ی سیاست‌گذاری به کار گرفته شود، ولی به‌کارگیری آن‌ها در شیوه‌های دیگر ممکن است باعث ماشینی شدن فرآیند‌های تصمیم‌گیری شود.
اگر بخواهیم همچنان از مزایای اجتماعی مثال بزنیم، سامانه‌ی هوش مصنوعی که درخواست‌ها را بررسی کرده و خود به تنهایی در این مورد تصمیم‌گیری می‌کند نمی‌تواند نوعی کمک به تصمیم‌گیرندگان انسانی در نظر گرفته شود. این سامانه در واقع مسئولیت‌های آن‌ها درمورد تصمیم‌گیری را کاهش می‌دهد. چنین سامانه‌هایی اصولاً برای تصمیم‌گیری‌هایی مربوط به تعیین وثیقه در پرونده‌های کیفری، جریمه‌های مربوط به نقض قوانین راهنمایی و رانندگی، مزایای اجتماعی دریافتی و ... کاربرد دارند.
همچنین سامانه‌های هوش مصنوعی باعث شده‌اند سیستم‌های اتومات حال حاضر، از جمله چراغ‌های راهنما، بازدهی و کارآیی بیشتری داشته باشند. در برخی از شهر‌ها و مناطق نروژ، سرعت مجاز در رانندگی بسته به جمعیت، تراکم و ... تعیین می‌شود و سامانه‌های هوش مصنوعی برای اتوماتیک کردن چنین سامانه‌هایی کاربرد دارند.
سامانه‌های کاهشی با سامانه‌های دستیاری که در آن‌ها هوش مصنوعی بدون تأیید یا نظارت انسانی تصمیم‌گیری می‌کند، تفاوت دارند.
شکل ٣ مجموعه‌ی چرخه‌هایی برای سامانه‌های کاهش هوش مصنوعی
با این حال، چنین سامانه‌هایی (human-on¬-the-loop) در نظر گرفته می‌شوند، زیرا تصمیم‌گیرندگان انسانی هنوز مسئولیت نظارت بر سامانه و تصمیماتی که توسط هوش مصنوعی گرفته می‌شود را به‌عهده دارند. این سامانه‌ها به عبارتی از جانب انسان‌ها عمل می‌کنند و در نتیجه انسان‌ها هنوز بخشی از این چرخه به شمار می‌آیند؛ حتی با اینکه انسان در فرآیند تصمیم‌گیری دیگر عاملی ضروری نیست.
در مقایسه با سامانه‌های دستیاری، چالش‌های اخلاقی در این‌جا تشدید شده است. خطرات فزاینده‌ی مربوط به جهت‌گیری‌ها و تبعیض‌ها نشئت‌گرفته از سامانه‌های هوش مصنوعی، دچار ابهامات بیشتری می‌شود، زیرا تصمیم‌گیرندگان انسانی در عمل با فرآیند تصمیم‌گیری فاصله دارند. علاوه‌برآن، در حال حاضر سامانه‌های هوش مصنوعی کارکرد‌هایی سیاسی دارند؛ تا جایی که مسائل اتوماسیون که منجر به از دست رفتن مشاغل و ... می‌شود، تا حد زیادی موضوعیت پیدا می‌کنند.
۴_افزایش تصمیم‌گیرندگان انسانی
یکی دیگر از کارکرد‌های هوش مصنوعی توسعه و به‌کارگیری سامانه‌ای است که در آن هوش مصنوعی نقش یک مربی یا دستیار کارگزاران سیاسی را ایفاء می‌کند. دیگر انواع هوش مصنوعی به تصمیم‌گیری‌های اداری مرتبط بودند، ولی این نوع افزایشی، هم برای مأموران اداری و هم کارگزاران سیاسی کاربرد دارد؛ شهروندانی که حقوق سیاسی مشخصی دارند. این نوع کارکرد هوش مصنوعی را نمی‌توان با قطعیت توصیف کرد و توسعه‌ی هوش مصنوعی در تصمیم‌گیری‌های سیاسی مستلزم تحقیقات بیشتری است.
با استفاده از یادگیری تحلیلی و هوش مصنوعی، سامانه‌های آموزشی هوشمند (ITS) در وظایفی مربوط به رأی‌گیری یا دیگر تصمیمات سیاسی، به کمک کارگزاران سیاسی می‌آیند (Erümit & Ҫetin, ۲۰۲۰). سامانه‌های آموزشی هوشمند به‌عنوان ابزاری پاسخگو ساخته شده‌اند که از قابلیت‌های یک فراگیر آگاهی پیدا می‌کند و سپس مواد آموزشی و روش تدریس مناسب را برای موقعیت‌های مختلف انتخاب می‌کند. چنین سامانه‌هایی توانایی خود را در آموزش اثبات کرده‌اند و احتمالاً به‌عنوان مجموعه‌ای از داده‌ها و تقویت هوش مصنوعی رو به پیشرفت هستند.
تفاوت اصلی میان این نوع و انواع دیگر این است که سامانه‌ی هوش مصنوعی مستقیماً تصمیم‌گیرنده‌ی انسانی را هدف گرفته است، نه اینکه بخواهد مسئله‌ای را حل کند. در نتیجه هوش مصنوعی به انسان‌ها کمک می‌کند که بهتر تصمیم‌گیری کنند؛ ولی این کار با ارائه‌ی پاسخ صحیح به آن‌ها اتفاق نمی‌افتد، بلکه از طریق بهبود مهارت‌های مورد نیاز و راهنمایی آن‌ها درمورد مواد آموزشی مورد نیاز برای درک مشکلات، به انسان کمک می‌کند؛ بنابراین سیاست‌گذارانی که به سیاست اقتصادی می‌پردازند، از اقتصاددان هوش مصنوعی که ژنگ (Zheng) و همکارانش مطرح کردند، استفاده نمی‌کند. با این حال، ممکن است سامانه‌ی هوش مصنوعی در سامانه‌های آموزشی هوشمند که به تدریس اقتصاد و سیاست مربوط هستند، به کار گرفته شوند.
استفاده از هوش مصنوعی برای افزایش تصمیم‌گیرندگان انسانی این قابلیت را دارد که بدون داشتن عواقبی منفی که پیش از این درمورد انواع دیگر کارکرد‌های دیگر به آن‌ها اشاره شد، تصمیمات سیاسی را ارتقاء دهد. از آن‌جایی که کارکرد هوش مصنوعی این است که به انسان‌ها کمک کند به‌صورت مستقل تصمیم‌گیری بهتری انجام دهند، تصمیمات گرفته‌شده و سیاستی که به کار گرفته می‌شود بر مبنایی خواهد بود که انسان‌ها بتوانند درمورد آن‌ها توضیح دهند و از آن تصمیمات دفاع کنند. اگر از سامانه‌ی هوش مصنوعی استفاده‌ی حداکثری شود، حتی منجر به تصمیم‌گیری‌های بهتری خواهد شد، ولی ممکن است چنین تصمیم‌هایی فرای فهم انسان باشند و در نتیجه منجر به بروز مشکلاتی مربوط به شفافیت شوند. در نتیجه هوش مصنوعی افزایشی، میان ارتقای تصمیم‌گیری‌ها، حفظ شفافیت و کنترل هدفدار تصمیمات توسط انسان، توازنی را برقرار می‌کند.
شکل ٤ مجموعه‌ی چرخه‌هایی برای سامانه‌های افزایشی هوش مصنوعی
چنین سامانه‌هایی برمبنای این طرز فکر هستند که ممکن است سامانه‌ی هوش مصنوعی درمورد فراگیر آگاهی پیدا کند و نیاز‌های او را بشناسد و پیش‌بینی کند. این ممکن است شامل توسعه‌ی چیزی مشابه به «همسان‌های فکری» باشد فراگیر را الگو قرار می‌دهد و این امکان را در اختیار سامانه‌ی هوش مصنوعی قرار می‌دهد تا اثرات انواع مختلف رویکرد‌های آموزشی و ... را بررسی کند. ممکن است چنین سامانه‌هایی بر مبنای ایجاد سامانه‌های شبیه‌سازی برای بهبود یادگیری فراگیران از جمله توسعه‌ی «نسخه‌ی شبیه‌ساز دیجیتال» باشند (Datta, ۲۰۱۷). این اصطلاح برای توصیف بازنمایی دیجیتال سامانه‌های فیزیکی ابداع شد، ولی اکنون برای توصیف بازنمایی‌های دیجیتال افراد و اشیای زنده نیز کاربرد دارد.
۵_ جایگزین تصمیم‌گیری دموکراتیک
در نهایت، هوش مصنوعی کارکرد‌هایی دارد که در آن انسان‌ها از این چرخه خارج می‌شوند. با وجود اینکه سامانه‌های کاهشی تماماً اتوماتیک شده‌اند، ولی سامانه‌های جایگزینی، انسان را به‌طور کامل از چرخه‌ی تصمیم‌گیری خارج می‌کنند و این قدرت را به سامانه‌های هوش مصنوعی می‌سپارند. با این حال، انسان‌های سیاستمدار همچنان مسئولیت هدف‌گذاری برای سامانه‌ی هوش مصنوعی را به‌عهده خواهند داشت و اصول و مبانی سامانه‌های هوش مصنوعی را تعیین می‌کنند.
با این حال، کارکرد‌های سیاسی و فنی از هم مجزا هستند و در نتیجه با وجود اینکه از لحاظ فنی از سامانه‌های هوش مصنوعی استفاده می‌شود، ولی این انسان‌ها هستند که مسئولیت تصمیمات سیاسی را به‌عهده دارند.
سامانه‌های هوش مصنوعی که به این روش به کار گرفته می‌شوند مانند تکنوکرات‌های می‌نو هستند؛ متخصصانی که از لحاظ فنی آموزش دیده‌اند و «به کمک دانش تخصصی و جایگاهی در مؤسسات سرآمد سیاسی و اقتصادی کنترل اوضاع را به دست می‌گیرند». این با اپیستوکراسی (و مریتوکراسی متفاوت است؛ زیرا تکنوکرات‌ها بر مبنای مهارت‌های علمی و فنی برگزیده شده‌اند، نه به دلیل تخصص‌های سیاسی یا توانایی‌های ذهنی و شناختی (Sætra, ۲۰۲۰b).
با اینکه شومپیتر معتقد بود که حکومت توسط افراد منجر به پیامد‌های سیاسی نامطلوب‌تری می‌شود، راه‌حل او جایگزینی «افراد» با رقبای سیاسی بود که بر سر قدرت با هم رقابت کنند. ممکن است حتی این باور توسعه پیدا کند. «افراد» پیامد‌هایی ناخوشایند به بار می‌آورند و سیاستمداران نیز جزوی از همین افراد هستند. پس اگر افراد به کلی از این معادله حذف شوند، ممکن است به نتایج بهتری دست پیدا کنیم. از آن‌جایی که افراد ممکن است منفعت‌طلب باشند یا حتی دارای رفتار‌هایی خودپسندانه، جانبدارانه، محدودیت‌های شناختی و خطا‌های دیگر باشند، برخی بر این باورند که استفاده از ماشین‌ها باعث تصمیم‌گیری‌های بهتری خواهد شد.
دلیل اصلی بهره‌گیری از چنین راه‌حل‌هایی این است که به نوعی اصلاح رویکرد در سیاست دست پیدا کنیم. درست همان‌طور که حالا رایانه‌ها از انسان پیشی گرفته‌اند و حضور انسان در بازی‌هایی مانند شطرنج بی‌انت‌ها وارد شدن به کیفیت بازی آسیب می‌زند، ممکن است همین مسئله در حوزه‌ی سیاسی نیز مصداق داشته باشد. یکی از نمونه‌های بارز استفاده از چنین سامانه‌هایی در مواقعی است که سیاست دموکراتیک نمی‌تواند راه‌حل‌های خوبی ارائه دهد. مقابله با تغییرات جوی ممکن است یکی از این موارد باشد، زیرا رویکرد استراتژیک و بلند مدت هوش مصنوعی که به خوبی برنامه‌ریزی شده، بر ماهیت سیاسی کوتاه مدت انسان غالب می‌شود (Sætra, ۲۰۲۰b). مسائل دیگر شامل مواردی از جمله سامانه‌های برنامه‌ریزی جاده‌ای و دیگر زیرساخت‌ها باشد، زیرا این‌ها مسائلی هستند که در حوزه‌های سیاسی مختلف تحت تأثیر سهامداران مختلف قرار می‌گیرند؛ مسئله‌ای که منجر به بروز مشکلاتی در دستیابی به تصمیماتی «مطلوب» از دیدگاهی اجتماعی خواهد شد.
با وجود اینکه چنین سامانه‌هایی دور از ذهن به نظر می‌رسند، ولی ما برای این کارکرد‌های هوش مصنوعی در زمینه‌های مختلف استدلال‌های قابل قبولی داریم. با اینکه ممکن است کارکرد‌های کنونی نسبتاً ناچیز به نظر برسند، ولی نمونه‌های مختلفی از احتمال اتوماتیک شدن همه چیز، از سیاست مالیاتی گرفته تا حمل‌ونقل و مسائل مربوط به پخش و توزیع، ارائه شده است.
شکل ٥ مجموعه‌ی چرخه‌هایی برای سامانه‌های جایگزینی هوش مصنوعی
خارج کردن انسان از این چرخه مستلزم تأکید و تمرکز بر تمام چالش‌های اخلاقی احتمالی پیرامون استفاده از هوش مصنوعی در سیاست است. علی‌الخصوص مفهوم دقیق دموکراسی، مشارکت و خود مختاری در این‌جا به مشکل می‌خورند، زیرا انسان‌ها از چرخه‌ی تصمیم‌گیری سیاسی خارج می‌شوند. علیرغم اینکه ممکن است فرآیند‌های دموکراتیک آشفته باشند و مانع چیزی شوند که متخصصان آن را مطلوب می‌دانند، ولی شاید این آشفتگی بهترین راه حل برای جوامعی باشد که برای دموکراسی ارزش قائل‌اند. علاوه‌برآن، برخی بر این باورند که چیزی به‌عنوان پرسش‌هایی صرفاً فنی وجود ندارد و همه‌ی تصمیمات و فرآیند‌های سیاسی در واقعیت پرسش‌هایی هستند که جامعه برای نظارت عمومی به دنبال آن است، نه برای بهینه‌سازی یا اثرگذاری. بعلاوه، مسائل مربوط به سامانه‌های افزونگی، شفافیت، مسئولیت‌پذیری و مشروعیت تا حد زیادی به چنین سامانه‌هایی مرتبط هستند.
____________________________
فهرست منابع:
Erümit, A. K. , & Çetin, İ. (۲۰۲۰). Design framework of adaptive intelligent tutoring systems. Education and Information Technologies, ۱–۲۴.
Ma, M. (۲۰۲۰). The Law's new language? Harvard International Law Journal Frontiers, ۶۱. Retrieved from https://harvardilj.org/۲۰۲۰/۰۴/the-laws-new-language/
Næss, A. (۱۹۸۹). Ecology, community and lifestyle: Outline of an ecosophy. Cambridge university press.
Sætra, H. S. (۲۰۲۰b). A shallow defence of a technocracy of artificial intelligence: Examining the political harms of algorithmic governance in the domain of government. Technology in Society, ۱۰۱۲۸۳.
Zheng, S. , Trott, A. , Srinivasa, S. , Naik, N. , Gruesbeck, M. , Parkes, D. C. , & Socher, R. (۲۰۲۰). The ai economist: Improving equality and productivity with ai-driven tax policies.
Ringnes, I. F. (۲۰۱۹, March ۱۸th). Kunstig intelligens kan hjelpe NAV med å gi bedre tjenester. Mennesker og muligheter.
Sadowski, J. , & Selinger, E. (۲۰۱۴). Creating a taxonomic tool for technocracy and applying it to Silicon Valley. Technology in Society, ۳۸, ۱۶۱–۱۶۸.
Schumpeter, J. A. (۲۰۱۳). Capitalism, socialism and democracy. Routledge
Datta, S. (۲۰۱۷). Emergence of digital twins. Journal of Innovation Management, ۵, ۱۴–۳۴. de Sousa, W. G. , de Melo, E. R. P. , Bermejo, P. H. D. S. , Farias, R. A. S. , & Gomes, A. O. (۲۰۱۹). How and where is artificial intelligence in the public sector going? A literature review and research agenda. Government Information Quarterly, ۳۶ (۴) , ۱۰۱۳۹۲.
Veale, M. , & Brass, I. (۲۰۱۹). Administration by algorithm? Public management meets public sector machine learning. In K. Yeung & M. Lodge (Eds.) , Algorithmic regulation (pp. ۱۲۱–۱۴۹). Oxford University Press.
Katzenbach, C. , & Ulbricht, L. (۲۰۱۹). Algorithmic governance. Internet Policy Review, ۸ (۴) , ۱–۱۸. Kurzweil, R. (۲۰۱۵). Superintelligence and Singularity. In S. Schneider (Ed.) , Science fiction and philosophy: From time travel to superintelligence (pp. ۱۴۶–۱۷۰). Wiley-Blackwell.
