با ورود جدیدترین دستاورد فناوری، دنیای سایبری چیز‌هایی زیادی برای به دست آوردن و از دست دادن دارد.
"پایگاه رسانه‌ای گرداب جهت اطلاع و افزایش دانش و سواد فضای مجازی مخاطبان خود و به ویژه دانشجویان، پژوهشگران و تصمیم‌گیران، ترجمه‌هایی در این زمینه منتشر می‌کند. بدیهی است انتشار این مطالب، لزوما به معنای تایید محتوای آن نیست. "
به گزارش گرداب، پلتفرم چت‌جی‌پی‌تی (ChatGPT) شرکت اپن‌اِی‌آی (OpenAI) اکنون توسط میلیون‌ها نفر در سراسر جهان، چه برای پاسخ به سؤالات اساسی و چه برای کمک به تولید متن طولانی مورد استفاده است. در حال حاضر ارزش آن ۲۹ میلیارد دلار بوده و ماهانه بیش از ۶۰۰ میلیون بازدیدکننده از سایت دریافت می‌کند. اما نکته‌ی قابل توجه اینجاست که همواره داشتن قدرت زیاد مسئولیت بزرگی هم به همراه دارد.
مانند تمام پیشرفتهای اخیر در فناوری که شاهد تعامل بسیار زیادی هستند، ازجمله رسانه‌های اجتماعی یا متاورس (Metaverse)، در نظر گرفتن پیامد‌های بالقوه‌ی استفاده از آن از منظر امنیت سایبری حائز اهمیت بوده و تامل‌برانگیز است. همین امر در مورد هوش مصنوعی بسیار پیشرفتهای هم‌چون چت‌جی‌پی‌تی نیز صادق است.
حال سوال اینجاست که چگونه می‌توان از آن سوء‌استفاده کرد؟ یا اینکه چگونه مردم می‌توانند آن را در جهت استثمار دیگران مورد استفاده قرار دهند؟ اما ابتدا، باید به این پرسش پرداخت که چگونه می‌توان چت‌جی‌پی‌تی را به عنوان یک نیروی خوب در امنیت سایبری نیز مورد استفاده قرار داد؟
مزایا: بستری است برای یادگیری
امنیت سایبری نه تنها یک صنعت پیچیده است، بلکه صنعتی دائما درحال تحول قلمداد می‌شود. تا زمانی که مدارک دانشگاهی در زمینه‌ی امنیت سایبری تکمیل شود، به نظر می‌رسد کل صنعت تغییر کرده است و این کمک بزرگی به مشکل مستمر استخدام می‌باشد. قدرت چت‌جی‌پی‌تی امروزه به این معنی است که علاقمندان به حرفه‌ای در امنیت سایبری، یا فقط کسانی که به دنبال کسب اطلاعات بیشتر در مورد نحوه‌ی محافظت بهتر از سیستم‌های خود هستند، می‌توانند این کار را با کلیک روی یک دکمه انجام دهند.
پتانسیل چت‌جی‌پی‌تی برای یادگیری در آینده چیزی است که واقعاً هیجان‌انگیز به نظر می‌رسد. اگرچه در وضعیت فعلی خود کاملاً دقیق نیست و برای اطلاعات دقیق نباید به آن اعتماد کرد (به همان صورتی که ویکی پدیا به صورت کامل مورد اعتماد نیست)، اما شروعی قوی داشته و روند بهبود را در پیش دارد.
برای متخصصان امنیت سایبری، دو مثال برجسته برای استفاده از آن به عنوان نیرویی در جهت عملکرد مثبت وجود دارد:
- تجزیه و تحلیل کد برای یافتن نقاط ضعفی که منجر به آسیب‌پذیری‌های روز صفر می‌شود
- یافتن دامنه‌های مشابهی که ممکن است گم شوند (این اطلاعات می‌تواند برای کاهش احتمال فیشینگ، مشابه دامنه مورد استفاده قرار گیرد).
معایب: بستری است برای استثمار
با این حال، به همان روشی که چت‌جی‌پی‌تی می‌تواند به عنوان ابزاری برای یادگیری و توسعه توسط افرادی با اهداف مثبت استفاده شود، این پلتفرم همچنین برای عوامل تهدید نیز قابل دسترسی است.
این در حالی است که خود چت‌جی‌پی‌تی نمی‌تواند مستقیماً توسط تهدیدات امنیت سایبری مانند بدافزار، هک یا فیشینگ مورد هدف قرار گیرد، اما می‌توان از آن برای کمک به مجرمان برای نفوذ مؤثرتر به سیستم‌ها سوء‌استفاده کرد. توسعه‌دهندگان این پلتفرم اقداماتی را انجام داده‌اند تا سعی کنند در حد امکان این میزان را کاهش دهند، اما فقط یک مهاجم نیاز دارد تا سؤال خود را به روشی درست بیان کرده تا پاسخ مورد نظر را دریافت کند.
بهترین مثال در اینجا فیشینگ است؛ درخواست از پلتفرم برای ایجاد یک الگوی فیشینگ به طور مستقیم منجر به رد ربات چت می‌شود. با این حال، اگر کسی که قصد بدی دارد سؤال خود را تا این حد به صورت کمّی بازنویسی کند، هوش مصنوعی هیچ مشکلی را تشخیص نخواهد داد.
از معایب بدتر آن می‌توان به آنچه در آینده خواهد داشت اشاره کرد.
بسیاری از هوش مصنوعی به عنوان یک سلاح دیجیتال آماده به کار یاد می‌کنند بدین صورت که مجرمان می‌توانند از آن به هر طریقی که می‌خواهند استفاده کنند. این درحالی است که آگاهی ما در مورد چت‌جی‌پی تی بسیارمحدود است.
در حالی که کارشناسان امنیتی ترکیب کُدِکس (Codex) (هوش مصنوعی دیگری که توسط اپن‌اِی‌آی ایجاد شده است) و چت‌جی‌پی‌تی را آزمایش کرده‌اند، دریافتند که کد حمله تولید شده توسط هوش مصنوعی نه تنها امکان‌پذیر است بلکه در حال حاضر در بخش (dark web) به اشتراک گذاشته شده است. همچنین مشخص شد که محدودیت‌های عمده‌ای وجود دارد که آن را از یک تهدید واقعی برای سیستم‌های امنیتی باز می‌دارد. به عنوان مثال، جدیدترین داده‌هایی که چت‌جی‌پی‌تی را تغذیه می‌کند مربوط به سال ۲۰۲۱ است و بنابراین پلتفرم مذکور اساساً قدیمی است.
می‌توان گفت در ۹۰ درصد از مواقع، متن تولید شده توسط این پلتفرم دارای نقص است؛ به این معنی که کاربران مخرب به پایگاه دانش خود، جهت بررسی محتوا نیاز دارند تا به هر نحوی در برابر سیستم‌های امنیتی مؤثر باشد.
با توجه به تلاش مضاعفی که برای آماده کردن متن مورد استفاده لازم است، بعید به نظر می‌رسد که مجرمان باتجربه از چت‌جی‌پی‌تی به عنوان یک ابزار حمله استفاده کنند، اما برای کسانی که تجربه‌ی کمتری دارند، چت‌جی‌پی‌تی به طور بالقوه می‌تواند اصول اولیه‌ی یک حمله را در اختیار آن‌ها قرار دهد، اما هنوز هیچ چیز به اندازه‌ی کافی پیشرفته نیست که تهدیدی واقعی برای دفاع‌های پیچیده قلمداد گردد.
به صورت کلی می‌توان گفت: مانند همه‌ی پیشرفتهای جدید که به صورت قابل توجهی مورد استفاده قرار می‌گیرند، اخطار امنیتی دررابطه با فناوری ذهن را به خود مشغول می‌سازد. درواقع مزایا و معایب چنین ابزاری باید مورد تجزیه و تحلیل بوده و از منظر امنیتی، به دقت مورد بررسی و آزمایش قرار گیرد. اگرچه ممکن است خطراتی وجود داشته باشد، اما ارزش واقعی این راه حل مبتکرانه روشن است و به عبارت دیگر امکان دارد به دسترسی بیشتر امنیت سایبری برای عموم کمک کند.
این مقاله با عنوان اصلی «The good, the bad and the ugly of ChatGPT» در وب‌سایت SC Media منتشر شده است.
