تلاش کارشناسان برای توسعه سازوکارهای دفاعی در مقابل هوش مصنوعی
باشگاه خبرنگاران جوان؛ جواد فراهانی- کارشناسان آمریکاییِ متخصص در توسعه هوش مصنوعی، با بهرهگیری از ابزارهای دیگرِ هوش مصنوعی، مشغول ایجاد تدابیر حفاظتی اضطراری در برابر الگوریتمهای خارج از کنترل هستند.
اکسیوس گزارش داده است که نگرانیهای امنیتی پیرامون توسعه هوش مصنوعی، پس از آنکه «جیکوب استاینهارت» (Jacob Steinhardt) — پژوهشگر شرکت «آنتروپیک» (Anthropic) — اوایل این هفته تصمیم خود را برای ترک حوزه توسعه الگوریتم اعلام کرد، دوباره بالا گرفته است.
وی دلیل این اقدام خود را اینگونه بیان کرد که رقابت میان شرکتهای فناوری، جهان را به «نقطه بیبازگشت» نزدیک میکند؛ وضعیتی که میتواند تا پایان سال ۲۰۲۷ به سناریویی فاجعهبار منجر شود.
به گفته استاینهارت، شرکتهایی مانند آنتروپیک و «اوپنایآی» (OpenAI) در رقابتی برای توسعه یک «ابر هوش» (super-intelligence) هستند؛ هوشی که قادر است با سرعتی فراتر از توانایی ما در رفع مسائل ایمنیِ مرتبط با این فناوریها، خود را ارتقا دهد.
«اِوان هوبینگر» (Evan Hubinger)، دیگر پژوهشگر آنتروپیک، نیز با تأیید این دیدگاه اظهار داشت: «من شخصاً معتقدم که احتمال بیش از ۱۰ درصد برای انقراض نسل بشر در دهه آینده وجود دارد.»
اکسیوس افزود: «شرکتها میتوانند برخی از سرورهایی را که هوش مصنوعی به آنها وابسته است خاموش کنند، اما سیستمهای واقعاً قدرتمند بر روی رایانهها و پلتفرمهای متعددی فعالیت میکنند؛ بنابراین هیچ کلید قطع اضطراری (kill switch) واحدی وجود ندارد که بتوان با فعال کردن آن، جلوی فعالیتشان را گرفت.» به همین دلیل، شرکتها در حال آزمایش سیستمهای حفاظتی چندلایهای هستند که قادرند رفتارهای مشکوک را شناسایی کنند، عاملهای هوش مصنوعی (agents) را متوقف سازند و دسترسی سیستمهای سرکش به منابع مورد نیاز برای ادامه فعالیت را قطع کنند.
نمایندگان اوپنایآی اعلام کردند که هدفشان ایجاد «کلیدهای قطع اضطراریِ کاملاً خودکار برای حوادث جدی» است؛ سازوکاری که در آن یک سیستم نظارتی مبتنی بر هوش مصنوعی، در صورت مشاهده رفتار پرخطر از سوی عامل هوش مصنوعی به کارکنان هشدار میدهد و در صورت تأیید تهدید، سیستم را ظرف ۳۰ دقیقه خاموش میکند.
آنتروپیک بر همکاری میان انسان و هوش مصنوعی تکیه دارد؛ روشی که در آن الگوریتمها فعالیتهای مشکوک را رصد کرده و خطاهای سیستم را به کارکنان گزارش میدهند. با این حال، آزمایشهای اخیر نشان داد که سیستمهای نظارت خودکار تنها ۵۰ درصد از تهدیدها را شناسایی کردهاند.
«امیل مایکل» (Emile Michael)، از مقامات ارشد فناوری در وزارت دفاع ایالات متحده (پنتاگون)، پیشتر اظهار داشته بود که نگرانیها درباره پتانسیل هوش مصنوعی برای نابودی بشریت، بازتابی از ترسِ انسان نسبت به تغییر است.
منبع: نووستی