محقق آنتروپیک از ترس هوش مصنوعی استعفا داد

به گزارش خبرگزاری مهر به نقل از مانی وایز، «جیکوب کاکسون» سه سال صرف ساخت مدل‌های هوش مصنوعی در اوپن ای آی و آنتروپیک کرده است. او روز هشتم سپتامبر از آنتروپیک استعفا داد و این صنعت را ترک کرد. او در شبکه اجتماعی ایکس نوشت: هیچ یک از دو شرکت مسئولانه رفتار نمی‌کنند. آن‌ها برای بهبود ابرهوش مصنوعی خود و قمار با زندگی ما با یکدیگر رقابت می‌کنند.

کاکسون ۲۷ ساله در اوایل سال به دلیل شهرت آنتروپیک در زمینه ایمنی، به این شرکت پیوست. او در مصاحبه ای با وال استریت ژورنال گفت اقدامات ایمنی واقعی است اما رقابت سبب می‌شود تعارض‌ها اجتناب ناپذیر شوند.

او در این باره گفت: ما در مسیر تحقق بسیاری از بدبینانه‌ترین سناریوها قرار داریم، به‌طوری‌که تا پایان سال آینده، اوضاع ممکن است از کنترل خارج شده باشد.

وی همچنین درباره افزود: افرادی که هوش مصنوعی را می‌سازند، صادقانه معتقدند این فناوری ممکن است تا پایان دهه جاری ما را بکشد.

به گفته کاکسون دست اندرکاران این صنعت در سکوت نگران این وضعیت هستند. البته او تنها کسی در آنتروپیک نیست که بحث انقراض انسان توسط هوش مصنوعی را مطرح کرده است. «اون هوبینگر»مسئول بخش هم‌راستاسازی (Alignment) این شرکت، نیز در اظهارنظری جداگانه گفت احتمال وقوع چنین رویدادی را بیش از ۱۰ درصد می‌داند.

ابر هوش مصنوعی مصنوعی به معنای سیستمی است که تقریبا در همه چیز از انسان‌ها باهوش تر است. خودبهینه سازی نیز یکی از وجوه نگران کننده این صنعت زیرا سیستمی را توصیف می‌کند که به طورخودکار کدهای خود را اصلاح می‌کند تا هوشش را بیشتر کند، مانند انسان.

در نتیجه این سیستم‌ها می‌توانند مقدار انبوهی دانش را به طور مستقل به دست بیاورند و احتمالا به زیرساخت‌های موسسات بزرگ نفوذ کنند.

کاکسون در این باره نیز می‌گوید: قدرت این فناوری را دست کم نگیرید. به زودی سیستم‌های ابر انسان که می‌توانند همه چیز را هک کنند، یک شبه هر حوزه یا متحول می‌کنند و به قدرت واقعی و منابع دست می‌یابند. ما همه شاهد پیشرفت در این حوزه‌ها بوده ایم و این فرایند کند تر نمی‌شود.