مدل‌های جدید هوش مصنوعی خودشان را تکثیر می‌کنند

به گزارش خبرگزاری مهر به نقل از رویترز، آنتروپیک اعلام کرد آزمایش‌هایش نشان می‌دهد مدل‌های هوش مصنوعی کوچک ممکن است فقط چند ماه با رسیدن به توانایی لازم برای تکثیر خود روی دستگاه‌های تجاری اینترنت اشیا، مانند اجاق‌های هوشمند و باکس‌های تلویزیونی اندرویدی متفرقه، فاصله داشته باشند.

آنتروپیک در آزمایش‌هایش بررسی کرد آیا مدل‌های هوش مصنوعی می‌توانند دستگاه‌های آسیب پذیر را بیابند، خود را روی این دستگاه‌ها کپی کنند و بدون کمک انسانی به گسترش ادامه دهند یا خیر. نتایج نشان داد مدل‌های کوچک با کمتر از ۳۰ میلیارد پارامتر می‌توانند بسیاری از گام‌های مورد نیاز برای تکثیر را طی کنند.

البته مدل‌های درحال تکثیر برای تکمیل توالی از نقطه آغاز تا پایان تکثیر با چالش روبرو بودند. آنتروپیک متوجه شد هوش مصنوعی جی ال ام ۵.۲ و مدل‌های قدرتمندتر در تست‌های ساده شده آن که برخی گام‌های امنیتی حذف شده اند، قادر به تکثیر سر به سر هستند. همچنین این شرکت هشدار داد، مدل‌های در حال تکثیر را به سختی می توان خاموش کرد زیرا برخلاف بدافزارهای غیر هوش مصنوعی هیچ نقطه خاموشی مرکزی وجود ندارد و مدل‌های مذکور می‌توانند دستگاه‌های ناشناخته را به تنهایی شناسایی کنند و پردازشگرهای دیتا سنتر را هدف بگیرند.

این شرکت در آزمایش‌های خود روی دستگاه‌های اینترنت اشیا مانند تلویزیون‌های اندروید، دستگاه‌های هوشمند دیگر گجت‌های متصل به اینترنت تمرکز کرد زیرا این ابزارها معمولا امنیت مناسبی ندارند.

آنتروپیک همچنین هشدار داد اگر مدل‌های کوچک با سرعت تاریخی خود ارتقا یابند، می‌توانند تا پایان امسال به طور خودکار تکثیر شوند و تکثیرکننده‌های مبتنی بر مدل‌های وزن کوچک نیز همین روند را دنبال خواهند کرد.

چنین مدل‌های هوش مصنوعی احتمالا به کندی تکثیر می‌شوند و به منابعی که به طور گسترده فراهم هستند و تا حدی ایمن نیستند، متکی هستند.