۴۰۰ محقق خواستار ایجاد نهاد نظارتی بین المللی بر هوش مصنوعی شدند

به گزارش خبرگزاری مهر به نقل از رویترز، حدود ۴۰۰ محقق از جمله جفری هینتون و یوشوا بنجیو از پیشگامان هوش مصنوعی، خواستار تشکیل یک نهاد بین‌المللی شدند تا بر استانداردهای مهار و الزامات گزارش‌دهی حوادث مربوط به سامانه‌های پیشرفته هوش مصنوعی دارای قابلیت‌های سایبری نظارت کند.

نهاد پیشنهادی استانداردهای مهاری برای کل صنعت ایجاد و یک مخزن از رویدادهای مهم سایبری که به گفته محققان به تدریج عمومی می‌شود را نگهداری می‌کنند.

محققان در نامه ای سرگشاده اعلام کردند مدل‌های هوش مصنوعی پیشرو باید در ابتدا به طور ایزوله از شبکه‌های خارجی ارائه شود و تحت نظارت مستقل قرار گیرد. آن‌ها استدلال می‌کنند تعهدات داوطلبانه این صنعت کافی نیستند.

پیشنهاد تاسیس چنین نهادی یک ماه پس از آن ارائه می‌شود که آنتروپیک، اوپن ای آی، گوگل، xAI، و انویدیا یک توافقنامه کاخ سفید را امضا کردند و به اجرای اقدامات ایمنی داوطلبانه بدون هیچ گونه مکانیسم اجرایی رسمی متعهد شد.

به گفته محققان پیش از ارائه این نامه، زنجیره اتفاقاتی رخ داده که ضعف‌هایی در شیوه آزمایش ومهار سیستم‌های هوش مصنوعی آشکار شده است، از جمله مواردی که در آن مدل‌های هوش مصنوعی محیط‌های آزمایشی را دور زدند و سیستم‌های خارجی را به خطر انداختند.

امضا کنندگان این نامه از ۳۴ کشور جهان هستند و معتقدند نهادهایی که مدل‌هایی قابلیت سایبری را توسعه می‌دهند یا آزمایش می‌کنند باید به سرعت استانداردهای مهار با سطح اطمینان بالا را به کار گیرند و از سوی دیگر دولت‌ها باید در جهت یک رژیم نظارتی رسمی تر حرکت کنند.

سیاست‌گذاران به طور روز افزون درباره شیوه نظارت بر مدل‌های هوش مصنوعی استدلالاتی ارائه می‌کنند. به گفته هنا ویرکوون مدیر فناوری اتحادیه اروپا «قانون هوش مصنوعی» (AI Act) برای برطرف کردن ریسک سیستم‌های هوش مصنوعی خطرناک کافی است.

این درحالی است که دولت آمریکا طی روزهای گذشته محدودیت اعمال شده بر موسسه امنیت هوش مصنوعی انگلیس برای دسترسی به آزمایشگاه‌های هوش مصنوعی آمریکایی جهت تست ایمنی مدل‌ها را لغو کرد.