مدیران ارشد هوش مصنوعی خواستار کندتر شدن پیشرفت آن شدند

به گزارش خبرگزاری مهر به نقل از اسکای نیوز، داریو آمودئی مدیر ارشد اجرایی آنتروپیک مقاله ای با عنوان «ما باید در پیشروی مرزها شتاب زده عمل نکنیم» ( We Must Pace the Frontier) را منتشر کرده که در آن از شرکت‌های فناوری می‌خواهد سرعت بهبود قابلیت‌های مدل‌های هوش مصنوعی را کندتر کنند.

این مقاله در حالی منتشر می‌شود که نگرانی‌ها درباره سواستفاده از هوش مصنوعی شدت گرفته است. از سوی دیگر آنتروپیک اخیرا فاش کرده چند هکر از مدل‌های کلاود آن برای فعالیت‌هایی مانند توسعه اسلحه، عملیات‌های نظامی و نظارت و کلاه‌برداری استفاده کرده اند.

آمودئی در همین زمینه طرحی سه بخشی ارائه کرده که شرکتش نیز به آن متعهد است. او در پستی در شبکه اجتماعی ایکس نوشت: ما ارزیاب‌های طرف ثالث را با دسترسی دائمی و در سطح کارمندان برای سیستم‌هایمان فراهم می‌کنیم تا آن‌ها بتوانند التزام مان به اقدامات ایمنی را تایید کنند، درباره رویدادها گزارش دهند و همسویی مدل‌ها طی آموزش را ارزیابی کنند.

پس از آن ایلان ماسک مدیر ارشد اجرایی ایکس و سم آلتمن مدیر ارشد اجرایی اوپن ای آی نیز از این مقاله دفاع کردند. ماسک نیز پاسخ به پست آمودئی نوشت: داریو درست می‌گوید.

سم آلتمن نیز در ایکس نوشت: من هم با داریو موافقم که ما نیاز داریم در پیشروی شتاب زده عمل نکنیم. این موضوع اصلی گفتگوهایی است که هفته‌های اخیر در اوپن ای آی داشتیم. تعهد به حضور ارزیاب‌های مستقل با دسترسی در سطح کارمند یک ایده عالی است و ما نیز همین کار را انجام می‌دهیم. به زودی اطلاعات بیشتری به اشتراک می‌گذاریم.