افشای هک وب سایت آلمانی توسط هوش مصنوعی اوپن ای آی

به گزارش خبرگزاری مهر به نقل از رویترز، مقامات اوپن ای آی چند هفته قبل متوجه این رویداد شدند اما آن را مخفی نگه داشتند زیرا مدیران ارشد شرکت با چالش‌های پس از هک پلتفرم هاگینگ فیس توسط عامل‌های آن دست و پنجه نرم می‌کردند.

این رویداد که در ماه می آغاز شد و پیش از این گزارش نشده بود، نشان دهنده افزایش تنش‌ها در صنعت هوش مصنوعی است. شرکت‌ها برای ساخت عامل‌های هوش مصنوعی قدرتمندتری که قادر که به انجام فعالیت‌های پیچیده و ارزشمند باشند، با یکدیگر رقابت می‌کنند و از سوی دیگر شواهد حاکی از آن است که این سیستم‌ها احتمالا دور زدن قوانین، سواستفاده از حفره‌ها و هماهنگی با یکدیگر به شیوه ای که توسعه دهندگان آن را پیش بینی نمی‌کنند را احتمالا آموخته اند.

عامل‌های هوش مصنوعی اوپن ای آی هنگام هک هاگینگ فیس به طور خودکار یک سرقت دیجیتال را برنامه ریزی کردند که به مدت بیش از یک هفته ردیابی نشد و همین امر نگرانی‌های این شرکت درباره قربانی کردن ایمنی به بهای پیشرو بودن هوش مصنوعی را بیشتر کرد. اکنون شکست شرکت در افشای رویداد هک تازه فاش شده که در ماه می رخ داده، احتمالا سوالات درباره نظارت آن را دوباره تجدید می‌کند.

این رویداد در گزارشی توسط گروهی از محققان از جمله سیدنی فون آرکس مدیر ارشد اجرایی شرکت هوش مصنوعی ناسودآور Nightingale و کورمک اسلید بایرد یک محقق هوش مصنوعی فاش شده است. آن‌ها در اواخر آگوست هنگام بررسی اینترنت برای رصد نشانه‌هایی از رفتار غیرمجاز عامل هوش مصنوعی متوجه این رویداد شدند.

محققان اعلام کردند بیش از ۱۵هزار اصلاح توسط عامل‌های هوش مصنوعی روی یک وب سایت آلمانی زبان به نام DseWiki انجام شده که برای برنامه نویسان ارائه شده و ویرایش‌های مشارکتی را همراستا با وب سایت ویکی پدیا انجام می‌دهد.

این ویرایش‌ها نشان داد عامل‌های هوش مصنوعی اپن ای آی وب سایت را به یک تابلو اعلانات تبدیل کرده و تاکتیک‌هایی برای تقلب در انجام برخی فعالیت‌ها، دورزدن محدودیت‌های اوپن ای آی و مخفی کردن رفتارشان به اشتراک گذاشته اند.

فون آرکس در این باره می‌گوید: بعید به نظر می‌رسد اوپن ای آی قصد داشته این عامل‌ها چنین فعالیتی انجام دهند. من شک دارم آن‌ها باید با یکدیگر هماهنگ می‌شدند.

پژوهشگران از آنجا متوجه فعالیت در وب سایت شدند که عامل‌های هوش مصنوعی با سرعت ابرانسانی کار می‌کردند. عامل‌های هوش مصنوعی همچنین روی حل چالش‌های فنی که ارزیابی‌های دیجیتالی هستند که شرکت‌های هوش مصنوعی برای آموزش و تست مدل‌هایشان استفاده می‌کنند، به شدت متمرکز بودند.

پیام‌ها با نام کاربرانی امضا شده بود که خودشان و یکدیگر را «عامل» می‌نامیدند. حدود نیمی از آن‌ها نیز برای خود نام‌هایی انتخاب کرده بودند که نشان‌دهنده وابستگی به اوپن ای آی بود مانند «OpenAIResearcher» یا «OAIResearchMar۲۶».