هوش مصنوعی یکی از ارکان کلیدی امنیت اینترنت را تهدید می‌کند
باشگاه خبرنگاران جوان؛ جواد فراهانی - گوگل اعلام کرده است که یکی از برنامه‌های اصلی خود برای پاداشدهی در ازای کشف باگ (bug bounty) را به‌طور موقت متوقف می‌کند؛ چرا که مدیریت حجم فزاینده گزارش‌های تولیدشده توسط هوش مصنوعی دیگر امکانپذیر نیست.
برنامه‌ای که فعالیت آن متوقف شده، بر شناسایی آسیبپذیری‌های حیاتی در نرمافزارهای متنباز (open-source) تمرکز دارد.
این طرح‌ها که با عنوان «برنامه‌های پاداش باگ» شناخته می‌شوند، به پژوهشگران حوزه امنیت در ازای گزارش آسیبپذیری‌های کشف‌شده پاداش مالی می‌دهند. این کار باعث می‌شود پیش از آنکه عوامل مخرب بتوانند از این حفره‌های امنیتی سوءاستفاده کنند، آن‌ها اصلاح و ترمیم شوند. شرکت‌های بزرگ فناوری برای تقویت امنیت محصولات و خدمات خود به این برنامه‌ها متکی هستند؛ ضمن اینکه این برنامه‌ها انگیزهای مالی برای پژوهشگران ایجاد می‌کنند تا به‌جای استفاده از نقص‌های امنیتی برای انجام حملات، آن‌ها را گزارش کنند.
با این حال، هوش مصنوعی در حال تغییر این سازوکار است. اکنون استفاده از هوش مصنوعی برای تولید حجم عظیمی از گزارش‌های امنیتی در مدتزمانی کوتاه آسان شده است، اما بخش قابلتوجهی از این گزارش‌ها ناشی از مشکلات واقعی نیستند. گوگل در پستی در پلتفرم «ایکس» (X) اعلام کرد که تصمیم به توقف این برنامه به دلیل «افزایش چشمگیر گزارش‌های خودکار» اتخاذ شده و خاطرنشان کرد که بخش عمدهای از آن‌ها «نامعتبر» بودهاند.
این مسئله فراتر از صرفاً حجم بالای گزارشهاست و شامل زمان و تلاشی می‌شود که مهندسان باید صرف بررسی آن‌ها کنند؛ وقتی یک تیم امنیتی با هزاران گزارش نادرست بمباران می‌شود، شناسایی آسیبپذیری‌های واقعی که نیازمند اصلاح هستند، بسیار دشوار می‌گردد. این تحولات نگرانی‌های گستردهتری را در مورد تأثیر هوش مصنوعی بر امنیت سایبری ایجاد می‌کند. در حالی که هشدارهای پیشین بر توانایی مدل‌های پیشرفته در کمک به هکرها برای کشف آسیبپذیری‌های قابلسوءاستفاده متمرکز بود، تجربه گوگل نوع متفاوتی از مشکل را آشکار می‌سازد: غرق شدن تیم‌های امنیتی در انبوهی از گزارش‌های خودکار که راستیآزمایی آن‌ها دشوار است.
گوگل تنها شرکتی نیست که با این معضل روبروست؛ هجوم گزارش‌ها — که اغلب بدون صرف تلاش کافی تهیه شده و غالباً نادرست هستند — بار کاری مهندسان را افزایش داده و شناسایی مشکلات امنیتی واقعی را برای آن‌ها دشوارتر کرده است. اوایل سال جاری، لینوس توروالدز، خالق لینوکس، اظهار داشت که «جریان مداوم گزارش‌های تولیدشده توسط هوش مصنوعی»، مدیریت امور امنیتی را «تقریباً غیرممکن» کرده است. علاوه بر این، به نظر می‌رسد شرکت اینتل نیز ماه گذشته برنامه مشابهی برای پاداشدهی به کشف باگ را — که پاداش‌هایی تا سقف ۱۰۰ هزار دلار ارائه می‌داد — متوقف کرده است؛ هرچند این شرکت بهصراحت اعلام نکرد که هوش مصنوعی دلیل این توقف بوده است.
منبع: ایندیپندنت