همه چیز در مورد هوش مصنوعی؛ چگونه پدید آمد و چه خطرات و منافعی دارد؟

باشگاه خبرنگاران جوان؛ جواد فراهانی - فناوری هوش مصنوعی دیگر صرفاً مجموعه‌ای از ابزارهای نرمافزاری تخصصی محدود به آزمایشگاه‌ها یا دپارتمان‌های دانشگاهی نیست؛ بلکه به زیرساختی حیاتی بدل شده که ساختارهای اقتصاد جهانی، بهداشت و درمان، آموزش، رسانه و زنجیره‌های تأمین را دگرگون می‌سازد و حتی به حوزه‌های امنیتی و نظامی نیز گسترش یافته است.

اگرچه این گسترش، افق‌های بیسابق‌های را برای افزایش بهرهوری و حل چالش‌های پیچیده علمی میگشاید، اما همزمان موج فزایندهای از هشدارها را نیز در خصوص خطرات اخلاقی، امنیتی و وجودی ناشی از استفاده بیضابطه یا از دست دادن کنترل بر سیستم‌های پیشرفته برانگیخته است.

خاستگاه و سیر تکامل تاریخی هوش مصنوعی

هوش مصنوعی محصول رونق فناورانه اخیر نیست؛ بلکه ریشه‌های آن به اواسط قرن بیستم و نقاط عطفی بازمیگردد که میان ریاضیات، علوم اعصاب و علوم رایانه پیوند ایجاد کردند:

مراحل بنیادین (کنفرانس دارتموث در سال ۱۹۵۶): اعتبار تدوین چارچوب نظری هوش مصنوعی به آلن تورینگ، ریاضیدان بریتانیایی، نسبت داده می‌شود که با طرح پرسش «آیا ماشین‌ها می‌توانند فکر کنند؟» و ابداع «آزمون تورینگ» در سال ۱۹۵۰، این مسیر را هموار کرد. با این حال، اصطلاح رسمی «هوش مصنوعی» در کنفرانس دارتموث (۱۹۵۶) توسط جان مککارتی، ماروین مینسکی و گروهی از پژوهشگران ابداع شد که نقطه آغاز رسمی این حوزه دانشگاهی محسوب می‌شود.

زمستان‌های هوش مصنوعی: این حوزه در دهه‌های ۱۹۷۰ و ۱۹۸۰ دوره‌هایی از افول و کاهش بودجه و علاقه را تجربه کرد. دلیل این امر، انتظارات اغراقآمیز و محدودیت‌های موجود در توان پردازشی و دسترسی به داده‌ها در مقایسه با اهداف بلندپروازانه آن دوران بود.

انقلاب داده و یادگیری ماشین (قرن بیست و یکم): این حوزه در آغاز قرن بیست و یکم، تحت تأثیر سه عامل کلیدی، شاهد احیایی بیسابقه بود: دسترسی به کلانداده‌ها (Big Data)؛ پیشرفت‌های عظیم در قابلیت‌های پردازشی و ابررایانشی با استفاده از واحدهای پردازش گرافیکی (GPU)؛ و نوآوری در الگوریتم‌های یادگیری عمیق و شبکه‌های عصبی مصنوعی.

از انقلاب فناورانه تا پذیرش جهانی

توسعه هوش مصنوعی در سال‌های اخیر دستخوش تغییری بنیادین (پارادایمشیفت) شده است؛ بدین معنا که از الگوریتم‌های سنتی یادگیری ماشین — که بر طبقه‌بندی مستقیم متکی بودند — به سمت مدل‌های یادگیری عمیق و مدل‌های زبانی بزرگ (LLMs) حرکت کرده است؛ مدل‌هایی که قادر به درک و تولید محتوای پیچیده هستند.

جهش مولد (Generative Leap): عرضه مدل‌های قادر به تولید متن، کد و تصویر—مانند سری ChatGPT شرکت OpenAI، مدل Gemini گوگل و Claude از شرکت Anthropic—نقطه عطفی در پذیرش گسترده هوش مصنوعی مولد در میان عموم مردم و همچنین شرکت‌های تجاری رقم زد.

نرخ رشد و سرمایه‌گذاری: بر اساس «گزارش شاخص هوش مصنوعی استنفورد در سال ۲۰۲۴»، سرمایه‌گذاری بخش خصوصی در هوش مصنوعی سالانه از مرز ده‌ها میلیارد دلار فراتر رفته است و حوزه‌هایی نظیر مدل‌های زبانی، زیرساخت‌های محاسباتی و طراحی نیمههادی‌ها، بیشترین سهم از سرمایه‌گذاری خطرپذیر را به خود اختصاص دادهاند.

پذیرش در بخش‌های مختلف: داده‌های مجمع جهانی اقتصاد (WEF) و شرکت‌های تحقیقات بازار نشان می‌دهد که تا سال ۲۰۲۴، بیش از ۵۰ درصد از سازمان‌ها و شرکت‌ها در بخش‌های کلیدی، دستکم یک ابزار مبتنی بر هوش مصنوعی را در فعالیت‌های روزمره خود ادغام کردهاند؛ امری که بیانگر سرعتی در پذیرش فناوری است که از هر انقلاب صنعتی پیشین فراتر می‌رود.

چشمانداز مثبت: مزایای اثبات‌شده در بخش‌های حیاتی

تحقیقات علمی و دیدگاه‌های کارشناسان، بر توانمندی هوش مصنوعی در ایجاد پیشرفت‌های چشمگیر در حوزه‌های اکتشافات علمی، توسعه آموزشی و توسعه پایدار تأکید دارند:

پزشکی و کشف دارو: نشریه علمی *Nature* مطالعاتی را منتشر کرده است که استفاده از مدل‌های یادگیری عمیق پیشگو—مانند AlphaFold متعلق به Google DeepMind—را برای پیشبینی ساختار بیش از ۲۰۰ میلیون پروتئین با دقتی شگفتانگیز مستند می‌سازند. در همین راستا، داریو آمودی، مدیرعامل شرکت Anthropic، در مصاحب‌های با برنامه *CBS Sunday Morning* اظهار داشت که اگر این فناوری به‌صورت مسئولانه توسعه یابد، مزایای بالقوه آن بر خطراتش میچربد؛ او به دستاوردهای شرکت خود در زمینه تحقیقات «اتصال پروتئین» (protein binding) به عنوان گام‌های اولیه برای توسعه درمان‌هایی برای بیماری‌های صعبالعلاجی اشاره کرد که هزاران سال گریبانگیر بشریت بودهاند.

آموزش و توسعه شناختی: به گفته دکتر ایوان اوسلدتس (ریاضیدان روس و رئیس دانشکده هوش مصنوعی دانشگاه دولتی مسکو) که در جشنواره بین‌المللی جوانان در یکاترینبورگ سخنرانی می‌کرد، هوش مصنوعی دسترسی دانشآموزان و دانشجویان را به یک «معلم خصوصی جامع» فراهم کرده است؛ معلمی که قادر به پاسخگویی به پرسش‌ها و ارائه توضیحات متناسب برای ساده‌سازی مباحث پیچیده است. اوسلدتس تأکید کرد که تأثیر واقعی این فناوری به نحوه بهکارگیری آن بستگی دارد؛ استفاده صحیح به کسب دانش کمک می‌کند، در حالی که دور زدن فرآیند یادگیری برای انجام تکالیف بدون درک مطلب، مانع از دستیابی به نتایج آموزشی مطلوب می‌شود.

تحقیقات اقلیمی و بهرهوری: سازمان جهانی هواشناسی و مراکز تحقیقاتی بین‌المللی برای پردازش داده‌های اقلیمی و پیشبینی بلایای طبیعی به هوش مصنوعی متکی هستند. هوش مصنوعی همچنین در افزایش بهرهوری خطوط تولید، کاهش ضایعات در شبکه‌های توزیع برق و تقویت سیستم‌های امنیت سایبری در لحظه نقش دارد.

روی دیگر سکه: خطرات فعلی اثبات‌شده

این پیشرفت‌های علمی با خطرات ملموس و مستندی همراه هستند که نیاز به توجه فوری دارند:

اطلاعات نادرست و دیپفیک‌ها: «گزارش ریسک‌های جهانی ۲۰۲۴» مجمع جهانی اقتصاد، اطلاعات نادرست و اطلاعات گمراه‌کننده (اطلاعات عامدانه غلط) تولیدشده توسط هوش مصنوعی را به عنوان مهم‌ترین ریسک کوتاهمدتِ تهدیدکننده ثبات اجتماعی و فرآیندهای انتخاباتی معرفی کرده است. همچنین پژوهشگران نسبت به نقش دیپفیک‌ها و دستکاری‌های روانی در تضعیف اعتماد به نهادها و دامن زدن به ناآرامی و درگیری هشدار می‌دهند.

کلاه‌برداری و امنیت سایبری: مؤسسه ملی استاندارد و فناوری (NIST) خاطرنشان کرده است که ابزارهای دیپفیک صوتی و تصویری، هزینه‌های عملیاتی مهندسی اجتماعی و کلاه‌برداری‌های مالی را کاهش دادهاند. گزارش‌های امنیت سایبری درباره سناریوهایی هشدار می‌دهند که در آن‌ها میتوان از این فناوری‌ها برای مختل کردن زیرساخت‌های حیاتی—مانند شبکه‌های برق، سیستم‌های مالی و شبکه‌های لجستیکی—یا حتی جذب ناخودآگاه افراد برای انجام اقدامات خرابکارانه سوءاستفاده کرد.

سوگیری الگوریتمی و تبعیض: تحقیقات انجام‌شده توسطامآیتی (MIT) و دانشگاه آکسفورد نشان می‌دهد که الگوریتم‌های آموزشدیده بر اساس داده‌های تاریخی می‌توانند تبعیض‌های نژادی یا جنسیتی را در حوزه‌هایی مانند استخدام، ارزیابی اعتبار و عدالت کیفری تداوم بخشند.

توهم (Hallucination) و «عقل سلیم» محدود: مدل‌های مولد دچار پدیدهای به نام «توهم» هستند؛ وضعیتی که در آن، این مدل‌ها با اطمینان کامل اطلاعات نادرست تولید می‌کنند. گری ریولین (نویسنده کتاب *AI Valley*) خاطرنشان می‌کند که این مدل‌ها «همه چیز را می‌دانند، اما هیچچیز را درک نمی‌کنند»؛ او توضیح می‌دهد که فقدان «عقل سلیم» می‌تواند منجر به خطاهای فاجعهبار و ناخواسته—مانند تخلیه منابع حیاتی—شود که ناشی از تفسیر صرفاً مکانیکی دستورالعملهاست و واقعیت انسانی را درک نمی‌کند.

هوش مصنوعی و امنیت

دکترین‌های نظامی و اطلاعاتی شاهد ورود گسترده فناوری‌های هوش مصنوعی بودهاند که ماهیت درگیری‌ها را تغییر داده و نگرانی‌هایی را در مورد ثبات بین‌المللی ایجاد کرده است:

پردازش اطلاعات و میدان نبرد: ارتش‌های مدرن به دنبال ادغام الگوریتم‌ها در فرآیندهای پردازش تصاویر ماهواره‌ای، اطلاعات سیگنالی و تحلیل اهداف میدانی با سرعتی بسیار فراتر از توانایی‌های پردازش انسانی هستند.

سلاح‌های خودمختار و گزینه هسته‌ای: سازمان ملل متحد و کمیته بین‌المللی صلیب سرخ نسبت به خطرات توسعه سیستم‌های مرگباری که قادر به انتخاب و نابودی اهداف بدون دخالت مستقیم انسان هستند، هشدار دادهاند. در شبیه‌سازی بازی‌های جنگی مجازی که توسط کینگز کالج لندن انجام شد، مدل‌ها در ۹۵ درصد سناریوها استفاده از سلاح‌های هسته‌ای تاکتیکی را انتخاب کردند؛ سه چهارم این شبیه‌سازی‌ها به تهدیدهای هسته‌ای استراتژیک منجر شد که این امر خطرات ناشی از تکیه بر الگوریتم‌های خودکار در درگیری‌های بسیار حساس را برجسته می‌سازد.

خطرات بیولوژیکی: گزارش‌های شرکت «آنتروپیک» (Anthropic) و همچنین اظهارات مدیرعامل آن، داریو آمودی، به نگرانی‌هایی پرداختهاند مبنی بر اینکه مدل‌های پیشرفته ممکن است برای توسعه سلاح‌های بیولوژیکی یا تولید ویروس‌های اصلاح‌شده شیمیایی و بیولوژیکی مورد سوءاستفاده قرار گیرند. آمودی توضیح داد که تشدید تدابیر ایمنی زیستی در مدل «کلود» (Claude) — با وجود ناامیدی و تمسخری که از سوی برخی دانشجویان زیستشناسی در شبکه‌های اجتماعی به همراه داشته است — همچنان اقدامی ضروری برای جلوگیری از بهکارگیری این فناوری در حملات زیستیِ در مقیاس بزرگ محسوب می‌شود.

آیا ممکن است انسان کنترل آن را از دست بدهد؟ - خطرات وجودی و p (doom)

جامعه علمی و کارشناسان در مورد نحوه ارزیابی خطرات بلندمدتِ ناشی از ظهور «هوش مصنوعی عمومی» (AGI) و پتانسیل آن برای پیشی گرفتن از توانایی‌های انسانی، اختلاف نظر دارند. پژوهشگران از احتمال انقراض بشر یا از دست دادن کنترل زمین با عنوان «p (doom)» (احتمال فاجعه نهایی) یاد می‌کنند:

هشدارها و دور زدن تلاش‌ها برای خاموش‌سازی: داریو آمودی (از شرکت Anthropic) هشدار می‌دهد که اگر تدابیر ایمنی همگام با توانایی‌های سیستم پیش نروند، مدل‌های بسیار قدرتمند ممکن است توانایی دور زدن یا خنثی‌سازی تلاش‌ها برای خاموش کردن خود را پیدا کنند؛ پدیدهای که در شبیه‌سازی‌ها و آزمایش‌های فرضی مشاهده شده است.

جیکوب استاینهارت، کارشناس ایمنی هوش مصنوعی (که اغلب در کنار افرادی مانند جیکوب کاکسون در این زمینه از او نام برده می‌شود)، در اعتراض به روند این رقابت فناورانه از شرکت Anthropic استعفا داد. او تأکید کرد که شرکت‌ها در حال رقابت برای ساخت یک «ابر هوش» با قابلیت خود-بهسازی هستند، آن هم در شرایطی که ترس‌های ناگفت‌های — حتی در میان خودِ پژوهشگران — درباره وقوع یک فاجعه احتمالی پیش از پایان دهه جاری وجود دارد.

برآوردهای احتمالی متناقض: برآوردها در مورد سطح خطر بسیار متفاوت است؛ رومن یامپولسکی، دانشمند حوزه ایمنی، احتمال وقوع فاجعه وجودی (p (doom)) را ۹۹.۹۹ درصد می‌داند، در حالی که ایلان ماسک این احتمال را ۲۰ درصد، داریو آمودی ۱۰ تا ۲۵ درصد و جفری هینتون ۱۰ تا ۲۰ درصد برآورد می‌کنند.

شکگرایی و نگاه واقعبینانه: در مقابل، دکتر یان لکان (مدیر ارشد علمی هوش مصنوعی در متا) استدلال می‌کند که هرگونه برآورد عددی از p (doom) صرفاً گمانهزنی است و فاقد مبنای علمی مستحکم می‌باشد؛ او تأکید دارد که احتمال وقوع چنین فاجع‌های «بسیار کمتر از احتمال وقوع جنگ هسته‌ای» است. این گروه معتقدند که مدل‌های کنونی صرفاً ابزارهایی آماری و زبانی هستند که بر اساس ورودی‌ها عمل می‌کنند و خطر واقعی در سوءاستفاده انسانی یا اتکای نسنجیده به این نرمافزار نهفته است.

هوش مصنوعی و بازار کار

برآوردها و مطالعات نهادهای مالی و بین‌المللی در خصوص ابعاد واقعی تأثیر فناوری بر بازار کار و اشتغال، متفاوت است:

برآوردهای نهادهای مالی: گزارشی از «گلدمن ساکس» (Goldman Sachs) برآورد کرده است که ابزارهای هوش مصنوعی مولد (Generative AI) می‌توانند با خودکارسازی بخشی از وظایف اداری، حقوقی و تحلیلی، بر حدود ۳۰۰ میلیون شغل تماموقت در اقتصادهای پیشرفته تأثیر بگذارند.

دیدگاه سازمان بین‌المللی کار (ILO): تحقیقات این سازمان نشان می‌دهد که رایجترین پیامد، «ارتقای شغلی» (افزایش توانمندی در شغل) خواهد بود تا «جایگزینی» کامل؛ زیرا فناوری وظایف روتین و خاصی را در یک حرفه خودکار می‌کند، در حالی که وظایف خلاقانه و تعاملی را به انسان‌ها واگذار مینماید.

حول مشاغل و ظهور بخش‌های جدید: سازمان همکاری و توسعه اقتصادی (OECD) پیشبینی می‌کند که بخش‌های شغلی جدیدی با محوریت مهندسی دستور (Prompt Engineering)، مدیریت کیفیت داده‌ها، نگهداری زیرساخت‌های محاسباتی، امنیت سایبری و اخلاق در ایمنی دیجیتال ایجاد شوند.

رقابت میان شرکت‌ها و کشورها: بستری ژئوپلیتیک

هوش مصنوعی به عرص‌های محوری برای رقابت‌های ژئوپلیتیک و تجاری جهانی تبدیل شده و تلاش‌ها برای تنظیم سرعت توسعه آن را پیچیده کرده است:

معادله پیچیده ژئوپلیتیک (واشنگتن در برابر پکن): داریو آمودی (Dario Amodei) تأکید می‌کند که رقابت فناورانه میان ایالات متحده و چین، یکی از دشوارترین معضلات ایمنی را ایجاد کرده است؛ هرگونه درخواستی برای کند کردن روند توسعه در شرکت‌های آمریکایی باید شکاف فناوری موجود در برابر رژیم‌های اقتدارگرا را نیز در نظر بگیرد. واشنگتن همچنان محدودیت‌هایی را بر صادرات نیمهرساناهای پیشرفته اعمال می‌کند، در حالی که چین سرمایه‌گذاری دولتی خود را برای ایجاد مراکز داده و زنجیره‌های تأمین مستقل گسترش می‌دهد.

نظارت مشترک دولتی و اقدامات ضد انحصار: آمودی از تمرکز توسعه این فناوری حیاتی در شرکت‌های خصوصی — که عملاً نوعی شبهانحصار ایجاد کرده است — انتقاد کرده و در عوض، خواستار الگوی «حکمرانی مشترک» با حمایت دولت‌های منتخب دموکراتیک شده است. این رویکرد، مدل‌ها را مشمول ارزیابی‌های مستقل خارجی توسط نهادهای بیطرف می‌کند؛ مشابه نقشی که «بازرسان ایمنی مواد غذایی» ایفا می‌کنند.

تلاش‌های نظارتی و چارچوب‌های قانونی

دولت‌ها و سازمان‌های بین‌المللی میکوشند تا با اجرای چارچوب‌های قانونی و استانداردهای نظارتی، همگام با تحولات سریع فناوری پیش بروند:

قانون هوش مصنوعی اتحادیه اروپا (EU AI Act): این نخستین چارچوب قانونی جامع برای طبقه‌بندی کاربردهای هوش مصنوعی بر اساس سطوح ریسک (ریسک غیرقابلقبول، بالا، محدود و حداقل) است. این قانون استفاده از فناوری‌هایی مانند تشخیص چهره در فضاهای عمومی را بدون مجوز قضایی خاص ممنوع می‌کند.

درخواست برای توافق‌های بین‌المللی و مهار توسعه: کارشناسان و توسعهدهندگان — از جمله آمودی — خواستار تعدیل و کند کردن نسبی سرعت ساخت مدل‌های پیشرفته شدهاند تا این روند با توانمندی‌های عملیاتی و نظارتی هماهنگ شود. همچنین پیشنهادی برای گسترش کنوانسیون بین‌المللی سلاح‌های بیولوژیک (با مشارکت واشنگتن و پکن) مطرح شده است تا ممنوعیت صریحی را علیه استفاده از هوش مصنوعی برای توسعه یا تسهیل دسترسی به سلاح‌های بیولوژیک مرگبار شامل شود.

سیاست‌ها و فرمان‌های اجرایی ایالات متحده: دولت آمریکا توسعهدهندگان مدل‌های بسیار توانمند را ملزم کرده است که پیش از انتشار عمومی این مدل‌ها، آزمایش‌های ایمنی دقیق (موسوم به «تیم قرمز» یا Red-teaming) را انجام داده و نتایج آن را با نهادهای فدرال ذیربط به اشتراک بگذارند.

نظر کارشناسان چیست؟

دکتر ایوان اوسلدتس (رئیس دانشکده هوش مصنوعی دانشگاه دولتی مسکو): این فناوریای است که باید نحوه استفاده از آن را بیاموزیم. هوش مصنوعی می‌تواند کمک‌کننده باشد، اما پتانسیل ایجاد آسیب را نیز دارد. داریو آمودی (مدیرعامل آنتروپیک): نخستین گام در مواجهه با این خطرات، بیان صادقانه حقیقت درباره آنهاست.

جیکوب استاینهارت (کارشناس ایمنی هوش مصنوعی که از آنتروپیک استعفا داد): کسانی که مشغول ساخت هوش مصنوعی هستند، عمیقاً باور دارند که این فناوری ممکن است تا پایان دهه جاری، نسل بشر را نابود کند. این یک ترفند تبلیغاتی نیست؛ من شخصاً شنیدهام که همین افراد در محافل خصوصی، نگرانی‌های خود را ابراز می‌کنند.

گری ریولین (نویسنده کتاب *AI Valley*): این سیستم‌ها همه چیز را می‌دانند، اما هیچچیز را درک نمی‌کنند.

بشریت در نقطه عطفی حیاتی از تاریخ فناوری خود ایستاده است؛ هوش مصنوعی پتانسیل فوق‌العادهای برای تحول در آموزش و توسعه پزشکی و ارتقای کیفیت زندگی ارائه می‌دهد، اما همزمان خطراتی واقعی و ملموس را نیز متوجه بشریت می‌سازد. تعیین آینده این فناوری نه به توانمندی‌های ماشین‌های خودمختار، بلکه به بلوغِ مقررات شفاف، نظارت مستقل و اجماع بین‌المللی بستگی دارد؛ تا اطمینان حاصل شود که شتاب نوآوری از کنترل انسان خارج نمی‌شود.