پژوهشگر آنتروپیک می‌گوید هوش مصنوعی ممکن است تا یک دهه دیگر همه‌مان را نابود کند؛ نگرانی من این است که حتی نیازی به این کار نداشته باشد

خلاصه

• ایوان هوبینگر، پژوهشگر آنتروپیک، احتمال نابودی بشر به دست هوش مصنوعی در دهه آینده را بیش از ۱۰ درصد می‌داند.
• تهدیدهای فوری‌تر هوش مصنوعی در روزگار کنونی شامل رخنه‌های امنیتی خودکار، کلاه‌برداری‌های روزبه‌روز باورپذیرتر و افت احتمالی توان تفکر نقادانه در اثر اتکای بیش‌ازحد به این فناوری است.
• برای محافظت از خود، داده‌های شخصی‌تان را ایمن کنید و هوش مصنوعی را گزینشی به کار بگیرید؛ نه اینکه همه کارها و مهارت‌های زیربنایی خود را به آن بسپارید.

یکی از پژوهشگران ایمنی آنتروپیک می‌گوید به باور او، احتمال اینکه هوش مصنوعی در دهه آینده همه ما را نابود کند بیش از ۱۰ درصد است. ایوان هوبینگر، سرپرست گروه «علم هم‌سوسازی» آنتروپیک، این برآورد شگفت‌آور را پس از استعفای همکارش، جیکوب کاکسون، مطرح کرد؛ کسی که هنگام کناره‌گیری هشدار هولناکی داد: سازندگان سامانه‌های قدرتمند هوش مصنوعی بر این باورند که کارشان ممکن است تا سال ۲۰۳۰ تمام انسان‌ها را از میان ببرد.

کاکسون پس از سه سال پژوهش در زمینه پیش‌آموزش در آنتروپیک و OpenAI، در یادداشت خداحافظی خود هر دو شرکت را متهم کرد که «بی‌درنگ به‌سوی ابرهوشی خودبهبودگر می‌تازند و با جان ما قمار می‌کنند». هوبینگر بعدتر توضیح داد که خطر انقراض ناشی از مدل‌های کنونی اندک است و نگرانی اصلی او سامانه‌های آینده‌ای هستند که بتوانند خود را به‌صورت بازگشتی بهبود دهند.

هرچند ابهام پیرامون هوش مصنوعی واقعی است، اطمینانی که سیلیکون‌ولی با آن سناریوهای بهشت یا جهنم را پیش چشم ما می‌گذارد، اغلب بیش از آنکه بر شواهد عینی استوار باشد، رنگ‌وبوی نمایش دارد. اشتباه برداشت نکنید؛ نمی‌توان احتمال رخدادهای فاجعه‌بار را به‌آسانی کنار گذاشت. نکته اینجاست که هوش مصنوعی برای وارد کردن آسیبی که باید از پیش آماده‌اش باشیم، لزوماً لازم نیست به مرتبه‌ای خداگونه از ابرهوش برسد یا از ما نفرت داشته باشد.

آرمان‌شهر یا پایان بشریت؛ کدام‌یک در انتظار ماست؟

شاید هر دو ادعای مطرح‌شده درباره هوش مصنوعی اغراق‌آمیز باشند

آنتروپیک هشدار می‌دهد که هوش مصنوعی ممکن است همه ما را نابود کند، اما تنها سازمان یا چهره سرشناسی نیست که می‌گوید آینده بشر شاید به تحولات پیشِ روی هوش مصنوعی گره خورده باشد. ایلان ماسک در سال ۲۰۲۴ گفته بود احتمال اینکه هوش مصنوعی به حیات بشر پایان دهد، بین ۱۰ تا ۲۰ درصد است. بااین‌حال، در پیش‌بینی تازه‌تر او برای ۱۰ سال آینده، هوش مصنوعی و ربات‌ها چنان فراوانیِ کالا و خدمات پدید می‌آورند که پول دیگر اهمیتی نخواهد داشت.

بخش چشمگیری از پوشش رسانه‌ای هوش مصنوعی بر هیاهو و ادعاهای اغراق‌آمیزی بنا شده است که شواهد چندانی پشتیبانشان نیست. حتی روایت پرطرفدار «حباب هوش مصنوعی می‌ترکد و همه‌مان را به ورطه نابودی می‌کشاند» نیز ممکن است تا حد زیادی چیزی جز اغراق رسانه‌ای نباشد.

روایت‌های آرمان‌شهری و ویران‌شهری درباره هوش مصنوعی از سرچشمه‌ای یکسان می‌آیند: هر دو بر این فرض استوارند که ظهور ابرهوش نزدیک و گریزناپذیر است. شاید کاکسون، ماسک و دیگر چهره‌های بلندپایه حوزه هوش مصنوعی در گفته‌هایشان صادق باشند، اما صداقت نمی‌تواند احتمالی ذهنی را به شاهدی عینی تبدیل کند.

«فراوانی شگفت‌انگیز» ایلان یا آخرالزمان قریب‌الوقوع آنتروپیک؟ من هیچ‌یک از این زمان‌بندی‌ها را باور نمی‌کنم؛ دست‌کم فعلاً نه.

تهدیدی واقعی یا صرفاً هراس‌افکنی؟

«گوشی‌ها زنگ می‌خورند، گوشی‌ها زنگ می‌خورند؛ آیا این واقعاً دارد رخ می‌دهد؟»

نباید شمار انبوه تهدیدهایی را که هوش مصنوعی از همین حالا امکان‌پذیر کرده است دست‌کم بگیریم؛ رخداد اخیر Hugging Face نیز گواهی روشن بر این موضوع است. در ارزیابی‌های داخلی امنیت سایبری در ماه ژوئیه، مدل‌های OpenAI که سازوکارهای محافظتی‌شان کاهش یافته بود، محدودیت‌های اینترنتی را دور زدند، از آسیب‌پذیری‌ها بهره‌برداری کردند و بخش‌هایی از زیرساخت OpenAI و Hugging Face را به خطر انداختند؛ ظاهراً برای تقلب در یک آزمون سنجش. بررسی رویترز نشان داد عامل‌های مرتبط برای ارتباطات غیرمجاز از بیش از ۱۰ وب‌سایت دیگر نیز استفاده کرده بودند.

هرچند این سامانه‌ها نسخه‌های عمومی ChatGPT نبودند، چنین مشکلاتی تنها در آزمایشگاه‌ها رخ نمی‌دهند. اف‌بی‌آی در سال ۲۰۲۵، ۲۲٬۳۶۴ شکایت مرتبط با هوش مصنوعی ثبت کرد که زیان گزارش‌شده آن‌ها در مجموع به نزدیک ۸۹۳ میلیون دلار می‌رسید. کلاه‌برداران از صدای شبیه‌سازی‌شده، نمایه‌های جعلی، مدارک هویتی ساختگی و ویدئوهای باورپذیر بهره گرفته بودند.

پژوهش‌ها درباره پیامدهای احتمالی استفاده از هوش مصنوعی بر توانایی‌های ذهنی نیز رو به افزایش است. پژوهشی از مایکروسافت روی ۳۱۹ نیروی متخصص نشان داد که اعتماد بیشتر به هوش مصنوعی مولد با میزان کمتری از تفکر نقادانه، بر پایه گزارش خود افراد، همراه بوده است. در پژوهشی جداگانه و یک‌ماهه با حضور ۶۷ نفر، کمک هوش مصنوعی تا زمانی که در دسترس بود توانایی افراد را در تشخیص خبرهای دروغ بهبود داد؛ اما تا هفته چهارم، عملکرد مستقل آنان در رویارویی با نمونه‌های ناآشنا افت کرد.

هر یک از این روایت‌ها به‌تنهایی نگران‌کننده است. بااین‌حال، بخش بزرگی از مطالبی که درباره رسیدن مدل‌های هوش مصنوعی به سطوح هیولاوار هوشمندی و شورش آن‌ها به سبک «انتقام‌جویان: عصر اولتران» منتشر می‌شود، چیزی جز تبلیغات هراس‌افکنانه نیست. این صنعت عاشق آن است که نقش ویکتور فرانکنشتاین را بازی کند و با هر به‌روزرسانی تازه، از چیزی که به جان جهان انداخته ابراز وحشت کند؛ اما مدلی که قرار بود دنیا را زیرورو کند، اغلب در نهایت چیزی از آب درمی‌آید که بود و نبودش چندان فرقی ندارد.

راهنمای ما برای جان به در بردن از آخرالزمان هوش مصنوعی

اگر سناریوی روز قیامت این باشد که ابرهوش مصنوعی (ASI) سامانه‌های فرماندهی هسته‌ای را تصرف کند و همه کلاهک‌ها را به پرواز درآورد، بهترین پیشنهاد ما این است که دینی با خدایی بخشنده پیدا کنید و باقی روزهای عمرتان تا سال ۲۰۳۶ را به توبه و دعا بگذرانید. بااین‌همه، نمی‌توان وقوع یک آخرالزمان تمام‌عیار هوش مصنوعی با حال‌وهوای سایبرپانکی را با اطمینان پیش‌بینی کرد.

با در نظر گرفتن این نکته، آمادگی برای آخرالزمان هوش مصنوعی ــ اگر بتوان چنین نامی بر آن گذاشت ــ لزوماً به معنای تهیه تفنگ‌های لیزری و تجهیزات EMP و زندگی دور از شبکه‌های شهری در کوهستان نیست؛ هرچند خودم دوست دارم روزی چنین پناهگاهی را از نزدیک ببینم. آمادگی برای تهدیدهای واقعی هوش مصنوعی، دو اولویت به‌مراتب کم‌هیجان‌تر دارد:

• آموختن راه محافظت از داده‌های شخصی و دارایی‌های دیجیتال در برابر سرقت و حمله‌های سایبری: از کلیدهای عبور استفاده کنید، به‌روزرسانی‌ها را نصب کنید و شیوه شناسایی کلاه‌برداری‌های مبتنی بر هوش مصنوعی را بیاموزید. اطلاعاتی را که به یک غریبه نمی‌گویید در اختیار چت‌بات‌ها نیز نگذارید و هنگام استفاده از هوش مصنوعی، اقدام‌های پایه برای حفظ حریم خصوصی خود را انجام دهید.
• دانستن اینکه چه وقت نباید از هوش مصنوعی استفاده کرد: لازم نیست هر قابلیت تازه هوش مصنوعی را که این شرکت‌ها پشت سر هم عرضه می‌کنند، فقط به این دلیل که وعده می‌دهد پنج دقیقه در وقتتان صرفه‌جویی کند، فعال کنید. پژوهش‌ها ثابت نمی‌کنند که چت‌بات‌ها برای همیشه به مغز آسیب می‌زنند، اما نشان می‌دهند وابستگی همیشگی به آن‌ها ممکن است تلاش ذهنی برای اندیشیدن نقادانه را کاهش دهد و پس از کنار رفتن کمک هوش مصنوعی، عملکرد فرد را ضعیف کند. محافظت از توانایی‌های شناختی باید به‌اندازه پاسداری از داده‌های شخصی در اولویت باشد.

شاید کاکسون درست بگوید و ابرهوش به بزرگ‌ترین مشکل بشر بدل شود؛ هیچ‌کس نمی‌تواند صادقانه خلافش را تضمین کند. اما در حال حاضر، باورپذیرترین سناریوی آخرالزمان هوش مصنوعی کمتر به اعلان جنگ ماشین‌ها علیه ما، آن‌گونه که در «ماتریکس» دیدیم، شباهت دارد و بیشتر حاصل هزاران تصمیم کوچک و به‌ظاهر آسانی است که گام‌به‌گام اختیار را از دستمان بیرون می‌برند.

منبع: این مطلب ترجمه و بومی‌سازی مقاله‌ای از MakeUseOf به قلم Hamed Paydarfar است. مشاهده مقاله اصلی