وقتی درباره امنیت سایبری صحبت میکنیم، معمولاً تصور میکنیم هکرها مردم را پیشی میگیرند. اما چه میشود وقتی هوش مصنوعی بهجای آن کلیکها را انجام میدهد؟
وقتی درباره امنیت سایبری صحبت میکنیم، معمولاً تصور میکنیم هکرها مردم را فریب میدهند. اما چه میشود وقتی بهجای آن هوش مصنوعی کلیکها را انجام میدهد؟
نسل جدید مرورگرهای هوش مصنوعی، مانند ChatGPT Atlas، Opera Neon، Perplexity Comet و Dia از شرکت Browser Company، همه وعده میدهند که برای شما در وب گشت بزنند. آنها میتوانند سایتها را بخوانند، لینکها را دنبال کنند، فرمها را پر کنند و حتی خرید کنند. این یک نگاه چشمگیر به آینده است، تا زمانی که یک نکته را متوجه شوید: انسانها همیشه فریب کلاهبرداریها میافتند، پس چه چیزی این عوامل خودکار هوش مصنوعی را از افتادن به همان مشکلات منع میکند؟
چگونه مرورگرهای هوش مصنوعی و عوامل آن به کلاهبرداریها میافتند
نگاهی منفی در کل برای مرورگرهای هوش مصنوعی است
مرورگر Atlas شرکت OpenAI مدتها پیش در راه بود و با سر و صدای زیادی راهاندازی شد. اما طولی نکشید تا پژوهشگران به مرورگر نفوذ کردند تا دریابند OpenAI چقدر امنیت را جدی میگیرد.
نتایج خوشبینانه نبودند. شرکت امنیتی LayerX یافت دو مشکل قابلتوجه در Atlas در عرض چند روز از راهاندازی مرورگر.
یک آسیبپذیری بر روی تزریق دستورات (prompt injection) متمرکز شد که امکان تزریق دستورهای مخرب به ویژگی حافظه ChatGPT را فراهم میکرد. این دستورات سپس اجازه اجرای کدهای راه دور را میدادند که بسیار خطرناک است. تحقیقات LayerX همچنین نشان داد که Atlas تنها ۵٫۸ درصد از صفحات وب مخرب را که مواجه شد، متوقف کرد. بنابراین، بیش از ۹۰ درصد زمان، با صفحات فیشینگ تعامل میکرد بهجای اینکه تب را ببندد و ادامه دهد.
برای عدالت نسبت به OpenAI و مرورگر Atlas آن، این تنها مرورگر هوش مصنوعی با ویژگیهای عامل که در آزمایشهای LayerX عملکرد ضعیفی نشان داد، نبود. مرورگر هوش مصنوعی Comet شرکت Perplexity که بسیار محبوب است تنها ۷ درصد از صفحات فیشینگ را متوقف کرد.
در مقایسه، Edge، Chrome و Dia بهمراتب بیشتر متوقف کردند؛ به ترتیب ۵۳، ۴۷ و ۴۶ درصد از حملات را رد کردند.
اسکملکسیتی
شرکت پژوهشی امنیتی Guardio با دامنه مشابهی از مشکلات مواجه شد، اگرچه این پیش از راهاندازی ChatGPT Atlas بود. مطالعه Scamlexity (نام عالی) مرورگرهای هوش مصنوعی عامل را به آزمون کشاند — آنها کلیک کردند، پرداخت کردند، شکست خوردند. این شرکت پژوهشی «PromptFix» را توسعه داد که آن را «نسخهای از عصر هوش مصنوعی برای ClickFix» مینامد، که برای پنهان کردن حملات تزریق دستورات در صفحات CAPTCHA تقلبی طراحی شده است. با متن نامرئی که در CAPTCHA تقلبی جاسازی شده، عوامل هوش مصنوعی که از حالت مرور خودکار استفاده میکنند به راحتی میتوانند فریب خورده و محصولات خریداری، فایلها دانلود یا کارهای دیگر انجام دهند.
بهطور مشابه، وقتی ایمیلهای فیشینگ را به مرورگر Comet شرکت Perplexity ارائه داد (پس از اینکه از آن خواست ایمیلهای ورودی را مدیریت کند)، بلافاصله در آن گیر کرد و اطلاعات کاربر را به صفحات تقلبی افزود. حتی از کاربر درخواست کرد تا اعتبارنامههای خود را وارد کند و صفحه را امن اعلام کرد.
مرورگرهای هوش مصنوعی بهصورت خودکار بر موارد نامطلوب کلیک میکنند
عوامل هوش مصنوعی به کلاهبرداریها حساساند که انسانها حتی نمیتوانند ببینند
مسئله بزرگ این است که مرورگرهای هوش مصنوعی و مرور خودکار عامل هوش مصنوعی ما را بهسوی غیرفعال کردن کارهای معمولی سوق میدهد. شما یک سیستم خودکار را مأمور میکنید تا برای شما تصمیم بگیرد و با انجام این کار، ممکن است پرچمهای قرمز مهمی که شما را از کلاهبرداریهایی که مدل هوش مصنوعی نمیتواند درک کند، هشدار میدهند، از دست بدهید.
در حال حاضر، این حملات عمدتاً در آزمایشگاههای امنیتی رخ میدهند، نه در دنیای واقعی. اما خطر واقعی است و به سرعت در حال رشد است. مرورگرهای هوش مصنوعی فقط سایتها را نمایش نمیدهند؛ آنها همچنین ورودهای کاربری را مدیریت میکنند، کوکیها را ذخیره میدارند و گاهی به حسابهای متصل دسترسی دارند. بنابراین، پتانسیل سوءاستفاده فراوان است و به وضوح چیزی است که مهاجمان بهطور فعال به آن شتاف میکنند.
یک بخش از مشکل برای افراد عادی این است که درباره کلاهبرداریهایی صحبت میکنیم که چشم انسان همیشه نمیتواند آنها را تشخیص دهد، حتی اگر به صفحه توجه کنید. این حملات مخفی تزریق دستورات معمولاً دستورات مخرب را خارج از دید جاسازی میکنند و شما تا پس از وقوع، وقتی دچار فریب شدهاید، نمیدانید چه اتفاقی رخ داده است.
در حالی که مرورگرهای سنتی دارای هشدارها و پنجرههای پاپ‑آپ برای اخطار وقتی چیزی نامناسب بهنظر میرسد هستند، یک عامل هوش مصنوعی که بهصورت خودکار مرور میکند ممکن است این را فقط بهعنوان چالشی دیگر برای غلبه ببینند.
تنها یک راه حل وجود دارد
ابزارهای معمولی امنیتی همیشه مفید نیستند
مشکلات امنیتی مدرن به راهحلهای مدرن نیاز دارند، و مشکلاتی که مرورگرهای هوش مصنوعی با مرور خودکار عامل ایجاد میکنند به راهحلهای جدیدی احتیاج دارند. این به این دلیل است که دفاعهای معمولی، مانند Google Safe Browsing یا ابزارهای ضدویروس، برای کلیک کردن لینکها توسط هوش مصنوعی طراحی نشدهاند. آنها بدون شک در حال پیشرفت هستند، اما همچنان حوزهای ناشناخته باقی میماند.
بهعنوان مثال، وقتی پژوهشگران مرورگرهای هوش مصنوعی را با مرورگرهای استاندارد مقایسه کردند، تفاوت واضح بود. Google Safe Browsing میتوانست URLهای شناختهشده خطرناک را مسدود کند، اما وقتی کلاهبرداران دامنههای جدیدی مانند “wellzfargo-security.com” به جای “wellsfargo.com” ایجاد کردند، عوامل هوش مصنوعی همچنان کلیک کردند. آنها دامنه را دوبار بررسی نمیکنند؛ فقط میبینند که صفحه شبیه ورود به بانک است و بهطور وظیفهشناسانه ادامه میدهند.
بدتر از آن، حملات تزریق دستورات به URLها وابسته نیستند. آنها درون صفحات یا PDFهای مشروع میزیند و برای ابزارهای اسکن سنتی نامرئی هستند.
تنها راه حل واقعی در این زمان، نظارت انسانی است. این امر حس جادویی خودکارسازی کامل در مرورگر را از بین میبرد، اما در واقع گامی مهم برای اطمینان از این است که مرورگر شما به کلاهبرداری فیشینگ ناپند نگیرد.
مرورگرهای هوش مصنوعی مانند Neon شرکت Opera بهصورت منظم توقف میکنند تا ورودی انسانی را درخواست کنند، اطمینان حاصل میکنند که گام بعدی برنامه مناسب است و کار انجام شده تا کنون قابلقبول است. این لحظات کوچک تعامل انسانی میتواند به کاهش مشکلات مرورگرهای هوش مصنوعی عامل که به کلاهبرداریها میافتند، بدافزار دانلود میکنند یا بدتر، کمک کند.
طلوع جدیدی برای کلاهبرداران است
با یک رده کامل از کلاهبرداریهای جدید برای کار کردن
مرورگرهای هوش مصنوعی تغییراتی را در هدف کلاهبردار ایجاد میکنند. هدف دیگر شما نیست — بلکه عامل شماست. و هماکنون، آن عامل بسیار بیش از حد اعتماد دارد.
با توجه به تحقیقات فوق که نشان داد این سیستمها بیش از ۹۰٪ صفحات فیشینگ را پذیرفتند و تقریباً تمام نشانههای مهندسی اجتماعی که یک شخص در چند ثانیه میتواند تشخیص دهد را از دست دادند، واضح است که نظارت انسانی بهطور قطعی ضروری است — حتی اگر گاهی انسانها همان نقطه ضعف باشند.