اسکرپرهای هوش مصنوعی بخش بزرگی از وب را زیر و رو میکنند تا داده لازم برای مدلها را جمع کنند. همین موضوع باعث شده بسیاری از نویسندگان، هنرمندان و صاحبان سایتها احساس کنند محتوایشان بدون رضایت وارد چرخه آموزش یا پاسخگویی سیستمهای هوش مصنوعی میشود. پاسخ تازه وب فقط بستن در نیست؛ بعضیها میخواهند غذای خراب جلوی رباتها بگذارند.
ایده کلی این است که بهجای مسدود کردن مستقیم خزندهها، آنها را با دادههای آلوده، مسیرهای بیپایان یا صفحات بیمعنا روبهرو کنیم. اگر این کار در مقیاس بزرگ انجام شود، شاید خروجی مدلها را خراب کند یا دستکم هزینه و زمان اسکرپینگ را بالا ببرد. اما واقعیت از شعار «مسموم کردن هوش مصنوعی» پیچیدهتر است و بیشتر شبیه یک مسابقه تسلیحاتی تازه در وب به نظر میرسد.
«مسمومسازی» قدرتمند به نظر میرسد، اما یک معنی واحد ندارد
دو مسیر اصلی وجود دارد: خراب کردن محتوا یا گرفتار کردن خزنده
در این بحث معمولاً با دو روش متفاوت روبهرو هستیم. روش اول content poisoning است؛ یعنی خود محتوا پیش از اسکرپ شدن دستکاری میشود تا مدل هنگام یادگیری از آن، الگوی نادرست یا داده خراب دریافت کند. نمونه مشهور این مسیر Nightshade است که نویز نامرئی را داخل آثار تصویری قرار میدهد تا مدل تصویر، سبک یا ارتباط بصری اشتباه را یاد بگیرد.
روش دوم tarpitting یا به دام انداختن خزنده است. در این حالت محتوای اصلی شما تغییر نمیکند؛ بلکه میان خزنده هوش مصنوعی و سایت، یک سد دفاعی قرار میگیرد که ربات را وارد هزارتویی از صفحات بیپایان و تصادفی میکند. هدف این است که ربات زمان، پهنای باند و توان پردازشی خود را صرف محتوایی کند که ارزشی برای آموزش مدل ندارد.
این تلهها معمولاً با نشانههایی مثل user-agent بد پیکربندیشده، الگوهای رفتاری غیرانسانی یا محدودههای IP شناختهشده برای خزندههای هوش مصنوعی فعال میشوند. با توجه به تعداد مدلهایی که هر روز وب را میکاوند، طبیعی است ابزارهای متعددی برای این نوع دفاع ساخته شده باشد.
ابزارهای شناختهشده این نبرد تازه
Nepenthes؛ هزارتویی برای رباتها
یکی از شناختهشدهترین تلهها Nepenthes نام دارد؛ اسمی برگرفته از یک گیاه گوشتخوار. سازنده آن، «Aaron B»، در گفتوگو با Ars Technica هشدار داده که این ابزار عملاً نوعی بدافزار برای هوش مصنوعی محسوب میشود و کاربر باید پیش از فعالسازی، با ماهیت آن راحت باشد.
Nepenthes ربات را وارد شبکهای از صفحههای بیمعنا میکند که هر کدام به صفحات بیمعنای بیشتری لینک میدهند. خزندهای که وارد این مسیر شود، مدام عمیقتر میرود و داده بیشتری میبلعد، اما در عمل به بنبست محتوایی میرسد. حتی صفحه نمایشی این پروژه هم عمداً کند است؛ بخشی از همان فلسفه اتلاف وقت.
Iocaine؛ پروکسی معکوس برای شناسایی دوباره خزنده
ابزار دیگر Iocaine است که بهصورت یک reverse proxy جلوی سایت قرار میگیرد. وقتی یک ربات اسکرپر شناسایی میشود، لینک مسموم ویژهای دریافت میکند. اگر همان ربات بعداً برگردد، Iocaine با منطق برنامهپذیر خود آن را دوباره تشخیص میدهد و مسیر آلوده را ادامه میدهد.
وبسایت Iocaine هم مانند Nepenthes تأکید میکند که استفاده از این ابزار میتواند ماهیتی مخرب داشته باشد. بنابراین این راهکارها فقط یک دکمه ساده برای «حفاظت از محتوا» نیستند؛ استفاده از آنها تصمیمی فنی، اخلاقی و تا حدی حقوقی است.
Cloudflare AI Labyrinth؛ نسخه محصولیشده همان ایده
این جریان فقط محدود به توسعهدهندگان مستقل نیست. Cloudflare ایده مشابهی را در قالب AI Labyrinth به محصول تبدیل کرده و آن را با پشتیبانی ناشرانی مثل AP، Condé Nast و Gannett عرضه کرده است. تفاوت مهم اینجاست که کاربر با یک گزینه در داشبورد روبهروست، نه پروژهای که باید خودش روی سرور نصب و تنظیم کند.
Cloudflare بهجای اینکه ربات را مستقیم مسدود کند و به اپراتور آن هشدار بدهد، خزنده را به هزارتویی از صفحات تولیدشده با هوش مصنوعی هدایت میکند. این کار هم منابع ربات را مصرف میکند و هم میتواند به شناسایی و اثرانگشتگیری از رباتهای بد کمک کند.
Cloudflare میگوید AI Labyrinth مثل نسل تازهای از honeypot عمل میکند: انسان واقعی چهار لینک در عمق هزارتویی از متن بیمعنا جلو نمیرود؛ اما رباتی که چنین کاری میکند، به فهرست بازیگران بد افزوده میشود.
همین پشتیبانی یک شرکت بزرگ فناوری باعث شده ایده تلهگذاری و مسمومسازی اسکرپرهای هوش مصنوعی جدیتر دیده شود. با این حال سؤال اصلی همچنان پابرجاست: آیا این روشها واقعاً مدلها را خراب میکنند یا فقط هزینه خزیدن را بالا میبرند؟
سازندگان محتوا و پلتفرمها همیشه از یک چیز محافظت نمیکنند
محتوای مسموم با فایل جابهجا میشود، تله با سرور میماند
مسمومسازی محتوا و tarpitting از بیرون شبیه هم به نظر میرسند، اما اثرشان یکسان نیست. اگر خود فایل یا اثر را مسموم کنید، آن محافظت همراه فایل حرکت میکند؛ حتی اگر اثر در جای دیگری کپی، بازنشر یا دوباره اسکرپ شود، داده دستکاریشده همچنان همراه آن است.
در مقابل، tarpitting معمولاً از کل سرور یا سرویس محافظت میکند. مزیتش این است که لازم نیست تکتک فایلها را دستکاری کنید و میتواند پوشش گستردهتری بدهد. اما وقتی یک فایل از سرور تلهگذاریشده خارج شد، دیگر آن سد دفاعی همراهش نیست.
Cloudflare AI Labyrinth تا حدی میان این دو جهان قرار میگیرد. از نظر فنی بیشتر یک تله زیرساختی شبیه Nepenthes است، اما بهعنوان قابلیتی ساده و آماده در اختیار صاحبان سایت قرار میگیرد. همین بستهبندی محصولی، احتمالاً دلیل گسترش سریعتر آن نسبت به ابزارهای مستقل است.
آیا مسمومسازی هوش مصنوعی واقعاً جواب میدهد؟
مشکل بزرگ، نبودن مدرک روشن است
در نگاه اول، مسموم کردن مدلهای هوش مصنوعی شبیه دفاعی قهرمانانه در برابر برداشت بیاجازه دادههاست. دلایل زیادی برای بدبینی نسبت به هوش مصنوعی مولد وجود دارد و سرقت یا برداشت بیاجازه محتوا یکی از مهمترین آنهاست. اما اثبات اینکه این روشها واقعاً چقدر روی مدلهای بزرگ اثر میگذارند، بسیار دشوار است.
سخنگوی OpenAI به Ars Technica گفته است: «ما از تلاشها برای مختل کردن خزندههای وب هوش مصنوعی آگاهیم. سیستمهای خود را طوری طراحی میکنیم که در عین احترام به robots.txt و رویههای استاندارد وب، تابآور باشند.»
بیشتر شرکتهای بزرگ درباره روش برخوردشان با دادههای مسموم توضیح زیادی نمیدهند. از طرف دیگر، Cloudflare شرکت Perplexity را متهم کرده که برای خزیدن در سایتها فایلهای robots.txt را نادیده گرفته و برای این ادعا شواهدی ارائه داده است. این یعنی حتی وقتی قواعد نوشته میشوند، اجرای آنها محل مناقشه است.
در مقیاس بزرگ، داده مسموم احتمالاً میتواند کیفیت مدل را پایین بیاورد؛ اما شرکتهای هوش مصنوعی هم داده خام اسکرپشده را بیواسطه وارد مدل نمیکنند. پاکسازی، فیلتر و ارزیابی داده بخشی از همین چرخه است و همین موضوع اثر مسمومسازی را سختتر قابل اندازهگیری میکند.
از نظر حقوقی هم tarpitting منطقهای خاکستری دارد. مالکان سایتها معمولاً درباره رفتار سرور خود تصمیم میگیرند، اما این بیشتر یک عرف فنی است تا حکم قطعی حقوقی. یک پرونده قضایی جدی میتواند برداشت فعلی از این روشها را تغییر دهد.
نتیجه این است که وب وارد مرحلهای تازه شده است: از یک سو ناشران و سازندگان محتوا ابزارهای دفاعی تهاجمیتر میخواهند، و از سوی دیگر شرکتهای هوش مصنوعی به دنبال خزیدن، پاکسازی و مقاومسازی دادهاند. مسمومسازی شاید پاسخ نهایی نباشد، اما نشان میدهد دوران اسکرپینگ بیهزینه و بیپاسخ رو به پایان است.
منبع: این مطلب یک بومیسازی و بازنویسی تحریریهای بر اساس مقالهای از MakeUseOf است: مشاهده مقاله اصلی.