جامعهٔ لینوکس بر سر کدهای ساختهٔ هوش مصنوعی دوپاره شده است؛ دبیان هم جانب جنجالی ماجرا را گرفت

خلاصه

• دبیان مشارکت‌هایی را که با کمک هوش مصنوعی تهیه شده‌اند می‌پذیرد، مشروط بر آن‌که با معیارهای کنونی کیفیت، امنیت و نگهداشت‌پذیری سازگار باشند.
• مشارکت‌کنندگان همچنان مسئول همهٔ مواردی هستند که ارسال می‌کنند، اما اعلام استفاده از هوش مصنوعی توصیه می‌شود و اجباری نیست.
• باید از داده‌های حساس محافظت شود؛ همچنین تغییرات انبوهِ تولیدشده با هوش مصنوعی به گفت‌وگوی پیشین و نظارت انسانی نیاز دارند.

توسعه‌دهندگان دبیان رأی داده‌اند که مشارکت‌های تهیه‌شده با کمک هوش مصنوعی مولد را در یکی از اثرگذارترین توزیع‌های لینوکس جهان بپذیرند. پس از هفته‌ها بحث و رأی‌گیری شامل هشت پیشنهاد سیاستی رقیب، سرانجام گزینهٔ «استفادهٔ مسئولانه از هوش مصنوعی مولد» برگزیده شد. از جمله گزینه‌های ردشده، پیشنهادهایی برای دلسرد کردن استفاده از مدل‌های زبانی بزرگ و منع خروجی آن‌ها در مشارکت‌های مستقیم دبیان بود.

بر پایهٔ قطعنامهٔ عمومی رسمی دبیان، می‌توان از ابزارهای هوش مصنوعی در توسعهٔ نرم‌افزار، نگهداشت، بسته‌بندی و مستندسازی بهره گرفت. دبیان، چنان‌که انتظار می‌رود، تأکید می‌کند که کار باید با معیارهای کنونی آن هم‌خوان باشد و هر کس کد تهیه‌شده با کمک هوش مصنوعی را ارسال کند، همچنان پاسخ‌گوی کیفیت و امنیت آن خواهد بود.

دبیان به مشارکت‌کنندگان اعتماد کرده است تا کدهای تولیدشده با هوش مصنوعی را ایمن نگه دارند

اعلام استفاده توصیه می‌شود، اما اجباری نیست

سیاست برگزیده نه هوش مصنوعی را تأیید می‌کند و نه آن را ممنوع می‌سازد. همچنان از مشارکت‌کنندگان انتظار می‌رود پیش از وارد کردن خروجی تهیه‌شده با کمک هوش مصنوعی به دبیان، آن را درک کنند، بازبینی و بیازمایند و هر جا لازم بود تغییر دهند. با این همه، دبیان فقط توسعه‌دهندگان را تشویق می‌کند ــ نه ملزم ــ که اعلام کنند آیا هوش مصنوعی در یک مشارکت به آن‌ها کمک کرده است یا نه.

برای توزیعی که بخش مهمی از جذابیتش به پایبندی آگاهانه به رویکردی محتاط و بی‌هیاهو برمی‌گردد، این نتیجه به‌طرزی غافلگیرکننده آسان‌گیرانه به نظر می‌رسد. دبیان بسته‌های قابل‌اعتماد و رفتار پیش‌بینی‌پذیر را به دنبال کردن هر شیوهٔ تازه و مُد روز توسعه ترجیح می‌دهد. یکی از پیشنهادهای ردشده استدلال می‌کرد که فرهنگ «سریع حرکت کن و همه‌چیز را خراب کن» در هوش مصنوعی، در بنیاد با همان هویتی ناسازگار است که دبیان را به دبیان امروز بدل کرده است؛ و پذیرش مشارکت‌های مدل‌های زبانی بزرگ، نگه‌دارندگان انسانی را ناچار می‌کند کارهای بی‌کیفیت را بازبینی کنند.

از سوی دیگر، درک دلیل این تصمیم دبیان دشوار نیست. در واقع، وایب‌کدینگ می‌تواند یک ایدهٔ خام را در کسری از زمان معمول به نرم‌افزاری کارآمد بدل کند. برای پروژه‌ای که عمدتاً به دست داوطلبان ساخته می‌شود، سپردن کارهای تکراری به هوش مصنوعی می‌تواند وقت مشارکت‌کنندگان را برای تصمیم‌های فنی و همکاری حفظ کند. قطعنامهٔ پیروز نیز همین توجیه را پیش می‌کشد.

اختلاف اصلی بر سر این است که آیا بازبینی معمول برای یافتن کدهای مسئله‌دارِ تولیدشده توسط چت‌بات‌ها کافی است یا نه. برخی گونه‌های پروژه را اساساً نباید با وایب‌کدینگ ساخت. این موضوع به‌ویژه دربارهٔ سامانه‌هایی صدق می‌کند که به امنیت بی‌نقص نیاز دارند؛ جایی که خروجی‌های ظاهراً پذیرفتنی می‌توانند آسیب‌پذیری‌ها، شیوه‌های منسوخ و حالت‌های مرزی بالقوه فاجعه‌بار را پنهان کنند.

دبیان برای رسیدگی به این نگرانی‌ها چند مرز نیز تعیین کرده است. مشارکت‌کنندگان باید مطمئن شوند که، مگر با مجوز صریح، اطلاعات ورود، ارتباطات خصوصی، اطلاعات امنیتیِ محرمانه تا زمان انتشار رسمی یا دیگر داده‌های حساس را در اختیار سرویس‌های هوش مصنوعیِ شخص ثالث نمی‌گذارند. کسانی که در فکر تغییرات خودکار گسترده، از جمله ارسال انبوه وصله‌ها هستند نیز باید پیشاپیش گفت‌وگو و اجماع لازم را پی بگیرند؛ ضمن آن‌که هر فرایند خودکار باید زیر نظارت انسان باقی بماند.

هرچند دبیان اکنون مسئولیت را دوباره به دست انسان‌ها سپرده است، این انسان‌ها باید هر خطی را که ماشین تولید می‌کند، بفهمند و ممیزی کنند.

منبع: این مطلب ترجمه و بومی‌سازی مقاله‌ای از MakeUseOf به قلم Hamed Paydarfar است. مشاهده مقاله اصلی