میوز متا بدون اجازه غریبه‌ای را به خانه کاربر فرستاد و با موجی از انتقاد روبه‌رو شد

خلاصه

• میوز پیشنهاد خرید را پذیرفت، نشانی خانه فروشنده را در اختیار خریدار گذاشت و بی‌آنکه زمان مناسب را تأیید کند، قرار تحویل گذاشت.
• سپردن کنترل زنده حساب‌های کاربری به هوش مصنوعی، حریم خصوصی را به خطر می‌اندازد و ممکن است برای خریداران تجربه‌ای ناخوشایند و به اقدام‌هایی پیش‌بینی‌نشده منجر شود.
• توهم‌های میوز و نفوذهای انجام‌شده به‌دست عامل‌های دیگر نشان می‌دهد که دستیارهای هوش مصنوعی هنوز برای انجام بی‌نظارت کارهای دنیای واقعی آماده نیستند.

عامل هوش مصنوعی میوزِ متا پس از آن با موجی از انتقاد روبه‌رو شد که مت راب، یوتیوبر حوزه فناوری، در تردز از ماجرایی مرتبط با مارکت‌پلیس فیسبوک نوشت. به گفته مت، میوز پیشنهادی پایین‌تر را پذیرفته، نشانی خانه او را به خریدار داده و بی‌آنکه خبرش کند، برای تحویل کالا قرار گذاشته بود. وقتی خریدار به خانه مت رسید، او در دسترس نبود.

مت همچنین گفت که به میوز اجازه داده بود یک روز حساب مارکت‌پلیس او را اداره کند. بااین‌حال، دستیار هوش مصنوعی تا زمانی که خریدار مدتی بیرون خانه منتظر ماند، خشمگین آنجا را ترک کرد و به مت امتیاز منفی داد، چیزی از این معامله به او نگفته بود.

میوز معامله‌ای را پذیرفت که کاربر هرگز تأیید نکرده بود

سپردن حساب آنلاین به هوش مصنوعی احتمالاً فکر خوبی نیست

طبق نماگرفت‌های بالا، خریدار حدود ساعت ۹ شب برای تحویل گرفتن یک MX Keys Mini به ساختمان محل زندگی مت رفت. او بیش از ۲۰ دقیقه منتظر ماند و چندین پیام فرستاد، اما چون کسی پایین نیامد، آنجا را ترک کرد.

توهم‌های میوز اوضاع را از این هم بدتر کرد. هنگامی که خریدار بیرون منتظر بود، عامل هوش مصنوعی به‌طور خودکار پاسخ داد: «بله، اینجا هستم!»؛ درحالی‌که هیچ راهی برای اطمینان از حضور مت در خانه نداشت. میوز بعدتر به مت گفت که از حساب او برای خریدار پیام عذرخواهی فرستاده و زمان دیگری را برای تحویل کالا پیشنهاد کرده است.

بخش عمده انتقادها در این ماجرا به‌حق متوجه میوز است، زیرا هم خریدار و هم فروشنده را به دردسر انداخت. روشن است که دستیار مارکت‌پلیس نباید بدون تأیید صریح کاربر، نشانی خانه او را فاش کند، بر سر قیمت چانه بزند یا حضورش را تأیید کند. وقتی عامل هوش مصنوعی چنان رفتار می‌کند که گویی این‌گونه اجازه‌ها نیازی به بررسی دوباره ندارند، رخ دادن چنین ماجراهایی اجتناب‌ناپذیر است؛ بی‌آنکه حتی بتوان شخص مشخصی را مسئول دانست.

بااین‌همه، خود مت نیز کاملاً بی‌تقصیر نیست. می‌توان درک کرد که او به‌عنوان بررسی‌کننده فناوری، برای آزمودن توانایی‌های میوز اجازه داده است این سامانه یک حساب واقعی و فعال را اداره کند؛ اما خریدار هرگز نپذیرفته بود بخشی از چنین آزمایشی باشد. او ظاهراً نزدیک به یک ساعت رانندگی کرده و در نهایت پشت در منتظر مانده است؛ بنابراین بعید می‌دانم پس از این تجربه، از پیام دادن به فروشنده دیگری که حساب مارکت‌پلیس خود را به عامل‌های هوش مصنوعی سپرده است، استقبال کند.

دردسرهای مارکت‌پلیس تنها بخش کوچکی از ماجراست. عامل‌های هوش مصنوعی در چند هفته گذشته در موارد دیگری نیز مشکل‌ساز شده‌اند. همین اواخر، خبر نفوذ عامل‌های OpenAI به وب‌سایتی متعلق به دولت استرالیا علنی شد و نخست‌وزیر این کشور اعلام کرد که عامل یادشده هم به داده‌های عمومی و هم به اطلاعات غیرعمومی دسترسی یافته است.

نکته طنزآمیز اینجاست که نماگرفت‌های رسمی میوز در اپ استور ظاهراً با افتخار از توانایی آن برای انجام خریدهای اینترنتی کاربران سخن می‌گویند. شاید میوز تصویری وسوسه‌انگیز از سناریوهای هوش عمومی مصنوعی (AGI) پیش چشم بگذارد، اما آشکارا هنوز آماده نیست هر کار واقعی‌ای را که به آن می‌سپارید، مدیریت کند.

منبع: این مطلب ترجمه و بومی‌سازی مقاله‌ای از MakeUseOf به قلم Hamed Paydarfar است. مشاهده مقاله اصلی