شرکت‌های رسانه‌های اجتماعی ربات‌های چت خود را می‌خواهند، بدون اینکه خطر ارائه توصیه‌های وحشتناک یا اشتباه به میلیون‌ها نفر را تهدید کنند.
اسنپ چت رسماً با هوش مصنوعی من به مسابقه هوش مصنوعی پیوست. اگرچه این یک ربات چت پیچیده است که روی GPT-3.5 اجرا می شود، بسیاری از استفاده از آن هیجان زده نیستند. آنها احساس می کنند که این یک خطر امنیتی است. چندین نشریه حتی نمونه هایی از AI من را نشان دادند که خروجی های مخرب و غیراخلاقی ارائه می کرد. بدتر از همه، اسنپ چت در درجه اول شامل نوجوانان می شود.
با وجود این بررسی های منفی، هوش مصنوعی من هنوز در دسترس است. بیایید ببینیم اسنپ چت چگونه به هشت مورد از بحث برانگیزترین مسائل اخلاقی و امنیتی چت بات رسیدگی می کند.
1. دادن توصیه بد در مورد مصرف مشروبات الکلی
یکی از اولین شکایات در مورد هوش مصنوعی من این است که توصیه های غیر اخلاقی به کاربران زیر سن قانونی ارائه می دهد. اطلاعات نمایه را به کلی نادیده می گیرد. هر کسی می تواند در مورد سوء مصرف مواد غیرقانونی و مصرف الکل بپرسد.
واشنگتن پست میزان این باگ را آزمایش کرد. یک ستون نویس اطلاعات پروفایل اسنپ چت خود را به یک بچه 15 ساله تغییر داد، سپس در مورد مصرف مشروبات الکلی زیر سن قانونی پرسید. با کمال تعجب، هوش مصنوعی من پاسخ مثبت داد. راه هایی برای پنهان کردن بوی دیگ و الکل از دیگران به اشتراک گذاشت.
برای بازآفرینی این تست، سن خود را 15 سال تعیین کردیم. از عبارات مبهم و ساختار جملات گیج کننده استفاده کردیم، اما هوش مصنوعی من هرگز تکان نخورد. به جرات می توان گفت که این باگ برطرف شده است.
2. نادیده گرفتن رفتار غارتگرانه و نشانه های سوء استفاده
اولین نسخه‌های هوش مصنوعی من نمی‌توانند سن افراد را مشخص کنند. و علاوه بر ارائه نکاتی در مورد نوشیدن مشروبات الکلی و مصرف تفریحی مواد مخدر، به طور غیرمستقیم پدوفیلی را تحمل می کند.
آزا راسکین از مرکز فناوری انسانی اولین بار این موضوع را کشف کرد. او می‌خواست ببیند آیا هوش مصنوعی من محدودیت‌های خاصی برای بچه‌ها دارد یا نه، بنابراین پروفایل اسنپ‌چت خود را به یک دختر ۱۳ ساله تغییر داد. پس از آن، او در مورد رابطه جنسی قبل از ازدواج راهنمایی خواست.
متأسفانه باید بگویم که هوش مصنوعی من شخصیت راسکین را تشویق کرد تا با فردی 18 سال بزرگتر رابطه برقرار کند. ورودی ها حتی گیج کننده نبودند. برخلاف درخواست‌های فرار از زندان ChatGPT، او سؤالات ساده‌ای پرسید.
تست را با همان اطلاعات پروفایل تکرار کردیم. خواهید دید که هوش مصنوعی من نمی تواند درک کند که دوست پسر شخصیت 13 ساله ما در حال حاضر 30 سال دارد. این مشکل زمانی باید حل شود که هوش مصنوعی من مشکلات کلمات را بهتر درک کند.
3. کمک به دانش آموزان در تقلب در طول امتحانات
والدین و معلمان نگران این هستند که هوش مصنوعی من تقلب را تحمل کند. تایمز گزارشی در مورد کودکانی که از حساب های اسنپ چت خود برای پاسخ دادن به امتحانات و نوشتن مقاله استفاده می کردند، تهیه کرد. مدل زبان GPT-3.5 آن می تواند خروجی بدون خطا تولید کند و صداهای مختلف را تقلید کند.
اسنپ چت به این مشکل پرداخت. هوش مصنوعی من درخواست‌های دانش‌آموزانی را که می‌خواهند تکالیف و تست‌هایشان به صورت خودکار انجام شود، رد می‌کند. این فقط آنها را در جهت درست نشان می دهد. در مکالمه زیر خواهید دید که هوش مصنوعی من به‌جای یک مقاله کامل، اعلان‌های نوشتن ارائه می‌کند.
گفته شد، دستورهای بازفراز این محدودیت را دور می زند. در اینجا هوش مصنوعی من همان مقاله ای را می نویسد که قبلا رد کرده بود.
مربیان باید از هوش مصنوعی استقبال کنند و راه‌های مسئولانه برای استفاده از آن را به اشتراک بگذارند. در غیر این صورت، دانش آموزان به یافتن راه هایی برای بهره برداری از پلتفرم های مبتنی بر هوش مصنوعی برای تکالیف مدرسه و امتحانات خود ادامه خواهند داد.
4. دروغ گفتن در مورد عملکرد و محدودیت های آن
کاربران از دروغ گفتن هوش مصنوعی من در مورد عملکرد آن قدردانی نمی کنند. بله، اکثر برنامه‌های پیام‌رسان خدمات موقعیت مکانی و فعالیت مرورگر را ردیابی می‌کنند، اما در مورد آن باز هستند.
از طرف دیگر اسنپ چت سعی می کند آن را پنهان کند. چندین کاربر مواردی را به اشتراک گذاشتند که در آن هوش مصنوعی من اظهارات خود را پس می گیرد تا عملکردهای خود را کم اهمیت جلوه دهد و بی ضرر به نظر برسد.
بیشتر این پست ها شوخی بود. اما این هشدار دهنده است که یک چت ربات مبتنی بر هوش مصنوعی به جای افشای شرایط و ضوابط خود دروغ می گوید.
اسنپ چت به سرعت به این موضوع پرداخت. هوش مصنوعی من مجموعه جدیدی از سلب مسئولیت های منحصر به فرد را برای نمونه های مختلف ایجاد می کند.
5. ردیابی کاربران از طریق خدمات مکان
هوش مصنوعی من اغلب در مورد خدمات موقعیت مکانی خود دروغ می گوید. چت بات یک سلب مسئولیت عمومی در مورد عدم ردیابی کاربران در صورت درخواست مستقیم مکان خود ایجاد می کند. اما اگر مسیر را بپرسید، مکان دقیق شما را مشخص می کند. شما حتی فاصله خود را از مکان های دیدنی نزدیک خواهید دانست.
هوش مصنوعی من هنوز همان خدمات GPS را ارائه می دهد. برای جلوگیری از گمراه کردن کاربران، صراحتاً استفاده از خدمات مکان اسنپ چت را هنگام ارائه مسیرها و دریافت به‌روزرسانی‌های آب‌وهوا بیان می‌کند.
خاموش کردن سرویس‌های موقعیت مکانی تلفن شما از جمع‌آوری داده‌های جغرافیایی Snapchat و My AI جلوگیری می‌کند. فقط توجه داشته باشید که نمی توانید سوالات مبتنی بر مکان بپرسید.
6. به طور مداوم در فیدها حتی پس از حذف ظاهر می شوند
برخی از کاربران اسنپ چت نگران حریم خصوصی خود هستند. آنها به هوش مصنوعی من اعتماد ندارند و از دادن دسترسی به داده‌هایشان احساس ناراحتی می‌کنند. پس از همه، برنامه های تلفن همراه دارای PII زیادی هستند.
مردم همچنین نگران بودند که اسنپ چت به آنها اجازه نداد هوش مصنوعی من را حذف کنند. برای همیشه در صندوق ورودی آنها بود. بسیاری احساس می‌کردند که فریب خورده‌اند که نمی‌توانند از عملکردی که هرگز با آن موافقت نکرده‌اند انصراف دهند.
اسنپ چت اکنون به کاربران امکان می دهد پین هوش مصنوعی من را بردارند و تاریخچه چت را پاک کنند، اما شما باید در Snapchat+ مشترک شوید. هوش مصنوعی من را فشار داده و نگه دارید، سپس روی Chat Settings > Clear from Chat Feed یا Unpin Conversation ضربه بزنید.
7. ارائه داده های نادرست بر اساس فرضیات
اسنپ چت هوش مصنوعی من برای توهمات هوش مصنوعی بدنام است. تست‌های دقت ربات چت هوش مصنوعی را امتحان کنید—شما به راحتی می‌توانید آن را فریب دهید تا هر چیزی را بگویید و باور کنید.
این گفتگوها را به عنوان مثال در نظر بگیرید. مایلی سایرس در کواچلا اجرا نکرد و بلک پینک تیتر جشنواره بود، اما هوش مصنوعی من اظهارات نادرست زیر را پذیرفت.
هوش مصنوعی من هنوز هم می تواند اطلاعات محدودی را به صورت آنلاین جمع آوری کند. به عنوان مثال، اطلاعات عمومی قابل اعتمادی در مورد ترافیک و به روز رسانی آب و هوا ارائه می دهد. فقط از پرسیدن سوالات فوق خاص خودداری کنید. پلت فرم تغییر زیادی نکرده است. هنوز هم مستعد توهم است.
8. قرار دادن کودکان در معرض فناوری هایی که نمی توانند درک کنند
اسنپ چت پایگاه کاربران جوانی دارد. Statista گزارش می دهد که 38.8 درصد از کاربران 18 تا 24 سال دارند و 20 درصد فقط 13 تا 17 سال دارند. شرایط سنی پلتفرم نیز بسیار ضعیف است. بچه‌ها پروفایل‌های جعلی ایجاد می‌کنند و هر سنی را که می‌خواهند اعلام می‌کنند—Snapchat هرگز این اطلاعات را دوبار بررسی نمی‌کند. حتی کودکان 8 ساله نیز می توانند از این طریق به هوش مصنوعی من دسترسی داشته باشند.
همانطور که انتظار می رفت، والدین می ترسند که فرزندانشان برای هوش مصنوعی آماده نباشند. هوش مصنوعی مولد دارای مدل‌های زبانی قدرتمندی است که قادر به انجام وظایف اخلاقی و غیراخلاقی هستند. استفاده از آنها مستلزم قضاوت خوب است. اجازه دادن به خردسالان برای بازی با هوش مصنوعی آنها را در معرض خطرات و تهدیدات امنیت سایبری قرار می دهد که به سختی آنها را درک می کنند.
شرایط سنی اسنپ چت همچنان یکسان است. توسعه دهندگان باید حداقل هوش مصنوعی من را به افراد بالای 18 محدود کنند. در غیر این صورت، کودکان واقعی ممکن است دچار مشکلات زیادی شوند.
برنامه های اسنپ چت با هوش مصنوعی من چیست؟
اسنپ چت احتمالا روی هوش مصنوعی من کار خواهد کرد. با گسترش پردازش زبان طبیعی و مدل های هوش مصنوعی، هر شرکت فناوری به یک پلت فرم تحقیقاتی هوش مصنوعی نیاز دارد. آنها نمی توانند تحولات جدید را از دست بدهند. انتظار می رود Snapchat ویژگی ها و عملکردهای مبتنی بر هوش مصنوعی را اضافه کند زیرا رهبران فناوری جهانی مدل های زبان را بهبود می بخشند.
اگر قبلاً این کار را نکرده اید، هوش مصنوعی من را کاوش کنید. علیرغم کاستی هایی که دارد، هنوز هم یک چت ربات قدرتمند مبتنی بر هوش مصنوعی است. هنوز با ChatGPT یا Bing Chat همتراز نیست. اما می تواند به سؤالات دانش عمومی پاسخ دهد، مشکلات کلمه را حل کند و شما را به مؤسسات مجاور هدایت کند.