چت ربات جدید OpenAI به دلیل پاسخ های چشمگیرش توجه ها را به خود جلب کرده است، اما چقدر از آن قابل باور است؟ بیایید قسمت تاریک ChatGPT را بررسی کنیم.
ChatGPT یک چت ربات جدید و قدرتمند هوش مصنوعی است که به سرعت تحت تاثیر قرار می‌گیرد، با این حال بسیاری از مردم به این موضوع اشاره کرده‌اند که مشکلات جدی دارد. هر چیزی را که دوست دارید بپرسید، و پاسخی دریافت خواهید کرد که به نظر می رسد توسط یک انسان نوشته شده است، زیرا دانش و مهارت های نوشتاری خود را از حجم انبوه اطلاعات در سراسر اینترنت آموخته است.
درست مانند اینترنت، با این حال، حقیقت و حقایق همیشه مشخص نیستند و ChatGPT در اشتباه کردن آن مقصر است. با تنظیم ChatGPT برای تغییر آینده ما، در اینجا برخی از بزرگترین نگرانی ها وجود دارد.
ChatGPT چیست؟
ChatGPT یک مدل بزرگ یادگیری زبان است که برای تقلید از مکالمه انسان طراحی شده است. می تواند چیزهایی را که در گذشته به آن گفته اید به خاطر بیاورد و در صورت اشتباه می تواند خود را اصلاح کند.
به روشی شبیه انسان می نویسد و دانش فراوانی دارد زیرا در مورد انواع متن از اینترنت مانند ویکی پدیا، پست های وبلاگ، کتاب ها و مقالات دانشگاهی آموزش دیده است.
یادگیری نحوه استفاده از ChatGPT آسان است، اما چیزی که چالش برانگیزتر است، پیدا کردن بزرگترین مشکلات آن است. در اینجا برخی از آنها وجود دارد که ارزش دانستن آنها را دارد.
1. ChatGPT همیشه درست نیست
در ریاضیات پایه شکست می خورد، به نظر نمی رسد به سؤالات منطقی ساده پاسخ دهد، و حتی تا آنجا پیش می رود که حقایق کاملاً نادرست را استدلال می کند. همانطور که کاربران رسانه های اجتماعی می توانند تأیید کنند، ChatGPT می تواند در بیش از یک بار اشتباه کند.
OpenAI در مورد این محدودیت می‌داند و می‌نویسد: “ChatGPT گاهی اوقات پاسخ‌هایی با صدای معقول اما نادرست یا بی‌معنی می‌نویسد.” این “توهم” واقعیت و تخیل، همانطور که برخی از دانشمندان آن را می نامند، به ویژه در مورد چیزی مانند توصیه های پزشکی خطرناک است.
برخلاف سایر دستیاران هوش مصنوعی مانند سیری یا الکسا، Chat GPT از اینترنت برای یافتن پاسخ ها استفاده نمی کند. در عوض، یک جمله را کلمه به کلمه می‌سازد و بر اساس آموزش، محتمل‌ترین «نشانه» را انتخاب می‌کند.
به عبارت دیگر، ChatGPT با ایجاد یک سری حدس‌ها به یک پاسخ می‌رسد، که بخشی از دلیل آن است که می‌تواند پاسخ‌های اشتباه را طوری استدلال کند که گویی کاملاً درست هستند.
در حالی که در توضیح مفاهیم پیچیده عالی است، و آن را به ابزاری قدرتمند برای یادگیری تبدیل می کند، مهم است که هر چیزی را که می گوید باور نکنید. ChatGPT همیشه درست نیست – حداقل هنوز درست نیست.
2. تعصب در سیستم وجود دارد
ChatGPT بر روی نوشتن جمعی انسان ها در سراسر جهان، گذشته و حال آموزش دیده است. این بدان معنی است که همان سوگیری هایی که در داده ها وجود دارد، می تواند در مدل نیز ظاهر شود.
در واقع، کاربران نشان داده‌اند که چگونه ChatGPT می‌تواند پاسخ‌های وحشتناکی بدهد، به‌عنوان مثال، برخی از آنها تبعیض علیه زنان هستند. اما این فقط نوک کوه یخ است. می تواند پاسخ هایی را ارائه دهد که برای طیفی از گروه های اقلیت بسیار مضر است.
تقصیر فقط در داده ها نیست. محققان و توسعه دهندگان OpenAI داده هایی را انتخاب می کنند که برای آموزش ChatGPT استفاده می شود. برای کمک به رسیدگی به آنچه که OpenAI آن را “رفتار جانبدارانه” می نامد، از کاربران می خواهد که در مورد خروجی های بد بازخورد بدهند.
با احتمال آسیب رساندن به مردم، می توانید استدلال کنید که ChatGPT نباید قبل از مطالعه و حل این مشکلات برای عموم منتشر می شد.
یک ربات چت هوش مصنوعی مشابه به نام اسپارو (متعلق به شرکت مادر گوگل، آلفابت) در سپتامبر 2022 منتشر شد. با این حال، به دلیل نگرانی های مشابهی که می تواند باعث آسیب شود، پشت درهای بسته نگه داشته شد.
شاید متا هم باید این اخطار را رهبری می کرد. هنگامی که Galactica را منتشر کرد، یک مدل زبان هوش مصنوعی که بر روی مقالات آکادمیک آموزش داده شده بود، پس از اینکه بسیاری از افراد به دلیل ارائه نتایج اشتباه و مغرضانه از آن انتقاد کردند، به سرعت فراخوانی شد.
3. چالشی برای انگلیسی دبیرستان
می‌توانید از ChatGPT بخواهید نوشته‌های شما را تصحیح کند یا به نحوه بهبود یک پاراگراف اشاره کند. از طرف دیگر، می توانید خود را به طور کامل از معادله حذف کنید و از ChatGPT بخواهید چیزی برای شما بنویسد.
معلمان با دادن تکالیف انگلیسی به ChatGPT آزمایش کرده‌اند و پاسخ‌هایی دریافت کرده‌اند که بهتر از آنچه بسیاری از دانش‌آموزانشان می‌توانستند انجام دهند. ChatGPT می تواند بدون تردید این کار را از نوشتن نامه های پوششی گرفته تا توصیف موضوعات اصلی در یک اثر ادبی معروف انجام دهد.
این سؤال پیش می‌آید: اگر ChatGPT بتواند برای ما بنویسد، آیا دانش‌آموزان باید در آینده نوشتن را یاد بگیرند؟ ممکن است این یک سوال وجودی به نظر برسد، اما زمانی که دانش‌آموزان شروع به استفاده از ChatGPT برای کمک به نوشتن مقاله‌های خود می‌کنند، مدارس باید سریع به یک پاسخ فکر کنند. استقرار سریع هوش مصنوعی در سال های اخیر قرار است بسیاری از صنایع را شوکه کند و آموزش تنها یکی از آنهاست.
4. می تواند باعث آسیب به دنیای واقعی شود
پیش از این، اشاره کردیم که چگونه اطلاعات نادرست توسط ChatGPT می تواند باعث آسیب در دنیای واقعی شود، که بارزترین مثال آن توصیه های پزشکی غلط است.
نگرانی های دیگری نیز وجود دارد. حساب‌های جعلی شبکه‌های اجتماعی یک مشکل بزرگ در اینترنت ایجاد می‌کنند و با معرفی چت‌بات‌های هوش مصنوعی، انجام کلاهبرداری‌های اینترنتی آسان‌تر می‌شود. گسترش اطلاعات جعلی نگرانی دیگری است، به خصوص زمانی که ChatGPT حتی پاسخ های اشتباه را به طرز قانع کننده ای درست می کند.
سرعتی که ChatGPT می‌تواند پاسخ‌هایی تولید کند که همیشه درست نیستند، قبلاً برای Stack Exchange، وب‌سایتی که کاربران می‌توانند سؤالات ارسال کنند و پاسخ دریافت کنند، مشکلاتی ایجاد کرده است.
بلافاصله پس از انتشار، پاسخ های ChatGPT به دلیل اشتباه بودن تعداد زیادی از آنها از سایت ممنوع شد. بدون داوطلبان انسانی کافی برای مرتب سازی مطالب عقب افتاده، حفظ سطح بالایی از پاسخ های با کیفیت غیرممکن خواهد بود که باعث آسیب به وب سایت می شود.
5. OpenAI تمام قدرت را دارد
با قدرت زیاد، مسئولیت بزرگی به همراه دارد، و OpenAI قدرت زیادی دارد. این یکی از اولین شرکت‌های هوش مصنوعی است که نه یک، بلکه با چندین مدل هوش مصنوعی، از جمله Dall-E 2، GPT-3 و اکنون ChatGPT، واقعا دنیا را تکان داد.
OpenAI انتخاب می کند که از چه داده هایی برای آموزش ChatGPT استفاده شود و چگونه با عواقب منفی مقابله کند. چه با روش ها موافق باشیم یا نه، توسعه این فناوری را طبق اهداف خود ادامه خواهد داد.
در حالی که OpenAI ایمنی را اولویت بالایی می‌داند، چیزهای زیادی درباره نحوه ایجاد مدل‌ها نمی‌دانیم. چه فکر می‌کنید که کد باید منبع باز باشد، یا موافقید که باید بخش‌هایی از آن را مخفی نگه دارد، کار زیادی نمی‌توانیم در مورد آن انجام دهیم.
در پایان، تنها کاری که می‌توانیم انجام دهیم این است که اعتماد کنیم که OpenAI به طور مسئولانه در مورد ChatGPT تحقیق، توسعه و استفاده خواهد کرد. از طرف دیگر، ما می‌توانیم از افراد بیشتری حمایت کنیم تا بتوانند نظر خود را در کدام سمت و سوی هوش مصنوعی داشته باشند و قدرت هوش مصنوعی را با افرادی که از آن استفاده خواهند کرد به اشتراک بگذارند.
اگر به آنچه OpenAI توسعه داده است علاقه دارید، مقالات ما را در مورد نحوه استفاده از Dall-E 2 و نحوه استفاده از GPT-3 بررسی کنید.
مقابله با بزرگترین مشکلات هوش مصنوعی
با ChatGPT، آخرین توسعه OpenAI، چیزهای زیادی برای هیجان زده شدن وجود دارد. اما فراتر از کاربردهای فوری آن، برخی مشکلات جدی وجود دارد که ارزش درک دارد.
OpenAI اذعان می‌کند که ChatGPT می‌تواند پاسخ‌های مضر و مغرضانه ایجاد کند، بدون اینکه به توانایی آن در ترکیب واقعیت با داستان اشاره کنیم. با چنین فناوری جدیدی، پیش بینی اینکه چه مشکلات دیگری به وجود خواهد آمد دشوار است. بنابراین تا آن زمان، از کاوش ChatGPT لذت ببرید و مراقب باشید هر آنچه را که می گوید باور نکنید.