ChatGPT در بیان کلمات عالی است، اما آیا می تواند نثر خود را تشخیص دهد؟
پس از راه اندازی ChatGPT در نوامبر 2022، چت ربات فوق العاده هوش مصنوعی به عنوان یکی از قابل اعتمادترین ابزارهای نوشتن در اینترنت ظاهر شد. استفاده از آن ساده است. آنچه را که باید نوشته شود، توصیف کنید و ChatGPT آن را در عرض چند ثانیه روی صفحه چاپ می کند.
با این حال، در دورانی که متن تولید شده توسط هوش مصنوعی به عنوان نوشته شده توسط انسان منتقل می‌شود و برای به دست آوردن مزیت غیرمنصفانه استفاده می‌شود، شناسایی محتوای هوش مصنوعی بسیار مهم است. اما ChatGPT نمی‌تواند محتوای هوش مصنوعی، حتی کار خودش را دقیقاً تشخیص دهد – اما چرا؟
آیا تفاوتی بین متن هوش مصنوعی و نوشتار انسانی وجود دارد؟
پیش شرط ChatGPT برای شناسایی نوشته های خود یا هر متنی که توسط هوش مصنوعی ایجاد شده است این است که باید بین آن و متن نوشته شده توسط انسان تفاوت وجود داشته باشد. بنابراین، آیا تفاوت قابل توجهی بین متن نوشته شده توسط انسان و محتوای تولید شده توسط هوش مصنوعی وجود دارد؟ اگر وجود داشته باشد، مطمئناً ابزاری مانند ChatGPT باید بتواند آن را تشخیص دهد.
ما یک داستان کوتاه بدون هیچ ورودی از هیچ ابزار هوش مصنوعی نوشتیم و سپس از ChatGPT پرسیدیم که آیا داستان محتوایی نوشته شده با هوش مصنوعی است یا خیر. ChatGPT با اطمینان آن را به عنوان یک متن تولید شده توسط هوش مصنوعی پرچم گذاری کرد.
سپس از ChatGPT خواستیم یک داستان تولید کند، و در همان رشته چت، متن تولید شده را کپی پیست کردیم و از ChatGPT پرسیدیم که آیا متن با هوش مصنوعی ایجاد شده است یا خیر. پاسخ ChatGPT؟ یک “نه” مطمئن
ChatGPT در شناسایی متن نوشته شده توسط انسان یا AI در هر دو مورد شکست خورد. پس چگونه است که ChatGPT نمی تواند متن خود را تشخیص دهد؟ آیا این بدان معنی است که هیچ تفاوتی بین AI و متن انسانی وجود ندارد؟
خوب، وجود دارد. ما می‌توانیم یک کتاب کامل درباره تفاوت بین این دو بنویسیم، اما اهمیت زیادی نخواهد داشت. بنابراین، اگر تفاوتی وجود دارد، چرا ChatGPT یا هر ابزار هوش مصنوعی دیگری نمی‌تواند این تفاوت‌ها را شناسایی کند و به طور دقیق به متن تولید شده توسط هوش مصنوعی از متن نوشته شده توسط انسان اشاره کند؟ پاسخ در نحوه کار ChatGPT و نحوه تولید متن نهفته است.
چگونه ChatGPT متن تولید می کند
وقتی از ChatGPT می‌خواهید متنی را تولید کند، سعی می‌کند فرآیند نوشتن انسان را تقلید کند. اولاً، مدل پشت ChatGPT – ترانسفورماتور پیش‌آموزشی مولد (GPT) – بر روی مجموعه بزرگی از متن انسانی آموزش داده شده است. همه چیز از ایمیل ها، مقالات بهداشتی، مقالات فنی، مقالات دبیرستانی، و تقریباً هر متنی که می توانید به صورت آنلاین پیدا کنید، در طول آموزش به مدل داده شده است. بنابراین ChatGPT درک می کند که هر یک از این نوع متون چگونه باید نوشته شوند.
اگر از ChatGPT بخواهید برای رئیس خود ایمیل بنویسد، می داند که یک ایمیل با این ماهیت چگونه باید باشد زیرا در مورد ایمیل های مشابه آموزش دیده است – احتمالاً هزاران ایمیل. به همین ترتیب، اگر از او بخواهید انشا دبیرستانی بنویسد، می‌داند که یک انشای دبیرستان چگونه باید به نظر برسد. ChatGPT سعی می‌کند هر آنچه را که می‌خواهید بنویسد، به روشی که یک انسان می‌نویسد.
اما یک گرفتاری وجود دارد. برخلاف نحوه نوشتن انسان ها، ChatGPT واقعاً آنچه را که یک انسان می نویسد، درک نمی کند. در عوض، ربات چت سعی می‌کند تا پیش‌بینی کند که معقول‌ترین کلمه بعدی در یک جمله چیست تا زمانی که نوشتن کامل شود.
چگونه ChatGPT با پیش بینی می نویسد
فرض کنید از ChatGPT می‌خواهید داستانی درباره شهری خیالی به نام Volkra بنویسد. این احتمال وجود دارد که چت بات داستان را با عبارت “یک بار” آغاز کند. این به این دلیل است که چت بات به تنهایی فکر نمی کند، بلکه سعی می کند پیش بینی کند که یک انسان بر اساس آنچه از هزاران داستانی که در طول آموزش به او داده شده است، چه چیزی می نویسد.
بنابراین، با این باور که یک انسان احتمالا داستان را با کلمات “یک بار” آغاز می کند، ChatGPT سپس سعی می کند کلمه منطقی بعدی را پیش بینی کند که “a” و به دنبال آن “زمان” خواهد بود. بنابراین شما می توانید “روزی روزگاری…” را داشته باشید و سپس کلمه منطقی بعدی و بعدی را تا زمانی که داستان کامل شود، خواهید داشت. ChatGPT اساساً با پیش‌بینی اینکه چه کلمه‌ای به طور طبیعی (یا حداقل بیشترین احتمال را دارد) بعدی در یک جمله باشد و درج آن می‌نویسد.
بنابراین، هنگامی که یک ابزار هوش مصنوعی سعی می‌کند تشخیص دهد که آیا متنی با هوش مصنوعی تولید شده است یا خیر، یکی از معیارهایی که سعی می‌کند آن را بسنجید، قابل پیش‌بینی بودن متن است زیرا ابزارهای هوش مصنوعی با پیش‌بینی می‌نویسند. این معیار پیش بینی پذیری در اصطلاح هوش مصنوعی، گیجی نامیده می شود. اکنون، در کنار معیارهای دیگر، وقتی با یک متن ارائه می شود، ابزار هوش مصنوعی مانند ChatGPT سعی می کند متن را تجزیه و تحلیل کند تا میزان قابل پیش بینی بودن توالی کلمات یا جملات در متن را بسنجد. پیش بینی پذیری بیشتر یا گیجی کم معمولاً به این معنی است که متن احتمالاً با هوش مصنوعی تولید شده است. پیش بینی پذیری کمتر یا گیجی بیشتر معمولاً به این معنی است که متن احتمالاً توسط انسان نوشته شده است.
این معیارها، همراه با عوامل دیگری مانند میزان خلاقیت یک متن، متأسفانه برای اطمینان از اینکه آیا یک متن توسط ابزار هوش مصنوعی نوشته شده است یا خیر، کافی نیست. این به این دلیل است که انسان ها می توانند با واریانس بیشتری بنویسند، همانطور که در متن مثالی که برای نمایش در ابتدای این مقاله استفاده کردیم.
چت ربات های هوش مصنوعی مانند ChatGPT برای تقلید از زبان طبیعی انسان تا حد امکان طراحی شده اند. بنابراین در حالی که متن هوش مصنوعی ممکن است الگوهای قابل تشخیصی داشته باشد، این الگوها حتی برای ابزار قدرتمندی مانند ChatGPT چندان واضح نیستند. به همین دلیل است که ChatGPT نمی تواند نوشته های خود را تشخیص دهد، و همچنین به همین دلیل است که ابزارهای آشکارساز متن AI کار نمی کنند.
آیا ChatGPT نوشته های خود را در آینده تشخیص خواهد داد؟
در حال حاضر، ابزارهایی مانند ChatGPT نمی توانند تشخیص دهند که یک متن توسط خودش نوشته شده است یا هر ابزار هوش مصنوعی دیگری، زیرا هیچ الگوی واضح و قابل تشخیصی در محتوای تولید شده توسط هوش مصنوعی وجود ندارد. با این حال، این احتمال وجود دارد که این موضوع به زودی تغییر کند. با تلاش‌های شرکت‌هایی مانند ChatGPT برای معرفی واترمارک دیجیتال به محتوای تولید شده توسط ChatGPT، الگوی قابل تشخیص تری در متن تولید شده توسط ربات چت وجود خواهد داشت.