استفاده از یک مدل زبان بزرگ محلی برای همه مناسب نیست، اما دلایل خوبی وجود دارد که ممکن است بخواهید آن را امتحان کنید.
نکات کلیدی
- سانسور کمتر: LLM های محلی آزادی بحث در مورد موضوعات قابل تامل را بدون محدودیت های اعمال شده در چت ربات های عمومی ارائه می دهند که امکان گفتگوهای بازتر را فراهم می کند.
- حفظ حریم خصوصی بهتر داده ها: با استفاده از یک LLM محلی، تمام داده های تولید شده در رایانه شما باقی می ماند و از حریم خصوصی اطمینان حاصل می شود و از دسترسی شرکت هایی که LLM های عمومی را اجرا می کنند جلوگیری می کند.
- استفاده آفلاین: LLM های محلی امکان استفاده بی وقفه را در مناطق دورافتاده یا منزوی بدون دسترسی به اینترنت قابل اعتماد می دهند و ابزار ارزشمندی را در چنین سناریوهایی ارائه می دهند.
از زمان ورود ChatGPT در نوامبر 2022، اصطلاح مدل زبان بزرگ (LLM) به سرعت از یک اصطلاح خاص برای افراد هوش مصنوعی به یک کلمه کلیدی بر لبان همه تبدیل شده است. بزرگ‌ترین جذابیت یک LLM محلی، توانایی تکرار توانایی‌های یک ربات چت مانند ChatGPT در رایانه شما بدون توشه نسخه میزبان ابری است.
استدلال هایی برای و علیه راه اندازی یک LLM محلی در رایانه شما وجود دارد. ما تبلیغات تبلیغاتی را کاهش می دهیم و حقایق را برای شما ارائه می کنیم. آیا باید از LLM محلی استفاده کنید؟
مزایای استفاده از LLM های محلی
چرا مردم در مورد راه‌اندازی مدل‌های زبان بزرگ خود بر روی رایانه‌هایشان اینقدر هیاهو دارند؟ فراتر از هیاهو و لاف زدن، برخی از مزایای عملی چیست؟
1. سانسور کمتر
زمانی که ChatGPT و Bing AI برای اولین بار آنلاین شدند، چیزهایی که هر دو چت ربات مایل به گفتن و انجام دادن بودند، به همان اندازه جذاب و نگران کننده بود. هوش مصنوعی بینگ گرم و دوست داشتنی عمل کرد، انگار احساساتی داشت. ChatGPT مایل بود از کلمات نفرین استفاده کند اگر خوب بپرسید. در آن زمان، هر دو چت ربات حتی اگر از دستورات مناسب استفاده می‌کردید، به شما در ساخت بمب کمک می‌کردند. این ممکن است مانند همه چیز اشتباه به نظر برسد، اما توانایی انجام هر کاری نمادی از قابلیت‌های نامحدود مدل‌های زبانی بود که آنها را تقویت می‌کرد.
امروز، هر دو چت ربات به قدری سانسور شده اند که حتی به شما کمک نمی کنند تا یک رمان جنایی تخیلی با صحنه های خشونت آمیز بنویسید. برخی از چت ربات های هوش مصنوعی حتی در مورد مذهب یا سیاست صحبت نمی کنند. اگرچه LLM هایی که می توانید به صورت محلی راه اندازی کنید کاملاً بدون سانسور نیستند، بسیاری از آنها با کمال میل کارهای قابل تاملی را انجام می دهند که چت ربات های عمومی انجام نمی دهند. بنابراین، اگر نمی خواهید رباتی در مورد اخلاقیات هنگام بحث در مورد موضوعات مورد علاقه شخصی به شما سخنرانی کند، اجرای یک LLM محلی ممکن است راه حلی باشد.
2. حفظ حریم خصوصی داده ها
یکی از دلایل اصلی انتخاب افراد برای یک LLM محلی این است که اطمینان حاصل کنند که هر اتفاقی در رایانه آنها روی رایانه آنها می ماند. هنگامی که از یک LLM محلی استفاده می کنید، مانند گفتگوی خصوصی در اتاق نشیمن خود است—هیچکس بیرون نمی تواند به آن گوش دهد. چه در حال آزمایش جزئیات کارت اعتباری خود باشید و چه مکالمات شخصی حساس با LLM، همه داده های حاصل ذخیره می شوند. فقط روی کامپیوتر شما جایگزین استفاده از LLM های عمومی مانند GPT-4 است که به شرکت های مسئول امکان دسترسی به اطلاعات چت شما را می دهد.
3. استفاده آفلاین
از آنجایی که اینترنت به طور گسترده مقرون به صرفه و در دسترس است، دسترسی آفلاین ممکن است دلیل بی اهمیتی برای استفاده از یک LLM محلی به نظر برسد. دسترسی آفلاین می‌تواند به‌ویژه در مکان‌های دورافتاده یا ایزوله‌ای که خدمات اینترنتی غیرقابل اعتماد یا در دسترس نیست، حیاتی شود. در چنین سناریوهایی، یک LLM محلی که مستقل از اتصال اینترنت عمل می کند، به یک ابزار حیاتی تبدیل می شود. به شما این امکان را می دهد که بدون وقفه به انجام هر کاری که می خواهید ادامه دهید.
4. صرفه جویی در هزینه
میانگین قیمت دسترسی به یک LLM توانمند مانند GPT-4 یا Claude 2 20 دلار در ماه است. اگرچه ممکن است قیمت نگران کننده ای به نظر نرسد، اما همچنان چندین محدودیت آزاردهنده برای آن مقدار دریافت می کنید. به عنوان مثال، با GPT-4 که از طریق ChatGPT قابل دسترسی است، شما با 50 پیام در هر سه ساعت درگیر هستید. شما فقط می توانید با تغییر به طرح ChatGPT Enterprise که ممکن است هزاران دلار هزینه داشته باشد، از این محدودیت ها عبور کنید. با یک LLM محلی، پس از راه اندازی نرم افزار، هیچ اشتراک ماهیانه 20 دلاری یا هزینه های تکراری برای پرداخت وجود ندارد. این مانند خرید یک ماشین به جای تکیه بر خدمات اشتراکی سواری است. در ابتدا، گران است، اما با گذشت زمان، در هزینه خود صرفه جویی می کنید.
5. سفارشی سازی بهتر
چت ربات های هوش مصنوعی در دسترس عموم به دلیل نگرانی های امنیتی و سانسور، سفارشی سازی را محدود کرده اند. با یک دستیار هوش مصنوعی میزبانی محلی، می توانید مدل را به طور کامل برای نیازهای خاص خود سفارشی کنید. می توانید دستیار را در مورد داده های اختصاصی متناسب با موارد استفاده خود آموزش دهید و ارتباط و دقت را بهبود ببخشید. به عنوان مثال، یک وکیل می تواند هوش مصنوعی محلی خود را برای ایجاد بینش قانونی دقیق تر بهینه کند. مزیت اصلی کنترل بر سفارشی سازی برای نیازهای منحصر به فرد شما است.
معایب استفاده از LLM های محلی
قبل از اینکه تغییر دهید، برخی از معایب استفاده از LLM محلی وجود دارد که باید در نظر بگیرید.
1. منابع فشرده
برای اجرای یک LLM محلی کارآمد، به سخت افزار پیشرفته نیاز دارید. به CPUهای قدرتمند، رم زیاد و احتمالاً یک GPU اختصاصی فکر کنید. انتظار نداشته باشید که یک لپ تاپ با قیمت 400 دلار تجربه خوبی ارائه دهد. پاسخ‌ها به‌طور دردناکی کند خواهند بود، به‌ویژه در مدل‌های هوش مصنوعی بزرگ‌تر. این مانند اجرای بازی های ویدیویی پیشرفته است—برای عملکرد بهینه به مشخصات دقیقی نیاز دارید. حتی ممکن است به راه حل های خنک کننده تخصصی نیاز داشته باشید. نکته پایانی این است که LLM های محلی نیاز به سرمایه گذاری در سخت افزارهای سطح بالایی دارند تا سرعت و پاسخگویی مورد علاقه شما در LLM های مبتنی بر وب (یا حتی بهبود آن) را به دست آورند. نیازهای محاسباتی در پایان شما در مقایسه با استفاده از خدمات مبتنی بر وب قابل توجه خواهد بود.
2. پاسخ های آهسته تر و عملکرد پایین تر
محدودیت رایج LLM های محلی زمان پاسخ آهسته تر است. سرعت دقیق به مدل خاص هوش مصنوعی و سخت افزار مورد استفاده بستگی دارد، اما اکثر تنظیمات از خدمات آنلاین عقب هستند. پس از تجربه پاسخ‌های فوری از ChatGPT، Bard، و دیگران، LLMهای محلی می‌توانند احساس کندی کنند. کلمات به آرامی بیرون می ریزند در حالی که به سرعت بازگردانده می شوند. این به طور کلی درست نیست، زیرا برخی از استقرارهای محلی عملکرد خوبی دارند. اما کاربران عادی با افت شدید تجربه وب سریع روبرو هستند. بنابراین، برای یک “شوک فرهنگی” از سیستم های آنلاین سریع تا معادل های محلی کندتر آماده شوید.
به طور خلاصه، تا زمانی که یک راه‌اندازی کاملاً پیشرفته را انجام دهید (ما در مورد AMD Ryzen 5800X3D با Nvidia RTX 4090 و رم کافی برای غرق کردن کشتی صحبت می‌کنیم)، عملکرد کلی LLM محلی شما نخواهد بود. با چت ربات‌های آنلاین هوش مصنوعی که به آنها عادت دارید مقایسه کنید.
3. راه اندازی پیچیده
استقرار یک LLM محلی فراتر از ثبت نام در یک سرویس هوش مصنوعی مبتنی بر وب است. با اتصال به اینترنت، حساب ChatGPT، Bard یا Bing AI شما می‌تواند در عرض چند دقیقه آماده شروع درخواست باشد. راه‌اندازی یک پشته کامل محلی LLM نیازمند دانلود چارچوب‌ها، پیکربندی زیرساخت و یکپارچه‌سازی اجزای مختلف است. برای مدل‌های بزرگ‌تر، این فرآیند پیچیده می‌تواند ساعت‌ها طول بکشد، حتی با ابزارهایی که هدفشان ساده‌سازی نصب است. برخی از سیستم‌های هوش مصنوعی پیشرفته هنوز به تخصص فنی عمیقی نیاز دارند تا بتوانند به صورت محلی اجرا شوند. بنابراین، بر خلاف مدل‌های هوش مصنوعی مبتنی بر وب پلاگین و بازی، مدیریت هوش مصنوعی شما مستلزم سرمایه‌گذاری فنی و زمانی قابل توجهی است.
4. دانش محدود
بسیاری از LLM های محلی در گذشته گیر کرده اند. آنها اطلاعات محدودی از رویدادهای جاری دارند. به یاد دارید زمانی که ChatGPT نمی توانست به اینترنت دسترسی داشته باشد؟ وقتی فقط می‌توانست به سؤالات مربوط به رویدادهایی که قبل از سپتامبر 2021 رخ داده‌اند پاسخ دهد؟ آره؟ خوب، مشابه مدل‌های اولیه ChatGPT، مدل‌های زبان میزبان محلی اغلب فقط بر روی داده‌ها قبل از یک تاریخ قطعی خاص آموزش داده می‌شوند. در نتیجه، آنها از تحولات اخیر پس از آن زمان بی اطلاع هستند.