من بیش از حد میتوانم ابزارهای هوش مصنوعی را آزمایش کردهام، اما فقط این چهار جواهر متنباز بهدست آمدند چون استفاده از آنها آسان، خصوصی و رایگان است.
من ابزارهای هوش مصنوعی بیشتری را تست کردهام که میتوانم بشمارم، اما تنها این چهار جواهر منبع باز انتخاب شدند چون استفاده از آنها آسان، خصوصی و رایگان است.
4
LocalAI
LocalAI یک برنامه منبع باز است که به شما امکان میدهد مدلهای زبان بزرگ را بر روی سختافزار خود اجرا کنید. میتوانید انواع گستردهای از مدلها را بهصورت محلی روی دستگاه خود اجرا کنید با انتخاب از کتابخانهای که بیش از ۱۱۰۰ گزینه دارد.
تنها نقطه ضعف این است که برنامهٔ دسکتاپ مخصوصی ندارد. در عوض، باید مدل را از طریق خط فرمان نصب و اجرا کنید. پس از نصب، میتوانید بهراحتی مدلهای جدید را با اجرای فرمان local-ai models install [model identifier] نصب کنید، سپس هر مدل دانلود شدهای را با فرمان local-ai run [model identifier] اجرا کنید.
پس از اجرای یک مدل، LocalAI یک رابط وب کاربرپسند برای تعامل با مدل در اختیار شما میگذارد (همانطور که در تصویر بالا نشان داده شده است). از طریق رابط وب میتوانید اعلانهای سفارشی تنظیم کنید، مدلهای موجود را مرور کنید و آنها را نصب کنید.
3
AnythingLLM
AnythingLLM یک برنامه منبع باز است که برای انعطافپذیر و در دسترس کردن کار با مدلهای زبان بزرگ (LLM) طراحی شده است. بهدلیل رابط کاربری شهودیاش، میتوانید LLMها را دانلود و بهصورت محلی اجرا کنید بدون نیاز به مهارت فنی. از مدلهای متعددی پشتیبانی میکند، از جمله گزینههای محبوب از OpenAI، Anthropic، Mistral، و استقرارهای محلی از طریق Ollama یا LM Studio.
یکی از ویژگیهای کلیدی AnythingLLM، فضای کاری آن است. این فضاها به شما امکان میدهند اسناد را بارگذاری، سازماندهی و مدیریت کنید، سپس با هوش مصنوعی تعامل داشته باشید تا پاسخهای آگاه به زمینه مستقیماً از دادههای شما دریافت کنید. به عنوان مثال، میتوانید یک فایل PDF از یک درس را بارگذاری کنید و از مدل بخواهید نکات کلیدی را استخراج کند. این موضوع آن را برای کارهایی مانند پژوهش، مدیریت دانش، پشتیبانی مشتری، یا هر سناریویی که به پاسخهای سریع و مرتبط بر اساس دادههای سفارشی نیاز دارید، بسیار مفید میکند. همچنین با پایگاههای دادهٔ برداری یکپارچه میشود تا بازیابی سریع و دقیق محتوای مرتبط تضمین شود.
از آنجایی که منبع باز است، میتوانید AnythingLLM را خود میزبانی کنید و دادههای حساس را کاملاً تحت کنترل خود نگه دارید. این تمرکز بر حریم خصوصی و قابلیت سفارشیسازی، AnythingLLM را به یکی از برنامههای هوش مصنوعی منبع باز مورد علاقهام تبدیل کرده است. من این برنامه را در macOS استفاده میکنم، اما میتوانید آن را برای Windows و Linux نیز دانلود کنید. تیم همچنین در حال کار بر روی یک برنامهٔ موبایل است که به شما امکان میدهد LLMها را بر روی گوشی هوشمند خود اجرا کنید.
2
Jan.ai
اگر به دنبال یک جایگزین منبع باز مشابه ChatGPT هستید، Jan.ai پاسخ شماست. Jan.ai یک برنامهٔ چت هوش مصنوعی منبع باز با تمرکز بر حریم خصوصی است که بهصورت کامل روی دستگاه محلی شما اجرا میشود. بهجای تکیه بر سرورهای ابری، از LLMهای محلی استفاده میکند، به این معنی که گفتوگوها و دادههای شما هرگز از کامپیوتر شما خارج نمیشوند. این امر آن را به گزینهای عالی برای کاربرانی که به حریم خصوصی حساس هستند و به قابلیتهای هوش مصنوعی بدون به خطر انداختن اطلاعات حساس نیاز دارند، تبدیل میکند.
این برنامه یک رابط کاربری پاک و بدون حواسپرتی ارائه میدهد که میتوانید با مدلهای هوش مصنوعی همانگونه که با ChatGPT گفتگو میکنید، چت کنید. با این حال، چون بهصورت محلی کار میکند، عملکرد به سختافزار کامپیوتر شما بستگی دارد—GPUهای قدرتمندتر و RAM بیشتر پاسخهای سریعتر و پیچیدهتر را ممکن میسازند. Jan.ai از انواع مدلها پشتیبانی میکند و به شما اجازه میدهد تا بر اساس نیاز و وظیفهٔ موردنظر، مدل مناسب را انتخاب کنید.
هنگامی که برنامه را نصب میکنید، یک مدل را دانلود میکند تا بلافاصله بتوانید گفتوگو کنید. اما میتوانید به بخش Hub برنامه مراجعه کنید تا هر مدل منبع باز که میخواهید را دانلود کنید. بخش Hub برنامه فهرستی از مدلهای مختلف از تامینکنندگان گوناگون ارائه میدهد، از جمله HuggingFace، سایت مورد علاقهٔ من برای کشف مدلهای جدید هوش مصنوعی.
اگرچه Jan.ai بهصورت آفلاین اولویت دارد، به شما گزینهٔ اتصال به مدلهای تجاری را که در ابر اجرا میشوند، مانند مدلهای OpenAI، Gemini، Groq و Anthropic میدهد. مشابه AnythingLLM، میتوانید فایلها را بارگذاری کنید و بینشهای لازم را از آنها دریافت کنید که برای پژوهش و مطالعه مفید است.
1
Ollama
Ollama یک برنامهٔ دیگر هوش مصنوعی منبع باز است که به شما امکان میدهد LLMها را بر روی سختافزار خود اجرا کنید. میتوانید مدلی را از کتابخانهٔ متنوع مدلهای Ollama انتخاب کنید که شامل گزینههای محبوبی مانند Llama 3، Mistral، Gemma، DeepSeek-R1، Phi، Code Llama، و حتی بهترین LLMهای آفلاین میباشد.
برای راحتی، Ollama یک برنامهٔ دسکتاپ دارد (در دسترس برای Windows، macOS و Linux) که استفاده از آن را برای همه آسان میکند. رابط کاربری شبیه به برنامههای دیگری مانند ChatGPT است، با تاریخچهٔ گفتگو در سمت چپ و رابط اصلی در سمت راست.
میتوانید مدل مورد استفاده را از رابط انتخاب کنید و Ollama گزینهای برای جستجو در وب به شما میدهد، که یک ویژگی نادر در میان برنامههای هوش مصنوعی منبع باز است. تنها نقطهٔ ضعف این است که برای استفاده از قابلیت جستجوی وب باید وارد سیستم شوید.
از طریق رابط میتوانید فایلها را با کشیدن و رها کردن بارگذاری کنید و از مدلها دربارهٔ آنها سؤال کنید، بهشرطی که مدل انتخابشده ورودی چندمودی را پشتیبانی کند. برای اسناد بزرگ میتوانید طول زمینه را در تنظیمات برنامه تا ۱۲۸٬۰۰۰ توکن افزایش دهید.
اگر توسعهدهنده هستید، میتوانید Ollama را از طریق خط فرمان نصب و با آن تعامل کنید، سپس مدلها را با فرمان ollama run [model identifier] اجرا کنید.
برنامههای هوش مصنوعی منبع باز مانند AnythingLLM، Jan.ai، LocalAI و Ollama ثابت میکنند که برای بهرهبرداری از قدرت هوش مصنوعی نیازی به فدا کردن حریم خصوصی یا کنترل نیست. این برنامهها اجرای مدلهای هوش مصنوعی بهصورت محلی را بهصرفه برای هر سختافزاری ممکن میسازند. مهمتر از همه، آنها رابطهای زیبا و کارآمدی ارائه میدهند که رقیب برنامههای تجاری مانند Gemini، ChatGPT و Copilot میباشند.