خبر و ترفند روز

خبر و ترفند های روز را اینجا بخوانید!

من همه چیز را به هوش مصنوعی محلی تغییر دادم و ارسال اسنادم به ابر را متوقف کردم.

مدت‌ها، من در مورد چسباندن یک قرارداد به ChatGPT، بارگذاری یک گزارش محرمانه برای درخواست خلاصه، یا وارد کردن یک پیشنهاد مشتری به یک ابزار هوش مصنوعی ابری، دو بار فکر نمی‌کردم. سپس یک روز واقعاً ایستادم و یک سند شرایط استفاده را خواندم (چیزی که سال‌ها به‌سختی سطحی مرور می‌کردم) و ناگهان متوجه شدم: این فایل‌ها در حال ترک دستگاه من بودند و حداقل به طور موقت، روی سرورهای شخص دیگری می‌زیستند. جالب اینجاست که متوجه شدم یک همکار پیشین یک بار درباره اینکه چرا نباید به ChatGPT اطلاعات محرمانه را اعتماد کرد توضیح داده بود. آن بی‌اطمینانی من را به جستجوی راهی بهتر سوق داد.

برای مدت طولانی، من به‌هیچ‌گاه در مورد چسباندن یک قرارداد به ChatGPT، بارگذاری یک گزارش محرمانه برای درخواست خلاصه، یا وارد کردن یک پیشنهاد مشتری به یک ابزار هوش مصنوعی ابری تردید نداشتم. سپس روزی واقعا متوقف شدم و سند شرایط استفاده را خواندم (چیزی که سال‌ها به‌ساده‌گی مرور می‌کردم) و به این نتیجه رسیدم: این فایل‌ها از دستگاه من خارج می‌شوند و حداقل به‌صورت موقت در سرورهای شخص دیگری زندگی می‌کنند. جالب این است که متوجه شدم یک همکار قبلی‌ام زمانی توضیح داده بود چرا نباید به ChatGPT با اطلاعات محرمانه اعتماد کرد. این عدم راحتی من را به‌دنبال یافتن راهی بهتر کشاند.

آنچه پیدا کردم AnythingLLM بود، یک برنامه رایگان و متن باز برای دسکتاپ که به شما امکان می‌دهد یک دستیار هوش مصنوعی کاملاً خصوصی از اسناد خود بسازید — و همه‌اش به‌طور کامل بر روی دستگاه شما انجام می‌شود. این برنامه تبدیل به یکی از برنامه‌های هوش مصنوعی متن باز شده است که روزانه از آن استفاده می‌کنم. این‌جا نحوهٔ تغییر به آن به‌صورت واقعی نشان داده شده است.

با استفاده از AnythingLLM به‌صورت محلی مدل‌های بزرگ زبانی را اجرا و چت کنید. این برنامه به شما امکان می‌دهد اسناد را متصل کنید، داده‌های خود را کنترل کنید و هوش مصنوعی را کاملاً تحت مالکیت خود نگه دارید.

نصب و پیکربندی AnythingLLM فقط چند دقیقه طول می‌کشد

و قبل از اینکه حتی شروع کنید، دقیقاً به شما می‌گوید داده‌های شما به کجا می‌روند

پس از دریافت فایل نصب، دوبار کلیک کنید و جادوگر نصب کنترل را به دست می‌گیرد. در طول نصب، به‌صورت خودکار اجزای پشتیبانی‌کننده را دانلود می‌کند: کتابخانه‌های CUDA اولاما اگر کارت گرافیک NVIDIA سازگاری داشته باشید — فرایندی که اگر بفهمید هسته‌های CUDA چیستند و چگونه توان محاسباتی کلی را بهبود می‌بخشند، قدردان آن خواهید بود — FFProbe برای پردازش رسانه‌ها، و منابع دستیار جلسه برای ویژگی‌های صوتی. هیچ‌یک از اینها نیاز به ورودی از شما ندارد. تمام این فرآیند، از دوبار کلیک روی نصب‌کننده تا مشاهدهٔ داشبورد اصلی، کمتر از پنج دقیقه طول کشید.

مطلب مرتبط:   نحوه تنظیم اکسل به عنوان برنامه پیش فرض صفحه گسترده در مک

به‌محض باز شدن AnythingLLM، یکی از اولین چیزهایی که نمایش می‌دهد صفحهٔ «مدیریت داده‌ها و حریم خصوصی» است — و خواندن آن ارزش دارد. به‌صراحت می‌گوید مدل و گفتگوهای شما فقط بر روی دستگاه شما قابل دسترسی هستند، متن اسناد به‌صورت خصوصی در این نمونه با استفاده از AnythingLLM Embedder تعبیه می‌شود، و بردارهای شما به‌صورت محلی از طریق LanceDB ذخیره می‌شوند. اگر تا به حال به «پایگاه دادهٔ برداری» و چگونگی تقویت هوش مصنوعی توسط آن نگاه کرده‌اید، خواهید فهمید که نگه داشتن این مؤلفه به‌طور کامل آفلاین یک پیروزی بزرگ حریم‌خصوصی است. هیچ‌گونه کلید تغییر وضعیت یا گزینهٔ خروجی در تنظیمات وجود ندارد. به‌طور پیش‌فرض همه‌چیز به‌صورت محلی می‌ماند.

همین پس از مرور حریم خصوصی، AnythingLLM شما را از طریق صفحهٔ تنظیمات ترجیح LLM راهنمایی می‌کند. فهرست ارائه‌دهندگان پشتیبانی‌شده طولانی است: در سمت ابر OpenAI، Anthropic، Azure OpenAI، Gemini، Groq و دیگران وجود دارند. در سمت کاملاً محلی، Ollama، LM Studio، LocalAI، KoboldCPP، Dell Pro AI Studio، Microsoft Foundry Local و Docker Model Runner و دیگران موجودند. گزینهٔ پیش‌فرض «AnythingLLM» یک رانندهٔ مدل محلی را که توسط Ollama تأمین می‌شود، ترکیب می‌کند، به این معنا که می‌توانید مدل‌هایی مانند Phi‑4 مایکروسافت (9.1 GB) یا Qwen3 0.6B علی‌بابا (۶۰۰ MB کم‌حجم) را مستقیماً از داخل برنامه دانلود کنید، بدون نیاز به تنظیمات اضافی.

آیکون AnythingLLM.

اگر دستگاه شما کارت گرافیک اختصاصی ندارد، این پایان مسأله نیست. اتصال به API گروق به شما دسترسی به مدل‌های استنتاج سریع مانند Llama 3 70B با هزینهٔ نزدیک به صفر می‌دهد و فقط به یک کلید API نیاز دارید تا کار کند. می‌توانید هر زمان از تنظیمات ارائه‌دهندهٔ خود را تغییر دهید، بنابراین هرگز به گزینه‌ای که در زمان نصب انتخاب کردید قفل نمی‌شوید. من ابتدا برای آزمایش از ارائه‌دهندهٔ محلی استفاده کردم — Phi‑3 3.8B با توانایی‌اش برای پرسش و پاسخ اسناد بر روی یک لپ‌تاپ میان‌رده مرا شگفت‌زده کرد — سپس برای کارهای سنگین‌تر که سرعت بیشتر مهم بود، به Groq مهاجرت کردم.

مطلب مرتبط:   من خطرناک ترین برنامه نوشتن را امتحان کردم - وقتی مکث کردم کار خود را حذف کردم

پس از راه‌اندازی، AnythingLLM اسناد خودتان را به یک دستیار هوش مصنوعی متمرکز تبدیل می‌کند

فایل‌های شما به‌صورت واضح‌تری پاسخ می‌دهند

داشبورد با یک فهرست بررسی شروع کار و یک نوار کناری که پیشاپیش یک فضای کاری پیش‌فرض به نام «فضای کاری من» را شامل می‌شود، به شما خوش‌آمد می‌گوید. فضاهای کاری مفهوم اصلی سازماندهی در AnythingLLM هستند: هر یک یک محیط مستقل هستند که اسناد و گفتگوهای شما در آنجا همراه هم زندگی می‌کنند. هر فضای کاری را می‌توانید به‌عنوان یک اتاق جداگانه تصور کنید: یکی برای قراردادهای مشتریان، دیگری برای پژوهش‌های داخلی، سومی برای یادداشت‌های شخصی. اسناد در صورت نیاز می‌توانند بین فضاهای کاری به اشتراک گذاشته شوند، اما به یکدیگر نفوذ نمی‌کنند، که این موضوع زمینهٔ هوش مصنوعی را متمرکز و پاسخ‌های آن را دقیق نگه می‌دارد.

وارد کردن اسناد به یک فضای کاری به‌سادگی با کشیدن و رها کردن انجام می‌شود. AnythingLLM از اسناد Word، فایل‌های متن ساده، CSVها، صفحات گسترده، فایل‌های صوتی و حتی PDFها پشتیبانی می‌کند، مشابه روش‌ای که NotebookLM هر PDF را به یک گفت‌وگوی تعاملی تبدیل می‌کند. همچنین یک فیلد «دریافت وب‌سایت» در پنل بارگذاری وجود دارد، بنابراین اگر می‌خواهید یک صفحه وب یا منبع آنلاین را وارد کنید، URL را می‌چسبانید و محتوا به‌صورت خودکار استخراج می‌شود. پس از بارگذاری، AnythingLLM هر فایل را از طریق تعبیه پردازش می‌کند، متن را به بخش‌های کوچکتر تقسیم می‌کند و بردارها را به‌صورت محلی ذخیره می‌نماید. یک PDF معمولی ده‌صفحه‌ای تنها چند ثانیه طول می‌کشد.

از اینجا به بعد، چت کردن با اسناد شما به‑طوری که انتظار دارید انجام می‌شود. من پنج دفترچهٔ سخنرانی دانشگاهی را بارگذاری کردم و از آن خواستم تا برخی موضوعات کلیدی را خلاصه کند، خطرات ذکر شده را علامت‌گذاری کند و دو بخش را که به‌صورت دستی در هماهنگ کردنشان مشکل داشتم، مقایسه کند. همهٔ این سه کار را به‌صورت تمیزی انجام داد. پاسخ‌ها شامل استنادات هستند که به بخش‌های خاص سندی که پاسخ از آن استخراج شده است اشاره می‌کند، بنابراین هرگز نگران این نیستید که آیا هوش مصنوعی چیزی را ساختگی ارائه داده یا واقعاً آن را در فایل‌های شما پیدا کرده است. این قابلیت ردیابی به تنهایی باعث می‌شود نسبت به یک چت‌بات عمومی برای کارهای واقعی، بسیار قابل‌اعتمادتر باشد.

مطلب مرتبط:   7 بهترین ویجت ویندوز 11 برای بهره وری

این قسمتی است که واقعاً جذاب می‌شود

رابط گفتگو AnythingLLM که یک پرامپت فعال @agent را نشان می‌دهد.

AnythingLLM با قابلیت‌های عامل‌محور ارائه می‌شود که فراتر از پرسش و پاسخ سادهٔ اسناد می‌باشد. وارد کردن @agent در چت یک عامل هوش مصنوعی را فعال می‌کند که می‌تواند وظایف فراخوانی ابزار را انجام دهد: جستجوی وب، پژوهش عمیق و عملیات‌های متقاطع بین برنامه‌ها. مهارت‌های سفارشی عامل از طریق مرکز اجتماع AnythingLLM در دسترس هستند، جایی که کتابخانه به‌صورت پیوسته در حال رشد است. ویژگی فرمان اسلش به شما امکان می‌دهد قالب‌های پرامپت برای کارهای تکراری بسازید و ذخیره کنید — چیزهایی مانند خلاصه‌کردن یادداشت‌های جلسه در قالبی ثابت، نوشتن پاسخ‌های ایمیل با لحن خاص یا استخراج فیلدهای مشخص از اسناد بارگذاری‌شده هر بار.

ربات هوش مصنوعی خودران که در مرکز تماس نشسته است.

اگر می‌خواهید پیش‌تر بروید، یک افزونهٔ مرورگر وجود دارد که به شما اجازه می‌دهد از هر صفحه وبی با نمونهٔ AnythingLLM خود تعامل کنید، و یک یکپارچگی GPTLocalhost که دستیار را مستقیماً به Microsoft Word می‌آورد. تیم‌هایی که نیاز به دسترسی مشترک دارند می‌توانند نسخهٔ Docker را انتخاب کنند، که پشتیبانی چندکاربره، کنترل‌های مبتنی بر نقش و برچسب‌گذاری سفارشی را اضافه می‌کند. برنامهٔ دسکتاپ برای استفادهٔ شخصی کافی است، اما خوب است که بدانید مسیر تنظیمات تیمی نیز موجود است.

به انقلاب هوش مصنوعی خصوصی خوش آمدید (جمعیت: شما)

با تغییر به AnythingLLM، من دیگر هوش مصنوعی را به‌عنوان سرویس اجاره‌ای نمی‌بینم و آن را به‌عنوان ابزاری می‌دانم که مالک آن هستم. اسناد من روی درایو من می‌مانند، پرسش‌های من خصوصی می‌مانند، و اکنون یک دستیار دیجیتال دارم که واقعاً زمینهٔ من را می‌داند، نه فقط اینترنت عمومی.