اوپنکلاو یکی از دستیارهای محبوب هوش مصنوعی است که میتوان آن را بهصورت محلی میزبانی کرد. این عامل هوش مصنوعی رایگان و متنباز، از مدلهای زبانی بزرگ برای تولید پاسخ استفاده میکند. همچنین از مدلهای هوش مصنوعی ابری و محلی پشتیبانی میکند و میخواستم ببینم روی یک لپتاپ نسبتاً قدرتمند تا چه اندازه از پس کار برمیآید.
برای این کار، اوپنکلاو را روی آرچ لینوکس خود راهاندازی کردم تا محدودیتها و کاربردهایش را بیازمایم. خیلی زود به بنبست رسیدم، اما خود این مسیر جذاب و آموزنده بود. با در نظر گرفتن همهچیز، اوپنکلاو را دستیار شایستهای برای رایانه شخصی میدانم؛ چه بهصورت محلی اجرا شود و چه با مدلهای ابری.
آشنایی با لپتاپ آزمایشی
مزیتهای رایزن ایآی مکس و حافظه ویدیویی فراوان
لپتاپ انتخابی من ایسوس راگ فلو زد۱۳ مدل ۲۰۲۵ بود. نسخه من به رایزن ایآی مکس ۳۹۰ ردهپایینتر و ۳۲ گیگابایت حافظه یکپارچه مجهز بود؛ حافظهای که میان رم سیستم و حافظه ویدیویی پردازنده گرافیکی یکپارچه تقسیم میشود.
این پیکربندی مزیتهایی دارد؛ از جمله اینکه میتوان بیش از ۱۶ گیگابایت حافظه ویدیویی به دستگاه اختصاص داد. با در اختیار داشتن بیش از ۱۶ گیگابایت حافظه ویدیویی ــ و حداکثر ۲۴ گیگابایت در صورت فعالکردن تنظیم مربوط در بایوس ــ میتوانید برخی مدلهای زبانی بزرگ را اجرا کنید که در غیر این صورت روی کارت گرافیکی ۸ گیگابایتی از پا درمیآیند.
البته همهچیز بینقص نیست. پردازنده گرافیکی یکپارچه رادئون ۸۰۵۰اس این لپتاپ، از نظر توان عملی در دنیای واقعی تقریباً با انویدیا آرتیایکس ۴۰۶۰ موبایل برابری میکند و این موضوع در کارایی هوش مصنوعی نیز بازتاب دارد. در واقع، ۴۰۶۰ موبایل در بعضی موارد اندکی بهتر عمل میکند، اما سقف سختِ ۸ گیگابایتی حافظه ویدیویی همواره گلوگاهی جدی خواهد بود.
۸۰۵۰اس همچنین بهجای پشته اختصاصی کودای انویدیا از راکم یا ولکان استفاده میکند؛ موضوعی که بسته به نیاز شما شاید تعیینکننده باشد و شاید نه. با این حال، همچنان با سیستمی بسیار توانمند روبهرو هستیم که میتواند مدلهای محلی هوش مصنوعی را بهخوبی اجرا کند.
محیط آزمایش نیز نصب نسبتاً سادهای از آرچ لینوکس با کیدیای پلاسما و درایورهای لازم پردازنده گرافیکی ایامدی بود. همه آزمونها با بیشینه توان طراحی حرارتی، یعنی ۹۳ وات، انجام شدند و برای جلوگیری از خاموشی حرارتی، فنها با حداکثر سرعت کار میکردند. تقویتکننده پردازنده نیز فعال باقی ماند.
نصب اوپنکلاو روی آرچ لینوکس
اگر از صفر شروع کنید، بهطرز غافلگیرکنندهای پیچیده است
نصب اوپنکلاو روی آرچ لینوکس تازهنصبشده بهطرز غافلگیرکنندهای پیچیده بود. ابتدا باید اولاما را نصب میکردم. سپس، پس از نصب بستههای ویژه راکم و ولکان، سرویس را فعال کردم و همهچیز آماده بود؛ با این حال، هنوز باید یک مدل هوش مصنوعی محلی نصب میکردم.
قصد داشتم ابتدا اوپنکلاو را با یک مدل محلی آزمایش کنم، بنابراین گزینههای ابری از دایره انتخاب کنار رفتند. در نتیجه، جما ۴ با نسخه ۱۲بی را برگزیدم. دلیلش ساده بود: جما ۴ روی سختافزار محلی کارایی قابلقبولی دارد و نسخه ۱۲بی میتواند از ۱۶ گیگابایت یا بیشتر حافظه ویدیویی بهره ببرد.
این انتخاب برای دستگاه ایآی مکس من ایدئال بود و مخزن حافظه یکپارچه نیز بسیار کمک کرد.
پس از نصب، دوباره به فرایند راهاندازی اوپنکلاو بازگشتم و مراحل صفحه ویکی آرچ آن را دنبال کردم. راهاندازی دستی را برگزیدم و اولامای محلی را بهعنوان مقصد انتخاب کردم. چند اعلان تعاملی بعد، مستقیماً وارد رابط وب اوپنکلاو شدم.
آزمودن جما ۴:۱۲بی با اوپنکلاو
بسیار توانمند، اما گاه گرفتار دشواری
حالا نوبت آزمونهای دنیای واقعی بود. اوپنکلاو را از طریق رابط وب آن اجرا کردم و چند درخواست را آزمودم:
- یک مکعب سهبعدیِ چرخان در پایتون بساز.
- سهگانه مدرن دوم را از انتشار آن در سال ۲۰۱۶ تا «دوم: عصرهای تاریک» با جزئیات شرح بده.
- یک تصویر سهبعدی «سلام دنیا» بساز.
- داستان کوتاهی درباره موزی بنویس که میکوشد وارد باشگاه میوهها شود؛ موز شخصیت طردشده داستان باشد و در پایان نیز پند داستان را بیاور.
- اگر یک روز سوسک بودی، چه میکردی؟
پاسخ هر درخواست متفاوت بود. درخواست نخست هیچ نتیجه معناداری به بار نیاورد. البته یک اسکریپت پایتون ساخت، اما هرگز واقعاً کار نکرد. اسکریپت از کار میافتاد و با خطا روبهرو میشد؛ بنابراین قابلاستفاده نبود.
در مورد تولید تصویر هم کار به جایی نرسید. اوپنکلاو بر پایهٔ متن کار میکند و بهتنهایی نمیتواند تصویر یا ویدئو بسازد. البته برای تولید تصویر یک اعلان متنی ساخت که در تئوری باید با کمک عاملی دیگر از آن استفاده کرد.
با اطمینان میتوان گفت اوپنکلاو برای کارهای سنگین طراحی نشده و بیشتر خود را به کارهای سادهتر و بهرهوریمحور محدود میکند. با این حال، در ارائهٔ پاسخهای متنی عملکرد بسیار خوبی دارد.
یادداشتهای سهگانهٔ DOOM بهطرز غافلگیرکنندهای جزئینگر بودند؛ هم تفاوت بازیها را پوشش میدادند و هم اندکی دربارهٔ انتشارشان توضیح میدادند؛ کاری که هرگز از آن نخواسته بودم انجام دهد.
اوپنکلاو میتواند از مدلهای گوناگون زبانی بزرگ استفاده کند، اما در عمل تقریباً هیچگاه به سرعت یا گسترهٔ ابزارهای ابری و میزبانیشده نمیرسد.
داستانهای موز و سوسک، با وجود حالوهوای میمگونهشان، خوب از کار درآمدند؛ اما یک مشکل کوچک وجود داشت: متن بیش از حد کوتاه بود و هر درخواست حتی اندکی پیچیده، شامل چند مرحله و چند دستور، رشتهٔ فکر را از هم میگسست.
چندین بار با تلاشهای ناموفقی روبهرو شدم که در آنها هوش مصنوعی روی یک اعلان مشخص گیر میکرد و عملاً تا زمانی که دکمهٔ توقف را نمیزدم، در چرخهای بیپایان میافتاد. همهٔ اینها نشان میدهد که اوپنکلاو، با وجود جذاببودنش بهعنوان یک راهحل هوش مصنوعی محلی، بههیچوجه با ابزارهای ابری درستوحسابی قابل مقایسه نیست.
تنها مدلهای محلی نیستند که میتوان به آنها تکیه کرد
البته همیشه میتوانید بهجای آن از یک مدل هوش مصنوعی ابری استفاده کنید، اما این کار چند مرحله دارد؛ از جمله دریافت یک کلید API یکتا از میزبان سرویس، مانند Anthropic برای Claude. پس از راهاندازی و پیکربندی، اوپنکلاو مستقیماً با Claude ارتباط میگیرد تا کارها را انجام دهد.
این کار اوپنکلاو را بسیار کاربردیتر میکند و تواناییهایش را بهمراتب افزایش میدهد. با این حال، خدمات ابری همچنان هزینهٔ قابلتوجهی بابت مصرف توکن روی دستتان میگذارند و باید جنبهٔ حریم خصوصی را نیز در نظر بگیرید. با وجود این، شاید بد نباشد توجهتان را به گزینههای دیگری هم معطوف کنید.
منبع: این مطلب ترجمه و بومیسازی مقالهای از MakeUseOf به قلم Dipan Saha است. مشاهده مقاله اصلی