بالاخره سرور خانگی‌ای را که از ساختنش طفره می‌رفتم ساختم، و همه‌چیز را عوض کرد

مدت‌ها همان کاری را می‌کردم که بیشتر ما می‌کنیم: ساخت هوم‌لب‌های دیگران را در Reddit و YouTube تماشا می‌کردم، دلم می‌خواست یکی داشته باشم، اما به خودم می‌گفتم واقعاً به آن نیاز ندارم. چیزی که داشتم کافی بود.

چند هفته پیش بالاخره کوتاه آمدم. یک دستگاه خریدم که از چیزی که فکر می‌کردم بسیار توانمندتر بود، و هوم‌لبم را واقعاً شروع کردم. این‌که آیا ارزشش را داشت یا نه، در همان چند روز اول معلوم شد. تنها پرسشی که برایم باقی ماند این بود که چرا این‌قدر طول کشید.

با دستگاه جدید آشنا شوید

نه یک کیس ایستاده، نه یک رک؛ بلکه یک ورک‌استیشن

گزینه‌های زیادی پیش رو داشتم. می‌توانستم یک کیس معمولی از قطعات دست‌دوم مصرفی جمع کنم. حتی به‌طور جدی یک رک کامل سرور را هم بررسی کردم؛ چیزی که می‌توانست کارت‌های گرافیک سازمانی را برایم آزاد کند. اما رک تازه وقتی معنا پیدا می‌کند که آن را پر کنید، و پر کردنش یعنی یک اتاق اختصاصی، دیوارِ بادِ فن‌ها برای خنک‌نگه‌داشتن همه‌چیز، و کلی سر و صدا. این یک جهش عظیم از یک Dell Latitude دست‌دوم است، و واقعاً قرار بود با آن چه کنم؟ مدت زیادی طول می‌کشید و پول زیادی می‌خواست تا اصلاً به نقطه‌ای برسد که سرمایه‌اش برگردد.

در نهایت روی حد وسط ایستادم: یک ورک‌استیشن. از یک کیس مصرفی معمولی حرفه‌ای‌تر است، اما هنوز هم برای این ساخته شده که کنار انسان بایستد و کارهای انسانی انجام دهد. همه‌جا را جست‌وجو کردم و سرانجام به HP Z6 G4 رسیدم.

واحدی که پیدا کردم با 32GB RAM عرضه می‌شد، اما من را متقاعد کردند که 32GB دیگر هم اضافه کنم — تصمیمی عاقلانه، اگر الان نگاه کنیم — و مجموع را به 64GB برسانم. و این فقط RAM معمولی نیست؛ ECC است، که در میانه این RAMpocalypse آن را حتی گران‌تر هم می‌کند. مشخصات کامل این دستگاه این است:

• پردازنده: ۲× Intel(R) Xeon(R) Gold ۶۱۳۸ (در مجموع ۴۰ هسته)
• حافظه: 64GB DDR4 2666 MHz ECC
• گرافیک: ASUS TUF RTX 3090 24GB
• فضای ذخیره‌سازی: 256GB NVMe + 1TB SSD + 4TB WD Red HDD + 2B WD Red HDD
• هزینه کل: حدود ۲,۴۰۰ دلار (۱,۴۰۰ دلار برای ورک‌استیشن + ۱,۰۰۰ دلار برای GPU)

با ذخیره‌سازی عرضه نشده بود، بنابراین یک NVMe 256GB یدکی را که از یکی از دستگاه‌هایی که از هم باز کرده بودم باقی مانده بود، داخلش گذاشتم. همان هم فقط یک روز دوام آورد. صبح روز بعد رفتم و یک SSD یک ترابایتی خریدم، بعد هم هارد 4TB WD Red قدیمی NAS خودمان را بیرون کشیدم و آن را هم وصل کردم.

RTX ۳۰۹۰ هنوز هم بسیار گران است.

GPU هم وجود نداشت، و این همان تصمیم سخت بود. بین دو کارت AMD RX ۹۰۶۰ جدید و یک RTX ۳۰۹۰ دست‌دوم مردد بودم. ۳۰۹۰ هنوز هم به لطف 24GB VRAM یک هیولاست — و دقیقاً به همین دلیل گران است؛ تقریباً همان‌قدر برایم خرج برداشت که دو ۹۰۶۰ تمام می‌شد. اینترنت می‌گوید این روزها استفاده از دو GPU شدنی است، ROCm خیلی پیشرفت کرده، و چون ۹۰۶۰ به‌صورت رسمی پشتیبانی می‌شود باید فقط کار کند… اما من هیچ‌وقت تجربه خوبی با AMD در compute برای LLM نداشته‌ام، یا واقعاً در هر چیزی بیرون از بازی. پس محتاطانه عمل کردم و یک RTX ۳۰۹۰ دست‌دوم گرفتم.

چیزی که واقعاً یک ورک‌استیشن را از یک کیس مصرفی متمایز می‌کند، riser است. این قطعه یک «طبقه» دوم به مادربرد اضافه می‌کند، با CPU مخصوص خودش و اسلات‌های RAM مخصوص خودش. درست است — دو CPU، هر کدام ۲۰ هسته، در مجموع ۴۰ هسته. فوق‌العاده است.

در نهایت همه‌چیز را سیم‌کشی کردم، هر اسلات PCIe را در بهترین وضعیتش راه انداختم (مادربرد تا PCIe ۳ سقف دارد، که حتی با SSDها و GPU نسل ۴ هم مشکلی نیست)، و هنوز هم چند خط ارتباطی اضافه داشتم.

در مجموع، ۱,۴۰۰ دلار برای ورک‌استیشن و ۱,۰۰۰ دلار دیگر برای ۳۰۹۰ خرج کردم — در کل ۲,۴۰۰ دلار. و به جان شما، هر سنتش را می‌ارزید.

پروکس‌موکس آن را به یک هوم‌لب تبدیل کرد

بدیهی‌ترین قدم بعدی نصب Proxmox بود، که خودش ماجرای مفصلی داشت. Proxmox به من اجازه می‌دهد این دستگاه را به ماشین‌های مجازی و کانتینرهای جداگانه تقسیم کنم. هرکدام می‌توانند هسته‌های CPU، RAM، فضای ذخیره‌سازی، سیستم‌عامل و رابط‌های شبکه مخصوص خودشان را داشته باشند.

محیط هوش مصنوعی محلی من می‌تواند در VM خودش با دسترسی به RTX ۳۰۹۰ زندگی کند. سرورهای بازی‌ام می‌توانند جای دیگری باشند. سرویس‌های شبکه می‌توانند از Jellyfin، ابزارهای خودکارسازی، وب‌سایت‌ها، محیط‌های آزمایشی و هر نرم‌افزار مشکوک دیگری که تصمیم بگیرم نصب کنم، جدا بمانند.

با ۴۰ هسته و 64GB RAM، می‌توانم تعداد مضحکی از VMها را بدون این‌که بلافاصله نگران منابع شوم بالا بیاورم. البته… بیشترِ وقت‌ها. همین حالا هم 32GB RAM غیر ballooning را فقط به VM مربوط به LLM داده‌ام. احتمالاً به‌زودی 64GB دیگر هم لازم دارم.

یک لپ‌تاپ دست‌دوم همه‌چیز را آغاز کرد

این Dell Latitude سخت‌کوش نزدیک به یک سال به‌عنوان سرور خانگی من کار کرد.

خودمیزبانی همیشه برایم جذابیت زیادی داشت، اما هیچ‌وقت نتوانستم آن را آن‌قدر پایدار کنم که واقعاً جایگزین سرویس‌های ابری‌ای شود که برایشان پول می‌دادم. مشکل اصلی سخت‌افزار بود. از نظر فنی می‌شود چیزهایی را روی همان کامپیوتر روزمره‌تان هم self-host کرد، اما یک دستگاه نمی‌تواند به‌راحتی هم‌زمان هم ارائه‌دهنده باشد و هم مصرف‌کننده.

بیشترین جایی که از نظر عملی به آن رسیدم، میزبانی Jellyfin روی دسکتاپ و تماشای آن روی تلویزیون بود. آن روش بد نبود، اما فقط به این دلیل کار می‌کرد که از یک دستگاه برای سرویس‌دهی به دستگاهی دیگر استفاده می‌کردم. به‌محض خاموش‌کردن PC، همه‌چیز از بین می‌رفت.

بعد از مدتی، یک Dell Latitude دست‌دوم ارزان خریدم. آن نخستین سرور خانگی واقعی من بود و کاملاً مرا به این ایده علاقه‌مند کرد.

یک لپ‌تاپ کار زیادی از پیش نمی‌برد

اما Dell فقط 8GB RAM داشت و زیر وزن همه آن Docker containerها شروع به کم آوردن کرد. به نقطه‌ای رسیدم که باید برای هر سرویسی که روشن نگه می‌داشتم، حساب‌شده فکر می‌کردم. دیگر نمی‌توانستم فقط چیزی را اجرا کنم تا ببینم آیا دوستش دارم یا نه — جایی برای آزمون‌وخطا نبود. و «جایی برای آزمون‌وخطا نیست» برای چنین سرگرمی‌ای حکم مرگ دارد.

بیش از هر چیز، یک GPU می‌خواستم. می‌خواستم local LLMها، image generation و ابزارهای سنگینِ مبتنی بر GPU را واقعاً امتحان کنم، بدون این‌که آن‌ها را روی PC کاری‌ام اجرا کنم. قبلاً این کار را کرده‌ام و جواب می‌دهد، اما نمی‌خواهم کامپیوترم هنگ کند چون همه توان پردازشی را داده‌ام به یک language model.

Dell ثابت کرده بود که من یک هوم‌لب می‌خواهم، اما در عین حال ثابت کرده بود که Dell دیگر کافی نیست.

هوم‌لبم همین حالا هم دارد جای همه‌چیز را می‌گیرد

وقتی آن را راه انداختم و واقعاً شروع کردم به deploy کردن چیزها، HP بقیه تجهیزاتم را بلعید. دیگر به web hosting نیاز ندارم — همه‌چیز را خودم میزبانی می‌کنم. می‌توانم در چند دقیقه یک game server بالا بیاورم، بدون این‌که یک سنت خرج کنم؛ همان کاری که قبلاً به‌معنای ۱۰۰ دلار در ماه برای یک VPS اجاره‌ای بود. دیگر به router هم نیاز ندارم؛ می‌توانم یکی با 8GB RAM و OpenWRT بسازم — قیمت یک router مصرفی با چنین مشخصاتی را امتحان کنید!

دیگر واقعاً به یک stack از Raspberry Piها برای self-hosting نیاز ندارم. این یک جعبه به‌تنهایی از همه آن‌ها باهم بیشتر کار می‌کند، و تازه همه را هم‌زمان انجام می‌دهد.

سه ارائه‌دهنده اینترنت جداگانه دارم — سه روش اتصال متفاوت — که برای بیشترین failover به آن وصل شده‌اند. یک UPS بزرگ خانگی هست، یک پشتیبان اضطراری دوم برای وقتی UPS خالی می‌شود، و یک ژنراتور بنزینی برای وقتی که واقعاً دنیا به آخر رسیده باشد (?)

باید زودتر این کار را می‌کردم

۴۰ هسته CPU بیش از چیزی است که فعلاً نیاز دارم. احتمالاً خود RTX ۳۰۹۰ به‌تنهایی بیشتر از Dell برق مصرف می‌کند، آن هم در حالی که Dell هر کاری که از دستش برمی‌آمد انجام می‌داد. اما مهم‌تر از آن، دیگر مجبور نیستم منابع را جیره‌بندی کنم — دست‌کم فعلاً نه. می‌توانم آزادانه آزمایش کنم.

اما مهم‌تر از همه این است که کامپیوترها دوباره هیجان‌انگیز شده‌اند. این را می‌گویم چون این روزها به‌ندرت از چیزی هیجان‌زده می‌شوم. ساعت‌ها صرف بررسی سخت‌افزار، چیدن قطعات، تنظیم PCIe passthrough، ساختن ماشین‌های مجازی و تماشای بالا آمدن همه‌چیز کردم. کاملاً گذر زمان از دستم رفت.

مدت‌ها بود که هیچ کامپیوتری این‌طور مرا درگیر نکرده بود. سال‌ها صبر کردم چون فکر می‌کردم یک هوم‌لب واقعی گران، پیچیده و افراطی است. هر سه‌تایش بود.

هنوز هم بابت صبرکردنم پشیمانم.

منبع: این مطلب یک بومیسازی و بازنویسی تحریریهای بر اساس مقالهای از MakeUseOf نوشته Amir Bohlooli است: مشاهده مقاله اصلی.