سخت‌افزارهای مصرفی راه درازی پیموده‌اند؛ تا جایی که اکنون برخی بارهای کاری مراکز داده را می‌توان در ابعاد یک رایانه رومیزی اجرا کرد. برای کار با هوش مصنوعی محلی، پردازنده‌های گرافیکی رومیزی همراهانی ایدئال برای پردازش‌های موازی پیچیده‌اند؛ به‌ویژه کارت‌های RTX که سخت‌افزار اختصاصی هوش مصنوعی دارند.
بااین‌حال، برای کارهای کوچک‌تر هوش مصنوعی که به پردازنده گرافیکی جداگانه نیاز ندارند، استفاده از کارتی بزرگ و پرمصرف زیاده‌روی است.
اینجاست که قطعات تخصصی جدیدتر برای انجام این بارهای کاری سبک‌تر وارد میدان می‌شوند؛ از جمله شتاب‌دهنده اختصاصی هوش مصنوعی، یعنی دستگاهی PCIe که ظاهر و ابعادی همانند پردازنده گرافیکی دارد، اما خروجی تصویر نمی‌دهد و برای انجام بسیار بهینه‌تر کارهای سبک هوش مصنوعی ساخته شده است.
کارت‌های شتاب‌دهنده هوش مصنوعی حدود سال‌های ۲۰۲۳/۲۴ موج بزرگی به راه انداختند، اما هیچ‌گاه بازار واقعی و پایداری برایشان شکل نگرفت و تب‌وتابشان هم خیلی زود فروکش کرد؛ زیرا می‌کوشیدند خلأیی را پر کنند که پیش‌تر پر شده بود.
شتاب‌دهنده هوش مصنوعی PCIe چیست؟
کارتی شبیه پردازنده گرافیکی که حتی یک فریم هم نمی‌سازد
شتاب‌دهنده‌های هوش مصنوعی کارت‌های توسعه تخصصی شبیه پردازنده‌های گرافیکی‌اند که مشخصاً برای اجرای استنتاج هوش مصنوعی طراحی شده‌اند. این کارت‌ها درگاه ورودی یا خروجی ندارند و در شکاف PCIe نصب می‌شوند؛ البته برخی از آن‌ها نیز به‌شکل دستگاه‌های M.۲ عرضه می‌شوند.
پردازنده‌های درون یک شتاب‌دهنده هوش مصنوعی، به‌طور ویژه پردازش موازی و ضرب ماتریسی را انجام می‌دهند؛ همان عملیاتی که در بارهای کاری هوش مصنوعی به کار می‌روند.
شتاب‌دهنده هوش مصنوعی معمولاً حافظه داخلی دارد، اما جایگزین پردازنده گرافیکی نیست؛ قرار است در کنار آن کار کند و استنتاج هوش مصنوعی را بر عهده بگیرد، درحالی‌که پردازنده گرافیکی به پردازش گرافیک و دیگر کارهای هوش مصنوعی می‌پردازد.
پردازنده‌های گرافیکی امروزی، مانند سری RTX و کارت‌های جدیدتر RX، از پیش به سخت‌افزار اختصاصی هوش مصنوعی مانند هسته‌های تنسور NVIDIA و شتاب‌دهنده‌های هوش مصنوعی AMD مجهزند؛ بنابراین از نظر فنی خودشان نیز شتاب‌دهنده هوش مصنوعی به شمار می‌روند. اصطلاح «شتاب‌دهنده هوش مصنوعی» در معنای کلی GPUها، NPUها و TPUها را در بر می‌گیرد، اما در اینجا منظور کارت‌های اختصاصی هوش مصنوعی PCIe است.
این کارت‌ها واقعاً به کار چه کسانی می‌آیند؟
پردازش کم‌مصرف تصویر، بی‌نیاز از یک پردازنده گرافیکی کامل
بیشتر شتاب‌دهنده‌های هوش مصنوعی در مقایسه با پردازنده‌های گرافیکی توان کمتری دارند. هرچند نسبت به برق مصرفی خود توان چشمگیری ارائه می‌کنند، عمدتاً برای بارهای کاری سبکی مانند تشخیص اشیا، ساخت مدل‌های زنده، رونویسی گفتار یا اجرای مدل‌های زبانی کوچک تبلیغ می‌شوند.
از سوی دیگر، این شتاب‌دهنده‌ها می‌توانند در تولید محتوا نیز سودمند باشند؛ برای نمونه، با کاهش هوشمند سروصدای پس‌زمینه، بهبود تصویر و انجام ویرایش‌های سبک ویدئویی، کیفیت صدا و تصویر را افزایش دهند.
یک پردازنده گرافیکی از همین حالا هم می‌تواند این کارها را به‌آسانی انجام دهد، اما استدلال سازندگان شتاب‌دهنده‌های هوش مصنوعی این است که چنین وظایف روزمره‌ای به توان کامل یک GPU نیاز ندارند و می‌توان با سپردن آن‌ها به شتاب‌دهنده، مصرف برق کلی را کاهش داد.
نمونه شاخص چنین شتاب‌دهنده‌ای کارت Hailo-۸ PCIe است که بسته به شمار پردازنده‌های درونش، تا ۲۰۸ TOPS توان پردازشی دارد. هر پردازنده به‌تنهایی ۲۶ TOPS توان ارائه می‌کند و تنها حدود ~۲.۵ W برق مصرف می‌کند؛ در نتیجه، مصرف کلی یک کارت PCIe مجهز به حداکثر ۸ ماژول به 20W می‌رسد.
توجیه خرید شتاب‌دهنده هوش مصنوعی منطقی نیست
شتاب‌دهنده هوش مصنوعی PCIe هم‌قیمت حریف پردازنده گرافیکی نمی‌شود
مهم‌ترین برتری تبلیغ‌شده این کارت‌ها نسبت به پردازنده گرافیکی، صرفه‌جویی در مصرف برق است. بااین‌حال، وقتی قیمت یک شتاب‌دهنده هوش مصنوعی را با پردازنده گرافیکی مقایسه کنید، این توجیه دیگر چندان پذیرفتنی به نظر نمی‌رسد.
برای نمونه، کارت Hailo-۸ PCIe حدود $۴۰۰ قیمت دارد که برای تنها ۲۰۶ TOPs مبلغ بسیار زیادی است. در مقابل، RTX ۵۰۶۰ حتی پس از افزایش قیمت و بالارفتن MSRP نیز با همین مبلغ فروخته می‌شود. این پردازنده گرافیکی در مجموع ۶۱۴ TOPs توان دارد؛ سه برابر Hailo-۸، آن هم با مصرف تنها ۱۴۵–150W.
بنابراین، اگر پردازنده گرافیکی رایانه رومیزی شما از پیش قادر به انجام این کارهاست، افزودن یک شتاب‌دهنده هوش مصنوعی جداگانه توجیهی ندارد؛ مگر آنکه بخواهید چند وات ناچیز صرفه‌جویی کنید که تأثیر محسوسی هم بر قبض برق نخواهد داشت.
کاربرد عملی شتاب‌دهنده‌های هوش مصنوعی را بیشتر در رباتیک و دیگر پردازش‌های لبه‌ای می‌بینم. از آنجا که نمی‌توان روی رایانه‌های تک‌بردی GPU نصب کرد، یک شتاب‌دهنده هوش مصنوعی M.۲ به‌خوبی در آن‌ها جا می‌گیرد. با این همه، دامنه کاربردش محدود است؛ زیرا این شتاب‌دهنده‌ها به‌تنهایی چندان سریع نیستند، مگر آنکه سراغ کارت افزونه‌ای بروید که در شکاف GPU نصب می‌شود.
شتاب‌دهنده‌های اختصاصی هوش مصنوعی جذاب به نظر می‌رسند، اما فریب نخورید
شتاب‌دهنده‌های هوش مصنوعی در وضعیت کنونی خود، فارغ از ابعادشان، به‌ندرت مشکلی را حل می‌کنند. در رایانه رومیزی، انتخاب GPU به‌تنهایی بدیهی است و NPU نیز می‌تواند همان کار شتاب‌دهنده هوش مصنوعی را انجام دهد؛ هرچند حتی NPUها هم بی‌فایده شمرده می‌شوند.
پشتیبانی نرم‌افزاری نیز مشکل دیگری است و هیچ سنجه معتبر و مناسبی برای نمایش توان شتاب‌دهنده‌های هوش مصنوعی وجود ندارد. در مقابل، زیست‌بوم CUDA انویدیا هم‌اکنون چنان گسترده است که نبود ابزارهای هم‌تراز، هیچ توسعه‌دهنده‌ای را به خرید تراشه‌ای جداگانه ترغیب نمی‌کند.
متأسفانه بعید می‌دانم حتی در آینده نزدیک نیز پشتیبانی مناسبی از راه برسد؛ زیرا شتاب‌دهنده‌های هوش مصنوعی، با وجود هیاهوی اولیه، هیچ‌گاه واقعاً فراگیر نشدند.
منبع: این مطلب ترجمه و بومی‌سازی مقاله‌ای از MakeUseOf به قلم Shaheer Khan است. مشاهده مقاله اصلی