مینی‌پی‌سی هوش مصنوعی DGX Spark انویدیا اولین حضور برجسته خود را در CES امسال داشت و تاریخ عرضه آن برای ماه می در نمایشگاه برنامه‌ریزی شده بود، اما این پلتفرم از آن زمان با تاخیرهایی مواجه شده است در مسیر ورود به بازار. به نظر می‌رسد هر مشکلی که مانع از عرضه می‌شد، برطرف شده است. انویدیا اعلام کرده است که سیستم‌های DGX Spark از ۱۵ اکتبر برای خرید در دسترس خواهند بود، هم از خود انویدیا و هم از شرکایی از جمله دل، ایسوس، MSI و HP.

به عنوان یادآوری، DGX Spark یک پلتفرم مینی‌پی‌سی با پردازنده Grace Blackwell GB10 است که به طور خاص برای نیازهای استنتاج و توسعه هوش مصنوعی محلی طراحی شده است. اجرای استنتاج بر روی بسیاری از مدل‌های پیشرفته هوش مصنوعی امروزی به حافظه محلی GPU بسیار، بسیار بیشتری نسبت به حتی ۳۲ گیگابایتی که RTX 5090 می‌تواند فراهم کند، نیاز دارد. (RTX Pro 6000 Blackwell تا ۹۶ گیگابایت حافظه محلی GPU ارائه می‌دهد، اما این یک محصول ۸۰۰۰ دلاری به بالا است قبل از اینکه هزینه سرور میزبان یا ایستگاه کاری را اضافه کنید).

DGX Spark (که قبلاً با نام Project DIGITS شناخته می‌شد) شامل یک مجموعه حافظه یکپارچه و منسجم ۱۲۸ گیگابایتی LPDDR5X است که بین یک CPU انویدیا Grace با ۲۰ هسته Arm و یک GPU Blackwell به اشتراک گذاشته می‌شود که ادعا می‌کند تا ۱ پتافلاپ عملکرد استنتاج هوش مصنوعی را ارائه می‌دهد (با فرض اینکه مدل به کوانتیزاسیون FP4 با پراکندگی کاهش یافته باشد).

این شرکت می‌گوید یک DGX Spark واحد از مدل‌های ۲۰۰ میلیارد پارامتری به صورت محلی پشتیبانی می‌کند (باز هم با فرض کوانتیزاسیون FP4). اگر یک Spark کافی نباشد، دو واحد از این دستگاه‌ها را می‌توان با استفاده از NIC داخلی Nvidia ConnectX 7 به هم متصل کرد تا حافظه و منابع محاسباتی دو برابر شوند.

DGX Spark سیستم عامل DGX OS خود انویدیا (یک فورک از اوبونتو) را اجرا می‌کند و از پشته نرم‌افزاری بسیار مهم CUDA برای توسعه‌دهندگان هوش مصنوعی پشتیبانی می‌کند. برخلاف Strix Halo، که جایگاه خود را به عنوان یک تراشه بازی (گران‌قیمت) در دستگاه‌های متنوعی مانند دستگاه‌های دستی پیدا کرده است، ماهیت Arm- و Linux-محور DGX Spark آن را به عنوان یک پلتفرم بازی آماده کمتر جذاب می‌کند، اگرچه علاقه‌مندان کنجکاو احتمالاً می‌توانند با کمی تلاش، نیازهای بازی خود را روی آن برطرف کنند.

تاکنون، مینی‌پی‌سی‌ها و لپ‌تاپ‌های ساخته شده بر اساس AMD Ryzen AI Max+ 395 SoC (معروف به Strix Halo) بازار “تراشه نسبتاً مقرون‌به‌صرفه با حافظه عظیم و قدرت محاسباتی کافی برای عملکرد استنتاج معقول” را به طور کامل در اختیار داشتند. Strix Halo تا ۱۱۲ گیگابایت حافظه GPU (از مجموع ۱۲۸ گیگابایت رم داخلی) را پشتیبانی می‌کند. اما این سیستم‌ها به طور بومی از پشته گسترده CUDA پشتیبانی نمی‌کنند، که موانعی را برای توسعه‌دهندگان و علاقه‌مندانی که می‌خواهند پروژه‌های هوش مصنوعی خود را راه‌اندازی کنند، ایجاد می‌کند.

انویدیا به نوبه خود می‌گوید که با طیف گسترده‌ای از شرکای نرم‌افزاری همکاری کرده است تا اطمینان حاصل کند که ابزارهای آنها با DGX Spark به خوبی کار می‌کنند، از جمله Anaconda، Cadence، ComfyUI، Docker، Google، Hugging Face، JetBrains، LM Studio، Meta، Microsoft، Ollama و Roboflow، بنابراین به نظر می‌رسد که اگر یک LLM دارید که می‌خواهید به صورت محلی اجرا کنید، DGX Spark باید یک پایه محکم باشد.

انویدیا در ابتدا در ژانویه اعلام کرده بود که سیستم‌های DGX Spark از ۳۰۰۰ دلار شروع می‌شوند، اما حداقل DGX Spark اصلی اکنون با قیمت ۳۹۹۹ دلار به فروش می‌رسد. حتی با این قیمت، اندازه کوچک آن، مصرف برق نسبتاً متوسط ۲۴۰ وات، و پشتیبانی کامل و آماده از پشته CUDA احتمالاً طرفداران زیادی را در فضای رو به رشد هوش مصنوعی به خود جلب خواهد کرد. باید دید که آیا زمان طولانی آن در مرحله توسعه، در بازاری که همه چیز می‌تواند در عرض چند ساعت یا چند روز تغییر کند، یک نقطه ضعف بوده است یا خیر.