جنسن هوانگ، مدیرعامل انویدیا، شخصاً مینیپیسیهای هوش مصنوعی DGX Spark را جداگانه به ایلان ماسک و سم آلتمن تحویل داد. این اقدام نمادی از رقابت شدید بین این دو بنیانگذار سابق OpenAI و وضعیت متفرق صنعت هوش مصنوعی است. DGX Spark، مجهز به سوپرچیپ GB10 Grace Blackwell، با ۱۲۸ گیگابایت حافظه یکپارچه و عملکرد هوش مصنوعی پتافلاپ، قادر به اجرای مدلهایی با ۲۰۰ میلیارد پارامتر به صورت محلی است. ماسک دستگاه خود را در اسپیسایکس دریافت کرد و آلتمن نیز به تحویل DGX-1 اصلی توسط هوانگ در ۹ سال پیش اشاره کرد.
این سیستم با قیمت ۳۹۹۹ دلار از طریق انویدیا و شرکایی چون Acer، Asus و Dell در دسترس است. اولین سری از DGX Spark به محققان شرکتهای بزرگی مانند گوگل، متا و مایکروسافت نیز تحویل داده شده است. این تحویلهای شخصی، نقش کلیدی انویدیا را در تامین زیرساختهای هوش مصنوعی برای رهبران و توسعهدهندگان این صنعت نشان میدهد و پویاییهای رقابتی آن را برجسته میسازد.
EXO Labs فریمورک متنباز EXO را برای اجرای کارآمد مدلهای زبان بزرگ (LLM) روی سختافزارهای ترکیبی معرفی کرده است. این فریمورک بار کاری را بین دستگاههای مختلف توزیع میکند. در یک نمایش، دو سیستم NVIDIA DGX Spark با مک استودیو M3 Ultra اپل ترکیب شدند. این ترکیب از قدرت محاسباتی Spark و پهنای باند بالای مک استودیو بهره میبرد و 2.8 برابر افزایش عملکرد را نشان داده است.
این رویکرد “استنتاج غیرمتمرکز” نام دارد و با تقسیم مراحل LLM (پیشپر کردن برای محاسبات، رمزگشایی برای پهنای باند) بین دستگاهها کار میکند. EXO، اگرچه آزمایشی است، اثبات مفهوم قدرتمندی است که نشان میدهد هوش مصنوعی با کارایی بالا لزوماً نباید در انحصار مراکز داده باشد و با استفاده هوشمندانه از سختافزارهای موجود، دستاوردهای قابل توجهی حاصل میشود.
مینیپیسی هوش مصنوعی DGX Spark انویدیا، که عرضه آن با تاخیر مواجه شده بود، از ۱۵ اکتبر با قیمت ۳۹۹۹ دلار در دسترس خواهد بود. این پلتفرم توسعهدهنده قدرتمند، شامل یک CPU و GPU با ۱۲۸ گیگابایت حافظه LPDDR5X مشترک است که برای استنتاج و توسعه هوش مصنوعی محلی طراحی شده و تا ۱ پتافلاپ عملکرد ارائه میدهد. این دستگاه از مدلهای ۲۰۰ میلیارد پارامتری به صورت محلی پشتیبانی کرده و از پشته نرمافزاری CUDA انویدیا به طور کامل پشتیبانی میکند.
این مینیپیسی کوچک، رقیبی برای سیستمهای مبتنی بر AMD Ryzen AI Max+ 395 SoC (Strix Halo) محسوب میشود. عدم پشتیبانی بومی Strix Halo از CUDA، DGX Spark را برای توسعهدهندگان هوش مصنوعی جذابتر میکند. انویدیا با این محصول، جایگاه خود را در بازار رو به رشد هوش مصنوعی محلی تقویت میکند، هرچند قیمت آن نسبت به پیشبینی اولیه افزایش یافته است.
