یان باک، معاون بخش هایپرسکیل و محاسبات با عملکرد بالا در انویدیا و مخترع CUDA، اعلام کرده است که این شرکت “صدها هزار سرور مستقل Grace را عرضه کرده است.” در ماه می، انویدیا فاش کرد که در مجموع بیش از 2.5 میلیون پردازنده Grace را به بازار فرستاده و در ماه فوریه نیز همکاری با متا برای استقرار سرورهای مستقل Grace را اعلام کرده بود. با این حال، اظهارات باک نشان می‌دهد که مقیاس استقرار ممکن است حتی بزرگتر باشد، زیرا انویدیا تلاش می‌کند در بازاری که تحت سلطه سایر رقبا است، به رقابت بپردازد.

این اظهارنظر جالب است، هرچند تعجب‌آور نیست. انویدیا به نیروی غالب در سیلیکون ولی تبدیل شده است، زیرا تقاضا برای پردازنده‌های گرافیکی آن در طول توسعه بی‌سابقه مراکز داده برای استنتاج هوش مصنوعی به شدت افزایش یافت. با این حال، از زمان اوج‌گیری در اوایل سال جاری، حدود 1 تریلیون دلار از ارزش بازار انویدیا از بین رفته است، زیرا سرمایه‌گذاران پشت سر تولیدکنندگان پردازنده مرکزی مانند اینتل جمع شده‌اند. بارهای کاری هوش مصنوعی عامل‌محور در حال تکامل، تعادل سخت‌افزاری را تغییر داده‌اند و از نسبت هشت پردازنده گرافیکی به ازای هر پردازنده مرکزی، در برخی موارد به نسبت یک به یک متمایل شده‌اند.

انویدیا می‌خواهد با پردازنده مرکزی جدید خود، Vera، که به طور خاص برای این نوع بارهای کاری طراحی شده است، از این روند بهره‌برداری کند. با این حال، حتی قبل از ظهور اخیر عوامل هوش مصنوعی، انویدیا می‌گوید که تقاضا برای پردازنده‌های مرکزی خود را برای بارهای کاری نیازمند داده مشاهده کرده است. باک اظهار داشت: “آنها [با Grace] یک وب سرور را اجرا نمی‌کردند… یا برای آنچه که فضای ابری از آن استفاده می‌کند، یعنی هسته ارزان‌قیمت دلاری، به کار گرفته نمی‌شدند.” او افزود: “آنها برای عملیات بک‌اند و غنی از داده، مانند پردازش داده‌ها، مستقر می‌شدند.”

Grace نشان‌دهنده ورود انویدیا به دنیای پردازنده‌های مرکزی مراکز داده است. این پردازنده از 72 هسته استاندارد Arm Neoverse V2 استفاده می‌کند، اما با معماری Scalable Coherency Fabric (SCF) انویدیا متمایز می‌شود. Vera از SCF به‌روز شده‌ای بهره می‌برد، اما همچنین اولین طراحی هسته سفارشی انویدیا به نام Olympus را نیز شامل می‌شود. Grace دری را گشود و Vera نشان‌دهنده ورود بزرگ انویدیا به بازار در برابر AMD و اینتل است.

صرف نظر از اینکه Vera در نبرد پردازنده‌های مرکزی نسل بعدی مراکز داده — که اکنون در حال داغ شدن است، زیرا انتظار می‌رود AMD این هفته پردازنده‌های Zen 6 Venice خود را عرضه کند — به کجا می‌رسد، طراحی آن به طور چشمگیری با آنچه از اینتل و AMD دیده‌ایم متفاوت است. مهم‌تر از همه، Vera یکپارچه (monolithic) است و تمام 88 هسته خود را روی یک قطعه سیلیکون قرار می‌دهد. AMD و اینتل، سال‌ها پیش، از دای‌های یکپارچه به نفع چیپلت‌ها فاصله گرفتند، که امکان تراکم بسیار بالای هسته‌ها را با هزینه تأخیر و مشکلات انسجام فراهم می‌کرد. Vera در این زمینه به طور رادیکالی متفاوت است، نه تنها بر روی یک دای واحد ساخته شده، بلکه فضای قابل توجهی از دای را به Fabric اختصاص داده است.

باک گفت: “یکی از دلایلی که ما 128 هسته نداریم این است که بخش زیادی از مساحت دای را به Fabric اختصاص داده‌ایم.” او افزود: “این پهنای باند 3.4 ترابایت بر ثانیه در داخل آن پردازنده مرکزی است که به هر هسته اجازه می‌دهد با هر کش، هر کنترلر حافظه با سرعت کامل و بدون هیچ برخوردی ارتباط برقرار کند.”

برای روشن شدن موضوع، باک به پهنای باند 3.4 ترابایت بر ثانیه بین هسته‌ها در Vera اشاره می‌کند. همچنین تا 1.2 ترابایت بر ثانیه پهنای باند حافظه تجمیعی (14 گیگابایت بر ثانیه به ازای هر هسته) از طریق رابط LPDDR5X وجود دارد.

اما همانطور که طراحی‌های مبتنی بر چیپلت در عملکرد هر رشته (thread) مصالحه‌هایی داشتند، Vera نیز احتمالاً برای معماری منحصر به فرد خود مصالحه‌هایی خواهد داشت. اکثر بارهای کاری مراکز داده همچنان وظایف “قدیمی” هستند که هایپراسکیلرها برای آنها ساخته‌اند، و حتی با وجود تقاضای به ظاهر سیری‌ناپذیر برای زیرساخت‌های هوش مصنوعی، این وضعیت بعید است برای چندین سال تغییر کند.

باک این مصالحه را تشخیص می‌دهد و می‌پرسد: “آیا اینتل و دیگران می‌توانند Fabricهای غنی بسازند؟ آیا آنها IP و اکوسیستم لازم برای انجام این کار و اتصال آن به حافظه LP را دارند؟ آنها باید به شما بگویند که چه زمانی این کار را انجام خواهند داد… اما این مصالحه به قیمت بارهای کاری قدیمی تمام خواهد شد.” اوایل سال جاری، در کنفرانس GTC در ماه مارس، باک حتی واضح‌تر گفت: “جهان با یک SKU از پردازنده مرکزی خدمت‌رسانی نخواهد شد، و این قصد ما نیست.”

با این حال، واضح است که انویدیا جاه‌طلبی‌هایی در زمینه پردازنده‌های مرکزی مراکز داده فراتر از آنچه که تیترهای بورس نیویورک نشان می‌دهند، دارد. انویدیا می‌گوید پردازنده‌های مرکزی فرصت بازار قابل دسترس (TAM) 200 میلیارد دلاری را برای این شرکت فراهم می‌کنند، که پیش‌بینی نسبتاً خوش‌بینانه‌ای در مقایسه با سایر بخش‌های صنعت است که تا سال 2030 یک TAM حدود 120 میلیارد دلاری (اگرچه تخمین‌های اخیر تا 170 میلیارد دلار نیز افزایش یافته‌اند) را پیش‌بینی می‌کنند. و هوش مصنوعی عامل‌محور در حال گسترش این بازار است، به طوری که مورگان استنلی در ماه آوریل تخمین زد که عوامل هوش مصنوعی می‌توانند تا 60 میلیارد دلار به بازار پردازنده‌های مرکزی مراکز داده اضافه کنند.

Vera در کنار زیرساخت هوش مصنوعی نسل بعدی انویدیا، شامل پردازنده‌های گرافیکی Rubin، کارت‌های شبکه ConnectX-9، سوئیچ‌های اترنت SpectrumX و اجزای مختلفی که برای ساخت یک رک Vera Rubin NVL72 به کار می‌روند، در حال تولید کامل است. این شرکت می‌گوید حدود 1.3 میلیون قطعه در یک رک استفاده می‌شود و لیستی از بیش از 300 شریک جهانی برای ساخت آنها دارد. به عنوان بخشی از بازدید ما از دفتر مرکزی انویدیا در هفته گذشته، ما یک رک Vera Rubin NVL72 را در حال کار مشاهده کردیم که بارهای کاری OpenAI را اجرا می‌کرد.