ASIC جدید Jalapeño اوپن‌ای‌آی به صورت داخلی در کنار میزبان‌های AMD EPYC Turin مستقر می‌شود که هر کدام ۱.۵ ترابایت حافظه دارند. SemiAnalysis استقرار در مقیاس رک Jalapeño را پس از رونمایی از این تراشه توصیف کرد، که ما در مصاحبه‌ای از ریچارد هو، معاون و رئیس بخش سخت‌افزار در اوپن‌ای‌آی، در مورد آن پرسیدیم. هو به ما گفت که تصمیم برای استفاده از Turin “عمل‌گرایانه” بوده و پردازنده جدید Vera انویدیا را از نظر “سطح بلوغ کمی عقب‌تر” توصیف کرد.

هو به Premium گفت: “روشی که ما برای آن طراحی در پیش گرفتیم، واقعاً از نظر کاهش ریسک و توانایی انجام سریع آن طراحی بود. Vera، به عنوان یک محصول مستقل، از نظر سطح بلوغ کمی عقب‌تر است. دستگاه Turin قوی است. کاری را که ما نیاز داشتیم انجام داد و تا حدی شرکای ما با آن تجربه داشتند.” او افزود: “برای برنامه Jalapeño، ما سعی داشتیم تصمیمات بسیار عمل‌گرایانه بگیریم. ما می‌خواستیم در اهداف عملکرد و هزینه تهاجمی باشیم، اما نمی‌خواستیم ریسک‌های غیرضروری را بپذیریم. این یک تصمیم طراحی خوب به نظر می‌رسید که با پارامترهای نحوه اتخاذ این تصمیمات طراحی مطابقت داشت.”

پردازنده‌های مبتنی بر Arm زیادی در بازار وجود دارند که بسیاری از آنها به صورت داخلی در هایپراسکیلرهای مختلف مانند Axiom گوگل کلود و Graviton آمازون وب سرویس مستقر شده‌اند، اما Vera و AGI خود Arm به عنوان پردازنده‌های عامل‌گرا (agentic CPUs) توصیف شده‌اند که ظاهراً استدلال پیچیده در حلقه‌های عامل‌گرا را در مقایسه با همتایان x86 خود از AMD و اینتل تسریع می‌کنند. ما از هو در مورد این پویایی و اینکه چرا Turin انتخاب درستی بود، با توجه به رابطه کاری نزدیک بین اوپن‌ای‌آی و انویدیا، پرسیدیم و او با نقل قول بالا پاسخ داد.

Arm مدت‌هاست که مزایای ISA AArch64 را در مقایسه با x86 ستوده است و حتی ادعا می‌کند که پردازنده AGI خود بیش از دو برابر عملکرد پلتفرم‌های مدرن x86 را ارائه می‌دهد. با این حال، این ادعا بر اساس تخمین‌های داخلی است، نه بنچمارک‌های واقعی. این شرکت به طور طبیعی نسبت به پذیرش AGI در بازار خوش‌بین بوده است، اگرچه حتی با تعهدات چشمگیر ۲ میلیارد دلاری، تحلیلگران می‌گویند نفوذ بازار پس از دو سال همچنان در ارقام تک رقمی پایین خواهد بود.

با انفجار تقاضا برای پردازنده‌های سرور در سال جاری و تکامل بارهای کاری عامل‌گرا، انویدیا در خط مقدم پیام‌رسانی بوده و Vera مبتنی بر Arm خود را با رقبای x86 مقایسه کرده و با جسارت ادعای بهبود ۱.۸ برابری نسبت به تراشه رقیب AMD Turin را مطرح کرده است؛ رقمی که از یک مجموعه بنچمارک کلی استخراج شده است و نشان می‌دهد Vera تنها ۳٪ از EPYC 9755 AMD جلوتر است.

بسیاری از طراحی‌های نیمه‌سفارشی Arm، از Graviton تا Cobalt آژور، بر چگالی هسته و کارایی برای بارهای کاری ابری تمرکز کرده‌اند. Vera و AGI تغییری به سمت پیام‌رسانی در برابر اوج عملکرد هستند. در بنچمارک‌های اولیه Vera، پردازنده انویدیا چشمگیر به نظر می‌رسد، اگرچه ما هنوز این تراشه را در طیف گسترده‌ای از بارهای کاری در عمل ندیده‌ایم، چه رسد به اینکه در برابر پردازنده‌های آتی Venice AMD یا Diamond Rapids اینتل بنچمارک شده باشد.

نکته جالب در مورد تصمیم اوپن‌ای‌آی برای استفاده از Turin این است که این شرکت یکی از شرکای استقرار Arm برای AGI است و همچنین در لیست مشتریانی قرار دارد که “در حال بررسی پردازنده Vera” هستند، طبق گفته انویدیا. اوپن‌ای‌آی، سایر آزمایشگاه‌های پیشرو و هایپراسکیلرها طیف گسترده‌ای از سخت‌افزار را در ناوگان خود نگه می‌دارند. جفت کردن Jalapeño به طور خاص با Turin به دلیل کاهش ریسک بود، و هو به بلوغ پلتفرم اشاره کرد.

به طور کلی، x86_64 بالغ‌تر از AArch64 است؛ ARM از اواسط دهه ۱۹۸۰ وجود داشته است، اگرچه یک افزونه ۶۴ بیتی مناسب تا ۱۲ سال پس از معرفی آن در x86 نرسید. و اگرچه Arm در دو دهه گذشته راه خود را به مراکز داده باز کرده است، اما هنوز یک پایه x86 بسیار عمیق‌تر وجود دارد که به چندین دهه قبل بازمی‌گردد.

به نظر نمی‌رسد که اظهارات هو به طور خاص در مورد تمایز بین AArch64 و x86 بوده باشد. بلکه، این اظهارات بر پویایی بین Turin و Vera متمرکز است، که دومی اولین ورود انویدیا به یک هسته CPU سفارشی برای مرکز داده است. اگرچه بنچمارک‌های اولیه Vera چشمگیر هستند، اما با این وجود ریسکی غیرضروری برای استقرار Jalapeño در مقیاس رک اوپن‌ای‌آی محسوب می‌شد.

اظهارات هو در مورد تجربه شرکای اوپن‌ای‌آی با Turin، تفکر تیم سخت‌افزار را نیز آشکار می‌کند. تفاوت‌هایی در عملی بودن سرویس‌دهی سیستم میزبان بین Turin و Vera وجود دارد، که مهمترین آنها این واقعیت است که Vera روی برد نصب می‌شود در حالی که تراشه‌های Turin سوکتی هستند؛ تعویض تراشه‌ها در یک سرور به هر حال رایج نیست، اما با Turin آسان‌تر است.

با توجه به اینکه اوپن‌ای‌آی ناوگانی از سخت‌افزار در دسترس دارد، ممکن است Jalapeño در آینده با یک سیستم میزبان متفاوت، احتمالاً با AGI Arm یا Vera انویدیا، مستقر شود. با این حال، در حال حاضر، Turin انتخاب درستی بود.