اوپن‌ای‌آی در حال استقرار داخلی ASICهای جدید Jalapeño خود در کنار پردازنده‌های AMD EPYC Turin است که هر کدام ۱.۵ ترابایت حافظه دارند. ریچارد هو، معاون سخت‌افزار اوپن‌ای‌آی، این تصمیم را “عمل‌گرایانه” توصیف کرده و پردازنده Vera انویدیا را از نظر “سطح بلوغ کمی عقب‌تر” دانسته است. انتخاب Turin با هدف کاهش ریسک و سرعت طراحی، و همچنین بهره‌گیری از تجربه شرکا صورت گرفته است.
با وجود ظهور پردازنده‌های مبتنی بر Arm مانند Vera و AGI، پلتفرم‌های x86_64 نظیر Turin بلوغ و زیرساخت عمیق‌تری ارائه می‌دهند. علی‌رغم نتایج اولیه چشمگیر Vera، اوپن‌ای‌آی آن را ریسکی غیرضروری برای استقرار Jalapeño در مقیاس رک خود تلقی کرده است. تفاوت‌های عملی در سرویس‌دهی، مانند سوکتی بودن Turin در مقابل نصب برد Vera، نیز در این انتخاب نقش داشته است. اوپن‌ای‌آی ممکن است در آینده از سیستم‌های میزبان دیگری استفاده کند، اما در حال حاضر Turin گزینه مناسبی بوده است.
تراشه Jalapeño ASIC شرکت OpenAI با کمک گسترده هوش مصنوعی طراحی شده و یک تغییر اساسی در صنعت محسوب می‌شود. این فرآیند طراحی، که تنها ۹ ماه از RTL تا tapeout به طول انجامید، یک مبنای جدید برای جدول زمانی توسعه تراشه‌ها ایجاد کرده است. ریچارد هو، رئیس سخت‌افزار OpenAI، تأکید می‌کند که هوش مصنوعی جایگزین مهندسان نشده، بلکه بهره‌وری آنها را به طرز چشمگیری افزایش داده و به تیم‌های کوچک‌تر امکان انجام کارها را سریع‌تر و بهتر از گذشته می‌دهد.
OpenAI در این پروژه از مدل‌های داخلی خود مانند Codex و Astra بهره برده و آنها را با ابزارهای موجود EDA ادغام کرده است. با وجود سرعت بالا، بهبودهایی مانند افزایش ۲۵ درصدی عملکرد در مرحله B0 نسبت به A0 نشان‌دهنده فضای بهینه‌سازی بود. OpenAI به دنبال تجاری‌سازی گردش کار طراحی تراشه هوش مصنوعی خود است و نقشه راهی چند نسلی برای شتاب‌دهنده‌ها دارد، اما در مورد تکرار سریع چرخه‌های طراحی به دلیل بلوغ فناوری محتاط است.
تراشه سفارشی هوش مصنوعی Jalapeño اوپن‌ای‌آی، که برای نیازهای داخلی این شرکت طراحی شده، با وجود تقاضای بالای داخلی، احتمال عرضه عمومی آن در آینده را رد نمی‌کند. ریچارد هو، رئیس سخت‌افزار اوپن‌ای‌آی، تأکید کرده که اولویت فعلی تأمین نیازهای خود شرکت است. این تراشه برای کارایی بالا ساخته شده و در بنچمارک‌های Hot Chips عملکرد رقابتی در برابر شتاب‌دهنده‌های Blackwell انویدیا از خود نشان داده و قابلیت شتاب‌دهی مدل‌های مختلفی را دارد.
Jalapeño تنها برای مدل‌های اوپن‌ای‌آی نیست و قابلیت برنامه‌ریزی و استفاده عمومی دارد. هدف اصلی طراحی آن، کارایی بالا در مراکز داده هوش مصنوعی مدرن و محدودیت‌های توان مصرفی است. طراحی مشترک با مدل‌های داخلی اوپن‌ای‌آی، مزیت رقابتی مهمی فراهم می‌کند. اوپن‌ای‌آی عملکرد آن را در برابر پلتفرم‌های جدیدتر انویدیا مانند Vera Rubin نیز بررسی کرده و نتایج داخلی امیدوارکننده گزارش شده است.
OpenAI در کنفرانس Hot Chips از تراشه داخلی Jalapeño خود که با همکاری Broadcom توسعه یافته، رونمایی کرد. این ASIC استنتاجی ادعا می‌کند در وظایف هوش مصنوعی، از GPUهای پرچمدار GB200 و GB300 انویدیا پیشی می‌گیرد. بنچمارک‌ها نشان می‌دهند که Jalapeño با توان ۷۰۰ وات، ۱.۵ تا ۱.۹ برابر توان عملیاتی بیشتر به ازای هر کیلووات و ۱.۷ تا ۳.۶ برابر تاخیر کمتر نسبت به شتاب‌دهنده‌های ۱۲۰۰ تا ۱۴۰۰ واتی انویدیا ارائه می‌دهد. OpenAI قصد دارد این تراشه را از اواخر سال جاری در مراکز داده خود مستقر کند.
Jalapeño برای آموزش مدل‌ها طراحی نشده است، حوزه‌ای که انویدیا در آن بی‌رقیب است. این تراشه از حافظه HBM4 استفاده می‌کند که کالایی بسیار کمیاب است. با وجود رقابت سخت‌افزاری، OpenAI همچنان وابستگی مالی خود را به انویدیا عمیق‌تر می‌کند، از جمله توافق اخیر برای تامین مالی ۱۰۵ میلیارد دلاری مراکز داده. نسل دوم تراشه Jalapeño نیز در حال توسعه است.
