سامسونگ در «اجلاس مدیران حافظه» از برنامههای خود برای حافظه HBM5 رونمایی کرد. هدف اصلی این نسل جدید، دو برابر کردن عملکرد و افزایش ۲۰ درصدی بهرهوری انرژی نسبت به HBM4E است. این هدف جاهطلبانه نشان میدهد که HBM5 ممکن است با دو برابر کردن تعداد پینهای رابط به این مهم دست یابد، زیرا افزایش نرخ انتقال داده به ازای هر پین در یک نسل بسیار دشوار است. پشتههای HBM5 همچنین دارای بلوک مسیر حرارتی (HPB) برای بهبود خنکسازی خواهند بود.
دو برابر شدن پهنای باند HBM5 میتواند تا سالهای ۲۰۲۸-۲۰۲۹ به ۴ ترابایت بر ثانیه به ازای هر پشته برسد و شتابدهندههای هوش مصنوعی را قادر سازد تا پایان دهه به پهنای باند ۸۰ تا ۹۶ ترابایت بر ثانیه دست یابند. افزایش عرض رابط (مثلاً به ۴,۰۹۶ بیت) برای بهرهوری انرژی آسانتر از افزایش سرعت به ازای هر پین است، اما پیچیدگیهای تولید قابل توجهی دارد. مشخصات نهایی HBM5 هنوز در حد گمانهزنی است، اما هدف کلی بسیار جاهطلبانه به نظر میرسد.
محققان کرهای (V-Die) و ژاپنی (MOSAIC) دو رویکرد نوین برای حافظه HBM هوش مصنوعی ارائه کردهاند. این طرحها با قرار دادن دایهای DRAM به صورت جانبی (به جای انباشتن عمودی)، مشکل گرمای بیش از حد و محدودیت ظرفیت را حل میکنند. V-Die با خنککننده مایع، عملکردی بسیار بالاتر از HBM4 را در شبیهسازیها نشان میدهد. MOSAIC نیز با رابطهای بدون تماس، تولید آسانتر و دو برابر شدن ظرفیت HBM4 را وعده میدهد. هدف این نوآوریها، غلبه بر «دیوار حافظه» و ارائه پهنای باند و چگالی بالاتر برای پردازندههای هوش مصنوعی آینده است.
با وجود نتایج امیدوارکننده، V-Die و MOSAIC هنوز در مراحل اولیه توسعه و اثبات مفهوم قرار دارند و تا تجاریسازی فاصله زیادی دارند. این تلاشها، همراه با نوآوریهای دیگر از شرکتهایی چون SK Hynix، سامسونگ و اینتل، نشاندهنده رقابت برای حل محدودیتهای حافظه در عصر هوش مصنوعی است که میتواند آینده سختافزار و پردازشها را متحول کند.
گوگل پلتفرم «ابرکامپیوتر هوش مصنوعی» خود را با پردازندههای مرکزی Axion و واحدهای پردازش تنسور (TPU) نسل هفتم Ironwood معرفی کرد. این سیستم برای آموزش و استنتاج مدلهای هوش مصنوعی در مقیاس بزرگ طراحی شده و پادهای Ironwood با 42.5 اگزافلاپس FP8، عملکردی فراتر از Nvidia GB300 NVL72 ارائه میدهند. این پلتفرم یکپارچه، محاسبات، ذخیرهسازی و شبکه را ترکیب میکند و شرکتهایی مانند Anthropic نیز از آن برای توسعه مدلهای Claude استفاده خواهند کرد که نشاندهنده مزایای هزینه به عملکرد آن است.
پردازندههای Axion، اولین پردازندههای عمومی مبتنی بر Armv9 گوگل، نیز عرضه شدهاند. این پردازندهها برای منطق برنامهها و بارهای کاری هوش مصنوعی طراحی شده و تا 50 درصد عملکرد بیشتر و تا 60 درصد بهرهوری انرژی بالاتری نسبت به پردازندههای x86 مدرن دارند. Axion در سه پیکربندی C4A، N4A و C4A Metal برای کاربردهای متنوعی در دسترس است. این حرکت گوگل، مجموعه تراشههای سفارشی این شرکت را تکمیل کرده و رقابت در بازار شتابدهندههای هوش مصنوعی را تشدید میکند.
میکرون با TSMC برای تولید دای منطقی پایه حافظه نسل بعدی HBM4E همکاری میکند که تولید آن برای سال 2027 هدفگذاری شده است. این همکاری بر سفارشیسازی دایهای منطقی HBM4E برای بارهای کاری هوش مصنوعی تمرکز دارد و HBM را به یک زیرسیستم نیمهقابل تنظیم تبدیل میکند. این رویکرد به فروشندگان GPU امکان میدهد تا ویژگیهای خاصی مانند SRAM اضافی یا موتورهای فشردهسازی اختصاصی را درخواست کنند، که این امر حافظه سفارشی را برای شتابدهندههای هوش مصنوعی حیاتیتر میسازد.
این برنامهها با نقشههای راه انویدیا (روبین اولترا) و AMD (MI400) که هر دو به HBM4E نیاز دارند، همسو است. همکاری میکرون با TSMC نقشه راه آن را با نیازهای آینده شتابدهندههای هوش مصنوعی هماهنگ میکند. هدف میکرون گسترش HBM4E در مراکز داده هوش مصنوعی و تبدیل آن به استاندارد حافظه برای گرههای هوش مصنوعی در نیمه دوم دهه است.