در رویداد «پیشرفت هوش مصنوعی» AMD در این هفته، این شرکت جزئیات بیشتری از پردازنده گرافیکی MI455X آتی خود و معماری مقیاس رک Helios را فاش کرد که ۷۲ عدد از این پردازنده‌های گرافیکی را در یک شتاب‌دهنده منسجم ترکیب می‌کند—بزرگترین سیستمی که AMD تاکنون ساخته و اولین سیستم آن برای رقابت واقعی با طراحی مقیاس رک NVL72 انویدیا، که در نسل‌های Blackwell و Rubin استفاده می‌شود.

AMD پردازنده MI455X را «به مراتب پیشرفته‌ترین شتاب‌دهنده هوش مصنوعی که تاکنون ساخته‌ایم» می‌نامد، و از آنچه دیده‌ایم، این رقابتی‌ترین محصول در سطح تراشه و در مقیاس رک است که AMD تاکنون در برابر تسلط کامل انویدیا بر رقابت محاسبات هوش مصنوعی ارائه کرده است.

پردازنده گرافیکی کامل MI455X یک تراشه عظیم شامل ۳۲۰ میلیارد ترانزیستور است و با استفاده از فناوری‌های بسته‌بندی پیشرفته ساخته شده است. چهار دای مجتمع شتاب‌دهنده (XCD) با استفاده از اتصال هیبریدی روی هر دای Fabric و Cache (FCD) قرار گرفته‌اند. به نوبه خود، دو FCD هر کدام با شش پشته HBM4، دو دای ورودی/خروجی و با یکدیگر با استفاده از فناوری CoWoS-L شرکت TSMC متصل شده‌اند.

این طراحی چیپلت به AMD اجازه می‌دهد تا پیشرفته‌ترین فناوری فرآیند گیت-همه-جانبه (GAA) TSMC 2N را در XCDها استفاده کند، جایی که بیشترین مزیت را برای توان و عملکرد دارد، در حالی که FCDها و دای‌های ورودی/خروجی، که شامل عناصری هستند که از متراکم‌ترین فناوری‌های فرآیند بهره نمی‌برند، بر روی TSMC N3P ساخته شده‌اند.

CDNA 5 نشان‌دهنده یک تغییر بزرگ در شکل معماری CDNA است. AMD اکنون بلوک ساختاری اساسی دای مجتمع شتاب‌دهنده CDNA 5 را «پردازنده گروه کاری» (Work Group Processor) به جای «واحد محاسباتی» (Compute Unit) می‌نامد، اما در عمل، طرح‌بندی اساسی بقیه دای مجتمع شتاب‌دهنده (XCD) تا حد زیادی مشابه است.

تعداد WGPs در MI455X همانند MI355X و برابر با ۲۵۶ باقی مانده است. از آنجایی که تغییری در تعداد منابع محاسباتی اساسی روی تراشه ایجاد نشده است، توان عملیاتی به ازای هر WGP در CDNA 5 MI455X باید بسیار بالاتر از MI355X باشد تا افزایش عملکرد بزرگ خود را ارائه دهد.

در میان بسیاری از تغییرات دیگر برای این نسل، CDNA 5 یک تغییر عمده را برای مدل برنامه‌نویسی پردازنده‌های گرافیکی Instinct نشان می‌دهد. عرض یک wavefront، یا گروهی از آیتم‌های کاری یا رشته‌ها که هر پردازنده گروه کاری به آن‌ها رسیدگی می‌کند، اکنون ۳۲ به جای ۶۴ است، انتخابی که AMD می‌گوید تأخیر دستورالعمل، جریمه‌های انحراف شاخه و فشار رجیستر را بهبود می‌بخشد. این شرکت همچنین توضیح می‌دهد که رویکرد ۳۲ بیتی انعطاف‌پذیری معماری را برای تعامل با اندازه‌های مختلف کاشی تانسور و نگاشت هسته‌های محاسباتی به سخت‌افزار افزایش می‌دهد. پردازنده‌های گرافیکی RDNA از زمان معرفی خود از اندازه wavefront بومی ۳۲ استفاده کرده‌اند.

CDNA 5 عملکرد محاسباتی را نسبت به CDNA 4 به شدت افزایش می‌دهد، به طور نظری FLOPS اوج ممکن از تراشه را دو برابر و در برخی موارد چهار برابر می‌کند. MI455X به ویژه از فرمت‌های ممیز شناور با دقت پایین‌تر که اکنون برای استفاده در استنتاج (inference) رایج هستند، بهره می‌برد. فرمت‌های OCP MXFP8 و MXFP4 به طور نظری تا ۴ برابر سریع‌تر از CDNA 4 MI355X هستند.

در اینجا یک نمای کلی از حداکثر FLOPS نظری MI455X در مقایسه با MI355X نسل قبلی و پردازنده گرافیکی Rubin انویدیا آورده شده است.

حداقل روی کاغذ، MI455X عملکرد اوجی را ارائه می‌دهد که از آنچه انویدیا تاکنون برای Rubin نشان داده، بهتر است، و در ترکیب با معماری مقیاس رک Helios که سرانجام به AMD همان دامنه منسجم ۷۲ پردازنده گرافیکی را مانند طراحی مقیاس رک NVL72 انویدیا می‌دهد، AMD در رقابت ظرفیت مرکز داده هوش مصنوعی بیش از هر زمان دیگری رقابتی‌تر است. و این به معنای پیروزی‌های واقعی مشتریان است، زیرا AMD این هفته قراردادهای مهمی را با مایکروسافت و Anthropic اعلام کرده است.

اما باید در نتیجه‌گیری‌های زیاد از این اعداد FLOPS اوج مقایسه‌ای محتاط باشیم، زیرا عملکرد واقعی این پردازنده‌های گرافیکی در دنیای واقعی احتمالاً در عمل بسیار پایین‌تر خواهد بود، همانطور که خود AMD در یکی از جلسات ما اعتراف کرد. چالش پیش رو، بهینه‌سازی نرم‌افزار و برنامه‌ها برای دستیابی به حداکثر عملکرد نظری ممکن است.

فراتر از بهبودهای محاسباتی عمومی، AMD همچنین عملکرد بهبود یافته ریاضیات متعالی (transcendental math) را از واحد متعالی CDNA 5 تبلیغ می‌کند، که پیامدهای گسترده‌ای برای عملکرد در توابع ضروری هوش مصنوعی مانند softmax، فعال‌سازی‌های شبکه عصبی و توجه دارد. AMD می‌گوید که واحد متعالی CDNA 5 توان عملیاتی را نسبت به CDNA 4 دو برابر می‌کند. این واحد همچنین پشتیبانی از دستورالعمل صریح tanh را اضافه می‌کند که برای عملیات خاص روی لایه‌های پنهان در شبکه‌های عصبی مفید است.

AMD همچنین سلسله مراتب کش و حافظه را در MI455X به طور عمیقی بازنگری کرده است. Infinity Cache بزرگ در CDNA 4 کنار گذاشته شده و به نفع یک کش L2 مشترک کوچکتر اما با پهنای باند بالاتر در هر دای Fabric Compute جایگزین شده است. هر FCD دارای یک برش L2 با ظرفیت ۹۶ مگابایت است که در مجموع ۱۹۲ مگابایت می‌شود، در مقایسه با تنها ۳۲ مگابایت که توسط Infinity Cache ۲۵۶ مگابایتی در MI355X پشتیبانی می‌شد. AMD می‌گوید این کش پهنای باند ۱.۵ برابر بالاتری به ازای هر FCD نسبت به Infinity Cache CDNA 4 ارائه می‌دهد، بنابراین در مجموع، MI455X دارای ۳ برابر پهنای باند L2 نسبت به MI355X است.

درون WGP، کش‌های بزرگتر، سریع‌تر و انعطاف‌پذیرتری اکنون در دسترس هستند. حافظه ذخیره‌سازی داده محلی (LDS) یا حافظه scratchpad نسبت به CDNA 4 دو برابر شده و به ۳۲۰ کیلوبایت رسیده است، و در مجموع، ۹۶ مگابایت LDS در سراسر تراشه وجود دارد که دو برابر بزرگترین پیاده‌سازی CDNA 4 در MI355X است. AMD می‌گوید SRAM LDS پهنای باند خواندن و نوشتن بالاتری به ازای هر کلاک نسبت به نسل قبلی ارائه می‌دهد، اما جزئیات خاصی را ارائه نکرد.

نکته مهم این است که معماری حافظه اصلی MI455X برای این نسل به HBM4 منتقل شده است. AMD از شش پشته HBM4 به ازای هر FCD استفاده می‌کند که در مجموع ۱۲ پشته روی تراشه قرار می‌گیرد و ظرفیت حافظه ۴۳۲ گیگابایت و پهنای باند حافظه ۲۳.۳ ترابایت بر ثانیه به ازای هر پردازنده گرافیکی را ارائه می‌دهد. ظرفیت و پهنای باند بالای حافظه هر دو برای نگه داشتن وزن‌های مدل هوش مصنوعی و کش‌های KV که دائماً در حال گسترش هستند، نزدیک به پردازنده گرافیکی برای بهترین عملکرد، حیاتی هستند.

این پیاده‌سازی HBM یکی از قوی‌ترین مزایای MI455X نسبت به Rubin انویدیا به تنهایی است. این پردازنده هم ظرفیت بسیار بالاتر و هم پهنای باند کمی بیشتر از اولین پردازنده گرافیکی Rubin که انویدیا این هفته جزئیات آن را فاش کرد، ارائه می‌دهد. در پیکربندی اولیه خود، Rubin تنها ۲۸۸ گیگابایت HBM4 با حداکثر ۲۲ ترابایت بر ثانیه پهنای باند ارائه می‌دهد.

در مقیاس رک، ظرفیت HBM بالاتر MI455X به ۳۱.۱ ترابایت HBM در ۷۲ پردازنده گرافیکی می‌رسد، یا ۵۰ درصد بیشتر از ظرفیت کلی ۲۰.۷ ترابایتی Vera Rubin. و معماری مقیاس رک Helios اولین معماری AMD است که تمام حافظه پردازنده گرافیکی را در یک دامنه منسجم واحد ترکیب می‌کند. از آنجایی که عملکرد استنتاج هوش مصنوعی تحت سلطه هر دو عامل محلی‌سازی داده و پهنای باند حافظه است، مزایای AMD در این زمینه مطمئناً توجه زیادی را به خود جلب خواهد کرد.

حرکت کارآمد داده در سراسر تراشه یک ملاحظه کلیدی برای کاهش مصرف انرژی و بهبود عملکرد در MI455X است.

Tensor Data Mover CDNA 5 نسخه بهبود یافته موتور انتقال داده در نسل‌های گذشته CDNA است. مانند Tensor Memory Accelerator انویدیا، TDM تولید آدرس‌های حافظه خاص تانسور را تسریع می‌کند و انتقال داده‌های مرتبط از حافظه را بدون درگیر کردن موتورهای سایه‌زن تسهیل می‌بخشد. در نسل CDNA 5، TDM قابلیت انتقال مستقیم داده از DRAM به کش WGP LDS را بدون ذخیره‌سازی داده در سطوح کش میانی به دست می‌آورد.

AMD همچنین پشتیبانی از multicast را برای خواندن حافظه به WGPs اضافه کرده است تا از این واقعیت بهره‌برداری کند که بارهای کاری هوش مصنوعی اغلب نیاز دارند همزمان روی وزن‌ها و فعال‌سازی‌های یکسان در چندین WGP کار کنند. با استفاده از multicast، یک خواندن حافظه واحد می‌تواند در بسیاری از WGPs تقویت شود، پهنای باند مؤثر حافظه را افزایش دهد، ترافیک تکراری روی باس را کاهش دهد و مصرف انرژی را پایین بیاورد. انویدیا از زمان Hopper قابلیت مشابهی در پردازنده‌های گرافیکی خود داشته است، اما با توجه به تمرکز شدید AMD بر حرکت کارآمد داده در این نسل، شاید دیدن نسخه‌ای از آن در اینجا تعجب‌آور نباشد.

در مجموع، MI455X قانع‌کننده‌ترین محصول Instinct AMD تا به امروز است. این محصول بهبود عملکرد نسلی عظیمی را ارائه می‌دهد، FLOPS اوجی را روی کاغذ به نمایش می‌گذارد که با پردازنده گرافیکی Rubin آتی انویدیا رقابتی یا حتی برتر است، و یک مجموعه عظیم ۴۳۲ گیگابایتی از حافظه HBM4 را ارائه می‌دهد که ۱.۵ برابر بزرگتر و حتی کمی سریع‌تر از ۲۸۸ گیگابایت مکمل Rubin است.

در ترکیب با معماری مقیاس رک Helios و دامنه مقیاس‌پذیری ۷۲ شتاب‌دهنده‌ای آن—اولین پاسخ واقعی AMD به طراحی مقیاس رک NVL72 انویدیا—باید انتظار داشته باشیم که رقابت برای برتری محاسبات هوش مصنوعی در نیمه دوم سال جاری با شروع عرضه محصولات نسل بعدی انویدیا و AMD به مشتریان، واقعاً داغ شود.