متا در حال استفاده از شتابدهندههای هوش مصنوعی سفارشی AMD Instinct MI450-series است که با 144 گیگابایت حافظه HBM4 (به جای 432 گیگابایت نسخه کامل) برای سیستمهای توصیهگر بهینهسازی شدهاند. این رویکرد به متا امکان میدهد تا هزینههای مواد اولیه و مصرف انرژی را به طور چشمگیری کاهش دهد، در حالی که عملکرد کافی برای بارهای کاری توصیهگر را حفظ میکند. این طراحی سفارشی، نسبت پهنای باند به دلار رقابتیتری را ارائه میدهد و میتواند به صرفهجویی دهها میلیون دلاری برای متا منجر شود.
با این حال، این کاهش ظرفیت و قدرت محاسباتی، به قیمت از دست دادن تطبیقپذیری تمام میشود. این شتابدهندهها برای آموزش مدلهای زبان بزرگ (LLM) و استنتاج در مقیاس وسیع کمتر جذاب هستند و ممکن است متا را مجبور کند تا برای نیازهای هوش مصنوعی پیشرفتهتر خود، همچنان به شتابدهندههای عمومیتر، احتمالاً از انویدیا، متکی باشد. این وضعیت طنزآمیز است، زیرا متا برای کاهش هزینهها به AMD روی آورده، اما تخصصگرایی ممکن است در نهایت به نفع رقیبش انویدیا تمام شود.
- کولبات
- تیر 31, 1405






