شرکت هوش مصنوعی چینی DeepSeek ابزارهای برنامه‌نویسی متن‌باز را که با همکاری هواوی توسعه یافته‌اند، برای تراشه‌های هوش مصنوعی Ascend این شرکت منتشر کرده است. این اقدام بخشی از تلاش‌ها برای کاهش وابستگی به اکوسیستم نرم‌افزاری و سخت‌افزاری انویدیا است. بر اساس گزارش رویترز در ۳۰ سپتامبر، این انتشار شامل کتابخانه‌های متن‌باز برای محاسبات هوش مصنوعی و ارتباط تراشه به تراشه، و همچنین پشتیبانی Ascend از زبان برنامه‌نویسی سطح بالای TileLang می‌شود.

DeepSeek می‌گوید این ابزارها – که هواوی در طول توسعه آن‌ها پشتیبانی کامل ارائه کرده است – با هدف ساده‌سازی برنامه‌نویسی و در عین حال امکان بهره‌برداری کامل توسعه‌دهندگان از عملکرد سخت‌افزار طراحی شده‌اند. این دو شرکت همچنین برای بهینه‌سازی محاسبات و ارتباطات در یک سیستم سوپرنود که حول ۱۲۸ تراشه Ascend 950 ساخته شده است، همکاری کردند. این کار دو نیاز اصلی برای اجرای حجم کاری بزرگ هوش مصنوعی در چندین شتاب‌دهنده را برطرف می‌کند: انجام محاسبات کارآمد روی هر تراشه و انتقال سریع داده‌ها بین آن‌ها برای مشغول نگه داشتن پردازنده‌ها.

کتابخانه‌های منتشر شده شامل DeepGEMM-Ascend است که ضرب ماتریس و سایر محاسبات مورد استفاده در مدل‌های DeepSeek را مدیریت می‌کند. این کتابخانه از عملیات BF16، FP8 و FP4 پشتیبانی می‌کند و از همان رابط‌های برنامه‌نویسی کتابخانه موجود DeepGEMM DeepSeek استفاده می‌کند و به توسعه‌دهندگان امکان می‌دهد هنگام مهاجرت به Ascend، APIهای آشنا را حفظ کنند. در همین حال، DeepEP-Ascend ارتباطات برای آموزش و استنتاج را مدیریت می‌کند، از جمله مسیریابی داده‌ها به متخصصان مختلف در مدل‌های mixture-of-experts و ترکیب خروجی‌های آن‌ها. هر دو کتابخانه روی سخت‌افزار Ascend 950 توسعه و آزمایش شده‌اند.

TileLang لایه برنامه‌نویسی سطح بالاتر را برای نوشتن هسته‌های بهینه‌سازی شده فراهم می‌کند. DeepSeek آن را به عنوان ارائه «یک مدل برنامه‌نویسی ساده‌تر» نسبت به CUDA انویدیا توصیف کرد، با هدف بهبود کارایی توسعه و ساده‌سازی کد. این زبان قبلاً از انویدیا و سایر سخت‌افزارها پشتیبانی می‌کرد، با آداپتورهای قبلی موجود برای پردازنده‌های Ascend هواوی. به‌روزرسانی ۳۰ سپتامبر پشتیبانی بومی از Ascend 950 را اضافه می‌کند، از جمله تولید کد، زمان‌بندی خودکار و همگام‌سازی.

این ابزارها بر پایه پلتفرم نرم‌افزاری CANN موجود هواوی ساخته شده‌اند که زیرساخت اصلی برای اجرای حجم کاری هوش مصنوعی روی Ascend را فراهم می‌کند. پلتفرم CUDA انویدیا مدت‌هاست که محیط برنامه‌نویسی بالغ و کتابخانه‌های بهینه‌سازی شده برای GPUهای خود را در اختیار توسعه‌دهندگان قرار داده است، که اکوسیستم نرم‌افزاری را بخش عمده‌ای از مزیت این شرکت در محاسبات هوش مصنوعی می‌سازد. در حالی که انتشار DeepSeek ابزارهای اضافی را برای بهینه‌سازی حجم کاری روی سخت‌افزار هواوی در اختیار توسعه‌دهندگان قرار می‌دهد، پشتیبانی TileLang از چندین پلتفرم تضمین می‌کند که این زبان برای GPUهای انویدیا نیز مفید باقی بماند.

این اعلامیه دو هفته پس از رونمایی هواوی از نسل بعدی پردازنده‌های هوش مصنوعی و سیستم‌های سوپرنود خود منتشر می‌شود. هواوی اعلام کرد که انتظار دارد سیستم‌های هوش مصنوعی آن تا سال ۲۰۲۷ به طور گسترده برای آموزش مدل‌ها استفاده شوند. این شرکت‌ها قبلاً روی مدل V4 DeepSeek که در آوریل به صورت پیش‌نمایش منتشر شد، با پشتیبانی از تراشه‌های Ascend هواوی همکاری کرده بودند. هواوی گفت که سوپرنودهای Ascend 950 آن به طور کامل از مدل‌های V4 پشتیبانی می‌کنند و تراشه‌های آن برای بخشی از آموزش مدل سبک‌تر V4-Flash استفاده شده‌اند.