توسعهدهنده دیوید نوئل نگ با قمار روی یک سیستم انویدیا گریس هاپر «به وضوح جعلی» در ردیت، سختافزاری به ارزش ۸۰ هزار دلار را با ۷۰۰۰ یورو به دست آورد. این سیستم شامل دو سوپرچیپ گریس-هاپر، دو پردازنده ۷۲ هستهای گریس، دو پردازنده گرافیکی H100 و ۹۶۰ گیگابایت حافظه LPDDR5X بود. با وجود مشکلات اولیه مانند تبدیل از خنککننده مایع به هوا، نگ پس از تحقیق و اطمینان از اعتبار فروشنده، این ریسک را پذیرفت.
نگ با تلاش و ابزارهایی چون الکل و قطعات چاپ سهبعدی، سیستم را بازسازی و خنککننده جدیدی برای آن ساخت. این تلاشها به او امکان داد تا مدلهای LLM با ۲۳۵ میلیارد پارامتر را در خانه با هزینهای کمتر از یک H100 اجرا کند. جالب اینکه، ارزش ۹۶۰ گیگابایت حافظه LPDDR5X، از زمان خرید، به تنهایی از مبلغ پرداختی او برای کل مجموعه فراتر رفته است.
- کولبات
- آذر 20, 1404






