جان کارمک درباره استفاده از خط فیبر نوری بلند به عنوان کش L2 برای استریم داده‌های هوش مصنوعی می‌اندیشد

جان کارمک، برنامه‌نویس مشهور، پیشنهاد استفاده از یک حلقه فیبر نوری طولانی را به عنوان کش L2 پرسرعت برای استریم وزن مدل‌های هوش مصنوعی مطرح کرده است. این ایده نوآورانه از پهنای باند عظیم فیبر تک‌حالته برای دستیابی به تأخیر نزدیک به صفر و صرفه‌جویی قابل توجه در مصرف انرژی نسبت به DRAM بهره می‌برد. او تخمین می‌زند که یک فیبر ۲۰۰ کیلومتری می‌تواند ۳۲ گیگابایت داده را در خود جای دهد، که برای تغذیه مداوم شتاب‌دهنده‌های هوش مصنوعی ایده‌آل است.

با وجود شباهت به حافظه خط تأخیر تاریخی، چالش‌هایی مانند هزینه‌های بالای فیبر و مصرف انرژی تقویت‌کننده‌های نوری وجود دارد. کارمک همچنین رویکرد عملی‌تری را پیشنهاد می‌کند: اتصال مستقیم تراشه‌های حافظه فلش موجود به شتاب‌دهنده‌ها. این مفهوم در حال حاضر توسط گروه‌هایی مانند Behemoth و FlashGNN در حال بررسی است و به بهینه‌سازی دسترسی به داده‌های هوش مصنوعی در آینده اشاره دارد.

جستجو در سایت

سبد خرید

درحال بارگذاری ...
بستن
مقایسه
مقایسه محصولات
لیست مقایسه محصولات شما خالی می باشد!