جان کارمک، برنامهنویس مشهور، پیشنهاد استفاده از یک حلقه فیبر نوری طولانی را به عنوان کش L2 پرسرعت برای استریم وزن مدلهای هوش مصنوعی مطرح کرده است. این ایده نوآورانه از پهنای باند عظیم فیبر تکحالته برای دستیابی به تأخیر نزدیک به صفر و صرفهجویی قابل توجه در مصرف انرژی نسبت به DRAM بهره میبرد. او تخمین میزند که یک فیبر ۲۰۰ کیلومتری میتواند ۳۲ گیگابایت داده را در خود جای دهد، که برای تغذیه مداوم شتابدهندههای هوش مصنوعی ایدهآل است.
با وجود شباهت به حافظه خط تأخیر تاریخی، چالشهایی مانند هزینههای بالای فیبر و مصرف انرژی تقویتکنندههای نوری وجود دارد. کارمک همچنین رویکرد عملیتری را پیشنهاد میکند: اتصال مستقیم تراشههای حافظه فلش موجود به شتابدهندهها. این مفهوم در حال حاضر توسط گروههایی مانند Behemoth و FlashGNN در حال بررسی است و به بهینهسازی دسترسی به دادههای هوش مصنوعی در آینده اشاره دارد.
- کولبات
- بهمن 21, 1404






