اگر مانند سیستم من، ریگ گیمینگ شما این روزها بیشتر عمر خود را بیکار می‌گذراند، دو استارتاپ حاضرند برای زمان‌های بیکاری آن، مبلغی نزدیک به حداقل دستمزد به شما بپردازند. بر اساس گزارشی از IEEE Spectrum، شرکت‌های Far Labs مستقر در ابوظبی و Evolving Edge مستقر در آستین، در حال ساخت بازارهایی برای واگذاری وظایف استنتاج هوش مصنوعی (AI inference) به سخت‌افزارهای مصرف‌کننده بیکار هستند.

Far Labs قصد دارد پلتفرم Far AI خود را در هفته‌های آینده راه‌اندازی کند و مدعی تأخیر ۱۰۰ میلی‌ثانیه یا کمتر است، در حالی که Evolving Edge در حال اجرای نسخه بتای عمومی است. ایلمان شازایف، بنیانگذار و مدیرعامل Far Labs، به این نشریه گفت: “اوبر یا ایربی‌ان‌بی را تصور کنید، اما برای وظایف محاسباتی استنتاج هوش مصنوعی.” هر دو شرکت مدل‌های متن‌باز کوچک‌تر را هدف قرار داده‌اند تا بارهای کاری در مقیاس بزرگ، و به بازیگران تثبیت‌شده‌ای از جمله پلتفرم Salad مستقر در یوتا می‌پیوندند که بیش از ۶۰,۰۰۰ پردازنده گرافیکی مصرف‌کننده فعال روزانه در شبکه خود دارد.

زمان‌بندی‌کننده اختصاصی Far Labs یک مدل را به قطعاتی تقسیم می‌کند که در چندین ماشین پخش می‌شوند، و یک هماهنگ‌کننده و یک متعادل‌کننده بار، خروجی‌های جزئی را دوباره برای تولید یک پاسخ مونتاژ می‌کنند. Evolving Edge وظایف را با Ray، چارچوب متن‌باز مورد استفاده در مراکز داده سنتی، توزیع می‌کند.

اجازه دادن به بار کاری یک غریبه روی یک ماشین شخصی، بدیهی است که خطراتی برای میزبانان دارد، مانند ورود کدهای مخرب به دستگاه یا دسترسی فرد مقابل به فایل‌های محلی. راه‌حل این دو شرکت برای این مشکل، ایزوله‌سازی است، به طوری که استنتاج به عنوان یک بار کاری سندباکس شده با ارتباطات رمزگذاری شده و محدودیت‌های سخت‌گیرانه بر دسترسی به GPU، CPU، حافظه، فضای ذخیره‌سازی و شبکه اجرا می‌شود. مشتریان دسترسی مستقیمی به ماشین میزبان ندارند، و Evolving Edge نرم‌افزار گره خود را متن‌باز کرده است تا میزبانان بتوانند آنچه را که روی سخت‌افزارشان اجرا می‌شود، بررسی کنند.

Salad محاسبات GPU مصرف‌کننده را به مشتریان با قیمت‌هایی از ۰.۰۲ دلار در ساعت می‌فروشد، و صاحب کارت تنها سهم کوچکی از آن… “پای” را پس از کسر سهم پلتفرم دریافت می‌کند. ما در سال ۲۰۲۱ Salad را بررسی کردیم، زمانی که شبکه آن اتریوم استخراج می‌کرد، و تخمین زدیم که این شرکت تقریباً ۳.۶ میلیون دلار از رایانه‌های کاربران درآمد داشته، در حالی که ۵۰۰,۰۰۰ دلار پاداش توزیع کرده است، که برای افرادی که سیلیکون را تأمین می‌کنند، حدود ۱۴ سنت به ازای هر دلار می‌شود.

سپس هزینه‌های برق هر آنچه باقی مانده را از بین می‌برد. یک RTX 4090 تحت بار پایدار ۳۵۰ تا ۴۵۰ وات مصرف می‌کند، که تقریباً ۴۰ تا ۵۰ دلار در ماه با نرخ ۰.۱۵ دلار در هر کیلووات ساعت می‌شود، اگر کارت شبانه‌روز کار کند. بنابراین، یک ریگ که کمتر از این درآمد دارد، عملاً برای امتیاز داشتن یک شغل هزینه می‌پردازد. با این حال، گزارش IEEE Spectrum نرخ پرداخت را برای هیچ یک از پلتفرم‌های جدید شامل نمی‌شود.

هر دو بنیانگذار به این نکته اشاره می‌کنند که شبکه‌های توزیع‌شده می‌توانند از شکست‌هایی که در غیر این صورت ابرهای متمرکز را فلج می‌کنند، جان سالم به در ببرند. جان فدریکو، بنیانگذار و مدیرعامل Evolving Edge، به قطعی AWS در اکتبر گذشته اشاره کرد که تخت‌های هوشمند متصل به اینترنت را در وضعیت عمودی خود گیر انداخت، و به IEEE Spectrum گفت که شبکه او می‌تواند ۱۰۰ گره از ۲۵۰,۰۰۰ گره را از دست بدهد “و اهمیتی نخواهد داشت.”

گذشته از همه اینها، محاسبات توزیع‌شده هوش مصنوعی با مشکل اعتبار دست و پنجه نرم می‌کند. یک پیش‌چاپ تحقیقاتی از ماه ژوئن ادعا کرد که Pearl، یک بلاک‌چین که به عنوان تبدیل استخراج ارز دیجیتال به کار هوش مصنوعی بازاریابی می‌شد، معادل ۳۲۰,۰۰۰ پردازنده گرافیکی کلاس RTX 3090 را روی محاسبات ماتریس تصادفی اجرا کرده، در حالی که هیچ محاسبه هوش مصنوعی مفیدی تولید نکرده است. Far Labs و Evolving Edge به جای پاداش‌های توکن، وظایف استنتاج واقعی مشتری را هدایت می‌کنند، که آنها را یک گام جلوتر از آن مدل قرار می‌دهد، اما ارقام هزینه و تأخیر آنها ادعاهای بدون پشتوانه هستند تا زمانی که، و اگر، شبکه‌ها در مقیاس بزرگ عمل کنند.