رونق هوش مصنوعی به این معنی است که هیچ FLOP محاسبات ماتریسی قابل چشم‌پوشی نیست، و این یعنی پردازنده‌های گرافیکی قدیمی‌تر انویدیا با هسته‌های تنسور جان تازه‌ای گرفته‌اند. خدماتی در حال ظهور هستند که کارت گرافیک RTX 2080 Ti شما را به ۲۲ گیگابایت VRAM مجهز می‌کنند و حافظه اصلی آن را دو برابر کرده و آن را برای بارهای کاری مدرن LLM و دیفیوژن مفیدتر می‌سازند. با این حال، اگر به توان محاسباتی نیاز مبرم دارید و RTX 2080 Ti برای تغییر ندارید، eBay راه حل را پیدا کرده است. یک فروشنده مستقر در هنگ کنگ یک کارت 2080 Ti با ۲۲ گیگابایت حافظه از پیش تغییر یافته را در ازای ۴۹۹ دلار برای شما ارسال خواهد کرد.

این آگهی تنها تضمین می‌کند که یک کارت RTX 2080 Ti با فن “توربو” (سبک دمنده) و ۲۲ گیگابایت حافظه تغییر یافته دریافت خواهید کرد. در مورد برند خاص کارتی که ممکن است دریافت کنید زیاد سخت‌گیر نباشید، زیرا فروشنده می‌گوید: “برند GPU می‌تواند گیگابایت، MSI، ایسوس، لیدتک یا سایرین باشد. این بستگی به موجودی ما دارد.”

عکس‌های آگهی eBay یک کارت گیگابایت با فن دمنده را به همراه یک جعبه بزرگ از کارت‌های احتمالاً تغییر یافته آماده ارسال و یک اسکرین‌شات GPU-Z نشان می‌دهند که وجود ۲۲۵۲۸ مگابایت حافظه را از یک کارت در حال کار تأیید می‌کند.

فروشنده تنها ۹۹.۶٪ بازخورد مثبت مادام‌العمر در eBay دارد که نسبتاً پایین است، اما بازخورد برای این آگهی خاص نشان می‌دهد که حداقل ۳۸ خریدار راضی این کارت‌ها را دریافت کرده‌اند و آنها طبق توضیحات کار می‌کنند.

با فرض اینکه شما می‌توانید خود را یکی از آن خریداران راضی بدانید، یک RTX 2080 Ti با ۲۲ گیگابایت حافظه به قیمت ۵۰۰ دلار ممکن است بهترین ارزش VRAM را که این روزها می‌توانید پیدا کنید، ارائه دهد. این حجم حافظه نسبتاً زیاد، همراه با پهنای باند حافظه ۶۱۶ گیگابایت بر ثانیه و هسته‌های تنسور RTX 2080 Ti، به این معنی است که هنوز برای کارهای LLM محلی مفید است، اگرچه ظرفیت محاسباتی خام و پشتیبانی محدود از انواع داده با دقت کاهش‌یافته آن در مقایسه با محصولات مدرن‌تر ممکن است بارهای کاری سنگین دیفیوژن را کندتر کند.

در میان کارت‌های تورینگ، Titan RTX با ۲۴ گیگابایت حافظه هنوز با قیمت حدود ۸۰۰ دلار در eBay به فروش می‌رسد، و Quadro RTX 6000 با همین مقدار VRAM حدود ۹۰۰ دلار است. RTX 3090 مورد علاقه علاقه‌مندان به هوش مصنوعی محلی، که دارای ۲۴ گیگابایت GDDR6X سریع‌تر با پهنای باند حافظه ۹۳۶ گیگابایت بر ثانیه است، به نظر می‌رسد حدود ۱۲۰۰ دلار به فروش می‌رسد. کارت‌های Ampere RTX Pro با VRAM حتی بیشتر، به سرعت گران‌تر می‌شوند.

این واقعیت که تمام این پردازنده‌های گرافیکی سال‌ها پس از معرفی هنوز چنین قیمت‌های بالایی دارند، گواهی بر کاربرد مداوم و در دسترس بودن جهانی معماری هسته تنسور انویدیا در محصولات مصرف‌کننده و مراکز داده از سال ۲۰۱۸ است.

AMD از سال ۲۰۲۰ و با CDNA 1، شتاب‌دهنده‌های محاسبات ماتریسی را در مجموعه IP خود داشته است، اما در دسترس بودن آنها تا زمان عرضه RDNA 4 در اوایل سال گذشته، به محصولات مرکز داده Instinct محدود بود. اینتل موتورهای ماتریسی XMX را از ابتدا در معماری Alchemist در اواخر سال ۲۰۲۲ گنجاند، اما محصولات گرافیکی Arc با چالش‌های قابل توجهی فراتر از وجود یا عدم وجود این قابلیت مواجه بوده‌اند. و اپل تنها اخیراً شتاب‌دهنده‌های عصبی را با خانواده M5 به پردازنده‌های گرافیکی خود معرفی کرده است.

همه اینها به این معنی است که اگر به ظرفیت VRAM نیاز مبرم دارید و هنوز به مقدار مناسبی توان محاسباتی در کنار آن نیاز دارید، یک RTX 2080 Ti با ۲۲ گیگابایت می‌تواند راهی جذاب و نسبتاً مقرون‌به‌صرفه برای رسیدن به آن باشد، و در این معامله به کل اکوسیستم نرم‌افزاری CUDA دسترسی پیدا می‌کنید. برای یک GPU هشت ساله که ممکن بود تا الان به سطل زباله الکترونیکی ختم شود، بد نیست.