آزمایش DeepSeek با Nvidia H200: هزینه بالا و چالشهای امنیتی
شرکت Call Center Doctors، یک شرکت مشاوره مرکز تماس که برای کسبوکارهای دیگر مراکز تماس را راهاندازی و مدیریت میکند، در تاریخ ۲۷ سپتامبر یک سرور با ۴ کارت H200 اجاره کرد تا DeepSeek V4.1 Flash را به جای Opus 5.5 برای عاملان کدنویسی Claude خود ارائه دهد، طبق گزارش آزمایشی آن. این گزارش برای هر کسی است که شنیده DeepSeek «۸۰ برابر ارزانتر» از Claude است. با استفاده از ترکیب کدنویسی واقعی خود، کل سرور این شرکت به حدود ۲۱۳ توکن نوشته شده در ثانیه با هزینه درخواستی ۴۴۰.۸۸ دلار در روز رسید، در حالی که همین کار از طریق API DeepSeek بین ۱۸۴ تا ۲۲۳ دلار در روز هزینه داشت. مرکز تماس به Opus 5.5 بازگشت با قیمتی کمتر از آنچه سرور با نرخهای درخواستی هزینه داشت.
API DeepSeek با قیمت ۰.۱۵ دلار برای هر ۱ میلیون توکن ورودی جدید در ساعات غیر اوج، ۰.۰۰۳ دلار برای توکنهای ورودی کش شده، و ۰.۶۰ دلار برای هر ۱ میلیون توکن خروجی قیمتگذاری شده است. هزینههای اوج دو برابر است. در مقایسه، Claude Opus 5.5 از Anthropic با ۴ دلار ورودی و ۲۰ دلار خروجی برای هر ۱ میلیون توکن، و خواندن کش با ۰.۲۰ دلار فهرست شده است. شرکت مشاوره از طریق اشتراکها و نه API از آن استفاده میکرد.
عملکرد سرور برای یک نوع کار در هر زمان در اجرای یک دقیقهای با بار کامل آزمایش خوب بود. اما عاملان کدنویسی عمدتاً با ارسال مجدد مکالمه کار میکنند و طبق گزارشهای شرکت مشاوره، ۹۶٪ از آنچه عاملان به مدل ارائه میکردند، متن قدیمی بود. برای هر توکن جدید نوشته شده، حدود ۱۰۰۰ توکن قدیمی نیاز است؛ بازخوانیها ارزان هستند، اما آنقدر زیادند که سرور مشغول بازخوانی میماند و زمان کمی برای نوشتن توکنهای جدید باقی میماند.
برای اینکه مدل به طور پایدار اجرا شود، پنج بار تلاش لازم بود که هر بار ۱۰ تا ۱۵ دقیقه زمان بارگذاری میبرد. سرور چه مشغول باشد و چه نباشد، هزینه محاسبه میشود که این بهینه نیست. طبق محاسبات ما، یک ماه استاندارد با نرخ درخواستی، ۱۸.۳۷ دلار در ساعت، حدود ۱۳,۲۰۰ دلار میشود. این بیش از دو برابر قبض سپتامبر Claude شرکت مشاوره است. علاوه بر این، طبق محاسبات شرکت مشاوره، یک سرور تنها میتواند حدود ۲۰ میلیارد توکن در روز را پردازش کند که بیشتر آن بازخوانی است، در حالی که عاملان شرکت مشاوره در شلوغترین روز خود ۵۱ میلیارد توکن استفاده کردند.
این آزمایش برای هر کسی بود که شنیده DeepSeek «۸۰ برابر ارزانتر» از Claude است. یک سرور که از ۱ تا ۲۷ سپتامبر کار میکرد، ۲.۰۳ میلیون فراخوانی مدل، ۳۸۸.۵ میلیارد توکن خوانده شده (۳۷۴.۲ میلیارد از آنها کش شده) و ۳۹۳ میلیون توکن نوشته شده، با ۵,۶۱۰ تغییر ادغام شده داشت. اشتراکهای سپتامبر Claude Code شرکت مشاوره حدود ۵,۵۰۰ دلار بود. همین ۲۷ روز توکن در API DeepSeek بین ۳,۵۰۰ تا ۷,۰۰۰ دلار هزینه داشت، بسته به قیمتگذاری اوج، با میانگین تخمینی ما حدود ۴,۲۰۰ دلار اگر استفاده به طور یکنواخت در طول هفته توزیع شود.
در مقایسه با قیمتهای فهرست شده Claude Opus 5.5، همین توکنها طبق محاسبات ما حدود ۱۴۰,۰۰۰ دلار میشد، بیش از ۲۵ برابر هزینه اشتراک. این تخفیف نرخ ثابت همان جایی است که ادعای ۸۰ برابر ارزانتر بودن از بین رفت. شرکت مشاوره همچنین هر تغییر کد ادغام شده را قیمتگذاری کرد: حدود ۱ دلار در Claude، و حدود ۰.۶۳ دلار در API DeepSeek اگر DeepSeek همان کار را با همان توکنها انجام میداد. تخمین ۱.۱۵ تا ۴.۹۰ دلاری آن برای DeepSeek بر اساس این فرضیات است که مدل به توکنهای بیشتری نیاز دارد، کمتر موفق میشود و برای بررسی کار خود به Claude نیاز دارد.
DeepSeek هرگز در این آزمایش فرصت نوشتن کد واقعی را پیدا نکرد. بازبینان شرکت مشاوره دائماً راههایی پیدا میکردند که کد عامل بتواند از سندباکس فرار کند، به عنوان مثال از طریق یک فایل تنظیمات در یک پوشه موقت مشترک که میتوانست اجازه دهد کد عامل به عنوان مدیر اجرا شود. این بدان معنا بود که عاملان کدنویسی باید آفلاین میماندند. در عوض، DeepSeek تنها به عنوان ۴۸ تا ۶۴ عامل بازبین فقط خواندنی عمل کرد، ۲,۳۷۷ پوشه را خواند و ۳۲ گزارش اشکال ثبت کرد. سرور، که با نرخ لحظهای ۹.۱۹ دلار در ساعت اجاره شده بود، ظرف چند دقیقه پس از پایان آخرین آزمایش توسط ارائهدهنده بازگردانده شد.
بر اساس نسل V4، که در آن Pro از Flash بهتر عمل کرد، عملکرد بهتری از خانواده مدل با DeepSeek V4.1-Pro انتظار میرود که در حال حاضر تاریخ انتشار مشخصی ندارد. این ممکن است محاسبات را در آینده تغییر دهد، اما در حال حاضر راههای بهتری برای هزینه کردن توکنها وجود دارد تا اجاره GPU برای اجرای یک مدل متنباز.
- کولبات
- مهر 9, 1405
- 12 بازدید






