بایگانی‌های آموزش مدل‌های زبان بزرگ - کول بایت | فروشگاه لوازم و قطعات کامپیوتر

سم آلتمن می‌گوید هوش مصنوعی می‌تواند مشاغلی را که «کار واقعی» نیستند، حذف کند

سم آلتمن، مدیرعامل اوپن‌ای‌آی، در کنفرانس DevDay این شرکت اظهارنظری بحث‌برانگیز مطرح کرد: هوش مصنوعی می‌تواند مشاغلی را که «کار واقعی» نیستند، حذف کند. او با مقایسه دیدگاه یک کشاورز ۵۰ سال پیش، بیان کرد که بسیاری از کارهای مدرن ممکن است از نظر او بی‌ارزش تلقی شوند. این سخنان با واکنش‌های گسترده و انتقادات شدیدی در شبکه‌های اجتماعی مواجه شد. ایده مشاغل بی‌معنی پیش از این توسط دیوید گریبر در کتاب «مشاغل مزخرف» نیز مطرح شده بود.

داده‌ها اما به طور کامل از این ادعا حمایت نمی‌کنند؛ مطالعات نشان می‌دهند تنها درصد کمی از افراد شغل خود را بی‌فایده می‌دانند و این احساس بیشتر ناشی از مدیریت ضعیف یا فرهنگ کاری نامناسب است. به نظر می‌رسد منظور آلتمن بیشتر حذف «وظایف زائد و قابل اتوماسیون» در مشاغل است، مانند چک‌لیست‌ها و گزارش‌های غیرضروری، نه حذف کامل نقش‌ها. مدل‌های زبان بزرگ در انجام این نوع کارهای «بازی‌گونه» مهارت دارند و در این زمینه، پیش‌بینی آلتمن می‌تواند درست باشد.

کول‌بات
آبان 4, 1404
- تکنولوژی

انویدیا جزئیات کارایی فرمت NVFP4 را برای آموزش مدل‌های زبان بزرگ (LLM) تشریح می‌کند

انویدیا فرمت ممیز شناور 4 بیتی NVFP4 را برای آموزش کارآمد مدل‌های زبان بزرگ (LLM) با حداقل افت دقت معرفی کرده است. این شرکت با NVFP4، مدل‌های بزرگ را بر روی مجموعه داده‌ای عظیم آموزش داده و نتایجی مشابه FP8 کسب کرده است. NVFP4 که برای معماری Blackwell بهینه‌سازی شده، مصرف حافظه و هزینه‌های محاسباتی را به طور چشمگیری کاهش داده و کارایی را نسبت به BF16 و FP8 بهبود می‌بخشد. مکانیزم مقیاس‌بندی سلسله‌مراتبی آن، محدودیت‌های فرمت‌های 4 بیتی را برطرف کرده و دقت بالا را تضمین می‌کند.

برای پایداری آموزش 4 بیتی، انویدیا از تکنیک‌های پیشرفته‌ای مانند حفظ لایه‌های با دقت بالاتر، مقیاس‌بندی هوشمند و گرد کردن تصادفی بهره می‌برد. NVFP4 در مقایسه با MXFP4، در همگرایی و کارایی داده برتری دارد. انویدیا در آینده بر کاهش لایه‌های با دقت بالا و گسترش NVFP4 به مدل‌ها و معماری‌های بزرگ‌تر تمرکز خواهد کرد.