Anthropic دسترسی جهانی به مدل هوش مصنوعی Claude Fable 5 را پس از لغو محدودیتهای صادراتی توسط وزارت بازرگانی ایالات متحده بازگرداند. این محدودیتها که ۱۸ روز به طول انجامید، به دلیل شناسایی تکنیکی توسط محققان آمازون اعمال شده بود که میتوانست Fable 5 را وادار به شناسایی آسیبپذیریهای نرمافزاری و تولید کد سوءاستفاده کند. Anthropic با اعمال یک فیلتر ایمنی جدید که این تکنیک را در بیش از ۹۹٪ موارد مسدود میکند و درخواستهای مشکوک را به Opus 4.8 هدایت میکند، مشکل را حل کرد. این راهحل پس از بررسی و تأیید مرکز استانداردهای هوش مصنوعی و نوآوری وزارت بازرگانی صورت گرفت.
بازگشت Fable 5 موقعیتهای بنچمارک را از رقبای چینی بازپس میگیرد. Anthropic اذعان دارد که هیچ مدلی کاملاً در برابر “جیلبریک” مقاوم نیست و انتظار موارد بیشتری را دارد. این شرکت برای افزایش امنیت، برنامه HackerOne راهاندازی کرده و به شرکای دولتی دسترسی زودهنگام به مدلهای آینده را وعده داده است. این رویداد چالشهای مداوم در تعادل بین قابلیتهای پیشرفته هوش مصنوعی و نیاز به امنیت و کنترلهای دولتی را برجسته میکند.
- کولبات
- تیر 10, 1405






