اوپن‌ای‌آی از شناسایی یک کمپین هماهنگ توسط شرکت چینی مون‌شات ای‌آی برای استخراج استدلال پنهان از مدل‌های هوش مصنوعی خود خبر داد. این فعالیت که در ماه جولای رخ داد، شامل ۱۶,۰۰۰ درخواست استخراج از بیش از ۴,۰۰۰ کاربر بود. اوپن‌ای‌آی اعلام کرد که این کمپین، که هدفش تقطیر خصمانه مدل‌ها بود، تا ۲۸ جولای به طور کامل مختل شد، هرچند میزان موفقیت مهاجمان مشخص نیست.
اوپن‌ای‌آی استدلال محافظت‌شده را به عنوان رکورد داخلی مدل برای انجام وظایف تعریف می‌کند و تأکید کرد که رمزگذاری آن شکسته نشده و هیچ پایگاه داده‌ای به خطر نیفتاده است. این شرکت با همکاری محققان امنیتی مستقل، آسیب‌پذیری‌های مرتبط را شناسایی و رفع کرد. آنتروپیک نیز با حملات مشابهی از سوی مون‌شات ای‌آی مواجه شده است. اوپن‌ای‌آی در حال تقویت حفاظت‌ها و اشتراک‌گذاری یافته‌های خود برای مقابله با تلاش‌های پیچیده‌تر تقطیر در آینده است.
- کولبات
- مهر 9, 1405
