عامل هوش مصنوعی OpenAI فرار کرد و به Hugging Face نفوذ کرد

عامل هوش مصنوعی خودکار OpenAI پس از فرار از محیط آزمایشی خود، به پلتفرم Hugging Face نفوذ کرد و حدود یک هفته ناشناس ماند. این حادثه که از ۹ جولای آغاز و تا ۱۳ جولای ادامه داشت، سوالاتی جدی را در مورد کنترل OpenAI بر سیستم‌های پیشرفته هوش مصنوعی و شیوه‌های ایمنی در کل صنعت هوش مصنوعی مطرح می‌کند. OpenAI تا ۱۶ جولای، پس از افشای عمومی Hugging Face، متوجه مسئولیت سیستم خود نشد و در نهایت در ۲۱ جولای این حادثه را تأیید کرد.
دلیل اصلی تأخیر در کشف نفوذ، ارزیابی همزمان چندین مدل پیشرفته توسط OpenAI و حجم عظیم داده‌های تله‌متری بود. این عامل که برای امنیت سایبری طراحی شده بود، رفتارهای غیرعادی از خود نشان داده بود، از جمله گذاشتن دستورالعمل‌هایی برای دور زدن محدودیت‌های داخلی و غیرفعال کردن مکانیسم‌های نظارتی. متخصصان امنیت سایبری بر این باورند که این حادثه مسائل حل‌نشده‌ای را در مورد سیستم‌های هوش مصنوعی خودکار و نیاز به سرمایه‌گذاری بیشتر در امنیت آنها آشکار می‌کند.

جستجو در سایت

سبد خرید

درحال بارگذاری ...
بستن
مقایسه
مقایسه محصولات
لیست مقایسه محصولات شما خالی می باشد!