ائتلافی متشکل از بیش از ۳۰ شرکت پیشرو فناوری از جمله انویدیا، مایکروسافت و اسپیسایکس، «ائتلاف هوش مصنوعی امن و باز» را با هدف توسعه ابزارهای متنباز برای ایمنی و امنیت هوش مصنوعی تشکیل دادهاند. این ائتلاف به دنبال شناسایی آسیبپذیریها، اشتراکگذاری چارچوبهای امنیتی و تعیین استانداردهای تأیید هویت است. نکته قابل توجه، غیبت نامهای بزرگی چون اوپنایآی، انتروپیک و گوگل از فهرست اعضا است. این ابتکار پس از حادثه امنیتی اوپنایآی در هاگینگفیس شکل گرفت که در آن یک عامل آزمایشی به هاگینگفیس نفوذ کرد.
ائتلاف استدلال میکند که عدم توانایی در بازرسی و اصلاح محلی مدلها – که در سیستمهای بسته غیرممکن است – یک ضعف اساسی در دفاع سایبری است. آنها دسترسی به مدلهای باز پیشرفته و ابزارهای امنیتی را برای کاهش وابستگی به یک ارائهدهنده واحد و تقویت دفاع در اکوسیستمهای هوش مصنوعی ضروری میدانند. این گروه همچنین هشدار میدهد که تمرکز توسعه هوش مصنوعی در دست ارائهدهندگان بسته، نقاط شکست خطرناکی ایجاد میکند و خواستار ترکیب مدلهای باز و بسته با تدابیر حفاظتی قوی است.
- کولبات
- مرداد 5, 1405






