بر اساس یک پست وبلاگی رسمی انویدیا در روز دوشنبه، ائتلافی متشکل از بیش از ۳۰ رهبر صنعت فناوری، از جمله انویدیا، مایکروسافت، اسپیس‌ایکس، بنیاد لینوکس، ادوبی و زیمنس، «ائتلاف هوش مصنوعی امن و باز» را با هدف ساخت و توزیع ابزارهای متن‌باز برای ایمنی و امنیت هوش مصنوعی تشکیل داده‌اند. این ائتلاف تحت رهبری انویدیا – که ترکیبی از رهبران زیرساخت، رایانش ابری، امنیت سایبری و نرم‌افزارهای سازمانی را شامل می‌شود – به عنوان یک تلاش مشترک برای توسعه ابزارهای باز جهت شناسایی و رفع آسیب‌پذیری‌های هوش مصنوعی، اشتراک‌گذاری چارچوب‌های امنیتی و ایجاد استانداردهای تأیید هویت و ممیزی در سراسر پشته نرم‌افزاری هوش مصنوعی عمل خواهد کرد. جالب اینجاست که برخی از بزرگترین نام‌ها در حوزه هوش مصنوعی، از جمله اوپن‌ای‌آی، انتروپیک و گوگل، در لیست اعضا غایب هستند.

در این اطلاعیه آمده است: «جهان به هر دو مدل بسته و باز نیاز دارد. برای امنیت سایبری، مدل‌های باز و ابزارهای باز ضروری هستند زیرا قابلیت‌های دفاعی را دموکراتیک می‌کنند، شفافیت را برای مدافعان افزایش می‌دهند، دفاع سایبری را ضمن حفاظت از داده‌ها ممکن می‌سازند و مدل‌های بسته پیشرفته را با کنترل‌های قابل تنظیم و محلی تکمیل می‌کنند. متن‌باز امکان دفاعی گسترده، جامعه‌محور و خودکنترل را فراهم می‌کند – بدون هیچ نقطه شکست واحدی.» مشارکت‌کنندگان در سراسر این ائتلاف در حال حاضر در حال ساخت یا ارائه ابزارهای مختلفی برای ایجاد یک پشته دفاعی باز هستند.

این ابتکار مستقیماً توسط حادثه امنیتی اوپن‌ای‌آی در هاگینگ‌فیس در اوایل این ماه تقویت شد؛ حادثه‌ای که در آن یک عامل آزمایشی خودمختار اوپن‌ای‌آی از محیط سندباکس خود خارج شده و به استارتاپ هوش مصنوعی هاگینگ‌فیس نفوذ کرد. در طول این حادثه، موانع ایمنی در چندین مدل بسته پیشرفته، توسعه‌دهندگان را از انجام تحلیل‌های پزشکی قانونی حیاتی بازداشت. هاگینگ‌فیس در نهایت مجبور شد از GLM-5.2 — یک مدل بازوزن از شرکت Z.ai مستقر در پکن — استفاده کند که مدل را بر روی زیرساخت خود اجرا کرد تا بیش از ۱۷۰۰۰ عمل را تجزیه و تحلیل کرده و نفوذ را مهار کند.

بر اساس این حادثه، ائتلاف معتقد است که عدم توانایی در بازرسی، اصلاح یا اجرای محلی یک مدل – که در سیستم‌های بسته غیرممکن است اما با سیستم‌های باز قابل انجام است – یک ضعف اساسی در تکیه صرف بر سیستم‌های هوش مصنوعی بسته برای دفاع سایبری ایجاد می‌کند. بنابراین، ائتلاف هوش مصنوعی امن و باز با هدف فراهم کردن دسترسی نهادها به مدل‌های باز پیشرفته، ابزارهای عامل و ابزارهای امنیتی است که می‌توانند به طور مستقل آن‌ها را مستقر و تطبیق دهند، و بدین ترتیب وابستگی به هر ارائه‌دهنده واحد را کاهش داده و دفاع را در سراسر یک اکوسیستم هوش مصنوعی چندفروشنده‌ای تقویت کنند. در این پست آمده است: «این مأموریت ائتلاف هوش مصنوعی امن و باز است: اطمینان از اینکه مدافعان در همه جا ابزارهای باز و پیشرفته‌ای دارند که می‌توانند به آن‌ها اعتماد کرده و کنترلشان کنند.»

مدل‌های چینی مانند DeepSeek و Kimi K3 که به تازگی منتشر شده‌اند، بازوزن هستند و به دلیل ویژگی‌های باز خود، از جمله توسط شرکت‌های آمریکایی، مورد استقبال فزاینده‌ای قرار گرفته‌اند. در همین حال، دولت ترامپ طبق گزارش‌ها در حال آماده‌سازی برای ممنوعیت مدل‌های هوش مصنوعی چینی به دلیل نگرانی‌های امنیتی است. ائتلاف خطرات احتمالی ابزارهای متن‌باز را تأیید می‌کند اما استدلال می‌کند که سیستم‌های بسته راه‌حل قطعی نیستند. در این اطلاعیه آمده است: «این خطرات واقعی هستند، اما در سیستم‌های بسته از بین نمی‌روند، و صرفاً بسته نگه داشتن وزن‌ها مانع از تلاش مهاجمان مصمم برای جستجو یا بهره‌برداری از هوش مصنوعی قدرتمند نمی‌شود.» برخلاف قانون‌گذارانی که نگرانی‌هایی را در مورد فناوری متن‌باز ابراز کرده‌اند، ائتلاف از سیاست‌گذاران می‌خواهد که مدل‌های بازوزن را به عنوان دارایی‌های دفاعی و نه بدهی در نظر بگیرند.

همچنین استدلال می‌کند که قرار دادن توسعه هوش مصنوعی صرفاً در دست چند ارائه‌دهنده بسته، نقاط شکست خطرناکی ایجاد می‌کند. «پاسخ صحیح این نیست که دسترسی مدافعان به سیستم‌های باز توانمند را انکار کنیم. بلکه باید باز بودن را با تدابیر حفاظتی قوی، قوانین روشن علیه سوءاستفاده مخرب، ارزیابی دقیق و اصلاح سریع همراه کنیم. مدافعان هم به مدل‌های بسته پیشرفته و هم به مدل‌های باز پیشرفته نیاز دارند که با هم کار کنند، تا بتوانند سیستم مناسب را برای کار انتخاب کرده و اطمینان حاصل کنند که شفافیت، انطباق و کنترل مستقل در هر کجا که امنیت ایجاب می‌کند، در دسترس است.» ائتلاف اینگونه استدلال می‌کند.

بر اساس این اطلاعیه، «ائتلاف هوش مصنوعی امن و باز – با تکیه بر رهبری ابتکار Akrites بنیاد لینوکس و کار جامعه OpenSSF – برای رفع و افشای آسیب‌پذیری‌ها با استفاده از فناوری‌های باز تلاش خواهد کرد.» اعضای مؤسس شامل انویدیا، دل تکنولوژیز، سینوپسیس، مایکروسافت، آی‌بی‌ام، رد هت، کروداسترایک، پالو آلتو نتورکس، کلودفلر، هاگینگ‌فیس، دیتابریکس، اسپیس‌ایکس‌ای‌آی و بنیاد لینوکس هستند. اوپن‌ای‌آی، گوگل و انتروپیک، شرکت‌های پشت مدل‌های هوش مصنوعی اختصاصی و “بسته”، به طور آشکار از این ائتلاف غایب هستند.