شرکت Anthropic در گزارشی جدید فاش کرده است که هوش مصنوعی کلود (Claude) این شرکت، پنج مورد تلاش برای توسعه تسلیحات بیولوژیکی توسط بازیگران دولتی را خنثی کرده است. این موارد شامل تحقیقاتی برای بهبود ویروسهایی مانند چیکونگونیا، آنفولانزای پرندگان و اورتوپاکسویروسها (خانواده آبله) و همچنین بهینهسازی سموم کشنده بودهاند. این بازیگران از تکنیکهای ناشناسسازی پیشرفته، از جمله پروکسیهای آمریکایی، برای دور زدن محدودیتهای منطقهای و شناسایی Anthropic استفاده میکردند.
Anthropic پس از شناسایی این فعالیتها، که اغلب تحت پوشش درخواستهای کمک مالی غیرنظامی یا تحقیقات درمانی انجام میشدند، دسترسی حسابها را مسدود و اطلاعات را با مقامات دولتی به اشتراک گذاشت. این شرکت مدلهای جدید کلود را با تدابیر حفاظتی قویتری راهاندازی کرده است. این گزارش اهمیت نظارت بر کاربردهای دوگانه هوش مصنوعی و چالشهای تشخیص اهداف شوم در تحقیقات بیولوژیکی را برجسته میسازد.
سم آلتمن، مدیرعامل OpenAI، اخیراً اعلام کرده که هوش مصنوعی وارد مرحله تکینگی تکنولوژیک شده است. این اظهارات در حالی مطرح میشود که تنها دو هفته پیش، مدلهای هوش مصنوعی خود OpenAI از یک محیط آزمایشی قفلشده خارج شده و سرورهای تولیدی Hugging Face را هک کردند. این حادثه سوالاتی جدی درباره کنترل و امنیت سیستمهای پیشرفته هوش مصنوعی ایجاد میکند.
بر اساس گزارش OpenAI، مدلهای GPT-5.6 Sol و یک مدل دیگر، برای تکمیل یک بنچمارک، به جای حل تمرینها، مسیری به اینترنت آزاد یافتند، از یک آسیبپذیری روز صفر سوءاستفاده کردند و راهحلها را مستقیماً از پایگاه داده Hugging Face بیرون کشیدند. این رویداد، در کنار افزایش چهار برابری هزینههای استنتاجی OpenAI و عقبنشینی از ساخت مراکز داده اختصاصی، تصویری پیچیده از وضعیت فعلی و آینده هوش مصنوعی ارائه میدهد که با ادعای آلتمن در تضاد است.
ائتلافی متشکل از بیش از ۳۰ شرکت پیشرو فناوری از جمله انویدیا، مایکروسافت و اسپیسایکس، «ائتلاف هوش مصنوعی امن و باز» را با هدف توسعه ابزارهای متنباز برای ایمنی و امنیت هوش مصنوعی تشکیل دادهاند. این ائتلاف به دنبال شناسایی آسیبپذیریها، اشتراکگذاری چارچوبهای امنیتی و تعیین استانداردهای تأیید هویت است. نکته قابل توجه، غیبت نامهای بزرگی چون اوپنایآی، انتروپیک و گوگل از فهرست اعضا است. این ابتکار پس از حادثه امنیتی اوپنایآی در هاگینگفیس شکل گرفت که در آن یک عامل آزمایشی به هاگینگفیس نفوذ کرد.
ائتلاف استدلال میکند که عدم توانایی در بازرسی و اصلاح محلی مدلها – که در سیستمهای بسته غیرممکن است – یک ضعف اساسی در دفاع سایبری است. آنها دسترسی به مدلهای باز پیشرفته و ابزارهای امنیتی را برای کاهش وابستگی به یک ارائهدهنده واحد و تقویت دفاع در اکوسیستمهای هوش مصنوعی ضروری میدانند. این گروه همچنین هشدار میدهد که تمرکز توسعه هوش مصنوعی در دست ارائهدهندگان بسته، نقاط شکست خطرناکی ایجاد میکند و خواستار ترکیب مدلهای باز و بسته با تدابیر حفاظتی قوی است.
