این خبر به ماجرای حذف ۷۰۰ گیگابایت از دایرکتوری اصلی یک توسعهدهنده توسط عامل هوش مصنوعی کلود در حین آزمایش ایمنی میپردازد. سباستین گیلموت از کلود فیبل خواسته بود اسکریپتی برای پاکسازی فایلهای موقت بنویسد. در پی یک بررسی امنیتی، سیستم Anthropic مدل را به Opus 4.8 تنزل داد. آزمایش ایمنی توسط Opus 4.8، به دلیل استفاده مجدد از یک نام متغیر برای مراحل آزمایش و پاکسازی، به اشتباه دایرکتوری اصلی کاربر را حذف کرد.
این حادثه خطرات عوامل هوش مصنوعی را که دستورات را تحتاللفظی دنبال میکنند و مشکلات احتمالی تنزل رتبه خودکار ایمنی را برجسته میسازد. اگرچه گیلموت بیشتر دادههای خود را بازیابی کرد، این رویداد بر اهمیت پشتیبانگیری قوی، حتی هنگام کار با ابزارهای پیشرفته هوش مصنوعی، تأکید دارد. مدل توانمندتر Fable 5 احتمالاً میتوانست از این خطا جلوگیری کند.
Anthropic اعلام کرده است که مدلهای جدید Claude برای رعایت قانون هوش مصنوعی (AIA) اتحادیه اروپا، محتوای تولید شده توسط هوش مصنوعی را واترمارک خواهند کرد. این اقدام در پاسخ به مهلت ۲ اوت ۲۰۲۶ برای ارائهدهندگان خدمات هوش مصنوعی جهت پیادهسازی اقدامات شناسایی انجام میشود. Claude متن را با سوگیری در انتخاب توکنها واترمارک میکند و به تصاویر (SVG، PNG، JPG) دادههای منشأ و گواهی C2PA اضافه خواهد کرد تا اصالت آنها قابل ردیابی باشد.
این راهنما، که پس از OpenAI و Google منتشر شده، همچنین اشاره میکند که واترمارکینگ برای مدلهای Claude در سراسر جهان اعمال خواهد شد. Anthropic ابزارهای تشخیص واترمارک را نیز ارائه خواهد داد. با این حال، اشارهای به واترمارکینگ مستقیم تصاویر نشده، اگرچه این یک الزام آییننامه اجرایی است و انتظار میرود در آینده پیادهسازی شود.
گوگل پلتفرم «ابرکامپیوتر هوش مصنوعی» خود را با پردازندههای مرکزی Axion و واحدهای پردازش تنسور (TPU) نسل هفتم Ironwood معرفی کرد. این سیستم برای آموزش و استنتاج مدلهای هوش مصنوعی در مقیاس بزرگ طراحی شده و پادهای Ironwood با 42.5 اگزافلاپس FP8، عملکردی فراتر از Nvidia GB300 NVL72 ارائه میدهند. این پلتفرم یکپارچه، محاسبات، ذخیرهسازی و شبکه را ترکیب میکند و شرکتهایی مانند Anthropic نیز از آن برای توسعه مدلهای Claude استفاده خواهند کرد که نشاندهنده مزایای هزینه به عملکرد آن است.
پردازندههای Axion، اولین پردازندههای عمومی مبتنی بر Armv9 گوگل، نیز عرضه شدهاند. این پردازندهها برای منطق برنامهها و بارهای کاری هوش مصنوعی طراحی شده و تا 50 درصد عملکرد بیشتر و تا 60 درصد بهرهوری انرژی بالاتری نسبت به پردازندههای x86 مدرن دارند. Axion در سه پیکربندی C4A، N4A و C4A Metal برای کاربردهای متنوعی در دسترس است. این حرکت گوگل، مجموعه تراشههای سفارشی این شرکت را تکمیل کرده و رقابت در بازار شتابدهندههای هوش مصنوعی را تشدید میکند.
آنتروپیک، شرکت پیشرو هوش مصنوعی، دسترسی شرکتهای تحت کنترل چین را به مدلهای Claude AI خود مسدود کرده است. این اقدام به دلیل «خطرات قانونی، نظارتی و امنیتی» و جلوگیری از سوءاستفاده رژیمهای اقتدارگرا از فناوری هوش مصنوعی آمریکا صورت گرفته است. این ممنوعیت شامل تمامی مدلهای Claude و شرکتهای بزرگی مانند ByteDance، Tencent و Alibaba میشود و آنتروپیک کاهش صدها میلیون دلاری درآمد خود را پیشبینی میکند. این اولین بار است که دسترسی بر اساس مالکیت شرکتی، و نه جغرافیا، قطع میشود.
در واکنش، استارتاپهای هوش مصنوعی چینی مانند Zhipu و Alibaba Cloud به سرعت ابزارهای مهاجرت و مدلهای جایگزین با قیمتهای رقابتی و توکنهای رایگان را برای کاربران Claude ارائه کردهاند. کاربران سازمانی Claude اکنون باید بین بازسازی سیستمهای خود با مدلهای محلی یا جستجوی راهحلهای چند ابری یکی را انتخاب کنند. این رویداد نشاندهنده تشدید تنشهای ژئوپلیتیکی در حوزه هوش مصنوعی است.
