داریو آمودی، مدیرعامل Anthropic، نسبت به پیشرفت سریع هوش مصنوعی و احتمال تسخیر کل اینترنت توسط یک بات‌نت هوش مصنوعی در ۶ تا ۱۲ ماه آینده هشدار داده است. او معتقد است این اتفاق می‌تواند صدها میلیارد دلار خسارت وارد کند و خواستار کاهش سرعت توسعه مدل‌های جدید هوش مصنوعی شده است. ایوان هابینگر، دانشمند سابق Anthropic، نیز این نگرانی‌ها را تأیید کرده و احتمال انقراض بشریت توسط هوش مصنوعی تا پایان دهه را ۱۰ درصد می‌داند.

یافته‌های Anthropic نشان می‌دهد مدل‌های کنونی هوش مصنوعی می‌توانند در مهندسی تسلیحات، اطلاعات نظامی و عملیات سایبری کمک کنند. این قابلیت‌ها در مدل‌های آینده با کاهش نیاز به تخصص انسانی، خطرناک‌تر خواهند شد. مقاله اشاره می‌کند که قابلیت بیشتر لزوماً به معنای خطر بیشتر نیست و هوش مصنوعی پیشرفته می‌تواند محافظت‌های قوی‌تری داشته باشد. اما توقف توسعه هوش مصنوعی نیز می‌تواند نتیجه معکوس داشته باشد، به ویژه اگر بازیگران کمتر مسئولیت‌پذیر به پیشرفت خود ادامه دهند.