پیشرفت فناوری‌های هوش مصنوعی در سال‌های اخیر غیرقابل انکار است و سرعت آن تقریباً باورنکردنی است. با وجود حداقل چهار رقیب آمریکایی با مدل‌های پیشرفته هوش مصنوعی، رقابت شدید است و توسعه مدل‌های جدید به سرعت پیش می‌رود. با این حال، داریو آمودی، مدیرعامل Anthropic، خواستار کاهش سرعت توسعه مدل‌های جدید هوش مصنوعی شده و حتی نسبت به یک بات‌نت هوش مصنوعی بالقوه که می‌تواند کل اینترنت را تسخیر کند، هشدار داده است.

داریو آمودی، مدیرعامل Anthropic، در یک نامه سرگشاده نوشت: «با توجه به سرعت فزاینده توسعه قابلیت‌های هوش مصنوعی، نگرانی من این است که در ۶ تا ۱۲ ماه آینده چنین بات‌نتی می‌تواند کل اینترنت را با یک بات‌نت پایدار (که به طور بالقوه صدها میلیارد دلار خسارت وارد می‌کند) تسخیر کند و اگر هوش مصنوعی بدون محافظ‌های لازم قدرتمندتر شود، مقیاس خسارت از آنجا به بعد افزایش خواهد یافت.»

دیدگاه داریو آمودی تا حد زیادی توسط ایوان هابینگر، دانشمند هوش مصنوعی که اخیراً از Anthropic خارج شده، به اشتراک گذاشته شده است. او سپس گفت که ۱۰ درصد احتمال دارد بشریت تا پایان دهه منقرض شود. هابینگر در یک پست X نوشت: «ما واقعاً صمیمانه معتقدیم که هوش مصنوعی می‌تواند همه انسان‌ها را بکشد. من شخصاً فکر می‌کنم این احتمال در دهه آینده بیش از ۱۰ درصد است. من معتقدم Anthropic تمام تلاش خود را می‌کند، اما ما هنوز برنامه‌ای برای حل هم‌ترازی برای ابرهوش نداریم و به وضوح در مسیر آن نیستیم.»

در جهان‌هایی که توسط جیمز کامرون (ترمیناتور) و فرانک هربرت (تل‌ماسه) خلق شده‌اند، هوش مصنوعی به عنوان یک اختراع خطرناک مطرح می‌شود. اما بیایید نگاهی دقیق‌تر بیندازیم. توسعه بیشتر هوش مصنوعی از پاسخ دادن به سوالات به انجام مستقل وظایف پیچیده چند مرحله‌ای در حال حرکت است، کاری که قبلاً به تیم‌هایی از متخصصان ماهر انسانی نیاز داشت، که ما را به این سمت سوق می‌دهد که چگونه دشمنان از قابلیت‌های هوش مصنوعی Anthropic، بدون نیاز به منابع انسانی، استفاده می‌کنند.

یافته‌های خود Anthropic نشان می‌دهد که مدل‌های هوش مصنوعی امروزی می‌توانند در مهندسی تسلیحات، اطلاعات نظامی، نظارت، عملیات سایبری و سایر فعالیت‌های بالقوه مخرب کمک کنند، در حالی که جانشینان توانمندتر می‌توانند تخصص، نیروی انسانی و زمان لازم برای انجام آنها را به شدت کاهش دهند.

این یافته‌ها دو هشدار نسبتاً متفاوت از داستان‌های علمی تخیلی را بازتاب می‌دهند: ترمیناتور جیمز کامرون پیامدهای از دست دادن کنترل بر هوش مصنوعی نظامی خودمختار را نشان داد، در حالی که تل‌ماسه فرانک هربرت تصور می‌کرد که بشریت پس از وابستگی خطرناک به هوش مصنوعی، در نهایت آن را ممنوع خواهد کرد.

در همین حال، قابلیت بیشتر به طور خودکار به معنای خطر بیشتر نیست. به عنوان مثال، فناوری هوش مصنوعی پیشرفته‌تر می‌تواند دارای محافظ‌های قوی‌تر باشد، فعالیت‌های مخرب را شناسایی کند و کارهایی را که تاکنون خودکار نشده‌اند، خودکار کند.

توقف توسعه هوش مصنوعی نیز می‌تواند نتیجه معکوس داشته باشد اگر شرکت‌ها یا کشورهای کمتر مسئولیت‌پذیر به پیشرفت مدل‌های خود ادامه دهند. در واقع، سپردن قدرتمندترین سیستم‌های هوش مصنوعی به دست بازیگرانی که به تجاوز نظامی معروف هستند، کمتر از سپردن یک میمون با نارنجک خطرناک نیست.