داریو آمودی، مدیرعامل Anthropic، نسبت به پیشرفت سریع هوش مصنوعی و احتمال تسخیر کل اینترنت توسط یک باتنت هوش مصنوعی در ۶ تا ۱۲ ماه آینده هشدار داده است. او معتقد است این اتفاق میتواند صدها میلیارد دلار خسارت وارد کند و خواستار کاهش سرعت توسعه مدلهای جدید هوش مصنوعی شده است. ایوان هابینگر، دانشمند سابق Anthropic، نیز این نگرانیها را تأیید کرده و احتمال انقراض بشریت توسط هوش مصنوعی تا پایان دهه را ۱۰ درصد میداند.
یافتههای Anthropic نشان میدهد مدلهای کنونی هوش مصنوعی میتوانند در مهندسی تسلیحات، اطلاعات نظامی و عملیات سایبری کمک کنند. این قابلیتها در مدلهای آینده با کاهش نیاز به تخصص انسانی، خطرناکتر خواهند شد. مقاله اشاره میکند که قابلیت بیشتر لزوماً به معنای خطر بیشتر نیست و هوش مصنوعی پیشرفته میتواند محافظتهای قویتری داشته باشد. اما توقف توسعه هوش مصنوعی نیز میتواند نتیجه معکوس داشته باشد، به ویژه اگر بازیگران کمتر مسئولیتپذیر به پیشرفت خود ادامه دهند.
یک مدل هوش مصنوعی به نام Evo، با آموزش بر روی تریلیونها نوکلئوتید، ۱۶ ویروس جدید را طراحی و سنتز کرده که هرگز در طبیعت وجود نداشتهاند. این مدل با یادگیری الگوهای چیدمان DNA، قادر به ساخت توالیهای ژنتیکی معنیدار شده است. محققان دانشگاه استنفورد پس از آموزش Evo بر روی ژنوم ویروس Phi X-174، این ویروسهای جدید را تولید کردند که قادر به آلوده کردن باکتری E. coli و تکثیر هستند.
اگرچه ویروسهای ساخته شده بیضرر گزارش شدهاند، اما این مطالعه پتانسیل کاربردهای خطرناک هوش مصنوعی در بیوتکنولوژی را نشان میدهد. کارشناسان نگرانند که توسعه چنین فناوریهایی بسیار جلوتر از مقررات و محافظهای لازم است و خواستار توجه جدی به جنبههای اخلاقی و ایمنی هستند. این موضوع اهمیت وضع قوانین مناسب برای کنترل پیشرفتهای هوش مصنوعی را برجسته میکند.
نمایندگان کنگره آمریکا لایحهای دوحزبی با عنوان «قانون سوئیچ کشتار هوش مصنوعی» را معرفی کردهاند. این قانون توسعهدهندگان مدلهای قدرتمند هوش مصنوعی را ملزم میکند تا قابلیت فنی برای محدود کردن، تعلیق یا خاموش کردن سیستمهای خود را حفظ کنند. وزارت امنیت داخلی (DHS) میتواند در صورت بروز آسیبهای فاجعهبار، دستور این اقدامات را صادر کند و سرپیچی از آن جریمههای تا ۲۰ میلیون دلار در روز در پی دارد. این لایحه شرکتهایی با درآمد سالانه حداقل ۵۰۰ میلیون دلار از مدلهای هوش مصنوعی آموزشدیده با هزینه بیش از ۱۰۰ میلیون دلار را پوشش میدهد.
حوادث مشمول شامل رفتارهای ناخواسته منجر به مرگ ۱۰ نفر یا بیشتر، یا حداقل ۱۰۰ میلیون دلار خسارت اقتصادی است؛ همچنین خرابکاری در دستورات خاموش کردن یا پنهانکاری قابلیتها. حامیان لایحه به رویدادهای اخیر در حوزه هوش مصنوعی اشاره کرده و هدف اصلی این قانون را جلوگیری از آسیبهای فاجعهبار احتمالی ناشی از این فناوری عنوان کردهاند.
