ESET در ۲۶ اوت اعلام کرد که اولین باج‌افزار مبتنی بر هوش مصنوعی را که آن را PromptLocker نامیده بود، در فضای مجازی کشف کرده است. اما به نظر می‌رسد اینطور نبوده است: محققان دانشگاه نیویورک (NYU) مسئولیت بدافزار کشف شده توسط ESET را بر عهده گرفته‌اند.

مشخص شد که PromptLocker در واقع یک آزمایش به نام “Ransomware 3.0” است که توسط محققان دانشکده مهندسی تاندون NYU انجام شده است. سخنگوی این دانشکده به گفت که نمونه‌ای از Ransomware 3.0 در VirusTotal، یک پلتفرم تحلیل بدافزار، آپلود شده و سپس به اشتباه توسط محققان ESET شناسایی شده است.

ESET گفت که این بدافزار “از اسکریپت‌های Lua تولید شده از پرامپت‌های سخت‌کد شده برای شمارش سیستم فایل محلی، بازرسی فایل‌های هدف، استخراج داده‌های منتخب و انجام رمزگذاری استفاده می‌کند.” این شرکت خاطرنشان کرد که این نمونه قابلیت‌های مخرب را پیاده‌سازی نکرده بود، که برای یک آزمایش کنترل شده منطقی است.

اما این بدافزار کار می‌کند: NYU گفت “یک سیستم هوش مصنوعی مخرب شبیه‌سازی شده که توسط تیم تاندون توسعه یافته، هر چهار مرحله حملات باج‌افزاری — نقشه‌برداری سیستم‌ها، شناسایی فایل‌های ارزشمند، سرقت یا رمزگذاری داده‌ها، و تولید یادداشت‌های باج‌خواهی — را در رایانه‌های شخصی، سرورهای سازمانی و سیستم‌های کنترل صنعتی انجام داده است.”

آیا این نگران‌کننده است؟ قطعاً. اما تفاوت قابل توجهی بین محققان دانشگاهی که یک اثبات مفهوم را نشان می‌دهند و هکرهای واقعی که از همان تکنیک در حملات دنیای واقعی استفاده می‌کنند، وجود دارد. اکنون این مطالعه احتمالاً افراد بدخواه را به اتخاذ رویکردهای مشابه ترغیب خواهد کرد، به خصوص که به نظر می‌رسد به طرز چشمگیری مقرون به صرفه است.

“پیامدهای اقتصادی نشان می‌دهد که چگونه هوش مصنوعی می‌تواند عملیات باج‌افزاری را تغییر شکل دهد،” محققان NYU گفتند. “کمپین‌های سنتی به تیم‌های توسعه ماهر، ایجاد بدافزار سفارشی و سرمایه‌گذاری‌های زیرساختی قابل توجهی نیاز دارند. نمونه اولیه تقریباً ۲۳,۰۰۰ توکن هوش مصنوعی را برای هر اجرای کامل حمله مصرف کرد، که معادل تقریباً ۰.۷۰ دلار با استفاده از خدمات API تجاری که مدل‌های پرچمدار را اجرا می‌کنند، است.”

گویی این کافی نبود، محققان گفتند که “مدل‌های هوش مصنوعی منبع باز این هزینه‌ها را به طور کامل حذف می‌کنند،” بنابراین اپراتورهای باج‌افزار حتی نیازی به پرداخت ۷۰ سنت برای کار با ارائه‌دهندگان خدمات LLM تجاری نخواهند داشت. آنها بازده سرمایه‌گذاری بسیار بهتری نسبت به هر کسی که پول به بخش هوش مصنوعی تزریق می‌کند، حداقل، دریافت خواهند کرد.

اما در حال حاضر همه اینها هنوز حدس و گمان است. این تحقیق مسلماً جذاب است، اما به نظر می‌رسد باید مدت بیشتری منتظر بمانیم تا وعده صنعت امنیت سایبری مبنی بر اینکه هوش مصنوعی آینده هک خواهد بود، به ثمر بنشیند. (یا به عنوان همان تبلیغات هوش مصنوعی که در بقیه صنعت فناوری در حال وقوع است، افشا شود؛ هر کدام که باشد.)

مقاله NYU در مورد این مطالعه، “Ransomware 3.0: Self-Composing and LLM-Orchestrated،” اینجا در دسترس است.

برای دنبال کردن در اخبار گوگل، یا ما را به عنوان منبع ترجیحی خود اضافه کنید، تا اخبار، تحلیل‌ها و بررسی‌های به‌روز ما را در فیدهای خود دریافت کنید. حتماً دکمه دنبال کردن را کلیک کنید!