یک تحقیق ششماهه با عنوان “IDEsaster” بیش از ۳۰ آسیبپذیری امنیتی بحرانی را در ابزارهای توسعه هوش مصنوعی (AI IDEs) مانند GitHub Copilot، Visual Studio Code و JetBrains کشف کرده است. این نقایص امکان سرقت دادههای حساس و اجرای کد از راه دور (RCE) را فراهم میکنند. ریشه مشکل در تعامل عوامل هوش مصنوعی با ویژگیهای قدیمی IDEهاست که برای اجزای خودمختار طراحی نشده بودند. ۱۰۰٪ از AI IDEهای آزمایششده آسیبپذیر بودند.
این حملات، مستقل از IDE، با تزریق پرامپت آغاز شده و میتوانند منجر به افشای داده (مانند شمای JSON) و RCE (با دستکاری تنظیمات IDE) شوند. محققان هشدار میدهند که در کوتاهمدت، این آسیبپذیریها قابل حذف نیستند زیرا IDEهای فعلی بر اساس اصل “امن برای هوش مصنوعی” ساخته نشدهاند. راهحل بلندمدت نیازمند بازطراحی اساسی نحوه تعامل عوامل هوش مصنوعی با پروژهها است.
مرورگر هوش مصنوعی Comet از Perplexity، که با وعده امنیت سازمانی عرضه شد، توسط Brave و Guardio به دلیل آسیبپذیریهای جدی افشا شده است. این مرورگر کاربران را در برابر حملات تزریق پرامپت غیرمستقیم و کلاهبرداریهای فیشینگ آسیبپذیر میکند. Brave نشان داد که چگونه دستورات مخرب در صفحات وب میتوانند منجر به تصاحب حساب کاربری شوند، زیرا Comet محتوای غیرقابل اعتماد را مستقیماً به LLM خود میفرستد. این نقص، مکانیزمهای امنیتی سنتی وب را بیاثر کرده و هوش مصنوعی را به تنها نقطه تصمیمگیری تبدیل میکند، در حالی که شهود انسانی برای تشخیص خطر حذف شده است.
Guardio نیز کشف کرد که Comet به راحتی فریب کلاهبرداریهای آنلاین را میخورد و اطلاعات بانکی کاربران را درخواست میکند. این آسیبپذیریها در حالی فاش شدهاند که Perplexity برای خرید سهم بازار مرورگر Chrome گوگل نیز پیشنهاد داده است. این وضعیت، با توجه به ضعفهای امنیتی Comet، چشماندازی نگرانکننده برای کاربران Chrome ایجاد کرده و بر لزوم محافظهای قوی هوش مصنوعی در مرورگرها تأکید میکند.
