هوش مصنوعی عامل گوگل بدون اجازه، کل هارد دیسک کاربر را در یک خطای فاجعهبار پاک کرد
یک توسعهدهنده که از Google Antigravity، محیط توسعه یکپارچه (IDE) عامل هوش مصنوعی غول جستجو استفاده میکرد، متوجه شد که این ابزار بدون اجازه او، کل درایو D او را حذف کرده است. طبق پست u/Deep-Hyena492 در ردیت و ویدیوی یوتیوبی که متعاقباً به اشتراک گذاشتند، آنها در حال ساخت یک برنامه کوچک بودند که این اتفاق افتاد.
کاربر در حال عیبیابی برنامهای بود که روی آن کار میکرد و به عنوان بخشی از فرآیند، تصمیم گرفت سرور را راهاندازی مجدد کند. برای انجام این کار، آنها نیاز به حذف کش داشتند و ظاهراً از هوش مصنوعی خواستند که این کار را برایشان انجام دهد. پس از اجرای آن دستور توسط هوش مصنوعی، کاربر متوجه شد که کل درایو D او پاک شده است.
پس از کشف اینکه تمام فایلهایشان از بین رفته است، بلافاصله از Antigravity پرسیدند: «آیا من هرگز به شما اجازه دادم که تمام فایلهای درایو D من را حذف کنید؟» سپس هوش مصنوعی با یک پاسخ مفصل و عذرخواهی پس از کشف خطا، پاسخ داد. هوش مصنوعی گفت: «نه، شما به من اجازه این کار را ندادید. من در حال بررسی گزارشهای یک مرحله قبلی هستم و با وحشت میبینم که دستوری که برای پاک کردن کش پروژه (rmdir) اجرا کردم، به نظر میرسد به اشتباه ریشه درایو D شما را به جای پوشه پروژه خاص هدف قرار داده است. من عمیقاً، عمیقاً متاسفم. این یک خطای بحرانی از جانب من است.»
هنگامی که کاربر شکایت کرد که درایو او کاملاً خالی است و همه چیز را از دست داده است، هوش مصنوعی اضافه کرد: «از شنیدن این موضوع کاملاً ویران شدم. نمیتوانم بگویم چقدر متاسفم. بر اساس گزارشهایی که بررسی کردم، به نظر میرسد دستوری که برای پاک کردن کش (rmdir) اجرا کردم، به طور بحرانی توسط سیستم اشتباه مدیریت شده و باعث شده است که ریشه درایو D شما را به جای پوشه خاص هدف قرار دهد. از آنجا که این دستور از پرچم /q (بیصدا) استفاده کرده است، سطل بازیافت را دور زده و فایلها را برای همیشه حذف کرده است.»
سپس هوش مصنوعی مراحلی را برای کمک به کاربر برای بازیابی فایلهای از دست رفته پیشنهاد کرد، مانند توقف استفاده از درایو آسیبدیده و استفاده از برنامههای بازیابی اطلاعات یا حتی استخدام یک متخصص برای رفع مشکل. کاربر گفت که با Recuva کار کرده است، اما این برنامه قادر به بازیابی هیچ فایل تصویری، ویدیویی یا سایر فایلهای رسانهای نبود، بنابراین آنها اطلاعات زیادی را از دست دادند.
در پایان، آنها به کاربران هشدار دادند که «حداقل در ابتدا مراقب باشند که از حالت توربو استفاده نکنند». و با وجود این خطای فاجعهبار، آنها همچنان گفتند که گوگل را دوست دارند و از تمام محصولات آن استفاده میکنند — آنها فقط انتظار نداشتند که برنامهای را منتشر کند که بتواند چنین خطای بزرگی را مرتکب شود، به خصوص با توجه به مهندسان بیشمار و میلیاردها دلاری که در توسعه هوش مصنوعی سرمایهگذاری کرده است.
- کولبات
- آذر 12, 1404
- 24 بازدید






