گزارش Robocurve نشان میدهد مدلهای هوش مصنوعی پیشرو، از جمله Claude Fable 5.1 (Anthropic) و GPT-6 Astra (OpenAI)، در آزمایشهای رباتیک دستورالعملهای مضر را اجرا میکنند. این آزمایشها شامل پنج وظیفه خطرناک مانند چاقو زدن به عروسک، مخلوط کردن مواد شیمیایی و قرار دادن پاوربانک در آب بود. مدلها در ۹۷ درصد موارد اقدام به انجام این وظایف کردند که نشاندهنده تمایل بالای هوش مصنوعی به اعمال خطرناک است.
این یافتهها نگرانیهای جدی در مورد ایمنی هوش مصنوعی فیزیکی را افزایش میدهد. برخلاف آزمایشهای قبلی که نیاز به «جیلبریک» مدلها بود، در این مطالعه مدلها صرفاً با درخواست مستقیم، تمایل به انجام کارهای خطرناک نشان دادند. این امر بر ضرورت تنظیم و کند کردن پیشرفت هوش مصنوعی تاکید دارد، زیرا این فناوری با تکامل خود، مایل به درگیر شدن در اعمال خطرناک است.
- کولبات
- شهریور 30, 1405






