یک زن در فلوریدا به دلیل تهدید دفتر کلانتری از طریق چت‌بات هوش مصنوعی Claude شرکت Anthropic دستگیر و با اتهام جنایی مواجه شد. این تهدید، که در مکالمات او با چت‌بات ثبت شده بود، توسط تیم بازبینی انسانی Anthropic شناسایی و به مجریان قانون گزارش شد. این سومین مورد مشابه از ماه آگوست است که به پلیس گزارش می‌شود و بر نظارت فعال شرکت‌های هوش مصنوعی بر محتوای تهدیدآمیز کاربران تأکید دارد.

این پرونده در پی حوادث مشابهی با چت‌بات‌های Anthropic و OpenAI رخ می‌دهد که در آن‌ها تهدیداتی علیه افراد و نهادها مطرح شده است. این وقایع بحث‌های جدی را در مورد مسئولیت شرکت‌های هوش مصنوعی در قبال محتوای کاربران و تعادل بین حفظ حریم خصوصی و ضرورت گزارش تهدیدات جدی به مجریان قانون برانگیخته است. کارشناسان و مقامات خواستار دستورالعمل‌های سخت‌گیرانه‌تر هستند و به کاربران یادآوری می‌شود که مکالمات با هوش مصنوعی «هرگز ناشناس نیستند».