یک زن در شهرستان لی، فلوریدا، پس از اینکه تهدیدی مرتبط با مکالمه چت‌بات هوش مصنوعی Claude شرکت Anthropic، یا به گفته خودش «دفترچه خاطرات»، از طریق تیم بازبینی انسانی Anthropic به مجریان قانون گزارش شد، با اتهام جنایی دستگیر شد. این خبر را WINK News گزارش کرده است. گزارش بازداشت شامل اظهارات ۲۶ سپتامبر از کاربری به نام «کارلی» است که گفته بود «دفتر کلانتری شهرستان لی (LCSO) را به رگبار می‌بندد» و ظاهراً پیامی در روز بعد به یک اسلحه جدید اشاره کرده است. این مکالمه حداقل سومین مورد از این نوع بود که از ماه آگوست به پلیس گزارش شده است.

گزارش بازداشت می‌گوید که Anthropic چت‌ها را برای عبارات کلیدی و محتوایی که می‌تواند تهدیدآمیز تلقی شود، نظارت می‌کند و بسته به شدت، می‌توانند برای بازبینی انسانی ارجاع داده شوند. در این مورد، تیم تصمیم گرفت یافته‌های خود را به مجریان قانون گزارش دهد. زن ساکن بونیتا اسپرینگز بدون هیچ حادثه‌ای در خانه بازداشت شد و یک کارآگاه اطلاعاتی LCSO پرونده را از آنجا به دست گرفت. گزارش بازداشت هنوز در پرونده دادگاه نیست، اما بررسی ما نشان می‌دهد که سوابق دادگاه اتهام جنایی ۳۰ سپتامبر را تحت قانون ۸۳۶.۱۰ فلوریدا: تهدید کتبی یا الکترونیکی تیراندازی جمعی یا اقدام تروریستی، فهرست کرده است.

در حال حاضر هیچ اظهارنظری از سوی Anthropic در مورد این پرونده ثبت نشده است. سیاست حفظ حریم خصوصی عمومی Anthropic، که از ۱۰ سپتامبر اجرایی شده است، می‌گوید که افشای اطلاعات به مجریان قانون ممکن است در مواردی رخ دهد که این شرکت با حسن نیت معتقد باشد «افشا به طور منطقی برای … جلوگیری از آسیب جدی به هر شخص یا اموال ضروری است.» گزارش درخواست‌های دولتی آن برای نیمه دوم سال ۲۰۲۵ از استاندارد محدودتری برای افشای اضطراری استفاده می‌کند، یعنی «خطر مرگ یا آسیب جدی جسمی به یک فرد»، و هیچ درخواست اضطراری از سوی مجریان قانون در آن دوره را فهرست نمی‌کند، اگرچه ارجاعاتی که Anthropic به تنهایی انجام می‌دهد را شامل نمی‌شود.

طبق ثبت، اتهام به عنوان «تهدید-تروریستی-جرایم دولتی-تهدید کتبی/الکترونیکی تیراندازی جمعی/اقدام تروریستی» فهرست شده است که نیمه مربوط به تیراندازی جمعی/تروریسم قانون را پوشش می‌دهد. مکالمه با چت‌بات ممکن است تحت این قانون به عنوان تهدیدی که «به هر نحوی که توسط شخص دیگری قابل مشاهده باشد» ارسال، پست یا منتقل شده است، قرار گیرد. پیام‌های یافت شده توسط بازبینی انسانی Anthropic، از جمله اشاره به اسلحه در روز بعد، احتمالاً شواهد حمایتی برای دستگیری و اتهام هستند. هیچ وکیلی در پرونده ذکر نشده و یک وکیل تسخیری در زمان اتهام منصوب شد.

این حادثه به دنبال مجموعه‌ای از پرونده‌های اخیر مرتبط با استفاده از چت‌بات‌های Anthropic و رقیب آن OpenAI رخ می‌دهد. یکی از این حوادث، در سن آنتونیو، شامل پرس‌وجوهای ۱۱ آگوست در «یک چت هوش مصنوعی Anthropic» درباره تیراندازی در یک مدرسه ابتدایی نزدیک بود. پلیس، با هشدار FBI، یک مرد ۲۲ ساله را به اتهام تهدید تروریستی جنایی دستگیر کرد. چند روز بعد، در سان فرانسیسکو، یک کاربر در چت Claude در ۱۴ آگوست، مدیرعامل Anthropic، داریو آمودی، را تهدید کرد و گفت که یک AR-15 خریده است. Anthropic پلیس را مطلع کرد، اما کاربر دستگیر یا متهم نشد. هر دو پرونده در گزارش‌های خبری منطقه‌ای به تفصیل شرح داده شدند.

OpenAI نیز در فلوریدا با چالش‌های مشابهی روبرو شده است؛ در ماه مارس، پیامی به پلتفرم چت‌بات هوش مصنوعی آن، ChatGPT، ارسال شد که در آن کاربر دارن ژو درباره کشتن دوست‌دختر سابق خود صحبت کرده بود و OpenAI او را به FBI گزارش داد. این خبر را Palm Beach Post گزارش کرده است. ژو در ماه آگوست به اتهاماتی از جمله تهدید کتبی به قتل، تحت همان قانون ۸۳۶.۱۰، اعتراف کرد و به هشت سال حبس تعلیقی محکوم شد.

دادستان کل فلوریدا نیز در ماه ژوئن شکایتی علیه این شرکت تنظیم کرد، با استناد به تیراندازی دانشگاه ایالتی فلوریدا در سال ۲۰۲۵، و ماه گذشته از قاضی درخواست حکم موقت کرد. OpenAI همچنین ماه گذشته توسط بریتیش کلمبیا شکایت شد به دلیل عدم هشدار به پلیس در مورد تیرانداز تامبلر ریج، که حساب ChatGPT او، طبق شکایت، هشت ماه قبل از حمله شناسایی شده بود. این حوادث و موارد دیگر، الگویی را نشان می‌دهند که در آن از شرکت‌های هوش مصنوعی انتظار می‌رود به حریم خصوصی احترام بگذارند، در حالی که همزمان در صورت عدم گزارش تهدیدات به مجریان قانون، مسئول شناخته می‌شوند.

نظارت فزاینده بر نگرانی‌های مربوط به حریم خصوصی و امنیت محصولات هوش مصنوعی، منجر به درخواست‌هایی برای احتیاط از سوی کارشناسانی مانند کریسان روهل از دانشگاه فلوریدا گلف کوست شده است که با WINK News صحبت کرد. این موضوع همراه با درخواست‌هایی برای دستورالعمل‌های سخت‌گیرانه‌تر و مستقل تأیید شده، مانند مواردی که توسط دادستان کل فلوریدا درخواست شده است، مطرح می‌شود.

برای کاربران، این یک یادآوری است که آنچه با همراه هوش مصنوعی مورد علاقه خود به اشتراک می‌گذارید «هرگز واقعاً ناشناس نیست»، همانطور که کارمین مارسینو، کلانتر شهرستان لی، به WINK News گفت. یک مکالمه علامت‌گذاری شده می‌تواند به عنوان «دفترچه خاطرات» برای بازبینان انسانی عمل کند و این می‌تواند شما را به دردسر بیندازد، همانطور که زنی که با نام «کارلی» شناخته می‌شود، کشف کرد. جزئیات بیشتر در مورد این پرونده پس از جلسه تفهیم اتهام در ۲ نوامبر در دسترس خواهد بود.