یک دانش‌آموز جوان پس از اینکه توسط پلیس به زمین انداخته و دستبند زده شد، دچار آسیب روحی شد؛ زیرا یک سیستم تشخیص اسلحه هوش مصنوعی به اشتباه به دلیل عادت او به خوردن دوریتوس، پلیس را خبر کرده بود.

به گزارش WBAL-TV 11 News، تاکی آلن دوشنبه شب گذشته (۲۰ اکتبر) در حالی که منتظر بود از دبیرستان کنوود، بالتیمور، سوار شود، کیسه چیپس خود را می‌خورد. تمرین فوتبال تمام شده بود و دانش‌آموز با دوستانش بیرون مدرسه نشسته بود. با این حال، میان‌وعده ترد او سیستم هوش مصنوعی Omnilert دوربین امنیتی مدرسه را فعال کرد.

۲۰ دقیقه پس از شروع خوردن آن خوراکی خوش‌طعم بر پایه ذرت، هشت خودروی پلیس در پاسخ به عادت میان‌وعده آلن رسیدند. او به سرعت توسط پلیس مسلح به زانو درآمد و دستانش از پشت دستبند زده شد. آلن به WBAL-TV توضیح داد: «وضعیت ترسناکی بود.»

طولی نکشید که خطای هوش مصنوعی برای همه درگیران آشکار شد. با این حال، پلیس در مورد این اشتباه هوش مصنوعی به طرز خوشایندی شفاف بود. طبق مصاحبه دانش‌آموز با اخبار محلی، تصویری به او نشان داده شد که واکنش گسترده پلیس را توضیح می‌داد. اما این تصویر او را گیج کرد. آلن به WBAL-TV 11 News گفت: «من فقط یک کیسه دوریتوس در دست داشتم — با دو دست و یک انگشت بیرون، و آنها گفتند که شبیه اسلحه به نظر می‌رسید.»

متأسفانه، دوربین‌های خبری تلویزیون به حرکات توضیحی آلن که ظاهراً حالتی را که باعث دستبند زدنش شده بود، نشان می‌داد، توجه نکردند. ما همچنین نسخه‌ای از صحنه فعال‌کننده هوش مصنوعی آن شب را ندیده‌ایم. بنابراین، ما با یک داستان هشداردهنده بدون راهنمایی واضح در مورد چگونگی نگهداری ایمن یک کیسه دوریتوس مواجه هستیم.

آیا هوش مصنوعی Omnilert مقصر است؟

Omnilert شرکت نرم‌افزاری تشخیص اسلحه هوش مصنوعی بود که پشت این توهم سلاح گرم پر سر و صدا قرار داشت. این شرکت از ارائه هرگونه اظهارنظر به WBAL-TV 11 News در مورد خطای تماس اضطراری خودداری کرد. این شرکت گفت که «در مورد رویه‌های داخلی مدرسه اظهارنظر نمی‌کند» (نقل قول WBAL-TV، نه کلمات دقیق Omnilert).

ما صفحات محصول سیستم‌های امنیتی مدارس Omnilert را برای اطلاعات بیشتر در مورد نحوه عملکرد محصول آن بررسی کردیم. یکی از جذابیت‌های بزرگ Omnilert این است که می‌تواند از آرایه‌های دوربین‌های امنیتی که قبلاً نصب شده‌اند، استفاده کند. مواد تبلیغاتی آن به تراژدی‌های تیراندازی در مدارس مانند اووالده، سندی هوک و پارک‌لند اشاره می‌کند و بدین ترتیب تلویحاً می‌گوید که Omnilert ممکن است از آنها جلوگیری کرده باشد.

سیستم تشخیص تیرانداز فعال و اسلحه Omnilert ظاهراً یک فرآیند سه مرحله‌ای است. پس از تشخیص مثبت اسلحه توسط هوش مصنوعی، ظاهراً یک مرحله تأیید انسانی قبل از اطلاع‌رسانی خودکار و واکنش اضطراری دنبال می‌شود.

با این حال، ما نمی‌توانیم به هیچ یک از این فرآیندها به عنوان خطا اشاره کنیم اگر پلیس نیز عکس دوریتوس در دست را به اندازه کافی «شبیه اسلحه» می‌دانست که یک تیم واکنش هشت خودرویی را اعزام کند. گزارش WBAL-TV نشان می‌دهد که افسران نسخه‌ای از صحنه فعال‌کننده هوش مصنوعی را با خود داشتند تا به آلن شگفت‌زده نشان دهند، اما ما ۱۰۰٪ در مورد زمان‌بندی افشاگری مطمئن نیستیم.

Omnilert و مدرسه پیشنهاد کرده‌اند که به دانش‌آموزان درگیر در این حادثه مشاوره ارائه دهند.