خطای فاجعهبار هوش مصنوعی Flock: ردیابی اشتباه پلاک، محاصره پلیس و بازداشت یک ساعته منتقد خودرو
یک خطای ورود داده در سیستم Flock منجر به این شد که یک منتقد خودرو در پارکینگ توسط خودروهای پلیس محاصره شود، به ظن اینکه او در حال رانندگی با وسیله نقلیهای با پلاک سرقتی است. جوئل فدر، منتقد و مدیر محتوا و محصول The Drive، در حال رانندگی با یک رنج روور قرضی به ارزش ۱۵۵,۰۰۰ دلار بود که پلیس خودروی او را محاصره کرد.
هنگامی که او پرسید چرا متوقف شده است (آن هم توسط چهار خودروی پلیس)، افسران گفتند که پلاک خودرو سرقتی گزارش شده و آنها روزهاست که او را با استفاده از اپلیکیشن Flock ردیابی میکنند. پس از حدود یک ساعت تلاش برای فهمیدن دلیل توقف، مشخص شد که یک پلاک متفاوت با کاراکترهای مشابه اشتباه ثبت شده و در کالیفرنیا به عنوان سرقتی گزارش شده بود که این امر یک هشدار سراسری را در سیستم Flock فعال کرده بود.
اصل مشکل این بود که پلاکهای نیوجرسی روی رنج روور “34 10 DTM” را نشان میدادند، با این تفاوت که عدد “10” با فونت کوچکتر نوشته شده بود. این یک طراحی غیر استاندارد است که توسط نیوجرسی برای تولیدکنندگان استفاده میشود و عبارت “VEHICLE MFR” در پایین پلاکها نوشته شده است. پلاک مفقود شده “34 03 DTM” بود، اما متأسفانه گزارش پلیس LAPD فقط “34 DTM” را ذکر کرده بود.
مشکل دیگری در سیستم Flock این خطای گزارشدهی را تشدید کرد. از آنجایی که پلاکهای تولیدکننده نیوجرسی استاندارد نبودند، سیستم فقط اعداد و حروف بزرگتر را میخواند و “10” کوچکتر روی پلاک فدر را نادیده میگرفت. به همین دلیل، تمام وسایل نقلیه با پلاک “34 ## DTM” را به عنوان سرقتی علامتگذاری میکرد و هر زمان که پلاک مشابهی را در جاده تشخیص میداد، به نیروهای پلیس همکار هشدار میداد. فدر حتی گفت که چهار وسیله نقلیه دیگر با پلاک مشابه در سراسر مینه سوتا ردیابی میشدند و او فقط اولین نفری بود که متوقف شد.
پلیس گفت که آنها روزهاست که خودرو را با استفاده از دوربینهای هوش مصنوعی Flock ردیابی میکردند، اما به دلیل اینکه فدر آن را در گاراژ سرپوشیده خود پارک میکرد، مدام آن را از دست میدادند. بنابراین، هنگامی که او در یک فروشگاه خردهفروشی توقف کرد، مقامات از این فرصت استفاده کرده و او را محاصره کردند تا مطمئن شوند که فرار نمیکند. خوشبختانه، این مشکل در محل با افسران حل شد، اگرچه یک ساعت طول کشید تا با جگوار لندروور تأیید شود که خودرو یا پلاکهایی که فدر داشت سرقتی نبودند. با این حال، به این روزنامهنگار توصیه شد که مستقیماً به خانه برود، زیرا سایر سازمانهای پلیس که از Flock استفاده میکنند ممکن است از وضعیت آگاه نباشند، که میتواند منجر به توقف مجدد او به ظن رانندگی با یک خودروی لوکس سرقتی شود.
این دو خطا با هم ترکیب شدند تا تجربهای نسبتاً وحشتناک با پلیس ایجاد کنند. خوشبختانه، این حادثه به چیز جدی تبدیل نشد، به خصوص که پلیس پلیموث به فدر گفت که اگر او در مینیاپولیس بود، پلیس با اسلحه کشیده او را متوقف میکرد.
این رویداد به جنجالهای متعددی که Flock AI با آن روبرو بوده است، اضافه میکند. یکی از بزرگترین مشکلاتی که این شرکت اخیراً با آن مواجه شد، زمانی بود که چندین افسر پلیس به دلیل سوءاستفاده از این سرویس برای تعقیب شرکای عاطفی دستگیر شدند. این امر باعث شده است که شهروندان در برابر این سرویس مقاومت کنند، به خصوص که اخباری مانند این باعث میشود اعتماد آنها به مقامات از بین برود. حتی به جایی رسید که یک عضو شورای شهر تگزاس پس از فشار جامعه که منجر به لغو این سرویس شد، عصبانی شد و ممنوعیت کامل دستگاههای سلولی و GPS را پیشنهاد کرد.
- کولبات
- تیر 20, 1405
- 41 بازدید






