เหตุการณ์ระทึกขวัญเกิดขึ้นกับ Joel Feder ผู้อำนวยการฝ่ายเนื้อหาและผลิตภัณฑ์จาก The Drive ขณะกำลังขับรถ Range Rover มูลค่ากว่า 155,000 ดอลลาร์สหรัฐฯ ที่ได้รับมาทดสอบ เขาถูกเจ้าหน้าที่ตำรวจใช้รถ 4 คันปิดล้อมในลานจอดรถของร้านค้าแห่งหนึ่ง โดยอ้างว่ารถคันดังกล่าวติดป้ายทะเบียนที่ถูกแจ้งขโมยไว้ในรัฐแคลิฟอร์เนีย ซึ่งระบบกล้อง AI ของ Flock ได้ติดตามรถของเขามาหลายวันก่อนจะสบโอกาสเข้าสกัดจับ

จากการตรวจสอบพบว่า ความผิดพลาดเกิดจากระบบ AI ของ Flock ไม่สามารถอ่านป้ายทะเบียนแบบพิเศษสำหรับผู้ผลิตของรัฐนิวเจอร์ซีย์ได้อย่างถูกต้อง โดยระบบมองข้ามตัวเลขขนาดเล็กและอ่านเพียงตัวเลขหลักขนาดใหญ่ ทำให้เกิดการตีความผิดพลาดและแจ้งเตือนว่าเป็นรถที่ถูกขโมย นอกจากนี้รายงานของตำรวจยังระบุเลขทะเบียนไม่ครบถ้วน ส่งผลให้รถทุกคันที่มีรูปแบบป้ายใกล้เคียงกันถูกระบบตีตราว่าเป็นรถต้องสงสัยทั้งหมด

แม้เหตุการณ์จะจบลงด้วยความเข้าใจหลังผ่านไปนานกว่าหนึ่งชั่วโมง แต่เจ้าหน้าที่ได้แนะนำให้ Feder รีบขับรถกลับบ้านทันทีเพื่อป้องกันการถูกสกัดจับซ้ำจากหน่วยงานอื่นที่ยังไม่ทราบข้อมูลนี้ เหตุการณ์นี้ยิ่งซ้ำเติมข้อกังขาเกี่ยวกับความน่าเชื่อถือของเทคโนโลยี Flock AI ซึ่งก่อนหน้านี้เคยเผชิญกับประเด็นอื้อฉาวเรื่องการนำข้อมูลไปใช้ในทางที่ผิดโดยเจ้าหน้าที่รัฐมาแล้ว

ที่มา: Latest from Tom's Hardware