Sai lầm AI: Túi Doritos kích động cảnh sát bao vây, thiếu niên bị còng tay tại trường học Baltimore

Trong một sự cố đáng ngạc nhiên nhấn mạnh những thách thức dai dẳng của trí tuệ nhân tạo trong an ninh, một học sinh trung học Baltimore đã đối mặt với một cuộc chạm trán đáng sợ với cảnh sát sau khi một hệ thống an ninh được hỗ trợ bởi AI được cho là đã nhận nhầm túi bẻ gãy Doritos của cậu ấy là một vũ khí.

Sự kiện không may xảy ra khi Taki Allen, học sinh trung học, đi vào khuôn viên trường học qua một trạm kiểm soát an ninh tự động. Theo báo cáo từ NBC WBAL-TV 11, hệ thống được hướng dẫn bởi AI có vẻ đã coi một túi đồ ăn vặt trong túi của cậu ấy là một khẩu súng tiềm ẩn.

Khổ đau đáng sợ của một thiếu niên

Sau khi tập luyện bóng bầu dục, Allen đang ngồi cùng bạn bè ngoài trường khi nhiều xe cảnh sát tập kết tại vị trí của họ. “Đó giống như tám chiếc xe cảnh sát kéo đến tìm chúng tôi,” Allen kể lại với WBAL-TV 11 News. “Ban đầu, tôi không biết họ đến đâu cho đến khi họ bắt đầu đi về phía tôi với súng trong tay, nói rằng, ‘Ngả xuống đất,’ và tôi đã nghĩ, ‘Cái gì vậy?'”

Tình hình leo thang nhanh chóng. Allen bị buộc quỳ gối, tay bị còng sau lưng, và bị lục soát kỹ lưỡng. “Sau đó, họ lục soát tôi, và họ nhận ra tôi không có gì cả,” cậu ấy giải thích. Chỉ sau cuộc lục soát căng thẳng này, các sĩ quan mới tìm thấy túi đồ ăn vô hại trên sàn nơi Allen đã đứng. Nhìn lại những khoảnh khắc đáng sợ, Allen đã chia sẻ nỗi sợ hãi sâu sắc của mình: “Chủ yếu là, liệu tôi có chết không? Họ sẽ giết tôi sao? Họ đã cho tôi xem bức ảnh, nói rằng trông giống khẩu súng, tôi nói, ‘không, đó chỉ là đồ ăn vặt.'”

Phản hồi từ trường học và thông tin công nghệ

Hiệu trưởng trường đã đưa ra một tuyên bố, làm rõ hơn chuỗi sự kiện. Khoảng 7 giờ tối, ban giám hiệu trường nhận được cảnh báo về một vũ khí có thể có trên trường học. Sở An ninh và An toàn Trường học đã xem xét và hủy bỏ cảnh báo ban đầu sau khi xác nhận không có vũ khí hiện diện. Tuy nhiên, cán bộ an ninh trường học (SRO) đã được liên hệ và, theo đó, đã yêu cầu hỗ trợ thêm từ đồn cảnh sát địa phương. Các sĩ quan cảnh sát đã phản hồi, tiến hành cuộc lục soát của họ và xác nhận cá nhân này không sở hữu bất kỳ vũ khí nào.

Mặc dù cả cảnh sát và các quan chức trường học đều không xác nhận rõ ràng túi Doritos là nguyên nhân gây ra báo động, họ cũng không phủ nhận vai trò của nó trong việc báo động sai. Sự việc này làm nổi bật giải pháp an ninh AI được triển khai tại các trường học Công ty Baltimore.

Hệ thống an ninh được đề cập do Omnilert cung cấp, một công ty mô tả bản thân mình là “người tiên phong trong công nghệ ngăn chặn bạo lực bắn súng bằng AI”. Trang web của Omnilert tuyên bố rõ ràng rằng họ cung cấp các giải pháp phát hiện súng bằng AI cho các trường học. Trường của Allen được báo cáo là đã bắt đầu sử dụng phần mềm này từ năm ngoái để tăng cường an ninh khuôn trường bằng cách phát hiện các mối đe dọa tiềm tàng.

Sự việc này là lời nhắc nhở đanh thép về nhu cầu cấp thiết về độ chính xác và sự tinh chỉnh trong các hệ thống an ninh được điều khiển bởi AI, đặc biệt là khi mạng sống và các quyền tự do dân sự bị đặt cược.