English
日本語
한국어
简体中文
Một sự việc đáng lo ngại tại Trường Trung học Kenwood ở Baltimore đã khơi lại cuộc tranh luận mới về độ tin cậy của giám sát AI trong môi trường giáo dục. Gần đây, cảnh sát vũ trang đã ập vào một học sinh 16 tuổi sau khi hệ thống nhận diện súng bằng AI nhầm lẫn một túi Doritos với vũ khí nguy hiểm, dẫn đến một cuộc đối đầu căng thẳng.
Sự việc đáng sợ diễn ra vào ngày 20 tháng 10 khi Taki Allen, 16 tuổi, đang ở cùng bạn bè sau buổi tập luyện bóng đá. Đột nhiên, nhiều xe cảnh sát xuất hiện bao vây họ. Allen kể lại với WBAL-TV 11 News về khoảnh khắc rùng rợn khi cảnh sát, súng trong tay, ra lệnh nằm xuống đất.
“Có khoảng tám chiếc xe cảnh sát đến bao vây chúng tôi,” Allen nói. “Họ bắt đầu tiến về phía tôi với súng trên tay, nói ‘Nằm xuống đất,’ và tôi nói, ‘Cái gì vậy?'”
Anh bị buộc quỳ xuống tay, bị còng tay và được lục soát kỹ lưỡng. Các sĩ quan, sau khi không tìm thấy gì, cuối cùng đã lý giải nguyên nhân của cảnh báo: một hình ảnh do AI tạo ra cho thấy một túi Doritos vo viên ở túi quần của anh, bị hiểu nhầm là vũ khí. “Chủ yếu là, liệu mình có chết không? Có phải họ sẽ giết mình không?” Allen chia sẻ, mô tả nỗi sợ hãi của anh. “Họ chỉ đưa cho tôi bức ảnh, nói trông giống như một khẩu súng, tôi nói, ‘không, đó là khoai tây chiên.'”
Hệ thống AI Omnilert’s “dương tính giả” và phản ứng của trường học
Công nghệ đằng sau sự việc đáng báo động này là hệ thống nhận diện súng bằng AI của Omnilert, được triển khai tại Hệ thống trường học công Baltimore County chỉ vào năm ngoái. Được thiết kế để quét các đoạn phim giám sát hiện có và gửi cảnh báo thời gian thực cho cảnh sát khi phát hiện vũ khí bị nghi ngờ, độ tin cậy của hệ thống này giờ đây đang bị đặt dưới sự giám sát nghiêm ngặt.
Trong khi Omnilert thừa nhận sự việc là một “dương tính giả,” họ gây tranh cãi khi khẳng định hệ thống “hoạt động như dự định,” cho rằng vai trò chính của nó là “ưu tiên an toàn và nhận thức thông qua xác minh con người nhanh chóng.”
Hệ thống trường học công Baltimore County cũng đồng tình với quan điểm này trong một thông điệp gửi cho phụ huynh, cung cấp dịch vụ tư vấn cho học sinh bị ảnh hưởng bởi sự cố này. “Chúng tôi hiểu sự việc này đã gây tổn thương cho người bị lục soát cũng như các học sinh khác chứng kiến sự việc,” thư của hiệu trưởng nêu, đảm bảo hỗ trợ trực tiếp từ các tư vấn viên của trường.
Học sinh sợ trở lại trường sau lần gặp gỡ chấn động
Dù có thông báo chung của trường, Taki Allen tiết lộ rằng anh chưa nhận được lời xin lỗi cá nhân hay liên hệ trực tiếp từ ban giám hiệu. “Họ không xin lỗi. Họ chỉ nói với tôi đó là quy trình,” anh giải thích, bày tỏ sự mong đợi một cuộc liên hệ cá nhân sâu hơn.
Trải nghiệm chấn thương để lại Allen cảm thấy rất bất an, khiến anh sợ hãi khi trở lại trường học. “Nếu tôi ăn tiếp một túi khoai tây chiên hay uống thứ gì đó, tôi cảm thấy họ sẽ lại xuất hiện,” anh trình bày, làm nổi bật tác động tâm lý lâu dài của sự việc.
Hàm ý rộng hơn: Cuộc tranh luận ngày càng gia tăng về độ tin cậy của AI
Sự việc tại Trường Trung học Kenwood không phải là một sự việc riêng lẻ mà đang thúc đẩy một cuộc tranh luận rộng lớn hơn, cấp bách hơn về độ tin cậy và hậu quả trong thực tế của các công cụ giám sát AI. Cờ bạc đặc biệt cao khi các công nghệ này được triển khai trong môi trường nhạy cảm như trường học, ảnh hưởng đến sự an toàn và phúc lợi của giới trẻ.
Khi tích hợp AI gia tăng trên nhiều lĩnh vực, các câu hỏi về sự không thể sai lầm của nó đang trở nên nổi bật hơn. Các báo cáo gần đây chỉ ra rằng ngay cả các quan quân sự cấp cao, như Chuẩn tướng William ‘Hank’ Taylor của Lục quân Hoa Kỳ, cũng đã sử dụng các công cụ AI như ChatGPT cho việc ra quyết định quan trọng, nhấn mạnh ảnh hưởng lan tỏa của công nghệ này.
Hơn nữa, các thách thức với AI còn mở rộng sang các ứng dụng khác, như hệ thống xác minh tuổi cho nội dung người lớn mới của Anh. Hệ thống này, yêu cầu quét khuôn mặt, đã bị báo cáo là nhận dạng sai các cá nhân, bao gồm “người có hình xăm nhiều nhất Anh,” hình xăm của ai đó bị hiểu nhầm là mặt nạ, ngăn không cho truy cập. Những trường hợp như vậy làm nổi bật những hạn chế hiện tại và khả năng xảy ra lỗi trong các hệ thống AI tiên tiến.
Con đường phía trước: Cân bằng giữa đổi mới và an toàn
Sự kiện trải nghiệm của Taki Allen là lời nhắc nhở mạnh mẽ về nhu cầu cấp thiết có các thử nghiệm nghiêm ngặt, tính minh bạch và giám sát con người trong việc triển khai các công nghệ AI, đặc biệt là những công nghệ có khả năng kích thích sự can thiệp vũ trang. Khi các trường học và tổ chức khác đón nhận AI để tăng cường an ninh, việc đảm bảo các hệ thống này thực sự an toàn, chính xác và không kỳ thị vẫn là tối quan trọng để ngăn chặn các “dương tính giả” trong tương lai leo thang thành những trải nghiệm chấn động trong thực tế.