English
日本語
한국어
简体中文
Công cụ tạo video AI cao cấp Veo 3 của Google đang bị giám sát chặt khi bị lợi dụng để sản xuất và phát tán nội dung phân biệt chủng tộc trên TikTok. Dù cả hai nền tảng đều có chính sách chống ngôn từ kích động thù địch, một làn sóng video do AI tạo ra chứa các yếu tố phân biệt chủng tộc và bài Do Thái đã xuất hiện.
Chất Lượng Hình Ảnh Hoàn Hảo Của Veo 3 Bị Lợi Dụng
Từ khi ra mắt vào tháng 5, Veo 3 đã gây ấn tượng với chất lượng video. Nhưng giờ đây, sức mạnh này đang bị lạm dụng. Báo cáo từ MediaMatters chỉ ra nhiều tài khoản TikTok đăng tải nội dung thù hận, nhắm vào người da màu, người Do Thái và dân nhập cư. Những video này, được nhận diện qua watermark “Veo”, thường củng cố định kiến độc hại.
Các video chứa nội dung thù ghét thường miêu tả người da màu theo cách rập khuôn và xúc phạm, đồng thời nhắm vào nhóm thiểu số khác bằng hình ảnh bài Do Thái. Dù chỉ dài khoảng 8 giây, tác động của chúng không hề giảm khi nhiều người dùng hưởng ứng tư tưởng thù hận trong phần bình luận.
Hệ Thống An Ninh Bị Vô Hiệu?
Google nhấn mạnh các biện pháp an toàn trong mô hình AI của mình. Tuy nhiên, Veo 3 dường như đang vượt qua các rào cản này. Khả năng hạn chế của AI trong việc nhận diện sắc thái phân biệt chủng tộc cho phép người dùng tạo nội dung xúc phạm thông qua các gợi ý gián tiếp.
Khó Khăn Trong Kiểm Duyệt Của TikTok
Nguyên tắc cộng đồng của TikTok nghiêm cấm ngôn từ kích động thù địch. Nhưng các video này vẫn lan truyền rộng rãi, cho thấy thách thức trong kiểm duyệt nội dung trên nền tảng có lượng đăng tải khổng lồ. Dù TikTok tuyên bố sử dụng cả công nghệ và kiểm duyệt viên, khối lượng nội dung khiến can thiệp kịp thời trở nên khó khăn. Phát ngôn viên TikTok cho biết một số tài khoản đã bị cấm trước khi báo cáo MediaMatters được công bố, số còn lại hiện đã bị gỡ.
Vi Phạm Chính Sách Cấm Của Google
Google cũng có chính sách nghiêm ngặt chống ngôn từ thù địch và quấy rối. Sự xuất hiện của những video này cho thấy sự thất bại trong việc thực thi chính sách. Tính mơ hồ của gợi ý và hạn chế của AI trong nhận diện sắc thái phân biệt chủng tộc góp phần tạo nên vấn đề.
Lan Rộng Ra Ngoài TikTok
Vấn đề không chỉ giới hạn ở TikTok. Các nền tảng khác có kiểm duyệt lỏng lẻo hơn như X (Twitter cũ) cũng chứng kiến sự gia tăng nội dung thù hận do AI tạo ra. Kế hoạch tích hợp Veo 3 vào YouTube Shorts của Google dấy lên lo ngại vấn đề có thể leo thang trên YouTube.
Dù Google và TikTok đều có chính sách phù hợp, việc thực thi vẫn chưa đủ. Sự việc làm nổi bật thách thức trong ngăn chặn lạm dụng công cụ AI mạnh mẽ vào mục đích xấu. Tính chân thực của Veo 3 khiến nó đặc biệt hấp dẫn với những kẻ muốn phát tán định kiến thù hận, đặt ra câu hỏi về hiệu quả của các biện pháp bảo vệ hiện tại.
Chúng tôi đã liên hệ với Google để bình luận về tính năng an toàn của Veo 3 và sẽ cập nhật bài viết khi cần thiết.
Nguồn: Ars Technica