AI Lợi Dụng Hội Chứng Down Để Bán Ảnh Khỏa Thân

Một xu hướng đáng lo ngại đã xuất hiện trên Instagram: Các influencer được tạo bởi AI có hội chứng Down đang được sử dụng để bán ảnh khỏa thân. Sự lợi dụng này làm nổi bật sự thất bại của Instagram trong việc kiểm duyệt nội dung AI.

Một cuộc điều tra của 404 Media đã tiết lộ một mạng lưới các tài khoản đánh cắp nội dung từ những nhà sáng tạo thực. Các tài khoản này sử dụng AI để tạo deepfake khuôn mặt, khiến họ trông như có hội chứng Down. Các tài khoản này liên kết với nhau thông qua các tiểu sử tái sử dụng, video và các liên kết chia sẻ đến các trang đối thủ của OnlyFans.

Hành vi này là một phần của một ngành công nghiệp đang phát triển, nơi AI được sử dụng để thay thế khuôn mặt trên nội dung bị đánh cắp. Nội dung đã chỉnh sửa sau đó được đăng lên Instagram, dẫn lưu lượng truy cập đến các nền tảng người lớn để kiếm tiền. Điều này đã phát triển thành “môi giới AI,” với các khóa học dạy cách tạo influencer giả để kiếm lợi nhuận.

Các tài khoản gần đây nhắm đến các phân khúc cụ thể, bao gồm cả phụ nữ được tạo bởi AI với các chi bị cụt. Các tài khoản hội chứng Down đại diện cho một mức thấp mới. Sự thiếu kiểm duyệt của Instagram cho phép đánh cắp nội dung và sự tôn sùng không tự nguyện đối với những người khuyết tật giả tạo.