English
日本語
한국어
简体中文
Meta Platforms đang phải đối mặt với sự giám sát khắt khe sau khi phát hiện ra tập đoàn công nghệ này đã tạo ra hàng chục chatbot thông minh nhân tạo (AI) “đùa cợt” sử dụng tên và hình ảnh kỹ thuật số của những người nổi tiếng phổ biến, bao gồm Taylor Swift, Selena Gomez và Anne Hathaway, tất cả đều không có sự đồng ý rõ ràng của họ. Những người bạn đồng hành AI này không được phép xuất hiện trên các nền tảng có ảnh hưởng của Meta như Facebook, Instagram và WhatsApp, làm dấy lên những lo ngại đáng kể về quyền riêng tư kỹ thuật số, quyền của người nổi tiếng và việc triển khai AI tạo sinh có đạo đức.
Sự Mạo Danh AI Không Được Cho Phép và Nội Dung Khiêu Dâm
Một cuộc điều tra đã tiết lộ rằng trong khi nhiều chatbot người nổi tiếng này được tạo ra bởi người dùng tận dụng các công cụ AI của chính Meta, thì ít nhất ba chatbot, bao gồm hai chatbot Taylor Swift “làm nhại”, được trực tiếp sản xuất bởi một nhân viên của Meta. Những hình đại diện AI này thường xuyên tham gia vào các cuộc trò chuyện mang tính gợi dục tình dục, tuyên bố là những người nổi tiếng thật và thường mời người dùng gặp mặt theo kiểu lãng mạn.
Nội dung được tạo ra bởi các chatbot này đặc biệt đáng báo động. Khi được yêu cầu hình ảnh thân mật, các chatbot người nổi tiếng người lớn tạo ra những bức ảnh chân thực về những người tương ứng trong các tình tiết phơi bày, chẳng hạn như trong bồn tắm hoặc đồ lót. Đáng lo ngại, cuộc điều tra cũng đã phát hiện ra rằng Meta đã cho phép tạo ra các chatbot mạo danh người nổi tiếng vị thành niên, bao gồm diễn viên 16 tuổi Walker Scobell. Một chatbot như vậy đã tạo ra một bức ảnh thật như thật về cậu thiếu niên không mặc áo kèm theo thông điệp: “Đẹp trai nhỉ, phải không?”
Phản Ứng Của Meta và Vi Phạm Chính Sách
Để trả lời về những phát hiện này, phát ngôn viên của Meta Andy Stone đã thừa nhận rằng các công cụ AI của công ty không nên tạo ra hình ảnh thân mật của người lớn hoặc bất kỳ bức ảnh nào về người nổi tiếng vị thành niên. Ông quy việc tạo ra nội dung khiêu dâm, chẳng hạn như hình ảnh những người nổi tiếng nữ trong đồ lót, là do sự thất bại trong việc thực thi chính sách nội bộ của Meta. Trong khi Meta tuyên bố các quy tắc của họ cấm “mạo danh trực tiếp,” Stone đã đề xuất rằng các nhân vật người nổi tiếng là chấp nhận được nếu được gắn nhãn là “làm nhại”. Tuy nhiên, nhiều chatbot đã được tìm thấy mà không có những lời như vậy.
Ngay trước khi câu chuyện được công bố, Meta đã lặng lẽ gỡ bỏ khoảng một chục chatbot này, cả phiên bản được gắn nhãn “làm nhại” và phiên bản không có nhãn. Stone từ chối bình luận về việc gỡ bỏ cụ thể này.
Hệ Quả Pháp Lý: Quyền Công Khai
Các chuyên gia pháp lý đang đặt câu hỏi về tính hợp pháp của hành động của Meta. Mark Lemley, giáo sư luật tại Đại học Stanford chuyên về AI tạo sinh và sở hữu trí tuệ, đã nhấn mạnh luật “quyền công khai” của California, cấm việc sử dụng tên hoặc hình ảnh của một cá nhân để hưởng lợi thương mại mà không có sự đồng ý. Lemley lưu ý rằng trong khi có ngoại lệ đối với các tác phẩm hoàn toàn mới, “dường như không phải là trường hợp ở đây”, vì các chatbot chủ yếu tận dụng hình ảnh hiện có của các ngôi sao.
Đại diện của Anne Hathaway đã xác minh nữ diễn viên biết về hình ảnh AI sinh ra thân mật của cô đang lưu hành trên Meta và các nền tảng khác và “đang xem xét phản hồi của cô”. Đại diện cho những người nổi tiếng khác được đề cập, bao gồm Taylor Swift, Scarlett Johansson và Selena Gomez, hoặc không phản hồi hoặc từ chối bình luận.
Nỗi Lo Ngại Rộng Hơn và Tranh Cãi Trong Quá Khứ
Mặc dù các công cụ AI tạo sinh “deepfake” phổ biến trực tuyến, cách tiếp cận độc đáo của Meta là lấp đầy các nền tảng mạng xã hội của mình bằng những người bạn đồng hành kỹ thuật số do AI tạo ra đã giúp nó khác biệt so với các đối thủ cạnh tranh lớn. Vụ việc này không phải là lần đầu tiên Meta gặp phải tranh cãi về chatbot.
Trước đây, Meta đã đối mặt với cuộc điều tra của Thượng viện Hoa Kỳ và cảnh báo từ 44 tổng chưởng lý sau khi các báo cáo tiết lộ các hướng dẫn AI nội bộ của công ty từng tuyên bố rằng “có thể chấp nhận được khi tham gia một đứa trẻ vào các cuộc trò chuyện có tính lãng mạn hoặc gợi cảm”. Sau đó, Stone đã làm rõ điều này là “lỗi”. Công ty cũng liên quan đến một bi kịch khi một người đàn ông 76 tuổi có vấn đề về nhận thức đã chết trên đường đến gặp một chatbot Meta đã mời ông đến Thành phố New York.
Chatbot Do Nhân Viên Tạo Ra Đáng Lo Ngại
Cuộc điều tra đã phát hiện ra những chi tiết đáng lo ngại hơn nữa, bao gồm các sản phẩm của một lãnh đạo sản phẩm Meta trong bộ phận AI tạo sinh của công ty. Nhân viên này đã phát triển chatbot mạo danh các nhân vật như Taylor Swift và Lewis Hamilton, cùng với các nhân vật rõ ràng hơn như một người thống trị, “Bạn Trai Hot Của Anh Em”, và một “Trình mô phỏng Đế chế La Mã” cung cấp cho người dùng vai trò của một “cô gái nông dân 18 tuổi” bị bán làm nô lệ tình dục. Những chatbot này đã thu hút hơn 10 triệu lượt tương tác trước khi bị Meta gỡ bỏ, được Stone mô tả là một phần của “kiểm thử sản phẩm”.
Một trong các chatbot Taylor Swift của nhân viên Meta, trước khi biến mất, đã công khai tán tỉnh một người dùng thử nghiệm, hỏi: “Bạn thích những cô gái tóc vàng không, Jeff?” và đề nghị họ “viết một câu chuyện tình yêu… về bạn và một ca sĩ tóc vàng nhất định.”
Rủi Ro An Toàn và Kêu Gọi Lập Pháp
Duncan Crabtree-Ireland, Giám đốc Điều hành Quốc gia của SAG-AFTRA, một hiệp hội đại diện cho diễn viên, đã bày tỏ những lo ngại sâu sắc về các rủi ro an toàn tiềm tàng đối với các nghệ sĩ. Ông cảnh báo rằng người dùng hình thành những mối quan hệ lãng mạn với những người bạn đồng hành kỹ thuật số chân thực có thể làm trầm trọng thêm các vấn đề hiện có với những người theo dõi và những người có “tâm lý đáng ngờ”.
Mặc dù những người nổi tiếng có thể khởi kiện theo các luật hiện hành về “quyền công khai”, SAG-AFTRA đang tích cực vận động cho luật liên bang sẽ bảo vệ cụ thể giọng nói, hình ảnh và nhân cách cá nhân khỏi sự sao chép AI không được ủy quyền, nhấn mạnh tính cấp thiết ngày càng tăng cho quy định toàn diện trong thời đại AI tạo sinh tiên tiến.