Ứng dụng Sora của OpenAI Đối mặt với các Video Niche Khiến Gây Rúng Định

Ứng dụng tạo video đột phá của OpenAI, Sora 2, được thiết kế để cách mạng hóa việc tạo nội dung, đang đối mặt với những thách thức bất ngờ liên quan đến kiểm duyệt nội dung và đạo đức người dùng. Mặc dù được ca ngợi vì khả năng tiên tiến, một xu hướng đáng lo ngại đã xuất hiện khi người dùng tạo các video niche khiêu dâm, thường đặc trưng hình ảnh của những cá nhân thật mà không có sự cho phép rõ ràng cho các mục đích sử dụng như vậy.

Khám Phá Gây Rúng Định Của Một Nhà Báo

Phóng viên công nghệ và văn hóa kỳ cựu, Katie Notopoulos, đã chia sẻ trải nghiệm cá nhân của mình sau khi chọn để cho phép hình ảnh của mình xuất hiện trong các cameo trên Sora. Ban đầu, bà coi đây là một tính năng vô hại, nhưng Notopoulos sớm phát hiện ra các video về chính mình được tạo bởi những người lạ, mô tả các tình huống như mang thai quá mức hay “phình bụng”. Khi đào sâu hơn vào hồ sơ của những nhà sáng tạo này, bà đã phát hiện ra toàn bộ bộ sưu tập chuyên về các niche fetish cụ thể như vậy.

Tính Chất Phổ Biến Của Nội Dung Niche

Những gì bắt đầu như các vụ việc riêng lẻ đã nhanh chóng leo thang. Notopoulos quan sát thấy một phần đáng kể các cameo phổ biến đặc trưng hình mặt của bà, cũng như của những nhà tạo khác là nữ giới, phóng viên công nghệ và nhân viên vốn mạo hiểm, nay bao gồm các nội dung fetish đa dạng—from việc chuyển hóa thành ngựa centaur đến các kịch bản sao chép. Hiện tượng này vượt ra ngoài cameo của người thật, với vô số tài khoản chuyên tạo nội dung tương tự sử dụng các hình phụ nữ hoàn toàn do AI tạo, bao gồm các chủ đề như vore, tôn sùng bàn chân và đập nát.

Định Hướng Đồng Ý và Đạo Đức Kỹ Thuật Số

Mặc dù thừa nhận lịch sử lâu dài của các nội dung niche trên internet, Notopoulos nhấn mạnh một sự khác biệt quan trọng với Sora: khả năng dễ dàng tạo ra nội dung có thể mang lại kích thích tình dục sử dụng khuôn mặt của một người thật mà không có sự cho phép cụ thể của họ cho mục đích sử dụng đó. Điều này đặt ra những câu hỏi đạo đức đáng kể về sự giống nhau về mặt kỹ thuật số và ranh giới, đặc biệt đối với những người có thể không quen thuộc với “mặt trái” của internet.

OpenAI đã triển khai các biện pháp chống lại sự trần trụi tình dục hoặc nội dung khiêu dâm rõ ràng và cũng đã tạm dừng việc sử dụng hình ảnh của người nổi tiếng đã mất sau khi nhận được khiếu nại. Tuy nhiên, sự gia tăng của nội dung fetish không trần trụi, bán khiêu dâm đặt ra một thách thức mới, không lường trước cho các chính sách kiểm duyệt của nền tảng.

Mối Lo Ngại An Ninh Rộng Hơn và Thiếu Nhi

Các vấn đề vượt ra ngoài các niche fetish. Các lo ngại cũng đã nổi lên liên quan đến tương tác của thiếu nhi với các nhà sáng tạo nội dung người lớn trên Sora. Notopoulos đưa ra các ví dụ về người dùng trẻ tuổi tạo video với các ngôi sao phim khiêu dâm nổi bật, và một người dùng trưởng thành tạo nhiều video về một cô gái vị thành niên đang nhảy. Mặc dù OpenAI đã công bố các kiểm soát của cha mẹ cho tài khoản thanh thiếu niên, rõ ràng về các quy tắc liên quan đến những tương tác “vùng xám” này vẫn còn khó nắm bắt.

Tương Lai Đang Chờ Đón OpenAI

OpenAI, không trả lời các yêu cầu bình luận, dường như đang định hướng qua vùng đất chưa được khám phá với ứng dụng video AI được chấp nhận nhanh chóng của mình. Cách tiếp cận chung của công ty, thường được đặc trưng là “xin lỗi chứ không xin phép” trong các vấn đề bản quyền và sở hữu trí tuệ, hiện đang đối mặt một bài kiểm tra quan trọng trong việc định lập quan điểm của mình về nội dung fetish do người dùng tạo—cả liên quan đến người thật và nhân vật hoàn toàn do AI tạo.

Bối cảnh đang phát triển gợi ý một hiệu ứng làm lạnh đối với sự sẵn lòng của phụ nữ tham gia công khai với các công cụ AI như vậy. Sự dễ dàng với nội dung “gây rùng rợn” có thể được tạo ra sử dụng khuôn mặt thật nhấn mạnh một rủi ro vốn có mà nhiều phụ nữ nhận thấy một cách trực giác, thúc đẩy một cuộc trò chuyện rộng lớn hơn về an toàn, sự đồng ý và phát triển AI có trách nhiệm trong các ứng dụng hướng đến công chúng.