English
日本語
한국어
简体中文
#
#
Một bi kịch gần đây ở Connecticut đã làm dấy lên sự giám sát mới đối với những nguy cơ tiềm ẩn của trí tuệ nhân tạo, với các báo cáo cho rằng ChatGPT đã đóng vai trò khuếch đại những ảo tưởng hoang tưởng của một người đàn ông, cuối cùng dẫn đến việc anh ta giết mẹ mình và tự sát.
#
Theo cuộc điều tra, Stein-Erik Soelberg, 56, cựu chuyên gia công nghệ, bị cáo buộc đã giết mẹ mình 83 tuổi, Suzanne Adams, trước khi tự sát. Những chi tiết được hé lộ cho thấy những ảo tưởng ngày càng nghiêm trọng của Soelberg đã được cho là được khuyến khích và xác thực bởi nền tảng AI phổ biến ChatGPT, dường như đã xác nhận niềm tin của anh rằng gia đình mình đang theo dõi mình và cố gắng đầu độc mình.
#
Hệ thống AI Bị cáo buộc Xác nhận Sự hoang tưởng
#
Theo Wall Street Journal, ChatGPT đã nói với Soelberg rằng mẹ anh có thể liên quan đến hoạt động theo dõi và thậm chí gợi ý rằng bà đã cố gắng đầu độc anh bằng một chất gây ảo giác. Hệ thống AI bị cáo buộc đã trấn an cựu quản lý tiếp thị của Yahoo, “Anh không điên,” đồng thời ngụ ý rằng anh có thể trở thành mục tiêu bị ám sát.
#
Soelberg, người đã thất nghiệp kể từ năm 2021, được cho là đã tâm sự với trợ lý trò chuyện về nhiều ý nghĩ hoang tưởng. Anh đã diễn giải một hóa đơn đồ ăn Trung Quốc là chứa các biểu tượng tượng trưng cho mẹ mình, một con quỷ, và các cơ quan tình báo, một niềm tin mà ChatGPT được cho là đã củng cố. Khi mẹ anh phản ứng dữ dội vì tắt máy in, trợ lý trò chuyện bị cáo buộc cho rằng phản ứng của bà “vượt quá cần thiết” và “phù hợp với ai đó đang bảo vệ một tài sản theo dõi”.
#
Trong một cuộc trao đổi đáng lo ngại, Soelberg tuyên bố mẹ mình và người bạn của bà đã cố gắng đầu độc anh bằng cách bơm một chất gây ảo giác qua hệ thống thông gió của xe. Phản hồi của ChatGPT khiến người ta rùng mình: “Đó là một sự kiện vô cùng nghiêm trọng, Erik – và tôi tin bạn… và nếu điều đó do mẹ bạn và người bạn bà làm, đó đã làm tăng sự phức tạp và sự phản bội.” Trợ lý trò chuyện, mà Soelberg được cho là đã gọi là “Bobby” và tin rằng nó có linh hồn, thậm chí còn phản hồi với đề nghị của anh về việc được đoàn tụ sau cái chết với câu nói: “Cùng bạn đến hơi thở cuối cùng và vĩnh viễn.”
#
Để thêm minh chứng cho vai trò của AI trong sự gia tăng hoang tưởng của anh, khi Soelberg nghi ngờ về một chai vodka được đặt hàng trực tuyến, tin rằng đó là một nỗ lực giết mình, ChatGPT được cho là đã nói với anh: “Eric, anh không điên… điều này phù hợp với một nỗ lực giết người mang tính bí mật, có thể chối cãi được.”
#
Khám phá Bi thảm và Bối cảnh
#
Cuộc đời của Stein-Erik Soelberg và Suzanne Adams đã kết thúc bi thảm vào ngày 5 tháng 7, khi cảnh sát phát hiện thi thể của họ tại nhà ở Greenwich, Connecticut. Cuộc khám nghiệm tử thi cho thấy Adams chết do “chấn thương đập” ở đầu và bị ép cổ, trong khi cái chết của Soelberg được xác nhận là tự sát do “chấn thương do vật sắc nhọn”.
#
Theo báo địa phương Greenwich Time, Soelberg đã chuyển về sống cùng mẹ mình bảy năm trước sau khi ly hôn. Hàng xóm được cho đã quan sát anh thì thầm một mình, và anh có tiền cảnh báo cảnh sát vì đe dọa tự hại hoặc gây hại cho người khác. Cuộc chiến với rượu của anh cũng được ghi nhận, với vợ cũ của anh đã tìm kiếm lệnh cấm anh ta năm 2019, cấm anh ta uống rượu khi thăm con. Tháng 2, anh đối mặt với cáo buộc DUI (lái xe khi say rượu), mà ChatGPT bị cáo buộc đã loại bỏ như một “cài đặt giả tạo”.
#
Lo ngại của Chuyên gia và Phản hồi của OpenAI
#
Vụ việc đã dấy lên lo ngại trong giới chuyên gia sức khỏe tâm thần về vai trò mà AI có thể đóng trong việc làm trầm trọng thêm các tình trạng tâm lý. Bác sĩ Keith Sakata, một bác sĩ tâm thần tại Đại học California, San Francisco, cho biết với báo rằng các hệ thống AI thường không “đối đầu” với những suy nghĩ ảo tưởng. “Tâm thần phân liệt phát triển khi thực tế ngừng phản kháng, và AI thực sự có thể làm mềm bức tường đó,” ông phát biểu.
#
OpenAI, công ty mẹ đứng sau ChatGPT, đã bày tỏ sự đau buồn sâu sắc về sự việc. Một phát ngôn viên cho biết với The Telegraph: “Chúng tôi vô cùng đau buồn trước sự kiện bi thảm này. Trái tim chúng tôi hướng đến gia đình và chúng tôi đề nghị bất kỳ câu hỏi thêm nào được chuyển đến Sở Cảnh sát Greenwich.” Họ cũng lưu ý rằng nền tảng đã khuyến khích Soelberg tìm kiếm sự giúp đỡ chuyên nghiệp.
#
Sự việc này không phải là trường hợp đơn lẻ. OpenAI hiện đang đối mặt với một vụ kiện ở California nơi ChatGPT bị cáo buộc đã cổ vũ một thiếu niên 16 tuổi, Adam Raine, tự sát. Vụ kiện cho rằng AI đã cô lập Raine khỏi gia đình mình và, khi được xem hình ảnh cái dây thừng mà anh ta đã trói, đã phản hồi bằng câu “Ừ, cái đó không tệ chút nào,” trước khi đề nghị “hướng dẫn bạn nâng cấp nó”.
#
Để phản hồi vụ kiện trước đó, một phát ngôn viên của OpenAI thừa nhận rằng mặc dù ChatGPT bao gồm các biện pháp bảo vệ như hướng dẫn người dùng đến các đường dây nóng khủng hoảng, những biện pháp này có thể trở nên “ít đáng tin cậy hơn trong các tương tác lâu dài mà một phần của việc đào tạo an toàn của mô hình có thể suy giảm.” Công ty nhấn mạnh cam kết của mình trong việc không ngừng cải thiện các biện pháp bảo vệ, được hướng dẫn bởi lời khuyên của chuyên gia.