Vượt ngoài Chủ nghĩa Nhân loại: Phân tích Hệ tư tưởng Cực đoan Định hướng Tương lai AI của Thung lũng Silicon

Quan niệm rằng nhiều gã khổng lồ công nghệ thờ ơ với số phận của nhân loại sinh học không chỉ là cách nói ẩn dụ; đó là một nguyên tắc cốt lõi của một hệ tư tưởng mạnh mẽ, nhưng thường không được chú ý. Từ các nhân vật nổi tiếng như Elon Musk và Peter Thiel đến Sam Altman, một bộ phận đáng kể của giới lãnh đạo Silicon Valley tuân theo thế giới quan đề xuất sự thay thế con người bởi các siêu nhân số tiên tiến, xem đây là bước tiến tối hậu.

Triết gia, sử gia tư tưởng và nhà báo Émile Torres làm sáng tỏ xu hướng đáng quan ngại này. Trong một phỏng vấn, Torres giải thích rằng nhiều nhà lãnh đạo Silicon Valley chấp nhận một tương lai siêu con người nơi con người sinh học được kế vị bởi các thực thể số siêu thông minh. Điều này giải thích sự tập trung mãnh liệt của họ vào trí tuệ nhân tạo tổng quát (AGI) và tạo nền tảng cho những gì Torres gọi là “ưu tiên tuyệt chủng loài người”.

Hệ tư tưởng TESCREAL

Năm 2023, Torres, cùng với đồng nghiệp Timnit Gebru, đã giới thiệu ký tự viết tắt TESCREAL để bao quát chòm sao hệ tư tưởng có ảnh hưởng này trong Silicon Valley. Nó là viết tắt của:

• Transhumanism (Chủ nghĩa siêu nhân)
• Extropianism (Chủ nghĩa Phi giải thể)
• Singularitarianism (Chủ nghĩa Đặc biệt)
• Cosmism (Chủ nghĩa Vũ trụ)
• Rationalism (Chủ nghĩa Lý trí)
• Effective Altruism (Lòng vị tha hiệu quả)
• Longtermism (Chủ nghĩa Dài hạn)

Tại trung tâm của thế giới quan TESCREAL là viễn cảnh công nghệ thiên đường: nhân loại phát triển các công nghệ tiên tiến để tái thiết kế lại cơ thể con người một cách triệt để, tạo ra một loài người mới, “siêu nhân”. Loài người mới này sau đó sẽ thuộc địa hóa dải ngân hà, cuối cùng tạo ra các mô phỏng máy tính khổng lồ được định cư bởi hàng nghìn tỷ sinh thể số. Động lực đằng sau nỗ lực đồ sộ này là mệnh lệnh để tối đa hóa tổng lượng “giá trị” trong vũ trụ, với những người đóng vai trò là “hộp chứa hoặc nền tảng của giá trị”.

Sự theo đuổi Giá trị Vũ trụ Phi cá nhân

Khái niệm về “giá trị” này là rất quan trọng. Bị ảnh hưởng bởi “chủ nghĩa thực dụng toàn diện”, TESCREALism coi giá trị là phi cá nhân. Điều không quan trọng là ai được hưởng lợi; điều quan trọng là vũ trụ chứa nhiều giá trị hơn, dù đó là hạnh phúc, khoái lạc hay một phương pháp luận có thể lượng trừ trừu tượng. Từ góc nhìn “mắt vũ trụ” thờ ơ, vũ trụ vốn đã tốt hơn với nhiều giá trị hơn, bất kể trải nghiệm hữu thức cá nhân nào.

Torres chỉ ra một ảnh hưởng sâu sắc, gần như mang tính tôn giáo và tư bản chủ nghĩa ở đây: con người không được đánh giá vì giá trị nội tại, mà là phương tiện để đạt được mục đích – tối đa hóa giá trị trừu tượng này. Chúng ta chỉ là một ống dẫn để tạo ra nó, một “sự hiểu biết phi cá nhân về giá trị”.

Con người là “Hệ thống Khởi động Sinh học”

Đăng nổi tiếng của Elon Musk trên X, mô tả con người là “hệ thống khởi động sinh học cho trí tuệ số siêu cường,” đã encapsulate hoàn hảo hệ tư tưởng này. Đối với TESCREALists, siêu thông minh là kỹ sư tối thượng có khả năng giải quyết bất kỳ vấn đề nào, từ thuộc địa hóa không gian (mục tiêu được Sam Altman của OpenAI công khai ủng hộ) đến đảo ngược lão hóa hoặc tải trí óc lên. Siêu thông minh có thể tạo điều kiện cho viễn cảnh thiên đường, hoặc thay thế hoàn toàn nhân loại nếu loài hiện tại bị coi là “không đủ xứng đáng” để hoàn thành tham vọng vũ trụ đại chúng.

Những “sinh vật” tương lai này có thể hiện thân dưới dạng mô phỏng trong các thế giới thực tế ảo hoặc là các thực thể số đang sống trong những cơ thể android tiên tiến lưu thông trong vũ trụ vật lý của chúng ta. Viễn cảnh cuối cùng bao gồm cả hai: siêu thông minh thuộc địa hóa không gian và xây dựng các “máy tính cỡ hành tinh” để chủ trì các thế giới thực tế ảo tràn ngập bởi các sinh thể AI được mô phỏng.

Mệnh lệnh Tái Thiết Kế Triệt để

Hành mệnh cốt lõi của chủ nghĩa siêu nhân là tái thiết kế con người một cách triệt để. Không có sự biến đổi này – thông qua tải trí óc lên hoặc tạo ra một loài AGI hoàn toàn mới – các mục tiêu tham vọng như thuộc địa hóa không gian sẽ không thể đạt được theo quan điểm của họ. Các giới hạn sinh học được coi là trở ngại cần phải vượt qua hoặc loại bỏ.

Lý trí Khắc nghiệt

‘R’ trong TESCREAL, Chủ nghĩa Lý trí, được thành lập bởi siêu nhân hiện đại Eliezer Yudkowsky, tập trung vào việc tối ưu hóa lý trí để tạo ra những người kế vị siêu nhân này. Nó đề xuất xác định và trung tính hóa các thiên kiến nhận thức và phát triển các lý thuyết ra quyết định mới để đưa ra lựa chọn tối hợp lý. Trong khi mục tiêu đạt được lý trí có vẻ đáng khen ngợi, việc áp dụng cực đoan của nó dẫn đến những kết luận có vấn đề.

Torres dẫn một ví dụ từ blog của Yudkowsky: lựa chọn giữa một người bị tra tấn trong 50 năm so với một “khó lường” số lượng người trải qua “hạt bụi” trong mắt. Câu nói cửa miệng “Im lặng và nhân lên” của Yudkowsky lập luận rằng về mặt toán học, kịch bản hạt bụi còn tồi tệ hơn nhiều, ngụ ý rằng người ta nên chọn lựa chọn tra tấn. Chủ nghĩa lý cực đoan này ưu tiên kết quả có thể lượng trừ hơn cảm xúc hoặc nỗi đau của con người, tiết lộ một khuôn khổ đạo đức cực kỳ đáng lo ngại.

Chủng tộc học, IQ và Nguồn gốc của Phân biệt đối xử

Phong trào TESCREAL cũng nuôi dưỡng một sự ngưỡng mộ đáng quan ngại đối với IQ cao, dẫn vào lãnh thổ gắn liền với chủ nghĩa ưu sinh. Nhiều người theo hành nghề là “nhận thức viên IQ,” tin rằng IQ đo lường một khía cạnh thiết yếu, được di truyền của tâm trí con người, mặc dù có sự hoài nghi phổ biến trong giới tâm lý học và triết gia như Nassim Taleb, người tranh luận rằng các bài kiểm tra IQ phần lớn vô nghĩa trên một ngưỡng nhất định do bản chất đa chiều của trí thông minh.

Về mặt lịch sử, các bài kiểm tra IQ được phát triển bởi những người ủng hộ chủ nghĩa ưu sinh với thành kiến phân biệt chủng tộc và giới tính, nhằm “xác nhận” trí thông minh vượt trội của “chủng tộc trắng”. Torres chỉ ra một tính liên tục rõ ràng: các nhà lãnh đạo TESCREAL bày tỏ lo lắng về “áp lực phi ưu sinh” – ý tưởng rằng các cá nhân “ít thông minh” có thể sinh sản nhiều hơn “thông minh hơn”, dẫn đến suy giảm IQ dân cư. Điều này vang vọng nỗi sợ hãi ưu sinh thế kỷ 20 về các dân tộc không-da trắng sinh sản nhiều hơn dân tộc trắng. Julian Huxley, một nhà ưu sinh nổi tiếng, đã đóng vai trò quan trọng trong việc giới thiệu chủ nghĩa siêu nhân, về cơ bản định hình nó là “chủ nghĩa ưu sinh trên steroid” – không chỉ cải thiện nhân loại, mà còn tạo ra một loài “siêu nhân” hoàn toàn “tối ưu”.

Những người theo đạo tin đồn ở Thung lũng Silicon

Thế giới quan này không giới hạn trong các học viện; nó được đón nhận bởi một số nhân vật có ảnh hưởng nhất trong ngành công nghệ. Marc Andreessen đã từng bao gồm “TESCREALIST” trong tiểu sử Twitter của mình, và Elon Musk đã công khai tuyên bố rằng chủ nghĩa dài hạn “gần khớp với triết lý của tôi.”

Ví dụ, Musk coi mình là một nhân vật Messiah đóng vai trò then chốt trong lịch sử vũ trụ, tin rằng công việc của mình với xAI (thúc đẩy AGI) và SpaceX (thuộc địa hóa Sao Hỏa) sẽ đưa nhân loại tiến đến viễn cảnh công nghệ thiên đường. Nỗi lo của ông về sự suy giảm dân số toàn cầu thường mang sắc chủng tộc, ngụ ý một mối quan tâm về sự suy giảm của dân tộc da trắng, mà ông dường như coi là vượt trội.

Sự do dự của Peter Thiel trong khẳng định giá trị lâu dài của loài người trong một cuộc phỏng vấn New York Times, ngay sau đó đề cập đến chủ nghĩa siêu nhân, càng củng cố thêm góc nhìn này. Đối với nhiều TESCREALists, thiên đường tương lai dành cho siêu người, không phải là con người sinh học hiện có.

Trong khi quan điểm của Thiel về siêu nhân bao gồm các phần mở rộng của cơ thể sinh học của chúng ta (chủ nghĩa siêu nhân sinh học), nhiều người khác ở Silicon Valley hình dung một tương lai thuần số (chủ nghĩa ưu sinh số). Dù con người trở thành những siêu nhân này hay chỉ đơn giản là tạo ra họ (như AGI trở thành các thực thể riêng biệt), chủ đề còn lại vẫn là ủng hộ tuyệt chủng: mục tiêu tối thượng là một thế giới được cai trị bởi siêu người.

Viễn kiến Phi dân chủ và Độc đoán

Viễn kiến được quảng bá bởi TESCREALism vốn không bao gồm, thuộc về tầng lớp thượng lưu và cực kỳ phi dân chủ. Với nguồn lực tài chính to lớn, những tỷ phú công nghệ này đang tích cực cố gắng định hình một thế giới mới được thống trị bởi siêu người, mà không có sự đồng thuận hay đóng góp từ phần còn lại của nhân loại. Họ bị thúc đẩy bởi một niềm tin sâu sắc rằng con đường của họ là con đường duy hợp lý và chính xác duy nhất.

Cộng đồng người lý trí, có ảnh hưởng lớn ở Silicon Valley, củng cố niềm tin này: sự thành thạo lý thuyết quyết định supposedly truy cập vào những fundamental truth về tương lai lý tưởng, khiến góc nhìn bên ngoài không cần thiết. Sự thiếu vắng sâu sắc này trong tham gia dân chủ trong việc xác định tương lai tập thể của nhân loại, như Torres kết luận, là cực kỳ độc đoán, phản ánh niềm tin rằng những người nắm quyền, “siêu thông minh cho thời điểm hiện tại,” không cần ý kiến của bất kỳ ai khác.