Tin tức

AI Gặp An Sinh Xã Hội: Tương Lai Đầy Hứa Hẹn Hay Bản Nâng Cấp Thất Bại?

Cơ quan An sinh Xã hội (SSA) đang bắt đầu chuyển đổi kỹ thuật số, tích hợp AI để tối ưu hóa hoạt động. Tuy nhiên, những dấu hiệu ban đầu, đặc biệt là một video đào tạo gần đây, đang khiến nhiều người nghi ngờ về khả năng thành công của sáng kiến này.

Theo báo cáo, SSA đã giới thiệu “Agency Support Companion”, một chatbot kiểu ChatGPT được thiết kế để hỗ trợ nhân viên trong các công việc hàng ngày và tăng năng suất. Một email nội bộ mô tả đây là một công cụ để cải thiện quy trình làm việc. Tuy nhiên, phản hồi từ bên trong cơ quan cho thấy sự tiếp nhận không mấy tích cực.

Một nguồn tin tiết lộ với Wired rằng chatbot này không tạo ra nhiều sự hào hứng. Việc triển khai đi kèm với một video đào tạo có chất lượng hoạt hình đáng ngờ. Quan trọng hơn, video này đã bỏ sót một cảnh báo quan trọng: tránh tải lên dữ liệu cá nhân nhạy cảm vào chương trình. Sự thiếu sót nghiêm trọng này buộc cơ quan phải đưa ra lời xin lỗi và một email giải thích cho nhân viên.

Mối lo ngại không chỉ dừng lại ở video đào tạo. Nguồn tin từ SSA đã nói với Wired rằng các phản hồi của chatbot thường mơ hồ hoặc không chính xác. Đồ họa trong video cũng bị chế giễu, với việc hầu như không có sự áp dụng hệ thống mới này trong số các đồng nghiệp.

Đây không phải là lần đầu tiên AI được tích hợp vào hệ thống phúc lợi xã hội. Kinh nghiệm của Brazil với ứng dụng “Meu INSS” là một bài học cảnh tỉnh. Được thiết kế để xử lý các yêu cầu an sinh xã hội bằng cách dùng AI phân tích các tài liệu đệ trình, ứng dụng này đã bị chỉ trích vì từ chối các yêu cầu hợp lệ dựa trên những lỗi nhỏ. Điều này đã dẫn đến nhiều cuộc chiến pháp lý kéo dài cho nhiều công dân.

Một ví dụ được Rest of the World nêu bật liên quan đến một công nhân mía đường cũ, người đã bị từ chối quyền lợi hưu trí sau khi hệ thống nhận diện nhầm cô là nam giới. Những lỗi như vậy, cùng với sự gia tăng kỹ thuật số hóa các dịch vụ xã hội, đặt ra thách thức lớn cho cộng đồng nông thôn và những người ít quen thuộc với công nghệ.

Nỗ lực hiện đại hóa an sinh xã hội của Hoa Kỳ cũng gây lo ngại, đặc biệt là với các hành động được báo cáo của DOGE, một tổ chức đang tìm cách thực hiện chiến lược “AI-first” trên các cơ quan liên bang. Được cho là, DOGE nhằm tự động hóa các quy trình và cắt giảm đáng kể lực lượng lao động. Các sự cố gần đây, như việc nhiều người hưởng lợi vẫn đang sống bị đánh dấu nhầm là đã qua đời, đã làm dấy lên nỗi sợ hãi về khả năng xảy ra những sai sót và gián đoạn trên diện rộng.

Thêm vào đó, DOGE được cho là có ý định viết lại mã nguồn của SSA một cách nhanh chóng, có thể dựa nhiều vào AI. Với độ phức tạp của nhiệm vụ và tiềm năng sai sót, một số người đặc biệt cho rằng sáng kiến này có thể là một nỗ lực cố ý nhằm gây bất ổn cho cơ quan, mở đường cho việc tư nhân hóa.

Dù là một nỗ lực hiện đại hóa chân chính hay là một bước đệm dẫn đến tư nhân hóa, việc tích hợp AI của SSA đang đối mặt với những rào cản lớn. Thành công phụ thuộc vào việc lập kế hoạch cẩn thận, giám sát chặt chẽ và cam kết đảm bảo tính chính xác và khả năng tiếp cận cho tất cả mọi người.

Bài Viết Liên Quan

Ngoc Vy

Ngọc Vy là nhà báo công nghệ chuyên về trí tuệ nhân tạo, các công nghệ mới nổi và tác động xã hội của chúng. Cô kết hợp kiến thức chuyên môn sâu với những phóng sự thực tế về hệ sinh thái khởi nghiệp tại Việt Nam, từ các tranh luận về đạo đức AI đến ứng dụng công nghệ trong chính phủ. Ngọc Vy cũng đặc biệt quan tâm đến việc thu hẹp khoảng cách giới trong lĩnh vực báo chí về STEM.