Các hàng rào kiểm soát AI giúp ngân hàng đổi mới có trách nhiệm mà vẫn bảo toàn niềm tin của khách hàng

Trí tuệ nhân tạo đang nhanh chóng thay đổi cách các tổ chức tài chính phát hiện gian lận, phục vụ khách hàng, đánh giá rủi ro và đưa ra các quyết định vận hành. Tuy nhiên, một hệ thống AI hoạt động đúng theo thiết kế vẫn có thể tạo ra kết quả mà ngân hàng, cơ quan quản lý hoặc khách hàng không thể chấp nhận.

Đối với ngân hàng, niềm tin vào AI phải vượt ra ngoài độ tin cậy, tính bảo mật và độ chính xác của dữ liệu. Niềm tin đó cũng phải bao gồm các quy tắc, giới hạn và cơ chế giám sát quyết định cách công nghệ được phép vận hành.

Rathi Murthy, Giám đốc Công nghệ của Varo Bank, cho rằng AI có trách nhiệm phụ thuộc vào kiến trúc bao quanh hệ thống. Các tổ chức tài chính phải xác định AI biết gì, đang tối ưu hóa điều gì, được trao bao nhiêu quyền hạn, khi nào nhân viên có thể can thiệp và ai vẫn chịu trách nhiệm về kết quả.

Hiệu suất AI đơn thuần không tạo lập được niềm tin

Hãy xem xét một mô hình AI xác định một giao dịch có khả năng gian lận. Việc tin tưởng vào khả năng phát hiện hoạt động đáng ngờ của mô hình không tự động xác định được phản ứng phù hợp. Ngân hàng có thể gắn cờ giao dịch, từ chối giao dịch, đóng băng tài khoản hoặc liên hệ với khách hàng.

Mỗi lựa chọn trao cho hệ thống một mức độ quyền hạn khác nhau và tạo ra những hệ quả khác nhau nếu mô hình nhận định sai. Việc từ chối nhầm có thể khiến khách hàng không thể tiếp cận khoản tiền cần cho tiền thuê nhà, thực phẩm hoặc các chi phí thiết yếu khác.

Nghiên cứu Xu hướng Vốn nhân lực Toàn cầu năm 2026 của Deloitte cho thấy 60% lãnh đạo doanh nghiệp thường xuyên sử dụng AI để hỗ trợ ra quyết định. Khi AI ngày càng có ảnh hưởng lớn hơn, các ngân hàng phải đặt câu hỏi về những biện pháp bảo vệ cần thiết trước khi công nghệ này có thể định hình hoặc thực thi các quyết định ảnh hưởng đến khách hàng, nhân viên và chính tổ chức.

AI đáng tin cậy cần dữ liệu có thẩm quyền và được cập nhật

Niềm tin bắt đầu từ thông tin được sử dụng để huấn luyện và vận hành hệ thống AI. Lãnh đạo ngân hàng cần tin tưởng rằng dữ liệu nền tảng là chính xác, được cập nhật, quản trị phù hợp và liên quan đến quyết định đang được đưa ra.

Dữ liệu phân mảnh và các hệ thống không nhất quán có thể tạo ra những kết quả rời rạc. AI không tự động giải quyết được các vấn đề đó. Ngược lại, AI có thể khuếch đại sai sót, thông tin lỗi thời và các hồ sơ mâu thuẫn với tốc độ khiến việc phát hiện trở nên khó khăn hơn.

Ngay cả dữ liệu chất lượng cao cũng có thể không cung cấp được bức tranh đầy đủ. AI tạo sinh mang tính xác suất, và một câu trả lời tự tin không nhất thiết là câu trả lời chính xác. Các tổ chức tài chính không chỉ cần hiểu tần suất mô hình tạo ra kết quả chính xác, mà còn phải biết những lĩnh vực kiến thức của mô hình còn thiếu hụt và cách mô hình truyền đạt mức độ không chắc chắn.

Mục tiêu AI phải phản ánh các giá trị của ngân hàng

Mọi hệ thống AI đều được thiết kế để tối ưu hóa một yếu tố nào đó, chẳng hạn như giảm tổn thất do gian lận, cải thiện tỷ lệ chuyển đổi, nâng cao hiệu quả, đẩy nhanh tốc độ phục vụ hoặc hạn chế rủi ro tín dụng. Tuy nhiên, tối ưu hóa không đồng nghĩa với phán đoán.

Một mô hình có thể đạt mục tiêu hiệu suất được giao nhưng vẫn tạo ra những kết quả mà khách hàng, nhân viên, lãnh đạo doanh nghiệp hoặc cơ quan quản lý không chấp nhận. Vì vậy, mục tiêu giao cho hệ thống AI thể hiện một quyết định dựa trên các giá trị, dù tổ chức có chính thức thừa nhận điều đó hay không.

Lãnh đạo ngân hàng nên đánh giá các sáng kiến AI thông qua ba câu hỏi lấy con người làm trung tâm:

• Hệ thống có mở rộng tiềm năng của con người không?
• Hệ thống có giảm thiểu hoặc ngăn ngừa tác hại không?
• Hệ thống có bảo toàn quyền lựa chọn thực chất của con người không?

Những câu hỏi này giúp lãnh đạo xem xét các đánh đổi phía sau những quyết định tự động. Các biện pháp kiểm soát gian lận chặt chẽ hơn có thể giảm tổn thất nhưng cũng chặn nhầm những khách hàng hợp lệ. Một mô hình tín dụng chỉ tập trung vào việc giảm thiểu rủi ro có thể loại trừ những người nộp đơn mà hoàn cảnh chưa được phản ánh đầy đủ trong dữ liệu thông thường. Một tương tác dịch vụ tự động có thể nhanh hơn nhưng lại đem đến ít sự đồng cảm, giải thích hoặc cơ hội khiếu nại hơn.

Công nghệ không thể quyết định tổ chức sẵn sàng chấp nhận những đánh đổi nào. Lãnh đạo phải xác định kết quả mong muốn, nhận diện đối tượng cần được hưởng lợi, nêu rõ những tác hại không thể chấp nhận và quyết định lựa chọn nào nên được giữ lại cho người chịu ảnh hưởng.

Quyền hạn của AI nên được tăng dần

Có sự khác biệt đáng kể giữa một hệ thống AI cung cấp thông tin, đề xuất hành động, đưa ra quyết định và tự mình thực thi quyết định đó. Những chức năng này thể hiện các cấp độ quyền hạn tăng dần.

Năng lực kỹ thuật của hệ thống không nên tự động quyết định những gì hệ thống được phép thực hiện. Mức độ quyền hạn cần phụ thuộc vào các yếu tố như tác hại tiềm ẩn, khả năng đảo ngược, khả năng giải thích và hiệu suất của hệ thống trong phạm vi các biện pháp bảo vệ đã được thiết lập.

Cách tiếp cận theo từng giai đoạn có thể giúp ngân hàng triển khai AI an toàn hơn:

• Bắt đầu ở chế độ theo dõi: Cho phép hệ thống tạo đề xuất trong khi nhân viên vẫn đưa ra quyết định cuối cùng và kết quả đối với khách hàng chưa thay đổi.
• Triển khai thử nghiệm có giới hạn: Áp dụng công nghệ cho những quyết định có rủi ro thấp, có thể đảo ngược, với các ngưỡng được xác định rõ ràng.
• Mở rộng quyền hạn một cách thận trọng: Chỉ tăng trách nhiệm của hệ thống sau khi đánh giá độ chính xác, tính nhất quán, thiên lệch, tác động đến khách hàng và hiệu suất vận hành.

AI có thể đủ khả năng soạn mã, trả lời câu hỏi của khách hàng, thay đổi quy trình làm việc hoặc kích hoạt các hệ thống khác. Việc chuyển từ đề xuất sang hành động độc lập cần được xem là một quyết định của lãnh đạo, không phải hệ quả tự động của tiến bộ công nghệ.

Mô hình có con người tham gia phải trao quyền thực chất

Cụm từ “con người trong vòng kiểm soát” không nhất thiết có nghĩa là con người vẫn giữ quyền kiểm soát có ý nghĩa. Nếu hệ thống AI đưa ra một đề xuất với mức độ tự tin rất cao và nhân viên được kỳ vọng phải nhanh chóng phê duyệt, nhân viên có thể có quyền hạn trên danh nghĩa nhưng rất ít khả năng thực tế để đưa ra phán đoán.

Giám sát hiệu quả của con người đòi hỏi nhiều hơn một nút phê duyệt cuối cùng. Hệ thống AI nên giải thích bằng chứng đứng sau đề xuất, chỉ ra thông tin còn thiếu và truyền đạt mức độ không chắc chắn. Nhân viên cũng phải có đủ thời gian, đào tạo và sự hỗ trợ từ tổ chức để phản biện hệ thống, yêu cầu thêm thông tin hoặc lựa chọn hướng xử lý khác.

Tổ chức không nên tự động xem việc nhân viên ghi đè quyết định của hệ thống là một thất bại. Sự bất đồng với mô hình có thể cho thấy hạn chế trong dữ liệu, quy trình làm việc hoặc bối cảnh vận hành. Việc theo dõi các lần ghi đè có thể giúp ngân hàng nhận diện điểm mù và cải thiện cả công nghệ lẫn quy trình bao quanh.

Khi AI ngày càng nhanh và có sức thuyết phục hơn, khả năng tạm dừng và đánh giá một đề xuất trở nên ngày càng quan trọng. Công nghệ có thể mở rộng lượng thông tin mà con người xử lý, nhưng không thể thay thế nhận thức, phán đoán hoặc trách nhiệm của con người.

Không thể chuyển giao trách nhiệm của con người cho AI

AI có thể ảnh hưởng đến một quyết định hoặc thực hiện một hành động, nhưng không thể chịu trách nhiệm về kết quả. AI không thể trả lời khách hàng bị tổn hại, giải thích lý do cho cơ quan quản lý hoặc xuất hiện trước hội đồng quản trị ngân hàng.

“Mô hình đã quyết định” không phải là lời giải thích có thể chấp nhận cho một kết quả bất lợi. Trước khi AI trở thành một phần của quy trình tài chính có tác động đáng kể, trách nhiệm phải được phân công rõ ràng.

Lãnh đạo ngân hàng nên xác định:

• Ai chịu trách nhiệm về kết quả kinh doanh?
• Ai chịu trách nhiệm về dữ liệu và mô hình?
• Ai giám sát các biện pháp kiểm soát?
• Ai có quyền can thiệp khi hệ thống hoạt động bất ngờ?

Trách nhiệm cũng đòi hỏi khả năng truy xuất. Các tổ chức phải có khả năng tái dựng thông tin được hệ thống sử dụng, đề xuất mà hệ thống tạo ra, mọi mức độ không chắc chắn được truyền đạt, các lần nhân viên ghi đè và kết quả cuối cùng.

Hồ sơ này giúp ngân hàng điều tra thất bại, cải thiện các biện pháp kiểm soát và chứng minh hoạt động quản trị có trách nhiệm. Một kết quả tiêu cực không phải lúc nào cũng có nghĩa là quy trình được thiết kế kém, cũng như một kết quả tích cực đôi khi có thể chỉ là sản phẩm của may mắn. Các cuộc rà soát hiệu quả nên tập trung vào bằng chứng, việc học hỏi và cải tiến thay vì chỉ đơn giản là quy trách nhiệm.

Quản trị AI phải phản ánh điểm xuất phát của tổ chức

Không có một kiến trúc AI duy nhất phù hợp với mọi tổ chức tài chính. Các ngân hàng lâu đời có thể sở hữu chuyên môn sâu trong ngành, hệ thống kiểm soát trưởng thành và vốn kiến thức tổ chức phong phú, nhưng cũng có thể phải đối mặt với các hệ thống phân mảnh và công nghệ kế thừa.

Trước khi bổ sung AI vào những môi trường đó, lãnh đạo cần xác định dữ liệu, quy trình và biện pháp kiểm soát nào có thể tin cậy, cũng như những yếu tố nào cần được hiện đại hóa.

Các công ty được xây dựng lấy AI làm nền tảng có thể thiết kế dữ liệu và quy trình làm việc xoay quanh trí tuệ nhân tạo ngay từ đầu. Thách thức của họ có thể là tiến quá nhanh mà chưa có đủ kinh nghiệm tổ chức. Họ phải xây dựng khả năng truy xuất, quy trình chuyển cấp và trách nhiệm vào mô hình vận hành thay vì cố gắng bổ sung những yếu tố đó về sau.

Bất kể tổ chức đã hoạt động lâu năm hay mới thành lập, hoặc bất kể chiến lược công nghệ là gì, những câu hỏi cốt lõi vẫn nhất quán:

• Hệ thống AI biết gì?
• Hệ thống được yêu cầu tối ưu hóa điều gì?
• Hệ thống được phép thực thi quyền hạn nào?
• Nhân viên có thể can thiệp một cách thực chất không?
• Ai sẽ đứng ra chịu trách nhiệm về kết quả?

Không thể bổ sung niềm tin như một bước tuân thủ cuối cùng. Niềm tin phải định hướng hoạt động quản trị dữ liệu, mục tiêu hệ thống, quyền hạn được ủy thác, hoạt động giám sát của con người và trách nhiệm ngay từ đầu.

Tám câu hỏi để triển khai AI có trách nhiệm trong ngân hàng

1. Dữ liệu của mô hình còn thiếu, lỗi thời hoặc không có thẩm quyền ở đâu, và hệ thống truyền đạt mức độ không chắc chắn như thế nào?
2. Những đánh đổi nào đang được thực hiện để đạt các mục tiêu hiệu suất của mô hình?
3. Mục tiêu AI có bảo toàn quyền tự chủ của con người, hỗ trợ tiềm năng con người và giảm thiểu tác hại không?
4. Mức độ quyền hạn của hệ thống đã được lãnh đạo phê duyệt rõ ràng chưa, hay hệ thống chỉ hành động vì có năng lực kỹ thuật?
5. Nhân viên có bằng chứng, thời gian và quyền hạn cần thiết để phản biện các đề xuất của AI không?
6. Những lần con người ghi đè quyết định của hệ thống được ghi nhận và phân tích như thế nào để phát hiện điểm yếu của mô hình hoặc quy trình làm việc?
7. Nếu hệ thống gây tổn hại cho khách hàng, lãnh đạo nào là người chịu trách nhiệm cuối cùng?
8. Tổ chức có thể tái dựng dữ liệu, lập luận, hành động và quyết định đã tạo ra kết quả đó không?

AI có thể giúp ngân hàng nâng cao hiệu quả, phát hiện rủi ro và mở rộng năng lực của con người. Tuy nhiên, quyền năng công nghệ lớn hơn cũng làm tăng tầm quan trọng của hoạt động quản trị có chủ đích. Các tổ chức tài chính không chỉ phải quyết định AI có thể làm gì, mà còn phải xác định AI nên làm gì, khi nào nên hành động và đâu là nơi phán đoán của con người phải tiếp tục giữ quyền kiểm soát.

Rathi Murthy là Giám đốc Công nghệ tại Varo Bank. Trước đây, bà từng giữ chức Giám đốc Công nghệ và Chủ tịch Expedia Services, đồng thời đảm nhiệm các vai trò lãnh đạo công nghệ tại Verizon Media, Gap Inc., American Express, Yahoo, Sun Microsystems và WebMD.

Nguồn: TheFinancialBrand.com