Các tác nhân AI đang thay đổi niềm tin, việc ủy quyền và bảo vệ chống gian lận trong lĩnh vực ngân hàng

Tác giả Jessica Kendall, cộng tác viên của The Financial Brand

Thương mại tác nhân đang vượt ra khỏi các thử nghiệm có kiểm soát để bước vào giai đoạn thí điểm trực tiếp, triển khai ban đầu và thử nghiệm thị trường trên diện rộng hơn. Khi các tác nhân trí tuệ nhân tạo bắt đầu đề xuất sản phẩm, lựa chọn phương thức thanh toán và hoàn tất giao dịch mua hàng thay cho người tiêu dùng, các ngân hàng phải suy nghĩ lại về cách xây dựng niềm tin trong một giao dịch.

Một báo cáo mới của ngành, Xây dựng niềm tin trong thương mại tác nhân, do ASB Bank, Bank of America, Capital One, Commonwealth Bank of Australia, ING Group và NatWest Group đồng biên soạn, đưa ra năm nguyên tắc để phát triển một hệ sinh thái thương mại tác nhân đáng tin cậy: minh bạch, an toàn, quyền riêng tư và dữ liệu, quyền lựa chọn của khách hàng, cùng khả năng tương tác.

Sự chuyển dịch này có ý nghĩa quan trọng vì cuối cùng, một tác nhân AI có thể thực hiện nhiều tác vụ vốn trước đây do khách hàng trực tiếp đảm nhiệm. Tác nhân này có thể so sánh các ưu đãi, lựa chọn sản phẩm, sử dụng thông tin thanh toán được lưu trữ và hoàn tất giao dịch mua hàng dựa trên các chỉ dẫn đã được cung cấp trước đó.

Đối với các ngân hàng, điều này đặt ra những câu hỏi cấp thiết về quyền hạn được ủy thác, nhận diện tác nhân, phát hiện gian lận, tranh chấp giao dịch và quản trị dữ liệu. Những vấn đề này không thể được giải quyết tách rời khỏi hoạt động bảo vệ người tiêu dùng. Các hệ thống hỗ trợ giao dịch ứng dụng AI phải được thiết kế với niềm tin và trách nhiệm giải trình làm nền tảng.

Những tác động chính của thương mại tác nhân đối với ngân hàng

• Làm rõ danh tính của tác nhân AI: Khách hàng cần hiểu khi nào một tác nhân AI đang hành động thay mặt họ, tổ chức nào vận hành tác nhân đó và cách tác nhân đánh giá các sản phẩm hoặc dịch vụ hiện có.
• Kiểm soát quyền hạn được ủy thác: Người tiêu dùng cần có những phương thức đơn giản để xem, thay đổi và thu hồi các quyền đã cấp cho một tác nhân AI.
• Tạo hồ sơ giao dịch hữu ích: Ngân hàng cần có đủ thông tin về ý định của khách hàng, quyết định của tác nhân và kết quả giao dịch để điều tra gian lận cũng như giải quyết tranh chấp.
• Chuẩn bị cho một thị trường phân mảnh: Ngân hàng, đơn vị cung cấp dịch vụ thanh toán, nhà bán hàng, ví điện tử và nền tảng AI sẽ cần các tiêu chuẩn chung cho những chức năng cốt lõi mà không hạn chế đổi mới.

Khách hàng phải biết khi nào một tác nhân AI đang hành động

Một trong những câu hỏi quan trọng nhất trong một giao dịch có AI hỗ trợ cũng là câu hỏi dễ bị bỏ qua nhất: ai là người đưa ra quyết định mua hàng?

Thương mại truyền thống thường bao gồm khách hàng lựa chọn sản phẩm, nhà bán hàng hoàn tất giao dịch bán và đơn vị cung cấp dịch vụ thanh toán xử lý giao dịch. Thương mại tác nhân bổ sung thêm một bên có khả năng tìm kiếm, so sánh, đề xuất, lựa chọn và mua hàng thay mặt khách hàng.

Khi các tác nhân AI trở nên độc lập hơn, danh tính, động cơ và quyền hạn của chúng trở thành một phần của chính giao dịch. Khách hàng và nhà bán hàng cần có khả năng nhận biết khi nào một tác nhân tham gia, đồng thời hiểu tác nhân đó đang hành động thay mặt người tiêu dùng, nhà bán hàng hay một bên thương mại khác.

Tính minh bạch cũng cần mở rộng đến cách tác nhân xếp hạng sản phẩm và phương thức thanh toán. Người tiêu dùng có thể cần biết liệu một đề xuất có được tài trợ hay không, nhà cung cấp AI có nhận hoa hồng hay không và dữ liệu cá nhân ảnh hưởng như thế nào đến kết quả.

Một tác nhân có thể ưu tiên một sản phẩm vì sản phẩm đó tạo ra nhiều doanh thu hơn cho nhà cung cấp, có chi phí hỗ trợ thấp hơn hoặc dễ xử lý hơn. Đề xuất đó không phải lúc nào cũng đại diện cho lựa chọn tốt nhất đối với người tiêu dùng.

Niềm tin phụ thuộc vào khả năng quan sát. Giải thích vai trò và động cơ của tác nhân cần trở thành một phần trong trải nghiệm khách hàng, đặc biệt khi một hệ thống tự động đưa ra các quyết định có ảnh hưởng tài chính.

Quyền hạn được ủy thác cần có quy tắc rõ ràng

Khi một tác nhân AI hành động thay mặt khách hàng, sự khác biệt giữa việc khách hàng ủy quyền và quyết định độc lập của tác nhân ngày càng trở nên quan trọng.

Thương mại tác nhân có thể vận hành ở nhiều cấp độ tự chủ khác nhau. Người tiêu dùng có thể yêu cầu một tác nhân tìm kiếm sản phẩm nhưng tự mình đưa ra quyết định cuối cùng. Một khách hàng khác có thể phê duyệt một giao dịch mua cụ thể để tác nhân hoàn tất sau đó. Một số người dùng có thể cho phép tác nhân tự thực hiện giao dịch mua trong những giới hạn xác định.

Mỗi tình huống tạo ra những kỳ vọng khác nhau về xác thực, ủy quyền và trách nhiệm pháp lý. Khách hàng cần có khả năng xem các quyền đã cấp, thiết lập giới hạn chi tiêu hoặc giới hạn nhà bán hàng, cũng như thu hồi quyền truy cập khi cần thiết.

Cũng sẽ cần các quy trình an toàn và có thể kiểm toán để nhập thông tin thanh toán và xác nhận ý định mua hàng. Ngân hàng và các bên có thể phải chịu trách nhiệm cần có khả năng yêu cầu xác thực mạnh hơn khi giao dịch có mức rủi ro cao.

Có sự khác biệt quan trọng giữa việc chứng minh ai đã khởi tạo một giao dịch và việc chứng minh khách hàng đã dự định điều gì. Một thông tin xác thực hợp lệ có thể cho thấy khoản thanh toán được thực hiện thông qua một kênh đã được phê duyệt, nhưng không nhất thiết chứng minh khách hàng đã dự định để một tác nhân AI mua một sản phẩm cụ thể, với mức giá cụ thể, từ một nhà bán hàng cụ thể.

Khi mức độ tự chủ của tác nhân gia tăng, hồ sơ về các chỉ dẫn ban đầu của khách hàng sẽ trở nên quan trọng không kém thông tin xác thực thanh toán. Hồ sơ đó có thể giúp xác định liệu tác nhân có hành động trong phạm vi quyền hạn được cấp hay không.

Phòng chống gian lận phải bao gồm các rủi ro từ tác nhân AI

Thương mại do AI điều khiển tạo ra những cơ hội mới cho gian lận và kỹ thuật thao túng xã hội. Kẻ phạm tội có thể giả mạo các tác nhân hợp pháp, xâm nhập tài khoản của tác nhân hoặc tạo ra một tương tác giả với nhà bán hàng nhằm lấy thông tin xác thực thanh toán.

Cũng có nguy cơ một tác nhân AI hợp pháp hành động vượt quá quyền hạn được khách hàng cấp. Một tranh chấp có thể liên quan đến nhiều bên, bao gồm nhà cung cấp tác nhân, nhà bán hàng, mạng lưới thanh toán, đơn vị phát hành thẻ, nhà cung cấp ví điện tử và nền tảng công nghệ. Việc xác định trách nhiệm có thể trở nên khó khăn hơn khi mỗi bên chỉ kiểm soát một phần của giao dịch.

Các ngân hàng cũng có thể phải đối mặt với khả năng quan sát hạn chế. Đơn vị phát hành hoặc đơn vị thanh toán có thể không biết tác nhân AI nào đã tham gia, khách hàng đã cung cấp chỉ dẫn gì, ai là nhà bán hàng ghi nhận giao dịch hoặc vì sao tác nhân lại lựa chọn một phương thức thanh toán cụ thể.

Nếu thiếu bối cảnh này, ngay cả những công cụ phát hiện gian lận tiên tiến cũng có thể đánh giá giao dịch dựa trên thông tin không đầy đủ. Các biện pháp kiểm soát rủi ro hiệu quả sẽ cần kết hợp xác thực truyền thống với dữ liệu về quyền hạn được ủy thác và ý định của khách hàng.

Một câu hỏi trọng tâm đối với ngành dịch vụ tài chính là liệu hồ sơ giao dịch có chứa đủ bằng chứng để giải thích điều gì đã xảy ra khi sự cố phát sinh hay không.

Dữ liệu giao dịch có thể trở thành bằng chứng

Các giao dịch mua hàng do AI thực hiện có thể tạo ra hồ sơ chi tiết hơn so với những giao dịch trực tuyến thông thường. Hồ sơ đó có thể bao gồm yêu cầu của khách hàng, đề xuất của tác nhân, nhật ký quyết định, chỉ dẫn về chi tiêu, sự kiện xác thực, cảnh báo và thông tin chi tiết cuối cùng của giao dịch mua hàng.

Những hồ sơ này có thể giúp ngân hàng điều tra các vụ lừa đảo, thu hồi tiền và giải quyết tranh chấp của khách hàng. Chúng cũng có thể giúp xác định liệu một tác nhân AI có tuân thủ chỉ dẫn hay vượt quá quyền hạn được cấp hay không.

Tuy nhiên, việc thu thập nhiều dữ liệu hơn tạo ra những trách nhiệm đáng kể về quyền riêng tư. Các tổ chức tài chính và nhà cung cấp công nghệ sẽ cần cân nhắc cách thông tin được thu thập, lưu trữ, chia sẻ và sử dụng cho việc lập hồ sơ hoặc các mục đích phụ khác.

Một khuôn khổ có trách nhiệm nên cho phép nhà cung cấp dịch vụ tiếp cận những thông tin cần thiết để thực hiện chức năng của mình một cách an toàn và hiệu quả. Các mục đích sử dụng bổ sung cần phải tuân theo sự chấp thuận phù hợp của khách hàng và nhà bán hàng.

Trong tương lai, việc giải quyết một giao dịch tác nhân bị tranh chấp có thể đòi hỏi phải tái dựng toàn bộ chuỗi sự kiện: khách hàng đã yêu cầu điều gì, quyền hạn nào đã được cấp, tác nhân đã xem xét những sản phẩm nào, vì sao tác nhân đưa ra đề xuất, hoạt động xác thực nào đã diễn ra và kết quả cuối cùng là gì.

Giảm thiểu dữ liệu và khả năng kiểm toán cần song hành. Ngân hàng cần bằng chứng đáng tin cậy để phòng chống gian lận và giải quyết tranh chấp, nhưng điều đó không có nghĩa mọi cuộc trò chuyện hoặc tương tác đều phải được lưu giữ vô thời hạn.

Khả năng tương tác sẽ định hình quyền lựa chọn của khách hàng

Cấu trúc của hệ sinh thái thương mại tác nhân sẽ quyết định mức độ kiểm soát của khách hàng và nhà bán hàng. Người dùng có thể tương tác với nhiều loại tác nhân AI, phương thức thanh toán, ví điện tử, sàn giao dịch, nền tảng và giao thức.

Nếu các hệ thống này tiếp tục bị phân mảnh nghiêm trọng, chi phí tích hợp có thể tăng và khách hàng có thể phải đối mặt với các tiêu chuẩn bảo vệ không nhất quán. Việc chuyển đổi giữa các nhà cung cấp cũng có thể trở nên khó khăn hơn nếu lịch sử giao dịch, quyền hạn hoặc thông tin xác thực thanh toán không thể dễ dàng chuyển giữa các dịch vụ.

Tiêu chuẩn hóa có thể cải thiện mức độ an toàn và tính nhất quán, nhưng tiêu chuẩn hóa quá mức có thể hạn chế cạnh tranh và làm chậm quá trình phát triển các dịch vụ mới. Một cách tiếp cận cân bằng sẽ thiết lập khả năng tương tác cho những chức năng thiết yếu, đồng thời cho phép nhà cung cấp tạo sự khác biệt thông qua các tính năng bổ sung và trải nghiệm khách hàng.

Khách hàng và nhà bán hàng cần có quyền lựa chọn thực chất đối với các dịch vụ tác nhân mà họ sử dụng. Đồng thời, ngân hàng và các nhà cung cấp khác có thể cần hạn chế hỗ trợ những dịch vụ tạo ra các rủi ro không thể chấp nhận về an toàn, pháp lý, quy định hoặc thương mại.

Không một công ty nào sẽ kiểm soát toàn bộ hành trình thương mại tác nhân. Nhà cung cấp AI, ngân hàng, mạng lưới thanh toán, nhà bán hàng, ví điện tử và nền tảng công nghệ sẽ lần lượt quản lý những phần khác nhau của trải nghiệm. Một hệ sinh thái đáng tin cậy sẽ phụ thuộc vào việc các bên này trao đổi đủ thông tin để quản lý rủi ro trong khi vẫn duy trì cạnh tranh.

Ngân hàng nên làm gì ngay từ bây giờ

Công nghệ đứng sau thương mại tác nhân sẽ tiếp tục phát triển, nhưng nền tảng của một giao dịch đáng tin cậy có tính bền vững hơn. Các ngân hàng nên bắt đầu đánh giá cách thể hiện quyền hạn được ủy thác, cách nhận diện tác nhân AI và loại bằng chứng giao dịch nào sẽ có sẵn để hỗ trợ điều tra gian lận cũng như giải quyết tranh chấp.

Các tổ chức tài chính cũng nên cân nhắc cách khách hàng thiết lập quyền hạn, xem xét hoạt động của tác nhân, phê duyệt các giao dịch mua có rủi ro cao và thu hồi quyền truy cập. Giao tiếp rõ ràng sẽ đóng vai trò thiết yếu vì người tiêu dùng cần hiểu không chỉ tác nhân AI có thể làm gì mà còn cả những việc tác nhân không thể làm.

Giai đoạn tiếp theo của thương mại tác nhân sẽ kiểm chứng liệu các tổ chức tài chính có thể kết hợp tự động hóa với tính minh bạch, sự tiện lợi với quyền kiểm soát và cá nhân hóa với quyền riêng tư hay không. Những ngân hàng giải quyết sớm các vấn đề này sẽ có vị thế tốt hơn để xây dựng niềm tin khi các tác nhân AI trở thành những bên tham gia tích cực hơn trong các giao dịch tài chính hằng ngày.

Nguồn: Thefinancialbrand.com