AI trong Tuân Thủ Không Phải Là Một Hộp Đen — Đó Là Một Bài Kiểm Tra Về Trách Nhiệm: Phỏng vấn với Roman Eloshvili

Roman Eloshvili là người sáng lập ComplyControl, một startup về tuân thủ và phát hiện gian lận dựa trên trí tuệ nhân tạo dành cho các tổ chức tài chính.

Khám phá các tin tức và sự kiện fintech hàng đầu!

Đăng ký bản tin của FinTech Weekly

Được đọc bởi các giám đốc điều hành tại JP Morgan, Coinbase, Blackrock, Klarna và nhiều hơn nữa

AI trong Tuân thủ thực sự đang kiểm tra gì: Công nghệ, hay chính chúng ta?

Trong dịch vụ tài chính, tuân thủ không còn chỉ là một chức năng nữa. Nó trở thành một điểm áp lực tích cực—nơi quy định, rủi ro và vận hành va chạm. Khi các công nghệ AI được giới thiệu vào lĩnh vực này, một câu hỏi luôn xuất hiện lại: chúng ta có thể tự động hóa bao nhiêu phần trăm, và ai sẽ chịu trách nhiệm khi mọi thứ xảy ra sai sót?

Sức hút của AI trong phát hiện gian lận và tuân thủ là dễ hiểu. Các tổ chức tài chính đối mặt với kỳ vọng ngày càng tăng về việc xử lý lượng dữ liệu khổng lồ, phản ứng với các mối đe dọa ngày càng tinh vi và tuân thủ các quy định thay đổi—tất cả mà không làm giảm tốc độ hoặc độ chính xác. Tự động hóa, đặc biệt khi được thúc đẩy bởi học máy, cung cấp một cách để giảm bớt gánh nặng vận hành. Nhưng nó cũng đặt ra những mối lo ngại sâu sắc hơn về quản trị, khả năng giải thích và kiểm soát.

Những căng thẳng này không phải là lý thuyết. Chúng đang diễn ra trong thời gian thực, khi các công ty tài chính triển khai các mô hình AI vào các vai trò truyền thống do con người đảm nhiệm. Đằng sau hậu trường, các rủi ro mới đang nổi lên: dương tính giả, điểm mù trong kiểm toán, và các quyết định dựa trên thuật toán vẫn còn mập mờ đối với cả người dùng lẫn cơ quan quản lý.

Cùng lúc đó, các chuyên gia tuân thủ đang được yêu cầu thay đổi vai trò. Thay vì kiểm tra thủ công từng giao dịch, họ giờ giám sát các công cụ đó. Việc này, từ người thực thi sang người đánh giá, đòi hỏi không chỉ kỹ năng kỹ thuật mới mà còn cần ý thức đạo đức và trách nhiệm thủ tục mạnh mẽ hơn. AI có thể mở rộng phân tích dữ liệu. Nó có thể phát hiện điểm bất thường. Nhưng nó không thể giải thích rõ ràng ý định, diễn giải ngữ cảnh hoặc gánh chịu trách nhiệm.

Hiểu rõ giới hạn này là điều cực kỳ quan trọng. Và ít ai có thể hiểu rõ hơn Roman Eloshvili, người sáng lập công ty công nghệ tuân thủ có trụ sở tại Vương quốc Anh, ComplyControl. Công việc của anh nằm ngay tại giao điểm của rủi ro, tự động hóa và giám sát—nơi hiệu quả thuật toán gặp gỡ sự giám sát pháp lý.

Với hơn một thập kỷ trong ngành, Roman đã chứng kiến trực tiếp cách các nhóm tuân thủ đang tiến hóa và cách AI đang định hình lại cả quy trình làm việc lẫn trách nhiệm của họ. Anh lập luận rằng tiềm năng của AI không nằm ở việc loại bỏ vai trò của con người, mà ở việc định hình lại chúng—mang lại sự rõ ràng mới về những gì máy móc nên xử lý và những gì con người vẫn phải giữ.

Sự chuyển đổi này đòi hỏi nhiều hơn là nâng cấp kỹ thuật. Nó còn yêu cầu một sự điều chỉnh văn hóa về trách nhiệm. Các hệ thống minh bạch, quy trình có thể kiểm toán và trách nhiệm rõ ràng của con người không còn chỉ là tính năng nữa—chúng là tiêu chuẩn tối thiểu. Khi AI được đưa vào hạ tầng quan trọng, nó không chỉ giải quyết vấn đề. Nó còn giới thiệu một loại quyết định mới đòi hỏi sự quản lý chiến lược tích cực.

Trong cuộc trò chuyện này với FinTech Weekly, Roman cung cấp góc nhìn thực tế về những gì cần thiết để tích hợp AI một cách có trách nhiệm vào tuân thủ và phòng chống gian lận. Quan điểm của anh không xem tự động hóa như một điều tất yếu, mà như một lựa chọn—một quyết định đòi hỏi sự đánh giá liên tục của con người, rõ ràng trong vận hành và sẵn sàng đặt câu hỏi khó về nơi thực sự đặt niềm tin.

Chúng tôi rất vui được chia sẻ những góc nhìn của anh trong thời điểm nhiều công ty fintech đang đặt câu hỏi không phải về việc có nên áp dụng AI hay không—mà là làm thế nào để làm điều đó mà không mất đi các tiêu chuẩn đã giúp hệ thống tài chính vận hành hiệu quả từ ban đầu.

1. Bạn đã xây dựng sự nghiệp tại điểm giao thoa giữa tuân thủ và công nghệ. Bạn có thể nhớ lại khoảnh khắc nào khi bạn nhận ra rằng AI có thể thay đổi căn bản cách quản lý rủi ro không?

Tôi sẽ không nói đó chỉ là một khoảnh khắc cụ thể đã thay đổi tất cả. Thay vào đó, đó là một quá trình diễn ra dần dần. Tôi đã dành phần lớn sự nghiệp của mình làm việc với các ngân hàng châu Âu đã thành lập, và một điều tôi luôn nhận thấy là nhiều trong số họ còn khá chậm chạp trong việc áp dụng các giải pháp ngân hàng số. Sự khác biệt rõ ràng nhất là so với các trung tâm fintech tiên tiến hơn.

Vài năm trước, khi chủ đề phát triển AI bắt đầu nóng lên trở lại, tôi tự nhiên trở nên tò mò và bắt đầu tìm hiểu. Và khi tôi nghiên cứu công nghệ cùng cách hoạt động của nó, tôi nhận ra rằng trí tuệ nhân tạo có khả năng thay đổi đáng kể cách các ngân hàng xử lý tuân thủ, giúp họ cạnh tranh ngang bằng với các đối thủ fintech hiện đại, linh hoạt hơn.

Đó chính là lý do tôi quyết định thành lập công ty của mình vào năm 2023. Độ phức tạp của tuân thủ và quản lý rủi ro ngày càng tăng theo từng năm. Đối mặt với thực tế này, sứ mệnh của chúng tôi rất đơn giản: mang các giải pháp dựa trên AI đến các công ty tài chính và giúp họ đối phó với những thách thức ngày càng lớn này một cách hiệu quả hơn.

2. Từ góc nhìn chuyên môn của bạn, vai trò của các chuyên gia con người đã thay đổi như thế nào khi các công cụ AI trở nên tiên tiến hơn trong lĩnh vực tuân thủ và phát hiện gian lận?

Trước tiên, hãy để tôi nói rõ một điều. Có một mối lo chung trong nhiều lĩnh vực rằng AI sẽ thay thế nhân viên con người. Và đối với các chuyên gia tuân thủ và rủi ro, câu trả lời của tôi là không—ít nhất là chưa trong thời điểm này.

Trong khi trí tuệ nhân tạo đã và đang biến đổi ngành của chúng ta, nó vẫn còn xa mới hoàn hảo. Vì vậy, sự tham gia của con người vẫn là yếu tố thiết yếu. Các quy định về tuân thủ luôn thay đổi, và cần có người chịu trách nhiệm khi hệ thống gặp lỗi hoặc sai sót. Ở mức độ hiện tại, AI vẫn còn gặp khó khăn trong việc giải thích rõ ràng các quyết định của mình, nên chưa sẵn sàng để tự vận hành độc lập. Đặc biệt trong lĩnh vực mà niềm tin và minh bạch là tối quan trọng.

Tuy nhiên, AI đang tích cực làm cho các quy trình tuân thủ dễ dàng hơn. Ví dụ, tùy theo cấu hình, các hệ thống AI giờ đây có thể phát hiện các giao dịch đáng ngờ hoặc thậm chí tạm thời chặn chúng trong khi yêu cầu xác minh thêm. Không cần con người thực sự phải xem xét từng chi tiết một cách thủ công, trừ khi có điều gì đó thực sự bất thường. Và khi các hệ thống này tiến bộ, chúng sẽ tiếp tục giảm bớt công việc thủ công, cho phép các nhóm tập trung vào các nhiệm vụ tinh vi hơn, đòi hỏi sự can thiệp của con người.

Tôi tin rằng chúng ta sẽ chứng kiến sự xuất hiện của mô hình lai, trong đó các chuyên gia tuân thủ sẽ ngày càng thành thạo trong việc sử dụng các công cụ AI. Họ sẽ là những người triển khai và duy trì các hệ thống AI, trong khi AI sẽ đơn giản hóa công việc của họ bằng cách phân tích dữ liệu phức tạp và đưa ra các khuyến nghị. Tuy nhiên, quyết định cuối cùng vẫn sẽ thuộc về con người.

3. Khi làm việc với AI trong các lĩnh vực nhạy cảm như tuân thủ tài chính, bạn đã tiếp cận thử thách duy trì niềm tin và trách nhiệm trong quyết định như thế nào?

Chắc chắn rồi. Như tôi đã đề cập, khi sử dụng AI trong tuân thủ, niềm tin là yếu tố then chốt.

Đó là lý do tại sao chúng tôi xây dựng các hệ thống AI của mình để hoàn toàn minh bạch. Chúng không hoạt động như một “hộp đen”—mọi đề xuất của hệ thống đều dựa trên các quy tắc và dữ liệu có thể truy xuất được. Chúng tôi giữ đầy đủ hồ sơ theo dõi cách mỗi quyết định được đưa ra, để có thể giải thích rõ ràng. Thực hành này đã chứng minh giá trị vô cùng khi làm việc với các cơ quan quản lý.

Quyết định cuối cùng luôn thuộc về nhân viên tuân thủ. AI chỉ đưa ra các đề xuất có căn cứ rõ ràng, và con người có thể dễ dàng kiểm tra, quyết định có chấp thuận hay từ chối.

4. Với hơn 10 năm kinh nghiệm, cách suy nghĩ của bạn về tự động hóa và giám sát của con người đã thay đổi như thế nào trong suốt sự nghiệp, đặc biệt bây giờ AI ngày càng tự chủ hơn?

Chắc chắn rồi. Nói rộng ra về trạng thái áp dụng AI, càng tiến xa, chúng ta càng cho phép AI tự chủ nhiều hơn—miễn là nó được kiểm thử kỹ lưỡng và chứng minh độ tin cậy.

Nhưng điều còn thay đổi nhiều hơn chính là vai trò của chuyên gia con người trong hệ thống này. Thay vì quản lý từng trường hợp nhỏ lẻ, các nhân viên tuân thủ giờ đây đóng vai trò giám sát chiến lược. Họ có thể xem xét hàng loạt các trường hợp tương tự trong thời gian ngắn, xác nhận hiệu suất của hệ thống và điều chỉnh mô hình dựa trên kết quả.

Nói cách khác, vai trò thực tế của nhân viên tuân thủ đang chuyển từ làm việc thủ công sang quản lý các hệ thống AI như thể chúng đang làm việc cho họ.

5. Làm việc trong lĩnh vực quản lý rủi ro dựa trên AI đòi hỏi phải xử lý các câu hỏi đạo đức phức tạp. Bạn đã phát triển khung nào để đưa ra các quyết định có trách nhiệm khi thiết kế hoặc triển khai các giải pháp dựa trên AI chưa?

Chúng tôi xây dựng phương pháp tiếp cận dựa trên hai ý tưởng chính: giám sát rõ ràng và các nguyên tắc AI có trách nhiệm. Mỗi mô hình chúng tôi sử dụng đều có người chịu trách nhiệm. Các đánh giá rủi ro, xem xét hiệu suất và kiểm tra tuân thủ đều được thực hiện định kỳ.

Chúng tôi cũng đảm bảo hệ thống của mình có thể kiểm toán được. Nếu thuật toán đưa ra quyết định, quá trình đó có thể được xem xét và xác minh. Sự minh bạch này là phần cốt lõi trong cam kết phát triển AI có trách nhiệm của chúng tôi.

6. Trong hành trình của mình, điều gì là bài học khó khăn nhất bạn đã rút ra về giới hạn—hoặc rủi ro—khi dựa quá nhiều vào tự động hóa trong các lĩnh vực quan trọng như phòng chống gian lận?

Một bài học chắc chắn là ngay cả các mô hình được huấn luyện tốt cũng có thể “ảo tưởng”—có thể sai sót một cách tinh vi nhưng nghiêm trọng.

AI có thể bỏ lỡ các thủ đoạn gian lận phức tạp, hoặc gây ra quá nhiều cảnh báo sai. Đó chính là lý do tại sao việc kết hợp AI với chuyên môn con người lại quan trọng—bởi con người mang theo khả năng đánh giá linh hoạt và tốt hơn trong việc xem xét đạo đức cũng như bối cảnh tổng thể mà AI chưa thể làm được.

Sự cân bằng giữa hai yếu tố này hứa hẹn mang lại kết quả tốt hơn, đáng tin cậy hơn. AI có thể xử lý khối lượng lớn công việc và giảm độ phức tạp của chúng, trong khi con người duy trì mức độ chính xác và niềm tin phù hợp.

7. Đối với các chuyên gia trẻ mới vào lĩnh vực tuân thủ, quản lý rủi ro hoặc phát triển AI ngày nay, bạn sẽ khuyên họ phát triển những nguyên tắc hoặc thói quen cá nhân nào để thành công và thích nghi trong môi trường thay đổi nhanh chóng như vậy?

Trước hết và trên hết: đừng bao giờ ngừng học hỏi. Tiến bộ công nghệ không có nút “tạm dừng”, và bạn cần bắt kịp hoặc bị bỏ lại phía sau. Không có cách nào khác.

Thứ hai, hãy suy nghĩ rộng. Với sự tiến bộ của AI, ranh giới giữa các vai trò đang mờ đi—công nghệ, tài chính và quy định ngày càng hòa quyện. Tôi tin rằng việc sở hữu một bộ kỹ năng đa dạng và tư duy mở sẽ là đặc điểm quyết định của các chuyên gia tương lai trong lĩnh vực này.

Thứ ba—và là phần tự nhiên của hai điều trên—là khả năng thích nghi. Thay đổi là điều tất yếu, và khả năng điều chỉnh nhanh sẽ là lợi thế lớn cho bạn.

Và cuối cùng, hãy phát triển kỹ năng giao tiếp mạnh mẽ và học cách làm việc nhóm. Như chúng ta đã đề cập, tuân thủ nằm tại điểm giao thoa của kinh doanh, công nghệ và pháp luật. Do đó, khả năng chuyển đổi giữa các lĩnh vực và giao tiếp với những người từ các lĩnh vực này sẽ là kỹ năng quý giá bạn cần có.