合規中的人工智慧不是黑箱——這是對問責制的考驗：與Roman Eloshvili的訪談

Roman Eloshvili 是 ComplyControl 的創始人，一家專注於金融機構的人工智慧合規與反欺詐檢測新創公司。

探索頂尖金融科技新聞與活動！

訂閱 FinTech Weekly 的電子報

由摩根大通、Coinbase、貝萊德、Klarna 等高層閱讀

合規中的 AI 實際測試的是什麼：技術，還是我們？

在金融服務領域，合規已不僅僅是一個職能。它已成為一個積極的壓力點——規範、風險與運營在此交匯。隨著人工智慧技術被引入此領域，一個問題不斷浮現：我們能真正自動化到什麼程度？當出錯時，誰來負責？

在反欺詐與合規中，AI 的吸引力不難理解。金融機構面臨越來越高的期望，要處理海量數據、應對不斷演變的威脅，並遵守變化中的規範——所有這些都不能犧牲速度或準確性。自動化，尤其是由機器學習驅動的，提供了一種減輕運營壓力的途徑。但它也引發了更深層次的治理、可解釋性與控制問題。

這些緊張關係並非理論上的。 它們在實時展開，金融公司將 AI 模型部署到傳統由人類分析師擔任的角色中。在幕後，新的風險正在浮現：誤報、審計盲點，以及對用戶與監管者而言仍不透明的算法決策。

同時，合規專業人士的角色也在轉變。過去他們手動審查每一筆交易，現在則監督由工具完成的工作。這種角色轉變——從執行者到評估者——不僅需要新的技術技能，更需要更強的倫理與程序責任感。AI 可以擴展數據分析範圍、標記不一致之處，但無法完全解釋意圖、理解背景或承擔責任。

理解這些限制至關重要。而少有人比Roman Eloshvili 更適合探索這些問題，他是英國合規科技公司 ComplyControl 的創始人。他的工作正處於風險、自動化與監督的交匯點——在算法效率與監管審查之間。

擁有超過十年的行業經驗，Roman 親眼見證合規團隊的演變，以及 AI 如何重塑他們的工作流程與責任。他認為，AI 的承諾不在於取代人類角色，而在於重塑它們——為機器應該處理的範疇帶來更清晰的界定，並讓人類仍然掌握關鍵。

這一轉變不僅需要技術升級，更需要在責任感方面的文化調整。透明的系統、可審計的流程與明確分配的人類責任，不再只是特色——它們是最低標準。當 AI 被引入關鍵基礎設施時，它不僅解決問題，更引入了一個需要積極、策略性管理的新決策類別。

在這次為 FinTech Weekly 的對話中，Roman 提供了將 AI 負責任地融入合規與反欺詐的實務觀點。 他的看法不將自動化視為必然，而是一種選擇——這需要持續的人類判斷、運營清晰與對信任根源的深刻提問。

我們很高興在許多金融科技公司正思考如何在不失去金融系統運作基礎標準的前提下，採用 AI 的時候，分享他的見解。

1. 您在合規與科技的交叉點建立了職業生涯。能否回憶起您意識到 AI 可能從根本上改變風險管理方式的那一刻？

我不會說只有某一個特定時刻改變了一切，而是一個逐步的過程。我職業生涯中大部分時間都在與歐洲成熟銀行合作，發現一個共同點是：許多銀行在數位銀行解決方案方面遠遠落後。這種差距在與更先進的金融科技中心相比尤為明顯。

幾年前，當 AI 發展再次升溫時，我自然產生好奇，開始研究。隨著我深入了解技術及其運作，我意識到人工智慧有潛力徹底改變銀行處理合規的方式，使它們更接近現代、更敏捷的金融科技公司。

這也促使我在2023年創立了公司。合規與風險管理的複雜性每年都在增加。面對這一現實，我們的使命很簡單：為金融公司帶來 AI 驅動的解決方案，幫助他們更有效地應對日益增長的挑戰。

2. 從您的專業角度來看，隨著 AI 工具在合規與反欺詐方面變得更先進，人類專家的角色有何演變？

首先，我要直截了當地說：很多領域都擔心 AI 會取代人類工作者。而就合規與風險專業人士而言，我的回答是否定的——至少目前還不是。

雖然人工智慧已經在改變我們的行業，但它遠未達到萬無一失的程度。因此，人類的參與仍然是不可或缺的。合規規範不斷變化，總有人需要負責當系統跟不上或出錯時的責任。在目前的發展階段，AI 還難以清楚解釋其決策，因此還不能完全獨立運作。尤其是在信任與透明度至關重要的領域。

不過，AI 正在積極簡化合規流程。例如，根據配置不同，AI 系統現在可以標記可疑交易，甚至在需要時暫時阻擋，並請求進一步驗證。除非某些交易明顯異常，否則不需要真人逐一審查。隨著這些系統的演進，它們將持續減少手動工作的需求，使團隊能專注於更細膩、需要人類判斷的任務。

我相信，未來會出現一種混合模式，合規專家也會越來越擅長使用 AI 工具。他們將負責實施與維護 AI 系統，而 AI 則會通過理解複雜數據與提供建議來簡化他們的工作。最終的判斷權仍然屬於人類。

3. 在敏感領域如金融合規中使用 AI 時，您是如何個人處理維持信任與責任的挑戰？

當然。正如我之前提到的，當你在合規中使用 AI，信任至關重要。

因此，我們打造的 AI 系統是完全透明的。它們不會像“黑箱”——每個建議都基於可追溯的規則與數據。我們保留完整的審計追蹤，讓每個決策都能被解釋。這在與監管機構打交道時已證明非常有價值。

最終決策權始終在合規官手中。AI 只提供一個充分理由的建議，然後由人類審核，決定是否批准或拒絕。

4. 您的經歷超過十年。隨著 AI 越來越自主，您的心態在自動化與人類監督方面有何轉變？

當然。更廣泛地看，隨著 AI 技術的進步，我們逐漸允許它更高的自主性——只要它經過充分測試並持續證明可靠。

但更改得更多的是人類專家的角色。合規官不再是逐案微觀管理，而是轉向策略性監督。他們可以快速審查一批相似案例，驗證系統性能，並根據結果微調模型。

換句話說，合規官的角色正從手動執行轉向管理 AI 系統，讓它們為自己工作。

5. 在 AI 驅動的風險管理中，您是如何建立負責任決策的框架的？

我們的做法圍繞兩個核心理念：明確的監督與負責任的 AI 原則。每個模型都有人負責。風險評估、性能審查與合規檢查都定期進行。

我們也確保系統可審計。若算法做出決策，該過程可以被審查與驗證。這種透明性是我們對負責任 AI 發展承諾的核心。

6. 在您的職業旅程中，您學到的最困難的教訓是什麼？關於在關鍵領域如反欺詐中過度依賴自動化的限制或風險？

一個我們一定要記住的教訓是：即使是經過良好訓練的模型，也可能“幻覺”——在微妙但嚴重的方面出錯。

AI 可能會漏掉複雜的欺詐方案，或觸發過多的誤報。這正是為什麼將 AI 與人類專業結合如此重要——人類擁有靈活判斷力，更善於評估倫理與整體背景，這是 AI 無法做到的。

兩者的平衡能帶來更佳、更可靠的結果。AI 可以用來應付大量任務，降低其複雜度，而人類則維持必要的準確性與信任。

7. 對於今天剛進入合規、風險管理或 AI 開發的年輕專業人士，您會建議他們培養哪些原則或習慣，以在這個快速變化的環境中成功與適應？

首先：永不停止學習。科技進步沒有“暫停”鍵，你必須跟上，否則就會被甩在後面。這裡沒有中間地帶。

第二，要有廣泛的思維。隨著 AI 的發展，角色之間的界線越來越模糊——技術、金融與監管正融合成一個混合體。我相信，擁有多元技能與開放心態，將是未來行業專業人士的決定性特質。

第三——也是前兩點的自然延伸——要具備適應能力。變化是常態，能快速調整的人將佔有優勢。

最後，要培養良好的溝通技巧，學會團隊合作。如我們所討論，合規處於商業、技術與法律的交叉點。能夠在這些領域之間切換，與不同背景的人溝通，將是非常寶貴的技能。