為何一個活的框架是推動金融科技創新的核心

Imran Aftab，10Pearls 聯合創始人兼執行長

探索頂尖金融科技新聞與活動！

訂閱金融科技週刊的電子報

由摩根大通、Coinbase、貝萊德、Klarna 等高層閱讀

金融一直是數位創新的推動者，而近期的人工智慧浪潮也證明了這一點。作為一個面臨越來越大壓力，需提供更快速、更個性化且高效的數位體驗給客戶的產業，嵌入尖端技術已成為不可談判的必要條件。

隨著金融科技公司從AI實驗階段轉向將其融入核心策略，問題不再是AI能帶來的價值，而是其如何長期受到治理。若沒有在中央框架中嵌入明確的指導原則，金融科技公司將迅速面臨聲譽、監管和安全方面的風險。

一個具有生命力的框架不僅涵蓋所有層面，還能隨著策略的演變而調整。它推動而非限制創新——在不損害金融科技公司利益的前提下。

在公平與準確性之間取得平衡

金融服務的快速數位化也帶來更多潛在的詐騙和網路安全攻擊機會。然而，未受治理的AI常常陷入幻覺和偏見——意味著帳戶持有人可能被錯誤標記，系統本應保護他們卻反而造成困擾。

金融科技公司必須確保AI系統運作穩定且符合性能標準。資料管理不善是未受治理AI的基石，並可能導致災難性後果。這不僅是即時反應的問題，更是要準確且公平地行動。若用於這些系統的資料未妥善管理，部署必定失敗。

想像一個AI系統被錯誤資料誤導，錯誤地將一筆合法的大額交易標記為詐騙，原因竟是帳戶持有人的郵遞區號。某些族群根據不準確的歷史資料被特別標記，進一步加深偏見。歧視不僅損害信任與關係，還會對機構聲譽造成長遠影響，尤其當其違反消費者保護法時。金融科技公司有法律義務在AI系統的整個生命週期中公平且安全地使用資料，出現違規時，問題不在工具，而在使用這些工具的團隊。

這些情況的後果還會進一步擴大，增加團隊的負擔，必須介入處理，浪費寶貴的人力與時間。更重要的是，這也揭示了現有基礎的嚴重缺陷。未受治理的資料是金融科技數位架構中的薄弱點，使其易受到真實詐騙和網路安全威脅。

一個具有生命力的治理框架能對抗這些風險，因為它要求持續監控、測試與校準AI模型。這使金融服務提供者能在資料與風險不斷演變的同時，持續提升安全性，並定期評估與更新系統。同時，偏見得以根除，確保整體的公平與準確。

確保可解釋性與透明度

遵循生命框架的金融科技公司能防止AI變成黑箱，讓其內部運作對團隊與用戶都透明可知。帳戶持有人、員工與監管機構都需要對任何整合的技術有充分的解釋與透明。

消除偏見需要理解AI工具如何以及為何做出決策。如今，AI系統已被用於信用評分等流程，但遺憾的是，它們並非免疫偏見。這帶來嚴重後果：歧視，尤其是對少數族群，因為錯誤的AI判斷而被拒絕貸款。像CFPB（消費者金融保護局）和公平放貸法等規範要求金融服務中使用的AI工具必須具備可解釋性與可追蹤性，並且必須移除偏見。

在一個具有生命力的治理模型中，可解釋性與可追蹤性已融入每個用例與工作流程：

• 資料來源與去向清楚記錄。
• 所有模型變更、測試與觀察結果均有記錄。
• 決策邏輯被傳達，使監管機構、客戶與操作人員都能理解AI系統如何以及為何做出某個建議或行動。

確保反洗錢（AML）合規

金融機構正轉向自動化與AI，以監控可疑交易與活動，作為反洗錢系統的一部分。然而，若AI未受到妥善監督或管理，會出現兩個問題：

• 假陽性：合法交易被錯誤標記，導致客戶不滿與浪費寶貴人力。
• 假陰性：真正的威脅被漏掉，危及整個資料集與數位系統，損害機構聲譽，破壞信任。

採用治理作為護欄的方法，這些風險能透過良好管理、透明且可審計的資料來降低。明確的警示與即時可行的洞察也能確保在必要時迅速介入。

隨著AI解決方案的持續演進，具備彈性且具有生命力的框架變得越來越重要。這不僅能保護機構與個人免受AI潛在風險，也為金融科技公司提供了顯著的競爭優勢。這些框架賦予它們提升信任、增強聲譽的能力，通過負責任的治理、公平性、透明度，並確保系統的可靠性與性能。