AI、信任與被忽視群體——專訪 Commonwealth 高級副總裁 Paula Grieco

Paula Grieco 是 Commonwealth 的高級副總裁。

探索頂尖金融科技新聞與活動！

訂閱 FinTech Weekly 的電子報

由 JP Morgan、Coinbase、Blackrock、Klarna 等高層管理人員閱讀

金融人工智慧（AI）仍有很長的路要走——不僅在速度、準確性或甚至規範方面，更在於它贏得信任的方式。尤其是來自那些傳統上在新技術推出時並非第一線的群體。

在 FinTech Weekly，我們一直關注Commonwealth的工作，這是一個專注於為低收入和中等收入（LMI）家庭建立金融安全的非營利組織。我們近期的專欄文章中探討了他們的實地工作，揭示了一個明顯的矛盾：雖然LMI用戶對聊天機器人等工具持開放態度，但他們仍在等待真正為自己服務的體驗——而非為他人重新包裝的功能。

本週，我們進一步深入。

我們與Paula Grieco，Commonwealth的高級副總裁，進行了對話，了解如何真正讓AI在服務不足的社群中既有效又安全。從設計原則到贏得信任，從協同駕駛到聊天機器人的疲勞，她分享了為何意圖比僅僅追求創新更為重要。

這是一個務實且深思熟慮的觀點，關於包容性金融科技應該——也可以——長什麼樣子。

請閱讀完整訪談內容。

2.  Commonwealth 最近與摩根大通（JPMorgan Chase）的合作提供了關於AI在改善LMI家庭金融安全方面的關鍵見解。這次研究中最令人驚訝或最具影響力的發現是什麼？

我們的研究顯示，AI，特別是聊天機器人，有巨大的潛力為低收入群體提供個性化的指導與支持——前提是這些聊天機器人的設計充分考慮到這個群體的需求與觀點。

兩個主要發現：

• 客戶普遍認為聊天機器人是改善財務狀況的正面工具。我們的數據顯示，57%的受訪者表示使用聊天機器人改善了他們的財務狀況。研究還顯示，低至中等收入（LMI）群體希望擁有信用建立、預算規劃和債務管理等功能。

• 受訪者重視一個無評判的空間，能在與聊天機器人交流時提出敏感的財務問題，而不用擔心面對面與人類代表時可能產生的羞恥或自我意識。

3.  你如何看待對話式AI在金融服務領域，特別是對服務不足社群的未來發展？

理想情況下，下一代由生成式AI驅動的聊天機器人將成為更能支持這些家庭財務活動的AI金融助手，並贏得那些對金融系統持警惕態度、對數據在線分享持保留意見的群體的信任。金融服務提供者有巨大機會為他們的聊天機器人提供更複雜、更細緻、且具有行動導向的功能。

目前，客戶使用金融聊天機器人的主要目的是查詢帳戶資訊或解決問題。我們的全國調查中，少於20%的受訪者曾用過聊天機器人進行財務建議、教育、產品推薦、申請信貸或貸款，以及開戶或關戶。然而，我們的研究發現，市場上對能協助完成這些銀行操作的聊天機器人有需求。在開發這類功能時專注於這些用途，可能會增加其使用率和實用性。

對於尚未準備直接向消費者推出生成式AI金融協同駕駛的銀行和金融機構，這項技術可以支援銀行員工，例如客戶代表，讓他們在與客戶互動時提供更佳、更準確、更及時的回應。

4.  在確保AI驅動的金融工具對黑人、拉丁裔和女性主導家庭公平且有效方面，面臨哪些最大挑戰？

所有新興技術都需要有意識地努力，確保低至中等收入者的需求在開發過程和設計決策中被納入。我們發現，早期與金融機構建立私營/慈善合作夥伴關係，有助於推動這些努力。通過累積證據，我們也能幫助建立商業案例。

我們看到在提升贏得信任等設計指導方面具有巨大潛力，這可以讓對話式AI在支持財務健康方面發揮作用，而不會帶來高額成本。

5.  根據你的研究，金融服務提供者在整合AI以支持LMI用戶時，應考慮哪些關鍵設計原則？

Commonwealth已制定一份資源——《金融AI善用指南》（Financial AI for Good Guide），為服務LMI群體的金融機構提供可行的設計指導。我們根據與金融機構、聊天機器人供應商及LMI群體的全面研究，制定了這些建議。

該指南圍繞四個主要設計目標組織。以下是每個目標的幾個例子：

2. 贏得信任：大多數研究受訪者在使用聊天機器人時最關心的是安全性。金融機構可以強調數據安全，通過提前說明其採取的措施，並讓用戶控制存儲的數據。

3. 促進參與：讓用戶清楚了解這些工具能為他們做什麼、何時能幫助他們，創造明確的功能認知。同時，追求“智能主動性”。例如，整合在最有用的時候彈出的聊天機器人，而非過於強勢或侵入式的推送，避免讓人覺得像垃圾訊息。

4. 增加價值：預測客戶需求。由於實體分行的有限接觸，聊天機器人可以完成一些客戶可能需要親自到銀行辦理的小事。平衡自動化與控制，允許用戶開啟或關閉自動理財功能，並加入“安全網”功能，在餘額低於某個門檻時暫停自動轉帳。

5. 改善可及性：提供多語言支持和符合客戶群的指導，並專注於手機友好功能。我們的研究顯示，超過一半的受訪者偏好透過手機進行銀行業務。

6.  你是否有任何成功案例或案例研究，顯示對話式AI顯著改善了LMI個體的財務福祉？

我們知道，57%的實地測試用戶表示使用金融聊天機器人對他們的財務狀況產生了積極影響。雖然這些早期結果令人鼓舞，但生成式AI工具仍處於初期階段，我們的持續研究將進一步建立其在改善LMI群體財務福祉方面的證據。

7.  在推行AI驅動的金融工具時，金融機構應注意哪些風險或意外後果？

重要的是，不能讓低收入群體被排除在外。在開發工具時，金融機構應理解其內在的機會與服務LMI客戶的方式。我們有許多專門關注AI工具固有風險、偏見與大規模語言模型準確性的機構。此外，我們還希望解決一個核心問題：金融建議對用戶個人財務狀況的相關性。金融機構可以通過確保提供的資訊準確、並保持透明，來增加客戶參與度與贏得信任。

AI為低收入群體提供了前所未有的機會，讓他們獲得傳統上未曾接觸的建議與工具，無論是投資工具還是個人理財管理。這些工具可以個性化、定制化，適合LMI群體的獨特情況。這對金融提供者來說，是擴展客戶群的巨大機會。

8.  金融機構如何衡量AI驅動工具對用戶財務安全與福祉的實際影響？

基本的財務健康指標包括：存款是否增加、債務是否減少、信用分數是否提升。還可以調查與聊天機器人的互動體驗——信任是否提升？用戶對改善財務福祉的產品是否更感興趣？在提供建議後，是否採取了行動？

銀行也可以對不同用戶群進行A/B測試，對比使用聊天機器人與未使用的效果，觀察是否存在明顯差異。

9.  人工監督在金融服務AI工具的部署中扮演什麼角色？提供者如何在自動化與人力支持之間取得平衡？

提升對AI的信任的一個方法是確保在適當時候有真人可供聯繫。這也是客戶服務人員使用協同駕駛（co-pilots）非常有幫助的地方。需要時能接觸真人，能提升信任與體驗。

使用對話式AI，能讓客服代表更快速、更有效地滿足客戶的複雜需求，同時在關鍵點提供人性化的接觸。

透明度也是建立信任的關鍵。例如，你應該知道自己是在與聊天機器人還是真人對話。

10.  展望未來，未來五年內AI在金融包容性方面最令人興奮的機會是什麼？

生成式AI代表對話式AI的下一個進化階段，能提供更個性化、更具情境感的互動，遠比目前大多數金融聊天機器人的決策樹結構更接近人類支持。金融領域中，生成式AI的初步應用主要集中在後台支援，幫助客服人員。未來，如何在金融場景中大規模提供個性化支持，是推動行業發展的關鍵機會。

贏得信任將是推廣生成式AI的關鍵，因為我們的實地測試和焦點團體顯示，參與者對其持較保留態度，較傳統聊天機器人更謹慎。然而，提供更高層次支持的潛力，使生成式AI成為金融服務中最令人期待的技術。能建立可信賴、可靠的生成式AI支持的企業，將站在這個新時代客戶關係大規模建設的前沿。

我們還看到一些具體的機會，例如協同駕駛和個人助理，能提供量身定制的全面財務指導，甚至可以看作是個人理財教練。同時，我們預期對話式AI在促進員工財務健康方面也能發揮重要作用，提供資訊與指導，幫助他們應對複雜的員工福利制度。

11.  你如何看待像Commonwealth這樣的非營利組織在塑造負責任使用AI於金融服務中的角色？

歷史上，科技設計多偏重於高收入消費者的採用，忽略了LMI家庭的需求。通過我們的“全民新興科技”計畫（Emerging Tech for All, ETA），我們致力於確保財務弱勢群體的需求被理解、可見，並納入相關對話與解決方案中。在擴展AI應用的關鍵轉折點，我們認為迫切需要持續研究，找出AI能正面影響這個族群的方式。

目前，這個議題的研究與應用仍較少，我們訪談的部分供應商也提到需要更大規模的研究來建立證據，支持內部推動這類設計。我們正通過產出有影響力的研究與實地測試，展示生成式AI如何支持LMI家庭的財務健康，並為更積極設計服務這一未被充分服務的消費者群體提供商業理由。

展望未來，包容性科技設計的系統性影響將取決於金融行業主要角色對這些洞見的規模化應用。對我們而言，推動包容性設計的規模化，將依賴於將我們的研究成果與尋求利用AI促進客戶與員工財務健康的更大組織合作。

12.  你會給希望利用AI、同時維持客戶信任與透明度的金融機構什麼建議？

LMI家庭更傾向於與真人面對面銀行業務，但實體分行的接觸卻最少。這個差距提供了一個關鍵機會，讓AI能提供LMI家庭所需的個性化支持，而無需增加分行或客服人員。

不過，要推動更廣泛的採用，金融機構必須贏得並建立用戶對聊天機器人的信任——這部分與聊天機器人的體驗有關，也與整個行業AI技術的接受度、安全性和品質提升有關。

用戶最關心的問題是安全性與隱私。普遍來說，人們對對話式AI的信任較低，擔心資料安全、隱私保護或其是否能真正為自己謀取利益。雖然商業界對AI的潛力充滿期待，但LMI群體可能會更持懷疑態度，認為這是尚未證明其價值的新技術。

建立透明的資料政策、令人安心的品牌與訊息，以及保留真人代理作為備援，都有助於建立與贏得信任。透過生成式AI提供超越基本資訊（如帳戶餘額、近期交易）的個性化互動，也能展現技術的價值。

此外，強調“贏得信任”的概念也很重要。目標不僅是讓人相信聊天機器人，而是要設計出值得信賴的聊天機器人，使這種信任成為合理的結果。