AI、信任與被忽視群體——專訪 Commonwealth 高級副總裁 Paula Grieco

Paula Grieco 是 Commonwealth 的高級副總裁。

探索頂尖金融科技新聞與活動！

訂閱 FinTech Weekly 的電子報

由 JP Morgan、Coinbase、Blackrock、Klarna 等高層管理人員閱讀

金融人工智慧（AI）仍有很長的路要走——不僅在速度、準確性或甚至規範方面，更在於它贏得信任的方式。尤其是來自那些傳統上在新技術推出時並非第一線的群體。

在 FinTech Weekly，我們一直關注 Commonwealth 的工作，這是一個專注於為低收入和中等收入（LMI）家庭建立金融安全的非營利組織。我們近期的專欄文章中探討了他們的實地工作，揭示了一個明顯的矛盾：雖然LMI用戶對聊天機器人等工具持開放態度，但他們仍在等待真正為自己服務的體驗——而非為他人重新包裝的功能。

本週，我們深入探討。

我們與 Paula Grieco，Commonwealth 的高級副總裁，進行了對話，了解讓AI在服務不足的社群中既有效又安全的真正需求。從設計原則到贏得信任，從協同駕駛到聊天機器人的疲勞，她分享了為何意圖比單純創新更為重要。

這是一個務實且深思熟慮的觀點，關於包容性金融科技應該——也可以——長得像什麼。

請閱讀完整訪談內容。

2.  Commonwealth 最近與摩根大通（JPMorgan Chase）的合作提供了關於AI在提升LMI家庭金融安全方面的關鍵見解。這次研究中最令人驚訝或最具影響力的發現是什麼？

我們的研究顯示，AI，特別是聊天機器人，有巨大的潛力為低收入社群提供個性化的指導與支援——前提是這些聊天機器人的設計能充分考慮這個群體的需求與觀點。

兩個主要發現：

*   客戶普遍認為聊天機器人是改善財務狀況的正面工具。我們的數據顯示，57%的受訪者表示使用聊天機器人改善了他們的財務狀況。研究也顯示，低至中等收入（LMI）的人群希望擁有信用建立、預算規劃和債務管理等功能。

*   受訪者重視一個無偏見的空間，能在不必擔心羞恥或自我意識的情況下，向聊天機器人提出敏感的財務問題，這在面對面與真人代表交流時可能會感到尷尬。

3.  你如何看待對話式AI在金融服務領域，尤其是對服務不足社群的未來發展？

理想情況下，下一代由生成式AI驅動的聊天機器人將成為更能支持這些家庭財務活動的AI金融助手，並贏得那些對金融系統持警惕態度、並且不願意在線分享資料的群體的信任。金融服務提供者有巨大機會為他們的聊天機器人提供更複雜、更細緻、且具有行動導向的功能。

目前，客戶使用金融聊天機器人的主要目的是查詢帳戶資訊或解決問題。我們的全國調查中，少於20%的受訪者曾用過聊天機器人進行財務建議、教育、產品推薦、申請信貸或貸款，以及開戶或關戶。然而，我們的研究發現，市場上對能協助完成這些銀行操作的聊天機器人有需求。在開發這類功能時，專注於這些特點可能會增加其使用率和實用性。

對於尚未準備直接向消費者推出生成式AI金融協同駕駛的銀行和金融機構，這項技術可以支援銀行員工，例如客戶代表，在互動中提供更佳、更準確、更及時的回應。

4.  在確保AI驅動的金融工具對黑人、拉丁裔和女性主導家庭公平且有效方面，面臨哪些最大挑戰？

所有新興技術都需要有意識的努力，確保低至中等收入者的需求在開發過程和設計決策中被納入。我們發現，早期與金融機構建立私營/慈善合作夥伴關係，有助於推動這些努力。透過累積證據，我們也能幫助建立商業案例。

我們看到在提升贏得信任等設計指導方面具有巨大潛力，這可以讓對話式AI在支持財務健康方面發揮作用，而不會帶來高額成本。

5.  根據你的研究，金融服務提供者在整合AI以支援LMI用戶時，應考慮哪些關鍵設計原則？

Commonwealth 創建了一份資源——《金融AI善用指南》（Financial AI for Good Guide），旨在為服務LMI群體的金融機構提供可行的設計指導。我們根據與金融機構、聊天機器人供應商及LMI群體的全面研究，制定了這些建議。

該指南圍繞四個主要設計目標組織。以下是每個目標的幾個例子：

*   贏得信任：大多數研究受訪者最關心的問題是資料安全。金融機構可以強調資料安全措施，並在一開始就傳達相關訊息，同時讓用戶掌控自己的資料存取。

*   促進參與：讓用戶清楚了解這些工具能為他們做什麼、何時能幫助到他們，並創造“智能主動性”。例如，整合在最適合時彈出的聊天機器人，避免過於強勢或像垃圾訊息一樣的推送。

*   增加價值：預測客戶需求。由於實體分行有限，聊天機器人可以完成一些客戶原本需要親自到銀行辦理的小事。平衡自動化與控制，允許用戶開啟或關閉自動理財功能，並加入“安全網”功能，當餘額低於某個門檻時暫停自動轉帳。

*   改善可及性：提供多語言支持，並根據客戶群設計適合的指導，重點放在手機友好功能。我們的研究顯示，超過一半的受訪者偏好用手機進行銀行業務。

6.  你是否可以分享一些成功案例或案例研究，說明對話式AI如何顯著改善LMI個體的財務福祉？

我們知道，在實地測試中，有57%的用戶表示使用金融聊天機器人對他們的財務狀況產生了積極影響。雖然這些早期結果令人鼓舞，但生成式AI工具仍處於初期階段，我們的持續研究將進一步累積證據，證明它們在改善LMI個體財務福祉方面的有效性。

7.  在推行AI驅動的金融工具時，金融機構應注意哪些風險或意外後果？

重要的是，不能讓低收入群體被排除在外。在開發工具時，金融機構應理解其內在的機會與服務LMI客戶的方式。我們也關注AI驅動工具的固有風險與偏見，以及大型語言模型的準確性問題。更重要的是，必須解決一個核心問題：金融建議對用戶個人財務狀況的相關性。金融機構可以通過確保提供的資訊準確、並保持透明，來提升客戶參與度與信任。

AI為低收入群體提供了前所未有的機會，讓他們獲得傳統上難以取得的建議與工具，無論是投資工具還是個人理財管理。這些工具可以根據個人情況進行個性化定制，為金融提供者擴展客戶群提供巨大契機。

8.  金融機構如何衡量AI驅動工具對用戶財務安全與福祉的實際影響？

基本的財務健康指標包括：儲蓄是否增加、債務是否減少、信用分數是否提升。也可以調查與聊天機器人互動的體驗——信任是否提升？用戶對改善財務福祉的產品是否更感興趣？在提供建議後，是否採取了行動？

銀行還可以進行A/B測試，對比使用聊天機器人的消費者與未使用者，觀察是否存在明顯差異。

9.  人工監督在金融服務AI工具的部署中扮演什麼角色？金融機構如何在自動化與人力支援之間取得平衡？

提升對AI的信任其中一個方法是確保在適當時段有真人可供聯繫。這也是客戶服務人員使用協同駕駛（co-pilots）工具的好處。需要時提供真人協助，能增加信任與良好的體驗。

使用對話式AI，客戶服務代表能更快速、更有效率地滿足客戶的複雜需求，同時在關鍵點提供人性化的接觸。

透明度也非常重要，讓用戶知道自己是在與聊天機器人還是真人對話。

10.  展望未來，未來五年內AI在促進金融包容性方面最令人興奮的機會是什麼？

生成式AI代表對話式AI的下一個進化階段，能提供更個性化、情境敏感的互動，遠比目前多數金融聊天機器人的決策樹結構更接近人類支持。金融領域中，生成式AI的初步應用多集中在後台支援，幫助客服人員。未來，如何在金融場景中大規模提供個性化支持，是推動行業發展的關鍵。

贏得信任將是推廣生成式AI的關鍵，因為我們的測試和焦點團體顯示，參與者對其仍持較多懷疑。儘管如此，提供更高層次支持的潛力，使生成式AI成為金融行業最值得關注的技術。能建立可信賴、可靠的生成式AI支持的企業，將站在這個新時代客戶關係建立的前沿。

我們還看到一些具體機會，例如：協同駕駛和個人助理，能提供量身定制的全面財務指導，甚至可以看作是個人理財教練。同時，對話式AI在幫助員工理解複雜的員工福利系統、促進其財務健康方面，也將扮演重要角色。

11.  你如何看待像 Commonwealth 這樣的非營利組織在塑造負責任使用AI於金融服務中的角色？

歷史上，科技設計多偏重於高收入消費者的採用，忽略了LMI家庭的需求。通過我們的“全民新興科技”計畫（Emerging Tech for All, ETA），我們致力於確保金融弱勢群體的需求被理解、被看見，並納入相關對話與解決方案中。在擴展AI應用的關鍵轉折點，我們認為迫切需要持續研究，找出AI能正面影響這個族群的方式。

目前，這個議題的研究與應用仍較少，我們訪談的部分供應商也提到需要更大規模的研究來建立證據，支持內部推動這類設計。我們正透過產出有影響力的研究與實地測試，展示生成式AI如何支持LMI家庭的財務健康，並為更積極設計服務這一族群提供商業理由。

展望未來，包容性科技設計的系統性影響將取決於金融服務業主要角色對這些洞見的規模化應用。對我們而言，推動包容性設計的擴展，將依賴於將研究成果與大型組織合作，利用AI進步來支持客戶與員工的財務健康。

12.  你會給希望利用AI同時維持客戶信任與透明度的金融機構什麼建議？

LMI家庭更傾向於與真人面對面銀行業務，但實體分行的數量卻有限。這個差距提供了AI的關鍵機會，能在不增加分行或客服人員的情況下，提供他們所需的個性化支持。

不過，要推動更廣泛的採用，金融機構必須贏得並建立LMI群體對聊天機器人的信任——這部分與聊天機器人的體驗有關，也與整個行業的接受度、AI技術的安全性和品質提升有關。

用戶最關心的問題是安全與隱私。普遍來說，他們對對話式AI的幫助、資料保護或是否符合自身利益，持較多懷疑。儘管商業界對AI的潛力充滿期待，但LMI群體可能會更為懷疑，認為這是尚未證明其價值的新技術。

透明的資料政策、令人安心的品牌與訊息，以及將真人代理作為備用選項，都有助於建立與贏得信任。透過生成式AI提供超越基本資訊（如帳戶餘額、近期交易）的個性化互動，也能展現技術的價值。

此外，強調“贏得信任”的概念也很重要。目標不僅是讓人相信聊天機器人，而是要設計出值得信賴的聊天機器人，使這種信任成為合理的結果。