AI、信頼、そして十分にサービスを受けられていない人々 - コモンウェルスのSVP、パウラ・グリエコとのインタビュー

ポーラ・グレイコは、コモンウェルスのシニア・バイスプレジデントです。

最新のフィンテックニュースやイベントをチェック！

FinTech Weeklyのニュースレターに登録しましょう

JPモルガン、コインベース、ブラックロック、クラルナなどの経営幹部も読んでいます

金融AIはまだ長い道のりがあります — 速度や正確性、規制の面だけでなく、信頼を獲得する方法においてもです。特に、新技術が導入される際に従来あまり最初に関わらなかった人々からの信頼を得ることが重要です。

FinTech Weeklyでは、低・中所得層（LMI）家庭の金融安全性向上に取り組む非営利団体であるコモンウェルスの活動を追っています。最近の編集記事で紹介した現地調査からは、明確な緊張感が浮き彫りになりました：LMIユーザーはチャットボットのようなツールに開かれている一方で、実際に彼らの役に立つ体験を待ち望んでいる — それは単なる再パッケージされた機能ではなく、彼らに寄り添うものです。

今週は、さらに深く掘り下げました。

コモンウェルスのシニア・バイスプレジデント、ポーラ・グレイコにお話を伺い、サービスの届きにくいコミュニティにとってAIを効果的かつ安全にするために本当に必要なことを理解しました。設計原則から信頼の獲得、コパイロットからチャットボット疲れまで、彼女は意図の重要性がイノベーションだけ以上に大切である理由を語ります。

包摂的な金融技術がどのようにあり得るのか、そしてあるべきかについての、地に足のついた思慮深い見解です。

以下にインタビュー全文を掲載します。

2.  最近のJPMorgan Chaseとの協力から得られたAIの役割に関する重要な洞察について教えてください。特に、LMI家庭の金融安全性向上において、最も驚きや影響の大きかった発見は何ですか？

私たちの調査は、AI、特にチャットボットが、これらのコミュニティに対してパーソナライズされた指導や支援を提供できる可能性を明らかにしています。ただし、それはこのグループのニーズや視点を考慮して慎重に設計された場合に限ります。

二つの重要な発見：

• 顧客はチャットボットを自分の経済的福祉を改善するための良いツールと見なしている。私たちのデータでは、回答者の57％がチャットボットの利用によって経済状況が改善したと答えています。また、低・中所得層（LMI）の人々は、クレジット構築、予算管理、債務管理の機能を求めていることもわかりました。

• 回答者は、チャットボットとともに判断を求めない空間を重視しており、敏感な金融質問を恥ずかしさや自己意識を気にせずに尋ねられる場所として価値を見出しています。

3.  特にサービスの届きにくいコミュニティにおいて、会話型AIは金融サービス分野でどのように進化していくと考えますか？

理想的には、生成AIを活用した次世代のチャットボットは、これらの家庭の金融活動をより良くサポートし、金融システムやデータ共有に対して警戒心を持つ人々の信頼を獲得するAI金融アシスタントになるでしょう。金融サービス提供者には、より複雑で微妙な、かつ行動を促す機能をチャットボットに持たせる大きなチャンスがあります。

現在、顧客が金融チャットボットを使う目的は主にアカウント情報の確認や問題解決です。私たちの全国調査では、金融アドバイスや教育、商品推薦、クレジットやローンの申請、口座の開設・閉鎖にチャットボットを使った人は全体の20％未満です。しかし、こうした銀行業務を支援できるチャットボットの需要は高まっています。これらの機能に焦点を当てて開発すれば、利用頻度や有用性が向上する可能性があります。

生成AIの金融コパイロットを直接消費者に提供する準備が整っていない銀行や金融機関は、この技術を活用して、顧客対応の担当者がより良く、正確に、迅速に対応できるよう支援することも可能です。

4.  ブラック、ラテン系、女性主導の家庭にとって、公平かつ効果的なAI金融ツールを確保する上で最大の課題は何ですか？

すべての新技術と同様に、低・中所得層のニーズを開発過程や設計決定に確実に反映させる意図的な努力が必要です。私たちは、金融機関と民間・慈善団体のパートナーシップを早期に築くことが、こうした取り組みの推進に役立つと考えています。証拠の蓄積は、ビジネスの正当性を高めることにもつながります。

信頼を高める設計指針の重要性も見出しており、これにより会話型AIが大きなコスト増なしに金融健康を支援できる可能性があります。

5.  研究に基づき、LMIユーザーを支援するためにAIを導入する際に金融サービス提供者が考慮すべき主要な設計原則は何ですか？

コモンウェルスは、「金融AI for Goodガイド」というリソースを作成し、LMI層にサービスを提供する金融機関向けに具体的な設計指針を提供しています。これは、金融機関、チャットボット提供者、LMI層の人々への包括的な調査に基づいて策定したものです。

このガイドは、4つの主要な設計目標に沿って構成されています。各目標の例をいくつか挙げます。

2. 信頼を獲得する：調査回答者の大半がチャットボット利用時に最も気にしたのはセキュリティです。金融機関は、事前に伝えるデータ保護の取り組みや、ユーザーが保存するデータをコントロールできる仕組みを強調することで、信頼を築くことができます。

3. エンゲージメントを促進する：ツールの機能や利点を明確に伝え、いつ何ができるのかを理解させることが重要です。また、「インテリジェントな積極性」を追求し、必要なときにだけチャットボットが適切に働くようにし、スパムのように感じさせない工夫も必要です。

4. 価値を高める：顧客のニーズを予測し、物理的な支店へのアクセスが制限されている場合でも、チャットボットが小さな操作を代行できるようにします。自動化とコントロールのバランスを取り、ユーザーが自動化機能をオン・オフできるようにし、一定の残高以下の場合に自動送金を停止する「セーフティネット」機能も導入します。

5. アクセシビリティの向上：多言語対応や、顧客層に合わせたガイダンス、モバイル対応の機能を提供します。私たちの調査では、回答者の半数以上がスマートフォンからのアクセスを好むことがわかっています。

6.  会話型AIがLMI層の金融福祉を大きく改善した成功事例やケーススタディを教えてください。

私たちの現地調査では、57％のユーザーが金融チャットボットの利用によって経済状況が良くなったと回答しています。これらの初期結果は有望ですが、生成AIツールはまだ発展途上です。今後も研究を続け、LMI層の金融福祉向上における効果について証拠を積み重ねていきます。

7.  AIを導入する際に金融機関が注意すべきリスクや予期せぬ結果は何ですか？

重要なのは、LMI層の人々が排除されないことです。ツールを開発する際には、その潜在的な機会と、LMI顧客層にどのようにサービスを提供できるかを理解することが不可欠です。

AIのリスクやバイアス、大規模言語モデルの正確性に関する懸念は多くありますが、それ以上に重要なのは、金融推奨が個々の財務状況に適しているかどうかです。正確な情報を提供し、透明性を確保することで、顧客のエンゲージメントと信頼を高められます。

AIは、投資ツールや個人資産管理など、従来アクセスできなかった支援やツールをLMI層に提供する絶好の機会です。これらは個別にカスタマイズ可能で、LMI層の特有の状況に合わせて調整できます。これは、金融提供者にとって顧客基盤拡大の大きなチャンスです。

8.  金融機関はAIツールの実際の効果をどのように測定すればよいですか？

貯蓄増加、借金減少、クレジットスコアの向上など、金融の健全性に関する基本的な指標を追跡します。

また、チャットボットとのやり取りの体験調査も有効です。信頼は高まったか？金融福祉向上に役立つ商品への関心は増えたか？アドバイスを受けた後に行動に移ったか？などです。

さらに、チャットボットを利用しているグループとそうでないグループを比較するA/Bテストも効果的です。

9.  AIツールの展開において、人間の監督はどのような役割を果たしますか？また、どのように自動化と人間のサポートのバランスを取るべきですか？

AIに対する信頼を高めるには、適切なタイミングで人間が対応できる体制を整えることが重要です。これには、顧客対応の担当者がコパイロットを活用し、必要に応じてライブの人間に切り替えられる仕組みが役立ちます。ライブ対応のアクセスがあることで、信頼と体験の質が向上します。

会話型AIを使えば、カスタマーサービス担当者は複雑なニーズにより迅速かつ的確に対応でき、重要な場面では人間のタッチを加えることも可能です。

また、透明性も信頼構築に不可欠です。たとえば、「これはチャットボットですか、それとも実在の人ですか？」といった情報を明示することが求められます。

10. 今後5年間で、金融包摂におけるAIの最もエキサイティングな可能性は何ですか？

生成AIは、会話型AIの次の進化形であり、より人間に近い支援を提供し、パーソナライズされた状況対応のエンゲージメントを実現します。現在の多くの金融チャットボットは決定木型の構造ですが、生成AIはより高度な対話を可能にします。

金融分野での生成AIの初期応用は、主にバックオフィスやカスタマーサポートの支援に集中していますが、これをスケールし、個別支援を提供できる仕組みを作ることが大きなチャンスです。信頼と信頼性の構築も重要で、参加者の多くは従来のチャットボットよりも懐疑的です。しかし、より高度なサポートを提供できる可能性は非常に魅力的です。

信頼性の高い生成AIを開発できる企業は、新たな顧客関係構築の最前線に立つことになるでしょう。

また、個別のニーズに合わせた総合的な金融ガイダンスや、従業員の福利厚生制度をナビゲートする情報提供、個人の資産形成を支援するパーソナルコーチなども期待されます。

11.  コモンウェルスのような非営利団体は、責任あるAIの活用をどのように推進していくと考えますか？

従来、技術の設計は高所得層の消費者の採用を促進することに偏り、LMI層のニーズを見落としがちでした。私たちの「すべての人のための新興技術（ETA）」イニシアチブでは、経済的に脆弱な人々のニーズを理解し、可視化し、議論に取り入れ、解決策に反映させることに注力しています。AIの拡大においては、今こそ研究を進め、この層に良い影響を与える方法を見つけることが急務です。

現状、この分野での研究や採用はまだ限定的であり、私たちがインタビューした一部の提供者は、より大規模な調査を行い、内部での設計推進に役立つ証拠を積み上げたいと述べています。私たちは、実地調査や影響力のある研究を通じて、LMI層の金融福祉を支援し、未開拓の顧客層に向けた設計のビジネス価値を示すことに取り組んでいます。

将来的には、インクルーシブな技術設計のシステム的な影響は、金融サービスの主要プレイヤーがこれらの知見を規模拡大に活用することにかかっています。私たちの目標は、研究を活用し、AIの進歩を支援する大手組織と連携して、包摂的な設計を広めていくことです。

12.  AIを活用しつつ、顧客との信頼と透明性を維持するために、金融機関にどのようなアドバイスをしますか？

LMI層は、対面の支援を求める一方で、実店舗の支店へのアクセスは最も少ないというギャップがあります。これは、AIがLMI層の求める個別サポートを提供し、支店やサポートスタッフの増加を必要とせずに済む絶好の機会です。

ただし、広く導入を促進するには、金融機関はLMI層の人々からチャットボットへの信頼を獲得し、構築していく必要があります。これは、チャットボット体験の改善だけでなく、AI技術の安全性や信頼性の向上とともに、業界全体の受容度の向上にも関わります。

チャットボット利用者の最大の懸念はセキュリティとプライバシーです。多くの人は、会話型AIが役立つか、データを守るか、最善の利益を追求しているかについて信頼していません。多くのビジネス関係者はAIの可能性に期待していますが、LMI層は新技術に対して懐疑的であり、その価値を直接示す必要があります。

透明性のあるデータポリシーや安心感を与えるブランディング、そして必要に応じて人間の担当者に切り替えられる仕組みを整えることが信頼構築に役立ちます。アカウント残高や取引履歴などの基本情報を超えた、生成AIによるパーソナライズされた有益な対話も、技術の価値を示す一助となるでしょう。

また、「信頼は獲得されるもの」という概念を強調することも重要です。単に人々にチャットボットを信頼させるだけでなく、その信頼に値する設計を行うことが目標です。