IA, Confiance et les sous-desservis - Entretien avec Paula Grieco, SVP chez Commonwealth

Paula Grieco est vice-présidente senior chez Commonwealth.

Découvrez les principales actualités et événements fintech !

Abonnez-vous à la newsletter de FinTech Weekly

Lue par des cadres de JP Morgan, Coinbase, Blackrock, Klarna et d’autres

L’IA financière a encore beaucoup de chemin à parcourir — pas seulement en termes de rapidité, de précision ou même de réglementation, mais aussi dans la manière dont elle gagne la confiance. Surtout auprès de ceux qui n’ont pas traditionnellement été les premiers à adopter les nouvelles technologies.

Chez FinTech Weekly, nous suivons le travail de Commonwealth, une organisation à but non lucratif axée sur la construction de la sécurité financière pour les ménages à revenu faible ou modéré (LMI). Leur travail de terrain, exploré dans notre récent éditorial, a révélé une tension claire : alors que les utilisateurs LMI sont ouverts à des outils comme les chatbots, ils attendent encore des expériences qui leur servent réellement — et non simplement des fonctionnalités reconditionnées conçues pour quelqu’un d’autre.

Cette semaine, nous sommes allés plus en profondeur.

Nous avons interviewé Paula Grieco, vice-présidente senior chez Commonwealth, pour comprendre ce qui est réellement nécessaire pour rendre l’IA efficace — et sûre — pour les communautés mal desservies. Des principes de conception à la confiance acquise, des copilotes à la fatigue liée aux chatbots, elle partage pourquoi l’intention compte plus que l’innovation seule.

C’est une vision réaliste et réfléchie de ce à quoi pourrait — et devrait — ressembler une technologie financière inclusive.

Lisez l’intégralité de l’interview ci-dessous.

2. La récente collaboration de Commonwealth avec JPMorganChase a fourni des insights clés sur le rôle de l’IA dans l’amélioration de la sécurité financière des ménages LMI. Quelles ont été les découvertes les plus surprenantes ou impactantes de cette recherche ?

Notre recherche met en lumière le potentiel immense de l’IA, notamment des chatbots, pour offrir des conseils et un soutien personnalisés aux communautés à faibles revenus — à condition que ces chatbots soient conçus de manière réfléchie en tenant compte des besoins et des perspectives de ce groupe.

Deux résultats clés :

*   Les clients voient majoritairement les chatbots comme des outils positifs pour améliorer leur bien-être financier. Nos données montrent que 57 % des répondants ont déclaré que l’utilisation de chatbots avait amélioré leur situation financière. La recherche a également révélé que les personnes à revenu faible à modéré (LMI) souhaitent des fonctionnalités de construction de crédit, de gestion de budget et de gestion de dettes.

*   Les répondants valorisent un espace sans jugement avec un chatbot pour poser des questions financières sensibles, sans craindre la honte ou la gêne que pourrait entraîner une conversation face à face avec un représentant humain.

3. Comment voyez-vous l’évolution de l’IA conversationnelle dans le secteur des services financiers, en particulier pour les communautés mal desservies ?

Idéalement, la prochaine génération de chatbots alimentés par l’IA générative sera des assistants financiers IA qui soutiennent mieux les activités financières de ces ménages, et gagnent la confiance des populations souvent méfiantes vis-à-vis du système financier et du partage de données en ligne. Il existe une grande opportunité pour les fournisseurs de services financiers d’offrir des capacités plus complexes, nuancées et orientées vers l’action pour leurs chatbots.

Lorsque les clients utilisent actuellement des chatbots financiers, ils recherchent principalement des informations sur leur compte ou essaient de résoudre un problème. Moins de 20 % de nos répondants à l’enquête nationale ont utilisé des chatbots pour des conseils financiers, de l’éducation, des recommandations de produits, la demande de crédit ou de prêts, ou l’ouverture/fermeture de comptes. Cependant, notre recherche montre qu’il existe une demande pour des chatbots pouvant aider dans ces types d’actions bancaires. Se concentrer sur ces fonctionnalités lors du développement de chatbots pourrait augmenter leur utilisation et leur utilité auprès de ces clients.

Pour les banques et institutions financières qui ne sont pas encore prêtes à lancer directement des copilotes financiers IA génératifs aux consommateurs, cette technologie peut soutenir les employés bancaires, comme les représentants clientèle, pour fournir des réponses plus précises, plus rapides et plus pertinentes lors des interactions.

4. Quels sont les principaux défis pour garantir que les outils financiers pilotés par l’IA soient équitables et efficaces pour les ménages dirigés par des Noirs, Latinx, et des femmes ?

Avec toutes les technologies émergentes, il faut faire un effort intentionnel pour que les besoins de ceux qui ont un revenu faible à modéré soient intégrés dans le processus de développement et dans les décisions de conception. Nous avons constaté qu’un partenariat privé/philanthropique avec les institutions financières dès le début aide à créer un élan pour ces efforts. En développant une base de preuves, nous contribuons également à renforcer l’argumentaire commercial.

Nous avons vu un potentiel significatif pour des orientations de conception autour de l’augmentation de la confiance acquise, ce qui peut permettre à l’IA conversationnelle de soutenir la santé financière sans coûts majeurs supplémentaires.

5. Sur la base de votre recherche, quels sont les principes clés de conception que les prestataires de services financiers devraient considérer lors de l’intégration de l’IA pour soutenir les utilisateurs LMI ?

Commonwealth a créé une ressource, le Guide de l’IA financière pour le bien, pour fournir des orientations concrètes de conception aux prestataires de services financiers qui servent les populations LMI. Nous avons élaboré ces recommandations à partir de recherches approfondies avec des institutions financières, des fournisseurs de chatbots, et des personnes vivant avec un revenu faible ou modéré.

Le guide s’articule autour de quatre objectifs principaux de conception. Voici un ou deux exemples pour chacun :

*   Gagner la confiance : La principale préoccupation de la majorité de nos répondants lors de l’utilisation d’un chatbot était la sécurité. C’est là que les institutions financières peuvent insister sur la sécurité des données via des messages initiaux sur les mesures prises par la banque, tout en donnant aux utilisateurs le contrôle sur les données stockées.
*   Favoriser l’engagement : Créer une expérience où les utilisateurs savent ce que ces outils peuvent faire pour eux et quand, en clarifiant leurs fonctions. De plus, adopter une « proactivité intelligente » : intégrer des chatbots qui apparaissent au moment le plus utile, sans être trop insistants ou agressifs, ce qui pourrait donner une impression de spam.
*   Augmenter la valeur : Anticiper les besoins de votre clientèle. L’accès limité aux agences physiques offre une opportunité pour les chatbots d’effectuer de petites actions que les clients auraient autrement dû faire en agence. Équilibrer automatisation et contrôle en permettant aux utilisateurs d’activer ou désactiver les fonctionnalités financières automatisées, et inclure des « filets de sécurité » qui suspendent le mouvement automatique d’argent si un solde tombe en dessous d’un certain seuil.
*   Améliorer l’accessibilité : Offrir un support multilingue et des conseils adaptés à votre clientèle, en mettant l’accent sur des fonctionnalités mobiles. Notre recherche a montré que plus de la moitié des répondants préfèrent accéder à leur banque via leur téléphone mobile.

6. Pouvez-vous partager des histoires de réussite ou des études de cas où l’IA conversationnelle a significativement amélioré le bien-être financier des personnes LMI ?

Ce que nous savons, c’est que 57 % des utilisateurs de notre étude sur le terrain ont indiqué que l’utilisation d’un chatbot financier avait eu un impact positif sur leur situation financière. Bien que ces premiers résultats soient prometteurs, les outils d’IA générative en sont encore à leurs débuts, et nos recherches en cours continueront à construire une base de preuves sur leur efficacité pour améliorer le bien-être financier des personnes LMI.

7. Quels risques ou conséquences inattendues les institutions financières doivent-elles surveiller lors de la mise en œuvre d’outils financiers pilotés par l’IA ?

Ce qui est important, c’est que les personnes à revenu faible ou modéré ne soient pas exclues de l’équation. Lors du développement d’outils, il faut comprendre les opportunités inhérentes et les moyens de servir cette clientèle LMI.

Il existe de nombreux organismes spécialisés dans les risques et conséquences liés aux outils pilotés par l’IA, ainsi que dans les biais et la précision des grands modèles linguistiques. Au-delà, il faut s’assurer que la recommandation financière reste pertinente pour la situation individuelle de chaque utilisateur. Les institutions financières peuvent augmenter l’engagement client et gagner leur confiance en garantissant que les informations fournies sont exactes et en assurant une transparence réelle.

L’IA offre une opportunité sans précédent pour permettre aux personnes à revenu faible ou modéré d’accéder à des conseils et outils qui leur étaient traditionnellement inaccessibles, que ce soit pour des outils d’investissement ou de gestion financière personnelle. Ces outils peuvent être personnalisés et adaptés aux situations spécifiques de ces personnes, ce qui représente une énorme opportunité pour les prestataires financiers d’élargir leur clientèle.

8. Comment les institutions financières peuvent-elles mesurer l’impact réel des outils pilotés par l’IA sur la sécurité et le bien-être financiers des utilisateurs ?

Les fondamentaux du bien-être financier : y a-t-il une augmentation de l’épargne, une réduction de la dette, une amélioration des scores de crédit lors de l’utilisation de ces outils ?

Nous pouvons également évaluer l’expérience d’interaction avec le chatbot — la confiance a-t-elle augmenté ? L’intérêt pour des produits susceptibles d’améliorer le bien-être financier a-t-il augmenté ? Après avoir reçu des conseils, des actions ont-elles été entreprises ?

Les banques peuvent aussi réaliser des tests A/B auprès de différents groupes de consommateurs, certains utilisant des chatbots, d’autres non, pour voir s’il existe une différence mesurable.

9. Quel rôle joue la supervision humaine dans le déploiement des outils d’IA pour les services financiers, et comment les prestataires peuvent-ils trouver le bon équilibre entre automatisation et support humain ?

Une des façons d’accroître la confiance acquise autour de l’IA est de garantir qu’une présence humaine soit accessible au bon moment lors de l’interaction. C’est là que l’utilisation de copilotes par les employés en contact avec la clientèle peut être bénéfique. L’accès à un humain en direct quand c’est nécessaire augmente la confiance et la qualité de l’expérience avec l’outil IA.

L’utilisation de l’IA conversationnelle permettra aux représentants du service client de mieux et plus rapidement répondre aux besoins complexes de leurs clients tout en apportant la touche humaine aux moments clés de l’échange, lorsque la présence d’un agent en direct est souhaitable.

La transparence est également essentielle pour instaurer la confiance dans toute interaction. Il faut savoir, par exemple, si l’on parle à un chatbot ou à une personne réelle.

10. En regardant vers l’avenir, quelles sont les opportunités les plus excitantes pour l’IA dans l’inclusion financière au cours des cinq prochaines années ?

L’IA générative représente la prochaine étape de l’évolution de l’assistance conversationnelle, offrant un engagement personnalisé et contextuel à un niveau qui se rapproche beaucoup plus du support humain que la structure en arbre de décision de la plupart des chatbots financiers actuels. Les premières applications de l’IA générative dans la finance se sont principalement concentrées sur des applications back-office, où il est possible de soutenir les agents du service client. Identifier comment l’IA générative peut fournir un support personnalisé à grande échelle dans un contexte financier constitue une opportunité clé pour faire progresser ce secteur.

La construction de la confiance acquise sera particulièrement cruciale pour une adoption plus large de l’IA générative, que les participants à nos tests et groupes de discussion restent plus sceptiques que pour les chatbots traditionnels. Néanmoins, les bénéfices potentiels d’un support plus avancé dans les services financiers font de l’IA générative la technologie la plus prometteuse à suivre dans le secteur. Ceux qui sauront développer un support fiable et digne de confiance seront à la pointe de cette nouvelle ère de relation client à grande échelle.

Parmi d’autres opportunités spécifiques, on voit des copilotes et assistants personnels capables de fournir des conseils financiers complets, adaptés aux besoins individuels, un peu comme un coach financier personnel. Nous anticipons également que les avancées en IA conversationnelle joueront un rôle précieux dans la promotion de la santé financière des travailleurs, en fournissant des informations et des conseils pour naviguer dans des systèmes complexes d’avantages sociaux.

11. Comment voyez-vous l’évolution du rôle des ONG comme Commonwealth dans la promotion d’une utilisation responsable de l’IA dans les services financiers ?

Historiquement, la conception des nouvelles technologies s’est concentrée sur leur adoption par les consommateurs à revenu élevé, en négligeant les besoins des ménages à revenu faible ou modéré. À travers notre initiative Emerging Tech for All (ETA), nous veillons à ce que les besoins des personnes vulnérables financièrement soient compris, visibles, intégrés dans les discussions pertinentes, et intégrés dans des solutions. Nous sommes à un point critique pour faire évoluer l’IA, et il est urgent de continuer à rechercher et à identifier comment l’IA peut avoir un impact positif sur cette population.

Il existe peu de recherches et d’adoptions dans ce domaine aujourd’hui, et certains prestataires que nous avons interviewés ont souligné la nécessité d’études à plus grande échelle pour constituer des preuves solides qu’ils pourraient utiliser pour défendre en interne ce type de conception. Nous relevons ce défi en produisant des recherches impactantes et des tests sur le terrain qui démontrent comment l’IA générative peut soutenir le bien-être financier des ménages LMI et renforcer la justification commerciale d’une conception plus active pour ce segment de consommateurs sous-desservi.

Pour l’avenir, l’impact systémique d’une conception technologique inclusive dépendra de la mise à l’échelle de ces insights par les grands acteurs des services financiers. Pour nous, faire évoluer la conception inclusive à grande échelle passera par l’utilisation de nos recherches pour collaborer avec de plus grandes organisations cherchant à exploiter les avancées de l’IA afin de soutenir la santé financière de leurs clients et de leurs employés.

12. Quel conseil donneriez-vous aux institutions financières souhaitant exploiter l’IA tout en maintenant la confiance et la transparence avec leurs clients ?

Les ménages à revenu faible ou modéré préfèrent souvent faire affaire directement avec une personne, mais ont le moins accès aux agences physiques. Cet écart représente une opportunité clé pour l’IA de fournir un soutien personnalisé que recherchent ces ménages, sans avoir besoin d’augmenter le nombre d’agences ou de personnel de support client.

Cependant, pour favoriser une adoption plus large, les institutions financières doivent gagner et renforcer la confiance dans les chatbots auprès des personnes à revenu faible ou modéré — une partie de cette confiance dépend de l’expérience avec le chatbot, l’autre partie étant liée à l’industrie dans son ensemble, à mesure que la technologie IA gagne en acceptation et en sécurité.

Les principales préoccupations des utilisateurs de chatbots sont la sécurité et la confidentialité. En général, ils expriment un manque de confiance dans l’IA conversationnelle pour être utile, protéger leurs données ou agir dans leur intérêt. Bien que beaucoup dans le secteur soient enthousiasmés par le potentiel de l’IA, les personnes à revenu faible ou modéré la perçoivent souvent avec plus de scepticisme, comme une technologie encore à ses débuts, dont la valeur directe pour eux n’a pas encore été pleinement démontrée.

Des politiques de données transparentes, un branding rassurant, des messages clairs, et la possibilité de revenir à un agent humain en cas de besoin contribueront à instaurer et renforcer la confiance. Développer des interactions utiles et personnalisées via l’IA générative, allant au-delà des simples informations de base comme les soldes ou les transactions récentes, aidera également à démontrer la valeur de la technologie.

Il est aussi essentiel de mettre en avant le concept de confiance acquise. L’objectif n’est pas seulement de faire en sorte que les gens aient confiance dans les chatbots, mais de concevoir ces outils de manière à ce que cette confiance soit justifiée.