IA, Confianza y los Desatendidos - Entrevista con Paula Grieco, vicepresidenta sénior en Commonwealth

Paula Grieco es Vicepresidenta Senior en Commonwealth.

¡Descubre las principales noticias y eventos del sector fintech!

Suscríbete al boletín de FinTech Weekly

Leído por ejecutivos de JP Morgan, Coinbase, Blackrock, Klarna y más

La inteligencia artificial financiera tiene un largo camino por recorrer, no solo en términos de velocidad, precisión o regulación, sino en la forma en que genera confianza. Especialmente entre aquellos que no han sido tradicionalmente los primeros en la fila cuando se implementa nueva tecnología.

En FinTech Weekly, hemos seguido el trabajo de Commonwealth, una organización sin fines de lucro centrada en construir seguridad financiera para hogares de ingresos bajos y moderados (LMI). Su trabajo de campo, explorado en nuestro editorial reciente, reveló una clara tensión: mientras los usuarios de LMI están abiertos a herramientas como chatbots, todavía esperan experiencias que realmente los sirvan — no solo funciones reempaquetadas diseñadas para otra persona.

Esta semana, profundizamos más.

Hablamos con Paula Grieco, Vicepresidenta Senior en Commonwealth, para entender qué se necesita realmente para que la IA sea efectiva — y segura — para las comunidades desatendidas. Desde principios de diseño hasta la confianza ganada, pasando por copilotos y fatiga por chatbots, ella comparte por qué la intención importa más que la innovación por sí sola.

Es una visión fundamentada y reflexiva de cómo podría — y debería — ser la tecnología financiera inclusiva.

Lee la entrevista completa a continuación.

2.  La colaboración reciente de Commonwealth con JPMorgan Chase proporcionó ideas clave sobre el papel de la IA en la mejora de la seguridad financiera para hogares LMI. ¿Cuáles fueron los hallazgos más sorprendentes o impactantes de esta investigación?

Nuestra investigación ilumina el inmenso potencial de la IA, específicamente los chatbots, para ofrecer orientación y apoyo personalizados a comunidades con ingresos bajos, siempre que los chatbots sean diseñados cuidadosamente considerando las necesidades y perspectivas de este grupo.

Dos hallazgos clave:

*   Los clientes ven en los chatbots herramientas positivas para mejorar su bienestar financiero. Nuestros datos mostraron que el 57% de los encuestados afirmó que usar chatbots mejoró su situación financiera. La investigación también reveló que las personas con ingresos bajos a moderados (LMI) desean funciones de construcción de crédito, presupuestación y gestión de deudas.

*   Los encuestados valoraron un espacio sin juicios con un chatbot para hacer preguntas financieras sensibles, sin preocuparse por la vergüenza o la autoconciencia que podría acompañar esa misma conversación cara a cara con un representante humano.

3.  ¿Cómo ves la evolución de la IA conversacional en el sector de servicios financieros, especialmente para comunidades desatendidas?

Idealmente, la próxima generación de chatbots impulsados por IA generativa serán asistentes financieros que apoyen mejor las actividades financieras de estos hogares y ganen confianza en poblaciones que a menudo desconfían del sistema financiero y de compartir datos en línea. Existe una gran oportunidad para que los proveedores de servicios financieros ofrezcan capacidades más complejas, matizadas y orientadas a la acción en sus chatbots.

Cuando los clientes usan chatbots financieros ahora, principalmente buscan información de cuenta o intentar resolver un problema. Menos del 20% de los encuestados en nuestra encuesta nacional han utilizado chatbots para asesoramiento financiero, educación, recomendaciones de productos, solicitar créditos o préstamos, y abrir o cerrar cuentas. Sin embargo, nuestra investigación muestra que hay demanda de chatbots que puedan asistir en estas acciones bancarias. Enfocarse en estas funciones al desarrollar chatbots puede aumentar su uso y utilidad entre estos clientes.

Para bancos e instituciones financieras que no están listos para lanzar copilotos financieros de IA generativa directamente a los consumidores, esta tecnología puede apoyar a los empleados del banco, como representantes de atención al cliente, para ofrecer respuestas mejores, más precisas y oportunas durante las interacciones.

4.  ¿Cuáles son algunos de los mayores desafíos para garantizar que las herramientas financieras impulsadas por IA sean equitativas y efectivas para hogares liderados por personas negras, latinas y mujeres?

Con todas las tecnologías emergentes, es necesario hacer un esfuerzo intencional para asegurar que las necesidades de quienes tienen ingresos bajos a moderados estén incluidas en el proceso de desarrollo y en las decisiones de diseño. Hemos descubierto que una asociación privada/filantrópica con instituciones financieras desde etapas tempranas ayuda a generar impulso para estos esfuerzos. Al ampliar la base de evidencia, también ayudamos a construir el argumento de negocio.

Hemos visto un potencial significativo en guías de diseño relacionadas con aspectos como aumentar la confianza ganada, que puede permitir que la IA conversacional apoye la salud financiera sin incrementar mucho los costos.

5.  Según tu investigación, ¿cuáles son los principios clave de diseño que los proveedores de servicios financieros deberían considerar al integrar IA para apoyar a usuarios LMI?

Commonwealth ha creado un recurso, la Guía de IA Financiera para el Bien, para ofrecer orientaciones prácticas de diseño a los proveedores de servicios financieros que atienden a poblaciones LMI. Desarrollamos estas recomendaciones basándonos en investigaciones exhaustivas con instituciones financieras, proveedores de chatbots y personas que viven con LMI.

La guía está organizada en torno a cuatro objetivos principales de diseño. Aquí te doy uno o dos ejemplos para cada uno:

2.  Ganar confianza: La principal preocupación de la mayoría de nuestros encuestados al usar un chatbot fue la seguridad. Aquí, las instituciones financieras pueden enfatizar la seguridad de los datos mediante mensajes claros sobre las medidas que toman, además de dar a los usuarios control sobre qué datos se almacenan.
4.  Fomentar la participación: Crear una experiencia en la que los usuarios sepan qué pueden hacer estas herramientas y cuándo, generando claridad sobre sus funciones. También, perseguir la “proactividad inteligente”. Por ejemplo, integrar chatbots que aparezcan en los momentos más útiles, sin ser demasiado insistentes o agresivos, para evitar parecer spam.
6.  Aumentar valor: Anticipar las necesidades del cliente. La limitada accesibilidad a sucursales físicas crea una oportunidad para que los chatbots realicen acciones pequeñas que los clientes tendrían que hacer en el banco. Equilibrar automatización y control permitiendo a los usuarios activar o desactivar funciones financieras automatizadas, e incluir “redes de seguridad” que pausen la transferencia automática de dinero si el saldo cae por debajo de un umbral determinado.
8.  Mejorar accesibilidad: Ofrecer soporte multilingüe y orientación adaptada a tu base de clientes, enfocándose en funciones amigables para móvil. Nuestra investigación mostró que más de la mitad de los encuestados prefiere acceder a su banca a través del móvil.

6.  ¿Puedes compartir historias de éxito o estudios de caso donde la IA conversacional haya mejorado significativamente el bienestar financiero de personas LMI?

Lo que sabemos es que el 57% de los usuarios en nuestro estudio de campo indicaron que usar un chatbot financiero tuvo un impacto positivo en su situación financiera. Aunque estos resultados iniciales son prometedores, las herramientas de IA generativa aún están en sus primeras etapas, y nuestra investigación continua ayudará a construir una base de evidencia sobre su efectividad para mejorar el bienestar financiero de las personas LMI.

7.  ¿Qué riesgos o consecuencias no deseadas deben tener en cuenta las instituciones financieras al implementar herramientas financieras impulsadas por IA?

Lo importante es que las personas con ingresos bajos a moderados no queden excluidas. Cuando las instituciones desarrollan herramientas, es fundamental que comprendan las oportunidades inherentes y las formas de atender a esta base de clientes.

Existen muchos organismos enfocados específicamente en los riesgos y consecuencias de las herramientas impulsadas por IA, así como en los sesgos y la precisión de los grandes modelos de lenguaje. Más allá de eso, queremos asegurarnos de que se aborde una preocupación principal: la relevancia de las recomendaciones financieras para las situaciones individuales de los usuarios. Las instituciones pueden aumentar la participación del cliente y ganar su confianza asegurando que la información que proporcionan sea precisa y transparente.

La IA presenta una oportunidad sin precedentes para que las personas con ingresos bajos accedan a asesoramiento y herramientas que tradicionalmente no estaban disponibles para ellas, ya sea en inversión o gestión financiera personal. Estas herramientas pueden ser personalizadas y adaptadas a las situaciones únicas de cada persona con LMI. Es una oportunidad enorme para que los proveedores financieros amplíen su base de clientes.

8.  ¿Cómo pueden las instituciones financieras medir el impacto real de las herramientas impulsadas por IA en la seguridad y bienestar financiero de los usuarios?

Los fundamentos del bienestar financiero: ¿Hay un aumento en el ahorro, una reducción en la deuda, una mejora en las puntuaciones de crédito al usar estas herramientas?

También podemos encuestar la experiencia de interacción con el chatbot — ¿ha aumentado la confianza? ¿Hay mayor interés en productos que puedan mejorar el bienestar financiero? En cuanto a asesoramiento, ¿se tomaron acciones tras recibirlo?

Los bancos también pueden realizar pruebas A/B con diferentes grupos de consumidores que interactúan con chatbots frente a aquellos que no, para ver si hay una diferencia medible entre ellos.

9.  ¿Qué papel juega la supervisión humana en la implementación de herramientas de IA para servicios financieros, y cómo pueden los proveedores encontrar el equilibrio adecuado entre automatización y apoyo humano?

Una forma de aumentar la confianza ganada en la IA es asegurarse de que haya un humano accesible en los momentos adecuados durante la interacción. Aquí, el uso de copilotos por parte de empleados del banco puede ser beneficioso. Tener acceso a un humano en vivo cuando sea necesario aumenta la confianza y la experiencia con la herramienta de IA.

El uso de IA conversacional permitirá a los representantes de atención al cliente atender mejor y más rápidamente las necesidades complejas de sus clientes y miembros, ofreciendo un toque humano en puntos clave de la interacción cuando un agente en vivo sea deseable.

La transparencia también es fundamental para construir confianza en cualquier interacción. Por ejemplo, debes saber si estás hablando con un chatbot o con una persona real.

10.  Mirando hacia el futuro, ¿cuáles son las oportunidades más emocionantes para la IA en la inclusión financiera en los próximos cinco años?

La IA generativa representa la próxima evolución en el soporte de IA conversacional, ofreciendo un compromiso personalizado y sensible al contexto a un nivel que se asemeja mucho más al apoyo humano que la estructura de árbol de decisiones de la mayoría de los chatbots financieros actuales. Las aplicaciones iniciales de la IA generativa en finanzas se han centrado principalmente en tareas administrativas, donde hay oportunidad de apoyar a los agentes de atención al cliente. Identificar cómo la IA generativa puede ofrecer soporte personalizado a escala en un contexto financiero es una oportunidad clave para impulsar el desarrollo en este sector.

La construcción de confianza ganada será especialmente crucial para una adopción más amplia de la IA generativa, que los participantes en nuestras pruebas y grupos focales aún ven con más escepticismo que los chatbots tradicionales. Sin embargo, los beneficios potenciales de ofrecer un nivel más avanzado de soporte en las aplicaciones de servicios financieros hacen de la IA generativa la tecnología más emocionante a seguir en el sector financiero. Quienes puedan desarrollar soporte confiable y de confianza en IA generativa estarán en la vanguardia de esta nueva era en la construcción de relaciones con clientes a gran escala.

Otras oportunidades específicas que vemos son copilotos y asistentes personales que puedan ofrecer orientación financiera integral adaptada a las necesidades individuales, un coach financiero personal, por así decirlo. También esperamos que los avances en IA conversacional jueguen un papel valioso en promover la salud financiera de los trabajadores, proporcionando información y orientación para navegar sistemas complejos de beneficios laborales.

11.  ¿Cómo ves la evolución del papel de las organizaciones sin fines de lucro como Commonwealth en la promoción del uso responsable de la IA en los servicios financieros?

Históricamente, el diseño de nuevas tecnologías se ha centrado en su adopción por parte de consumidores de altos ingresos, dejando de lado las necesidades de los hogares con ingresos bajos a moderados. A través de nuestra iniciativa Tecnologías Emergentes para Todos (ETA), nos enfocamos en asegurarnos de que las necesidades de las personas financieramente vulnerables sean entendidas, visibles, introducidas en conversaciones relevantes e integradas en soluciones. Estamos en un punto de inflexión crítico en la escalabilidad de la IA, y creemos que es urgente seguir investigando e identificando las formas en que la IA puede impactar positivamente a esta población.

Actualmente, existe poca investigación y adopción en el campo sobre este tema, y algunos proveedores que entrevistamos mencionaron la necesidad de estudios a mayor escala para construir la evidencia que puedan usar para justificar internamente este tipo de diseño. Nosotros estamos afrontando este desafío produciendo investigaciones impactantes y pruebas de campo que demuestren cómo la IA generativa puede apoyar el bienestar financiero de los hogares con LMI y fortalecer el argumento de negocio para diseñar más activamente para este segmento desatendido.

De cara al futuro, el impacto sistémico del diseño inclusivo dependerá de la escala con la que actores principales en los servicios financieros apliquen estos conocimientos. Para nosotros, escalar el diseño inclusivo dependerá de aprovechar nuestra investigación para asociarnos con organizaciones mayores que busquen capitalizar los avances en IA para apoyar la salud financiera de sus clientes y trabajadores.

12.  ¿Qué consejo darías a las instituciones financieras que quieren aprovechar la IA manteniendo la confianza y transparencia con sus clientes?

Las familias con ingresos bajos a moderados prefieren interactuar directamente con una persona, pero tienen menos acceso a sucursales físicas. Esta brecha destaca una oportunidad clave para que la IA brinde el apoyo personalizado que buscan sin necesidad de aumentar el número de sucursales o personal de atención.

Sin embargo, para lograr una adopción más amplia, las instituciones financieras deben ganar y fortalecer la confianza en los chatbots entre las personas con ingresos bajos a moderados — esto es, en parte, específico de la experiencia con el chatbot, y en parte una cuestión de toda la industria, a medida que la tecnología de IA gana aceptación y mejora en seguridad y calidad.

Las principales preocupaciones de las personas que interactúan con chatbots son la seguridad y la privacidad. En general, las personas expresan desconfianza en que la IA conversacional sea útil, proteja sus datos o actúe en su mejor interés. Aunque muchos en el mundo empresarial están entusiasmados con el potencial de la IA, las personas con ingresos bajos a moderados probablemente la ven con más escepticismo, como una tecnología nueva que aún no ha demostrado su valor directo para ellas.

Políticas de datos transparentes, mensajes y branding tranquilizadores, y mantener la conexión con un agente humano como respaldo, ayudarán a construir y ganar confianza. Desarrollar interacciones útiles y personalizadas mediante IA generativa que vayan más allá de ofrecer información básica como saldos y transacciones recientes, también ayudará a demostrar el valor de la tecnología.

También es importante enfatizar el concepto de confianza ganada. El objetivo no es solo convencer a las personas de confiar en los chatbots, sino diseñarlos de manera que esa confianza esté justificada.