Искусственный интеллект, доверие и недостаточно обслуживаемые — интервью с Паулой Грикко, старшим вице-президентом в Commonwealth

Паула Грикко — старший вице-президент в Commonwealth.

Откройте для себя лучшие новости и события в финтехе!

Подписывайтесь на рассылку FinTech Weekly

Читают руководители JP Morgan, Coinbase, Blackrock, Klarna и других компаний

Финансовый ИИ еще далек от совершенства — не только в скорости, точности или регулировании, но и в способах завоевания доверия. Особенно со стороны тех, кто традиционно не был первыми в очереди при внедрении новых технологий.

В FinTech Weekly мы следим за работой Commonwealth, некоммерческой организации, сосредоточенной на создании финансовой безопасности для семей с низким и средним доходом (LMI). Их полевые исследования, освещенные в нашей недавней редакционной статье, выявили явное напряжение: хотя пользователи с низким и средним доходом готовы к использованию таких инструментов, как чат-боты, они все еще ждут опыта, который действительно служит им, а не просто переработанных функций для чужих целей.

На этой неделе мы углубились в тему.

Мы поговорили с Паула Грикко, старшим вице-президентом Commonwealth, чтобы понять, что действительно нужно для того, чтобы ИИ был эффективным — и безопасным — для недостаточно обслуживаемых сообществ. От принципов дизайна до заслуженного доверия, от совместных пилотов до усталости от чат-ботов — она делится, почему важны намерения, а не только инновации.

Это взвешенный и продуманный взгляд на то, каким может и должен быть инклюзивный финансовый технологический продукт.

Полное интервью читайте ниже.

2.  Недавнее сотрудничество Commonwealth с JPMorganChase дало важные инсайты о роли ИИ в повышении финансовой безопасности семей с низким доходом. Какие были самые удивительные или значимые выводы этого исследования?

Наши исследования показывают огромный потенциал ИИ, особенно чат-ботов, для предоставления персонализированных советов и поддержки сообществам с низким доходом — при условии, что чат-боты разработаны с учетом потребностей и взглядов этой группы.

Два ключевых вывода:

*   Клиенты в основном воспринимают чат-ботов как позитивные инструменты для улучшения своего финансового положения. Наши данные показали, что 57% респондентов считают, что использование чат-ботов улучшило их финансовое состояние. Также было выявлено, что люди с низким и средним доходом хотят функции по построению кредитной истории, бюджету и управлению долгами.

*   Участники ценили пространство без осуждения, где можно задавать чувствительные финансовые вопросы без страха стыда или неловкости, которые могут возникнуть при разговоре с человеком-оператором.

3.  Как вы видите развитие разговорного ИИ в сфере финансовых услуг, особенно для недостаточно обслуживаемых сообществ?

Идеально, следующее поколение чат-ботов, основанных на генеративном ИИ, станет финансовыми помощниками, которые лучше поддерживают финансовую деятельность этих семей и заслуживают доверия у групп, часто настороженно относящихся к взаимодействию с финансовой системой и обмену данными онлайн. Есть большая возможность для поставщиков финансовых услуг создавать более сложные, нюансированные и ориентированные на действия функции для своих чат-ботов.

Когда клиенты используют финансовых чат-ботов сейчас, они в основном ищут информацию о счетах или пытаются решить проблему. Менее 20% участников нашего национального опроса использовали чат-ботов для получения финансовых советов и обучения, рекомендаций по продуктам, подачи заявок на кредиты или займы, открытия или закрытия счетов. Однако наше исследование показывает, что существует спрос на чат-ботов, которые могут помогать в этих операциях. Фокусировка на таких функциях при разработке чат-ботов может повысить их использование и полезность для этих клиентов.

Для банков и финансовых учреждений, которые еще не готовы запускать генеративных ИИ-ко-пилотов для клиентов, эта технология может поддерживать сотрудников банка, таких как консультанты, чтобы они могли быстрее и точнее отвечать на запросы клиентов во время взаимодействий.

4.  Какие основные вызовы стоят перед обеспечением справедливости и эффективности финансовых инструментов на базе ИИ для чернокожих, латиноамериканских и женщин-руководителей домохозяйств?

При внедрении новых технологий важно сознательно учитывать потребности тех, кто зарабатывает низкий и средний доход. Мы обнаружили, что частное и благотворительное партнерство с финансовыми институтами на ранних этапах помогает нарастить импульс для таких усилий. Создавая базу данных доказательств, мы также формируем бизнес-кейс.

Мы видим значительный потенциал в разработке руководящих принципов, например, по увеличению заслуженного доверия, что позволяет разговорному ИИ поддерживать финансовое здоровье без существенных дополнительных затрат.

5.  Исходя из ваших исследований, какие ключевые принципы дизайна должны учитывать поставщики финансовых услуг при интеграции ИИ для поддержки пользователей с низким доходом?

Commonwealth создала ресурс — Руководство по финансовому ИИ для добра, — чтобы дать практические рекомендации по дизайну для поставщиков услуг, работающих с LMI. Эти рекомендации основаны на всесторонних исследованиях с финансовыми институтами, поставщиками чат-ботов и людьми с низким доходом.

Руководство структурировано вокруг четырех основных целей дизайна. Вот по одному примеру для каждой:

*   Заслужить доверие: большинство наших респондентов при использовании чат-бота беспокоились о безопасности. Здесь финансовые учреждения могут подчеркнуть меры по обеспечению безопасности данных через предварительные сообщения и дать пользователям контроль над тем, какая информация хранится.
*   Повысить вовлеченность: создавайте опыт, в котором пользователи понимают, что эти инструменты могут для них делать и когда, обеспечивая ясность функций. Также используйте «интеллектуальную проактивность»: интегрируйте чат-ботов, которые появляются в наиболее подходящее время, не будучи навязчивыми или агрессивными, чтобы не казаться спамом.
*   Повысить ценность: предугадывайте потребности клиента. Ограниченный доступ к физическим отделениям создает возможность для чат-ботов выполнять мелкие операции, для которых раньше приходилось идти в банк. Балансируйте автоматизацию и контроль, позволяя пользователям включать и отключать автоматические функции, а также добавляйте «запасные» функции, которые при низком балансе приостанавливают автоматические переводы.
*   Улучшить доступность: предоставляйте поддержку на нескольких языках и руководства, соответствующие вашей клиентской базе, сосредотачивайтесь на мобильных функциях. Наши исследования показали, что более половины респондентов предпочитают получать банковские услуги через мобильные телефоны.

6.  Можете ли вы поделиться историями успеха или кейсами, где разговорный ИИ значительно улучшил финансовое благополучие LMI-людей?

Из наших данных известно, что 57% участников полевого тестирования отметили положительный эффект использования финансового чат-бота на их финансовое положение. Хотя эти начальные результаты обнадеживают, генеративные ИИ-инструменты все еще находятся в зачаточном состоянии, и наше дальнейшее исследование продолжит накапливать доказательную базу их эффективности в улучшении финансового благополучия LMI.

7.  Какие риски или непредвиденные последствия должны учитывать финансовые учреждения при внедрении ИИ-решений?

Важно, чтобы люди с низким и средним доходом не оставались за пределами внимания. При разработке инструментов важно понимать возможности и способы обслуживания этой клиентской базы.

Существует множество организаций, сосредоточенных на рисках и последствиях ИИ, а также на предвзятости и точности больших языковых моделей. Кроме того, важно, чтобы основной вопрос — релевантность финансовых рекомендаций для индивидуальных ситуаций — был решен. Финансовые учреждения могут повысить вовлеченность клиентов и заслужить их доверие, обеспечивая точность предоставляемой информации и прозрачность.

ИИ открывает беспрецедентные возможности для людей с низким доходом получать советы и инструменты, ранее недоступные им, будь то инвестиционные инструменты или управление личными финансами. Эти инструменты можно персонализировать под уникальные ситуации таких клиентов, что представляет огромный потенциал для роста клиентской базы финансовых компаний.

8.  Как финансовые учреждения могут измерить реальное влияние ИИ-инструментов на безопасность и благополучие пользователей?

Основные показатели финансового благополучия: увеличиваются ли сбережения, снижается ли долг, улучшаются ли кредитные рейтинги при использовании этих инструментов?

Также можно опросить пользователей о их опыте взаимодействия с чат-ботом — выросло ли доверие? Проявляется ли больший интерес к продуктам, способным улучшить финансовое состояние? Были ли предприняты действия после получения советов?

Банки могут проводить A/B-тесты среди разных групп потребителей, взаимодействующих с чат-ботами и без них, чтобы определить, есть ли статистически значимая разница.

9.  Какую роль играет человеческий контроль в использовании ИИ в финансовых услугах, и как поставщики могут найти правильный баланс между автоматизацией и поддержкой человека?

Один из способов повысить заслуженное доверие к ИИ — обеспечить наличие человека, доступного в нужные моменты взаимодействия. В этом помогает использование совместных пилотов для сотрудников банка, работающих с клиентами. Наличие живого человека по мере необходимости повышает доверие и качество взаимодействия с ИИ.

Использование разговорного ИИ позволяет сотрудникам службы поддержки лучше и быстрее обслуживать сложные запросы клиентов, сохраняя человеческий подход в ключевые моменты взаимодействия, когда нужен живой агент.

Прозрачность также важна для формирования доверия: например, нужно знать, общаетесь ли вы с чат-ботом или с реальным человеком.

10.  Какие наиболее перспективные возможности ИИ в области финансовой инклюзии на ближайшие пять лет?

Генеративный ИИ — следующая эволюция разговорного ИИ, предлагающая персонализированное и контекстуально чувствительное взаимодействие, которое гораздо ближе к человеческой поддержке, чем структура решений большинства современных финансовых чат-ботов. Первые применения генеративного ИИ в финансах сосредоточены в основном на бэк-офисных задачах, где есть возможность поддерживать сотрудников службы поддержки. Определение способов масштабирования персонализированной поддержки с помощью генеративного ИИ в финансовом секторе — ключевая возможность для развития этой области.

Завоевание доверия будет особенно важным для более широкого внедрения генеративного ИИ, поскольку участники наших тестов и фокус-групп остаются более скептичны по сравнению с традиционными чат-ботами. Тем не менее, потенциал предоставления более продвинутого уровня поддержки в финансовых услугах делает генеративный ИИ самой захватывающей технологией в секторе. Те, кто сможет создать надежную и проверенную поддержку на базе генеративного ИИ, станут лидерами новой эпохи масштабных клиентских отношений.

Дополнительные возможности — совместные пилоты и личные помощники, которые могут предоставлять комплексные финансовые рекомендации, адаптированные к индивидуальным потребностям, а также личный финансовый коуч. Мы также ожидаем, что развитие разговорного ИИ сыграет важную роль в повышении финансового здоровья работников, предоставляя информацию и рекомендации по сложным системам корпоративных льгот.

11.  Как вы видите роль некоммерческих организаций, таких как Commonwealth, в формировании ответственного использования ИИ в финансовых услугах?

Исторически дизайн новых технологий ориентировался на потребности богатых потребителей, игнорируя нужды семей с низким доходом. Через нашу инициативу «Emerging Tech for All» (ETA) мы сосредоточены на том, чтобы потребности уязвимых финансово групп были поняты, видимы, включены в обсуждения и интегрированы в решения. Мы находимся в важной точке масштабирования ИИ и считаем срочным продолжать исследования и выявлять способы, как ИИ может положительно влиять на эти группы.

На сегодняшний день в этой области мало исследований и практического внедрения, и некоторые наши собеседники отмечали необходимость масштабных исследований для создания доказательной базы, которая поможет внутренне обосновать такие решения. Мы отвечаем на этот вызов, проводя значимые исследования и полевые испытания, демонстрирующие, как генеративный ИИ может поддерживать финансовое благополучие семей с низким доходом и формировать бизнес-кейс для более активного проектирования решений для этой недооцененной категории потребителей.

В будущем системное влияние инклюзивного дизайна технологий будет зависеть от масштабного применения этих идей крупными игроками в сфере финансовых услуг. Для нас масштабирование инклюзивного дизайна — это использование наших исследований в партнерстве с крупными организациями, стремящимися использовать достижения ИИ для поддержки финансового здоровья своих клиентов и работников.

12.  Какой совет вы бы дали финансовым учреждениям, желающим использовать ИИ, сохраняя доверие и прозрачность с клиентами?

Люди с низким и средним доходом больше заинтересованы в личном общении с человеком, но при этом у них наименьший доступ к отделениям. Этот разрыв создает важную возможность для ИИ — предоставлять персонализированную поддержку, которую ищут такие клиенты, без необходимости увеличивать число отделений или сотрудников поддержки.

Однако для более широкого внедрения необходимо заслужить и укрепить доверие к чат-ботам у людей с низким доходом — часть этого зависит от опыта взаимодействия с чат-ботами, часть — от отраслевых стандартов, поскольку технологии ИИ становятся более безопасными и качественными.

Главные опасения пользователей — безопасность и конфиденциальность. В целом, у людей есть недоверие к разговорному ИИ в вопросах полезности, защиты данных и воли действовать в их интересах. Хотя многие в бизнесе воодушевлены потенциалом ИИ, люди с низким доходом скорее относятся к нему скептически, воспринимая как новую технологию, которая еще должна доказать свою ценность.

Прозрачные политики обработки данных, уверяющие брендинг и сообщения, а также возможность обратиться к живому специалисту при необходимости — все это поможет укрепить доверие. Разработка полезных и персонализированных взаимодействий с помощью генеративного ИИ, выходящих за рамки базовой информации, такой как баланс счета и последние транзакции, также продемонстрирует ценность технологии.

Важно также подчеркнуть концепцию заслуженного доверия: цель — не просто убедить людей доверять чат-ботам, а так спроектировать их, чтобы это доверие было оправданным.