Искусственный интеллект в соблюдении требований — это не черный ящик, а проверка ответственности: интервью с Романом Элошвили

Роман Элошвили — основатель ComplyControl, стартапа, использующего искусственный интеллект для обеспечения соответствия требованиям и обнаружения мошенничества в финансовых учреждениях.

Откройте для себя главные новости и события финтеха!

Подписывайтесь на рассылку FinTech Weekly

Читают руководители JP Morgan, Coinbase, Blackrock, Klarna и другие

Что на самом деле проверяет ИИ в области соблюдения требований: технологии или нас самих?

В финансовых услугах соблюдение требований уже перестало быть просто функцией. Это активная точка давления — место столкновения регулирования, рисков и операций. По мере внедрения технологий ИИ в эту сферу, один вопрос постоянно всплывает: насколько мы можем автоматизировать процессы и кто остается ответственным, когда что-то идет не так?

Преимущество ИИ в обнаружении мошенничества и соблюдении требований легко понять. Финансовые институты сталкиваются с растущими ожиданиями обработки огромных объемов данных, реагирования на меняющие угрозы и соблюдения новых правил — при этом не жертвуя скоростью или точностью. Автоматизация, особенно при использовании машинного обучения, предлагает способ снизить операционную нагрузку. Но она также вызывает более глубокие опасения по поводу управления, объяснимости и контроля.

Эти противоречия не являются теоретическими. Они разворачиваются в реальном времени, когда финансовые компании внедряют модели ИИ в роли, традиционно выполнявшихся аналитиками-человеками. За сценой возникают новые риски: ложные срабатывания, слепые зоны аудита и алгоритмические решения, остающиеся непонятными как для пользователей, так и для регуляторов.

В то же время, специалисты по соблюдению требований вынуждены менять роли. Вместо ручной проверки каждой транзакции они теперь контролируют инструменты, которые это делают. Эта переориентация — от исполнителя к оценщику — требует не только новых технических навыков, но и более сильного чувства этической и процедурной ответственности. ИИ может масштабировать анализ данных. Он может выявлять несоответствия. Но он не способен полностью объяснить намерения, интерпретировать контекст или взять на себя вину.

Понимание этих ограничений критически важно. И немногие лучше, чем Роман Элошвили, основатель британской компании по технологиям соблюдения требований ComplyControl, подготовлены к их изучению. Его работа находится на стыке рисков, автоматизации и надзора — там, где эффективность алгоритмов сталкивается с регуляторным контролем.

Более десяти лет в отрасли позволяют Роману видеть, как меняются команды по соблюдению требований и как ИИ трансформирует их рабочие процессы и обязанности. Он утверждает, что потенциал ИИ заключается не в устранении человеческого участия, а в его переосмыслении — в ясности, что машины должны делать, а что по-прежнему должны выполнять люди.

Этот сдвиг требует не только технических улучшений. Он требует культурного переосмысления ответственности. Прозрачные системы, проверяемые процессы и четко назначенная человеческая ответственность — это уже не просто особенности, а минимальный стандарт. Когда ИИ внедряется в критическую инфраструктуру, он не просто решает проблемы. Он вводит новую категорию решений, требующих активного стратегического управления.

В этом интервью для FinTech Weekly Роман делится реалистичным взглядом на то, что нужно для ответственного внедрения ИИ в области соблюдения требований и предотвращения мошенничества. Его позиция не рассматривает автоматизацию как неизбежность, а как выбор — такой, который требует постоянного человеческого суждения, операционной ясности и готовности задавать сложные вопросы о том, где действительно находится доверие.

Мы рады поделиться его мнением в то время, когда многие в финтехе задаются вопросом не о том, стоит ли внедрять ИИ, а как сделать это так, чтобы не потерять стандарты, благодаря которым финансовые системы функционировали изначально.

1. Вы построили карьеру на пересечении соблюдения требований и технологий. Можете ли вы вспомнить момент, когда поняли, что ИИ может кардинально изменить подход к управлению рисками?

Я бы не сказал, что это был один конкретный момент, который все изменил. Скорее, это был постепенный процесс. В значительной части своей карьеры я работал с крупными европейскими банками, и постоянно замечал, что многие из них значительно отстают в области цифровых банковских решений. Особенно это было заметно по сравнению с более развитыми финтех-центрами.

Несколько лет назад, когда тема развития ИИ снова начала активно обсуждаться, я заинтересовался этим. И, изучая технологии и их работу, понял, что искусственный интеллект способен кардинально изменить подход банков к соблюдению требований, делая их более похожими на современные, более гибкие финтех-компании.

Это и подтолкнуло меня к запуску своей компании в 2023 году. Сложность соблюдения требований и управления рисками только растет с каждым годом. Столкнувшись с этой реальностью, наша миссия проста: внедрять решения на базе ИИ в финансовые компании и помогать им справляться с растущими вызовами более эффективно.

2. С вашей профессиональной точки зрения, как изменилась роль человеческих специалистов по мере развития ИИ-инструментов в области соблюдения требований и обнаружения мошенничества?

Прежде всего, хочу сразу сказать одну вещь. В многих областях существует распространенное опасение, что ИИ заменит человека. И в сфере соблюдения требований и управления рисками мой ответ — нет, по крайней мере, не в ближайшее время.

Хотя искусственный интеллект уже трансформирует нашу индустрию, он еще далек от совершенства. Поэтому участие человека остается важным фактором. Регламенты по соблюдению требований постоянно меняются, и кто-то должен нести ответственность, если системы не справляются или совершают ошибки. На текущем этапе развития ИИ еще трудно объяснить свои решения ясно, поэтому он не готов работать полностью автономно. Особенно в области, где доверие и прозрачность — на первом месте.

Тем не менее, ИИ активно облегчает процессы соблюдения требований. Например, в зависимости от настроек системы ИИ может отмечать подозрительные транзакции или даже временно блокировать их, запрашивая дополнительную проверку. Нет необходимости, чтобы человек вручную просматривал каждую деталь, если что-то действительно кажется странным. И по мере развития таких систем они продолжат снижать необходимость ручной работы, позволяя командам сосредоточиться на более тонких задачах, требующих человеческого участия.

Я считаю, что в будущем появится гибридная модель, где специалисты по соблюдению требований будут все лучше использовать ИИ-инструменты. Они будут внедрять и обслуживать системы ИИ, а сама ИИ-обработка упростит их работу, анализируя сложные данные и предоставляя рекомендации. Однако окончательное решение останется за человеком.

3. Работая с ИИ в чувствительных сферах, таких как финансовое соблюдение требований, как лично вы подходите к вопросу сохранения доверия и ответственности при принятии решений?

Конечно. Как я уже говорил, при использовании ИИ в соблюдении требований доверие — ключевой аспект.

Именно поэтому мы сделали наши системы ИИ полностью прозрачными. Они не работают как «черный ящик» — каждое предложение системы основано на прослеживаемых правилах и данных. Мы ведем полный аудит каждого решения, чтобы оно было полностью объяснимым. Эта практика уже показала свою ценность при взаимодействии с регуляторами.

Окончательное решение всегда принимает специалист по соблюдению требований. ИИ просто предлагает обоснованную рекомендацию, которую человек может легко проверить и решить — одобрить или отклонить.

4. Ваша карьера насчитывает более 10 лет. Как изменилось ваше отношение к автоматизации и человеческому контролю за время работы, особенно сейчас, когда ИИ становится все более автономным?

Определенно. Говоря шире о состоянии внедрения ИИ, чем дальше развивается эта технология, тем больше мы постепенно доверяем ей автономии — при условии, что она тщательно протестирована и продолжает показывать надежность.

Но еще больше меняется роль человека-специалиста в этой системе. Вместо микроменеджмента каждого случая специалисты по соблюдению требований все чаще выступают в роли стратегических надзирателей. Они могут быстро просматривать целые группы похожих случаев, оценивать работу системы и корректировать модели на основе полученных результатов.

Другими словами, фактическая роль специалистов по соблюдению требований переходит от ручной работы к управлению системами ИИ, которые делают работу за них.

5. Работа с ИИ в области управления рисками вызывает сложные этические вопросы. Как лично вы разрабатываете рамки для ответственного проектирования или внедрения решений на базе ИИ?

Мы основываем наш подход на двух ключевых принципах: прозрачном контроле и принципах ответственного ИИ. Каждая модель, которую мы используем, имеет назначенного ответственного. Оценки рисков, проверки эффективности и соблюдение требований проводятся регулярно.

Также мы делаем наши системы проверяемыми. Если алгоритм принимает решение, этот процесс можно просмотреть и подтвердить. Эта прозрачность — важная часть нашего обязательства по развитию ответственного ИИ.

6. В вашем опыте, какая самая сложная профессиональная урока вы усвоили о пределах или рисках чрезмерной зависимости от автоматизации в критических сферах, таких как предотвращение мошенничества?

Один из важных уроков — даже хорошо обученные модели могут «галлюцинировать» — ошибаться в тонких, но серьезных случаях.

ИИ может пропускать сложные схемы мошенничества или выдавать слишком много ложных тревог. Поэтому так важно сочетать ИИ с человеческим опытом — люди обладают гибким суждением и лучше разбираются в этике и общем контексте, чем ИИ.

Баланс между ними обеспечивает более надежные результаты. ИИ помогает справляться с объемом задач и снижать их сложность, а люди сохраняют необходимый уровень точности и доверия.

7. Какие личные принципы или привычки вы бы посоветовали молодым специалистам, входящим в области соблюдения требований, управления рисками или разработки ИИ, чтобы успешно адаптироваться к быстро меняющейся среде?

Прежде всего: никогда не прекращайте учиться. Технологический прогресс не имеет «паузы», и нужно идти в ногу или остаться позади. Здесь нет промежуточных вариантов.

Во-вторых, думайте широко. С развитием ИИ границы ролей стираются — технологии, финансы и регулирование становятся все более переплетенными. Я убежден, что широкий набор навыков и открытость к новым идеям станут определяющими качествами будущих профессионалов.

В-третьих — будьте гибкими. Изменения постоянны, и способность быстро адаптироваться станет вашим большим преимуществом.

И, наконец, развивайте сильные коммуникативные навыки и учитесь работать в команде. Как мы уже говорили, соблюдение требований — это пересечение бизнеса, технологий и права. Умение переключаться между этими областями и общаться с людьми из разных сфер — ценное качество, которое стоит развивать.