Чому Жива структура є серцем просування інновацій у фінтех

Імран Афтаб, співзасновник і CEO 10Pearls.

Відкрийте для себе топ новини та події з фінтеху!

Підпишіться на розсилку FinTech Weekly

Читають керівники у JP Morgan, Coinbase, Blackrock, Klarna та багатьох інших

Фінанси завжди були рушієм цифрових інновацій, і недавня хвиля ШІ доводить, що винятків немає. Як галузь, що дедалі більше опиняється під тиском швидше, більш персоналізовано та ефективно надавати клієнтам цифровий досвід, вбудовування передових технологій є непідлягаючим обговоренню.

Оскільки фінтехи переходять від експериментів із ШІ до вбудовування його в свої ключові стратегії, питання полягає не в тому, яку цінність дає ШІ, а в тому, як ним керують у часі. Без чітких принципів, вбудованих у центральну рамку, фінтехи дуже швидко зіткнуться з ризиками з погляду репутації, регуляторіки та безпеки.

Жива рамка не лише охоплює всі аспекти, але робить це, залишаючись у темпі з еволюцією стратегій. Вона стимулює, а не стримує інновації — без шкоди для фінтехів у процесі.

Пошук балансу між справедливістю та точністю

Швидка цифровізація фінансових послуг також створює більше можливостей для потенційного шахрайства та кібератак. Однак безконтрольний ШІ часто стає жертвою галюцинацій і упередженості — тобто власників рахунків можуть помилково позначати як підозрілих саме ті системи, які створені для їхнього захисту.

Фінтехи мають гарантувати, що ШІ-системи працюють послідовно та відповідають вимогам до продуктивності. Погане керування даними — це наріжний камінь безконтрольного ШІ, який нарощується до катастрофічних наслідків. Це не питання лише діяти в реальному часі, але робити це точно й справедливо. Коли дані, що інформують ці системи, не керуються належним чином, розгортання приречене на провал.

Уявіть ШІ-систему, введену в оману неправильно керованими та перекошеними даними, які помилково позначили легітимну велику транзакцію як шахрайство на основі поштового індексу власника рахунку. Певні демографічні групи виділяються на підставі неточних історичних даних, що лише підсилює упередженість проти людей або груп. Дискримінація не лише руйнує довіру та взаємини, а й має довгострокові наслідки для репутації установи, особливо тому, що напряму порушує закони про захист споживачів. Фінтехи мають юридичний обов’язок справедливо й безпечно використовувати дані на всьому життєвому циклі ШІ-системи, і проблемою є не інструменти, які опиняються в центрі уваги, коли виникають порушення, а команди, які їх використовують.

Наслідки множаться понад це. Такі сценарії створюють додаткове навантаження на команди, які тоді змушені втручатися, марнуючи дорогоцінні людські ресурси й час. Критично важливо також те, що вони виявляють серйозні прогалини в існуючій основі. Некеровані дані — слабке місце в цифровій тканині фінтеху, що робить його вразливим до реального шахрайства та кіберзагроз.

Жива рамка керування нівелює ці ризики, адже вона вимагає постійного моніторингу, тестування та переналаштування моделей ШІ. Це дає фінансовим провайдерам змогу максимізувати стійкість до безпекових атак на постійній основі, регулярно оцінюючи й оновлюючи системи, коли змінюються дані та ризики. Водночас упередженість викорінюється, прокладаючи шлях до справедливості та точності в усьому.

Забезпечення пояснюваності та прозорості

Фінтехи, які дотримуються живої рамки, не дозволяють ШІ працювати як чорна скринька, коли його внутрішні механізми є загадкою як для команд, так і для користувачів. Власники рахунків, персонал і регуляторні органи потребують заспокоєння у вигляді пояснюваності та прозорості щодо будь-якої інтегрованої технології.

Щоб викорінити упередженість, потрібно розуміти, як і чому інструмент ШІ дійшов певного рішення. Системи ШІ вже використовуються в процесах на кшталт скорингу кредитів, але, на жаль, вони не застраховані від упередженості. Наслідки цього серйозні: дискримінація, зокрема проти меншин, яким непропорційно часто відмовляють у кредитах через хибний ШІ. Регламенти на кшталт CFPB і закони про Fair Lending вимагають пояснюваності та відстежуваності інструментів ШІ, що застосовуються у фінансових послугах. Вони також вимагають, щоб упередженість була усунена з рівняння.

У живій моделі керування пояснюваність і відстежуваність вбудовані в кожен use case і робочий процес:

*   Джерела та місця призначення даних чітко фіксуються.
*   Усі зміни в моделях, тести та спостереження записуються.
*   Логіка рішень повідомляється так, щоб регулятори й клієнти, а не лише оператори, розуміли, як і чому ШІ-система дійшла рекомендації або вжила певної дії.

Гарантування дотримання AML

Фінансові установи звертаються до автоматизації та ШІ, щоб відстежувати підозрілі транзакції й активність у рамках систем протидії легалізації доходів, одержаних злочинним шляхом. Однак коли ШІ належним чином не наглядають і не керують, виникають дві проблеми:

*   Хибнопозитивні результати: легітимні транзакції помилково позначаються, що призводить до розчарованих клієнтів і марнування дорогоцінних людських ресурсів.
*   Хибнонегативні результати: реальні загрози пропускаються, ставлячи під загрозу цілі набори даних і цифрові системи, підводячи репутацію організації під удар і руйнуючи довіру.

За підходу governance-as-guardrails ці ризики мінімізуються завдяки добре керованим, прозорим і таким, що піддаються аудиту даним. Чіткі сповіщення також інтегруються з негайними практичними висновками, щоб забезпечити швидке втручання, коли це потрібно.

Оскільки рішення на основі ШІ продовжують розвиватися, адаптивні живі рамки стають дедалі необхіднішими. Вони не лише захищають установи й окремих осіб від потенційних ризиків участі ШІ, а й надають фінтехам суттєву конкурентну перевагу. Ці рамки забезпечують їм засоби для посилення довіри та підвищення репутації, надаючи підзвітне керування, справедливість і прозорість, а також гарантуючи надійність і продуктивність.