Рівень судження: Чому ШІ не є розумним, поки лідери не стануть розумнішими

Гільєрмо Дельгадо Апарісіо — глобальний лідер з штучного інтелекту в Nisum.

Відкрийте для себе найкращі новини та події у фінтеху!

Підписуйтеся на розсилку FinTech Weekly

Читають керівники JP Morgan, Coinbase, Blackrock, Klarna та інших компаній

Штучний інтелект у фінтеху охоплює широкий спектр застосувань, від виявлення шахрайства та алгоритмічної торгівлі до динамічного кредитного скорингу та персоналізованих рекомендацій продуктів. Однак у звіті Управління фінансового регулювання та нагляду (Financial Conduct Authority) зазначається, що з 75% компаній, які використовують ШІ, лише 34% розуміють, як він працює.

Проблема полягає не лише у відсутності обізнаності. Це глибше — у неправильному розумінні сили та масштабів аналітики даних, з якої виникає ШІ. Масове впровадження генеративних інструментів ШІ привернуло увагу керівництва. Але багато з тих, хто визначає, як впроваджувати ШІ, не розуміють його основних принципів — калькулюсу, статистики та складних алгоритмів.

Візьмімо закон Бенфорда — простий статистичний принцип, який виявляє шахрайство, знаходячи закономірності у числах. ШІ базується на тому ж типі математики, лише масштабованій на мільйони транзакцій одночасно. Знявши гучність, залишається основа — статистика та алгоритми.

Саме тому важливою є грамотність керівників у сфері ШІ. Лідери, які не можуть відрізнити межі аналітики від можливостей ШІ, ризикують довіряти системам понад міру або недооцінювати їх через страх. Історія показує, що трапляється, коли керівники неправильно інтерпретують технології: регулятори колись намагалися заборонити міжнародні дзвінки IP, але технологія швидше за правила. Те саме відбувається з ШІ. Його не можна блокувати або сліпо впроваджувати; потрібен розсуд, контекст і відповідальне керівництво.

Лідерам у фінтеху потрібно закривати ці прогалини, щоб відповідально та ефективно використовувати ШІ. Це означає розуміти межі аналітики та ШІ, розвивати навички керування цими системами та застосовувати здоровий глузд для визначення, коли і як довіряти їхнім результатам.

Обмеження, сліпі зони та ілюзії ШІ

Аналітика аналізує минулі та поточні дані, щоб пояснити, що сталося і чому. ШІ виростає з цієї основи, використовуючи передову аналітику для прогнозування майбутніх подій і, все частіше, для автоматичного прийняття рішень або дій.

Завдяки своїм винятковим навичкам обробки даних, легко зрозуміти, чому керівники фінтеху вважають ШІ своєю магічною кулею. Але він не може вирішити всі проблеми. Люди все ще мають природну перевагу у розпізнаванні шаблонів, особливо коли дані неповні або “забруднені”. ШІ може мати труднощі з інтерпретацією контекстуальних нюансів, які швидко зрозуміють люди.

Однак помилка в тому, що неповні дані роблять ШІ безкорисним. Аналітичні моделі можуть працювати з неповними даними. Але справжнє виклик — знати, коли застосовувати ШІ, а коли покладатися на людський розсуд для заповнення прогалин. Без цього ретельного контролю ШІ може створювати значні ризики.

Однією з таких проблем є упередженість. Коли фінтехи тренують ШІ на застарілих наборах даних, вони часто успадковують їхній багаж. Наприклад, ім’я клієнта може випадково слугувати ознакою статі, або прізвище — ознакою етнічної приналежності, що може спотворювати кредитний рейтинг у спосіб, який жоден регулятор не схвалить. Ці упередження, легко приховані у математиці, часто потребують людського контролю для виявлення та виправлення.

Коли моделі ШІ стикаються з ситуаціями, на яких їх не тренували, виникає зміщення моделі (model drift). Волатильність ринку, зміни регуляторних вимог, еволюція поведінки клієнтів і макроекономічні зрушення можуть впливати на ефективність моделі без людського моніторингу та переналаштування.

Складність переналаштування алгоритмів зростає, коли фінтехи використовують “чорні ящики”, що не дозволяють бачити взаємозв’язки між змінними. У таких випадках вони втрачають можливість передавати ці знання керівництву. Крім того, помилки та упередження залишаються прихованими у непрозорих моделях, підриваючи довіру та відповідність.

Що потрібно знати керівникам у фінтеху

Опитування Deloitte показало, що 80% стверджують, що їхні ради директорів мають мало або зовсім не мають досвіду з ШІ. Але керівники вищого керівництва не можуть дозволити собі вважати ШІ “проблемою технічної команди”. Відповідальність за ШІ лежить на керівництві, тому фінтех-лідери мають підвищувати свою кваліфікацію.

Мультианалітична грамотність

Перед впровадженням ШІ керівники фінтеху повинні вміти швидко перемикатися між різними аспектами — аналізом чисел, бізнес-кейсом, операціями та етикою — і бачити, як ці фактори перетинаються та формують результати ШІ. Вони мають розуміти, як статистична точність моделі впливає на кредитний ризик. І вміти розпізнавати, коли змінна, яка здається фінансово обґрунтованою (наприклад, історія погашень), може створювати соціальні або регуляторні ризики через кореляцію з захищеними ознаками, такими як вік або етнічна приналежність.

Ця грамотність з’являється у спілкуванні з фахівцями з відповідності, обговоренні з менеджерами продуктів досвіду користувачів і перегляді результатів моделей з дата-сцентистами для виявлення ознак зміщення або упереджень.

У фінтеху 100% уникнути ризиків неможливо, але за допомогою мультианалітичної грамотності керівники можуть визначити, які ризики варто приймати, а які зруйнують цінність для акціонерів. Цей навик також допомагає швидко виявляти та реагувати на упередженість — не лише з точки зору відповідності, а й з стратегічної та етичної.

Наприклад, якщо модель кредитного скорингу, побудована на ШІ, схиляється до певної групи клієнтів, виправлення цієї нерівності — не просто завдання для науки про дані; це захист репутації компанії. Для фінтехів, орієнтованих на фінансову інклюзію або під регуляторним контролем ESG, лише дотримання закону недостатньо. Розсуд — це знання, що правильно, а не лише дозволено.

Грамотність у пояснюваності

Пояснюваність — основа довіри. Без неї керівники, клієнти та регулятори залишаються з питаннями, чому модель прийшла до певного висновку.

Це означає, що керівники повинні вміти розрізняти моделі, які можна інтерпретувати, і ті, що потребують постфактумних пояснень (наприклад, SHAP або LIME). Вони мають ставити питання, коли логіка моделі незрозуміла, і розпізнавати, коли “точність” сама по собі не може виправдати рішення “чорної скриньки”.

Упередженість не виникає з нічого; вона з’являється, коли моделі тренують і застосовують без достатнього контролю. Пояснюваність дає керівникам можливість виявляти ці проблеми рано і діяти до того, як вони спричинять шкоду.

ШІ — це як автопілот у літаку. Більшу частину часу він працює гладко, але коли настає шторм, пілот має взяти кермо. У фінансах цей принцип той самий. Команди повинні мати можливість зупинити торгівлю, змінити стратегію або навіть скасувати запуск продукту, коли умови змінюються. Пояснюваність працює разом із готовністю до втручання, що гарантує, що керівництво розуміє ШІ і залишається у контролі, навіть при масштабних операціях.

Модель ймовірнісного мислення

Керівники звикли до детермінованих рішень, наприклад, якщо кредитний рейтинг нижче 650 — відмовити у кредиті. Але ШІ працює інакше, і це — суттєва зміна парадигми.

Для керівників ймовірнісне мислення вимагає трьох навичок:

*   Інтерпретувати діапазони ризиків, а не бінарні "так/ні".
*   Оцінювати рівень довіри до прогнозу з урахуванням інших бізнесових або регуляторних аспектів.
*   Знати, коли потрібно втрутитися і застосувати людський розсуд.

Наприклад, ймовірнісна модель фінтеху може позначити клієнта як високоризикового, але це не означає автоматично “відмовити”. Це може означати “дослідити далі” або “змінити умови кредиту”. Без цієї нюансованості автоматизація ризикує стати грубим інструментом, що руйнує довіру клієнтів і піддає компанію регуляторним санкціям.

Чому рівень розсуду визначатиме переможців у фінтеху

Майбутнє фінтеху не визначатиме, хто має найпотужніші моделі ШІ, а хто використовує їх із найгострішим розсудом. Оскільки ШІ стає товаром, вигоди від підвищення ефективності — це вже базовий рівень. Відмінність у перемозі — у здатності втручатися, коли алгоритми стикаються з невизначеністю, ризиком і етичними зонами сірого.

Рівень розсуду — це не абстрактна ідея. Це проявляється, коли керівники вирішують зупинити автоматичну торгівлю, відкласти запуск продукту або скасувати кредитний рейтинг, що не враховує реальний контекст. Ці моменти — не провали ШІ; це доказ того, що людський контроль — останній рівень створення цінності.

Стратегічне узгодження — це місце, де розсуд стає інституціоналізованим. Сильна стратегія ШІ не лише визначає технічні дорожні карти; вона забезпечує перегляд ініціатив, оновлення командних навичок у сфері ШІ, створення необхідної архітектури даних і зв’язок кожного впровадження з чітким бізнес-результатом. У цьому сенсі розсуд — не епізодична дія, а частина операційного режиму, що дозволяє керівникам керувати на основі цінностей.

Фінтехам потрібні лідери, які вміють балансувати між швидкістю та масштабами ШІ і людським розсудом, контекстом, нюансами і довгостроковим баченням. ШІ може за секунди виявити аномалії, але лише люди можуть вирішити, коли потрібно протистояти математиці, переосмислити припущення або ризикнути сміливим кроком для зростання. Цей рівень розсуду перетворює ШІ з інструменту на конкурентну перевагу.

Про автора:

Гільєрмо Дельгадо — глобальний лідер з штучного інтелекту в Nisum та операційний директор Deep Space Biology. Маючи понад 25 років досвіду у біохімії, штучному інтелекті, космічній біології та підприємництві, він розробляє інноваційні рішення для людського добробуту на Землі та у космосі.

Як консультант з корпоративної стратегії, він сприяв формуванню бачення NASA щодо ШІ у космічній біології та отримав нагороди за інновації. Має ступінь магістра наук у галузі штучного інтелекту з Georgia Tech, здобутий із відзнакою. Також викладає у університеті курси з машинного навчання, великих даних і геноміки.