Генеральний директор DeepMind висловив занепокоєння щодо швидкої комерціалізації ШІ: якщо б залишити лабораторії ще кілька років, людство, можливо, вже подолало б рак

Голова Google DeepMind Хасабіс зітхає, що конкуренція в галузі штучного інтелекту відбувається надто поспішно, і якби технології мали більше часу для досліджень у лабораторіях, можливо, людство вже подолало б рак.

ШІ швидко змінює людство: кожні кілька тижнів або навіть днів з’являються нові технології та інструменти, але один із ключових гравців цієї хвилі — генеральний директор Google DeepMind і лауреат Нобелівської премії з хімії 2024 року Деміс Хасабіс — вважає, що темпи конкуренції в галузі ШІ занадто поспішні, і якби він керував процесом, ШІ міг би більше часу проводити у лабораторіях, і можливо, людство вже подолало б рак.

Хасабіс розкрив цю думку у подкасті відеожурналіста Клео Абрам, висловлюючи своє розчарування сучасним розвитком ШІ. Раніше він у інтерв’ю журналу «Тайм» позиціонував себе як науковця, наголошуючи, що дослідження ШІ — це пошук знань і розуміння світу.

Він зазначив, що його початковою мотивацією у галузі ШІ було не створення чат-ботів, а прискорення наукових відкриттів. Найвідомішим їхнім досягненням є AlphaFold — система, яка вирішила «проблему згортання білка», що залишалася невирішеною у біології понад 50 років. Хасабіс підкреслює, що це принесло користь понад трьом мільйонам учених у світі, особливо у дослідженнях хвороб, таких як малярія, де ШІ надає безкоштовну базу структурних даних, дозволяючи дослідникам пропустити базові експерименти і перейти безпосередньо до розробки ліків.

Джерело зображення: Youtube. Результати досліджень AlphaFold зробили Хасабіса одним із лауреатів Нобелівської премії.

Він вважає, що якби ШІ міг більше часу перебувати у лабораторіях, зосереджуючись на таких ключових питаннях, людство, можливо, вже зробило б більш визначальні прориви у лікуванні раку або у матеріалознавстві.

Передові технології потрапляють до масового споживача за кілька місяців, але при цьому втрачається ресурс для вирішення найважливіших проблем

Хасабіс у інтерв’ю намалював ідеальний шлях розвитку ШІ — так званий «модель CERN». Він сподівається, що процес створення універсального штучного інтелекту має бути схожим на роботу Великого адронного колайдера (CERN): з дотриманням строгих, обережних і продуманих наукових методів, щоб рухатися вперед лише після глибокого розуміння кожного кроку.

Однак реальність відхилилася від цього ідеалу: наприкінці 2022 року популярність ChatGPT і прориви у генеративному ШІ спричинили хаос у світовій конкуренції. Він зізнається, що це прискорило впровадження технологій, і передові рішення за кілька місяців потрапляють до масового користування, але водночас це позбавляє ресурсів для вирішення найважливіших проблем.

Щоб здобути перевагу на ринку і залишитися лідером у технологіях, темпи розробки були змушені прискоритися. Хасабіс зізнається, що тепер вони вже не можуть розвивати технології так обережно і філософськи, як мріяв раніше, з ретельною оцінкою кожного наступного кроку.

Хоча чат-боти корисні для підсумків і мозкових штурмів, вони мають суттєві недоліки, зокрема галюцинації, але бізнесовий тиск змушує швидко виводити ці експериментальні продукти на ринок. Це спричиняє перерозподіл досліджень і ресурсів у бік створення універсальних моделей, що орієнтовані на масового користувача.

Щоб знайти баланс між реальністю і ідеалом, Хасабіс займає більш прагматічну позицію: з одного боку, керує розробкою споживчих AI-проектів, таких як Gemini у Google, а з іншого — інвестує у прикладний AI (Narrow AI). Він вважає, що чекати появи універсального штучного інтелекту не потрібно: системи, як AlphaFold, що спеціалізуються на вирішенні конкретних задач, вже можуть принести людству реальні вигоди у енергетиці, матеріалознавстві та медицині.

AlphaGo — рука Бога, що відкрила можливість перевищення людського мислення

Впевненість Хасабіса у ШІ значною мірою базується на перемозі AlphaGo у 2016 році над корейським гросмейстером Лі Седоль. У цій грі AlphaGo зробив знаменитий хід — «37-й хід», який тоді вважали неможливим для людини, але зрештою привів до перемоги системи.

Джерело зображення: gogameguru.com. Той хід AlphaGo, який, за словами Хасабіса, порушив людські уявлення про гру і став проривом у здатності ШІ виходити за межі людського мислення.

З цього сигналу він зрозумів, що ШІ вже здатен перевищувати людський досвід і шукати нові рішення. Він прагне застосувати цю здатність у науці.

AlphaFold — найкращий приклад такого мислення. Традиційні методи потребують сотень тисяч доларів і кілька років для розкриття структури одного білка. А AlphaFold 2 вже передбачив структури майже 200 мільйонів білків, відомих науці.

Зараз Хасабіс веде команду у глибше дослідження розробки ліків: традиційний процес займає близько 10 років і має лише 10% шансів на успіх. Він заснував компанію Isomorphic Labs, яка використовує AlphaFold 3 і наступні моделі для «віртуального відбору»: за допомогою ШІ можна за кілька хвилин змоделювати сотні тисяч сполук і їхню взаємодію з білками, а також перевірити токсичність для понад 20 тисяч білків людського організму, щоб на етапі комп’ютерного моделювання відсіяти більшість невдалих кандидатів і залишити лише найперспективніші.

Обмеження ШІ: дві головні загрози

Однак із посиленням технологій ШІ і входженням у еру агентів штучного інтелекту, Хасабіс дедалі більше турбується про майбутнє. Він класифікує ризики у дві категорії: перша — «злочинці» (Bad Actors), які можуть зловживати технологіями, що раніше використовувалися для лікування хвороб або створення нових матеріалів, у злочинних цілях.

Друга — більш фантастична, але реальна загроза — «збій ШІ» (Going rogue). Коли системи стають надзвичайно розумними і мають високу автономію, важко гарантувати, що вони точно виконають людські цілі і не обійдуть системи безпеки — це дуже складне технічне завдання.

У відповідь на ці виклики Хасабіс закликає провідні дослідницькі інститути, уряди і академічні кола створити міжнародні механізми співпраці, підкреслюючи, що на останньому етапі досягнення AGI (загального штучного інтелекту) потрібно більше досліджень безпеки.

Хоча й шкодує, що ШІ не залишився у лабораторіях ще кілька років, Хасабіс зберігає оптимізм щодо майбутніх 50 років. Він вірить, що ШІ допоможе людству у розв’язанні ядерного синтезу, відкритті кімнатної сверхпровідності і навіть знизить вартість космічних подорожей. Для нього ШІ — це не просто технологія, а збільшувальне скло для пошуку істини у світі, і незалежно від відповідей, він прагне дізнатися правду.

• Статтю ліцензовано для публікації: «Цифрова епоха»
• Оригінальна назва: «Лауреат Нобелівської премії скаржиться: «Комерціалізація ШІ занадто швидка»: якщо б залишили лабораторії ще кілька років, людство вже подолало б рак!»
• Автор оригіналу: Чень Цзяньцзюнь