Керівники великих технологічних компаній, які грають у «російську рулетку» у гонці озброєнь штучним інтелектом, можуть ризикувати людським вимиранням, попереджає провідний дослідник

Глобальна боротьба за домінування в галузі штучного інтелекту досягла критичної точки, але один із провідних світових комп’ютерних науковців попередив, що великі технологічні компанії безвідповідально грають із майбутнім людства.

Рекомендоване відео

Найгучніші голоси в галузі ШІ зазвичай поділяються на два табори: ті, хто хвалить технологію як змінювач світу, та ті, хто закликає до обережності — або навіть стримування — перш ніж вона стане неконтрольованою загрозою. Стюарт Рассел, піонер у галузі штучного інтелекту з Каліфорнійського університету в Берклі, твердо належить до другого табору. Одним із його головних занепокоєнь є те, що уряди та регулятори зусиллями намагаються йти в ногу з швидким впровадженням технології, залишаючи приватний сектор у гонитві до фінішу, яка ризикує перетворитися на небезпечну конкуренцію, не бачену з часів холодної війни.

«Для урядів дозволяти приватним компаніям фактично грати в російську рулетку з кожною людиною на планеті — на мою думку, це повна зневага до обов’язків», — сказав Рассел AFP на Саміті з впливу ШІ в Нью-Делі.

Поки керівники технологічних компаній змагаються у «гонці озброєнь» за створення найкращої моделі штучного інтелекту, що, за словами галузі, згодом принесе величезні досягнення у медичних дослідженнях та підвищенні продуктивності, багато хто ігнорує або зменшує значення ризиків, стверджує Рассел. У найгіршому випадку він вважає, що швидкість інновацій без регулювання може призвести до вимирання людства.

Рассел має знати про екзистенційні ризики, що лежать в основі швидкого впровадження ШІ. Британський вчений-комп’ютерник досліджує ШІ понад 40 років і ще у 1995 році опублікував один із найавторитетніших підручників з цієї теми. У 2016 році він заснував дослідницький центр у Берклі, який зосереджений на безпеці ШІ, що пропагує «доказово корисні» системи штучного інтелекту для людства.

У Нью-Делі Рассел зазначив, наскільки далеко від цілі здається компаніям і урядам у досягненні цієї мети. Його критика зосереджена на швидкому розвитку систем, які з часом можуть перевершити своїх творців, залишаючи людську цивілізацію «побічним ефектом у цьому процесі».

Керівники великих компаній у галузі ШІ усвідомлюють ці екзистенційні небезпеки, але опиняються у пастці через ринкові сили. «Кожен із керівників основних компаній ШІ, я вважаю, прагне роззброїтися», — сказав Рассел, але вони не можуть зробити це «односторонньо», оскільки їхню позицію швидко займе конкуренція, і вони можуть бути негайно усунені інвесторами.

Нова холодна війна

Обговорення екзистенційних ризиків і потенційного зникнення людства колись було зарезервоване для страху неконтрольованого ядерного розповсюдження під час холодної війни, коли великі держави накопичували зброю через страх, що суперники їх перевищать. Але скептики, такі як Стюарт Рассел, все частіше застосовують цю ж саму модель до епохи штучного інтелекту. Конкуренція між США та Китаєм часто описується як «гонка озброєнь» у галузі ШІ, з секретністю, терміновістю та високими ставками, що визначали ядерне протистояння між Вашингтоном і Москвою у другій половині ХХ століття.

Володимир Путін, президент Росії, майже десять років тому коротко підсумував величезні ставки: «Хто стане лідером у цій сфері, той стане правителем світу», — сказав він у 2017 році.

Хоча сучасна гонка озброєнь не вимірюється ядерними боєголовками, її масштаб відображають величезні суми капіталовкладень. Країни та корпорації наразі витрачають сотні мільярдів доларів на енергоємні дата-центри для навчання та роботи ШІ. В США, за оцінками аналітиків, капітальні витрати на ШІ цього року перевищать 600 мільярдів доларів.

Але агресивні дії корпорацій ще не були стримані регуляторними заходами, зазначив Рассел. «Дуже важливо, щоб кожна з урядових структур усвідомлювала цю проблему. Саме тому я тут», — сказав він, маючи на увазі саміт в Індії.

Китай та ЄС — серед держав, що активно регулюють розвиток ШІ. В інших країнах ситуація більш вільна. В Індії уряд обрав переважно дерегулятивний підхід. У США адміністрація Трампа підтримувала ідеї про відкритий ринок для ШІ і прагнула скасувати більшість регуляцій на рівні штатів, щоб дати компаніям свободу дій.

Приєднуйтесь до нас на Саміті інновацій у сфері праці Fortune 19–20 травня 2026 року в Атланті. Наступна ера інновацій у сфері праці вже тут — і старий сценарій переписується. На цьому ексклюзивному, енергійному заході зберуться найінноваційніші лідери світу, щоб дослідити, як ШІ, людство і стратегія знову переформатовують майбутнє роботи. Реєструйтеся зараз.