Карен Хао: Мотиви прибутку керують розвитком ШІ, сучасні технології шкодять суспільству, а експлуатація праці є поширеною в галузі | Щоденник генерального директора

Основні тези

• Розробка ШІ керується мотивами прибутку, що потенційно може призвести до появи більш досконалих цивілізацій.
• Нинішні технології ШІ завдають значної шкоди людям і суспільству.
• Компанії ШІ експлуатують працю, створюючи цикли звільнень і перенавчання.
• Переваги ШІ розподіляються нерівномірно поза межами Силіконової долини.
• Щоб зрозуміти ШІ, потрібно розглядати різноманітні глобальні перспективи, а не лише Силіконову долину.
• Немає наукового консенсусу щодо людського інтелекту, що ускладнює цілі ШІ.
• Компанії маніпулюють визначенням штучного загального інтелекту, керуючись власними інтересами.
• ШІ створює екзистенційні ризики, потенційно аж до знищення.
• Сем Альтман вплинув на управлінські рішення OpenAI через занепокоєння щодо Ілона Маска.
• Сем Альтман — фігура, що поляризує, і ставлення до нього відрізняється залежно від відповідності його баченню.
• Риторика про те, що ШІ приносить користь усім, часто є оманливою.
• Суспільний вплив ШІ потребує ширшого розуміння, ніж лише технополіси.
• Термін “штучний загальний інтелект” використовується компаніями стратегічно.
• Безпека ШІ — критично важлива тема для обговорення через потенційні ризики.
• Динаміка лідерства в технійдустрії зумовлена особистими та стратегічними міркуваннями.

Вступ від гостя

Кейрен Хао — авторка, яка співпрацює з The Atlantic, співведуча подкасту BBC The Interface та авторка бестселера New York Times “Empire of AI”. Раніше вона була репортеркою The Wall Street Journal, висвітлюючи технологічні компанії США та Китаю. Її розслідувальна журналістика розкрила відомості від інсайдерів OpenAI про боротьбу за владу в індустрії та етичні занепокоєння.

Перегони з прибутком за першість у ШІ

• Цивілізації, які прискорюють дослідження ШІ, можуть стати більш досконалими, але це зумовлено мотивами прибутку.

  — Karen Hao

• Конкурентний ландшафт розробки ШІ значною мірою залежить від фінансових стимулів.

• Можливо, цивілізація, яка прискорює свої дослідження за допомогою ШІ, і стане більш досконалою цивілізацією.

  — Karen Hao

• Великі технологічні компанії мотивовані колосальними прибутками, пов’язаними з досягненнями в ШІ.

• Спільна риса всіх них полягає в тому, що вони неймовірно заробляють на цьому міфі.

  — Karen Hao

• Розуміння цих мотивів є критично важливим для аналізу майбутнього ШІ.

• Перегони за першість у ШІ можуть загострити глобальну нерівність.

• Мотиви прибутку можуть перекрити етичні міркування в розробці ШІ.

Суспільна шкода нинішніх технологій ШІ

• Поточне виробництво технологій ШІ завдає значної шкоди людям.

  — Karen Hao

• Негативні наслідки технологій ШІ часто залишають поза увагою.

• Етичні наслідки розвитку ШІ потребують більшої уваги.

• Вплив ШІ на суспільство включає експлуатацію та шкоду окремим людям.

• Виробництво цих технологій прямо зараз завдає людям дуже багато шкоди.

  — Karen Hao

• Щоб протидіяти цим шкодам, потрібен критичний погляд на суспільний вплив ШІ.

• Фокус на прибутку може призводити до нехтування соціальною відповідальністю.

• Потрібна більша обізнаність про суспільну шкоду від ШІ для поінформованих обговорень.

Експлуатація праці в індустрії ШІ

• Компанії ШІ експлуатують працю та створюють цикл звільнень і перенавчання, який шкодить працівникам.

  — Karen Hao

• Індустрія ШІ порушує традиційні траєкторії кар’єри та безпеку робочих місць.

• Вони використовують надзвичайно багато праці, що ламає “сходи” кар’єри.

  — Karen Hao

• Працівників часто звільняють, а потім перенавчають, щоб підтримувати моделі ШІ.

• Цей цикл експлуатації виявляє системні проблеми на ринку праці в індустрії ШІ.

• Економічні наслідки процесів навчання ШІ потребують більш прискіпливого вивчення.

• Шкідливі наслідки для працівників — це значне занепокоєння.

• Розуміння цих динамік є критично важливим для подолання експлуатації праці в ШІ.

Невідповідність між риторикою про ШІ та реальністю

• Риторика про те, що ШІ приносить користь усім, розсипається, якщо оцінювати її вплив поза Силіконовою долиною.

  — Karen Hao

• Обіцянки компаній ШІ часто не відповідають реальності, з якою стикаються різні спільноти.

• Ви справді починаєте бачити, як ця риторика розвалюється, коли вирушаєте туди, де немає нічого схожого на Силіконову долину.

  — Karen Hao

• Невідповідність підкреслює потребу в ширшому розумінні впливу ШІ.

• Переконання про потенційні вигоди ШІ розподіляються у світі нерівномірно.

• Вивчення різноманітних перспектив є критично важливим для розуміння реального впливу ШІ.

• Обмеження обіцянок ШІ підкреслюють важливість інклюзивності.

• Комплексний погляд на вплив ШІ потребує виходу за межі технопарків.

Неоднозначність у визначенні штучного загального інтелекту

• Відсутність наукового консенсусу щодо людського інтелекту ускладнює визначення та прагнення до штучного загального інтелекту.

  — Karen Hao

• Визначити цілі ШІ складно через неоднозначність людського інтелекту.

• Для цієї сфери немає “контрольних точок”, і для індустрії також немає “контрольних точок”.

  — Karen Hao

• Компанії можуть маніпулювати визначенням ШЗІ, щоб відповідати власним інтересам.

• Ці компанії просто можуть використовувати термін “штучний загальний інтелект” так, як їм заманеться.

  — Karen Hao

• Стратегічна гнучкість у формулюванні технологій впливає на регуляторні обговорення.

• Суспільне сприйняття та довіра залежать від того, як компанії визначають ШЗІ.

• Розуміння цих викликів є критично важливим для поінформованих обговорень щодо ШІ.

Потенційні екзистенційні ризики ШІ

• ШІ, ймовірно, є найімовірнішим шляхом знищити все.

  — Karen Hao

• Потенційні ризики ШІ підкреслюють нагальність розмов про безпеку.

• Історичний контекст важливий для розуміння екзистенційних загроз ШІ.

• Ключові постаті на кшталт Сема Альтмана та Ілона Маска відіграють значні ролі в обговореннях щодо ШІ.

• Альтман пише для публіки або ж виступає від імені публіки — у нього на думці не просто аудиторія як така.

  — Karen Hao

• Розмова про безпеку ШІ є критично важливою для вирішення потенційних ризиків.

• Усвідомлення суспільством екзистенційних загроз ШІ необхідне для ухвалення поінформованих рішень.

• Нагальність дискусій про безпеку ШІ неможливо переоцінити.

Динаміка лідерства та стратегічні занепокоєння в OpenAI

• Сем Альтман вплинув на процес ухвалення рішень щодо лідерства прибуткового підрозділу OpenAI.

  — Karen Hao

• Занепокоєння щодо непередбачуваності Ілона Маска вплинули на управлінські рішення.

• Потім Альтман звернувся особисто до Грега Брокмана і сказав: хіба вам не здається, що мати Муска генеральним директором цієї компанії було б небезпечнувато?

  — Karen Hao

• Внутрішні процеси ухвалення рішень в OpenAI демонструють стратегічні занепокоєння.

• Динаміка між Маском і Альтманом була суттєвою під час формування OpenAI.

• На управлінські рішення впливали особисті та стратегічні міркування.

• Розуміння цієї динаміки дає уявлення про лідерство в техносфері.

• Стратегічні занепокоєння щодо лідерства є критично важливими для розуміння структури OpenAI.

Поляризоване сприйняття Сема Альтмана

• Сем Альтман — поляризувальна постать, і його сприйняття залежить від того, наскільки він відповідає його баченню майбутнього.

  — Karen Hao

• Сприйняття Альтмана різниться залежно від відповідності його баченню.

• Якщо ви поділяєте бачення Альтмана щодо майбутнього, то ви думатимете, що він — найкращий актив, який тільки можна мати на своєму боці.

  — Karen Hao

• Ті, хто не погоджується з його баченням, можуть відчувати, що ним маніпулюють.

• Якщо ви не погоджуєтеся з його баченням майбутнього, то ви починаєте відчувати, ніби вами маніпулюють з його боку.

  — Karen Hao

• Суб’єктивний характер оцінювання лідерства очевидний у випадку Альтмана.

• Розуміння динаміки лідерства та бачення є критично важливим у техносфері.

• Двоїстість сприйняття підкреслює складність лідерства в техносфері.

                  **Розкриття:** Цю статтю відредагувала Редакційна команда. Для отримання додаткової інформації про те, як ми створюємо та перевіряємо контент, див. нашу Редакційну політику.