Найкращі венчурні інвестори: найбільший ризик штучного інтелекту полягає в тому, що він не ведеться так старанно, як може

Автор: Ву Сінь

Нещодавно Марк Андерсон опублікував на веб-сайті компанії статтю, чому штучний інтелект врятує світ, сміливо поставивши під сумнів раціональність поточних закликів до регулювання штучного інтелекту та систематично критикуючи аргументи, на яких базуються ці заклики.

Ця стаття об’єднує попередні інтерв’ю автора, статті та навіть думки економістів і політиків, якими він захоплювався. Вона поділена на п’ять частин, щоб зробити більш глибокий аналіз і тлумачення її основного змісту, допомагаючи читачам зрозуміти, чому він вважає оптимізм завжди найбезпечніше Вибирайте, і водночас бачите ризики, притаманні песимізму та скептицизму. Ці погляди можуть здатися багатьом божевільними, і важко думати про них таким чином. Але, як сказав Марк Андерсон, дебатуючи з людьми, ви можете приблизно побудувати модель мислення інших людей, і ви можете думати про проблеми з їх точки зору, і ваш спосіб мислення стане більш об’єктивним і нейтральним.

Песимізм поширений майже в кожному суспільстві. ChatGPT охопив світ, а генеральний директор Open AI Сем Альтман виступив на слуханнях у Конгресі США, закликаючи до регулювання ШІ.

Потім він підписав заяву про ризик зі Стюартом Расселом, Джеффрі Гінтоном, Йошуа Бенгіо та іншими.

Незабаром Маск також з’явився у спільному листі, підписаному тисячами людей, із закликом до лабораторії ШІ негайно призупинити дослідження. У цей час Марк Андерсон, керманич провідної світової компанії венчурного капіталу a16z, завжди встане на ноги і стане вболівальником, який «співає навпаки».

В основі американської культури лежить парадокс: теоретично ми любимо зміни, але коли зміни справді матеріалізуються та проявляються, вони піддаються масовій негативній реакції. Я дуже оптимістично налаштований, особливо коли йдеться про нові ідеї. Марк Андерсон вважає, що він, мабуть, найоптимістичніша людина, яку він коли-небудь зустрічав. «Принаймні останні 20 років, якщо ви робите ставку на оптимістів, загалом кажучи, ви маєте рацію».

У нього є всі підстави так думати. У 1994 році Марк Андерсон вперше приїхав до Кремнієвої долини, заснував Netscape і в найкоротші терміни завершив лістинг.

Андерсон, який босоніж сидів на троні, пізніше з’явився на обкладинці журналу Time і став моделлю Кремнієвої долини міфу про технологічне багатство, приваблюючи незліченну кількість тих, хто запізнився. У певному сенсі саме він розпалив вогонь у Кремнієвій долині, і є тим оптимістом, якого описав американський квантовий фізик Девід Дойч у «Початку нескінченності», який сподівається досягти, створюючи знання, прогресу, включаючи непередбачені наслідки такий прогрес. Песимізм буває різним. Вони будуть пишатися тим, що їхні діти дотримуються відповідних моделей поведінки, і нарікати на кожну реальну чи уявну новинку. Він намагається уникати всього, що не підтверджено безпечним.

Дуже небагато цивілізацій вижили завдяки обережнішому ставленню до інновацій. Як пише Девід Дойч у «Початку нескінченності», насправді більшість знищених цивілізацій із ентузіазмом дотримувалися принципу обережності (уникали всього, що невідомо як безпечне, щоб уникнути катастрофи). Все було стабільним і незмінним протягом останніх ста років, чого насправді ніколи не траплялося. Скептики завжди помиляються. Марк Андерсон теж це сказав.

**01. Регулювання штучного інтелекту: хто виграє? Хто постраждав? **

Марк Андерсон називає себе «прискорювачем ШІ». Віруючий, який сподівається прискорити соціальний процес, пов’язаний зі штучним інтелектом, щоб протистояти опору та здійснити великі соціальні зміни, природно, буде сповнений сумнівів щодо заклику до регулювання. «Існує думка, що державне регулювання має добрі наміри, доброзичливість і виконується належним чином. Це міф». Марк Андерсон давно вважав, що одним із недоліків американської системи є регулювання. Уряд продовжує формулювати закони та правила , тому багато хто схожий на такі закони, як «Не продавати алкоголь у неділю» та «Чоловікам заборонено їсти кімчі у вівторок». Регуляторний економіст Брюс Яндл у 1920-х роках запропонував концепцію, яка використовувалася для пояснення проблем державного регулювання: теорію бутлегерів і баптистів. Наприклад, Яндл вважає, що ухвалення заборони на алкоголь було спричинене не лише баптистами (баптистами, релігійне походження яких переконувало їх, що алкоголь завдав шкоди суспільству), а й підтримкою контрабандистів. Вони підтримують посилене державне регулювання, щоб зменшити конкуренцію з боку законних торговців — оскільки споживачі не могли напиватися на ринку під час заборони, вони, природно, звернулися до контрабандистів. Теорія бутлегерів і баптистів вказує на те, що баптисти забезпечують моральну основу для так званого регулювання (уряду не потрібно знаходити вагомих причин), тоді як бутлегери тихо переконують політиків за закритими дверима (співпраця інтересів), такий альянс Полегшіть політикам підтримку обох груп. **Теорія також стверджує, що такі альянси призводять до неоптимального законодавства, і хоча обидві групи задоволені результатом, для суспільства в цілому може бути краще не мати законодавства або мати інше законодавство. ** Марк Андерсон запозичив цю теорію, щоб показати, чому регулювання з добрими мотивами часто призводить до поганих справ.

«Часто результатом таких реформаторських кампаній є те, що контрабандисти отримують те, чого хочуть — регулятивне захоплення (регулюючі органи стають слугами кількох комерційних структур), відокремлену конкуренцію, створення картелів — у добре вмотивованих баптистів дивується, звідки їх прагнення до соціального прогрес йде не так?", - написав він у нещодавньому есе Чому ШІ врятує світ.

У сфері штучного інтелекту "баптисти" - це ті віруючі, які дійсно вірять, що штучний інтелект знищить людей. Деякі справжні віруючі навіть є новаторами цієї технології, і вони активно виступають за всілякі дивні та екстремальні обмеження ШІ. «Бутлегери (контрабандисти)» — це компанії штучного інтелекту та особи, відповідальні за напади на штучний інтелект і розпалювання паніки (на перший погляд, вони виглядають як «баптистська воля»), такі як «експерти з безпеки штучного інтелекту», «етики штучного інтелекту» та «штучні інтелекти». дослідників ризику», яких наймають для прогнозування кінця світу. «На практиці, навіть якщо баптисти щирі, ними маніпулюють і використовують їх як прикриття для своїх власних інтересів», — написав Марк Андерсон у великому есе. Те, що сталося». «Якщо існують регуляторні бар’єри для ризиків штучного інтелекту, тоді ці бутлегери (контрабандисти) отримають те, чого хочуть — підтримуваний урядом картель постачальників штучного інтелекту, який захищає їх від нових стартапів і впливу конкуренції з відкритим кодом».

02. Теорія безробіття та «фіксований пиріжок»

Оскільки Марк Андерсон насторожено ставиться до регулювання, він, природно, не погоджується з багатьма аргументами, висунутими на підтримку регулювання. Але не заперечував дискусійної цінності деяких тем. Мовляв, чи технології з’їдають усі робочі місця?Нерівність у доходах і дебати про зміну людського суспільства. ** Поширеною економічною помилкою є думка, що ринкова діяльність — це гра з нульовою сумою. Тобто, припустимо, що існує фіксований пиріг, де одна сторона може виграти лише за рахунок іншої. ** Автоматизація призводить до безробіття, що є свого роду «оманою фіксованого пирога». Марк Андерсон зазначив у великій статті: «Тобто в будь-який момент часу кількість праці є фіксованою або машинами, або людьми. Якщо це роблять машини, то люди безробітні». але це не правда. Наведу простий приклад: власник швейної фабрики купує велику кількість машин. Самі машини потребують робочої сили для виробництва, створюючи робочі місця, яких інакше б не існувало. Після того, як гроші за машину були «повернені», власник швейної фабрики отримав надприбуток через перевагу у собівартості. Є багато способів витратити ці гроші — розширення масштабу фабрики, інвестиції в ланцюжок поставок або купівля будинку, високе споживання, незалежно від того, як вони витрачаються, це створює можливості для працевлаштування в інших галузях. Звичайно, економічна перевага швейної фабрики не триватиме вічно. Для того, щоб конкурувати, конкуренти також почнуть купувати машини (тому працівники виробництва машин отримають більше можливостей працевлаштування). Пальто стає все більше, ціни впали, швейні фабрики не такі прибуткові, як раніше. Коли все більше і більше людей зможуть дозволити собі пальто за нижчою ціною, стимулюючи споживання, у швейній промисловості в цілому працюватиме більше людей, ніж це було до появи машин. Звичайно, також можливо, що після того, як пальто стане певною мірою дешевим, споживачі витрачатимуть заощаджені гроші на інші аспекти, тим самим збільшуючи зайнятість в інших галузях. "Коли технології застосовуються у виробництві, продуктивність також зростає, витрати зменшуються, а випуск збільшується. Результатом є зниження цін на товари та послуги, і ми матимемо додаткову купівельну спроможність купувати інші речі. Це збільшує попит, створюючи нові продуктів і нових галузей, створюючи нові робочі місця для людей, яких раніше витіснили машини», – пише Марк Андерсон. «Коли ринкова економіка функціонує належним чином і технології вільно впроваджуються, це буде нескінченний висхідний цикл. З’явиться більша економіка з вищим матеріальним добробутом, більшою кількістю галузей промисловості, продуктів і робочих місць», — написав Марк Андерсон. Що це означає, якщо вся існуюча людська праця буде замінена машинами? «Продуктивність зростатиме безпрецедентними темпами, існуючі товари та послуги стануть майже безкоштовними, купівельна спроможність споживачів зросте, а новий попит вибухне.

Підприємці створять запаморочливий набір нових галузей, продуктів і послуг і наймуть якомога більше працівників ШІ та людей, щоб задовольнити всі нові вимоги. Якщо припустити, що штучний інтелект знову замінить людську працю, цикл повториться, стимулюючи економічний розвиток і зростання робочих місць, що призведе до матеріальної утопії, яку Адам Сміт ніколи не наважувався уявити. " Людські потреби нескінченні, і технологічна еволюція є процесом постійного задоволення та визначення можливостей цих потреб.

Кожна нова продуктивність набуватиме іншої форми, каже Карлота Перес, економіст, яка вивчає технологічні зміни та фінансові бульбашки, але в кінцевому підсумку це не обов’язково означає, що робочих місць буде менше, а скоріше те, що визначення роботи відбувається таким чином: що змінилося. І навпаки, якщо суворо дотримуватися логічної послідовності, ми не тільки повинні розглядати всі нові технологічні досягнення як катастрофу, але й усі минулі технологічні досягнення також повинні розглядатися як такі ж жахливі. Якщо ви вважаєте, що машини є ворогом, то вам варто повернутися назад і розслабитися, чи не так? За цією логікою ми знову повертаємось до того, з чого все починалося – до натурального господарства, чи не краще було б, якби ви шили собі одяг?

**03. Хто спричиняє несправедливість? **

Окрім того, що машини спричиняють безробіття серед людей, соціальна несправедливість, спричинена технологіями, є ще одним аргументом для людей закликати до регулювання ШІ. "Якщо припустити, що штучний інтелект справді забирає всі робочі місця, як хороші, так і погані. Це призведе до величезної нерівності в багатстві, оскільки власники штучного інтелекту отримують усі економічні винагороди, а звичайна людина не отримує нічого". Андерсон пояснює це просто. Чи став би Маск багатшим, якби продавав машини лише багатим? Чи був би він багатшим, якби будував автомобілі лише для себе? звичайно, ні. Він максимізує свій прибуток, продаючи автомобілі у світі — найбільшому ринку. Електроенергія, радіомовлення, комп’ютери, Інтернет, мобільні телефони та пошукові системи — виробники цих технологій агресивно знижували ціни, поки вони не стали доступними для всіх. Так само ми вже маємо доступ до найсучаснішого генеративного штучного інтелекту від New Bing, Google Bard тощо безкоштовно або за низькою ціною. Це не тому, що вони дурні чи щедрі, а саме тому, що вони жадібні - збільшують розмір ринку та заробляють більше грошей. Таким чином, замість того, щоб технологія сприяла концентрації багатства, технологія в кінцевому підсумку розширює можливості всіх і захоплює більшу частину цієї цінності.

**Нерівність справді є великою соціальною проблемою, але вона зумовлена не технологіями, а тим, що ми не дозволяємо використовувати ШІ для зменшення нерівності. **Сектори економіки, зокрема житло, освіта та охорона здоров’я, як правило, стикаються з найбільшим опором застосуванню ШІ. Як показано на графіку нижче, блакитна крива представляє галузі, які дозволяють технологічним інноваціям покращувати якість, одночасно знижуючи ціни на продукцію, наприклад споживча електроніка, автомобілебудування та домашнє устаткування. У березні цього року Марк Андерсон написав у блозі Чому ШІ не спричинить безробіття.

Ця діаграма показує зміни цін на послуги в дюжині основних секторів економіки з поправкою на інфляцію.

Червона частина представляє галузі, які не дозволяють запроваджувати технологічні інновації (таким чином знижуючи ціни). Розумієте, ціни на освіту, охорону здоров’я та житло – усе це різко зростає. "Галузі, представлені червоним кольором, жорстко регулюються урядом і самою галуззю. Ці галузі є монополіями, олігополіями та картелями з усіма перешкодами для змін, які ви можете собі уявити: офіційне державне регулювання та регулятивне захоплення, фіксація цін, ціноутворення в радянському стилі, професійне ліцензування тощо. Технологічні інновації в цих секторах зараз практично заборонені».

Ми входимо у світ фрагментації, де телевізор із плоским екраном, що закриває всю стіну, коштує 100 доларів, а чотирирічний диплом коледжу коштує 1 мільйон доларів. Отже, що відбувається з часом? Ціни зростають на регульовані, нетехнологічні продукти; ціни падають на менш регульовані, технологічні продукти. Перший розширюється, другий звужується. У крайньому випадку 99% економіки буде регульованим нетехнологічним сектором, куди ми прямуємо.

04. Контроль мовлення та ефект слизького шляху

Страх, що технологія, яку ми створюємо, повстане й знищить нас, глибоко вкорінений у нашій культурі. Щодо того, чи ґрунтуються такі страхи на будь-якій раціональній основі, і якою мірою їх можна відрізнити від культів, відповідь залишається відкритою. Андерсон класифікує їх як тип логічної неправильної класифікації, коли речі певної категорії представлені так, ніби вони належать до іншої категорії. «ШІ — це машина, як і ваш тостер, вона не оживає», — написав він. Тим не менш, «якщо боти-вбивці не спіймають нас, то ненависті та дезінформація не спіймає нас». Бачите, «привид», який закликає до регулювання соціальних медіа, продовжує переслідувати епоху ШІ. Кожна країна, включаючи Сполучені Штати, визнає певний контент на соціальних платформах незаконним. Приклади включають дитячу порнографію та підбурювання до насильства в реальному світі. Таким чином, будь-яка технологічна платформа, яка сприяє або генерує вміст, підлягає певним обмеженням. Ті, хто підтримує регулювання, стверджують, що генеративний ШІ має генерувати мову та ідеї, які є корисними для суспільства, і забороняти генеровану мову та ідеї, які є шкідливими для суспільства. Андерсон попереджає, що це «неминучий слизький схил». Так званий ефект слизького схилу означає, що коли щось погане або проблема починається, вона, швидше за все, ставатиме все гіршою й гіршою. Якщо її зупинити, воно буде посилюватися і наслідки будуть неймовірними. «Коли існує система обмеження надзвичайно поганого контенту, наприклад, мови ворожнечі, державні установи, групи активістів і неурядові організації починають діяти, щоб внести зміни в будь-які виступи, які вони вважають загрозою для суспільства та/або їх особистих уподобань.Цензура і репресії у великих масштабах, навіть відверто злочинними способами», – написав він. Це явище триває вже 10 років у соціальних мережах, і воно продовжує нагріватися. У березні минулого року редакція New York Times опублікувала статтю «Америка має проблему зі свободою слова». Опитування Times View/Siena College показало, що 46 відсотків респондентів сказали, що вони почуваються менш вільними говорити про політику, ніж десять років тому. 30% сказали, що відчувають те саме. Лише 21% сказали, що почуваються вільнішими, незважаючи на різке зростання голосів на громадських площах через соціальні мережі за останнє десятиліття. "Коли суспільні норми щодо прийнятного мовлення постійно змінюються, і коли шкода не визначена чітко, ці обмеження мовлення можуть стати довільними правилами з непропорційними наслідками", - написали вони. І консерватори використовували ідею шкідливого мовлення, щоб служити своїм власним закінчується. А для Андерсона дуже корисно прокидатися щоранку та бачити десятки людей, які докладно пояснюють йому в Твіттері, що він ідіот: Дискутуючи з іншими, ви можете приблизно побудувати модель методів мислення інших людей, і ви можете думати про проблеми з їх точки зору, і ваш спосіб мислення стане більш об’єктивним і нейтральним. Він попереджає, що ті, хто стверджує, що генеративний штучний інтелект має узгоджуватися з людськими цінностями, становлять дуже невелику частину населення планети, «характерну рису прибережної еліти Америки, до якої входить багато тих, хто працює та пише в індустрії технологій». «Якщо ви заперечуєте проти нав’язування нішевої моралі соціальним медіа та штучному інтелекту через постійне посилення голосових кодів, то ви також повинні знати, що боротьба за те, що ШІ дозволено говорити/продукувати, буде більшою, ніж боротьба за цензуру соціальних мереж. важливо. ШІ має потенціал бути керуючим рівнем для всього в світі. Як це дозволено працювати, мабуть, важливіше за все. Ви повинні знати, що зараз невелика група ізольованих соціальних інженерів під стародавнім виглядом захисту вас, дозволяючи своїй моралі визначати, як працює AI. "

05. Найреальніший і найстрашніший ризик

Якщо жоден із перерахованих вище страхів і тривог не є реальним ризиком, то який найбільший ризик ШІ? На його думку, існує один останній і реальний ризик для штучного інтелекту, і, можливо, найстрашніший, найбільший ризик: Сполучені Штати не виграють глобальне домінування штучного інтелекту. ** З цією метою «ми повинні якнайшвидше та якнайшвидше впровадити ШІ в наші економіки та суспільства, максимізуючи його переваги для економічної продуктивності та людського потенціалу».

Наприкінці великої статті він запропонував кілька простих планів.

1. Слід дозволити великим компаніям штучного інтелекту розвивати штучний інтелект якомога швидше та агресивніше, але їм не можна дозволити досягти регуляторного захоплення (регулятори стають слугами кількох комерційних структур, свого роду корупція), і їм не можна дозволити побудувати захищений урядом картель, ізольований від ринкової конкуренції, неправдиво заявляючи про ризики ШІ.

Це максимізує технологічну та соціальну віддачу від неймовірних можливостей цих компаній, перлин сучасного капіталізму. 2. Стартапам ШІ слід дозволити розвивати ШІ якомога швидше та агресивніше. Їм треба дозволити змагатися. Якщо стартапи не досягнуть успіху, перебування на ринку саме по собі спонукатиме великі компанії робити все можливе – у будь-якому випадку наша економіка та суспільство виграють. 3. Слід дозволити ШІ з відкритим вихідним кодом вільно поширюватися та конкурувати з великими компаніями та стартапами, що займаються штучним інтелектом. У будь-якому випадку, для відкритого вихідного коду не повинно бути жодних нормативних перешкод.

Навіть якщо відкритий код не вбиває компанії, його широка доступність стане благом для студентів у всьому світі, які хочуть навчитися створювати та використовувати штучний інтелект, щоб стати частиною технологій майбутнього, і забезпечить доступність штучного інтелекту для кожен, незалежно від того, хто він і скільки в нього грошей. 4. Уряди в партнерстві з приватним сектором активно використовують штучний інтелект для максимізації захисту суспільства в кожній сфері потенційного ризику. ШІ може бути потужним інструментом для вирішення проблем, і ми повинні прийняти його.