Лучшие венчурные капиталисты: самый большой риск ИИ заключается в том, что он не преследует его так сильно, как может

Автор: У Синь

Недавно Марк Андерсон опубликовал на сайте компании статью, почему ИИ спасет мир, смело ставя под сомнение рациональность нынешних призывов к регулированию ИИ и систематически критикуя аргументы, на которых эти призывы основаны.

Эта статья объединяет предыдущие интервью автора, статьи и даже мнения экономистов и политиков, которыми он восхищался.Она разделена на пять частей, чтобы сделать более глубокий анализ и интерпретацию ее основного содержания, помогая читателям понять, почему, по его мнению, оптимизм всегда Самый безопасный Выбрать, и в то же время увидеть риски, присущие пессимизму и скептицизму. Эти взгляды многим могут показаться сумасшедшими, и трудно думать о них в таком ключе. Но, как сказал Марк Андерсон, дискутируя с людьми, вы можете примерно построить модель мышления других людей, и вы сможете думать о проблемах с их точки зрения, и ваше мышление станет более объективным и нейтральным.

Пессимизм распространен почти в каждом обществе. ChatGPT охватила весь мир, и генеральный директор Open AI Сэм Альтман появился на слушаниях в Конгрессе США, призывая к регулированию ИИ.

Затем он подписал заявление о рисках со Стюартом Расселом, Джеффри Хинтоном, Йошуа Бенжио и другими.

Вскоре Маск также появился в совместном письме, подписанном тысячами людей, с призывом к лаборатории ИИ немедленно приостановить исследования. В это время Марк Андерсон, руководитель крупнейшей в мире венчурной компании a16z, всегда встанет и станет чирлидером, который «поет об обратном».

В основе американской культуры лежит парадокс: теоретически мы любим перемены, но когда перемены действительно материализуются и проявляются, они вызывают массовую негативную реакцию. Я очень оптимистичен, особенно когда дело касается новых идей. Марк Андерсон считает, что он, вероятно, самый оптимистичный человек, которого он когда-либо встречал. «По крайней мере, последние 20 лет, если вы делаете ставку на оптимистов, вы в целом правы».

У него есть все основания так думать. В 1994 году Марк Андерсон впервые приехал в Силиконовую долину, основал Netscape и в кратчайшие сроки завершил листинг.

Андерсон, восседавший босиком на троне, позже появился на обложке журнала Time и стал моделью Силиконовой долины мифа о технологическом богатстве, привлекая бесчисленное количество опоздавших. В некотором смысле он тот, кто зажег огонь в Силиконовой долине, и оптимист, описанный американским квантовым физиком Дэвидом Дойчем в «Начале бесконечности», который надеется достичь прогресса знаний, включая непредвиденные последствия такой прогресс. Пессимизм бывает разным. Они будут гордиться тем, что их дети соблюдают соответствующие модели поведения, и сетуют на каждое реальное или воображаемое новшество. Он старается избегать всего, что не подтверждено как безопасное.

Очень немногие цивилизации выжили благодаря более осторожному отношению к инновациям. Как пишет Дэвид Дойч в «Начале бесконечности», на самом деле большинство цивилизаций, которые были уничтожены, с энтузиазмом применяли принцип предосторожности (избегая всего, что не считается безопасным, чтобы избежать катастрофы). Все было стабильно и неизменно в течение последних ста лет, чего, кажется, никогда не бывает. Скептики всегда ошибаются. Марк Андерсон тоже это сказал.

**01. Регулирование ИИ: кому это выгодно? Кто поврежден? **

Марк Андерсон называет себя «акселератором искусственного интеллекта». Верующий, который надеется ускорить социальный процесс, связанный с ИИ, чтобы противостоять сопротивлению и вызвать большие социальные изменения, естественно, будет полон сомнений относительно призыва к регулированию. "Существует мнение, что государственное регулирование имеет благие намерения, доброкачественно и осуществляется должным образом. Это миф". Марк Андерсон долгое время считал, что одной из бед американской системы является регулирование. Правительство продолжает формулировать законы и постановления. , так что многие похожи на такие законы, как «Алкоголь не продается по воскресеньям» и «Мужчинам не разрешается есть кимчи по вторникам». Экономист по регулированию Брюс Яндл в 1920-х годах придумал концепцию, которая использовалась для объяснения проблем с государственным регулированием: теория бутлегеров и баптистов. Например, Yandle считает, что принятие Сухого закона, помимо опоры на баптистов (баптистов, чье религиозное происхождение заставляет их верить, что алкоголь нарушает общество), также опирается на поддержку бутлегеров. Они поддерживают ужесточение государственного регулирования, чтобы снизить конкуренцию со стороны законных продавцов — поскольку потребители не могли напиваться на рынке во время Сухого закона, они, естественно, обратились к бутлегерам. Теория бутлегеров и баптистов указывает на то, что баптисты обеспечивают моральное превосходство для так называемого регулирования (правительство не должно придумывать громких причин), в то время как бутлегеры тихо за закрытыми дверями убеждают политиков (сотрудничающие интересы), такой союз Облегчить политикам поддержку обеих групп. ** Теория также утверждает, что такие союзы приводят к неоптимальному законодательству, и, хотя обе группы довольны результатом, для общества в целом может быть лучше не иметь законодательства или иметь другое законодательство. ** Марк Андерсон заимствует эту теорию, чтобы показать, почему регулирование с хорошими мотивами часто приводит к плохим последствиям.

«Часто результатом таких кампаний по реформированию является то, что контрабандисты получают то, что они хотят — захват регулирующих органов (регулирующие органы становятся слугами нескольких коммерческих организаций), сегрегированная конкуренция, формирование картелей — в хорошо мотивированном баптистском вопросе, откуда взялось их стремление к социальной прогресс идет не так?», — написал он в недавнем эссе «Почему ИИ спасет мир».

В области искусственного интеллекта «баптисты» — это те верующие, которые действительно верят в то, что искусственный интеллект уничтожит людей, некоторые из них даже являются новаторами этой технологии и активно выступают за всевозможные странные и экстремальные ограничения ИИ. «Бутлегеры (контрабандисты)» — это компании ИИ, а также лица, ответственные за атаки на ИИ и разжигание паники (на первый взгляд, они кажутся «баптистской волей»), такие как «эксперты по безопасности ИИ», «специалисты по этике ИИ» и «специалисты по этике ИИ». исследователи рисков», которых нанимают для предсказания конца света. «На практике, даже когда баптисты искренни, бутлегеры манипулируют ими и используют их в качестве прикрытия для продвижения своих собственных интересов», — написал Марк Андерсон в длинном эссе «Вещи, которые произошли». «Если существуют нормативные барьеры для рисков ИИ, то эти бутлегеры (контрабандисты) получат то, что хотят — поддерживаемый государством картель поставщиков ИИ, защищающий их от новых стартапов и влияния конкуренции с открытым исходным кодом».

02. Теория безработицы и «заблуждение о фиксированном пироге»

Поскольку Марк Андерсон настороженно относится к регулированию, он, естественно, не согласен со многими аргументами, выдвигаемыми в поддержку регулирования. Но он не отрицал дискуссионной ценности некоторых тем. Мол, технологии съедают все рабочие места, неравенство доходов и дебаты о переворачивании человеческого общества. ** Распространенным экономическим заблуждением является мнение, что рыночная деятельность — это игра с нулевой суммой. То есть предположим, что существует фиксированный пирог, в котором одна сторона может выиграть только за счет другой. ** Автоматизация приводит к безработице, что является своего рода «ошибкой фиксированного пирога». Марк Андерсон указал в длинной статье: «То есть в любой момент времени объем труда фиксируется либо машинами, либо людьми. Если это выполняется машинами, то люди остаются безработными». но это не правда. Приведем простой пример: владелец швейной фабрики покупает большое количество машин. Сами машины требуют рабочей силы для производства, создавая рабочие места, которых в противном случае не существовало бы. После того, как деньги за машину были «возвращены», владелец швейной фабрики получил сверхприбыль из-за преимущества в издержках. Есть много способов потратить эти деньги — расширение масштабов фабрики, инвестирование в цепочку поставок или покупку дома, высокое потребление, независимо от того, как оно тратится, оно обеспечивает возможности трудоустройства для других отраслей. Конечно, ценовое преимущество швейной фабрики не будет длиться вечно. Чтобы конкурировать, соперники также начнут покупать машины (чтобы работники, производящие машины, получили больше возможностей для трудоустройства). Пальто становится все больше, а цены снижены, швейные фабрики уже не так прибыльны, как раньше. Когда все больше и больше людей смогут позволить себе пальто по более низкой цене, стимулируя потребление, в швейной промышленности в целом будет занято больше людей, чем до появления машин. Конечно, также возможно, что после того, как пальто станут в определенной степени дешевыми, потребители потратят сэкономленные деньги на другие аспекты, тем самым увеличив занятость в других отраслях. "Когда технология применяется к производству, производительность также растет, затраты сокращаются, а выпуск увеличивается. В результате цены на товары и услуги снижаются, и у нас появляется дополнительная покупательная способность для покупки других вещей. Это увеличивает спрос, стимулируя новые продуктов и новых отраслей, создавая новые рабочие места для людей, ранее вытесненных машинами», — пишет Марк Андерсон. "Когда рыночная экономика функционирует должным образом и технологии свободно внедряются, это будет бесконечный восходящий цикл. Возникнет более крупная экономика с более высоким материальным благосостоянием, большим количеством отраслей, продуктов и рабочих мест", - писал Марк Андерсон. Что означает замена всего существующего человеческого труда машинами? «Производительность будет расти беспрецедентными темпами, существующие товары и услуги станут почти бесплатными в цене, покупательная способность потребителей резко возрастет, а новый спрос резко возрастет.

Предприниматели создадут головокружительное множество новых отраслей, продуктов и услуг и наймут как можно больше ИИ и людей для удовлетворения всех новых требований. Если предположить, что искусственный интеллект снова заменит человеческий труд, цикл повторится, подпитывая экономическое развитие и рост рабочих мест, что приведет к материальной утопии, которую Адам Смит никогда не осмелился вообразить. " Человеческие потребности бесконечны, и технологическая эволюция представляет собой процесс непрерывного удовлетворения и определения возможностей этих потребностей.

Каждая новая производительность будет принимать другую форму, говорит Карлота Перес, экономист, изучающий технологические изменения и финансовые пузыри, но в конечном счете это не обязательно означает, что в целом будет меньше рабочих мест, а скорее то, что определение работы происходит определенным образом. что изменилось. И наоборот, если строго соблюдать логическую последовательность, мы должны рассматривать не только все новые технологические достижения как катастрофу, но и все прошлые технологические достижения также следует рассматривать как столь же ужасные. Если вы думаете, что машины — враги, то вам стоит вернуться и расслабиться, верно? Следуя этой логике, мы продолжаем возвращаться к тому, с чего все началось - натуральное хозяйство, не лучше ли было бы шить одежду самому?

**03. Кто совершает несправедливость? **

Помимо того, что машины вызывают безработицу среди людей, социальная несправедливость, вызванная технологиями, является еще одним аргументом для людей, призывающих к регулированию ИИ. "Если предположить, что ИИ действительно заберет все рабочие места, хорошие и плохие. Это приведет к огромному имущественному неравенству, поскольку владельцы ИИ получают все экономические выгоды, а средний человек ничего не получает". Андерсон объясняет это просто. Стал бы Маск богаче, если бы продавал автомобили только богатым? Был бы он богаче, если бы строил машины только для себя? конечно, нет. Он максимизирует свою прибыль, продавая автомобили миру — самому большому рынку. Электричество, радиовещание, компьютеры, Интернет, мобильные телефоны и поисковые системы — производители этих технологий агрессивно снижали цены, пока они не стали доступными для всех. Точно так же у нас уже есть доступ к современному генеративному ИИ от New Bing, Google Bard и т. д. бесплатно или по низкой цене. Это не потому, что они глупы или щедры, а именно потому, что они жадны — расширяют размер рынка и зарабатывают больше денег. Таким образом, вместо того, чтобы технологии способствовали концентрации богатства, технологии в конечном итоге расширяют возможности каждого и захватывают большую часть этой ценности.

**Неравенство действительно является большой социальной проблемой, но оно вызвано не технологиями, а тем, что мы не разрешаем использовать ИИ для уменьшения неравенства. ** Секторы экономики, особенно жилье, образование и здравоохранение, как правило, сталкиваются с наибольшим сопротивлением внедрению ИИ. Как показано на графике ниже, синяя кривая представляет отрасли, которые позволяют технологическим инновациям повышать качество при одновременном снижении цен на продукцию, такие как бытовая электроника, автомобили и товары для дома. В марте этого года Марк Андерсон написал в блоге «Почему ИИ не вызовет безработицу».

На этом графике показаны изменения цен на услуги в десятке основных секторов экономики с поправкой на инфляцию.

Красная секция представляет отрасли, которые не позволяют внедрять технологические инновации (тем самым снижая цены). Видите ли, цены на образование, здравоохранение и жилье взлетают до небес. "Отрасли, отмеченные красным цветом, жестко регулируются государством и самой отраслью. Эти отрасли представляют собой монополии, олигополии и картели со всеми препятствиями для изменений, которые вы можете себе представить: официальное государственное регулирование и регулятивный захват, фиксирование цен, ценообразование в советском стиле, профессиональное лицензирование. и т. д. Технологические инновации в этих отраслях сейчас практически запрещены».

Мы вступаем в мир фрагментации, где телевизор с плоским экраном, занимающий всю стену, стоит 100 долларов, а четырехлетнее обучение в колледже стоит 1 миллион долларов. Итак, что происходит со временем? Цены на регулируемые нетехнологические товары растут, а на менее регулируемые технологические товары падают. Первое расширяется, второе сужается. В крайнем случае 99% экономики будет регулируемым нетехнологическим сектором, к которому мы и движемся.

04. Контроль речи и эффект скользкой дорожки

Страх, что технологии, которые мы создаем, восстанут и уничтожат нас, глубоко укоренился в нашей культуре. Что касается того, основаны ли такие страхи на какой-либо рациональной основе и в какой степени их можно отличить от культов, ответ остается открытым. Андерсон классифицирует их как тип логической неправильной классификации, когда вещи определенной категории представлены так, как если бы они принадлежали к другой категории. «ИИ — это машина, как ваш тостер, он не оживает», — написал он. Тем не менее, «если нас не поймают боты-убийцы, нас будут разжигать ненависть и дезинформацию». Каждая страна, включая Соединенные Штаты, делает определенный контент на социальных платформах незаконным. Примеры включают детскую порнографию и подстрекательство к насилию в реальном мире. Таким образом, любая технологическая платформа, которая упрощает или генерирует контент, будет иметь некоторые ограничения. Сторонники регулирования утверждают, что генеративный ИИ должен генерировать речь и идеи, полезные для общества, и запрещать генерировать речь и идеи, которые вредны для общества. Андерсон предупреждает, что при этом возникает «неизбежный скользкий путь». Так называемый эффект скользкого пути означает, что если что-то плохое или проблема начинается, она, вероятно, будет становиться все хуже и хуже. Если ее остановить, она будет усиливаться, и последствия будут невообразимыми. «Как только будет создана система для ограничения чрезвычайно плохого контента, например, разжигания ненависти, государственные учреждения, группы активистов и неправительственные организации начнут действовать, чтобы внести изменения в любую речь, которую они сочтут угрозой для общества и/или их личные предпочтения, цензура и репрессии в широком масштабе, вплоть до откровенно преступных форм», — написал он. Это явление продолжается уже 10 лет в социальных сетях и продолжает накаляться. В марте прошлого года редакция New York Times опубликовала статью «У Америки проблемы со свободой слова». Опрос, проведенный Times View/Siena College, показал, что 46 процентов респондентов заявили, что чувствуют себя менее свободно в разговорах о политике, чем десять лет назад. 30% заявили, что чувствуют то же самое. Только 21% заявили, что чувствуют себя свободнее, несмотря на резкое увеличение числа голосов на площадях через социальные сети за последнее десятилетие. «Когда общественные нормы в отношении допустимой речи постоянно меняются, а вред четко не определен, эти ограничения в отношении речи могут стать произвольными правилами с непропорциональными последствиями», — писали они. заканчивается. А для Андерсона очень полезно просыпаться каждое утро и видеть, как десятки людей подробно объясняют ему в Твиттере, что он идиот: Обсуждая с другими, вы можете примерно построить модель способов мышления других людей, и вы сможете думать о проблемах с их точки зрения, и ваше мышление станет более объективным и нейтральным. Он предупреждает, что те, кто утверждает, что генеративный ИИ должен соответствовать человеческим ценностям, составляют очень небольшую часть населения мира, «характерную для прибрежной элиты Америки, в которую входят многие, кто работает и пишет в технологической индустрии». «Если вы возражаете против навязывания нишевой морали в социальных сетях и ИИ посредством постоянного усиления голосовых кодов, то вы также должны знать, что борьба за то, что ИИ разрешено говорить/производить, будет больше, чем борьба за цензуру в социальных сетях. важный. ИИ может стать контролирующим слоем для всего в мире. То, как ему разрешено работать, вероятно, важнее всего. Вы должны знать, что прямо сейчас небольшая группа изолированных социальных инженеров под древней личиной защищает вас, позволяя своей морали определять, как работает ИИ. "

05. Самый реальный и самый страшный риск

Если ни один из вышеперечисленных страхов и опасений не является реальным риском, то каков самый большой риск ИИ? По его мнению, есть один последний и реальный риск для ИИ и, возможно, самый страшный и самый большой риск: Соединенные Штаты не завоюют мировое господство ИИ. ** С этой целью «мы должны внедрять ИИ в нашу экономику и общество как можно быстрее и активнее, максимально увеличивая его преимущества для экономической производительности и человеческого потенциала».

В конце длинной статьи он предложил несколько простых планов.

1. Крупным ИИ-компаниям нужно позволить развивать ИИ как можно быстрее и агрессивнее, но им нельзя позволять добиваться захвата регулирования (регуляторы становятся слугами нескольких коммерческих структур, своего рода коррупция), и им нельзя позволять создать охраняемый государством картель, изолированный от рыночной конкуренции, ложно заявляя о рисках ИИ.

Это максимизирует технологическую и социальную отдачу от невероятных возможностей этих компаний, жемчужин современного капитализма. 2. Стартапам в области ИИ следует разрешить развивать ИИ как можно быстрее и агрессивнее. Их нужно допустить к соревнованиям. Если стартапы не увенчаются успехом, само присутствие на рынке будет продолжать мотивировать крупные компании делать все возможное — в любом случае наша экономика и общество выиграют. 3. ИИ с открытым исходным кодом должен иметь возможность свободно распространяться и конкурировать с крупными ИИ-компаниями и стартапами. В любом случае, не должно быть никаких нормативных препятствий для открытого исходного кода.

Даже если открытый исходный код не убьет компании, его широкая доступность станет благом для студентов во всем мире, которые хотят научиться создавать и использовать ИИ, чтобы стать частью технологий будущего, и обеспечит доступность ИИ для всем, независимо от того, кто они и сколько у них денег. 4. Правительства в партнерстве с частным сектором активно используют ИИ для максимальной защиты общества во всех областях потенциального риска. ИИ может быть мощным инструментом для решения проблем, и мы должны использовать его.