Principais VCs: o maior risco da IA não é persegui-la o máximo possível

Autor: Wu Xin

Recentemente, Mark Anderson publicou um artigo no site da empresa por que a IA salvará o mundo, questionando corajosamente a racionalidade dos atuais apelos à regulamentação da IA e criticando sistematicamente os argumentos nos quais esses apelos se baseiam.

Este artigo combina entrevistas anteriores do autor, artigos e até opiniões de economistas e políticos que ele admirava. Ele é dividido em cinco partes para fazer uma análise e interpretação mais aprofundadas de seu conteúdo principal, ajudando os leitores a entender por que ele acha que o otimismo é sempre o mais seguro Escolha e, ao mesmo tempo, veja os riscos inerentes ao pessimismo e ao ceticismo. Essas visões podem parecer malucas para muitas pessoas e é difícil pensar nelas dessa maneira. Mas, como disse Mark Anderson, ao debater com as pessoas, você pode construir aproximadamente um modelo do pensamento de outras pessoas e pode pensar sobre os problemas da perspectiva delas, e sua maneira de pensar se tornará mais objetiva e neutra.

O pessimismo prevalece em quase todas as sociedades. O ChatGPT varreu o mundo, e o CEO da Open AI, Sam Altman, apareceu na audiência do Congresso dos EUA, pedindo a regulamentação da IA.

Ele então assinou uma declaração de risco com Stuart Russell, Geoffrey Hinton, Yoshua Bengio e outros.

Logo, Musk também apareceu em uma carta conjunta assinada por milhares de pessoas, pedindo ao laboratório de IA que suspendesse imediatamente as pesquisas. Nesta altura, Mark Anderson, o leme da maior empresa de capital de risco do mundo, a16z, irá sempre erguer-se e tornar-se a líder da claque que "canta o contrário".

Há um paradoxo no cerne da cultura americana: em teoria, amamos a mudança, mas quando a mudança realmente se materializa e se manifesta, está sujeita a uma reação maciça. Sou muito otimista, principalmente quando se trata de novas ideias. Mark Anderson acha que é provavelmente a pessoa mais otimista que já conheceu. "Pelo menos nos últimos 20 anos, se você apostar nos otimistas, geralmente estará certo."

Ele tem todos os motivos para pensar assim. Em 1994, Mark Anderson veio ao Vale do Silício pela primeira vez, fundou a Netscape e completou a listagem no menor tempo possível.

Anderson, que se sentou descalço no trono, mais tarde apareceu na capa da Time Magazine e se tornou um modelo do Vale do Silício do mito da riqueza tecnológica, atraindo inúmeros retardatários. De certa forma, foi ele quem acendeu o fogo no Vale do Silício, e o tipo de otimista descrito pelo físico quântico americano David Deutsch em "The Beginning of Infinity", que espera alcançar através da criação de progresso do conhecimento, incluindo consequências imprevistas de tal progresso. O pessimismo é diferente. Eles se orgulharão da observância de padrões apropriados de comportamento de seus filhos e lamentarão cada novidade real ou imaginária. Ele tenta evitar tudo o que não é confirmado como seguro.

Pouquíssimas civilizações sobreviveram sendo mais cautelosas em relação à inovação. Como David Deutsch escreve em The Beginning of Infinity, de fato, a maioria das civilizações que foram destruídas implementou entusiasticamente o princípio da precaução (evitar tudo o que não é conhecido como seguro para evitar catástrofes). Tudo tem estado estável e inalterado nos últimos cem anos, o que nunca parece realmente acontecer. Os céticos estão sempre errados. Mark Anderson também disse isso.

**01. Regulamentação da IA: quem se beneficia? Quem está danificado? **

Mark Anderson se autodenomina um "acelerador de IA". Um crente que espera acelerar o processo social relacionado à IA para resistir à resistência e trazer grandes mudanças sociais naturalmente ficará cheio de dúvidas sobre o pedido de regulamentação. "Há uma visão de que a regulamentação do governo é bem-intencionada, benigna e devidamente implementada. Isso é um mito." Mark Anderson há muito acredita que um dos males do sistema americano é a regulamentação. O governo continua a formular leis e regulamentos , de modo que muitos semelhantes a leis como "Proibido vender álcool aos domingos" e "Os homens não podem comer kimchi às terças-feiras". O economista regulatório Bruce Yandle criou um conceito na década de 1920 que foi usado para explicar problemas com a regulamentação do governo: a teoria dos contrabandistas e batistas. Por exemplo, Yandle acredita que a aprovação da Lei Seca, além de contar com os batistas (batistas, cuja formação religiosa os faz acreditar que o álcool violou a sociedade), também conta com o apoio de contrabandistas. Eles apóiam o aumento da regulamentação pelo governo para reduzir a concorrência de comerciantes legítimos - como os consumidores não podiam ficar bêbados no mercado sob a Lei Seca, eles naturalmente recorreram aos contrabandistas. A teoria dos contrabandistas e batistas aponta que os batistas fornecem a base moral para a chamada regulamentação (o governo não precisa encontrar razões altissonantes), enquanto os contrabandistas silenciosamente convencem os políticos a portas fechadas (interesses colaboradores), tal aliança Tornar mais fácil para os políticos apoiarem ambos os grupos. **A teoria também afirma que tais alianças levam a uma legislação abaixo do ideal e, embora ambos os grupos estejam satisfeitos com o resultado, pode ser melhor para a sociedade como um todo não ter legislação ou ter legislação diferente. ** Mark Anderson empresta essa teoria para mostrar por que a regulamentação com alguns bons motivos costuma fazer coisas ruins.

“Muitas vezes, o resultado de tais campanhas de reforma é que os contrabandistas conseguem o que querem – captura regulatória (os reguladores tornam-se servos de algumas entidades comerciais), competição segregada, formação de cartel – em um pensamento batista bem motivado, de onde veio seu impulso para o socialismo? progresso dá errado?", escreveu ele em um ensaio recente, Why AI Will Save the World.

No campo da inteligência artificial, "batistas" são aqueles que realmente acreditam que a inteligência artificial destruirá os seres humanos. Alguns verdadeiros crentes são até inovadores dessa tecnologia e defendem ativamente todos os tipos de restrições estranhas e extremas à IA. "Contrabandistas (contrabandistas)" são empresas de IA e os responsáveis por atacar a IA e alimentar o pânico (na superfície, eles parecem ser "vontade batista"), como "especialistas em segurança de IA", "éticos de IA" e "inteligente de IA". pesquisadores de risco" que são contratados para fazer algumas previsões apocalípticas. "Na prática, mesmo quando os batistas são sinceros, eles estão sendo manipulados e usados como cobertura por contrabandistas para promover seus próprios interesses", escreveu Mark Anderson em um longo ensaio. Coisas que aconteceram." “Se houver barreiras regulatórias aos riscos de IA, esses contrabandistas (contrabandistas) conseguirão o que desejam – um cartel de fornecedores de IA apoiado pelo governo, protegendo-os de novas startups e do impacto da concorrência de código aberto”.

02. Teoria do Desemprego e "Falácia da Torta Fixa"

Visto que desconfia da regulamentação, Mark Anderson naturalmente discorda de muitos dos argumentos apresentados em apoio à regulamentação. Mas não negou o valor de discussão de alguns temas. Tipo, a tecnologia está comendo todos os empregos, a desigualdade de renda e o debate sobre a reviravolta na sociedade humana. ** É uma falácia econômica comum pensar que a atividade do mercado é um jogo de soma zero. Ou seja, suponha que haja um bolo fixo em que uma das partes só pode ganhar às custas da outra. ** A automação leva ao desemprego, que é uma espécie de "falácia da torta fixa". Mark Anderson apontou em um longo artigo: "Isto é, a qualquer momento, a quantidade de trabalho é fixa, seja por máquinas ou por humanos. Se for feito por máquinas, então os humanos estão desempregados." mas não é a verdade. Para dar um exemplo simples, o proprietário de uma fábrica de roupas compra um grande número de máquinas. As próprias máquinas exigem trabalho para produzir, criando empregos que de outra forma não existiriam. Depois que o dinheiro da máquina foi "devolvido", o dono da fábrica de roupas obteve lucros excessivos devido à vantagem de custo. Há muitas maneiras de gastar esse dinheiro – ampliando a escala da fábrica, investindo na cadeia de suprimentos ou comprando uma casa, o alto consumo, não importa como seja gasto, oferece oportunidades de emprego para outras indústrias. É claro que a vantagem de custo da fábrica de roupas não durará para sempre. Para competir, os rivais também começarão a comprar máquinas (para que os trabalhadores da produção de máquinas tenham mais oportunidades de emprego). Há cada vez mais casacos e os preços baixaram.As fábricas de roupas não são tão lucrativas quanto antes. Quando mais e mais pessoas puderem comprar casacos a um preço mais baixo, estimulando o consumo, a indústria do vestuário como um todo empregará mais pessoas do que antes da introdução das máquinas. Obviamente, também é possível que, depois que os casacos estiverem baratos até certo ponto, os consumidores gastem o dinheiro economizado em outros aspectos, aumentando assim o emprego em outras indústrias. "Quando a tecnologia é aplicada à produção, a produtividade também cresce, os insumos são reduzidos e a produção aumenta. O resultado é que os preços dos bens e serviços são reduzidos e teremos poder de compra adicional para comprar outras coisas. Isso aumenta a demanda, impulsionando novos produtos e novas indústrias, criando novos empregos para pessoas anteriormente deslocadas por máquinas”, escreve Mark Anderson. "Quando a economia de mercado estiver funcionando adequadamente e a tecnologia for livremente introduzida, haverá um ciclo ascendente sem fim. Uma economia maior surgirá, com maior prosperidade material, mais indústrias, produtos e empregos", escreveu Mark Anderson. O que significa se todo o trabalho humano existente for substituído por máquinas? "A produtividade crescerá a uma taxa sem precedentes, os bens e serviços existentes terão preços quase gratuitos, o poder de compra do consumidor aumentará e a nova demanda explodirá.

Os empreendedores criarão uma variedade estonteante de novas indústrias, produtos e serviços e empregarão o máximo possível de IA e trabalhadores humanos para atender a todas as novas demandas. Supondo que a IA substitua novamente o trabalho humano, o ciclo se repetirá, alimentando o desenvolvimento econômico e o crescimento do emprego, levando a uma utopia material que Adam Smith nunca ousou imaginar. " As necessidades humanas são infinitas e a evolução tecnológica é um processo de satisfazer e definir continuamente as possibilidades dessas necessidades.

Cada nova produtividade terá uma forma diferente, diz Carlota Perez, economista que estuda mudanças tecnológicas e bolhas financeiras, mas, em última análise, isso não significa necessariamente que haverá menos empregos no geral, mas sim que a definição de trabalho acontece de uma maneira isso mudou. Por outro lado, se a consistência lógica for rigorosamente respeitada, não devemos apenas considerar todos os novos avanços tecnológicos como um desastre, mas todos os avanços tecnológicos do passado também devem ser considerados igualmente terríveis. Se você acha que as máquinas são inimigas, deveria voltar e relaxar, certo? Seguindo essa lógica, continuamos voltando para onde tudo começou - agricultura de subsistência, não seria melhor você fazer suas próprias roupas?

**03. Quem está causando injustiça? **

Além das máquinas que causam desemprego humano, a injustiça social causada pela tecnologia é outro argumento para as pessoas pedirem a regulamentação da IA. "Supondo que a IA tire todos os empregos, bons e ruins. Isso levaria a uma enorme desigualdade de riqueza, já que os donos da IA obtêm todas as recompensas econômicas e a pessoa média não recebe nada." A explicação de Anderson para isso é simples. Musk ficaria mais rico se só vendesse carros para os ricos? Ele seria mais rico do que isso se apenas construísse carros para si mesmo? claro que não. Ele maximiza seus lucros vendendo carros para o mundo - o maior mercado. Eletricidade, radiodifusão, computadores, Internet, telefones celulares e mecanismos de busca — os fabricantes dessas tecnologias reduziram agressivamente os preços até que se tornassem acessíveis a todos. Da mesma forma, já temos acesso à IA generativa de última geração do New Bing, Google Bard, etc. gratuitamente ou a baixo custo. Não é porque são estúpidos ou generosos, é precisamente porque são gananciosos - expandindo o tamanho do mercado e ganhando mais dinheiro. Assim, em vez de a tecnologia conduzir à concentração de riqueza, a tecnologia acaba capacitando cada vez mais a todos e capturando a maior parte desse valor.

**A desigualdade é de fato um grande problema social, mas não é impulsionada pela tecnologia, ela decorre de não permitirmos que a IA seja usada para reduzir a desigualdade. **Setores da economia, particularmente habitação, educação e saúde, tendem a enfrentar a maior resistência à adoção da IA. Conforme mostrado no gráfico abaixo, a curva azul representa setores que permitem que a inovação tecnológica melhore a qualidade enquanto reduz os preços dos produtos, como eletroeletrônicos, automotivo e móveis domésticos. Em março deste ano, Mark Anderson escreveu em um blog Por que a IA não causará desemprego.

Este gráfico mostra as mudanças nos preços dos serviços em uma dúzia dos principais setores da economia, ajustados pela inflação.

A seção vermelha representa as indústrias que não permitem a introdução de inovações tecnológicas (o que reduz os preços). Você vê, os preços da educação, saúde e habitação estão indo para a lua. "As indústrias representadas em vermelho são fortemente regulamentadas pelo governo e pela própria indústria. Essas indústrias são monopólios, oligopólios e cartéis com todos os impedimentos à mudança que você pode imaginar: regulamentação governamental formal e captura regulatória, fixação de preços, preços no estilo soviético, licenciamento ocupacional etc. A inovação tecnológica nestes setores está praticamente proibida.”

Estamos entrando em um mundo de fragmentação – onde uma TV de tela plana que cobre uma parede inteira custa US$ 100 e um diploma universitário de quatro anos custa US$ 1 milhão. Então, o que acontece com o tempo? Os preços sobem para produtos regulamentados e não tecnológicos; os preços caem para produtos menos regulamentados e orientados para a tecnologia. O primeiro se expande, o segundo encolhe. No extremo, 99% da economia será um setor não tecnológico regulamentado, que é para onde estamos indo.

04. Supervisão de fala e efeito de ladeira escorregadia

O medo de que a tecnologia que criamos se levante e nos destrua está profundamente enraizado em nossa cultura. Quanto a saber se tais medos são baseados em qualquer base racional e até que ponto eles podem ser distinguidos de cultos, a resposta permanece em aberto. Anderson os classifica como um tipo de erro de classificação lógica – em que coisas de uma categoria específica são apresentadas como se pertencessem a uma categoria diferente. “IA é uma máquina, como sua torradeira, não ganha vida”, escreveu ele. Ainda assim, “se os robôs assassinos não nos pegarem, o mesmo acontecerá com o discurso de ódio e a desinformação.” Veja, o “fantasma” que pede a regulamentação da mídia social continua a assombrar a era da IA. Todos os países, incluindo os Estados Unidos, tornam certos conteúdos em plataformas sociais ilegais. Exemplos incluem pornografia infantil e incitação à violência no mundo real. Como tal, qualquer plataforma tecnológica que facilite ou gere conteúdo estará sujeita a algumas limitações. Aqueles que apóiam a regulamentação argumentam que a IA generativa deve gerar discursos e ideias que sejam benéficos para a sociedade e proibir discursos e ideias gerados que sejam prejudiciais à sociedade. Anderson adverte que há uma "ladeira escorregadia inevitável" ao fazer isso. O chamado efeito da ladeira escorregadia significa que uma vez que uma coisa ou problema ruim começa, é provável que piore cada vez mais. Se for interrompido, vai se intensificar e as consequências serão inimagináveis. “Uma vez que existe uma estrutura para limitar conteúdo extremamente ruim – por exemplo, discurso de ódio – agências governamentais, grupos ativistas e entidades não governamentais entram em ação para fazer mudanças em qualquer discurso que considerem uma ameaça à sociedade e/ou seus preferências pessoais. Censura e repressão em grande escala, mesmo de forma totalmente criminosa”, escreveu ele. Esse fenômeno já dura 10 anos nas redes sociais e continua esquentando. Em março passado, o conselho editorial do New York Times publicou um artigo, America Has a Free Speech Problem. Uma pesquisa do Times View/Siena College descobriu que 46% dos entrevistados disseram que se sentiam menos livres para falar sobre política do que há uma década. 30% disseram que se sentiam da mesma maneira. Apenas 21% disseram se sentir mais livres, apesar da dramática expansão de vozes em praças públicas via mídia social na última década. "Quando as normas sociais em torno do discurso aceitável estão mudando constantemente e quando o dano não é claramente definido, essas restrições ao discurso podem se tornar regras arbitrárias com consequências desproporcionais", escreveram eles. E os conservadores usaram a ideia de discurso prejudicial para servir a seus próprios interesses. termina. E para Anderson, acordar todas as manhãs para ver dezenas de pessoas explicando a ele em detalhes no Twitter que ele é um idiota é muito útil: Ao debater com os outros, você pode construir um modelo aproximado dos métodos de pensamento de outras pessoas e pode pensar sobre os problemas da perspectiva deles, e sua maneira de pensar se tornará mais objetiva e neutra. Ele adverte que aqueles que argumentam que a IA generativa deve estar alinhada com os valores humanos são uma fração muito pequena da população global, “uma característica da elite costeira da América, que inclui muitos que trabalham e escrevem na indústria de tecnologia”. “Se você se opõe à imposição de moralidade de nicho nas mídias sociais e IA por meio do reforço constante de códigos de voz, também deve estar ciente de que a luta sobre o que a IA pode dizer/produzir será maior do que a luta pela censura nas mídias sociais. importante. A IA tem o potencial de ser a camada controladora de tudo no mundo. Como é permitido funcionar é provavelmente mais importante do que qualquer coisa. Você deve estar ciente de que agora um pequeno grupo de engenheiros sociais isolados está sob o antigo disfarce de protegê-lo, deixando sua moral determinar como a IA funciona. "

05. O risco mais real e assustador

Se nenhum dos medos e preocupações acima são riscos reais, qual é o maior risco da IA? Em sua opinião, há um risco final e real para a IA, e possivelmente o maior e mais assustador risco: os Estados Unidos não conquistarão o domínio global da IA. ** Para esse fim, “devemos introduzir a IA em nossas economias e sociedades o mais rápido e o mais forte possível, maximizando seus benefícios para a produtividade econômica e o potencial humano”.

No final do longo artigo, ele propôs alguns planos simples.

1. Grandes empresas de IA devem poder desenvolver IA o mais rápido e agressivamente possível, mas não devem ser autorizadas a obter captura regulatória (os reguladores se tornam servos de algumas entidades comerciais, um tipo de corrupção) e não devem ser permitidas para construir um cartel protegido pelo governo, isolado da concorrência de mercado, alegando falsamente os riscos da IA.

Isso maximizará os retornos tecnológicos e sociais das incríveis capacidades dessas empresas, as joias do capitalismo moderno. 2. As startups de IA devem ter permissão para desenvolver IA da forma mais rápida e agressiva possível. Eles devem ser autorizados a competir. Se as startups não forem bem-sucedidas, estar no mercado continuará a motivar as grandes empresas a fazer o melhor - de qualquer forma, nossa economia e sociedade vencerão. 3. A IA de código aberto deve ter permissão para proliferar livremente e competir com grandes empresas e startups de IA. De qualquer forma, não deve haver nenhum obstáculo regulatório para o código aberto.

Mesmo que o código aberto não mate as empresas, sua ampla disponibilidade será uma benção para estudantes de todo o mundo que desejam aprender como construir e usar IA para fazer parte das tecnologias do futuro e garantirá que a IA seja acessível para todos, não importa quem sejam ou quanto dinheiro tenham. 4. Os governos, em parceria com o setor privado, usam ativamente a IA para maximizar as defesas da sociedade em todas as áreas de risco potencial. A IA pode ser uma ferramenta poderosa para a solução de problemas e devemos adotá-la.