MIT: Não há necessidade de pânico com a teoria do fim do mundo da IA; a capacidade de validação é um recurso escasso

Fonte: Podcast Bankless; Organizado por: Felix, PANews

O economista do MIT, Christian Catalini, foi convidado do programa de Ryan e David, onde aprofundou sua nova pesquisa “Algumas Economias Simples da Inteligência Artificial Geral”. O artigo aponta que o recurso escasso na economia da IA não é mais a inteligência, mas sim a validação: a capacidade humana de verificar, julgar e confirmar a precisão das saídas da IA.

Christian detalhou duas curvas de custo que remodelam diversas indústrias (custo de automação e custo de validação), explicando por que os empregos de nível inicial estão desaparecendo primeiro e por que mesmo os principais especialistas estão, sem perceber, criando seus próprios sucessores (“a maldição do programador”). Ele também descreveu três papéis que conseguem se manter na transformação: gestores, criadores de significado e garantidores de responsabilidade.

A PANews organizou os destaques da conversa.

Apresentador: Eu imagino que muitos ouvintes possam, assim como eu, ter um certo pânico em relação à IA. Por que você acha que as pessoas estão preocupadas com a IA? Suas preocupações são justificadas?

Christian: Todos nós sentimos isso. Estamos em um período de mudanças rápidas e transformadoras; quanto mais próximo você está do código, mais cedo você pode testemunhar essa aceleração, que se tornou muito real nos últimos meses. Esta tecnologia realizou muitas coisas que muitos pensavam que levariam mais tempo. Essa sensação é algo que todos nós estamos tentando lidar. Mas eu penso que o “apocalipse” é uma visão errada; as pessoas costumam subestimar o potencial que essas ferramentas trazem. Sim, haverá um período de transição extremamente difícil, e a velocidade da mudança nos empregos é sem precedentes na história. No entanto, se você aproveitar ao máximo as características dessa tecnologia e investir nela, a longo prazo será benéfico, embora o caminho possa ser acidentado. A economia vê o trabalho como um conjunto de tarefas, algumas das quais serão automatizadas, o que é uma boa notícia, mas a chave é como você se requalifica e se mantém na vanguarda.

Apresentador: Quem você acha que será afetado primeiro?

Christian: Essa é uma excelente pergunta e tenho muitas ideias diferentes sobre isso. Primeiro, quando digo que aqueles que estão mais próximos do código serão os mais afetados, quero dizer que eles perceberão mais rapidamente o quão poderosa é essa tecnologia. Como revela a “paradoxo de Jevons”, quando algo se torna eficiente, acabamos consumindo mais; por exemplo, escrevemos mais software. Acredito que a programação, assim como muitas outras profissões, passará por uma divisão que chamamos de “ciclo inicial desaparecendo”. Se você é um profissional júnior e ainda não adquiriu o “conhecimento tácito” que distingue um produto excelente de um medíocre, então a IA pode substituí-lo bem em várias áreas.

Agora, qualquer pessoa pode facilmente obter um marketing bastante razoável, um programador júnior ou um advogado que pode ajudá-lo com a maioria das situações; você só precisa chamar um advogado de topo na última fase para a validação final. Por outro lado, mesmo os principais especialistas, ao introduzir a IA, estão, consciente ou inconscientemente, criando etiquetas, informações e vestígios digitais que eventualmente levarão à automatização de seu próprio trabalho. Os melhores laboratórios estão contratando talentos de alto nível em campos como finanças para criar padrões de avaliação e incorporar esses conhecimentos especializados em grandes modelos. Portanto, eu acho que nenhum trabalho único é 100% seguro; mesmo o trabalho físico, que é limitado pela capacidade de fabricação robótica, verá um enorme salto nos modelos de recompensa nos próximos anos. Qualquer coisa que aconteça na tela pode ser rastreada, replicada e aprendida. Para cada profissão, a chave é refletir: onde posso agregar valor se eu delegar o máximo possível do trabalho à IA?

De fato, as pessoas têm muitas “autojustificações” sobre “gosto” e “julgamento”. Eles são muito vagos. Portanto, no artigo, dizemos: não existem tais coisas como gosto ou julgamento de certo ou errado, apenas a distinção entre “mensurável” e “não mensurável”. Se algo já foi mensurado, a máquina pode replicá-lo. Se algo ainda está apenas embutido no peso do seu cérebro, como um designer de topo que acumulou milhares de horas de experiência e pode decidir o que deve e o que não deve ser lançado, isso é o que chamamos de “validação”. Toda validação é este último passo: o agente de IA cria o produto, e você, como decisor, julga se ele atende aos critérios para ser colocado no mercado. À medida que as máquinas obtêm melhores dados, as coisas serão automatizadas; mas em face de áreas desconhecidas ou onde não existem dados, essa parte continuará a pertencer aos humanos nos próximos anos.

Apresentador: Essa é uma percepção muito profunda. Mas eu também me pergunto, é natural que os engenheiros automatizem seu próprio trabalho. Será que todos os setores sofrerão o mesmo impacto?

Christian: Temos evidências suficientes para mostrar que a mudança será desigual. Podemos pensar assim: esse trabalho é apenas uma “embalagem” de algo que a sociedade realmente não precisa? Por exemplo, o trabalho de consultoria comum, se ele é principalmente uma reembalagem, refinamento e resumo de informações que já estão amplamente disponíveis, é claramente arriscado. Mas se ele traz expertise em um campo escasso ou se é necessário contratar consultores por razões políticas, esses sobreviverão. Pergunte a si mesmo, este trabalho é lucrativo porque resolve um problema complexo ou simplesmente porque existe algum gargalo artificial?

Apresentador: O que realmente significa validação? É difícil para mim decompor meu trabalho diário em quais partes são trabalho cognitivo e quais são trabalho de validação.

Christian: Os agentes já aprenderam e mensuraram tudo da web e de livros, e como são mais baratos e escaláveis, substituirão a parte mensurável. Mas o que os agentes ainda não sabem: ou seja, o peso único das redes neurais em seu cérebro. Isso é algo que você adquiriu através de sua própria experiência e luta, o que o torna um especialista de topo. Por exemplo, os primeiros participantes de criptomoedas, muitos dos quais vieram da Argentina, Venezuela e outros lugares, que viveram a hiperinflação, reagem a ativos de maneira completamente diferente. Essa medida interna única continua a ser uma enorme vantagem.

O que é validação? É a diferença entre o seu padrão de medida do mundo e o padrão que o agente possui. Assim como um editor de topo sabe exatamente que tipo de artigo ressoará; ou um CTO de topo, diante de um enorme repositório de código gerado por IA, sabe exatamente quais partes críticas devem ser verificadas pessoalmente por humanos, que ainda não podem ser medidas pela máquina.

Apresentador: Vou dar um exemplo: se eu vejo um vídeo sobre Israel sendo bombardeado por mísseis no X, mas descubro que é gerado por IA. Eu uso meu cérebro para identificar o problema e posso gerar um vídeo melhor através de um novo prompt, isso é a minha “capacidade de validação”?

Christian: Esse é um ótimo exemplo. Mais ainda, podemos em breve nos encontrar em um mundo onde, para a maioria das pessoas, esse vídeo é indistinguível da realidade. O próximo passo pode ser um especialista militar percebendo que a dinâmica das chamas está errada. O passo seguinte pode ser que até mesmo especialistas militares não consigam discernir à primeira vista e precisem da IA para analisar os princípios físicos e realizar testes de simulação. No final, pode ser completamente indistinguível; nesse momento, teremos que depender de infraestruturas baseadas em criptografia para confirmar a veracidade. Na medicina também é assim, casos marginais acabarão exigindo que os melhores radiologistas usem 20 anos de experiência e conhecimento do contexto específico do paciente para refutar o julgamento da IA. Essa é a última camada fina de “filtragem” em que nos concentramos. Ao fazer isso, liberamos uma quantidade enorme de tempo. Portanto, esse é o lado positivo. Podemos fazer mais com menos recursos. O custo das coisas caras diminuirá. A sociedade como um todo consumirá mais dessas coisas. Eu acho que isso é uma boa notícia.

Apresentador: Mas em seu exemplo, atualmente ele está fazendo a validação, mas em breve ele não conseguirá validar, precisará de um comandante militar, e finalmente nem o comandante conseguirá validar e terá que recorrer à IA. Isso não ilustra exatamente que a validação, inicialmente valiosa, em breve também será automatizada pela IA? Portanto, a “validação” em si não é insegura?

Christian: Exatamente. No artigo, chamamos isso de “a maldição do programador”. O ato de validação, que é uma atividade muito racional, está, por si só, impulsionando o desenvolvimento de tecnologias de ponta e transformando dados em experiência. Não podemos parar, pois todos os advogados ou profissionais estão tentando usar a IA. A validação é realmente uma frente que está encolhendo.

Apresentador: Mesmo o último campo de trabalho de validação está encolhendo; quando poderemos não nos sentir ansiosos?

Christian: Primeiro, algumas coisas são, por design, não mensuráveis, como os chamados “jogos de status” ou coisas que os humanos atribuem significado. Esses campos não serão ocupados por máquinas, pois sua característica envolve consenso e coordenação entre humanos. Criptomoeda, em certa medida, é assim; o importante é que os humanos cheguem a um consenso sobre o que tem valor. À medida que o campo do trabalho mensurável encolhe, inventaremos muitas maneiras de tornar o trabalho não mensurável significativo.

Apresentador: A IA pode construir um site em 10 segundos, mas pode não conseguir escrever um tweet que atraia humanos. Isso pode ser um dos últimos trabalhos de validação restantes?

Christian: Atrair atenção, contar uma piada realmente nova, é um trabalho criativo extremamente difícil que tenta quebrar coisas que nunca foram mensuradas. Evoluímos, em milênios de sobrevivência, uma capacidade muito forte de lidar com ambientes desconhecidos. As pessoas que fazem esse tipo de trabalho são chamadas de “criadores de significado”. Por exemplo, no campo da arte ou da cultura, o que é bom depende do consenso humano. Mesmo ao usar um agente de IA, você deve definir a “intenção”.

Apresentador: O custo da automação está caindo exponencialmente; e quanto ao “custo da validação”? Ele sempre será limitado pelas restrições biológicas dos humanos?

Christian: Atualmente, ele está restrito pela biologia. Portanto, muitas empresas lançaram uma grande quantidade de códigos gerados por IA, mas não há pessoal suficiente para ler e validar, o que certamente esconde riscos.

Apresentador: Não se pode usar IA para validar IA?

Christian: Se a IA puder validar corretamente, então essa parte é, por si só, automatizável. Após esgotar todas as validações da IA, o que resta é aquilo que realmente não pode ser validado por IA, esse é o gargalo para a intervenção humana.

Apresentador: Se a validação é um novo recurso escasso, mas está encolhendo, como devemos trabalhar e investir dentro dessa economia?

Christian: Fizemos uma matriz 2x2 baseada em “custo de automação” e “custo de validação”. O quadrante inferior esquerdo é para trabalhadores que serão substituídos: automação fácil, validação fácil; você definitivamente não quer ficar aqui. Os outros três quadrantes são:

Criadores de significado: automação difícil, validação difícil. Eles se dedicam ao consenso social, jogos de status e conexões humanas. Por exemplo, criadores de gosto na moda, KOLs de criptomoeda no Twitter, que criam narrativas e coordenam atenções.

Garantidores de responsabilidade: automação fácil, validação difícil. Eles são os principais especialistas em seus campos, como advogados, médicos ou investidores de risco de topo. Eles utilizam amplamente a IA, mas oferecem serviços de responsabilidade e validação para casos marginais finais.

Gestores: automação difícil, validação fácil. O núcleo é “intenção”. Eles lidam com “desconhecidos desconhecidos”, dirigindo agentes como empreendedores, definindo direção, sentindo desvios e ajustando constantemente o curso.

Apresentador: O que os jovens que recém se formaram e desejam entrar no mercado de trabalho devem fazer? De um lado há empregos júnior sem valor, do outro lado estão os especialistas de topo que levam anos para se tornar, e há um grande abismo entre os dois. Como os jovens podem crescer para alcançar o outro lado, já que a IA pode realizar tarefas júnior?

Christian: O abismo realmente existe. Mas a boa notícia é que você pode comprimir o tempo de aprendizado. Você pode pular etapas de treinamento tradicionais. Um engenheiro júnior agora, com ferramentas, pode fazer o trabalho de uma equipe anterior sozinho. Embora comece cometendo erros, como novato, pode questionar a tradição com uma nova perspectiva, e essa é a vantagem. Eles podem realizar ideias de maneiras que nós, quando jovens, nunca conseguimos. Tem seus prós e contras.

O caminho do passado: “obter um diploma, encontrar um estágio, trabalhar duro para subir”, realmente não existe mais, e isso trará um enorme choque cultural. Para os jovens recém-formados, isso é muito difícil. Se você ainda está na universidade, ainda há tempo para esclarecer a direção. Se você está em apuros, meu conselho é: use essas ferramentas para construir algo. Sua ambição deve ser 100 vezes maior do que a que tínhamos naquela idade.

Apresentador: A rápida eliminação de muitos trabalhos de “pressionar botão” não causará caos na sociedade a curto prazo?

Christian: A sociedade sempre recriará trabalhos de “pressionar botão” quando necessário para manter a estabilidade. Mas muitas das pessoas que fazem esse tipo de trabalho realmente têm a capacidade de fazer mais; simplesmente foram restringidas pelo ambiente no passado. Quando o trabalho físico não é mais necessário, inventamos ir à academia; agora, diante da libertação do trabalho mental, as pessoas desenvolverão várias atividades paralelas e uma economia criativa para obter um senso de desafio. É também por isso que acredito que a “renda básica incondicional (UBI)” é completamente errada; as pessoas precisam de significado e motivação para a auto-realização. Além disso, mesmo que uma parte significativa do seu trabalho tenha sido automatizada, se você souber como aproveitar a IA como essa super ferramenta, um recém-chegado pode gerar uma produção que antes era de uma equipe inteira.

Apresentador: Alguma recomendação para empresas e investidores?

Christian: Para as empresas, investir em infraestrutura de validação, oferecendo “responsabilidade como serviço” (ou seja, não apenas fornecendo agentes, mas também garantindo responsabilidades pelos resultados). Além disso, dominar “fontes de fatos exclusivas”, pois a IA pode ser facilmente enganada; empresas que podem fornecer dados reais exclusivos ou avaliações profundas, como a Bloomberg, têm um valor enorme. Para os investidores, além de investir nessas áreas, focar em P&D “não mensurável” de ponta. O que antes eram os efeitos de rede comuns pode falhar; novos efeitos de rede se basearão em como você torna seu agente mais confiável através de feedbacks reais melhores, porque as pessoas realmente querem comprar inteligência validada.

Apresentador: A tecnologia de criptografia é útil nesse processo de validação?

Christian: A infraestrutura subjacente estabelecida no campo da criptografia na última década é crucial. Quando precisamos confirmar a autenticidade da identidade e evitar a tomada de conta de contas, tecnologias on-chain como “prova de personalidade” podem fornecer validação poderosa. Além disso, a origem dos dados e a cadeia de regulação criptográfica são necessárias para garantir que a geração de informações e se o modelo está em conformidade tenha garantias criptográficas rigorosas.

Apresentador: O que as pessoas devem fazer no próximo ano? Você mantém uma perspectiva otimista sobre o futuro da humanidade?

Christian: Primeiro, não entre em pânico. Experimente muito, utilize as ferramentas para “substituir” e automatizar o seu eu atual. Muitas explorações de hobbies podem ser as mais significativas. No pior dos casos, você também poderá identificar onde estão as limitações e falhas do modelo. Para muitos criadores online, hobbies já se transformaram em carreiras, e essa será a direção principal no futuro. Se você tem filhos, descobrir seus talentos e deixá-los imergir em suas paixões é o mais importante. Não existem templates profissionais fixos; novas ferramentas de IA podem ajudá-los a encontrar o caminho que é só deles.