Em 12 de junho de 2023, Gensyn, um protocolo de mercado de poder de computação AGI baseado em blockchain, anunciou a conclusão de uma rodada de financiamento da Série A de $ 43 milhões, liderada por a16z, com participação de Eden Block, CoinFund, Galaxy e Protocol Labs.
Que tipo de projeto é Gensyn? Por que você pode obter um grande investimento dos principais VCs? A Golden Finance vai te levar a entendê-lo em um só artigo.
a16z: Por que liderar o financiamento da Série A de US$ 43 milhões da Gensyn
a16z postou um artigo explicando por que liderou a rodada de financiamento da Série A de $ 43 milhões da Gensyn. a16z disse que o progresso recente da inteligência artificial é incrível e tem o poder de salvar o mundo (consulte o relatório anterior da Jinse Finance "longo artigo do fundador da a16z: Por que a IA salvará o mundo"). Mas a construção de sistemas de IA requer a implantação de um poder de computação muito maior para treinar e raciocinar sobre os modelos maiores e mais poderosos disponíveis hoje. Isso significa que as grandes empresas de tecnologia têm vantagem sobre as startups na corrida para extrair valor da IA, graças ao acesso privilegiado ao poder de computação e às economias de escala dos grandes data centers. Para competir em igualdade de condições, as startups precisam ser capazes de usar seu próprio poder de computação de forma acessível.
Blockchains são únicos como um novo tipo de computador em que os desenvolvedores podem escrever códigos que fazem promessas firmes sobre como o código se comportará no futuro. Esse componente sem permissão do blockchain pode criar um mercado para compradores e vendedores de poder de computação – ou qualquer outro tipo de recurso digital, como dados ou algoritmos – para negociar globalmente sem intermediários.
**Gensyn, um protocolo de mercado de computação AGI baseado em blockchain, conecta desenvolvedores (qualquer pessoa que possa treinar modelos de aprendizado de máquina) com solucionadores (Solver, qualquer pessoa que queira usar suas próprias máquinas para treinar modelos de aprendizado de máquina). Gensyn pode aumentar o poder de computação disponível para aprendizado de máquina em 10-100x, aproveitando a longa cauda de dispositivos de computação com capacidade de aprendizado de máquina deixados sem uso em todo o mundo, como pequenos data centers, PCs para jogos, Macs M1 e M2 e até mesmo smartphones. **
Problemas enfrentados pela AGI (Inteligência Artificial Geral): Altamente Centralizado
Após quase meio ano de desenvolvimento, o mercado geralmente reconhece que o AGI é o futuro. Mas a indústria de AGI atualmente parece altamente monopolizada**, entre os países é uma guerra comercial e de talentos entre a China e os Estados Unidos, e entre as empresas é o jogo das grandes empresas de tecnologia (Microsoft, Google, Meta). **Porque os três principais recursos da AGI (poder de computação, conhecimento e dados) são atualmente altamente centralizados. **
Poder de computação: modelos cada vez maiores e complexos exigem processadores de alta capacidade de computação para treinamento. Entre países: A guerra de chips entre a China e os Estados Unidos, os Estados Unidos têm impedido ativamente a China de obter chips de alta potência. Entre as empresas: capacidade de produção insuficiente, os chips AI mais recentes da Nvidia são todos comprados por alguns grandes clientes e outras empresas não podem comprá-los. Na pilha de tecnologia: algumas empresas até criam seu próprio hardware dedicado para aprendizado profundo, como os clusters de TPU do Google. Eles superam as GPUs padrão para aprendizado profundo e não estão à venda, apenas para aluguel.
Conhecimento: muitas descobertas públicas decorrem de novas arquiteturas de modelo em grande escala desenvolvidas por pesquisadores, mas há uma batalha sobre a propriedade intelectual e o talento subjacentes. Por exemplo, os Estados Unidos atraem mais de 50% dos talentos de IA da China, e grandes empresas que usam esses talentos para desenvolver modelos em larga escala estão reduzindo cada vez mais a acessibilidade dessa tecnologia; o GPT-3.5 ou 4 da OpenAI está nominalmente disponível ao público, mas ele fica atrás de uma API e apenas a Microsoft tem acesso ao seu código-fonte.
Dados: os modelos de aprendizado profundo da AGI exigem grandes quantidades de dados, rotulados e não rotulados, e geralmente melhoram com mais dados. GPT-3 foi treinado em 300 bilhões de palavras. Dados rotulados são particularmente importantes, e os conjuntos de dados necessários para treinar AGI estão concentrados nas mãos de algumas grandes empresas. Por exemplo, um pouco de bom conhecimento: toda vez que você visita um site resolvendo o reCaptcha, está rotulando dados de treinamento para melhorar o Google Maps.
Dificuldades na computação AGI descentralizada
A computação descentralizada pode criar uma base mais barata e livre para pesquisar e desenvolver inteligência artificial. Mas há um problema de verificação de trabalho no AGI descentralizado, como você sabe que o terceiro concluiu o cálculo solicitado?
O quebra-cabeça de prova de trabalho tem dois fatores: dependência de estado e alto custo computacional.
Dependência de estado: cada camada em uma rede neural é conectada a todos os nós da camada anterior. Isso significa que ele precisa do estado da camada anterior. Para piorar, todos os pesos de cada camada são determinados pelo intervalo de tempo anterior. Então, se você quiser verificar se alguém treinou um modelo -- digamos, escolhendo um ponto aleatório na rede e vendo se você obtém o mesmo estado -- você precisa continuar treinando o modelo até aquele ponto, o que é computacionalmente caro.
Altas despesas computacionais: o custo de uma única sessão de treinamento do GPT-3 em 2020 é de cerca de US$ 12 milhões, mais de 270 vezes maior do que o valor estimado de cerca de US$ 43.000 para o treinamento do GPT-2 em 2019. Em geral, a complexidade do modelo (tamanho) das melhores redes neurais atualmente dobra a cada três meses. A sobrecarga de validação, possivelmente de dependências de estado, é aceitável se a rede neural for mais barata e/ou se o treinamento representar menos um processo de desenvolvimento de modelo.
Se você deseja tornar o treinamento de aprendizado profundo barato e descentralizar o controle, precisa de um sistema que gerencie a validação relacionada ao estado de forma confiável, sendo barato em termos de sobrecarga e recompensando aqueles que contribuem com a computação.
Como a Gensyn descentraliza a computação AGI
O protocolo Gensyn une toda a computação do mundo em um supercluster global de aprendizado de máquina que está prontamente disponível para qualquer pessoa. Ele permite o treinamento sem confiança de redes neurais em grande escala e a baixo custo, combinando duas coisas:
1. Sistema de verificação inovador
Um sistema de verificação que resolve eficientemente o problema de dependência de estado no treinamento de redes neurais de escala arbitrária. O sistema combina pontos de verificação de treinamento de modelo com verificações probabilísticas que terminam na cadeia. Ele faz tudo isso de maneira confiável com uma sobrecarga que escala linearmente com o tamanho do modelo (mantendo os custos de validação constantes).
De acordo com Gensyn Litepaper, Gensyn resolve principalmente o problema de verificação através de três conceitos: prova de aprendizagem probabilística (utilizando metadados no processo de otimização baseado em gradiente para construir um certificado do trabalho realizado e verificá-lo rapidamente através da replicação de certas etapas) , Protocolo de identificação baseado em gráfico (usa protocolo de identificação baseado em gráfico e execução de consenso entre avaliadores para permitir que o trabalho de validação seja executado novamente e comparado quanto à consistência e, finalmente, confirmado pela própria cadeia), estilo Truebit incentivado jogos (usando staking e slashing para construir um jogo de incentivo que garanta que cada jogador financeiramente racional aja honestamente e execute suas tarefas pretendidas)
**O sistema consiste principalmente em quatro participantes principais: apresentadores, solucionadores, verificadores e denunciantes. **Submitter: o usuário final do sistema, que fornece a tarefa a ser calculada e paga pela unidade de trabalho concluída; solver: a principal parte funcional do sistema, realiza o treinamento do modelo e gera provas para verificação pelo verificador; verificador : o não determinístico O processo de treinamento está vinculado a uma computação linear determinística, replicando parte da prova do solucionador e comparando a distância com um limite esperado; o denunciante: a última linha de defesa, verificando o trabalho do verificador e desafiando por um jackpot.
2. Novo suprimento
Aproveite os recursos de dispositivos de computação subutilizados e subutilizados/subotimizados. Esses dispositivos variam de GPUs de jogos atualmente não utilizadas a mineradoras de GPU da era pré-Ethereum PoW. E a descentralização do protocolo significa que ele será governado pela maioria da comunidade e não pode ser "desligado" sem o consentimento da comunidade; ao contrário de sua contraparte web2, isso o torna resistente à censura.
Escala + baixo custo: o protocolo Gensyn oferece um custo semelhante às GPUs pertencentes ao data center, que podem ser dimensionadas além da AWS
Ver original
O conteúdo é apenas para referência, não uma solicitação ou oferta. Nenhum aconselhamento fiscal, de investimento ou jurídico é fornecido. Consulte a isenção de responsabilidade para obter mais informações sobre riscos.
a16z lidera investimento de $ 43 milhões em Gensyn, um mercado de poder de computação AGI, para entender Gensyn
Em 12 de junho de 2023, Gensyn, um protocolo de mercado de poder de computação AGI baseado em blockchain, anunciou a conclusão de uma rodada de financiamento da Série A de $ 43 milhões, liderada por a16z, com participação de Eden Block, CoinFund, Galaxy e Protocol Labs.
Que tipo de projeto é Gensyn? Por que você pode obter um grande investimento dos principais VCs? A Golden Finance vai te levar a entendê-lo em um só artigo.
a16z: Por que liderar o financiamento da Série A de US$ 43 milhões da Gensyn
a16z postou um artigo explicando por que liderou a rodada de financiamento da Série A de $ 43 milhões da Gensyn. a16z disse que o progresso recente da inteligência artificial é incrível e tem o poder de salvar o mundo (consulte o relatório anterior da Jinse Finance "longo artigo do fundador da a16z: Por que a IA salvará o mundo"). Mas a construção de sistemas de IA requer a implantação de um poder de computação muito maior para treinar e raciocinar sobre os modelos maiores e mais poderosos disponíveis hoje. Isso significa que as grandes empresas de tecnologia têm vantagem sobre as startups na corrida para extrair valor da IA, graças ao acesso privilegiado ao poder de computação e às economias de escala dos grandes data centers. Para competir em igualdade de condições, as startups precisam ser capazes de usar seu próprio poder de computação de forma acessível.
Blockchains são únicos como um novo tipo de computador em que os desenvolvedores podem escrever códigos que fazem promessas firmes sobre como o código se comportará no futuro. Esse componente sem permissão do blockchain pode criar um mercado para compradores e vendedores de poder de computação – ou qualquer outro tipo de recurso digital, como dados ou algoritmos – para negociar globalmente sem intermediários.
**Gensyn, um protocolo de mercado de computação AGI baseado em blockchain, conecta desenvolvedores (qualquer pessoa que possa treinar modelos de aprendizado de máquina) com solucionadores (Solver, qualquer pessoa que queira usar suas próprias máquinas para treinar modelos de aprendizado de máquina). Gensyn pode aumentar o poder de computação disponível para aprendizado de máquina em 10-100x, aproveitando a longa cauda de dispositivos de computação com capacidade de aprendizado de máquina deixados sem uso em todo o mundo, como pequenos data centers, PCs para jogos, Macs M1 e M2 e até mesmo smartphones. **
Problemas enfrentados pela AGI (Inteligência Artificial Geral): Altamente Centralizado
Após quase meio ano de desenvolvimento, o mercado geralmente reconhece que o AGI é o futuro. Mas a indústria de AGI atualmente parece altamente monopolizada**, entre os países é uma guerra comercial e de talentos entre a China e os Estados Unidos, e entre as empresas é o jogo das grandes empresas de tecnologia (Microsoft, Google, Meta). **Porque os três principais recursos da AGI (poder de computação, conhecimento e dados) são atualmente altamente centralizados. **
Poder de computação: modelos cada vez maiores e complexos exigem processadores de alta capacidade de computação para treinamento. Entre países: A guerra de chips entre a China e os Estados Unidos, os Estados Unidos têm impedido ativamente a China de obter chips de alta potência. Entre as empresas: capacidade de produção insuficiente, os chips AI mais recentes da Nvidia são todos comprados por alguns grandes clientes e outras empresas não podem comprá-los. Na pilha de tecnologia: algumas empresas até criam seu próprio hardware dedicado para aprendizado profundo, como os clusters de TPU do Google. Eles superam as GPUs padrão para aprendizado profundo e não estão à venda, apenas para aluguel.
Conhecimento: muitas descobertas públicas decorrem de novas arquiteturas de modelo em grande escala desenvolvidas por pesquisadores, mas há uma batalha sobre a propriedade intelectual e o talento subjacentes. Por exemplo, os Estados Unidos atraem mais de 50% dos talentos de IA da China, e grandes empresas que usam esses talentos para desenvolver modelos em larga escala estão reduzindo cada vez mais a acessibilidade dessa tecnologia; o GPT-3.5 ou 4 da OpenAI está nominalmente disponível ao público, mas ele fica atrás de uma API e apenas a Microsoft tem acesso ao seu código-fonte.
Dados: os modelos de aprendizado profundo da AGI exigem grandes quantidades de dados, rotulados e não rotulados, e geralmente melhoram com mais dados. GPT-3 foi treinado em 300 bilhões de palavras. Dados rotulados são particularmente importantes, e os conjuntos de dados necessários para treinar AGI estão concentrados nas mãos de algumas grandes empresas. Por exemplo, um pouco de bom conhecimento: toda vez que você visita um site resolvendo o reCaptcha, está rotulando dados de treinamento para melhorar o Google Maps.
Dificuldades na computação AGI descentralizada
A computação descentralizada pode criar uma base mais barata e livre para pesquisar e desenvolver inteligência artificial. Mas há um problema de verificação de trabalho no AGI descentralizado, como você sabe que o terceiro concluiu o cálculo solicitado?
O quebra-cabeça de prova de trabalho tem dois fatores: dependência de estado e alto custo computacional.
Dependência de estado: cada camada em uma rede neural é conectada a todos os nós da camada anterior. Isso significa que ele precisa do estado da camada anterior. Para piorar, todos os pesos de cada camada são determinados pelo intervalo de tempo anterior. Então, se você quiser verificar se alguém treinou um modelo -- digamos, escolhendo um ponto aleatório na rede e vendo se você obtém o mesmo estado -- você precisa continuar treinando o modelo até aquele ponto, o que é computacionalmente caro.
Altas despesas computacionais: o custo de uma única sessão de treinamento do GPT-3 em 2020 é de cerca de US$ 12 milhões, mais de 270 vezes maior do que o valor estimado de cerca de US$ 43.000 para o treinamento do GPT-2 em 2019. Em geral, a complexidade do modelo (tamanho) das melhores redes neurais atualmente dobra a cada três meses. A sobrecarga de validação, possivelmente de dependências de estado, é aceitável se a rede neural for mais barata e/ou se o treinamento representar menos um processo de desenvolvimento de modelo.
Se você deseja tornar o treinamento de aprendizado profundo barato e descentralizar o controle, precisa de um sistema que gerencie a validação relacionada ao estado de forma confiável, sendo barato em termos de sobrecarga e recompensando aqueles que contribuem com a computação.
Como a Gensyn descentraliza a computação AGI
O protocolo Gensyn une toda a computação do mundo em um supercluster global de aprendizado de máquina que está prontamente disponível para qualquer pessoa. Ele permite o treinamento sem confiança de redes neurais em grande escala e a baixo custo, combinando duas coisas:
1. Sistema de verificação inovador
Um sistema de verificação que resolve eficientemente o problema de dependência de estado no treinamento de redes neurais de escala arbitrária. O sistema combina pontos de verificação de treinamento de modelo com verificações probabilísticas que terminam na cadeia. Ele faz tudo isso de maneira confiável com uma sobrecarga que escala linearmente com o tamanho do modelo (mantendo os custos de validação constantes).
De acordo com Gensyn Litepaper, Gensyn resolve principalmente o problema de verificação através de três conceitos: prova de aprendizagem probabilística (utilizando metadados no processo de otimização baseado em gradiente para construir um certificado do trabalho realizado e verificá-lo rapidamente através da replicação de certas etapas) , Protocolo de identificação baseado em gráfico (usa protocolo de identificação baseado em gráfico e execução de consenso entre avaliadores para permitir que o trabalho de validação seja executado novamente e comparado quanto à consistência e, finalmente, confirmado pela própria cadeia), estilo Truebit incentivado jogos (usando staking e slashing para construir um jogo de incentivo que garanta que cada jogador financeiramente racional aja honestamente e execute suas tarefas pretendidas)
**O sistema consiste principalmente em quatro participantes principais: apresentadores, solucionadores, verificadores e denunciantes. **Submitter: o usuário final do sistema, que fornece a tarefa a ser calculada e paga pela unidade de trabalho concluída; solver: a principal parte funcional do sistema, realiza o treinamento do modelo e gera provas para verificação pelo verificador; verificador : o não determinístico O processo de treinamento está vinculado a uma computação linear determinística, replicando parte da prova do solucionador e comparando a distância com um limite esperado; o denunciante: a última linha de defesa, verificando o trabalho do verificador e desafiando por um jackpot.
2. Novo suprimento
Aproveite os recursos de dispositivos de computação subutilizados e subutilizados/subotimizados. Esses dispositivos variam de GPUs de jogos atualmente não utilizadas a mineradoras de GPU da era pré-Ethereum PoW. E a descentralização do protocolo significa que ele será governado pela maioria da comunidade e não pode ser "desligado" sem o consentimento da comunidade; ao contrário de sua contraparte web2, isso o torna resistente à censura.
Escala + baixo custo: o protocolo Gensyn oferece um custo semelhante às GPUs pertencentes ao data center, que podem ser dimensionadas além da AWS