Fonte: Shen Ran, Autores: Jin Yufan, He Shulong, Editor: He Shulong
Fonte da imagem: Gerada pela ferramenta Unbounded AI
Meio ano após o lançamento do ChatGPT, uma perseguição de modelo em grande escala continuou a ser realizada em ambos os lados do Oceano Pacífico.
A aliança formada pela OpenAI, Microsoft e Nvidia está à solta na costa leste do Oceano Pacífico. Desde março deste ano, as empresas de tecnologia chinesas acompanharam com urgência. Baidu, Ali, SenseTime e iFLYTEK lançaram sucessivamente produtos "semelhantes ao ChatGPT". Tencent, Huawei e JD. Os tempos também são oportunidades "dez vezes maiores".
No momento da "Guerra dos Cem Modelos", a Xiaomi, como uma grande empresa nacional de tecnologia, parece estar extraordinariamente calma.
Lei Jun, chefe da Xiaomi, disse que a Xiaomi está desenvolvendo algumas tecnologias e produtos e os demonstrará a todos depois de polidos. Lu Weibing, presidente do Xiaomi Group, disse que a Xiaomi atualmente possui uma equipe de IA de mais de 1.200 pessoas e adotará ativamente modelos de grande escala e os integrará com profundidade de negócios, mas não fará modelos de grande escala de uso geral como o OpenAI .
Essas informações aprofundaram as dúvidas do mundo exterior: a Xiaomi entrará na "Guerra dos Cem Modelos"?
Dr. Wang Bin, diretor do AI Lab do Xiaomi Group, disse a Shenran que a Xiaomi desenvolverá seu próprio modelo de uso geral, mas não lançará um produto semelhante ao ChatGPT sozinho, "nem lançará um PPT ou demonstrará um alguns exemplos, digamos que temos um modelo grande”, mas o modelo grande autodesenvolvido acabará sendo trazido pelo produto.
Esta é a primeira vez que o percurso e o andamento do modelo grande são divulgados ao mundo exterior depois que a Xiaomi anunciou oficialmente a equipe do modelo grande. Em 14 de abril deste ano, a Xiaomi anunciou que a equipe de grandes modelos seria liderada por Luan Jian e se reportaria a Wang Bin. Wang Bin está envolvido em pesquisa e desenvolvimento relacionado ao NLP (Natural Language Processing) na Academia Chinesa de Ciências há mais de 20 anos. Ele ingressou na Xiaomi em 2018 e é responsável pelo laboratório de IA desde 2019. O AI Lab é o departamento central da estratégia de IA da Xiaomi.
Xiaomi, que criou um modelo de diálogo em larga escala, é um raro racionalista no modelo de linguagem de larga escala pré-treinado de uso geral. Wang Bin revelou que atualmente existem mais de 30 equipes de modelo em grande escala em tempo integral e não se expandirá rapidamente imediatamente; o objetivo dessa equipe ainda é um modelo de linguagem em grande escala e os parâmetros do modelo de base de destino da primeira etapa são dezenas de bilhões** , e então, dependendo dos resultados anteriores da escalada, a próxima etapa será decidida.
"Ainda há um longo caminho a percorrer desde o desenvolvimento de modelos em grande escala até o pouso. Se eles podem encontrar cenas importantes adequadas é um ponto problemático para muitas empresas de modelos em grande escala." Na visão de Wang Bin, a vantagem da Xiaomi é que tem modelos grandes prontos suficientes. Cenários de pouso, incluindo Xiao Ai, loT, direção autônoma, robôs, etc., cenários de aplicativos ricos também podem retroalimentar a capacidade de modelos grandes.
Cenários não faltam na Xiaomi, mas para treinar um grande modelo, o acúmulo de dados, poder de computação e talentos é indispensável. Wang Bin disse que a Xiaomi tem uma certa reserva de talentos, e os desafios em termos de poder de computação e volume de dados são relativamente grandes. Por um lado, o poder de computação precisa superar os desafios no nível do sistema e o custo do treinamento deve ser controlável; por outro lado, é preciso muito tempo e custo para obter e limpar dados de alta qualidade.
Na nova onda de modelos grandes de IA, por que a equipe de IA da Xiaomi não lança "produtos do tipo ChatGPT"? Como a Xiaomi julga a rota técnica e a dificuldade técnica do modelo grande? Há alguns dias, He Shulong, editor-chefe da Shenran, conversou com Wang Bin, diretor do Laboratório de IA do Comitê Técnico da Xiaomi. O seguinte é o conteúdo principal:
Modelo grande da Xiaomi: 30 pessoas na equipe, sem "tipo ChatGPT"
**Shen Ran: Em 14 de abril, a Xiaomi nomeou Luan Jian como chefe da equipe de grandes modelos para se reportar a você. Você pode nos contar como nasceu a equipe de modelos grandes da Xiaomi? **
**Wang Bin:**A grande equipe modelo foi anunciada em abril, mas já havia começado a operar antes disso.
Em 30 de novembro do ano passado, depois que a OpenAI lançou o ChatGPT, muitos de nós rapidamente registramos uma conta e começamos a jogar nela. O ChatGPT é realmente subversivo. Trabalhamos em IA há tantos anos e muitos de seus recursos excederam as expectativas de nossos desenvolvedores.
Logo, organizamos vários grupos internos de comunicação de modelos em grande escala para discutir a tecnologia de modelos em grande escala e seu impacto disruptivo na tradução automática, diálogo homem-máquina, resposta inteligente a perguntas e atendimento ao cliente. **Muitas das pessoas que participaram dos primeiros workshops mais tarde se tornaram membros importantes da equipe de mockup em tempo integral. **
**Shen Ran: A equipe de modelos em grande escala da Xiaomi chegará um pouco atrasada? **
Wang Bin: Para modelos grandes, pertencemos à escola racional.
Antes do nascimento do ChatGPT, a Xiaomi havia feito pesquisa interna, desenvolvimento e aplicação de grandes modelos, principalmente na forma de pré-treinamento + supervisão de tarefas a jusante e ajuste fino para o diálogo homem-máquina, e os parâmetros do modelo estavam no bilhões. Obviamente, esse tipo de modelo não é um modelo de grande escala de uso geral, como agora é chamado.
Estamos muito claros de que o desenvolvimento e a aplicação do modelo geral grande é um trabalho de longo prazo, não uma questão de tempo. Estávamos caminhando de acordo com nosso próprio tempo e passos, naquele momento, sentimos que o tempo havia acabado, então fizemos um lançamento de equipe.
**Shen Ran: Quantas pessoas há na equipe de modelo grande? Há planos de continuar expandindo? **
**Wang Bin:**A equipe principal atualmente tem mais de 30 pessoas. Atualmente, estamos nos preparando de acordo com os aspectos de talentos, dados, modelos, poder de computação, avaliação e produtos e, em seguida, ajustamos ou expandimos gradualmente após um determinado estágio.
Não expandiremos imediatamente o número de pessoas, como recrutar 100 pessoas de uma só vez. Porque na fase ascendente de acumulação de capacidade, recrutar tanta gente pode não saber como arranjar, mas é um desperdício.
Com a divulgação contínua de informações sobre grandes modelos e o influxo contínuo de capital e talentos, o campo de grandes modelos se desenvolveu muito rapidamente e as opiniões de todos mudaram muito. Quando o ChatGPT foi lançado, não muito tempo atrás, todos sentiram que era basicamente impossível realizar um modelo semelhante em grande escala, mas lentamente, muitas pessoas sentiram que a possibilidade era muito alta e algumas pessoas acreditavam que muitos produtos poderiam ser satisfeitos sem tal um modelo em grande escala. demanda. A intensidade de investimento de todos também é muito diferente. Algumas pessoas podem pensar que a equipe precisa de pelo menos algumas centenas de pessoas, e algumas pessoas pensam que não é necessário.
**Shenran: Existem planos em fases para o futuro, quando será testado internamente e lançado externamente? **
Wang Bin: Ao contrário de outras empresas, a Xiaomi nasce com os atributos dos produtos. Acredito que quando o modelo grande da Xiaomi sai, é trazido pelo produto.
Podemos testar internamente antes do terceiro trimestre. No entanto, este não é um nó inevitável.
**Shen Ran: Em outras palavras, a Xiaomi não lançará um produto semelhante ao ChatGPT? **
Wang Bin: Sim, não lançaremos um PPT, nem demonstraremos que temos um modelo grande. Cenários de aplicativos ricos são nossa maior vantagem. **O modelo grande da Xiaomi será mais integrado com a cena, e o plano de lançamento correspondente deve ser feito de acordo com o ritmo do produto. **
**Shenran: Além da mão de obra, qual é o custo do poder de computação para a Xiaomi fazer um modelo grande? **
Wang Bin: Somos um investimento de médio porte e decidiremos sobre a próxima etapa do investimento com base nos resultados da escalada anterior.
Nosso julgamento básico é que o modelo adequado para produtos e empresas Xiaomi pode ter parâmetros na casa das dezenas de bilhões**, que serão inferiores à escala de 100 bilhões, e o investimento em máquinas de treinamento é de cerca de dezenas de milhões de RMB.
**Shen Ran: Como é o modelo com bilhões de parâmetros feito pela Xiaomi antes? **
**Wang Bin: **ChatGPT lançado no ano passado é um tipo de modelo em grande escala, chamado de modelo grande de idioma pré-treinado de uso geral. Mas o grande modelo em si apareceu muito cedo e todos têm rotas e métodos diferentes.
Começamos a seguir o modelo grande anteriormente, naquela época, fizemos um modelo específico de diálogo com cerca de 2,8 bilhões a 3 bilhões de parâmetros. Ele é realizado pelo ajuste fino dos dados do diálogo com base no modelo básico pré-treinado. Não é o modelo grande de uso geral atual, mas é dedicado ao diálogo homem-máquina. Sexo, deixe-o continuar. Mais tarde, este modelo foi lançado para Xiaoai e um teste online em pequena escala foi realizado.
Portanto, o AIGC já foi usado em Xiao Ai, mas no nível do produto, não usamos totalmente esse modelo grande, mas usamos a complementaridade do modelo tradicional e o modelo de diálogo grande para usar os dois juntos.
O modelo grande de propósito geral da Xiaomi provavelmente será este modelo híbrido quando for lançado no produto. Os problemas que o modelo tradicional trata muito bem são transferidos para o modelo tradicional. O modelo grande resolve os problemas em que é bom, como alguns pequenos eventos de probabilidade ou diálogos de cauda longa.
O nível de diálogo do modelo grande de propósito geral que saiu agora é significativamente maior do que o do modelo grande específico de diálogo anterior, então esta parte da equipe também foi transferida para o modelo grande de propósito geral. Essa equipe passou por todo o processo de treinamento do grande modelo de diálogo, escalou alguns poços e, com o acúmulo de dados, tem certas vantagens.
Millet grande modelo: a cena é dominante e os dados são um problema
**Shenran: Durante este período de tempo, o progresso tecnológico foi muito rápido, e os modelos domésticos de grande escala estão sendo lançados intensivamente. Você ficará ansioso por causa do lento progresso? **
Wang Bin: Eu costumava ficar bastante ansioso por um tempo, porque ficava um pouco em pânico se não acabasse fazendo isso o tempo todo, e você pensava: “Como os outros podem progredir tão rápido e fazer tudo de uma vez?” Agora descemos para fazer. Sem mais preocupações.
Diz-se que a China é agora uma "guerra de cem modelos", e mais de 80 modelos grandes foram lançados, alguns dos quais fornecem testes internos e outros são lançados apenas pelo PPT. O efeito de alguns modelos ainda é bom. A julgar pelo nível de lançamento, o nível de nossos modelos grandes autodesenvolvidos existentes não parece ser pior do que muitos modelos. Mas não temos pressa em fazer um lançamento externo. Primeiro, para uma empresa como a Xiaomi, não faz muito sentido. Em segundo lugar, ainda esperamos melhorar o modelo autodesenvolvido em torno do produto e, em seguida, lançá-lo juntos.
**Shenran: Você acha que os grandes modelos de empresas nacionais têm chance de alcançar o OpenAI? Qual é o tamanho da lacuna? Eles gostam de usar três meses, seis meses para descrever. **
Wang Bin: No momento, a OpenAI deve estar muito avançada, investiu cedo e tem um acúmulo muito forte em talentos, dados, poder de computação, engenharia e produtos. Pela situação doméstica, sinto que ainda existe uma certa lacuna entre OpenAI e OpenAI, algumas pessoas dizem que são três meses ou seis meses, enquanto outras dizem que é um ano ou dois anos. Em termos de tempo, é difícil dizer.
Porque como avaliar um modelo grande é um problema muito difícil em si. Agora existem classificações de vários modelos grandes, mas nenhum deles foi unanimemente reconhecido por todos. **Não existe um padrão de avaliação real, então falar em recuperar em três meses ou seis meses é apenas um tapa na cara. **
Quanto à possibilidade de a China alcançar o OpenAI, eu estava pessimista no início e pensei que era quase impossível, mas com o influxo de várias soluções de código aberto, várias equipes e capital, meu julgamento é mais otimista. Acho que a China tem a oportunidade de estreitar a distância com o OpenAI, de abordá-lo ou até ultrapassá-lo em muitos cenários.
**Modelos grandes não parecem ter um limite tão alto para chips. Através do acúmulo contínuo e otimização de talentos, dados, poder de computação, etc., é possível estreitar continuamente a lacuna. **
**Shenran: Quais tipos de empresas nacionais têm mais vantagens em modelos de grande escala? Onde está a oportunidade para a Xiaomi? **
Wang Bin: Independentemente de grandes empresas ou pequenas e médias empresas iniciantes, cada uma tem seu próprio espaço vital. O grande modelo é uma ecologia, e nenhum grande pode levar tudo.Todas as empresas na ecologia, incluindo poder de computação, dados, aplicativos e empresas que realmente fazem grandes modelos, têm suas próprias oportunidades.
Modelos de grande escala como o Xiaomi têm a vantagem dos cenários de aplicação. Acreditamos que a combinação de grandes modelos e cenas será uma grande oportunidade.
Porque se você apenas lançar um modelo grande e ninguém o usar, ele pode não ser capaz de se desenvolver rapidamente por meio do rolamento. E podemos aterrissar imediatamente na cena e, por meio da iteração contínua, podemos aproveitar ao máximo o poder do modelo grande nessas cenas.
Apesar de atualmente apenas integrarmos uma equipa principal de mais de 30 pessoas, na verdade há muita gente na periferia. Em todo o laboratório de IA, há mais de 100 pessoas com experiência em PNL e fazendo aplicações específicas, incluindo gráfico de conhecimento, tradução automática, diálogo homem-máquina, atendimento inteligente ao cliente e resposta inteligente a perguntas. Eles são todos pessoas com o pensamento básico de grandes modelos e tecnologias relacionadas e estão promovendo a exploração de grandes modelos da perspectiva de suas respectivas aplicações.
Wang Bin
**Shen Ran: Quão valioso é o acúmulo da Xiaomi na pesquisa de PNL para modelos grandes? **
Wang Bin: Existem duas opiniões na indústria. Uma maneira de dizer é que alguns de nós podem não ter empregos e a IA nos matou, especialmente aqueles que praticam PNL podem não ter empregos. Também existe um ditado que diz que, afinal, o grande modelo é feito de PNL, e quem faz PNL tem vantagens inerentes.
Ambas as afirmações têm alguma verdade, mas, afinal, envolve meu trabalho, estou mais inclinado para a última afirmação.
Modelos grandes foram originalmente explorados em vários campos, incluindo visão, fala e PNL. Mas por que é o primeiro avanço no campo da PNL, acredito que haja razões essenciais para isso. Entendo pelo menos dois pontos: o primeiro é a riqueza e a fácil disponibilidade dos dados linguísticos, e o segundo é que existe um conhecimento muito rico que reflete o processo de pensamento humano oculto por trás dos dados linguísticos.
Portanto, acredito que as pessoas que se acumularam no campo da PNL por muitos anos têm certas vantagens inatas em compreender e transformar grandes modelos. Muitos membros da equipe de modelos em grande escala da Xiaomi trabalharam originalmente na direção da PNL. Várias empresas iniciantes que são muito boas em fazer modelos em grande escala na China também saíram do campo da PNL.
**Shen Ran: Quais são as dificuldades atuais para a Xiaomi superar o modelo grande? Como superá-lo? **
**Wang Bin:**Em primeiro lugar, ainda quero dizer que o modelo grande em si tem grandes desafios.
Um grande desafio é a incerteza da tecnologia. Vimos alguns relatórios, e até mesmo a própria equipe da OpenAI não é muito clara sobre os princípios reais por trás do modelo grande e, se o fizerem novamente, não têm certeza se os mesmos resultados "emergentes" ocorrerão. Acredito que a OpenAI esteja falando a verdade nesse ponto, devido à grande incerteza da tecnologia, o investimento não pode garantir que um grande modelo que atenda às expectativas possa ser treinado.
O acúmulo de dados de alta qualidade também é um desafio. Geralmente acredita-se que modelos grandes requerem dados de treinamento extremamente grandes e de alta qualidade. A qualidade dos dados publicamente disponíveis na Internet é relativamente ruim em geral, então a aquisição e a limpeza de ** dados são desafios relativamente grandes. **
Outro desafio é obviamente o poder de computação. Em primeiro lugar, isso não significa que existem tantos cartões que podem ser treinados. Como fazer bom uso desses cartões é um desafio em nível de sistema em si. Em segundo lugar, porque erros podem ser cometidos durante o processo de treinamento, o dinheiro pode ser queimado e nada pode ser queimado, então depende se você tem a capacidade de treinar um modelo grande a um custo controlável.
Na prática, os desafios atuais de ** dados e poder de computação ainda são relativamente grandes, especialmente dados de alta qualidade em grande escala **. Após o período anterior de escalada, agora temos basicamente certeza de que, desde que os dados estejam no lugar e usando o poder de computação existente, provavelmente podemos saber quantos dias serão necessários para treinar um bom modelo de base.
**Shenran: O custo do treinamento de modelo grande foi reduzido agora? **
Wang Bin: Por um lado, o custo de tentativa e erro é menor do que antes. Porque o treinamento de modelo grande pode dar desvios e falhar, mas com a divulgação de várias informações, é possível encontrar rapidamente a direção correta do treinamento. Por outro lado, muitas empresas de computação em nuvem, chip e outras, bem como muitas empresas iniciantes, estão fornecendo serviços de treinamento e inferência de modelos grandes e de baixo custo. Com o desenvolvimento de toda a ecologia, acredito que o custo do treinamento continuará diminuindo.
Como o modelo grande afeta os negócios da Xiaomi?
**Shen Ran: Você pode apresentar o Xiaomi AI Lab pelo qual você é responsável em detalhes? **
Wang Bin: Após o nascimento de "AlphaGo" em 2016, o Sr. Lei imediatamente promoveu a construção da equipe de IA. O AI Lab foi formalmente estabelecido em 2016, e estou no comando desde 2019.
Acontece que o AI Lab faz parte do Ministério da Inteligência Artificial. Mais tarde, o Departamento de Inteligência Artificial foi incorporado ao Comitê Técnico do Grupo, e agora o AI Lab está diretamente sob o Comitê Técnico.
O tamanho atual da equipe do AI Lab é de cerca de 350 pessoas e possui seis direções, a saber: aprendizado de máquina, processamento de linguagem natural (NLP), visão computacional, acústica, fala e gráficos de conhecimento.
Depois que o grande modelo foi lançado, o AI Lab montou uma equipe de grande modelo em tempo integral. Agora estamos nos concentrando no grande modelo de linguagem, mas também estamos prestando atenção ao grande modelo multimodal.
**Shen Ran: O Sr. Lu (presidente do Xiaomi Group Lu Weibing) disse que a equipe Xiaomi AI tem atualmente mais de 1.200 pessoas. Além do laboratório de IA, que outros departamentos da Xiaomi estão fortemente relacionados à IA? **
**Wang Bin:**Além do laboratório de IA, há também a equipe de Xiao Ai, ambos sob o comitê técnico.
Além do comitê técnico, existem muitos departamentos com equipes de IA relativamente grandes, incluindo o departamento de piloto automático do departamento automotivo, o departamento de câmeras do celular e o departamento de software. Além disso, o crescimento do usuário e as recomendações de publicidade no Os departamentos de negócios da Internet estão todos relacionados à IA.
Resumindo, algumas equipes relacionadas à IA estão no departamento de negócios e outras no comitê técnico. O número total é de cerca de 1.200. Se você considerar algumas equipes pequenas, pessoalmente acho que esse número é ainda maior.
**Shen Ran: Qual é o papel do Xiaomi AI Lab na estratégia de IA da Xiaomi? **
**Wang Bin:**AI Lab é o departamento de pesquisa e desenvolvimento e produção de tecnologia AI no nível do grupo. Em termos leigos, estamos exportando tecnologia de IA para toda a empresa.
Certa vez, comparamos o laboratório de IA ao "campo experimental" e ao "depósito de munições" da tecnologia de IA no nível do grupo. Devido ao rápido desenvolvimento da IA, o laboratório de IA desenvolverá algumas tecnologias de ponta de médio e longo prazo, fará reservas em torno dos negócios da Xiaomi e produzirá "munições" quando o grupo precisar.
Em termos de tecnologia de IA, devemos ter as reservas mais completas da empresa e também somos muito poderosos no setor.
**Shen Ran: Quais são as importantes conquistas de pesquisa do Xiaomi AI Lab? **
Wang Bin: O conceito do nosso laboratório de IA enfatiza a combinação de tecnologia e cenários. Atualmente, os artigos publicados não são considerados OKR. Portanto, depois que vim para a Xiaomi da Academia Chinesa de Ciências (Academia Chinesa de Ciências), sinto que a maior conquista não é o progresso de um único ponto da tecnologia, mas a integração engenhosa de tecnologia e produtos.
A Xiaomi é uma empresa To C. Nossa produção de capacidade de IA não é exportada diretamente para o mundo exterior por enquanto, mas por meio dos produtos da empresa. Fizemos muitas conquistas, incluindo muitos algoritmos de processamento de câmera e álbum de fotos em telefones celulares Xiaomi, algoritmos de voz e NLP envolvidos em Xiao Ai e algoritmos de IA nos sistemas de recomendação, pesquisa e atendimento ao cliente do Xiaomi Mall.
Deixe-me dar um exemplo. Desenvolvemos uma função de tradução offline em nosso celular. Por exemplo, depois de ir para o exterior, a rede não é tão boa em muitos casos. Neste momento, ative a função de tradução do celular Xiaomi sem usar a nuvem. No estado offline, em tempo real, privacidade e o efeito de tradução é melhor. A implementação e aplicação desta função não é fácil. Fizemos muito trabalho de otimização em efeitos de tradução e desempenho.
**Na Xiaomi, não é a nossa própria tecnologia, que será usada primeiro. A tecnologia interna também deve competir com a tecnologia externa de forma justa. Apenas o vencedor pode sobreviver e ser aplicado aos produtos. **
**Shenran: Quais negócios da Xiaomi serão afetados pela tecnologia de modelo em larga escala representada pelo ChatGPT? **
**Wang Bin:**A capacidade mais forte do modelo grande, em termos simples, é que ele entende melhor as pessoas e obviamente pode otimizar o modo de interação humano-computador. O colega de classe Xiao Ai da Xiaomi, o sistema operacional do telefone móvel MIUI, a cabine do carro, a IoT e os robôs são cenários típicos em que modelos grandes são aplicados.
**Shen Ran: Você poderia usar Xiao Ai como exemplo? **
Wang Bin: Aplicado a Xiao Ai, pode fazer duas coisas ao mesmo tempo. Uma é tornar possível o impossível, o que equivale a ter novas funções. Por exemplo, pedi a Xiao Ai para fazer um plano de viagem ou pedir refeições, etc. A capacidade técnica original não foi alcançada e, se o usuário colocar de outra forma, ficará confuso. Mas Com o suporte de modelos grandes, ele tem uma compreensão mais profunda da fala humana, para que tarefas complexas possam ser concluídas, e esse tipo de aplicação é viável.
Outra categoria é a valorização da função original, que equivale à cereja do bolo. Devido ao salto e à diversidade das expressões humanas, no processo de interação humano-computador de Xiaoai, o maior problema é encontrar eventos de pequena probabilidade. Nós o chamamos de Corner Case e geralmente adotamos uma estratégia conservadora para deixar Xiaoai dizer: "Eu não posso" t responder", "Ainda estou aprendendo"**. Esse tipo de resposta de apoio também pode continuar a conversa, mas a experiência não é boa. Mas a tecnologia de modelo grande pode manter o diálogo por mais tempo e melhorar muito a satisfação do usuário.
**Shenran: O modelo grande tem um grande impacto na casa inteligente? **
**Wang Bin:**De acordo com meu entendimento pessoal, o modelo grande pode pelo menos melhorar a experiência do usuário da casa inteligente em termos de recursos interativos.
Embora existam muitos dispositivos que afirmam ser "inteligentes", eles geralmente se comportam como "retardados mentais" e a taxa de uso não é alta. Por exemplo, ligando o ar condicionado ou ajustando a temperatura do ar condicionado, se a instrução for diferente do comando padrão, pode não ser possível controlar o dispositivo IoT.
Mas após a chegada do modelo grande, ele tem uma compreensão mais profunda da linguagem humana. Em muitos casos, existem várias expressões. O modelo grande pode traduzir a expressão do usuário em instruções que a máquina pode entender. Isso levará mais pessoas a usar dispositivos inteligentes e permitirá que todo o ecossistema cresça mais rapidamente.
**Shenran: Além da melhoria dos negócios existentes, há outras coisas que a Xiaomi não podia fazer antes, mas é possível fazer depois de ter um modelo grande? **
Wang Bin: Faremos uma colaboração profunda entre o grande modelo e esses negócios. Claro, além disso, também estamos procurando mais possibilidades.
Nossa equipe escreveu muitos artigos para promover grandes modelos dentro da empresa, incluindo o conceito e desenvolvimento de tecnologia de grandes modelos, e para ensinar a todos como usar o ChatGPT para resolver problemas de negócios. O Sr. Lei pediu a todos os departamentos que aprendessem modelos de grande escala e exige que todos tenham um pensamento básico sobre modelos de grande escala e pensem em como integrá-los aos negócios.
Ver original
O conteúdo serve apenas de referência e não constitui uma solicitação ou oferta. Não é prestado qualquer aconselhamento em matéria de investimento, fiscal ou jurídica. Consulte a Declaração de exoneração de responsabilidade para obter mais informações sobre os riscos.
Modelo grande da Xiaomi, não se envolva em "ChatGPT"
Fonte: Shen Ran, Autores: Jin Yufan, He Shulong, Editor: He Shulong
Meio ano após o lançamento do ChatGPT, uma perseguição de modelo em grande escala continuou a ser realizada em ambos os lados do Oceano Pacífico.
A aliança formada pela OpenAI, Microsoft e Nvidia está à solta na costa leste do Oceano Pacífico. Desde março deste ano, as empresas de tecnologia chinesas acompanharam com urgência. Baidu, Ali, SenseTime e iFLYTEK lançaram sucessivamente produtos "semelhantes ao ChatGPT". Tencent, Huawei e JD. Os tempos também são oportunidades "dez vezes maiores".
No momento da "Guerra dos Cem Modelos", a Xiaomi, como uma grande empresa nacional de tecnologia, parece estar extraordinariamente calma.
Lei Jun, chefe da Xiaomi, disse que a Xiaomi está desenvolvendo algumas tecnologias e produtos e os demonstrará a todos depois de polidos. Lu Weibing, presidente do Xiaomi Group, disse que a Xiaomi atualmente possui uma equipe de IA de mais de 1.200 pessoas e adotará ativamente modelos de grande escala e os integrará com profundidade de negócios, mas não fará modelos de grande escala de uso geral como o OpenAI .
Essas informações aprofundaram as dúvidas do mundo exterior: a Xiaomi entrará na "Guerra dos Cem Modelos"?
Dr. Wang Bin, diretor do AI Lab do Xiaomi Group, disse a Shenran que a Xiaomi desenvolverá seu próprio modelo de uso geral, mas não lançará um produto semelhante ao ChatGPT sozinho, "nem lançará um PPT ou demonstrará um alguns exemplos, digamos que temos um modelo grande”, mas o modelo grande autodesenvolvido acabará sendo trazido pelo produto.
Esta é a primeira vez que o percurso e o andamento do modelo grande são divulgados ao mundo exterior depois que a Xiaomi anunciou oficialmente a equipe do modelo grande. Em 14 de abril deste ano, a Xiaomi anunciou que a equipe de grandes modelos seria liderada por Luan Jian e se reportaria a Wang Bin. Wang Bin está envolvido em pesquisa e desenvolvimento relacionado ao NLP (Natural Language Processing) na Academia Chinesa de Ciências há mais de 20 anos. Ele ingressou na Xiaomi em 2018 e é responsável pelo laboratório de IA desde 2019. O AI Lab é o departamento central da estratégia de IA da Xiaomi.
Xiaomi, que criou um modelo de diálogo em larga escala, é um raro racionalista no modelo de linguagem de larga escala pré-treinado de uso geral. Wang Bin revelou que atualmente existem mais de 30 equipes de modelo em grande escala em tempo integral e não se expandirá rapidamente imediatamente; o objetivo dessa equipe ainda é um modelo de linguagem em grande escala e os parâmetros do modelo de base de destino da primeira etapa são dezenas de bilhões** , e então, dependendo dos resultados anteriores da escalada, a próxima etapa será decidida.
"Ainda há um longo caminho a percorrer desde o desenvolvimento de modelos em grande escala até o pouso. Se eles podem encontrar cenas importantes adequadas é um ponto problemático para muitas empresas de modelos em grande escala." Na visão de Wang Bin, a vantagem da Xiaomi é que tem modelos grandes prontos suficientes. Cenários de pouso, incluindo Xiao Ai, loT, direção autônoma, robôs, etc., cenários de aplicativos ricos também podem retroalimentar a capacidade de modelos grandes.
Cenários não faltam na Xiaomi, mas para treinar um grande modelo, o acúmulo de dados, poder de computação e talentos é indispensável. Wang Bin disse que a Xiaomi tem uma certa reserva de talentos, e os desafios em termos de poder de computação e volume de dados são relativamente grandes. Por um lado, o poder de computação precisa superar os desafios no nível do sistema e o custo do treinamento deve ser controlável; por outro lado, é preciso muito tempo e custo para obter e limpar dados de alta qualidade.
Na nova onda de modelos grandes de IA, por que a equipe de IA da Xiaomi não lança "produtos do tipo ChatGPT"? Como a Xiaomi julga a rota técnica e a dificuldade técnica do modelo grande? Há alguns dias, He Shulong, editor-chefe da Shenran, conversou com Wang Bin, diretor do Laboratório de IA do Comitê Técnico da Xiaomi. O seguinte é o conteúdo principal:
Modelo grande da Xiaomi: 30 pessoas na equipe, sem "tipo ChatGPT"
**Shen Ran: Em 14 de abril, a Xiaomi nomeou Luan Jian como chefe da equipe de grandes modelos para se reportar a você. Você pode nos contar como nasceu a equipe de modelos grandes da Xiaomi? **
**Wang Bin:**A grande equipe modelo foi anunciada em abril, mas já havia começado a operar antes disso.
Em 30 de novembro do ano passado, depois que a OpenAI lançou o ChatGPT, muitos de nós rapidamente registramos uma conta e começamos a jogar nela. O ChatGPT é realmente subversivo. Trabalhamos em IA há tantos anos e muitos de seus recursos excederam as expectativas de nossos desenvolvedores.
Logo, organizamos vários grupos internos de comunicação de modelos em grande escala para discutir a tecnologia de modelos em grande escala e seu impacto disruptivo na tradução automática, diálogo homem-máquina, resposta inteligente a perguntas e atendimento ao cliente. **Muitas das pessoas que participaram dos primeiros workshops mais tarde se tornaram membros importantes da equipe de mockup em tempo integral. **
**Shen Ran: A equipe de modelos em grande escala da Xiaomi chegará um pouco atrasada? **
Wang Bin: Para modelos grandes, pertencemos à escola racional.
Antes do nascimento do ChatGPT, a Xiaomi havia feito pesquisa interna, desenvolvimento e aplicação de grandes modelos, principalmente na forma de pré-treinamento + supervisão de tarefas a jusante e ajuste fino para o diálogo homem-máquina, e os parâmetros do modelo estavam no bilhões. Obviamente, esse tipo de modelo não é um modelo de grande escala de uso geral, como agora é chamado.
Estamos muito claros de que o desenvolvimento e a aplicação do modelo geral grande é um trabalho de longo prazo, não uma questão de tempo. Estávamos caminhando de acordo com nosso próprio tempo e passos, naquele momento, sentimos que o tempo havia acabado, então fizemos um lançamento de equipe.
**Shen Ran: Quantas pessoas há na equipe de modelo grande? Há planos de continuar expandindo? **
**Wang Bin:**A equipe principal atualmente tem mais de 30 pessoas. Atualmente, estamos nos preparando de acordo com os aspectos de talentos, dados, modelos, poder de computação, avaliação e produtos e, em seguida, ajustamos ou expandimos gradualmente após um determinado estágio.
Não expandiremos imediatamente o número de pessoas, como recrutar 100 pessoas de uma só vez. Porque na fase ascendente de acumulação de capacidade, recrutar tanta gente pode não saber como arranjar, mas é um desperdício.
Com a divulgação contínua de informações sobre grandes modelos e o influxo contínuo de capital e talentos, o campo de grandes modelos se desenvolveu muito rapidamente e as opiniões de todos mudaram muito. Quando o ChatGPT foi lançado, não muito tempo atrás, todos sentiram que era basicamente impossível realizar um modelo semelhante em grande escala, mas lentamente, muitas pessoas sentiram que a possibilidade era muito alta e algumas pessoas acreditavam que muitos produtos poderiam ser satisfeitos sem tal um modelo em grande escala. demanda. A intensidade de investimento de todos também é muito diferente. Algumas pessoas podem pensar que a equipe precisa de pelo menos algumas centenas de pessoas, e algumas pessoas pensam que não é necessário.
**Shenran: Existem planos em fases para o futuro, quando será testado internamente e lançado externamente? **
Wang Bin: Ao contrário de outras empresas, a Xiaomi nasce com os atributos dos produtos. Acredito que quando o modelo grande da Xiaomi sai, é trazido pelo produto.
Podemos testar internamente antes do terceiro trimestre. No entanto, este não é um nó inevitável.
**Shen Ran: Em outras palavras, a Xiaomi não lançará um produto semelhante ao ChatGPT? **
Wang Bin: Sim, não lançaremos um PPT, nem demonstraremos que temos um modelo grande. Cenários de aplicativos ricos são nossa maior vantagem. **O modelo grande da Xiaomi será mais integrado com a cena, e o plano de lançamento correspondente deve ser feito de acordo com o ritmo do produto. **
**Shenran: Além da mão de obra, qual é o custo do poder de computação para a Xiaomi fazer um modelo grande? **
Wang Bin: Somos um investimento de médio porte e decidiremos sobre a próxima etapa do investimento com base nos resultados da escalada anterior.
Nosso julgamento básico é que o modelo adequado para produtos e empresas Xiaomi pode ter parâmetros na casa das dezenas de bilhões**, que serão inferiores à escala de 100 bilhões, e o investimento em máquinas de treinamento é de cerca de dezenas de milhões de RMB.
**Shen Ran: Como é o modelo com bilhões de parâmetros feito pela Xiaomi antes? **
**Wang Bin: **ChatGPT lançado no ano passado é um tipo de modelo em grande escala, chamado de modelo grande de idioma pré-treinado de uso geral. Mas o grande modelo em si apareceu muito cedo e todos têm rotas e métodos diferentes.
Começamos a seguir o modelo grande anteriormente, naquela época, fizemos um modelo específico de diálogo com cerca de 2,8 bilhões a 3 bilhões de parâmetros. Ele é realizado pelo ajuste fino dos dados do diálogo com base no modelo básico pré-treinado. Não é o modelo grande de uso geral atual, mas é dedicado ao diálogo homem-máquina. Sexo, deixe-o continuar. Mais tarde, este modelo foi lançado para Xiaoai e um teste online em pequena escala foi realizado.
Portanto, o AIGC já foi usado em Xiao Ai, mas no nível do produto, não usamos totalmente esse modelo grande, mas usamos a complementaridade do modelo tradicional e o modelo de diálogo grande para usar os dois juntos.
O modelo grande de propósito geral da Xiaomi provavelmente será este modelo híbrido quando for lançado no produto. Os problemas que o modelo tradicional trata muito bem são transferidos para o modelo tradicional. O modelo grande resolve os problemas em que é bom, como alguns pequenos eventos de probabilidade ou diálogos de cauda longa.
O nível de diálogo do modelo grande de propósito geral que saiu agora é significativamente maior do que o do modelo grande específico de diálogo anterior, então esta parte da equipe também foi transferida para o modelo grande de propósito geral. Essa equipe passou por todo o processo de treinamento do grande modelo de diálogo, escalou alguns poços e, com o acúmulo de dados, tem certas vantagens.
Millet grande modelo: a cena é dominante e os dados são um problema
**Shenran: Durante este período de tempo, o progresso tecnológico foi muito rápido, e os modelos domésticos de grande escala estão sendo lançados intensivamente. Você ficará ansioso por causa do lento progresso? **
Wang Bin: Eu costumava ficar bastante ansioso por um tempo, porque ficava um pouco em pânico se não acabasse fazendo isso o tempo todo, e você pensava: “Como os outros podem progredir tão rápido e fazer tudo de uma vez?” Agora descemos para fazer. Sem mais preocupações.
Diz-se que a China é agora uma "guerra de cem modelos", e mais de 80 modelos grandes foram lançados, alguns dos quais fornecem testes internos e outros são lançados apenas pelo PPT. O efeito de alguns modelos ainda é bom. A julgar pelo nível de lançamento, o nível de nossos modelos grandes autodesenvolvidos existentes não parece ser pior do que muitos modelos. Mas não temos pressa em fazer um lançamento externo. Primeiro, para uma empresa como a Xiaomi, não faz muito sentido. Em segundo lugar, ainda esperamos melhorar o modelo autodesenvolvido em torno do produto e, em seguida, lançá-lo juntos.
**Shenran: Você acha que os grandes modelos de empresas nacionais têm chance de alcançar o OpenAI? Qual é o tamanho da lacuna? Eles gostam de usar três meses, seis meses para descrever. **
Wang Bin: No momento, a OpenAI deve estar muito avançada, investiu cedo e tem um acúmulo muito forte em talentos, dados, poder de computação, engenharia e produtos. Pela situação doméstica, sinto que ainda existe uma certa lacuna entre OpenAI e OpenAI, algumas pessoas dizem que são três meses ou seis meses, enquanto outras dizem que é um ano ou dois anos. Em termos de tempo, é difícil dizer.
Porque como avaliar um modelo grande é um problema muito difícil em si. Agora existem classificações de vários modelos grandes, mas nenhum deles foi unanimemente reconhecido por todos. **Não existe um padrão de avaliação real, então falar em recuperar em três meses ou seis meses é apenas um tapa na cara. **
Quanto à possibilidade de a China alcançar o OpenAI, eu estava pessimista no início e pensei que era quase impossível, mas com o influxo de várias soluções de código aberto, várias equipes e capital, meu julgamento é mais otimista. Acho que a China tem a oportunidade de estreitar a distância com o OpenAI, de abordá-lo ou até ultrapassá-lo em muitos cenários.
**Modelos grandes não parecem ter um limite tão alto para chips. Através do acúmulo contínuo e otimização de talentos, dados, poder de computação, etc., é possível estreitar continuamente a lacuna. **
**Shenran: Quais tipos de empresas nacionais têm mais vantagens em modelos de grande escala? Onde está a oportunidade para a Xiaomi? **
Wang Bin: Independentemente de grandes empresas ou pequenas e médias empresas iniciantes, cada uma tem seu próprio espaço vital. O grande modelo é uma ecologia, e nenhum grande pode levar tudo.Todas as empresas na ecologia, incluindo poder de computação, dados, aplicativos e empresas que realmente fazem grandes modelos, têm suas próprias oportunidades.
Modelos de grande escala como o Xiaomi têm a vantagem dos cenários de aplicação. Acreditamos que a combinação de grandes modelos e cenas será uma grande oportunidade.
Porque se você apenas lançar um modelo grande e ninguém o usar, ele pode não ser capaz de se desenvolver rapidamente por meio do rolamento. E podemos aterrissar imediatamente na cena e, por meio da iteração contínua, podemos aproveitar ao máximo o poder do modelo grande nessas cenas.
Apesar de atualmente apenas integrarmos uma equipa principal de mais de 30 pessoas, na verdade há muita gente na periferia. Em todo o laboratório de IA, há mais de 100 pessoas com experiência em PNL e fazendo aplicações específicas, incluindo gráfico de conhecimento, tradução automática, diálogo homem-máquina, atendimento inteligente ao cliente e resposta inteligente a perguntas. Eles são todos pessoas com o pensamento básico de grandes modelos e tecnologias relacionadas e estão promovendo a exploração de grandes modelos da perspectiva de suas respectivas aplicações.
**Shen Ran: Quão valioso é o acúmulo da Xiaomi na pesquisa de PNL para modelos grandes? **
Wang Bin: Existem duas opiniões na indústria. Uma maneira de dizer é que alguns de nós podem não ter empregos e a IA nos matou, especialmente aqueles que praticam PNL podem não ter empregos. Também existe um ditado que diz que, afinal, o grande modelo é feito de PNL, e quem faz PNL tem vantagens inerentes.
Ambas as afirmações têm alguma verdade, mas, afinal, envolve meu trabalho, estou mais inclinado para a última afirmação.
Modelos grandes foram originalmente explorados em vários campos, incluindo visão, fala e PNL. Mas por que é o primeiro avanço no campo da PNL, acredito que haja razões essenciais para isso. Entendo pelo menos dois pontos: o primeiro é a riqueza e a fácil disponibilidade dos dados linguísticos, e o segundo é que existe um conhecimento muito rico que reflete o processo de pensamento humano oculto por trás dos dados linguísticos.
Portanto, acredito que as pessoas que se acumularam no campo da PNL por muitos anos têm certas vantagens inatas em compreender e transformar grandes modelos. Muitos membros da equipe de modelos em grande escala da Xiaomi trabalharam originalmente na direção da PNL. Várias empresas iniciantes que são muito boas em fazer modelos em grande escala na China também saíram do campo da PNL.
**Shen Ran: Quais são as dificuldades atuais para a Xiaomi superar o modelo grande? Como superá-lo? **
**Wang Bin:**Em primeiro lugar, ainda quero dizer que o modelo grande em si tem grandes desafios.
Um grande desafio é a incerteza da tecnologia. Vimos alguns relatórios, e até mesmo a própria equipe da OpenAI não é muito clara sobre os princípios reais por trás do modelo grande e, se o fizerem novamente, não têm certeza se os mesmos resultados "emergentes" ocorrerão. Acredito que a OpenAI esteja falando a verdade nesse ponto, devido à grande incerteza da tecnologia, o investimento não pode garantir que um grande modelo que atenda às expectativas possa ser treinado.
O acúmulo de dados de alta qualidade também é um desafio. Geralmente acredita-se que modelos grandes requerem dados de treinamento extremamente grandes e de alta qualidade. A qualidade dos dados publicamente disponíveis na Internet é relativamente ruim em geral, então a aquisição e a limpeza de ** dados são desafios relativamente grandes. **
Outro desafio é obviamente o poder de computação. Em primeiro lugar, isso não significa que existem tantos cartões que podem ser treinados. Como fazer bom uso desses cartões é um desafio em nível de sistema em si. Em segundo lugar, porque erros podem ser cometidos durante o processo de treinamento, o dinheiro pode ser queimado e nada pode ser queimado, então depende se você tem a capacidade de treinar um modelo grande a um custo controlável.
Na prática, os desafios atuais de ** dados e poder de computação ainda são relativamente grandes, especialmente dados de alta qualidade em grande escala **. Após o período anterior de escalada, agora temos basicamente certeza de que, desde que os dados estejam no lugar e usando o poder de computação existente, provavelmente podemos saber quantos dias serão necessários para treinar um bom modelo de base.
**Shenran: O custo do treinamento de modelo grande foi reduzido agora? **
Wang Bin: Por um lado, o custo de tentativa e erro é menor do que antes. Porque o treinamento de modelo grande pode dar desvios e falhar, mas com a divulgação de várias informações, é possível encontrar rapidamente a direção correta do treinamento. Por outro lado, muitas empresas de computação em nuvem, chip e outras, bem como muitas empresas iniciantes, estão fornecendo serviços de treinamento e inferência de modelos grandes e de baixo custo. Com o desenvolvimento de toda a ecologia, acredito que o custo do treinamento continuará diminuindo.
Como o modelo grande afeta os negócios da Xiaomi?
**Shen Ran: Você pode apresentar o Xiaomi AI Lab pelo qual você é responsável em detalhes? **
Wang Bin: Após o nascimento de "AlphaGo" em 2016, o Sr. Lei imediatamente promoveu a construção da equipe de IA. O AI Lab foi formalmente estabelecido em 2016, e estou no comando desde 2019.
Acontece que o AI Lab faz parte do Ministério da Inteligência Artificial. Mais tarde, o Departamento de Inteligência Artificial foi incorporado ao Comitê Técnico do Grupo, e agora o AI Lab está diretamente sob o Comitê Técnico.
O tamanho atual da equipe do AI Lab é de cerca de 350 pessoas e possui seis direções, a saber: aprendizado de máquina, processamento de linguagem natural (NLP), visão computacional, acústica, fala e gráficos de conhecimento.
Depois que o grande modelo foi lançado, o AI Lab montou uma equipe de grande modelo em tempo integral. Agora estamos nos concentrando no grande modelo de linguagem, mas também estamos prestando atenção ao grande modelo multimodal.
**Shen Ran: O Sr. Lu (presidente do Xiaomi Group Lu Weibing) disse que a equipe Xiaomi AI tem atualmente mais de 1.200 pessoas. Além do laboratório de IA, que outros departamentos da Xiaomi estão fortemente relacionados à IA? **
**Wang Bin:**Além do laboratório de IA, há também a equipe de Xiao Ai, ambos sob o comitê técnico.
Além do comitê técnico, existem muitos departamentos com equipes de IA relativamente grandes, incluindo o departamento de piloto automático do departamento automotivo, o departamento de câmeras do celular e o departamento de software. Além disso, o crescimento do usuário e as recomendações de publicidade no Os departamentos de negócios da Internet estão todos relacionados à IA.
Resumindo, algumas equipes relacionadas à IA estão no departamento de negócios e outras no comitê técnico. O número total é de cerca de 1.200. Se você considerar algumas equipes pequenas, pessoalmente acho que esse número é ainda maior.
**Shen Ran: Qual é o papel do Xiaomi AI Lab na estratégia de IA da Xiaomi? **
**Wang Bin:**AI Lab é o departamento de pesquisa e desenvolvimento e produção de tecnologia AI no nível do grupo. Em termos leigos, estamos exportando tecnologia de IA para toda a empresa.
Certa vez, comparamos o laboratório de IA ao "campo experimental" e ao "depósito de munições" da tecnologia de IA no nível do grupo. Devido ao rápido desenvolvimento da IA, o laboratório de IA desenvolverá algumas tecnologias de ponta de médio e longo prazo, fará reservas em torno dos negócios da Xiaomi e produzirá "munições" quando o grupo precisar.
Em termos de tecnologia de IA, devemos ter as reservas mais completas da empresa e também somos muito poderosos no setor.
**Shen Ran: Quais são as importantes conquistas de pesquisa do Xiaomi AI Lab? **
Wang Bin: O conceito do nosso laboratório de IA enfatiza a combinação de tecnologia e cenários. Atualmente, os artigos publicados não são considerados OKR. Portanto, depois que vim para a Xiaomi da Academia Chinesa de Ciências (Academia Chinesa de Ciências), sinto que a maior conquista não é o progresso de um único ponto da tecnologia, mas a integração engenhosa de tecnologia e produtos.
A Xiaomi é uma empresa To C. Nossa produção de capacidade de IA não é exportada diretamente para o mundo exterior por enquanto, mas por meio dos produtos da empresa. Fizemos muitas conquistas, incluindo muitos algoritmos de processamento de câmera e álbum de fotos em telefones celulares Xiaomi, algoritmos de voz e NLP envolvidos em Xiao Ai e algoritmos de IA nos sistemas de recomendação, pesquisa e atendimento ao cliente do Xiaomi Mall.
Deixe-me dar um exemplo. Desenvolvemos uma função de tradução offline em nosso celular. Por exemplo, depois de ir para o exterior, a rede não é tão boa em muitos casos. Neste momento, ative a função de tradução do celular Xiaomi sem usar a nuvem. No estado offline, em tempo real, privacidade e o efeito de tradução é melhor. A implementação e aplicação desta função não é fácil. Fizemos muito trabalho de otimização em efeitos de tradução e desempenho.
**Na Xiaomi, não é a nossa própria tecnologia, que será usada primeiro. A tecnologia interna também deve competir com a tecnologia externa de forma justa. Apenas o vencedor pode sobreviver e ser aplicado aos produtos. **
**Wang Bin:**A capacidade mais forte do modelo grande, em termos simples, é que ele entende melhor as pessoas e obviamente pode otimizar o modo de interação humano-computador. O colega de classe Xiao Ai da Xiaomi, o sistema operacional do telefone móvel MIUI, a cabine do carro, a IoT e os robôs são cenários típicos em que modelos grandes são aplicados.
**Shen Ran: Você poderia usar Xiao Ai como exemplo? **
Wang Bin: Aplicado a Xiao Ai, pode fazer duas coisas ao mesmo tempo. Uma é tornar possível o impossível, o que equivale a ter novas funções. Por exemplo, pedi a Xiao Ai para fazer um plano de viagem ou pedir refeições, etc. A capacidade técnica original não foi alcançada e, se o usuário colocar de outra forma, ficará confuso. Mas Com o suporte de modelos grandes, ele tem uma compreensão mais profunda da fala humana, para que tarefas complexas possam ser concluídas, e esse tipo de aplicação é viável.
Outra categoria é a valorização da função original, que equivale à cereja do bolo. Devido ao salto e à diversidade das expressões humanas, no processo de interação humano-computador de Xiaoai, o maior problema é encontrar eventos de pequena probabilidade. Nós o chamamos de Corner Case e geralmente adotamos uma estratégia conservadora para deixar Xiaoai dizer: "Eu não posso" t responder", "Ainda estou aprendendo"**. Esse tipo de resposta de apoio também pode continuar a conversa, mas a experiência não é boa. Mas a tecnologia de modelo grande pode manter o diálogo por mais tempo e melhorar muito a satisfação do usuário.
**Shenran: O modelo grande tem um grande impacto na casa inteligente? **
**Wang Bin:**De acordo com meu entendimento pessoal, o modelo grande pode pelo menos melhorar a experiência do usuário da casa inteligente em termos de recursos interativos.
Embora existam muitos dispositivos que afirmam ser "inteligentes", eles geralmente se comportam como "retardados mentais" e a taxa de uso não é alta. Por exemplo, ligando o ar condicionado ou ajustando a temperatura do ar condicionado, se a instrução for diferente do comando padrão, pode não ser possível controlar o dispositivo IoT.
Mas após a chegada do modelo grande, ele tem uma compreensão mais profunda da linguagem humana. Em muitos casos, existem várias expressões. O modelo grande pode traduzir a expressão do usuário em instruções que a máquina pode entender. Isso levará mais pessoas a usar dispositivos inteligentes e permitirá que todo o ecossistema cresça mais rapidamente.
**Shenran: Além da melhoria dos negócios existentes, há outras coisas que a Xiaomi não podia fazer antes, mas é possível fazer depois de ter um modelo grande? **
Wang Bin: Faremos uma colaboração profunda entre o grande modelo e esses negócios. Claro, além disso, também estamos procurando mais possibilidades.
Nossa equipe escreveu muitos artigos para promover grandes modelos dentro da empresa, incluindo o conceito e desenvolvimento de tecnologia de grandes modelos, e para ensinar a todos como usar o ChatGPT para resolver problemas de negócios. O Sr. Lei pediu a todos os departamentos que aprendessem modelos de grande escala e exige que todos tenham um pensamento básico sobre modelos de grande escala e pensem em como integrá-los aos negócios.