AISubHub/Notícias de IA
Pesquisa

Análise aprofundada · Cerca de 5 min de leitura

MAI-Base-2: eficiência de treino e disponibilidade precisam de verificações distintas

A Microsoft detalha uma base de 2,8 trilhões de parâmetros, repetição de dados e melhorias de infraestrutura; as métricas não anunciam um assistente já disponível.

Data da fonte
Publicado aqui
Fonte verificada

A Microsoft AI publicou em 15 de outubro o relato de pré-treino do MAI-Base-2. A arquitetura de especialistas tem, segundo a equipe, 2,8 trilhões de parâmetros totais e 80 bilhões ativos. A notícia útil está no método e nas evidências: o checkpoint ainda passava por pós-treino, sem estabelecer um assistente ou assinatura disponível ao público geral.

Ouça as notícias

Ouça este artigo ou continue ouvindo as notícias.

MAI-Base-2: eficiência de treino e disponibilidade precisam de verificações distintas

Preparando a leitura…

Voz do dispositivo

O navegador ou dispositivo processa a voz. O AISubHub não envia o texto a uma API de áudio. As vozes e a reprodução com a tela bloqueada variam conforme o dispositivo.

Ao continuar, uma frase curta pode se repetir.

Resumo

  • A Microsoft relata 38 dias com 16.000 GPUs GB200, utilização média dos FLOPs do modelo de 21% e goodput de 89%. As duas porcentagens descrevem aspectos diferentes do treino.
  • A eficiência estimada é 4,2–12,3 vezes a do DeepSeek-V4-Pro-Base para igualar bits por byte em textos reservados. Trata-se de curvas ajustadas, não da redução medida da conta final.

1. Um checkpoint base tem outra função

O pré-treino aprende estrutura preditiva a partir de dados. O pós-treino molda como o modelo segue instruções e atua em aplicações. A Microsoft coloca o MAI-Base-2 entre essas etapas. Parâmetros ativos representam a computação selecionada para um token; o total muito maior continua relevante para armazenamento e implantação. Nenhum desses números isolado determina a memória necessária ou a velocidade interativa. O texto permite discutir a fundação, sem comprovar uma atualização do Copilot pronta para uso.

2. Experimentos menores também precisam repetir dados

A escada de escalas mantém fixos os tokens de treino por parâmetro ativo. A Microsoft também restringe amostras únicas nos testes menores para preservar a repetição de cada fonte: uma fonte repetida oito vezes em 50T tokens também se repete oito vezes sobre um décimo dos dados num teste de 5T. Isso reduz a escolha de ajustes que só funcionam quando exemplos menores são quase sempre inéditos. Taxa de aprendizado e decaimento de pesos são ajustados conjuntamente, pois não são controles independentes.

3. O alcance da comparação de eficiência

Bits por byte normaliza a perda preditiva pelos bytes originais, reduzindo a incompatibilidade entre tokenizadores. A Microsoft ajusta curvas próprias de computação e perda para código, perguntas e respostas, STEM e matemática, incluindo o checkpoint final. Estima o esforço necessário para igualar a perda da referência. O treino final do MAI-Base-2, porém, consumiu mais FLOPs que essa referência. Outros checkpoints comparados já tinham pós-treino, ressalva expressa no relato. O resultado não pode virar diretamente economia em dólares ou um ranking universal de assistentes.

4. Especialistas esparsos ainda dependem da infraestrutura

A Microsoft organiza especialistas em grupos com capacidade fixa de tokens. Especialistas sobrecarregados podem usar vagas livres no grupo; o excedente restante segue para rodadas extras em vez de ser descartado. Mais rodadas trocam tempo por memória limitada, com envio, computação e coleta sobrepostos. A equipe redistribui o momento do otimizador para o Muon operar em matrizes completas apesar do armazenamento fragmentado. O passo otimizado levou, segundo o relato, 165 milissegundos, 2,1% da iteração média. Isso descreve uma implementação específica, não uma garantia para outros clusters.

5. Qualidade de dados também é engenharia

A Microsoft diz que os tokens únicos cresceram cerca de 36%, com corte de conhecimento em março de 2026 e processamento interno sem destilação de outros modelos. O corpus de visão e linguagem, sem codificador separado, contém 4,5T tokens únicos; com repetições, representa 18% da mistura de 50T. Volume único e exposição acumulada não são iguais. O recorte de gradientes de ativação também ajudou a rastrear um exemplo de código malformado até um erro de pré-processamento. Monitorar estabilidade pode orientar reparos nos dados, além de aumentar o volume.

6. Transformar a divulgação em questões verificáveis

O relato liga escolhas de modelagem ao tempo real: um desenho pode economizar operações teóricas e ainda ficar mais lento por comunicação ou memória. Nossa análise é que isso ajuda a planejar experimentos, mas não basta para escolher produção pelos números do título. É preciso examinar cargas reproduzíveis, direitos sobre dados, comportamento pós-treino e restrições de implantação. Até esses pontos serem definidos, a intenção de licenciar pesos a parceiros deve permanecer separada do acesso atual, dos preços e das assinaturas pessoais.

Por que importa

Análise AISubHub: o aprendizado transferível é avaliar repetição de dados, arquitetura e comunicação em conjunto. Compradores empresariais ainda precisam verificar acesso ao checkpoint pós-treinado, termos de implantação e avaliações reproduzíveis; o relato de treino não responde a essas questões.

Limites e disponibilidade

As métricas são declarações da Microsoft, não medições do AISubHub. Revisamos toda a prosa do blog público, não o PDF separado ou o código dos gráficos. A intenção de licenciar pesos a parceiros confiáveis via Foundry não fornece preço público de API nem benefício de assinatura pessoal do MAI-Base-2.

Fontes e evidências

Microsoft AI — Frontier Pre-training at Microsoft AI

Data da fonte: 15 de out. de 2026 · Fonte verificada: 20 de out. de 2026

Conteúdo editorial com apoio de IA, verificado em fontes primárias. Alegações dos fornecedores são atribuídas; inclusão não é recomendação.