Notícia breve · Cerca de 1 min de leitura
Transformers 5.20.2 corrige tipos de entrada e gradientes de especialistas
O patch trata conversões multimodais, gradientes BF16 e declarações de modalidades.
- Publicado aqui
- Data da fonte
- Fonte verificada
A Hugging Face publicou o Transformers 5.20.2 em 19 de outubro. As notas apresentam quatro correções, sem lançar um novo modelo.
Ouça as notícias
Ouça este artigo ou continue ouvindo as notícias.
Preparando a leitura…
Voz do dispositivo
O navegador ou dispositivo processa a voz. O AISubHub não envia o texto a uma API de áudio. As vozes e a reprodução com a tela bloqueada variam conforme o dispositivo.
Ao continuar, uma frase curta pode se repetir.
Resumo
- A geração preserva os tipos de entrada em prepare_inputs_for_generation, corrigindo problemas que afetavam modelos multimodais.
- Uma correção trata gradientes de especialistas zerados com paralelismo bfloat16 quando ep_size < fsdp_size.
- Modelos de visão e linguagem que declaravam apenas texto agora informam suas modalidades de entrada.
- O caminho eager_mask evita uma cópia do host para o dispositivo.
Por que importa
Mantenedores podem repetir os testes afetados de geração e treinamento distribuído. Nossa interpretação prioriza compatibilidade e correção como critérios de atualização, em vez de uma nova pontuação de capacidade.
Limites e disponibilidade
São alegações do projeto. Não executamos a versão; as notas não quantificam ganhos de velocidade nem garantem corrigir todas as cargas multimodais ou distribuídas.
Fontes e evidências
Data da fonte: · Fonte verificada:
Conteúdo editorial com apoio de IA, verificado em fontes primárias. Alegações dos fornecedores são atribuídas; inclusão não é recomendação.