Kurzmeldung · Etwa 1 Min. Lesezeit
Transformers 5.20.2 korrigiert Eingabetypen und Expertengradienten
Das Wartungsupdate behebt multimodale Typumwandlungen, BF16-Gradienten und Modalitätsangaben.
- Hier veröffentlicht
- Datum der Quelle
- Quelle geprüft
Hugging Face veröffentlichte Transformers 5.20.2 am 19. Oktober. Die Versionshinweise nennen vier Korrekturen und kein neues Modell.
Nachrichten anhören
Diesen Artikel vorlesen oder mit den Nachrichten fortfahren.
Vorlesen wird vorbereitet…
Gerätestimme
Browser oder Gerät verarbeiten die Sprache. AISubHub sendet den Text nicht an eine Audio-API. Stimmen und Wiedergabe bei gesperrtem Bildschirm hängen vom Gerät ab.
Beim Fortsetzen kann sich ein kurzer Satzteil wiederholen.
Auf einen Blick
- Bei der Generierung bleiben Eingabetypen in prepare_inputs_for_generation erhalten, um Probleme multimodaler Modelle zu beheben.
- Ein Fix betrifft Expertengradienten von null bei bfloat16-Expertenparallelität mit ep_size < fsdp_size.
- Vision-Language-Modelle, die fälschlich nur Text meldeten, deklarieren nun ihre Eingabemodalitäten.
- Der Pfad eager_mask vermeidet eine Kopie vom Host zum Gerät.
Warum es wichtig ist
Verantwortliche können betroffene Generierungs- und verteilte Trainingstests erneut ausführen. Unsere Einordnung legt den Schwerpunkt auf Kompatibilität und Korrektheit als Updatekriterien, nicht auf einen neuen Fähigkeitsscore.
Grenzen und Verfügbarkeit
Dies sind Angaben des Projekts. Wir haben die Version nicht ausgeführt. Die Hinweise beziffern keinen Geschwindigkeitsgewinn und garantieren keine Korrektur sämtlicher multimodaler oder verteilter Arbeitslasten.
Quellen und Belege
Datum der Quelle: · Quelle geprüft:
KI-gestützte redaktionelle Beiträge, anhand der genannten Primärquellen geprüft. Anbieterangaben werden zugeordnet; eine Aufnahme ist keine Empfehlung.