Vertiefende Analyse · Etwa 4 Min. Lesezeit
MAI-Base-2: Trainingseffizienz und Verfügbarkeit getrennt prüfen
Microsoft erläutert ein Basismodell mit 2,8 Billionen Parametern, Datenwiederholung und Infrastruktur. Die Kennzahlen belegen noch keinen verfügbaren Assistenten.
- Datum der Quelle
- Hier veröffentlicht
- Quelle geprüft
Microsoft AI veröffentlichte am 15. Oktober seinen Bericht zum Vortraining von MAI-Base-2. Das Expertenmodell umfasst laut Team 2,8 Billionen Parameter insgesamt und 80 Milliarden aktive Parameter. Die Nachricht betrifft Methode und Evidenz: Der Checkpoint befand sich noch im Nachtraining. Damit wurde kein allgemein verfügbarer Assistent und kein entsprechendes Abonnement angekündigt.
Nachrichten anhören
Diesen Artikel vorlesen oder mit den Nachrichten fortfahren.
Vorlesen wird vorbereitet…
Gerätestimme
Browser oder Gerät verarbeiten die Sprache. AISubHub sendet den Text nicht an eine Audio-API. Stimmen und Wiedergabe bei gesperrtem Bildschirm hängen vom Gerät ab.
Beim Fortsetzen kann sich ein kurzer Satzteil wiederholen.
Auf einen Blick
- Microsoft nennt 38 Trainingstage auf 16.000 GB200-GPUs, durchschnittlich 21 % Modell-FLOPs-Auslastung und 89 % Goodput. Diese Kennzahlen messen unterschiedliche Aspekte.
- Bei gleichem Bits-pro-Byte-Verlust auf zurückgehaltenen Texten schätzt das Team die FLOPs-Effizienz auf das 4,2–12,3-Fache von DeepSeek-V4-Pro-Base. Das ist eine Kurvenanpassung, keine gemessene Senkung der endgültigen Rechnung.
1. Basismodell und Assistent sind verschiedene Lieferstände
Vortraining lernt Vorhersagestrukturen aus Daten; Nachtraining formt anschließend Anweisungsbefolgung und Anwendungsverhalten. Microsoft ordnet MAI-Base-2 zwischen diesen Phasen ein. Aktive Parameter beschreiben die für ein Token ausgewählte Berechnung, während die deutlich größere Gesamtzahl für Speicherung und Bereitstellung wichtig bleibt. Keine Zahl allein bestimmt Speicherbedarf oder interaktive Geschwindigkeit. Die Veröffentlichung dokumentiert eine Grundlage, belegt aber kein sofort nutzbares Copilot-Upgrade.
2. Auch kleine Experimente müssen Daten wiederholen
Die Skalierungsleiter hält Trainingstokens pro aktivem Parameter konstant. Zusätzlich beschränkt Microsoft einzigartige Beispiele kleiner Versuche, damit jede Datenquelle vergleichbar häufig wiederholt wird: Eine Quelle mit acht Durchläufen im 50T-Token-Training erhält im 5T-Versuch ein Zehntel ihrer Daten und ebenfalls acht Durchläufe. So werden Einstellungen vermieden, die nur bei ständig neuen Beispielen gut funktionieren. Lernrate und Gewichtszerfall werden gemeinsam abgestimmt, weil ihre Wirkungen gekoppelt sind.
3. Was der Effizienzvergleich tatsächlich zeigt
Bits pro Byte normiert den Vorhersageverlust auf ursprüngliche Textbytes und vermindert Unterschiede zwischen Tokenizern. Microsoft passt getrennte Rechenaufwand-Verlust-Kurven für Code, Fragen und Antworten, STEM sowie Mathematik an und berücksichtigt den finalen Checkpoint. Geschätzt wird der Aufwand für den Verlustwert der Referenz. Der tatsächliche MAI-Base-2-Lauf verbrauchte mehr FLOPs als diese Referenz. Andere Vergleichscheckpoints waren teilweise bereits nachtrainiert, ein ausdrücklich genannter Vorbehalt. Daraus folgen weder direkt Dollar-Ersparnisse noch ein allgemeines Assistentenranking.
4. Sparsame Aktivierung braucht planbare Infrastruktur
Microsoft bündelt Experten in Gruppen mit fester Tokenkapazität. Überlastete Experten können freie Kapazität ihrer Gruppe nutzen; verbleibende Tokens werden in weiteren Runden verarbeitet, nicht verworfen. Zusätzliche Runden tauschen Zeit gegen begrenzten Speicherbedarf. Versand, Berechnung und Rückführung überlappen. Außerdem verteilt das Team Optimierermomentum neu, damit Muon trotz verteilter Speicherung ganze Matrizen bearbeiten kann. Die optimierte Muon-Phase dauerte laut Bericht 165 Millisekunden beziehungsweise 2,1 % einer mittleren Iteration. Das gilt für diese Implementierung, nicht automatisch für andere Cluster.
5. Datenqualität gehört zum technischen Ergebnis
Microsoft meldet rund 36 % mehr einzigartige Trainingstokens, einen Wissensstichtag im März 2026 und interne Verarbeitung ohne Destillation anderer Modelle. Der Bild-Sprach-Korpus ohne separaten Encoder enthält 4,5T einzigartige Tokens; einschließlich Wiederholungen liefert er 18 % der 50T-Mischung. Einzigartige Datenmenge und aufsummierte Trainingskontakte sind verschieden. Clipping von Aktivierungsgradienten half außerdem, ein fehlerhaftes Codebeispiel bis zu einem Vorverarbeitungsfehler zurückzuverfolgen. Stabilitätsüberwachung kann somit Datenreparaturen anstoßen, statt lediglich die Tokenmenge zu erhöhen.
6. Technische Aussagen in überprüfbare Fragen übersetzen
Der Bericht verbindet Modellentscheidungen mit realer Laufzeit: Ein Aufbau kann theoretische Operationen sparen und durch Kommunikation oder Speicherverwaltung trotzdem langsamer werden. Unsere Analyse sieht darin eine Grundlage für Experimente, aber keine ausreichende Produktionsentscheidung anhand großer Zahlen. Reproduzierbare Aufgaben, Datenrechte, nachtrainiertes Verhalten und Bereitstellungsgrenzen bleiben zu prüfen. Solange das nicht geklärt ist, sind künftige Partnerlizenzen von aktuellem Zugang, Preisen und persönlichen Abonnements getrennt zu betrachten.
Warum es wichtig ist
AISubHub-Analyse: Übertragbar ist die gemeinsame Bewertung von Datenwiederholung, Architektur und Kommunikation. Unternehmenskäufer müssen Verfügbarkeit des nachtrainierten Checkpoints, Bereitstellungsbedingungen und reproduzierbare Aufgabenbewertungen gesondert prüfen; der Trainingsbericht beantwortet das nicht.
Grenzen und Verfügbarkeit
Die Leistungszahlen stammen von Microsoft, nicht aus AISubHub-Messungen. Gelesen wurde der vollständige öffentliche Blogtext, nicht die separate PDF oder der Diagrammcode. Die geplante Lizenzierung von Gewichten an vertrauenswürdige Foundry-Partner nennt weder einen öffentlichen API-Preis noch persönliche Aborechte für MAI-Base-2.
Quellen und Belege
Datum der Quelle: 15.10.2026 · Quelle geprüft: 20.10.2026
KI-gestützte redaktionelle Beiträge, anhand der genannten Primärquellen geprüft. Anbieterangaben werden zugeordnet; eine Aufnahme ist keine Empfehlung.