Vertiefende Analyse · Etwa 3 Min. Lesezeit
AWS trennt im GPT-OSS-20B-Versuch Sprachbefolgung von korrektem Denken
Ein kleiner mehrsprachiger Anpassungsversuch zeigt Beiträge von SFT und GRPO, eine Sprachregression und Grenzen der Verallgemeinerung.
- Hier veröffentlicht
- Datum der Quelle
- Quelle geprüft
Der AWS-Leitfaden vom 20. Oktober passt GPT-OSS-20B mit LoRA auf HyperPod an, damit erzeugter Denktext und Antwort die gewünschte Sprache nutzen. Das ist Anpassung, keine neue Basismodellversion. Gemessen wird Ausgabesprache, nicht mathematische oder sachliche Korrektheit oder Treue des Denkprozesses.
Nachrichten anhören
Diesen Artikel vorlesen oder mit den Nachrichten fortfahren.
Vorlesen wird vorbereitet…
Gerätestimme
Browser oder Gerät verarbeiten die Sprache. AISubHub sendet den Text nicht an eine Audio-API. Stimmen und Wiedergabe bei gesperrtem Bildschirm hängen vom Gerät ab.
Beim Fortsetzen kann sich ein kurzer Satzteil wiederholen.
Auf einen Blick
- Bei 50 Fällen stieg die passende Denksprache von 11/50 im Basismodell auf 50/50 nach SFT. Die Antwortsprache stieg von 31/50 nach SFT auf 35/50 nach GRPO.
- Der Gewinn beträgt 8 Prozentpunkte beziehungsweise vier Fälle; Italienisch fiel von 60% auf 40%, also verbesserten sich nicht alle Sprachen.
Was die 50 Fälle tatsächlich prüfen
Die Aufgabe verlangt Denktext und Antwort auf Englisch, Französisch, Deutsch, Spanisch oder Italienisch. Zehn Mathematik-/Logikaufgaben in fünf Sprachen ergeben 50 Fälle. Die beschriebenen Daten umfassen etwa 949 Trainings- und 50 Validierungsbeispiele. Die Kennzahlen prüfen die Sprache beider Segmente, nicht die mathematische Lösung. Die Basis erreicht 22% bei der Denksprache, mit allen englischen und einem deutschen Fall. Null beobachtete Erfolge in Französisch, Spanisch und Italienisch zeigen eine Lücke in diesem Test, keine streng nullprozentige Wahrscheinlichkeit des Verhaltens im Modell.
SFT lernt das Verhalten stufenweise
Die Konfiguration nutzt LoRA Rang 8, Alpha 16 und 1.000 Schritte, mit 16 L40S-48GB-GPUs auf vier ml.g6e.12xlarge, FSDP, bf16 und Gradient-Checkpointing. AWS meldet 100% Denksprache ungefähr ab Schritt 200; bei Schritt 1.000 liegt die Antwortsprache noch bei 62%. „Sprache gelernt“ braucht daher Segment und Testmenge als Zusatz. SFT und der erste GPT-OSS-GRPO-Lauf nutzen TRL auf HyperPod EKS mit FSx for Lustre. Die spätere Qwen-Kontrolle verwendet einen anderen Stack. Diese Konfigurationen sind keine austauschbaren Leistungsmessungen.
GRPO verbessert den Gesamtwert mit einem Rückschritt
Vom SFT-Checkpoint aus wird der Adapter zusammengeführt und ein neuer LoRA Rang 8, Alpha 16 ergänzt, mit acht Ausgaben je Prompt. Belohnungen gewichten Antwortsprache mit ±5, Denksprache mit ±1,5 und Kürze schwächer. GRPO vergleicht Antworten innerhalb einer Gruppe und bevorzugt relativ bessere Belohnung; nützliche Kandidatenvielfalt ist wichtig. Das ausgewählte Ergebnis hält Denksprache bei 100% und hebt Antwortsprache 62→70%. Französisch steigt 60→70%, Deutsch 60→80%, Spanisch 30→60%, Englisch bleibt 100%, Italienisch fällt 60→40%. Bei zehn Fällen pro Sprache bedeutet einer zehn Punkte. Das ist begrenzte Gesamtverfeinerung, kein universeller Sprachgewinn.
Die Kontrolle prüft Spielraum statt einer Weltgrenze
AWS berichtet eine interne Qwen2.5-7B-Instruct-Kontrolle mit veRL, Ray, KubeRay und vLLM. Von SFT zu GRPO steigt Antwortsprache 38→44%, Denksprache 96→98%. Auf 200 GSM8K-Fällen erreichen Basis und GRPO bei Schritt 30 jeweils 181/200 oder 90,5%. Die Autoren verbinden den fehlenden Gewinn mit wenig relativem Belohnungssignal in den Gruppen. Das beweist weder eine globale Qualitätsgrenze noch das Scheitern jeder anderen GRPO-Konfiguration. Vor Ressourceneinsatz Vielfalt, Belohnung und Sprachregressionen mit separat definierter Abnahme prüfen. AISubHub hat keine Modelle trainiert, Manifeste ausgeführt oder kostenpflichtigen API-Aufrufe zur Reproduktion vorgenommen.
Warum es wichtig ist
AISubHub-Analyse: Zuerst die Verhaltenslücke definieren, dann jede Sprache und Fehlerart prüfen. Ein Gesamtgewinn kann mit einer Verschlechterung der wichtigsten Produktsprache einhergehen.
Grenzen und Verfügbarkeit
Dies sind AWS-Angaben, keine eigenen Messungen. Der kleine Sprachtest belegt weder allgemeine Denkqualität noch breite Sprachabdeckung oder Wirtschaftlichkeit. Das Repository der Qwen-Kontrolle war noch nicht öffentlich.
Quellen und Belege
Datum der Quelle: · Quelle geprüft:
KI-gestützte redaktionelle Beiträge, anhand der genannten Primärquellen geprüft. Anbieterangaben werden zugeordnet; eine Aufnahme ist keine Empfehlung.