Analyse approfondie · Environ 4 min de lecture
L’expérience GPT-OSS-20B d’AWS sépare langue de sortie et raisonnement juste
Une petite étude multilingue montre les apports de SFT et GRPO, une régression par langue et les limites de généralisation.
- Date de la source
- Publié ici
- Source vérifiée
Le guide AWS du 20 octobre ajuste GPT-OSS-20B avec LoRA sur HyperPod pour que raisonnement généré et réponse suivent la langue demandée. C’est une personnalisation, pas un nouveau modèle de base. Le résultat porte sur la langue, non la justesse mathématique, factuelle ou la fidélité du raisonnement.
Écouter les actualités
Écoutez cet article ou poursuivez la lecture des actualités.
Préparation de la lecture…
Voix de l’appareil
La voix est traitée par votre navigateur ou appareil. AISubHub n’envoie pas le texte à une API audio. Les voix et la lecture écran verrouillé dépendent de l’appareil.
La reprise peut répéter une courte phrase.
En bref
- Sur 50 cas, la langue du raisonnement passe de 11/50 au départ à 50/50 après SFT. La langue de réponse passe de 31/50 après SFT à 35/50 après GRPO.
- Le gain est de 8 points de pourcentage, soit quatre cas ; l’italien recule de 60% à 40%, donc toutes les langues ne progressent pas.
Ce que mesurent les 50 cas
La tâche demande raisonnement généré et réponse en anglais, français, allemand, espagnol ou italien. Dix problèmes de maths/logique sont déclinés en cinq langues, soit 50 cas. Les données décrites comptent environ 949 exemples d’entraînement et 50 de validation. Les métriques vérifient la langue des deux segments, pas la validité mathématique. Le modèle initial obtient 22% pour le raisonnement, avec tous les cas anglais et un allemand. Aucun succès observé en français, espagnol ou italien indique une lacune dans ce test, pas une probabilité strictement nulle du comportement dans la distribution du modèle.
SFT enseigne le comportement par étapes
Le réglage utilise LoRA rang 8, alpha 16, 1 000 étapes, 16 GPU L40S 48GB sur quatre ml.g6e.12xlarge, FSDP, bf16 et gradient checkpointing. AWS rapporte 100% pour la langue du raisonnement vers l’étape 200 ; à l’étape 1 000, la langue de réponse reste à 62%. Dire que la langue est acquise exige de préciser segment et évaluation. SFT et le GRPO initial de GPT-OSS emploient TRL, sur HyperPod EKS et FSx for Lustre. Le contrôle Qwen utilise ensuite une autre pile ; ces configurations ne sont pas des mesures de performance interchangeables.
GRPO améliore l’ensemble avec un compromis
Depuis SFT, l’adaptateur est fusionné puis remplacé par un nouveau LoRA rang 8, alpha 16, avec huit générations par prompt. Les récompenses privilégient langue de réponse ±5, raisonnement ±1,5 et un petit terme de brièveté. GRPO compare les réponses du groupe et favorise les récompenses relativement meilleures ; la diversité utile compte. Le résultat retenu maintient raisonnement à 100% et fait passer réponse de 62% à 70%. Français 60→70%, allemand 60→80%, espagnol 30→60%, anglais stable à 100%, mais italien 60→40%. Avec dix cas par langue, un cas vaut dix points. Il s’agit d’un raffinement global modeste, pas d’un progrès multilingue universel.
Le contrôle teste une marge, pas un plafond universel
AWS rapporte un contrôle interne Qwen2.5-7B-Instruct avec veRL, Ray, KubeRay et vLLM. De SFT à GRPO, langue de réponse passe 38→44% et raisonnement 96→98%. Sur 200 cas GSM8K, modèle initial et GRPO à l’étape 30 font 181/200, soit 90,5%. Les auteurs relient l’absence de gain à des groupes pauvres en signal relatif de récompense. Cela ne prouve ni plafond global ni échec nécessaire de toute autre configuration GRPO. Avant de dépenser, examiner diversité, récompense et régressions, avec une recette définie séparément. AISubHub n’a entraîné aucun modèle ni exécuté les manifestes ou payé des API pour reproduire ces résultats.
Pourquoi cela compte
Analyse AISubHub : définir le comportement manquant, puis examiner chaque langue et échec. Un gain global peut masquer un recul dans la langue prioritaire du produit.
Limites et disponibilité
Ces expériences sont rapportées par AWS, pas mesurées par nous. Le petit test linguistique ne démontre ni raisonnement général ni couverture large ni économie d’entraînement. Le dépôt du contrôle Qwen n’était pas encore public.
Sources et preuves
Date de la source: 20 oct. 2026 · Source vérifiée: 21 oct. 2026
Articles assistés par IA, vérifiés avec les sources primaires citées. Les affirmations des fournisseurs sont attribuées ; la présence ne vaut pas recommandation.