AISubHub/Actualités IA
Modèles

Analyse approfondie · Environ 8 min de lecture

LFM3 partage un petit socle entre six modèles, avec une voie distincte pour les décisions structurées

LiquidAI décrit un socle partagé de la classe 1.7B pour le texte, la vision, l’audio et les décisions ; ses tests, chiffres de latence et affirmations de déploiement ont des limites précises.

Publié ici
Mis à jour ici
Date de la source
Source vérifiée

L’article de l’équipe LiquidAI du 27 octobre explique comment LFM3-1.7B-Base se décline en six modèles spécialisés. Le choix central consiste à générer du texte ou de la parole, ou à renvoyer des décisions structurées. AISubHub examine l’architecture et les comparaisons publiées ; il s’agit d’affirmations du fournisseur, pas de nos mesures.

Écouter les actualités

Écoutez cet article ou poursuivez la lecture des actualités.

LFM3 partage un petit socle entre six modèles, avec une voie distincte pour les décisions structurées

Préparation de la lecture…

Voix de l’appareil

La voix est traitée par votre navigateur ou appareil. AISubHub n’envoie pas le texte à une API audio. Les voix et la lecture écran verrouillé dépendent de l’appareil.

La reprise peut répéter une courte phrase.

En bref

  • Le socle comprend 24 couches : 13 convolutions courtes à portes, cinq couches d’attention à fenêtre glissante et six couches d’attention globale.
  • La fiche du modèle de texte indique 1.73B paramètres et un contexte de 256K tokens pour l’entrée et la sortie réunies ; la mémoire approximative du modèle en 4 bits n’est pas le budget d’une application complète.
  • Les temps audio et les décisions calibrées décrivent des composants ou des évaluations précis, sans garantir la latence de bout en bout ni la justesse des réponses.

Un tronc commun se ramifie en six tâches différentes

LFM3-1.7B génère du texte. LFM3-VL-2B ajoute des images et de la vidéo en entrée ; LFM3-Audio-2B accepte du texte ou de l’audio et produit du texte ou de la parole. LFM3-Omni-2B combine des entrées textuelles, visuelles et audio avec une sortie textuelle ou vocale. Le schéma des branches montre des parcours d’entraînement distincts à partir d’une même base, et non un unique checkpoint doté de six interfaces interchangeables. La fiche de texte décrit séparément MOPD, qui distille six enseignants spécialisés dans un seul élève ; ces enseignants ne sont pas les six branches de produits.

Les autres branches, d1-2B et d1-omni-2B, dérivent respectivement de VL et d’Omni et renvoient des réponses structurées avec des probabilités. Selon l’interprétation d’AISubHub, il faut d’abord choisir le contrat d’entrée et de sortie nécessaire : une conversation vocale et une décision encadrée d’orientation de documents posent des problèmes d’ingénierie différents. La « classe 2B » ne signifie pas non plus que chaque modèle possède exactement deux milliards de paramètres.

Traitement local et contexte global se partagent 24 couches

LiquidAI annonce 13 convolutions à portes, avec un noyau de taille sept contre trois pour LFM2 ; cinq couches d’attention utilisent une fenêtre glissante de 256 tokens et six portent sur le contexte global. Des portes sigmoid par tête, RoPE appliqué uniquement à la moitié de chaque tête d’attention globale correspondant aux fréquences les plus élevées, RoPE complet dans les couches à fenêtre glissante et une normalisation en entrée et en sortie complètent la conception décrite. La recherche avec matériel dans la boucle couvre 14 combinaisons d’appareils et de moteurs d’exécution ; elle ne certifie pas tous les déploiements sur ces appareils.

La base a été entraînée sur 22T tokens, dont une phase finale d’entraînement intermédiaire de 3.5T, avec un vocabulaire de 128K. La fiche de texte précise que les 256K de contexte englobent l’entrée et la sortie. Dans la comparaison du blog par paramètre avec LFM2-1.2B sur des appareils en périphérie, la vitesse est équivalente pour les prompts courts et l’inférence avec un contexte de 8K est environ 25% plus rapide ; le blog indique aussi environ 1 Go en 4 bits. Nous prévoirions séparément les coûts mémoire de l’environnement d’exécution, du cache de contexte et des modalités, sans promettre qu’une application complète à long contexte tienne dans cette empreinte.

Les comparaisons de texte et de vision exigent leurs bases de référence

Pour le texte, le blog annonce 35% de paramètres en moins que LFM2.5-2.6B et des scores WebArena-Verified de 38.42 contre 3.02. Pour la vision, LFM3-VL-2B est comparé à LFM2.5-VL-3B avec 1.9B contre 3.1B paramètres et une moyenne sur 62 tests passant de 57.6 à 71.4, décrite comme comparable à Gemma 4 12B. Ce sont des comparaisons rapportées par la source, pas un classement général ni des résultats reproduits ici.

Le nouvel encodeur visuel de 164M utiliserait un tiers du calcul de l’ancien encodeur SigLIP2. Sa comparaison de précision distincte avec l’encodeur de Qwen3.5-2B utilise le même socle linguistique LFM2.5-230M et annonce environ 1/2.2 du nombre de FLOPs. Cette comparaison contrôlée d’encodeurs ne mesure pas la latence du modèle entier. Regrouper chaque paire d’images échantillonnées dans une tranche temporelle divise la séquence temporelle par deux, sans établir que la précision reste inchangée pour toutes les vidéos.

Les temps de parole décrivent des composants, pas toute la conversation

La branche audio ajoute un encodeur causal et LiquidCodec. Le blog décrit la traduction entre 18 langues et annonce un UTMOSv2 de 3.83 contre 3.22 pour LFM2.5-Audio-1.5B. Il affirme que le délai jusqu’au premier token peut descendre à 50 ms, sans préciser le matériel correspondant ni l’ensemble des conditions de mesure. Le temps du premier token n’est pas un délai démontré entre le microphone et la réponse.

Le chiffre distinct d’environ 87 fois la vitesse du temps réel concerne le décodage vocal du codec sur un seul fil d’exécution CPU d’un Apple M4 Max. Il ne faut pas l’appliquer à la génération du modèle, au transport réseau ni à tous les appareils. Omni combine les modalités et cite des comparaisons sur Daily-Omni, WorldSense et AV-SpeakerBench avec des modèles plus grands. Ces tests nommés n’établissent pas une supériorité multimodale universelle et ne constituent pas notre propre évaluation de la qualité vocale.

d1 répond à des questions définies en une seule passe avant

Au lieu de demander à un modèle autorégressif de composer un paragraphe, d1 accepte un état et plusieurs questions. L’exemple classe une demande de remboursement, oriente un ticket, sélectionne des thèmes et attribue un score d’urgence. La passe avant unique annoncée concerne les réponses à ces questions ; elle ne supprime pas le prétraitement des images ou de l’audio et ne ramène pas toute l’application à une seule opération. d1-omni ajoute une entrée audio à cette approche décisionnelle.

LiquidAI annonce que d1-2B utilise un tiers de paramètres en moins que d1-3B et obtient de meilleurs scores sur les quatre suites de tests décisionnels présentées, dont 75.5 contre 64.0 sur ImajevBench. « Calibré » reste une caractérisation du fournisseur : une probabilité ne prouve pas qu’une réponse individuelle est correcte. Pour le déploiement, nous recommandons de valider la calibration et les seuils d’orientation sur les données visées, y compris les changements de distribution et les cas nécessitant un contrôle humain.

Le réglage fin laisse des questions de matériel, d’usage et de licence

Les notebooks couvrent SFT pour des documents JSON, DPO pour des réponses fondées sur la récupération d’informations ou le refus de répondre, GRPO pour une application téléphonique à 108 outils et CPT pour le turc, ainsi que des tâches visuelles et des commandes vocales. Le blog affirme que chaque modèle peut être ajusté sur un seul GPU, sans préciser sa mémoire, la longueur des séquences, la durée d’entraînement ni le coût. Un tutoriel ne démontre pas la fiabilité de l’application obtenue.

La fiche de texte recommande la récupération d’informations ou la recherche pour les tâches fortement dépendantes des connaissances et déconseille la programmation agentique ainsi que le raisonnement complexe en plusieurs étapes en raison de la taille du modèle. Nous n’avons exécuté ni code ni modèle, audité aucun notebook et n’avons pas regardé la vidéo de robotique liée ; cet article ne conclut donc pas à une fiabilité en robotique.

Pour le checkpoint de texte, la fiche précise LFM Open License v1.0. Son texte définit un seuil de chiffre d’affaires annuel de 10 millions de dollars américains et limite l’usage commercial par les entités qui le dépassent, avec une exception d’usage non commercial ou de recherche pour les organismes sans but lucratif remplissant les conditions, ainsi que des obligations de redistribution. Ce n’est pas une autorisation commerciale inconditionnelle ; la délimitation exacte exige de lire l’intégralité des termes et les licences des cinq autres checkpoints n’ont pas été vérifiées individuellement.

Pourquoi cela compte

Pour AISubHub, l’apport pratique est une voie de spécialisation partagée avec des contrats de sortie distincts. Les équipes peuvent étudier un modèle plus petit pour une tâche encadrée, en distinguant le périmètre des tests, les temps des composants, la calibration et les coûts d’exécution.

Limites et disponibilité

Cette interprétation s’appuie sur l’article complet de l’équipe, deux figures statiques du mécanisme, les passages spécifiés de la fiche de texte et son fichier de licence. Ce n’est ni un test indépendant, ni une exécution du modèle, ni une analyse de la vidéo de robotique. Nous ne déterminons pas l’éligibilité commerciale d’un utilisateur et ne généralisons pas la licence d’un checkpoint ; la publication originale n’a qu’une précision au jour.

Sources et preuves

LiquidAI Team on Hugging Face · Build specialized multimodal models with LFM3

Date de la source: · Source vérifiée:

Pour approfondir

LiquidAI · LFM3-1.7B model card

Source vérifiée:

LiquidAI/LFM3-1.7B · LFM Open License v1.0

Source vérifiée:

Articles assistés par IA, vérifiés avec les sources primaires citées. Les affirmations des fournisseurs sont attribuées ; la présence ne vaut pas recommandation.