AISubHub/AI 资讯
模型

深度解读 · 约 6 分钟阅读

LFM3以小型共享底座分出六类模型,生成与结构化决策需要不同选择

LiquidAI介绍共享底座的文本、视觉、语音和决策分支;性能比较、语音延迟与单卡微调都有具体条件。

本站发布
本站修改
原文发布
核实时间

LiquidAI的10月27日团队长文说明,LFM3-1.7B-Base如何分出六类专用模型。核心选择是生成文字、语音,还是输出结构化决策。本文区分厂商主张与本站分析,不是本站实测。

听读资讯

朗读当前文章,或连续收听资讯。

LFM3以小型共享底座分出六类模型,生成与结构化决策需要不同选择

正在准备听读…

设备语音

朗读由浏览器或设备处理,AISubHub 不向音频 API 发送文本。可用语音及锁屏播放能力因设备而异。

继续播放时可能重复一小段。

一分钟速览

  • 共享底座共24层:13层门控短卷积、5层滑动窗口注意力、6层全局注意力。
  • 文本模型卡列1.73B参数,256K上下文合计输入与输出;4-bit约1GB不能直接当完整应用内存。
  • 语音计时和校准决策各有测量边界,不保证全链路低延迟或单次回答正确。

一个底座分出六种任务路径

LFM3-1.7B生成文本;LFM3-VL-2B接收文字、图像和视频;LFM3-Audio-2B接收文字或音频、输出文字或语音。LFM3-Omni-2B把文字、视觉与音频输入结合,输出文字或语音。分支图显示各自训练路径,不是同一权重随意切换六种接口。文本卡另述MOPD把六类专家教师蒸馏进一个学生,不能与六个成品分支混为一谈。

d1-2B与d1-omni-2B分别从VL和Omni派生,返回带概率的结构化答案。本站建议先确定输入和输出契约:语音对话与限定字段的工单路由是不同问题。2B级也是规模分类,不表示每个模型恰好20亿参数。

24层如何结合局部处理与长上下文

厂商列13层门控卷积,卷积核由LFM2的3扩大到7;5层注意力窗口为256 tokens,另有6层全局注意力。逐头sigmoid门、全局层只旋转每头的高频一半RoPE、窗口层完整RoPE及输入输出归一化构成其设计。硬件在环搜索覆盖14种设备与后端组合,不等于全部部署均获认证。

底座共训练22T tokens,末尾3.5T是其中的中期训练,词表128K。文本卡明确256K为输入加输出。厂商按参数归一与LFM2-1.2B作边缘比较,称短提示速度相当、8K上下文约快25%,并称4-bit约1GB。本站建议另算运行时、上下文缓存与模态开销,不能保证完整长上下文应用只占1GB。

文本和视觉成绩须保留比较口径

主文称文本参数比LFM2.5-2.6B少35%,WebArena-Verified为38.42对3.02。视觉分支与LFM2.5-VL-3B以1.9B对3.1B参数比较,62项基准均值从57.6到71.4,并称接近Gemma 4 12B。这是厂商条件化比较,不是通用排名或本站复现。

新视觉编码器164M参数,厂商称计算量为旧SigLIP2编码器约三分之一。与Qwen3.5-2B编码器比较时,两者固定同一LFM2.5-230M语言底座,所需FLOPs约为对比者的1/2.2,不能改写成整模型延迟。视频每对采样帧合为一时序片,序列减半也不证明所有视频精度不变。

语音计时不能拼成全链路延迟

音频分支采用因果编码器与LiquidCodec,文中介绍18种语言翻译,并报UTMOSv2为3.83,对照LFM2.5-Audio-1.5B为3.22。最低50ms首token没有在主文给出硬件和完整测量条件,更不能直接称麦克风到回答的实测延迟。

约87倍实时速度另指Apple M4 Max单个CPU线程的语音编解码器解码,不是模型生成、网络或全部设备的速度。Omni在Daily-Omni、WorldSense与AV-SpeakerBench对比更大模型;指定测试不等于所有多模态任务更优,本站也未听评语音质量。

d1以单次前向回答限定问题

d1接收状态和多道问题,例子同时识别退款、分配工单团队、选择主题和判断紧急程度,而非逐token编写一段解释。单次前向指这些问题的作答,不免除图像或音频预处理,更不表示整个应用只需一次操作;omni分支可加入音频。

厂商称d1-2B比d1-3B少三分之一参数,文中四套决策测试均更高,ImajevBench为75.5对64.0。“校准”仍是厂商描述,某个概率不是该次答案正确的证明。本站建议在目标数据上检验校准、路由阈值及分布变化,保留需人工复核的情况。

微调、用途与许可仍须逐项核验

教程涵盖SFT文档JSON、DPO检索回答或拒答、GRPO的108工具手机应用、CPT土耳其语,以及视觉和语音指令任务。主文称均可单GPU微调,却未列显存、序列长度、训练时长和成本;教程不证明改造后应用可靠。

文本卡建议知识密集任务使用检索或搜索,并因模型较小,不推荐代理式编程及复杂多步推理。本站没有运行代码或模型、审阅笔记本,也未看机器人演示视频,因此不作机器人可靠性结论。

已读文本检查点指定LFM Open License v1.0:条文定义年营收1000万美元门槛,并限制超过门槛实体的商业使用,另有合资格非营利机构的非商业或研究例外及再分发义务。不能当作无条件商业许可;具体边界须读完整条款,其余五个检查点未逐一核许可。

有什么影响

本站认为,可调查的价值是共享专门化路径和不同输出契约。团队可为限定任务选择小模型,同时分开评测口径、组件计时、概率校准与实际运行成本。

限制与可用性

本文依据团队全文、两张静态机制图、指定文本卡段落及其许可文件,不是独立评测、模型实测或机器人视频评审。不判定读者商业资格,也不将单个检查点许可泛化到六模型;原文日期仅到日。

来源与证据

LiquidAI Team on Hugging Face · Build specialized multimodal models with LFM3

原文发布: · 核实时间:

补充阅读

LiquidAI · LFM3-1.7B model card

核实时间:

LiquidAI/LFM3-1.7B · LFM Open License v1.0

核实时间:

AI 辅助采编,依据所列一手来源核实。厂商自报结论注明归属,收录不代表背书。