AISubHub/AI ニュース
モデル

詳しい解説 · 読了目安 8 分

LFM3は小型の共通基盤から6モデルへ分岐し、構造化判断を別の経路に分ける

LiquidAIはテキスト、視覚、音声、判断向けの1.7B級共通基盤を説明している。ベンチマーク、遅延、導入の主張にはそれぞれ条件がある。

当サイトの公開日
当サイトの更新日時
原典の公開日
出典確認日

LiquidAIの10月27日付Team記事は、LFM3-1.7B-Baseから6つの特化モデルが分岐する仕組みを説明する。中心となる選択は、文章や音声を生成するか、構造化された判断を返すかだ。AISubHubは設計と報告された比較を読み解く。数値は提供元の主張であり、当サイトの測定ではない。

ニュースを聴く

この記事を読み上げるか、ニュースを続けて聴けます。

LFM3は小型の共通基盤から6モデルへ分岐し、構造化判断を別の経路に分ける

読み上げを準備中…

端末の音声

読み上げはブラウザーまたは端末が処理します。AISubHub は文章を音声 API に送りません。利用できる音声やロック画面での再生は端末によって異なります。

再開時に短い部分を繰り返す場合があります。

要点

  • 基盤は24層で、ゲート付き短畳み込み13層、スライディングウィンドウ注意5層、グローバル注意6層からなる。
  • テキストモデルカードは1.73Bパラメータと、入力・出力合計256Kトークンのコンテキストを明記する。4-bitで約1GBというモデルの目安は、アプリ全体のメモリ予算ではない。
  • 音声の計時や校正された判断出力は、特定の部品または評価についての説明であり、処理全体の遅延や正解を保証しない。

1つの幹から6つの異なる仕事へ分岐する

LFM3-1.7Bはテキストを生成する。LFM3-VL-2Bは画像と動画も入力でき、LFM3-Audio-2Bはテキストまたは音声を受け取り、テキストまたは音声を出力する。LFM3-Omni-2Bはテキスト・視覚・音声の入力を合わせ、テキストまたは音声を返す。分岐図が示すのは共通基盤からの別々の学習経路であり、1つのチェックポイントに6つの交換可能なインターフェースがあるという意味ではない。テキストカードは別途、MOPDで6つの専門教師を1つの生徒へ蒸留すると説明する。この教師群と6つの製品分岐は別だ。

残るd1-2Bとd1-omni-2Bは、それぞれVLとOmniから派生し、確率付きの構造化回答を返す。AISubHubの解釈では、先に必要な入出力の仕様を決めるべきだ。音声会話と、限定された項目で書類を振り分ける判断は異なる設計課題である。また「2B級」は、すべてが厳密に20億パラメータという意味でもない。

24層で局所処理と広い文脈を組み合わせる

LiquidAIによると、ゲート付き畳み込み13層のカーネルサイズは、LFM2の3から7へ変わった。注意5層の窓は256トークンで、6層は全体を参照する。ヘッドごとのsigmoidゲート、グローバル注意の各ヘッドで高周波側の半分だけに適用するRoPE、窓付き層の完全なRoPE、入出力の正規化が設計を構成する。ハードウェアを組み込んだ探索は14のデバイス・バックエンド組み合わせを対象とするが、各環境でのあらゆる導入を認証するものではない。

基盤の学習量22Tトークンには最後の3.5Tの中間学習段階が含まれ、語彙は128Kである。テキストカードの256Kは入力と出力の合計だ。ブログのLFM2-1.2Bとのパラメータ当たりのエッジ比較では、短いプロンプトの速度は同等で、8K文脈では約25%速いとされる。4-bitで約1GBとも報告する。当サイトは実行時、文脈キャッシュ、各モダリティの追加メモリを別に見積もるべきと考え、長文脈アプリ全体がこの容量に収まるとは約束しない。

テキストと視覚の比較は元の分母を保つ

テキストについて、ブログはLFM2.5-2.6Bより35%少ないパラメータと、WebArena-Verifiedで38.42対3.02を報告する。視覚ではLFM3-VL-2BとLFM2.5-VL-3Bを1.9B対3.1Bで比較し、62ベンチマークの平均が57.6から71.4へ上昇、Gemma 4 12Bに匹敵すると説明する。これらは提供元の条件付き比較であり、総合順位や当サイトによる再現結果ではない。

新しい164Mの視覚エンコーダーは、従来のSigLIP2エンコーダーの約3分の1の計算量とされる。Qwen3.5-2Bのエンコーダーとの別の精度比較では、双方に同じLFM2.5-230M言語基盤を使い、必要なFLOPsは約1/2.2と報告する。この条件をそろえた比較はモデル全体の遅延ではない。サンプリングした2フレームを1つの時系列スライスへまとめれば時間方向の系列長は半減するが、すべての動画で精度が変わらないことまで示さない。

音声の計時は会話全体ではなく各部品を示す

音声分岐には因果的エンコーダーとLiquidCodecが加わる。ブログは18言語間の翻訳を説明し、UTMOSv2を3.83、LFM2.5-Audio-1.5Bを3.22と報告する。最初のトークンまで最短50msとも述べるが、その数値のハードウェアや測定条件全体は明示していない。最初のトークンの計時は、マイク入力から回答までの遅延を実証したものではない。

別の約87倍速というリアルタイム比は、Apple M4 MaxのCPU単一スレッドでのコーデックによる音声デコードを指す。モデル生成、ネットワーク転送、全デバイスの速度へ流用すべきではない。Omniはモダリティを統合し、Daily-Omni、WorldSense、AV-SpeakerBenchでより大きなモデルとの比較を示す。指定されたテストは万能なマルチモーダル優位を確立せず、当サイトが音質を評価した結果でもない。

d1は名前付きの質問へ1回の順伝播で答える

自己回帰モデルに段落を書かせる代わりに、d1は状態と複数の質問を受け取る。例では返金要求の判定、担当先への振り分け、話題の選択、緊急度の採点を行う。1回の順伝播という説明は、その質問群への回答を指す。画像・音声の前処理をなくしたり、アプリ全体を1操作にしたりするわけではない。d1-omniはこの判断方式へ音声入力を追加する。

LiquidAIはd1-2Bのパラメータがd1-3Bより3分の1少なく、掲載された4つの判断評価群で上回り、ImajevBenchでは75.5対64.0と報告する。「校正済み」は提供元の説明であり、確率が個々の回答の正しさを証明することはない。当サイトは、対象データで校正と振り分け閾値を検証し、分布の変化や人の確認が必要な場合も調べることを勧める。

微調整にもハードウェア、用途、ライセンスの確認が残る

ノートブックは文書JSON向けSFT、検索根拠に沿った回答または拒否のDPO、108ツールを使うスマートフォンアプリのGRPO、トルコ語のCPT、さらに視覚と音声指示の課題を扱う。ブログは全モデルをGPU1枚で微調整できるとするが、GPUメモリ、系列長、学習時間、費用は示さない。チュートリアルは、完成したアプリが信頼できるという証拠ではない。

テキストカードは知識集約型の課題で検索を推奨し、小型であることを理由にエージェント型コーディングや複雑な多段推論を推奨しない。当サイトはコードもモデルも実行せず、ノートブックを監査せず、リンク先のロボット動画も見ていない。したがってロボットの信頼性について結論を出さない。

テキストのチェックポイントについて、カードはLFM Open License v1.0を指定する。条文は年間売上高US$10 millionの閾値を定義し、それを超える法人の商用利用を制限する一方、適格非営利団体の非商用・研究利用の例外と再配布義務を設ける。無条件の商用許可ではなく、厳密な境界には全文の確認が必要だ。他の5チェックポイントのライセンスは個別に確認していない。

注目する理由

AISubHubは、共通の特化経路と異なる出力仕様に実用上の価値を見る。限定された課題で小型モデルを検討する際も、ベンチマークの範囲、部品の計時、確率校正、実行時コストを分けて考えたい。

制約と提供状況

本稿はTeam記事全文、静的な仕組み図2枚、指定されたテキストカードの箇所とライセンスファイルを使った解釈である。独立ベンチマーク、モデル実行、ロボット動画の評価ではない。読者の商用利用資格を判定せず、1チェックポイントのライセンスを全体へ広げない。原文公開日は日精度である。

出典と根拠

LiquidAI Team on Hugging Face · Build specialized multimodal models with LFM3

原典の公開日: · 出典確認日:

補足資料

LiquidAI · LFM3-1.7B model card

出典確認日:

LiquidAI/LFM3-1.7B · LFM Open License v1.0

出典確認日:

AI を活用した編集記事を、記載した一次情報で確認しています。企業の主張は出典を明示し、掲載は推奨を意味しません。