Подробный разбор · Около 6 мин чтения
LFM3 разделяет небольшую основу между шестью моделями, выделяя отдельный путь для структурированных решений
LiquidAI описывает общую основу класса 1.7B для текста, зрения, аудио и решений; сравнения, показатели задержки и заявления о развертывании имеют конкретные границы.
- Опубликовано здесь
- Обновлено здесь
- Дата источника
- Источник проверен
В статье команды LiquidAI от 27 октября объясняется, как LFM3-1.7B-Base разветвляется на шесть специализированных моделей. Основной выбор — генерировать текст или речь либо возвращать структурированные решения. AISubHub разбирает архитектуру и опубликованные сравнения: это заявления поставщика, а не наши измерения.
Слушать новости
Прослушайте эту статью или включите новости подряд.
Подготовка чтения…
Голос устройства
Речь обрабатывает браузер или устройство. AISubHub не отправляет текст в аудио-API. Доступные голоса и работа при заблокированном экране зависят от устройства.
При продолжении короткая фраза может повториться.
Кратко
- Основа содержит 24 слоя: 13 слоев короткой свертки с гейтами, пять слоев внимания со скользящим окном и шесть слоев глобального внимания.
- Карточка текстовой модели указывает 1.73B параметров и контекст 256K токенов для входа и выхода вместе; примерно 1GB при 4-bit — не бюджет памяти всего приложения.
- Время обработки аудио и калиброванные решения относятся к определенным компонентам или оценкам, а не гарантируют сквозную задержку или правильность ответа.
От одной основы отходят шесть разных рабочих направлений
LFM3-1.7B генерирует текст. LFM3-VL-2B добавляет изображения и видео на входе; LFM3-Audio-2B принимает текст или аудио и выдает текст или речь. LFM3-Omni-2B объединяет текстовые, визуальные и звуковые входы с текстовым или речевым выходом. Схема ветвей показывает отдельные траектории обучения от одной основы, а не один чекпойнт с шестью взаимозаменяемыми интерфейсами. В текстовой карточке отдельно описано, как MOPD дистиллирует шесть специализированных учителей в одного ученика; эти учителя — не шесть продуктовых ветвей.
Оставшиеся d1-2B и d1-omni-2B происходят соответственно от VL и Omni и возвращают структурированные ответы с вероятностями. Интерпретация AISubHub: сначала стоит выбрать требуемый контракт входа и выхода. Голосовой разговор и решение о маршрутизации документа с ограниченным набором полей — разные инженерные задачи. Класс «2B» также не означает, что каждая модель содержит ровно два миллиарда параметров.
Локальная обработка и глобальный контекст делят 24 слоя
По данным LiquidAI, 13 сверток с гейтами используют ядро размера семь вместо трех у LFM2; пять слоев внимания работают с окном в 256 токенов, а шесть — глобально. Описанную архитектуру дополняют sigmoid-гейты для каждой головы, RoPE только для высокочастотной половины каждой головы глобального внимания, полный RoPE в оконных слоях и нормализация входа и выхода. Поиск с включением оборудования в цикл охватывает 14 сочетаний устройств и бэкендов, но не сертифицирует все возможные развертывания на них.
Основа обучена на 22T токенов, включая заключительный этап промежуточного обучения объемом 3.5T, со словарем 128K. Карточка текста указывает, что контекст 256K охватывает вход и выход вместе. В приведенном в блоге периферийном сравнении на параметр с LFM2-1.2B скорость на коротких запросах совпадает, а при контексте 8K инференс примерно на 25% быстрее; также заявлено около 1GB при 4-bit. Мы предлагаем отдельно учитывать среду выполнения, кэш контекста и дополнительные затраты модальностей, не обещая уместить все приложение с длинным контекстом в этот объем.
Сравнения текста и зрения требуют исходных оснований
Для текста блог сообщает о числе параметров на 35% меньше, чем у LFM2.5-2.6B, и результатах WebArena-Verified 38.42 против 3.02. Для зрения LFM3-VL-2B сравнивается с LFM2.5-VL-3B при 1.9B против 3.1B параметров; среднее по 62 тестам выросло с 57.6 до 71.4 и названо сопоставимым с Gemma 4 12B. Это условные сравнения от поставщика, а не общий рейтинг или воспроизведенные нами результаты.
Новый визуальный энкодер на 164M, как сообщается, требует примерно треть вычислений прежнего энкодера SigLIP2. Отдельное сравнение точности с энкодером Qwen3.5-2B использует одну и ту же языковую основу LFM2.5-230M и дает примерно 1/2.2 от числа FLOPs. Такое контролируемое сравнение энкодеров не измеряет задержку всей модели. Объединение каждой пары выбранных кадров в один временной срез вдвое сокращает временную последовательность, но не доказывает неизменность точности для любого видео.
Время обработки речи относится к компонентам, а не ко всему разговору
Аудиоветвь добавляет каузальный энкодер и LiquidCodec. В блоге описан перевод между 18 языками и приведен UTMOSv2 3.83 против 3.22 у LFM2.5-Audio-1.5B. Указано, что время до первого токена может составлять лишь 50ms, но оборудование и полные условия этого измерения не названы. Время первого токена не является подтвержденной задержкой от микрофона до ответа.
Другая величина — примерно 87-кратная скорость относительно реального времени — относится к декодированию речи кодеком в одном потоке CPU на Apple M4 Max. Ее нельзя переносить на генерацию модели, сетевую передачу или все устройства. Omni объединяет модальности и приводит сравнения с более крупными моделями на Daily-Omni, WorldSense и AV-SpeakerBench. Эти конкретные тесты не устанавливают универсального мультимодального превосходства и не являются нашей оценкой качества речи.
d1 отвечает на именованные вопросы за один прямой проход
Вместо просьбы к авторегрессионной модели составить абзац d1 получает состояние и несколько вопросов. Пример классифицирует запрос на возврат денег, выбирает команду для обращения, отмечает темы и оценивает срочность. Заявление об одном прямом проходе касается ответов на эти вопросы: оно не устраняет предварительную обработку изображений и аудио и не превращает все приложение в одну операцию. d1-omni добавляет аудиовход к этому подходу к решениям.
LiquidAI сообщает, что d1-2B содержит на треть меньше параметров, чем d1-3B, и получает более высокие оценки в четырех представленных наборах задач на принятие решений, в том числе 75.5 против 64.0 на ImajevBench. «Калиброванные» — по-прежнему характеристика поставщика: вероятность не доказывает правильность отдельного ответа. Наша рекомендация для развертывания — проверять калибровку и пороги маршрутизации на целевых данных, включая изменения распределения и случаи для человеческой проверки.
Донастройка оставляет вопросы оборудования, назначения и лицензии
Ноутбуки охватывают SFT для JSON из документов, DPO для ответов по найденным документам или отказа, GRPO для телефонного приложения со 108 инструментами и CPT для турецкого языка, а также визуальные задачи и голосовые команды. Блог заявляет возможность донастроить любую модель на одном GPU, не указывая память GPU, длину последовательности, длительность обучения или стоимость. Учебный пример не доказывает надежность полученного приложения.
Текстовая карточка рекомендует retrieval/search для задач, требующих большого объема знаний, и из-за небольшого размера не рекомендует агентное программирование или сложные многошаговые рассуждения. Мы не запускали код или модели, не аудировали ноутбуки и не смотрели видео о робототехнике по ссылке. Поэтому статья не делает выводов о надежности роботов.
Для текстового чекпойнта карточка указывает LFM Open License v1.0. Текст определяет порог годовой выручки US$10 million и ограничивает коммерческое использование юридическими лицами, превышающими этот порог; предусмотрены исключение для некоммерческих или исследовательских целей соответствующих некоммерческих организаций и обязанности при распространении. Это не безусловное коммерческое разрешение: точная граница требует чтения полных условий. Лицензии остальных пяти чекпойнтов отдельно не проверены.
Почему это важно
AISubHub видит практический вклад в общем пути специализации и различных контрактах выхода. Команды могут изучать небольшую модель для ограниченной задачи, отдельно учитывая охват тестов, время компонентов, калибровку вероятностей и затраты выполнения.
Ограничения и доступность
Эта интерпретация использует полный текст Team-статьи, две статические схемы механизма, указанные части текстовой карточки и ее лицензионный файл. Это не независимый бенчмарк, запуск модели или обзор робототехнического видео. Мы не определяем коммерческую допустимость для читателя и не обобщаем лицензию одного чекпойнта; исходная дата публикации известна с точностью до дня.
Источники и подтверждения
Дата источника: · Источник проверен:
Дополнительные материалы
Источник проверен:
Источник проверен:
Материалы подготовлены с помощью ИИ и сверены с указанными первоисточниками. Заявления поставщиков атрибутированы; публикация не означает рекомендацию.