Подробный разбор · Около 3 мин чтения
DeepSeek Recipe 0.2: знакомая форма API ещё не гарантирует одинаковый инференс
Обновление от 20 октября меняет валидацию, специальные токены и ограничения вывода. Документация DeepInfer показывает границы готового сервиса.
- Опубликовано здесь
- Дата источника
- Источник проверен
Официальный журнал датирует deepseek-recipe 0.2.0 20 октября. Это несовместимое обновление API библиотек Rust и Python-пакета; первая версия 0.1.0 вышла 10 сентября.
Слушать новости
Прослушайте эту статью или включите новости подряд.
Подготовка чтения…
Голос устройства
Речь обрабатывает браузер или устройство. AISubHub не отправляет текст в аудио-API. Доступные голоса и работа при заблокированном экране зависят от устройства.
При продолжении короткая фраза может повториться.
Кратко
- Ограничения вывода доступны через интерфейс, но применять их решает бэкенд.
- DeepInfer поддерживает DeepSeek-V4.1-Flash, NVIDIA SM100 и Huawei Ascend 950, однако не содержит всей инфраструктуры сервиса.
Какой слой обновился
Recipe преобразует запросы разных API в общее представление диалога и возвращает результат модели в нужном протоколе. Версия 0.2 меняет публичный API всех crates и Python-пакета. Одинаковое имя HTTP-endpoint не отменяет миграцию интеграции 0.1: журнал перечисляет изменения конструкторов, потоковых типов и методов.
Наш анализ предлагает проверять конкретные пары запросов и ответов, разграничивая ответственность адаптера и сервисного приложения. Документы не объявляют новую пользовательскую подписку, бесплатную квоту хостинга или полностью готовый промышленный сервис.
Имя модели теперь выбирает поведение
Конвертация определяет версию через таблицу имен. По умолчанию указаны DeepSeek-V4-Pro и DeepSeek-V4.1-Flash; другим именам нужны алиасы, неизвестные отклоняются. Изображения V4 заменяются текстовой отметкой неподдерживаемого содержимого. Прием поля изображения не доказывает визуальное понимание.
Параметры сэмплирования определяются моделью и режимом рассуждений. В режиме рассуждений temperature равна 1.0. Для V4.1 top_p там не ниже 0.95, а вне режима равна 1.0. Это правила конвертера, а не наши рекомендации другим моделям. Сравнение только входного JSON может скрыть изменение фактических параметров инференса.
Объявить ограничение не значит применить
Обновление проверяет форматы JSON Schema и regex, помещает схему в промпт и предоставляет ограничения JSON, регулярных выражений и вызовов инструментов. Однако применение оставлено бэкенду. Наличие объекта ограничения не доказывает контроль каждого генерируемого токена.
Гипотетический тест обязательного вызова инструмента со структурированными аргументами должен отдельно проверить нормализованное ограничение, его применение и разобранный ответ. Это план теста, а не обнаруженный сбой. DeepInfer отдельно описывает генерацию с грамматикой; наличие похожих возможностей в двух проектах не означает их автоматического соединения.
Границы токенов и адреса изображений
Recipe отличает явно заданные диапазоны специальных токенов от обычного текста сообщений. За исключением документированных grounding-маркеров в содержимом и рассуждениях ассистента, написание спецтокена в сообщении кодируется как текст. Это уменьшает смешение данных с управлением, но не гарантирует защиту от любой промпт-инъекции.
Новый фильтр изображений проверяет хост, адреса после DNS-разрешения и цели каждого перенаправления, возвращая особую ошибку при отказе. Оператору стоит проверить его реальную настройку и обработку ошибок. Доступность функции в библиотеке не означает ее включение в каждом приложении; промышленный сервер здесь не тестировался.
Что требуется помимо движка
README DeepInfer описывает офлайн-инференс, оптимизированные ядра, спекулятивное декодирование и планирование. Требуются Linux, GCC от 13 и Python 3.12; для NVIDIA SM100 нужен CUDA 13, для Ascend 950 — CANN 9.2. Поддержка любого домашнего компьютера не обещается.
Для полного сервиса нужны KV-кэш, разделение визуального энкодера/prefill/decode и балансировка между параллельными репликами. Конфигурация измерений использует 4 SM100 для prefill и 64 для decode в соответствующих scale-up-доменах, а не одну карту. Инфраструктуру и миграцию протокола следует проверять отдельно; изменения цен API или прав подписки из этой публикации не следуют.
Почему это важно
Анализ AISubHub: до миграции нужно проверить преобразование, токенизацию, декодирование и эксплуатацию как единый контракт.
Ограничения и доступность
Мы не развертывали систему и не проводили бенчмарки. Дата относится к Recipe 0.2; прочитанный README DeepInfer не доказывает дату его первой публикации или общую стоимость хостинга.
Источники и подтверждения
Дата источника: · Источник проверен:
Дополнительные материалы
Источник проверен:
Материалы подготовлены с помощью ИИ и сверены с указанными первоисточниками. Заявления поставщиков атрибутированы; публикация не означает рекомендацию.