詳しい解説 · 読了目安 5 分
DeepSeek Recipe 0.2:同じAPI形式でも推論の契約を確認する必要がある
10月20日の更新は検証、特殊トークン、出力制約を変更する。DeepInferの文書も、完全なサービスまでの境界を示している。
- 当サイトの公開日
- 原典の公開日
- 出典確認日
公式変更履歴はdeepseek-recipe 0.2.0を10月20日としている。RustライブラリとPythonパッケージの非互換更新であり、初版0.1.0は9月10日だった。
ニュースを聴く
この記事を読み上げるか、ニュースを続けて聴けます。
読み上げを準備中…
端末の音声
読み上げはブラウザーまたは端末が処理します。AISubHub は文章を音声 API に送りません。利用できる音声やロック画面での再生は端末によって異なります。
再開時に短い部分を繰り返す場合があります。
要点
- 出力制約を公開するが、実際の適用は推論バックエンドが決める。
- DeepInferはDeepSeek-V4.1-Flash、NVIDIA SM100、Huawei Ascend 950を列挙する一方、完全なサービスに必要な追加要素も明示する。
10月20日に変わった層
Recipeは複数APIのリクエストを共通会話へ変換し、モデル出力を各プロトコルの応答へ戻す。0.2はすべてのcrateとPythonパッケージの公開APIを変更する。同じHTTPエンドポイント名でも0.1実装の移行は必要で、変更履歴はコンストラクター、ストリーム型、メソッドの対応を示している。
当サイトは、名前の類似ではなく入力と応答のテスト例で互換性を確認し、アダプターとサービスアプリの責任を分けるべきだと考える。個人向け新会員、無料ホスト枠、完成済みの運用サービスを発表した資料ではない。
モデル名が動作を選択する
変換はモデル名をバージョンのマッピングで解決する。標準はDeepSeek-V4-ProとDeepSeek-V4.1-Flashで、別名は登録が必要、未知名は拒否される。V4の画像は非対応を表すテキストに置換されるため、画像フィールドを受け取ることと画像理解は同じではない。
サンプリング値もモデルと思考モードで決まる。思考時のtemperatureは1.0。V4.1のtop_pは思考時に少なくとも0.95、非思考時に1.0となる。これは文書化された変換規則で、他モデルへの推奨ではない。入力JSONだけの比較では実際の推論設定の変化を見落とす。
制約の宣言と実行を区別する
更新はJSON Schemaと正規表現の形式を検証し、スキーマをプロンプトへ書き、JSON・正規表現・ツール呼び出しの制約を公開する。ただし適用するかどうかはバックエンドに委ねられる。制約オブジェクトの存在だけで全生成トークンの制御は証明できない。
引数構造を固定した必須ツール呼び出しを仮定するなら、正規化された制約、バックエンドでの適用、解析済み応答をそれぞれテストする。これは仮想の試験案で、観測した障害ではない。DeepInferの文法制約生成とは別途接続が必要で、二つの機能が自動連携するとは限らない。
特殊トークンと画像の接続先
Recipeは明示された特殊トークン範囲を通常テキストと区別する。助手の本文・思考内のgroundingマーカーという文書上の例外を除き、メッセージ中に特殊記号と同じ文字列を書いても普通の文字として符号化する。制御との混同を減らす仕組みであり、すべてのプロンプト注入への保証ではない。
新しい画像接続先フィルターはホスト、解決されたアドレス、各リダイレクト先を検査し、拒否時に専用エラーを返す。実運用では設定の有無とエラー処理を確認すべきだ。ライブラリに機能があることは全アプリで有効という意味ではなく、本稿ではサーバーを試していない。
推論エンジンの外にも必要なもの
DeepInfer READMEはオフライン推論、最適化カーネル、投機的デコード、スケジューリングを説明する。Linux、GCC 13以上、Python 3.12が必要で、NVIDIA SM100側はCUDA 13、Ascend 950側はCANN 9.2を使う。あらゆる個人PCの対応を意味しない。
完全なサービスにはKVキャッシュ、視覚エンコーダー・prefill・decodeの分離、データ並列レプリカ間の負荷分散が別途必要だ。性能構成はprefillに4枚、decodeに64枚のSM100を各scale-upドメイン内で使い、単一GPUの速度保証ではない。プロトコル移行と基盤整備を別々に検証し、API料金や会員権利の変更を推測しないことが大切だ。
注目する理由
AISubHubの分析:変換、トークン化、デコード、運用が同じ契約を守るか、移行前に具体例で確認することが重要だ。
制約と提供状況
実装や速度測定は行っていない。日付を確認できるのはRecipe 0.2であり、今回のDeepInfer READMEは初公開日や一般的なホスティング料金を証明しない。
出典と根拠
原典の公開日: · 出典確認日:
補足資料
AI を活用した編集記事を、記載した一次情報で確認しています。企業の主張は出典を明示し、掲載は推奨を意味しません。