심층 해설 · 약 3분 읽기
DeepSeek Recipe 0.2: 같은 API 모양이라도 추론 계약은 따로 확인해야 한다
10월 20일 버전은 검증, 특수 토큰과 출력 제약을 바꾼다. DeepInfer 문서는 완전한 서비스에 필요한 나머지 조건을 보여 준다.
- 사이트 게시일
- 원문 게시일
- 출처 확인일
공식 변경 기록은 deepseek-recipe 0.2.0을 10월 20일로 표시한다. Rust 라이브러리와 Python 패키지의 비호환 API 변경이며, 최초 0.1.0은 9월 10일에 나왔다.
뉴스 듣기
이 기사를 읽어 드리거나 뉴스를 계속 재생합니다.
읽기를 준비하는 중…
기기 음성
읽기는 브라우저나 기기에서 처리합니다. AISubHub는 내용을 오디오 API로 보내지 않습니다. 사용 가능한 음성과 잠금 화면 재생은 기기에 따라 다릅니다.
계속 재생할 때 짧은 구절이 반복될 수 있습니다.
핵심 요약
- 출력 제약 객체를 제공해도 실제 적용 여부는 추론 백엔드가 결정한다.
- DeepInfer는 DeepSeek-V4.1-Flash, NVIDIA SM100, Huawei Ascend 950을 지원 대상으로 명시하지만 완전한 서비스는 아니다.
10월 20일 바뀐 계층
Recipe는 여러 API 요청을 공통 대화 형식으로 바꾸고 모델 출력을 각 응답 프로토콜로 돌려준다. 0.2는 모든 crate와 Python 패키지의 공개 API를 바꾼다. HTTP 경로 이름이 같아도 0.1 통합은 이전해야 하며, 기록에는 생성자, 스트림 형식, 메서드 변경 대응이 있다.
이름이 익숙하다는 이유로 호환성을 가정하지 말고 구체적인 입출력 테스트로 어댑터와 서비스 앱의 책임을 나눠야 한다는 것이 당사 분석이다. 개인 구독이나 무료 호스팅 한도, 바로 운영할 수 있는 완성 서비스가 발표된 것은 아니다.
모델 이름에 따라 달라지는 동작
변환기는 버전 매핑으로 모델 이름을 해석한다. 기본 이름은 DeepSeek-V4-Pro와 DeepSeek-V4.1-Flash이며, 다른 이름은 별칭 등록이 필요하고 모르는 이름은 거절된다. V4 요청의 이미지는 미지원 이미지라는 텍스트로 바뀐다. 이미지 필드 접수와 실제 시각 이해는 다르다.
샘플링 값도 모델과 사고 모드에 따라 정한다. 사고 모드 temperature는 1.0이다. V4.1은 사고 모드 top_p를 최소 0.95로 올리고 비사고 모드에서는 1.0을 쓴다. 이는 해당 변환기의 문서화된 규칙이지 다른 모델에 대한 권장 설정이 아니다. 입력 JSON만 비교하면 실제 추론 설정 변화가 가려진다.
제약을 선언하는 것과 실행하는 것
업데이트는 JSON Schema·정규식 형식을 검증하고 스키마를 프롬프트에 넣으며 JSON, 정규식, 도구 호출 제약 객체를 노출한다. 하지만 적용은 백엔드 선택이다. 객체가 있다는 사실만으로 모든 생성 토큰에 제약이 작동했다고 할 수 없다.
구조화된 인자를 가진 필수 도구 호출을 가정하면 정규화된 제약, 백엔드 적용, 파싱한 응답을 따로 검사해야 한다. 이는 가상의 테스트 제안이며 관측된 장애가 아니다. DeepInfer의 문법 제약 생성 기능도 별도 통합 대상이다. 두 저장소에 비슷한 기능이 있다고 자동 연결되지는 않는다.
특수 토큰과 이미지 목적지도 계약이다
Recipe는 명시적 특수 토큰 범위와 일반 메시지 문자를 구별한다. 문서에 적힌 어시스턴트 본문·사고 내용의 grounding 표식을 제외하면, 메시지에 특수 토큰처럼 보이는 문자열을 써도 일반 텍스트로 인코딩한다. 제어 표식 혼동을 줄이지만 모든 프롬프트 주입을 해결한다는 보장은 아니다.
새 이미지 목적지 필터는 호스트, 해석된 주소, 리디렉션 목적지를 검사하고 거절 시 별도 오류를 낸다. 운영자는 실제 활성화와 오류 처리가 일관적인지 확인해야 한다. 라이브러리에 기능이 있어도 모든 앱에서 켜진 것은 아니며, 당사는 운영 서버를 시험하지 않았다.
엔진 바깥의 운영 구성요소
DeepInfer README는 오프라인 추론, 최적화 커널, 추측 디코딩과 스케줄링을 설명한다. Linux, GCC 13 이상, Python 3.12가 필요하고 NVIDIA SM100에는 CUDA 13, Ascend 950에는 CANN 9.2가 필요하다. 일반 개인 컴퓨터 전부를 지원한다는 뜻이 아니다.
완전한 서비스에는 KV 캐시, 비전 인코더/prefill/decode 분리와 데이터 병렬 복제본 간 부하 분산이 더 필요하다. 성능 구성은 각각 scale-up 도메인 안에서 prefill에 SM100 4개, decode에 64개를 사용한다. 단일 GPU 속도 보장이 아니다. 프로토콜 이전과 기반 시설은 따로 검증해야 하며 API 가격이나 구독 권리 변화는 여기서 추론할 수 없다.
중요한 이유
AISubHub 분석: 변환, 토큰화, 디코딩과 운영이 같은 계약을 지키는지 실제 요청·응답 사례로 확인한 뒤 이전해야 한다.
제한 및 이용 가능성
배포나 성능 측정을 하지 않았다. Recipe 버전 날짜는 확인되지만, 읽은 DeepInfer README로 최초 공개일이나 일반 호스팅 가격을 알 수 없다.
출처와 근거
원문 게시일: · 출처 확인일:
추가 자료
AI 보조 편집 기사를 명시한 일차 출처와 대조합니다. 업체 주장은 출처를 밝히며 게재는 추천을 뜻하지 않습니다.