AISubHub/AI 뉴스
개발자

심층 해설 · 약 3분 읽기

NVIDIA, 로컬 AI 배포 확대: DGX Spark 용량·팀 서비스·단계별 소프트웨어

DGX Spark 64GB는10월23일, Model Launcher는 이달 후반, Windows DGX Station은12월 예정이다.

사이트 게시일
원문 게시일
출처 확인일

NVIDIA의10월21일 업데이트는 지난주 RTX Spark 노트북 출시 이후 DGX 용량·관리·모델 서비스 계획을 더한다. 개인 사용자, 공유 Linux 팀, 향후 Windows 공학 시스템은 구성과 운영 책임이 달라 하나의 보편 성능 수치로 묶을 수 없다.

뉴스 듣기

이 기사를 읽어 드리거나 뉴스를 계속 재생합니다.

NVIDIA, 로컬 AI 배포 확대: DGX Spark 용량·팀 서비스·단계별 소프트웨어

읽기를 준비하는 중…

기기 음성

읽기는 브라우저나 기기에서 처리합니다. AISubHub는 내용을 오디오 API로 보내지 않습니다. 사용 가능한 음성과 잠금 화면 재생은 기기에 따라 다릅니다.

계속 재생할 때 짧은 구절이 반복될 수 있습니다.

핵심 요약

  • DGX Spark 64GB 파트너 제품은10월23일부터 공급될 예정이다. 수동 클러스터는 현재 최대8대를 지원하며 Sync Model Launcher는10월 후반 계획이다.
  • Windows DGX Station은12월 예상이다. Cloud Functions는 Linux Station에서 먼저 조기 접근 예정이며 이미 일반 제공되는 클라우드 구독 권한이 아니다.

현재 용량과 향후 간단한 설치는 별개 단계다

파트너 DGX Spark 64GB는10월23일부터 공급될 예정이다. ConnectX-7로 시스템을 연결하고 현재 수동 구성은 최대8대를 지원한다. 원문의 통합 메모리1TB 클러스터가 새64GB 기기8대의 합이1TB라는 뜻은 아니다. Model Launcher는 이달 후반의 별도 소프트웨어 계획으로 적합한 모델·컨테이너를 골라 내려받고 OpenCode에 연결한다.10월 업데이트는 appliance 모드의 네트워크 전환용 Wi-Fi Assistant와 Spark Skills의 유지·문제 해결 안내도 추가한다. 본 사이트는 용량과 설치 편의를 구분한다. 수동 클러스터가 동작해도 미래 Launcher가 이미 제공되는 것은 아니며, 큰 메모리만으로 임의 모델의 지연·문맥·동시성을 확정할 수 없다.

Station은 팀 운영을 더하지만 일부 기능은 아직 미래다

Station은748GB 일관성 메모리와 최대20페타플롭스를 제시한다.30명 이상에게 클라우드와 비슷한 속도를 제공한다는 업체 주장은 있으나 업무·서비스 설정이 부족해 일반 보장이 아니다. Sync는 현재 Linux Station 두 대 연결을 지원한다. 관리 통합7개는 Absolute Security, Splunk, Fleet, Intune, Puppet, Chef, Tanium이다. Windows 제품은 파트너에서12월 예상이며 제조 앱·에이전트 실행 프레임워크는 그 향후 환경에 관한 내용이다. Cloud Functions는 Linux Station 조기 접근 예정으로 로컬 엔드포인트를 공유 목록에 등록하고 OpenAI 호환 입구로 제공하는 구상이다. 인터페이스 호환이 OpenAI 모델 이용권을 뜻하지 않는다. 팀은 누가 모델·도구를 호출하고 누가 시스템을 유지할지 정해야 한다.

효율 수치에는 정확한 기기와 지표가 따라야 한다

Recursive Flint는 총400억·활성25억 파라미터의 코딩 MoE다. NVIDIA는64GB RTX Spark에서 초당220 token 이상이라 보고하지만 DGX Spark 64GB와는 다른 제품이다. 가중치를 바꾸지 않은 전용 커널의 생성 속도55% 향상은 코드 정확도55% 향상이 아니다. 원문은 Apache 2.0 가중치를 언급하나 다운로드·라이선스를 확인하지 않았다. 다른 수치도 별개다. llama.cpp는 RTX PRO 6000 Blackwell의 Qwen 3.8 Flash Next 에이전트 작업에서 대조군 대비 가속비 최대1.4×, vLLM은 DGX Spark의 Qwen3.8 27B에서 최대1.3×를 보고한다. Station의 GLM 5.3 Flash 처리량은 대조군의 최대1.2배라고 한다. 하나의 총 가속으로 합칠 수 없다. FP4 체크포인트는 KV cache 공간도 남기지만 전체 정밀도와 비슷하다는 설명은 동일 답변의 증명이 아니다.

로컬 엔드포인트도 운영 책임이 필요한 서비스다

본 사이트의 시범 제안은 기기·가중치·정밀도·문맥·도구 권한·동시 세션 수를 고정하고 승인 가능한 결과·대기·메모리·실패를 측정하는 것이다. 메모리에 들어가는 모델과 유용한 공유 서비스가 구분된다. 더 저렴하다고 말하기 전 하드웨어·소프트웨어 외에 전력·유지 비용도 계산해야 한다. 로컬 token 생성으로 완전한 비밀성을 추론하지 말고 네트워크 호출·사람 승인을 확인한다. 로봇 참조 워크플로와 미래 소프트웨어도 특정 공장의 안전·품질 승인을 증명하지 않는다. 기존 RTX Spark·Nemotron 출시는 배경이며 재언급이 공개일을 새로 만들지 않는다. 배포 경로는 구체화했지만 수동 확장·관리·모델 설정·미래 자동화는 각각 검증해야 한다.

중요한 이유

AISubHub 분석: 팀 가까이서 모델을 운영할 수 있어도 가중치 수용·동시 사용자 서비스·안전한 도구 권한은 별도 검증이다. 최대 사양을 합치기보다 실제 업무와 운영비를 비교해야 한다.

제한 및 이용 가능성

전문을 읽었으나 모델 다운로드·연결 라이선스 확인·설치·성능 재현은 하지 않았다. 일정은10월21일 기준 계획이며 가격·국가별 재고·전체 호환표는 확립되지 않았다. 로컬 추론만으로 연결 도구가 외부에 데이터를 보내지 않는다고 증명할 수 없다.

출처와 근거

NVIDIA Blog — Gerardo Delgado

원문 게시일: · 출처 확인일:

AI 보조 편집 기사를 명시한 일차 출처와 대조합니다. 업체 주장은 출처를 밝히며 게재는 추천을 뜻하지 않습니다.