공식 발표가 밝힌 120B 온디바이스 구동

마이크로소프트 5월 공식 블로그와 제품 페이지에 따르면, 이번 기기는 클라우드 연결 없이 최대 1200억 매개변수 모델을 로컬에서 구동하는 것을 핵심 사양으로 내세웠습니다. 엔비디아 보도자료도 동일한 포지셔닝을 전했습니다.

같은 제품을 다루는 마이크로소프트의 표기는 시점에 따라 조금씩 달라졌습니다. 5월 자료는 '최대 120B'였고, 10월 블로그는 '120B 초과'로 쓰는 등 수치 자체는 같지만 문구가 상이했습니다.

출처: 조사 출처

이론치와 실기 성능 사이의 간극

엔비디아 사양을 근거로 한 120B 구동 능력은 FP4 정밀도 희소성(sparsity)이 적용된 이론 연산량 기준입니다. TechTimes가 7월 28일 전했습니다.

TechTimes에 따르면, 마이크로소프트 캠퍼스 인근에서 입수했다고 주장되는 사전출시 엔지니어링 샘플(EV1.5, 24GB 구성) 테스트에서 두 드라이버 모두 CUDA 경로 AI 워크로드 실행에 실패했습니다. 매체 스스로 소매 기기에서도 실패한다는 뜻은 아니라고 단서를 달았으며, 출시 전 독립 검증은 아직 이뤄지지 않았습니다.

'직접 구동' 주장이 놓인 조건

'직접 구동'이라는 표현은 공식 발표 내용을 그대로 옮긴 것이지만, 소매 기기에서 검증된 성능이 아니라 사양 기반 능력 주장이라는 조건이 붙습니다. 제품명·공개 시점·온디바이스 포지셔닝·120B 수치는 마이크로소프트와 엔비디아 1차 출처에서 서로 부합했습니다. 다만 사전출시 샘플에서 CUDA 워크로드가 확인되지 않은 점은 감점 요인으로 남습니다.

가을 출시 이후 소매 기기에서 120B 모델이 실제로 어느 수준까지 구동되는지가 확인 지점입니다. 여러 분기의 실사용 관측이 더 필요하며, 이번 발표는 공식 주장 전달이라는 점에서 대체로 사실입니다.