NVIDIA RTX Spark 노트북, Bilibili World에서 첫 공개: 120B 로컬 AI, 128GB 통합 메모리, DGX Spark 비교

소개

NVIDIA의 RTX Spark 슈퍼칩이 컨퍼런스 발표에서 실제 소비자용 노트북으로 발전했습니다.

상하이 Bilibili World에서 NVIDIA는 RTX Spark로 구동되는 Lenovo Yoga Pro 15가 까다로운 로컬 AI, 크리에이티브 및 게이밍 작업을 실행하는 모습을 공개 시연했습니다. 이 플랫폼은 NVIDIA의 NVLink-C2C 상호 연결을 통해 Blackwell RTX GPU와 20코어 Grace CPU를 결합하며, 두 프로세서가 최대 128GB의 통합 메모리를 공유합니다.

이 설계는 새로운 범주의 Windows PC, 즉 개인 AI 에이전트를 로컬에서 실행하고, 대규모 크리에이티브 프로젝트를 처리하며, 최신 RTX 게이밍 기능을 제공할 수 있는 얇은 노트북 또는 소형 데스크탑을 목표로 합니다.

NVIDIA는 또한 개발자를 위한 Linux 기반 데스크탑 AI 슈퍼컴퓨터인 DGX Spark를 시연했습니다. 두 시스템은 유사한 Grace Blackwell 기반을 공유하지만, 소프트웨어, 네트워킹, 대상 사용자 및 모델 개발 역할이 다릅니다.

용어 참고: 원문은 CPU와 GPU가 "용접되었다(welded)"고 설명합니다. 실제로 용접된 것은 아닙니다. NVIDIA는 NVLink-C2C 칩 간 고대역폭 상호 연결을 통해 두 다이를 연결합니다.

게이밍, 창작, AI를 하나의 플랫폼으로

RTX Spark는 일반적으로 다른 유형의 컴퓨터를 필요로 했던 세 가지 작업을 중심으로 설계되었습니다:

1. 로컬 인공지능
2. 전문 크리에이티브 작업
3. 고급 PC 게이밍

전통적인 게이밍 노트북은 개별 GPU 성능을 강조합니다. AI 개발 기계는 메모리 용량과 소프트웨어 도구를 우선시합니다. 모바일 워크스테이션은 전문 애플리케이션에 초점을 맞추며, 종종 무게와 배터리 수명을 희생합니다.

RTX Spark는 긴밀하게 통합된 하나의 프로세서 패키지와 대용량 통합 메모리 풀을 사용하여 이 세 가지를 결합하려 시도합니다.

RTX Spark 핵심 사양

MediaTek은 NVIDIA와 협력하여 커스텀 Grace CPU 설계에 참여했으며, 전력 효율성, 연결성 및 CPU 구현에 관한 Arm 시스템 전문 지식을 제공했습니다.

![이미지는 다음을 보여줍니다

NVLink-C2C와 통합 메모리의 중요성

일반적인 개별 GPU가 탑재된 노트북에서는 CPU와 GPU가 각각 별도의 메모리 풀을 유지합니다. 데이터는 PCI Express와 같은 인터커넥트를 통해 시스템 RAM과 GPU 메모리 사이를 이동해야 합니다.

이 방식은 일반적인 게임 및 생산성 작업에는 잘 작동하지만, 매우 큰 AI 모델과 창의적인 데이터셋에는 한계가 있습니다:

• GPU 메모리 용량이 부족할 수 있습니다.
• 모델 가중치를 분할하거나 오프로드해야 할 수 있습니다.
• 데이터 전송으로 인해 지연 시간이 발생하고 전력이 소모됩니다.
• 시스템에 충분한 전체 메모리가 있더라도, 대규모 프로젝트가 단일 프로세서의 가용 메모리를 초과할 수 있습니다.

반면, RTX Spark는 CPU와 GPU가 최대 128GB의 통합 메모리 풀에 공동으로 접근할 수 있도록 합니다. NVLink-C2C는 Grace CPU와 Blackwell GPU 간의 고대역폭 연결을 제공합니다.

실질적인 이점은 모든 작업에서 데이터 복사가 사라진다는 의미가 아닙니다. 소프트웨어는 여전히 데이터를 올바르게 관리해야 합니다. 오히려 장점은 애플리케이션이 작고 고립된 GPU 메모리 풀에 의존하지 않고 훨씬 더 큰 일관된 메모리 공간으로 작업할 수 있다는 점입니다.

로컬 LLM, 3D 장면, 비디오 타임라인 및 에이전트 컨텍스트의 경우, 메모리 용량은 순수한 연산 성능만큼 중요할 수 있습니다.

로컬에서 120B 모델 실행

NVIDIA는 RTX Spark 시스템이 최대 1,200억 개의 파라미터를 가진 대규모 언어 모델을 실행하고 최대 100만 개의 토큰 컨텍스트 길이로 에이전트 워크플로우를 지원할 수 있다고 밝혔습니다.

이는 모든 120B 모델이 전체 정밀도 또는 동일한 속도로 실행된다는 의미는 아닙니다. 실제 실행 가능 여부는 다음에 따라 달라집니다:

• 모델 아키텍처
• 양자화 형식
• 활성 파라미터
• KV-캐시 요구 사항
• 컨텍스트 길이
• 추론 엔진
• 운영 체제 및 애플리케이션 이후의 가용 메모리
• 목표 토큰 생성 속도

이러한 조건에도 불구하고, 128GB 공유 메모리를 갖춘 휴대용 컴퓨터는 로컬에서 테스트할 수 있는 범위를 변화시킵니다.

대용량 문서, 코드베이스, 대화 기록 및 검색 결과를 더 작은 클라우드 요청으로 분할하는 대신 기기에 그대로 유지할 수 있습니다. 로컬 실행은 네트워크 지연 시간을 줄이고 민감한 정보를 사용자의 통제 하에 유지할 수도 있습니다.

NVIDIA의 공식 RTX Spark 자료에는 몇 가지 주요 로컬 기능이 나열되어 있습니다:

• 1,200억 개 파라미터 LLM 실행
• 최대 100만 개 토큰 컨텍스트 사용
• 4K AI 비디오 생성
• 90GB 이상의 3D 장면 렌더링
• 12K 4:2:2 비디오 편집
• 1440p 해상도에서 100FPS 이상으로 AAA 게임 플레이

이는 플랫폼의 최대 성능 주장입니다.

모든 랩톱 구성이나 소프트웨어 프로젝트에 대한 보장보다는 말이죠.

개인 에이전트에게는 빠른 하드웨어만으로 부족합니다

로컬에서 실행되는 AI 에이전트는 파일을 읽고, 애플리케이션을 열고, 명령을 실행하고, 웹을 검색하고, 요청을 보내고, 데이터를 수정할 수 있습니다.

이러한 수준의 접근 권한은 보안 문제를 만듭니다. 유능한 모델이라고 해서 사용자 컴퓨터에 대한 무제한적인 통제권을 자동으로 부여받아서는 안 됩니다.

NVIDIA와 Microsoft는 새로운 Windows 보안 기본 요소와 NVIDIA OpenShell을 통해 이 문제를 해결하고 있습니다.

OpenShell은 다음을 제공하도록 설계되었습니다:

• 샌드박스 실행
• 정책 기반 권한
• 네트워크 제어
• 추론 라우팅
• 개인정보 보호 규칙
• 도구 접근 경계

사용자나 관리자는 에이전트가 수행할 수 있는 작업을 정의할 수 있습니다. 요청은 개인정보 보호 요구 사항에 따라 라우팅될 수도 있습니다.

예를 들어, 민감한 정보는 로컬 모델에 유지하면서 정제된 작업은 클라우드 모델에 보내는 식입니다.

NVIDIA는 OpenClaw와 Nous Research의 Hermes가 OpenShell과 Microsoft의 에이전트 보안 기본 요소를 자사의 Windows 애플리케이션에 통합할 것이라고 밝혔습니다.

이를 통해 하이브리드 모델이 만들어집니다:

1. 민감한 데이터는 로컬에서 처리됩니다.
2. 위험이 낮은 요청은 클라우드 모델로 보내질 수 있습니다.
3. 도구 접근은 명시적인 정책에 의해 제한됩니다.
4. 에이전트 프로세스는 통제된 환경 내에서 실행됩니다.
5. 장기 실행 어시스턴트는 무제한 시스템 권한을 부여받지 않고도 계속 사용할 수 있습니다.

보안 계층은 매우 중요합니다. 로컬 AI는 에이전트 런타임, 파일 권한, 네트워크 동작, 모델 라우팅이 모두 통제될 때만 개인정보 보호를 향상시킵니다.

로컬 창작 워크플로우

128GB 통합 메모리 설계는 또한 일반 랩톱 GPU로는 너무 큰 프로젝트를 작업하는 크리에이터를 위한 것입니다.

Bilibili World 부스에서 NVIDIA는 상세한 3D Manhattan 환경이 포함된 Unreal Engine 5 프로젝트를 시연했습니다. 프로젝트 파일은 90GB를 초과하는 것으로 알려졌습니다.

소식통에 따르면 사용자는 랩톱이 전원에 연결된 상태와 배터리로 실행되는 상태 모두에서 장면을 부드럽게 이동할 수 있었다고 합니다.

NVIDIA는 공식적으로 RTX Spark를 90GB 이상의 3D 프로젝트용으로 포지셔닝했지만, 실제 편집기 반응 속도는 장면 복잡성, 에셋 스트리밍, 저장 속도, 냉각, 애플리케이션 최적화 및 랩톱 전원 설정에 따라 달라집니다.

비디오 및 이미지 제작

RTX Spark의 Blackwell 미디어 엔진에는 4:2:2 인코딩 및 디코딩을 위한 하드웨어 지원이 포함되어 있습니다. NVIDIA는 이 플랫폼이 12K 4:2:2 비디오 워크플로우를 처리할 수 있다고 말합니다.

어도비가 RTX Spark의 통합 메모리, TensorRT 가속, GPU 합성 및 미디어 파이프라인을 활용하기 위해 포토샵과 프리미어의 일부를 재구축하고 있습니다.

목표로 하는 이점은 다음과 같습니다:

• 더 반응성이 뛰어난 대형 타임라인
• 더 빠른 AI 지원 효과
• GPU 가속 색상 보정
• 더 효율적인 렌더링
• 휴대용 시스템에서 더 큰 미디어 프로젝트 작업
• 별도 워크스테이션으로 프로젝트를 이동할 필요성 감소

어도비의 RTX Spark 최적화는 하드웨어와 함께 출시될 예정이며, 성능은 부분적으로 애플리케이션 지원에 따라 달라집니다.

Arm 프로세서에서의 RTX 게이밍

RTX Spark는 대부분의 Windows 게이밍 PC에서 사용되는 x86 아키텍처가 아닌 Arm을 기반으로 합니다.

이는 명백한 호환성 문제를 제기합니다. 기존 PC 게임과 안티 치트 시스템이 제대로 작동할까요?

NVIDIA의 답변은 네이티브 Arm 릴리스, Windows 호환성 작업 및 주요 퍼블리셔의 지원을 결합한 것입니다.

RTX Spark를 공개적으로 지원하는 회사는 다음과 같습니다:

• KRAFTON
• NetEase
• Remedy Entertainment
• Riot Games
• Xbox

Bilibili World에서 NVIDIA는 RTX NVIDIA RTX Spark 노트북에서 NetEase의 NARAKA: BLADEPOINT의 Arm 네이티브 버전을 시연했습니다.

보고에 따르면 데모는 높은 시각적 설정, 레이 트레이싱, DLSS 다중 프레임 생성 및 기타 RTX 기능을 사용하면서 부드러운 게임플레이를 유지했습니다.

NVIDIA의 광범위한 플랫폼 목표는 1440p 해상도에서 초당 100프레임 이상의 AAA 게이밍입니다. 결과는 게임, 노트북 냉각, 전력 제한, 디스플레이 해상도, DLSS 모드, 프레임 생성 및 타이틀이 네이티브인지 변환되었는지에 따라 크게 달라집니다.

RTX 기능

RTX Spark는 표준 최신 RTX 기술 스택을 지원합니다:

• 하드웨어 레이 트레이싱
• DLSS
• 다중 프레임 생성
• NVIDIA Reflex
• G-SYNC
• RTX 크리에이티브 가속
• CUDA
• 5세대 텐서 코어

장기적인 게이밍 경험은 개발자가 Arm 네이티브 빌드를 얼마나 빨리 출시하는지와 Windows가 레거시 x86 게임을 얼마나 잘 처리하는지에 달려 있습니다.

DGX Spark: 개발자를 위한 데스크톱 AI 슈퍼컴퓨터

RTX Spark는 주로 소비자 및 프로슈머 플랫폼입니다. DGX Spark는 개발 시스템으로 설계되었습니다.

DGX Spark는 NVIDIA GB10 Grace Blackwell Superchip을 사용하며, 20코어 Arm CPU, 최대 1페타FLOP의 FP4 AI 성능, 128GB의 일관된 통합 시스템 메모리를 갖추고 있습니다.

NVIDIA의 AI 소프트웨어 스택과 함께 제공됩니다.

DGX OS를 실행하며, AI 개발을 목표로 하는 Linux 기반 플랫폼입니다.

DGX Spark 공식 성능

두 대의 DGX Spark 시스템은 ConnectX 네트워킹을 통해 연결하여 더 큰 모델을 지원할 수 있습니다. 이는 소비자 중심의 RTX Spark 플랫폼과의 중요한 차이점입니다.

개발자는 워크로드를 NVIDIA DGX Cloud 또는 데이터센터 인프라로 이동하기 전에 로컬에서 모델을 프로토타이핑, 미세 조정, 검증 및 실행할 수 있습니다.

RTX Spark 대 DGX Spark

두 시스템은 아키텍처와 메모리 용량에서 중복되지만, 서로 대체할 수 없습니다.

가장 간단한 차이점은 다음과 같습니다:

• RTX Spark는 창작과 게임도 가능한 개인용 Windows AI PC입니다.
• DGX Spark는 책상 위에 NVIDIA 소프트웨어 스택을 제공하는 로컬 AI 개발 컴퓨터입니다.

NVIDIA Agent Toolkit으로 더 안전한 에이전트 구축

DGX Spark는 NVIDIA AI 소프트웨어 생태계를 포함하며, 자율 에이전트 개발을 위한 로컬 플랫폼으로 포지셔닝됩니다.

NVIDIA Agent Toolkit은 개발자가 에이전트 시스템을 도구, 데이터 소스, 모델 및 관찰 가능성 구성 요소에 연결하는 데 도움을 줍니다.

OpenShell은 격리, 정책 시행 및 추론 제어를 제공합니다. NemoClaw는 그 기반 위에 구축되어 항시 작동하는 에이전트의 더 안전한 배포를 간소화합니다.

이러한 역할 구분은 유용합니다:

• Agent Toolkit은 에이전트 워크플로를 구성하고 연결하는 데 도움을 줍니다.
• OpenShell은 샌드박스 및 정책 제어 런타임을 제공합니다.
• NemoClaw는 지원되는 자율 에이전트 환경에 대해 온보딩, 생애 주기 관리 및 보호된 운영을 패키지로 제공합니다.

NemoClaw는 OpenClaw, Hermes, LangChain Deep Agents, 로컬 오픈 모델, 클라우드 프론티어 모델 또는 추론과 함께 사용할 수 있습니다.

router.

손으로 그린 스케치를 웹 페이지로 전환하기

Bilibili World 시연에서 NVIDIA는 DGX Spark에서 35B Qwen 멀티모달 모델을 사용하여 개인 에이전트를 실행했습니다.

발표자는 종이에 간소화된 "5계층 AI 케이크" 다이어그램을 그리고 카메라에 보여주었습니다. 에이전트는 스케치를 해석하여 몇 초 만에 완전한 로컬 웹 페이지를 생성했습니다.

결과물은 후속 지시를 통해 개선할 수 있습니다.

이 시연은 여러 가지 기능을 결합합니다:

1. 카메라 입력
2. 멀티모달 시각적 이해
3. 구조화된 해석
4. HTML 및 CSS 생성
5. 로컬 실행
6. 반복 편집

모델과 에이전트가 로컬에서 실행되었기 때문에, 시연 중 워크플로우는 토큰당 클라우드 과금에 의존하지 않았습니다.

그렇다고 로컬 실행이 완전히 무료라는 뜻은 아닙니다. 하드웨어 구매, 전기, 유지보수, 스토리지, 엔지니어링 시간은 여전히 실제 비용입니다. 이는 비용 모델을 측정된 원격 추론에서 자체 보유 로컬 용량으로 전환하는 것입니다.

항상 켜져 있는 개인 비서를 위한 NemoClaw

NVIDIA는 NemoClaw를 DGX Spark 및 광범위한 로컬 AI 라인업에 적용했습니다.

NemoClaw는 OpenShell 샌드박스 내에서 항상 켜져 있는 에이전트를 실행하기 위한 오픈 소스 참조 스택입니다. 여기에 추가됩니다:

• 에이전트 온보딩
• 수명 주기 관리
• 샌드박스 실행
• 네트워크 정책
• 개인정보 보호 제어
• 추론 라우팅
• 로컬 및 클라우드 모델 지원

DGX Spark 사용자에게 핵심적인 장점은 중요한 데이터를 클라우드 서비스에 업로드할 필요성을 줄이면서 장기간 에이전트를 로컬에서 계속 실행할 수 있다는 점입니다.

공식 설치 옵션에는 현재 OpenClaw, Hermes 및 LangChain Deep Agents가 포함됩니다.