엔비디아, 데스크톱용 AI 슈퍼컴퓨터 ‘프로젝트 디지츠’ 공개··· 일반 콘센트로 1페타플롭 성능 구현

엔비디아는 데이터센터에 대규모 언어 모델(LLM) 학습과 개선을 위한 대규모 컴퓨팅 용량을 제공하며 생성형 AI 사업을 발전시켜 왔다. 이번에 한발 더 나아가 엔비디아는 개인용 AI 슈퍼컴퓨터인 ‘프로젝트 디지츠(DIGITS)’를 발표했다. 디지츠는 최고급 서버에 탑재된 그레이스 블랙웰 플랫폼의 경량 버전을 탑재한 초소형 데스크톱 기기로, 데이터 과학자, 연구원, 학생들이 대규모 생성형 AI 모델을 프로토타이핑하고 조정하며 실행할 수 있도록 지원란다.

엔비디아 CEO 젠슨 황은 라스베이거스에서 개최된 CES 2025 전자제품 박람회 전날 기조연설에서 프로젝트 디지츠를 선보였다. 이 기기는 마이크로소프트(MS)가 2024년 11월에 발표한 윈도우 365 링크 클라이언트와 크기가 비슷하다. 링크의 크기는 120mm(4.72인치) 정사각형에 높이 30mm(1.18인치)로 설계됐다.

엔비디아는 디지츠의 구체적인 크기를 밝히지 않았지만, 엔비디아의 제품 마케팅 디렉터 앨런 버고인은 “이 기기는 손잡이가 포함된 머그컵과 비슷한 너비와 절반 정도의 높이를 가질 것”이라고 설명했다. 일반적으로 머그컵의 너비는 약 120mm, 높이는 약 90mm이므로, 디지츠는 링크와 너비는 같으나 약간 더 두꺼운 것으로 보인다. 그러나 두 제품의 철학은 완전히 다르다.

두 장치는 컴퓨팅 처리 방식에서 근본적인 차이를 보인다. MS의 링크는 대부분의 작업을 원격 클라우드 서버에서 처리하는 반면, 엔비디아의 하드웨어는 모든 처리 능력을 데스크톱 장치 자체에 담았다. MS의 링크는 8GB RAM을 탑재했으며, 로컬 데이터 저장소가 없고 특별한 AI 기능이 없는 일반 인텔 프로세서를 사용한다. 윈도우의 코파일럿 기능을 포함한 모든 기능은 클라우드에서 실행되며, 링크는 4월 출시 시 약 350달러에 판매될 예정이다.

벽면 콘센트 하나로 1 페타플롭 구현

반면 프로젝트 디지츠는 2025년 5월 출시되며 최소 3,000달러에 판매될 예정이다. 이 제품은 4TB NVMe 스토리지, 128GB 통합 LPDDR5X 메모리, 20개의 ARM 코어와 CUDA 코어, RT 코어, 5세대 텐서 코어를 포함하는 GB10 그레이스 블랙웰 슈퍼칩을 탑재했다.

버고인은 이러한 코어의 조합으로 최대 1페타플롭의 AI 처리 능력을 제공하며, 이는 클라우드 없이도 로컬에서 ‘FP4’ 정확도로 2천억 개의 매개변수 모델을 처리하기에 충분하다고 설명했다. 그는 또한 내장된 커넥트X(ConnectX) 네트워킹 칩을 통해 두 대의 프로젝트 디지츠 장치를 연결하면 4,000억 개의 파라미터 모델 작업이 가능하다고 설명했다.

GB10 칩은 저전력 모바일 칩으로 유명한 미디어텍과 공동 개발됐다. 데이터센터에서 사용되는 GB200 프로세서의 NV72 랙이 120kW까지 소비하는 것과 비교하면 프로젝트 디지츠는 전력 효율이 더욱 뛰어나다. 버고인은 “일반 벽면에 설치된 콘센트에 꽂기만 하면 된다”라며 추가적인 전원 공급이 필요하지 않음을 밝혔다.

디지츠는 윈도우를 실행하지 않고, AI 애플리케이션 개발과 실행을 위해 추가 드라이버와 도구가 포함된 우분투 리눅스 기반의 DGX OS를 실행한다. 엔비디아는 이것이 데이터센터의 DGX 시스템에서 실행되는 것과 동일한 소프트웨어로, 프로젝트 디지츠에서 로컬로 구축 및 테스트한 모델을 클라우드나 데이터센터에 즉시 배포할 수 있다고 설명했다.

이 장치에서는 엔비디아 개발자 포털과 NGC의 오케스트레이션 도구, 프레임워크, 모델을 포함한 다양한 엔비디아 AI 도구를 실행할 수 있다. 여기에는 모델 미세 조정을 위한 NeMo 프레임워크와 데이터 과학을 위한 RAPIDS 라이브러리가 포함된다.

엔비디아는 블루프린트와 NIM 마이크로서비스가 에이전트 AI 애플리케이션 구축을 위한 개발자 프로그램을 통해 경량 라이선스로 제공되며, 프로덕션 환경으로 이동할 때만 AI 엔터프라이즈 라이선스가 필요하다고 전했다.

데스크톱 환경에서 확장되는 생성형 AI

엔비디아는 고성능 GB10 프로세서가 없는 일반 PC에서도 AI 개발이 가능하다는 점을 고려해, 지포스 RTX GPU가 탑재된 컴퓨터에서 사용할 수 있는 NIM 마이크로서비스와 AI 블루프린트 등 다양한 애플리케이션 개발 도구를 공개했다.

NIM 마이크로서비스는 컨테이너화된 AI 기본 모델로, 엔비디아와 다른 개발자의 모델이 포함된다. 이를 통해 로우코드 및 노코드 도구(예: AnythingLLM, ComfyUI, Langflow, LM Studio)를 사용해 워크플로우를 구축 및 배포할 수 있다. AI 블루프린트는 미디어 형식 간 변환과 같은 특정 작업에 대한 사전 구성된 워크플로우를 제공하며, 최신 블루프린트 중 하나는 PDF를 팟캐스트로 변환하는 기능도 지원한다.
[email protected]