NVIDIA가 최신 하드웨어 솔루션인 블랙웰 GB200 NVL4와 호퍼 H200 NVL을 발표했습니다. 이 제품들은 HPC(고성능 컴퓨팅) 및 AI(인공지능) 작업 부하를 향상시키기 위해 설계되었습니다. GB200 NVL4는 네 개의 블랙웰 GPU와 두 개의 그레이스 CPU를 탑재하여 이전 모델에 비해 성능과 메모리 용량을 크게 향상시켰습니다.
호퍼 H200 NVL 카드는 이제 일반 출시되었으며, NVLINK를 통해 최대 네 개의 GPU를 연결할 수 있는 PCIe 기반 솔루션을 제공합니다. 이는 표준 PCIe의 7배에 달하는 대역폭을 제공합니다. H200 NVL은 1.5배 더 많은 HBM 메모리, 1.7배 향상된 LLM 추론 성능, 1.3배 개선된 HPC 성능을 자랑하며, 114 SM, 14,592 CUDA 코어, 456 텐서 코어를 포함한 사양으로 최대 3 TFLOPs의 FP8 성능을 달성하며 TDP는 350와트입니다.
GB200 NVL4 모듈은 이전 모델의 성능을 두 배로 늘리며, 두 개의 블랙웰 GPU와 두 개의 그레이스 CPU를 탑재하여 4-GPU NVLINK 도메인과 1.3TB의 일관된 메모리를 갖춘 단일 서버 설정을 위해 설계되었습니다. 이 모듈은 시뮬레이션에서 2.2배, 훈련 및 추론 성능에서 1.8배 향상을 약속하며, 예상 TDP는 약 6KW입니다.
NVIDIA는 또한 MLPerf v4.1에서 훈련 및 추론 모두에서 세계 기록을 세우며 블랙웰 아키텍처의 효과를 입증했습니다. 이 회사는 블랙웰 울트라 및 루빈과 같은 새로운 인프라를 계획하며 AI 로드맵을 가속화할 것을 다짐하고 있습니다.
* 이 글은
wccftech.com의 기사를 요약한 것입니다. 전체 기사의 내용은
이곳에서 확인하실 수 있습니다.