NVIDIA는 OpenAI에 Blackwell DGX B200 AI 시스템의 첫 번째 엔지니어링 샘플 중 하나를 전달하며 AI 훈련 능력의 중요한 발전을 이뤘습니다. DGX B200 플랫폼은 8개의 Blackwell B200 GPU를 활용하여 최대 1.4TB의 GPU 메모리와 64TB/s의 메모리 대역폭을 제공합니다. 이 시스템은 최대 72 petaFLOPS의 훈련 성능과 144 petaFLOPS의 추론 성능을 제공할 수 있으며, 이는 AI 모델 훈련에 있어 상당한 개선을 의미합니다.
OpenAI의 CEO인 샘 올트먼(Sam Altman)은 Blackwell GPU에 대한 기대감을 표명하며, 이들이 최첨단 AI 모델 개발을 가속화할 잠재력을 강조했습니다. DGX B200은 이전 세대에 비해 훈련 성능이 3배, 추론 성능이 15배 향상된 것으로 보고되며, NVIDIA의 Hopper GPU보다 더 전력 효율적인 옵션입니다. 이러한 성능 향상은 대형 언어 모델(LLM), 챗봇, 추천 시스템을 처리하는 데 필수적입니다.
Blackwell B200 GPU에 대한 수요는 높으며, 아마존(Amazon), 구글(Google), 메타(Meta), 마이크로소프트(Microsoft), 테슬라(Tesla), 델 테크놀로지스(Dell Technologies)와 같은 주요 기업들도 AI 훈련 필요에 따라 이 GPU를 활용할 계획입니다. 특히, xAI는 기존의 10만 H100 GPU 외에 5만 B200 GPU를 배치할 예정입니다. 또한, Foxconn은 B200 GPU를 사용하여 대만에서 가장 빠른 슈퍼컴퓨터를 구축할 예정이며, 이는 AI 컴퓨팅을 둘러싼 경쟁 환경을 강조합니다.
전반적으로 DGX B200의 도입은 AI 컴퓨팅 기술의 중요한 도약을 나타내며, 고급 AI 기능에 의존하는 다양한 산업에 영향을 미칠 것입니다.
* 이 글은
wccftech.com의 기사를 요약한 것입니다. 전체 기사의 내용은
이곳에서 확인하실 수 있습니다.