MLPerf Inference v5.0 벤치마크 결과에 따르면, Nvidia는 Blackwell 아키텍처를 통해 AI 추론 시장에서 지배적인 위치를 유지하고 있으며, 확장성과 지연 성능에서 상당한 개선을 보여주고 있습니다. Blackwell은 이전 모델보다 성능이 향상되어 새로운 테스트 시나리오에서 지연 시간을 세 배 더 줄이는 성과를 달성했습니다. Nvidia의 통합 하드웨어 솔루션은 경쟁 우위를 제공하며, 15개의 파트너가 제출한 결과는 기술의 광범위한 채택을 강조합니다.
반면, AMD는 Instinct MI325X로 성과를 내고 있으며, 특히 Supermicro와 같은 파트너가 제공하는 시스템에서 경쟁력 있는 성능을 보여주기 시작했습니다. MI325X는 Nvidia의 H200과 유사한 성능 수준을 나타내지만, 여전히 Blackwell의 성능에는 미치지 못합니다. AMD의 최근 여러 파트너로부터의 제출은 성장하는 생태계와 제품에 대한 신뢰를 나타내며, AI 확장성과 소프트웨어 발전에 대한 헌신을 강조합니다.
한편, Intel은 Xeon 프로세서를 통해 CPU 성능에만 집중하고 있으며, 이전 세대 대비 AI 성능이 1.9배 향상되었다고 보고했습니다. 그러나 Intel은 가속기 제출에 나서지 않아 AMD와 Nvidia와의 경쟁에서 뒤처지고 있습니다. 이 회사는 2021년 첫 MLPerf 제출 이후 15배의 성능 향상을 달성했지만, Gaudi와 같은 전용 AI 가속기가 부족하여 추론 시장에서의 경쟁력을 제한하고 있습니다.
* 이 글은
computerbase.de의 기사를 요약한 것입니다. 전체 기사의 내용은
이곳에서 확인하실 수 있습니다.