MLPerf Training v5.0 결과가 발표되었으며, NVIDIA가 벤치마크 스위트에서 지속적인 우위를 보이고 있습니다. 이는 NVIDIA의 시장 점유율을 고려할 때 예상된 결과입니다. NVIDIA의 새로운 블랙웰(Blackwell) 아키텍처는 이전의 호퍼(Hopper) 아키텍처를 능가했으며, 많은 결과가 인텔 제온(Intel Xeon) CPU 또는 NVIDIA의 그레이스(Grace) ARM CPU와 함께 제공되었습니다.
AMD는 인스팅트 MI325X(Instinct MI325X)로도 성과를 보였으며, Llama2 70B LoRA 벤치마크에서 MI300X 대비 30%의 세대 향상을 보여주어 같은 범주에서 NVIDIA의 H200 시스템을 초과 성능을 기록했습니다. 이는 특정 작업 부하에서 AMD의 경쟁력을 나타내지만, 전반적으로는 NVIDIA가 제출 수와 성능에서 여전히 우위를 점하고 있습니다.
결과에는 구글의 Trillium 시스템 제출도 포함되었지만, 전체적인 경향은 여전히 NVIDIA 쪽으로 치우쳐 있습니다. 기사에서는 결과가 다양성이 부족하긴 했지만, 하드웨어 성능이 증가하고 소프트웨어 최적화 노력이 함께 진행되고 있다는 경향을 반영하고 있다고 언급하고 있습니다.
NVIDIA의 로드맵에는 기가와트(Gigawatt) AI 공장 계획이 포함되어 있으며, 이더넷 스위칭 시장에 영향을 미칠 예정인 스펙트럼6 CPO 102.4T 제품이 강조되고 있습니다. Dell 또한 미국 고객을 위한 NVIDIA GB200 NVL72 시스템의 생산을 확대하고 있어 NVIDIA 솔루션에 대한 강한 수요를 나타내고 있습니다.
요약하자면, NVIDIA가 MLPerf 벤치마크에서 계속해서 지배적인 위치를 유지하고 있는 반면, AMD의 MI325X 발전은 AI 하드웨어 분야에서 특히 특정 벤치마크에서 경쟁력이 증가하고 있음을 시사합니다.
* 이 글은
servethehome.com의 기사를 요약한 것입니다. 전체 기사의 내용은
이곳에서 확인하실 수 있습니다.