AMD는 최신 EPYC 9005 시리즈 '투린' CPU와 Instinct MI300X GPU를 통해 에너지 효율성에서 중요한 이정표를 달성했습니다. 이 시스템은 2020년 시스템보다 28.3배 더 효율적이며, 2025년 목표보다 1년 앞선 성과입니다. 이 개선은 AI 및 HPC 프로세서의 성능에 매우 중요하며, 기업들이 매 제품 세대마다 효율성을 높이기 위해 경쟁하고 있습니다.
테스트는 두 개의 64코어 EPYC 9575F CPU, 여덟 개의 Instinct MI300X 가속기, 2,304 GB의 DDR5 메모리로 구성된 머신에서 Llama3.1-70B 모델을 사용하여 평가되었습니다. AMD는 2020년 시스템의 정확한 사양을 공개하지 않았지만, EPYC 7002 시리즈 프로세서와 Instinct MI100 가속기를 기반으로 추정됩니다.
성능 비교 결과, MI300X는 MI100보다 상당히 우수한 성능을 보였으며, INT8 성능은 2615 TOPS(희소성을 고려할 경우 5230 TOPS)로 MI100의 184.6 TOPS에 비해 14배에서 28배 향상되었습니다. 메모리 서브시스템도 개선되어 MI300X는 5.30 GB/s의 속도로 192 GB HBM3를 탑재하고 있으며, MI100은 1.20 GB/s의 속도로 32 GB HBM2를 사용하고 있습니다.
AMD는 이러한 효율성의 도약이 하드웨어 발전뿐만 아니라 아키텍처 개선 및 소프트웨어 최적화 덕분이라고 설명했습니다. 또한, AMD는 288 GB HBM3E 메모리 서브시스템을 갖춘 Instinct MI325X 가속기를 출시했으며, 내년에는 FP8 및 FP16 성능을 약 80% 향상시킬 MI355X 프로세서를 출시할 계획입니다.
앞으로 AMD는 2027년까지 에너지 효율성을 100배 향상시키겠다는 목표를 세우고 있으며, AI 및 HPC 분야에서의 혁신에 대한 강한 의지를 나타내고 있습니다.
* 이 글은
tomshardware.com의 기사를 요약한 것입니다. 전체 기사의 내용은
이곳에서 확인하실 수 있습니다.