CES에서 AMD는 256 GB의 HBM3E 메모리를 장착한 세계 유일의 프로세서인 최신 Instinct MI325X 가속기를 공개했습니다. 이 새로운 GPU는 AI 및 고성능 컴퓨팅(HPC) 작업을 위해 설계되었으며, 추론 작업에 가장 효율적인 옵션 중 하나가 되는 것을 목표로 하고 있습니다.
Instinct MI325X는 MI300X와 유사한 이중 칩렛 GPU 아키텍처를 특징으로 하며, 19,456개의 스트림 프로세서(304개의 컴퓨트 유닛)를 갖추고 있으며, 클럭 속도는 최대 2.10 GHz에 도달합니다. HBM3에서 HBM3E로의 메모리 용량이 192 GB에서 256 GB로 증가하고, 대역폭이 5.3 TB/s에서 6 TB/s로 증가함에 따라 MI325X는 141 GB의 HBM3E 메모리와 4.8 TB/s 대역폭을 제공하는 엔비디아의 H200과 같은 경쟁자들보다 앞서 나가고 있습니다.
더 많은 온보드 메모리는 AI 가속기에서 매우 중요합니다. 현대 AI 모델은 훈련 및 추론을 위해 상당한 메모리를 요구하기 때문입니다. 증가된 메모리 용량은 더 큰 배치 처리를 가능하게 하여 처리량과 효율성을 향상시킬 수 있습니다. 그러나 실제 성능 비교에 따르면, 엔비디아 H100 GPU를 장착한 8웨이 서버는 AMD의 MI300X GPU를 장착한 8웨이 서버와 동등한 성능을 발휘할 수 있으며, H200은 초당 생성 토큰 수에서 MI300X를 30% 이상 초과하는 성능을 보입니다.
MI325X의 유망한 사양에도 불구하고, MI300X의 성능을 저해했던 소프트웨어 한계를 극복할 수 있을지는 불확실합니다. MI325X의 성공은 실제 응용 프로그램에서 하드웨어 기능을 완전히 활용할 수 있는 능력에 달려 있습니다.
* 이 글은
tomshardware.com의 기사를 요약한 것입니다. 전체 기사의 내용은
이곳에서 확인하실 수 있습니다.