페가트론이 128개의 AMD 인스팅트 MI350X 가속기를 특징으로 하는 최첨단 랙 규모 솔루션을 소개했습니다. 이 시스템은 고성능 AI 추론 및 훈련 애플리케이션을 위해 설계되었으며, 컴퓨텍스에서 공개되었습니다. 이는 AMD의 미래 랙 규모 솔루션, 특히 2026년에 출시될 MI450X 기반 시스템의 전초전입니다.
페가트론 AS501-4A1/AS500-4A1 시스템은 각각 하나의 AMD EPYC 9005 시리즈 프로세서와 네 개의 MI350X 가속기가 장착된 5U 컴퓨트 트레이 8개로 구성되어 있습니다. 전체 설정은 액체 냉각 방식으로 최적의 성능을 유지하며, OCP 표준을 따르는 클라우드 데이터 센터에 적합한 51OU ORV3 폼 팩터를 준수합니다.
연결성 측면에서 이 시스템은 GPU 간 연결을 위해 400 GbE를 사용하여, 초고속 NVLink 연결을 특징으로 하는 Nvidia의 GB200/GB300 NVL72 플랫폼에 비해 확장성이 제한됩니다. MI350X 시스템은 이론적으로 1,177 PFLOPS의 FP4 컴퓨트 성능을 달성하며, 총 36.8TB의 HBM3E 메모리를 지원하여 Nvidia의 현재 제품을 초월하는 대규모 AI 모델을 처리할 수 있습니다.
그러나 GPU 통신을 위한 이더넷 의존성은 최대 8개의 GPU로 확장성을 제한하여, Nvidia의 솔루션에 비해 긴밀하게 동기화된 대형 언어 모델(LLM) 훈련에 덜 적합합니다. 이러한 한계에도 불구하고, 페가트론 시스템은 추론 작업 및 다중 인스턴스 훈련을 위한 고성능, 메모리 풍부한 옵션으로 두드러지며, AMD의 차세대 솔루션을 위한 길을 열어줍니다.
* 이 글은
tomshardware.com의 기사를 요약한 것입니다. 전체 기사의 내용은
이곳에서 확인하실 수 있습니다.