ASRock Rack 6U8X-EGS2 H200은 NVIDIA HGX H200 8-GPU 플랫폼을 특징으로 하는 최첨단 AI 서버로, 훈련 및 추론을 위해 설계되었습니다. 이 서버는 PCIe Gen5 또는 SATA로 구성할 수 있는 12개의 드라이브 베이를 포함하고 있으며, 4개의 USB 포트와 VGA 포트를 갖춘 강력한 전면 I/O를 제공합니다. 내부 아키텍처는 4세대 및 5세대 인텔 제온 스케일러블 프로세서를 위한 두 개의 인텔 LGA 4677 소켓을 지원하며, 총 32개의 DDR5 DIMM 슬롯을 제공합니다. NVIDIA HGX H200 8 GPU 트레이는 쉽게 서비스할 수 있도록 설계되어, 광범위한 분해 없이도 GPU에 빠르게 접근할 수 있습니다.
이 서버는 각각 141GB의 HBM3e 메모리를 갖춘 8개의 NVIDIA H200 GPU를 장착하고 있으며, 총 1.128TB의 메모리를 제공합니다. NVIDIA는 H200이 이전 H100 모델보다 40-50% 더 나은 성능을 제공한다고 주장하며, 특히 높은 메모리 대역폭이 필요한 시나리오에서 두드러진 성능을 발휘합니다. 전원 공급 시스템은 강력하여, 8개의 3kW 80Plus Titanium 전원 공급 장치가 장착되어 총 24kW를 제공하며, 일반적인 대기 소비 전력은 2kW 이상, 최대 부하는 10kW를 약간 초과합니다.
연결성 측면에서 이 서버는 고속 연결을 용이하게 하는 PCIe 스위치 보드를 포함하고 있으며, GPU에 3.2Tbps의 네트워크 대역폭을 제공합니다. 설계는 서비스 용이성과 냉각을 강조하며, AI 작업 부하에 최적화된 PCIe 연결을 위한 맞춤형 MCIO 마더보드를 갖추고 있습니다. 전반적으로 ASRock Rack 6U8X-EGS2 H200은 GPU 서버 기술의 중요한 발전을 나타내며, ASRock Rack이 AI 서버 시장에서의 제품 진화를 위해 헌신하고 있음을 보여줍니다.
* 이 글은
servethehome.com의 기사를 요약한 것입니다. 전체 기사의 내용은
이곳에서 확인하실 수 있습니다.