Aivres KR6288은 NVIDIA의 HGX H200 아키텍처를 기반으로 한 첫 번째 서버로, 두 개의 프로세서, 32개의 DIMM, 9개 이상의 400G NIC, 그리고 1.1TB 이상의 HBM3e 메모리를 갖춘 8개의 GPU를 지원하도록 설계되었습니다. 이 6U 서버는 AI 작업 부하에 최적화되어 있으며, 새로운 호퍼(Hopper) GPU를 통해 GPU 기술의 상당한 발전을 보여줍니다. 서버의 설계는 성능을 유지하는 데 중요한 공기 흐름 관리에 중점을 두고 있으며, 최대 조건에서 10kW 이상의 전력을 소모할 수 있습니다.
NVIDIA HGX H200 GPU는 이전 H100 모델에 비해 40-50% 더 나은 성능을 제공하는 것으로 보고되었으며, 특히 높은 메모리 대역폭이 필요한 시나리오에서 두드러진 성능을 발휘합니다. 이 서버는 4세대 또는 5세대 인텔 제온 스케일러블 프로세서를 두 개 지원하며, 총 32개의 DDR5 DIMM을 통해 요구되는 AI 애플리케이션에 필요한 강력한 메모리-대-GPU 비율을 보장합니다.
전력 소비는 중요한 요소로, 서버는 2.7kW에서 3.2kW까지의 8개의 전원 공급 장치를 사용하여 AI 서버 배치에서 효율적인 전력 관리의 필요성을 강조합니다. Aivres KR6288은 9개의 400G NIC을 통해 총 3.6Tbps의 대역폭을 제공하는 고급 네트워킹 기능도 갖추고 있어 데이터 집약적인 AI 작업에 필수적입니다.
전반적으로 Aivres KR6288은 AI 서버 시장에서 메모리 용량과 대역폭을 향상시키고, 효율적인 냉각 솔루션과 강력한 네트워킹 기능을 제공하여 고성능 AI 인프라를 배치하려는 조직에 강력한 경쟁력을 제공합니다.
* 이 글은
servethehome.com의 기사를 요약한 것입니다. 전체 기사의 내용은
이곳에서 확인하실 수 있습니다.