ExaAILabs가 NVIDIA의 H200 Hopper GPU를 활용한 최초의 클러스터 중 하나인 Exacluster를 출시했습니다. 이 클러스터는 Google을 초월하는 사용자 쿼리 이해 및 결과 제공을 목표로 하는 검색 엔진 개발을 위해 설계되었습니다.
Exacluster는 각각 8개의 NVIDIA H200 GPU가 장착된 18대의 서버로 구성되어 있으며, 총 144개의 GPU와 20TB의 HBM3E 메모리를 갖추고 있습니다. 이는 GPU당 141GB의 HBM3E에 해당합니다. 결합된 컴퓨팅 성능은 약 570 PetaTOPS(569,958 TOPS)에 달합니다. 이 시스템은 192개의 96코어 프로세서로 구동되며, 총 3,456개의 코어와 36TB의 DDR5 메모리, 270TB의 NVMe SSD 스토리지를 제공합니다. 전력 소비는 100kW로, 표준 공랭 방식으로 적절한 냉각을 보장하기 위해 랙당 두 대의 기계만 배치됩니다.
Exacluster의 총 비용은 약 500만 달러로, 기계당 약 277,777 달러에 해당하며, 이는 단일 8웨이 H200 베이스보드의 비용과 비교할 때 경쟁력이 있습니다. 가격 전략과 H200 기반 기계에 대한 조기 접근은 다소 불확실하지만, ExaAI의 독특한 AI 애플리케이션과 NVIDIA의 투자가 영향을 미쳤을 가능성이 제기됩니다. ExaAI의 궁극적인 목표는 복잡한 쿼리를 효과적으로 처리할 수 있는 혁신적인 검색 엔진을 만드는 것으로, 이는 검색 기술의 지형을 크게 변화시킬 수 있습니다.
* 이 글은
tomshardware.com의 기사를 요약한 것입니다. 전체 기사의 내용은
이곳에서 확인하실 수 있습니다.