Marvell은 주요 HBM 공급업체인 Micron, 삼성, SK hynix와 협력하여 하이퍼스케일 XPU의 성능을 향상시키기 위한 맞춤형 HBM 컴퓨트 아키텍처를 소개했습니다. 이 아키텍처는 HBM과 XPU 간의 상호 연결을 최적화하여 HBM 밀도를 증가시키는 데 중점을 두고 있으며, 이는 차세대 컴퓨팅 요구에 필수적입니다.
맞춤형 HBM 아키텍처는 더 컴팩트한 인터페이스를 허용하여 컴퓨트 다이에서 필요한 물리적 공간을 줄입니다. 이 혁신은 XPU 옆에 더 많은 HBM 스택을 배치할 수 있게 하여 메모리 대역폭과 용량을 증가시키고 전력 소비를 낮추는 데 기여합니다. Marvell은 이 새로운 설계가 인터페이스 전력을 70%까지 줄일 수 있다고 주장하며, 이는 에너지를 많이 소모하는 하이퍼스케일 애플리케이션에 있어 중요한 의미를 갖습니다.
표준 HBM 솔루션과 달리, 맞춤형 HBM(cHBM)은 일반적으로 HBM4에 대해 2000개 이상의 핀을 요구하는 JEDEC 표준을 준수하지 않습니다. Marvell은 맞춤형 상호 연결을 활용하여 이러한 많은 핀의 필요성을 없애고, 압축 및 보안을 위한 맞춤형 논리와 같은 추가 기능을 위한 다이 영역을 확보합니다.
Marvell은 이 새로운 아키텍처로 인해 면적당 처리량이 4배 증가할 것으로 예상하며, 현재 표준에 비해 대역폭이 최대 10배 증가할 가능성을 제시하고 있습니다. 이러한 발전은 하이퍼스케일 기업들이 올해 약 1000억 달러의 자본 지출을 할 것으로 예상되는 가운데, 차세대 AI 클러스터가 기존 모델보다 상당히 더 커질 것으로 예상되는 상황에서 특히 중요합니다. 예를 들어, 100K GPU xAI 콜로서스(Colossus) 클러스터와 같은 모델이 있습니다.
JEDEC 표준에서 맞춤형 메모리 솔루션으로의 전환은 업계에서 중대한 변화를 나타내며, Marvell이 대량 주문에 대해 일반적으로 이러한 맞춤형 솔루션을 제공하는 하이퍼스케일 시장에서 상당한 성공을 거둘 준비가 되어 있음을 시사합니다.
* 이 글은
servethehome.com의 기사를 요약한 것입니다. 전체 기사의 내용은
이곳에서 확인하실 수 있습니다.