SC24/Ignite 행사에서 Microsoft Azure는 HBM3를 특징으로 하는 최초의 Zen-4 프로세서인 AMD Instinct MI300C를 공개했습니다. 이 맞춤형 Epyc CPU는 고성능 컴퓨팅을 위해 설계되었으며, 특히 빠르게 성장하는 인공지능 분야에 적합합니다. MI300C는 2.5D 칩 설계와 추가적인 3D 스태킹을 결합한 3.5D 패키징 기술을 활용하여 성능을 향상시킵니다.
MI300C는 MI300A에 있는 GPU 유닛(XCD)을 추가적인 CPU 칩렛(CCD)으로 대체하여 총 24개에서 96개의 Zen-4 코어로 증가시켰습니다. 128 GB의 HBM3 메모리를 유지하여 고급 메모리 기능을 갖춘 Epyc 프로세서로 기능합니다.
실제 애플리케이션, 특히 Azure의 HBv5 VM 내에서 MI300C는 CPU당 88개의 운영 코어를 제공하며, 8개의 코어는 시스템 관리를 위해 예약되어 있습니다. 이 구성은 4개의 CPU에서 총 352개의 코어를 가능하게 하며, 최대 주파수는 4 GHz에 도달합니다. 메모리 대역폭은 인상적이며, 400-450 GB의 HBM3에서 약 6.9 TB/s를 제공합니다. 그러나 이 수치는 이론적 최대인 512 GB에는 미치지 못합니다.
주요 사양은 다음과 같습니다:
- 400-450 GB의 HBM3에서 6.9 TB/s 메모리 대역폭 (STREAM Triad)
- 코어당 최대 9 GB의 메모리 (구성 가능)
- 최대 352개의 AMD EPYC "Zen4" CPU 코어와 4 GHz의 최대 주파수 (구성 가능)
- 이전 AMD EPYC 서버 플랫폼에 비해 2배의 총 인피니티 패브릭 대역폭
- 단일 테넌트 설계를 위한 SMT 비활성화 (서버당 1 VM)
- CPU SoC당 200 Gb/s로 균형 잡힌 800 Gb/s의 NVIDIA Quantum-2 인피니밴드
- 2세대 Azure Boost NIC를 통한 160 Gbps의 Azure Accelerated Networking
- 최대 50 GB/s 읽기 및 30 GB/s 쓰기 대역폭을 갖춘 14 TB 로컬 NVMe SSD
현재 MI300C는 Azure 전용으로 제공되며 일반 솔루션으로는 사용할 수 없어 고성능 컴퓨팅 환경에서의 전문적인 역할을 강조합니다.
* 이 글은
computerbase.de의 기사를 요약한 것입니다. 전체 기사의 내용은
이곳에서 확인하실 수 있습니다.