엔비디아는 첫 번째 세대 B200 시리즈에 비해 상당한 발전을 약속하는 두 번째 세대 블랙웰 B300 시리즈 프로세서를 출시할 예정입니다. B300 프로세서는 1,400W의 열 설계 전력(TDP)을 특징으로 하며, 이는 B200보다 200W 더 높은 수치지만, 50% 더 높은 컴퓨팅 성능을 제공합니다. 이 성능 향상은 TSMC의 4nm급 제조 공정을 유지하면서 엔비디아의 요구에 맞게 특별히 조정된 결과입니다.
B300 시리즈의 주목할 만한 개선 사항은 12-Hi HBM3E 메모리 스택의 통합으로, 총 288GB의 메모리와 인상적인 8TB/s의 대역폭을 제공합니다. 메모리 용량과 처리량의 증가는 더 큰 배치 크기와 확장된 시퀀스 길이를 처리할 수 있는 능력 덕분에 훈련 및 추론 프로세스를 더 빠르게 진행할 수 있게 하여, 추론 비용을 최대 3배까지 줄일 것으로 예상됩니다. 또한, 지연 시간 문제도 해결할 수 있습니다.
추가로, B300 시리즈는 엔비디아의 새로운 800G ConnectX-8 네트워크 인터페이스 카드(NIC)를 통합할 가능성이 있으며, 이는 이전의 400G ConnectX-7보다 두 배의 대역폭을 제공하고, 32개의 PCIe 레인 대신 48개의 PCIe 레인을 특징으로 합니다. 이 업그레이드는 대규모 서버 클러스터의 스케일 아웃 대역폭을 향상시킬 것으로 기대됩니다.
엔비디아는 B300 및 GB300 시리즈의 공급망을 재편성하고, 이 프로세서를 그레이스 CPU 및 Axiado의 호스트 관리 컨트롤러와 함께 SXM Puck 모듈에서만 판매하기로 결정했습니다. 이러한 변화는 블랙웰 공급망에 대한 참여를 확대하여 다양한 기업들이 이러한 고급 기계를 더 쉽게 접근할 수 있도록 할 것으로 예상됩니다.
B300 및 GB300 시리즈는 엔비디아의 파트너인 하이퍼스케일러 및 OEM에게 블랙웰 기계 설계에서 더 큰 유연성을 제공하여, 시장의 가격 및 성능 역학에 영향을 미칠 수 있습니다.
* 이 글은
tomshardware.com의 기사를 요약한 것입니다. 전체 기사의 내용은
이곳에서 확인하실 수 있습니다.