NVIDIA Blackwell, 데이터 센터에서 가동 중: NVLINK 1.4 TB/s로 업그레이드, GPU 세부 정보 및 최초의 FP4 생성 AI 이미지 공개

전문: https://wccftech.com/nvidia-blackwell-up-running-nvlink-upgraded-1-...

원저자: Hassan Mujtaba | 작성일: 2024-08-23 15:00
사이트 내 게시일: 2024-08-23 15:24
NVIDIA는 Blackwell 아키텍처가 데이터 센터에서 운영되고 있음을 확인하며 지연에 대한 루머를 불식시켰습니다. 회사는 다가오는 핫 칩스(Hot Chips) 행사에서 더 많은 세부 정보를 공유할 계획입니다. Blackwell은 데이터 센터, 클라우드 및 AI 애플리케이션을 위한 종합 플랫폼으로 설계되었으며, Blackwell GPU, Grace CPU, 다양한 NVLINK 및 Spectrum 칩을 포함한 여러 구성 요소를 특징으로 합니다.

Blackwell GPU는 TSMC의 4NP 공정으로 제작된 2080억 개의 트랜지스터를 포함하고 있으며, FP4 AI 성능에서 20 Peta FLOPS와 8 TB/s의 메모리 대역폭을 제공합니다. 업그레이드된 NVLINK 스위치는 패브릭 대역폭을 1.8 TB/s로 두 배 증가시켜 최대 72개의 GPU 간의 고속 통신을 가능하게 하며, 이는 낮은 지연 시간과 높은 처리량을 요구하는 현대 AI 작업에 필수적입니다.

NVIDIA의 NVSwitch 기술은 다중 GPU 설정을 개선하여 기존 방법에 비해 최대 1.5배 높은 추론 처리량을 제공합니다. Blackwell 아키텍처는 대형 언어 모델에 특히 적합하며, AI 애플리케이션에서 증가하는 컴퓨팅 파워 수요를 충족합니다.

또한, NVIDIA는 효율성을 개선하고 운영 비용을 줄일 수 있는 혁신적인 액체 냉각 솔루션을 도입하고 있습니다. 회사는 FP4 컴퓨팅을 사용하여 생성된 최초의 생성 AI 이미지를 선보이며, 새로운 양자화 시스템의 능력을 보여주었습니다. 이 이미지는 Blackwell을 사용하여 MLPerf에 의해 생성되었으며, 저정밀 AI 컴퓨팅의 잠재력을 강조합니다.

앞으로 NVIDIA는 내년에 Blackwell Ultra GPU를 출시할 계획이며, 이는 향상된 메모리 및 컴퓨팅 기능을 갖출 예정입니다. 이후 몇 년 동안 Rubin 및 Rubin Ultra GPU가 출시될 예정입니다. 전반적으로 Blackwell은 NVIDIA의 데이터 센터 제품군에서 중요한 발전을 나타내며, AI 기반 애플리케이션을 위한 높은 성능과 효율성을 강조합니다.

* 이 글은 wccftech.com의 기사를 요약한 것입니다. 전체 기사의 내용은 이곳에서 확인하실 수 있습니다.
카테고리: GPU
태그: Nvidia (1087) AI (735) GPU (266) Data Center (165) Blackwell (136) Generative AI (85) liquid cooling (55) NVLink (10) FP4 (6)

댓글

댓글을 쓰기 위해서는 로그인을 해 주세요.