샌디스크는 웨스턴 디지털로부터 분사한 후 다시 독립적인 기업이 될 예정이며, 고대역폭 플래시(High Bandwidth Flash, HBF) 개발을 포함한 야심찬 미래 계획을 가지고 있습니다. 이 새로운 기술은 현재의 고대역폭 메모리(High Bandwidth Memory, HBM)보다 GPU에 훨씬 더 많은 메모리를 제공하는 것을 목표로 하고 있습니다.
HBF 개념은 처음에는 직관에 반하는 것처럼 보일 수 있습니다. 왜냐하면 NAND 플래시는 일반적으로 HBM에서 사용되는 DRAM보다 훨씬 느리기 때문입니다. 그러나 샌디스크는 AI 모델 추론을 지원하기 위해 고처리량 NAND 플래시를 활용하여 상당한 메모리 용량을 제공하는 방안을 모색하고 있습니다.
HBF는 HBM과 비교할 때 최소 8배에서 16배의 저장 용량을 제공할 것으로 예상되며, 비용은 비슷할 것입니다. 현재 AMD와 엔비디아의 AI 가속기에 사용되는 HBM 솔루션은 최대 192GB에 도달할 수 있습니다. 반면 HBF는 HBM과 함께 사용할 경우 최대 3,120GB(3TB)의 저장 용량을 가능하게 하며, HBM을 완전히 대체할 경우에는 4,096GB(4TB)까지 지원할 수 있습니다. 이는 3.6TB의 메모리를 요구하는 1.8조 매개변수의 프론티어 대형 언어 모델과 같은 대규모 AI 모델을 수용할 수 있게 합니다.
현재 각 HBM 패키지는 24GB의 용량을 가지고 있는 반면, HBF 패키지는 NAND 플래시 기술의 높은 밀도 덕분에 512GB에 도달할 수 있습니다. HBF는 HBM과 유사하게 GPU, CPU 또는 TPU 옆에 인터포저를 사용하여 통합되며, 약간의 프로토콜 변경을 통해 동일한 전기 인터페이스를 활용하지만 HBM과는 호환되지 않습니다.
샌디스크는 HBF가 전통적인 NAND 플래시가 접근 시간에서 뒤처짐에도 불구하고 HBM과 동일한 처리량을 제공할 것이라고 주장하고 있습니다. 이 회사는 데이터 라인과 접근 속도를 증가시켜 성능을 향상시킬 수 있는 HBF 전용 NAND 아키텍처를 개발 중이며, 이는 그들의 XL 플래시 기술과 유사한 점이 있습니다.
HBF는 아직 표준이 아니지만, 샌디스크는 용량과 성능이 향상된 차세대 기술에 대한 로드맵을 가지고 있습니다. 이 아키텍처는 지난해 주요 AI 기업들의 의견을 반영하여 개발되었으며, 현재 회사는 개방형 표준을 수립하기 위해 기술 자문 위원회를 구성하는 작업을 진행하고 있습니다. HBF와 이전에 제안된 고대역폭 NAND(High Bandwidth NAND, HBN) 개념 간의 잠재적인 유사성은 향후 명확해질 것이지만, 샌디스크는 이미 HBF 기술의 후속 세대를 계획하고 있습니다.
* 이 글은
computerbase.de의 기사를 요약한 것입니다. 전체 기사의 내용은
이곳에서 확인하실 수 있습니다.