AI 산업은 고대역폭 메모리(HBM)를 갖춘 고성능 GPU에도 불구하고 저장 성능 병목 현상에 직면해 있습니다. Silicon Motion의 CEO인 월리스 C. 쿠오(Wallace C. Kuo)는 엔비디아가 소형 블록 작업에서 초당 1억 개의 입출력 작업(I/O Operations Per Second, IOPS)을 달성할 수 있는 SSD 개발을 위해 파트너들과 협력하고 있다고 밝혔습니다. 이 목표는 현재 PCIe 5.0 x4 SSD가 제공하는 약 200만에서 300만 IOPS 및 최대 14.5 GB/s의 처리량에서 상당한 도약을 의미합니다.
엔비디아의 B200과 같은 현대 AI 가속기는 약 8 TB/s의 HBM3E 메모리 대역폭을 자랑하며, 이는 기존 저장 솔루션의 성능을 훨씬 초월합니다. 문제는 SSD 컨트롤러와 NAND 메모리 기술의 한계로 인해 IOPS를 33배 증가시키는 것입니다. Kioxia는 XL-Flash 메모리를 기반으로 한 'AI SSD'를 개발 중이며, 512K IOPS에서 1천만 개 이상의 성능을 목표로 하고 있으며, 내년 하반기에 출시될 예정입니다.
쿠오는 1억 IOPS라는 야심찬 목표를 달성하기 위해 미디어 기술의 근본적인 변화가 필요하다고 강조하며, 이전의 솔루션인 Optane이 실패했음을 언급했습니다. Micron과 SanDisk와 같은 기업들은 새로운 비휘발성 메모리 유형을 탐색하고 있지만, 상업적 실현 가능성은 여전히 불확실합니다. 산업계는 AI 작업의 증가하는 수요를 효과적이고 비용 효율적으로 충족하기 위한 혁신적인 솔루션이 필요합니다.
* 이 글은
tomshardware.com의 기사를 요약한 것입니다. 전체 기사의 내용은
이곳에서 확인하실 수 있습니다.