NEO Semiconductor는 AI GPU 가속기에 사용되는 기존 고대역 메모리(HBM) 칩을 대체하기 위해 3D X-AI 칩 기술 개발을 발표했습니다. 이 혁신적인 3D DRAM 기술에는 AI 처리 기능이 내장되어 있어, 기존의 수학 연산 없이도 데이터를 처리하고 출력할 수 있습니다. 이를 통해 메모리와 프로세서 간 대량 데이터 전송으로 발생하는 데이터 버스 병목 현상을 해결할 수 있어 AI 성능과 효율성이 향상될 것으로 기대됩니다.
3D X-AI 칩에는 동일 die 상의 300개 메모리 레이어에 저장된 데이터를 처리하는 뉴런 회로 레이어가 기반으로 탑재되어 있습니다. NEO Semiconductor에 따르면 이 3D 메모리 기술은 AI 처리를 위한 8,000개의 뉴런 회로를 갖추어 100배 향상된 성능을 제공하며, 현재 HBM 대비 8배 높은 메모리 밀도와 GPU 에너지 소비를 99% 줄일 수 있습니다.
NEO Semiconductor의 창립자 겸 CEO 앤디 허 박사는 AI 칩의 현재 아키텍처가 HBM의 데이터 저장과 GPU의 데이터 처리 분리로 인해 성능 및 전력 효율성 저하 문제가 발생한다고 지적했습니다. 3D X-AI 칩은 HBM 칩 내에서 AI 처리를 직접 수행할 수 있어, HBM과 GPU 간 데이터 전송을 크게 줄임으로써 전반적인 성능 향상과 전력 사용 절감이 가능할 것으로 보입니다.
X-AI 칩은 128GB 용량과 10TB/s의 AI 처리 속도를 제공하며, 단일 HBM 패키지에 12개 die를 적층하면 1.5TB 저장 용량과 120TB/s의 처리량을 달성할 수 있습니다. AI 기술 발전에 따른 더 빠르고 효율적인 반도체의 필요성이 커지면서, 데이터 전송 버스가 새로운 성능 병목으로 부상하고 있습니다. NEO Semiconductor의 이번 접근법은 GPU의 AI 처리 부하를 크게 줄일 수 있어, 기존 고전력 AI 가속기 대비 더 효율적일 것으로 보입니다.
* 이 글은
tomshardware.com의 기사를 요약한 것입니다. 전체 기사의 내용은
이곳에서 확인하실 수 있습니다.