MemryX MX3 M.2 모듈은 인상적인 성능과 사용자 친화적인 소프트웨어 경험을 제공하는 AI 가속기입니다. 이 모듈은 칩당 6 TOPS의 연산 성능을 갖추고 있으며, 최대 16개의 칩을 연결하여 총 96 TOPS의 성능을 발휘할 수 있습니다. 다양한 데이터 형식을 지원하며, 4, 8, 16비트 가중치를 처리할 수 있고, 칩당 최대 1050만 개의 8비트 매개변수를 처리하면서도 소비 전력은 2와트 이하입니다. 네 개의 MX3 칩을 통합한 MX3-2280-M-4 모듈은 24 TFLOPS의 AI 연산 성능을 제공하며, 6~8와트를 소비하고 가격은 149달러로 접근성이 좋습니다.
MemryX M.2 모듈은 낮은 전력 소비로 인해 패시브 쿨링 솔루션을 사용할 수 있는 점이 두드러집니다. 소프트웨어 스택은 오픈 소스 구성 요소로 구성되어 있으며, Windows와 Linux 시스템에서 쉽게 설치할 수 있습니다. 설치 과정은 간단하지만, 일부 사용자는 M.2 슬롯과의 초기 호환성 문제를 겪을 수 있으며, 이는 슬롯을 변경함으로써 해결할 수 있습니다.
성능 면에서 MemryX MX3-2280-M-4는 벤치마크에서 AMD 라이젠 9 9950X를 초월하며, 엣지 AI 애플리케이션에 대한 잠재력을 보여줍니다. 이 모듈은 NPU 지원이 없는 데스크탑에 특히 적합하며, AI 소프트웨어 개발 및 저전력 엣지 컴퓨팅 시나리오에 도움을 줍니다. MemryX는 내년에 더 많은 매개변수를 지원하는 PCIe 카드를 출시할 계획입니다.
전반적으로 MemryX MX3 M.2 모듈은 가격과 성능 능력을 고려할 때 AI 가속기 시장에서 매력적인 옵션을 제공합니다. 회사의 소프트웨어 스택 개선 및 제품 라인 확장에 대한 의지는 MemryX의 AI 하드웨어 분야에서의 밝은 미래를 암시합니다.
* 이 글은
phoronix.com의 기사를 요약한 것입니다. 전체 기사의 내용은
이곳에서 확인하실 수 있습니다.