AMD는 자사의 라이젠 AI 300 시리즈(코드명: Strix Point)가 인텔의 코어 울트라 200V 시리즈(코드명: Lunar Lake)보다 소비자 LLM(대형 언어 모델) 작업에서 상당히 우수한 성능을 발휘한다고 발표했습니다. 벤치마크 결과에 따르면, 라이젠 AI 9 HX 375는 성능 지표에서 코어 울트라 7 258V를 최대 27%까지 앞서며, AMD의 AI 처리 능력 향상을 보여줍니다.
AI 분야의 경쟁이 치열해지면서 주요 기술 기업들이 하드웨어와 소프트웨어 제공을 강화하기 위해 경쟁하고 있습니다. AMD의 Strix Point APU는 로컬 LLM 실행에서 우수한 성능을 보여주며, 특히 llama.cpp 프레임워크를 활용할 때 두드러집니다. 특히, AMD의 라이젠 AI 9 HX 375는 인텔의 Mistral Nemo 2407 12b 인스트럭트 모델에 비해 3.5배 낮은 지연 시간을 기록하여 처리 속도에서 상당한 이점을 나타냅니다.
통합 그래픽 측면에서, 라이젠 AI 9 HX 375의 라데온 890M iGPU는 인텔의 Arc 140V를 최대 23%까지 능가합니다. 플래그십 모델인 코어 울트라 9 288V는 TDP가 30W인 반면, AMD의 Strix Point는 최대 54W로 구성할 수 있어, AMD의 전력 관리 접근 방식이 더 유연함을 시사합니다.
인텔의 AI 플레이그라운드에서 추가 테스트 결과, AMD는 Mistral 7b 인스트럭트 v0.3 모델에서 13.1%의 우위를 유지했지만, Microsoft Phi 3.1 미니 인스트럭트 테스트에서는 이점이 8.7%로 좁혀졌습니다. AMD는 LLM을 보다 접근 가능하게 만들기 위한 노력을 통해 이 분야의 미래 발전 가능성을 강조하고 있으며, 기존 기술 장벽을 극복하기 위해 노력하고 있습니다.
전반적으로, AMD의 라이젠 AI 9 HX 375는 LLM 성능과 지연 시간 측면에서 인텔의 최신 제품에 대한 강력한 경쟁자로 자리매김하고 있습니다.
* 이 글은
tomshardware.com의 기사를 요약한 것입니다. 전체 기사의 내용은
이곳에서 확인하실 수 있습니다.