AMD의 Ryzen AI 300 시리즈 모바일 프로세서는 최근 AMD가 실시한 테스트에서 인텔의 모바일 제품보다 로컬 대형 언어 모델(LLM) 성능에서 우수한 결과를 보였습니다. 이 테스트는 LLM을 로컬에서 다운로드하고 호스팅하기 위해 설계된 데스크탑 애플리케이션인 LM Studio를 사용하여 주로 진행되었으며, CPU와 GPU 가속을 모두 지원합니다.
테스트에서 AMD는 자사의 플래그십 프로세서인 Ryzen AI 9 HX 375와 인텔의 중급형 Core Ultra 7 258V를 비교했습니다. 평가의 초점은 초당 토큰 생성 속도와 첫 번째 토큰 생성에 소요된 시간에 맞춰졌습니다. Ryzen AI 9 HX 375는 테스트된 다섯 개의 LLM에서 모두 Core Ultra 7 258V보다 일관되게 우수한 성능을 보였으며, 최대 27% 더 빠른 속도를 기록했습니다. 특히, AMD 노트북은 인텔 기계(8533 MT/s)보다 느린 RAM(7500 MT/s)을 사용했음에도 불구하고 이러한 성능을 달성했습니다.
그러나 이 비교는 완전히 공정하지 않을 수 있습니다. Core Ultra 7 258V는 최대 터보 속도가 4.8 GHz인 중급형 프로세서인 반면, Ryzen AI 9 HX 375는 최대 5.1 GHz에 도달할 수 있습니다. 이러한 차이는 27% 성능 향상 주장에 대한 공정성에 의문을 제기합니다.
또한, AMD는 LM Studio의 GPU 가속 기능을 선보이며, Ryzen AI 9 HX 375가 Vulkan API를 통해 GPU 가속을 활용할 경우 초당 최대 20% 더 빠른 토큰 생성을 달성할 수 있음을 밝혔습니다. 이는 Ryzen AI 300 시리즈의 전용 NPU가 AI 작업을 위해 설계되었지만, 통합 GPU 또한 온디맨드 AI 작업의 성능을 크게 향상시킬 수 있음을 나타냅니다.
컴퓨터 제조업체들 사이에서 AI 성능에 대한 지속적인 관심은 최종 사용자에게 LLM 기능의 중요성을 강조하지만, 이러한 기능이 일반 소비자에게 실제로 얼마나 관련성이 있는지는 여전히 불확실합니다.
* 이 글은
tomshardware.com의 기사를 요약한 것입니다. 전체 기사의 내용은
이곳에서 확인하실 수 있습니다.