EPYC 9005 시리즈의 AI/ML 성능 향상을 위한 AMD BIOS 조정 가이드

전문: https://www.phoronix.com/review/amd-epyc-ai-ml-tuning

원저자: Michael Larabel | 작성일: 2024-11-29 15:36
사이트 내 게시일: 2024-12-01 05:13
AMD는 새로운 EPYC 9005 시리즈 프로세서의 성능을 최적화하기 위해 AI/ML 작업 부하에 특히 초점을 맞춘 BIOS 및 작업 부하 조정 가이드를 발표했습니다. 이 가이드는 데이터베이스, Java, HPC 및 AI/ML 소프트웨어를 포함한 다양한 작업 부하에 맞춘 BIOS 설정에 대한 간단한 권장 사항을 제공합니다. 코드나 운영 체제 최적화는 포함되지 않으며, BIOS 조정에만 집중하고 있습니다.

테스트는 EPYC 9655 프로세서를 장착한 Supermicro H13SSL-N 마더보드에서 진행되었으며, 12 x 64GB Micron DDR5-6000 메모리와 3.2TB Micron 7450 NVMe SSD를 사용하여 Ubuntu 24.10에서 실행되었습니다. 성능은 기본 BIOS 설정과 조정 가이드에서 권장하는 설정을 비교하여 평가되었습니다. 결과는 권장된 BIOS 조정이 처리량을 증가시킬 뿐만 아니라 지연 시간을 줄이는 데도 효과적임을 보여주었습니다.

주요 조정 제안 사항으로는 전력 결정론 모드를 활성화하는 것이 포함되며, 이는 CPU 전력 사용량을 약간 증가시킬 수 있지만 프로세서의 TDP 한도를 준수합니다. 조정 과정은 몇 분밖에 걸리지 않았으며, EPYC 9005 시리즈의 AI/ML 애플리케이션 성능 향상에 효과적임을 입증했습니다. 전반적으로 AMD BIOS 및 작업 부하 조정 가이드를 따르면 EPYC 투린 프로세서의 다양한 AI 및 머신 러닝 소프트웨어 테스트에서 성능이 크게 향상되었습니다.

* 이 글은 phoronix.com의 기사를 요약한 것입니다. 전체 기사의 내용은 이곳에서 확인하실 수 있습니다.
카테고리: CPU
태그: AMD (1335) AI (638) Performance Optimization (144) Machine Learning (106) HPC (90) Supermicro (34) EPYC 9005 (3) BIOS Tuning (1) Workload Tuning (1)

댓글

댓글을 쓰기 위해서는 로그인을 해 주세요.