AMD는 가속 컴퓨팅을 위한 오픈 소스 소프트웨어 스택의 최신 버전인 ROCm 7을 출시했습니다. 이 버전은 ROCm 6에 비해 AI 추론 성능을 3.5배 이상 향상시키며, 분산 작업을 지원하고 Windows 및 Radeon GPU와의 호환성을 확장합니다. 특히 Ryzen 기반 PC에서 Radeon GPU가 장착된 데스크탑과 노트북에서 AI 프로그램을 실행할 수 있게 되어, 고급 AI 모델의 로컬 실행이 용이해질 것으로 기대됩니다.
ROCm 7은 AMD의 최신 Instinct MI350X/MI355X 프로세서에 유리한 새로운 저정밀 포맷인 FP4와 FP6를 지원합니다. 이 소프트웨어는 vLLM 및 SGLang과 같은 오픈 프레임워크와 통합되어 분산 추론을 가능하게 하며, 여러 GPU에 걸쳐 효율적으로 확장할 수 있습니다. 이러한 개선은 소프트웨어 제한으로 인해 성능이 저하되었던 AMD의 AI 하드웨어 시장에서의 이전 문제를 해결합니다.
또한, AMD는 기업 애플리케이션을 위해 설계된 ROCm Enterprise AI MLOps 솔루션을 소개했습니다. 이 솔루션은 모델 개선 및 다양한 워크플로우에 통합할 수 있는 도구를 포함하고 있습니다. AMD는 생태계 파트너와 협력하여 챗봇 및 문서 요약과 같은 애플리케이션을 위한 참조 구현을 만들고 있으며, 이를 통해 AMD 하드웨어의 생산 환경에서의 배포를 강화할 계획입니다.
더불어, AMD는 MI300X 하드웨어 구성에 대한 접근을 제공하는 Developer Cloud를 출시했습니다. 이 구성은 192GB 메모리를 가진 단일 GPU부터 1536GB의 8-way 설정까지 다양합니다. 초기 제공에는 25시간의 무료 사용 시간이 포함되며, 추가 크레딧은 개발자 프로그램을 통해 제공됩니다. Instinct MI350X 기반 시스템에 대한 조기 지원도 기대되고 있습니다.
* 이 글은
tomshardware.com의 기사를 요약한 것입니다. 전체 기사의 내용은
이곳에서 확인하실 수 있습니다.