추천 게시글이 없습니다.
레드햇이 생성 AI 애플리케이션의 배포를 향상시키기 위해 설계된 Kubernetes 네이티브 고성능 분산 LLM 추론 프레임워크인 llm-d 프로젝트를 공개했습니다. 이 프레임워크는 사용자가 AI 모델을 대규모로 제공할 수 있는 간소화된 경로를 제공하며, …