NVIDIA는 Microsoft의 Build 개발자 행사에서 TensorRT 소프트웨어 도구에 대한 중요한 업데이트를 발표하며 'RTX를 위한 TensorRT'를 소개했습니다. 이 새로운 버전은 개발자가 각 개별 GPU 모델에 맞춰 AI 소프트웨어를 수동으로 최적화할 필요를 없애는 것을 목표로 합니다. 이전에는 새로운 하드웨어로 성능 향상이 보장되지 않았으며, 특정 최적화 없이는 프로그램이 실행되지 않는 경우도 있었습니다.
새로운 RTX를 위한 TensorRT는 사용자의 PC에서 AI 추론을 실시간으로 자동으로 최적화하며, 이 과정은 몇 초밖에 걸리지 않습니다. 최적화 과정이 완료되면 성능은 수동으로 최적화된 소프트웨어와 동일해집니다. 특히, 새로운 TensorRT 버전은 이전 버전의 1/8 크기로 예상되며, 모든 GPU 모델에 대한 최적화를 포함할 필요가 없기 때문입니다.
RTX를 위한 TensorRT는 모든 GeForce RTX 그래픽 카드와 호환되며, 6월에 NVIDIA의 개발자 사이트에서 다운로드할 수 있을 예정입니다. 일부 개발자는 이미 이 기능에 대한 조기 액세스를 받았으며, NVIDIA는 같은 달에 초기 프로그램 버전의 출시를 예상하고 있습니다. 이 발전은 AI 애플리케이션 개발 과정을 간소화하여 개발자가 NVIDIA 하드웨어의 잠재력을 최대한 활용할 수 있도록 도와줄 것으로 기대됩니다.
* 이 글은
computerbase.de의 기사를 요약한 것입니다. 전체 기사의 내용은
이곳에서 확인하실 수 있습니다.