마이크로소프트는 Qualcomm Snapdragon X 모델을 시작으로 코파일럿+ PC에서 AI 최적화 하드웨어를 활용하는 NPU 최적화 버전의 DeepSeek-R1을 출시할 예정입니다. 초기 버전인 DeepSeek-R1-Distill-Qwen-1.5B는 정확한 응답을 제공하는 가장 작은 모델로 주목받고 있으며, 70억 및 140억 개의 매개변수를 가진 더 큰 모델이 곧 출시될 예정입니다.
DeepSeek의 최적화는 서구의 동종 모델에 비해 11배 적은 컴퓨팅 파워로 작동할 수 있게 하여 소비자 기기에 적합합니다. 이는 Windows Copilot Runtime과 통합되어 개발자들이 자신의 애플리케이션에서 온디바이스 DeepSeek API를 활용할 수 있도록 합니다. 마이크로소프트는 이 NPU 최적화 버전이 첫 번째 토큰 생성 시간과 처리량에서 경쟁력을 제공하며 배터리 수명과 자원 효율성을 유지할 것이라고 주장하고 있습니다. 이는 메타의 라마 3 및 OpenAI의 o1과 같은 모델에 비해 유리한 위치를 차지하게 됩니다.
DeepSeek의 코파일럿+ PC에서의 가용성은 프로그래머와 개발자를 겨냥하고 있는 것으로 보이며, 이는 AI PC에 대한 앱 개발을 촉진하기 위한 것으로 해석됩니다. 시장 조사에 따르면 이러한 기기에 대한 소비자 수요가 부족하다는 점이 이를 뒷받침합니다. 흥미롭게도, 마이크로소프트는 최신 인텔 및 AMD 노트북에 내장된 NPU가 있음에도 불구하고 Qualcomm Snapdragon X PC를 우선시하고 있습니다. AMD는 또한 Ryzen AI CPU와 Radeon GPU에서 DeepSeek를 실행하는 방법에 대한 가이드를 제공하며, RTX 7900 XTX가 DeepSeek 실행에서 RTX 4090보다 우수하다고 주장하고 있습니다.
DeepSeek의 오픈 소스 특성은 AI 개발에 흥미로운 기회를 제공하며, 다른 개발자들이 이 기술의 발전과 최적화를 기반으로 구축할 수 있도록 합니다.
* 이 글은
tomshardware.com의 기사를 요약한 것입니다. 전체 기사의 내용은
이곳에서 확인하실 수 있습니다.