틱톡의 모회사인 바이트댄스가 미국의 제재를 피하기 위해 중국 외부의 클라우드 데이터 센터에서 엔비디아 GPU를 임대할 계획이라고 보도되었습니다. 이 회사는 이를 위해 70억 달러의 예산을 배정했으며, 특히 주문형 임대가 가능한 H100 모델의 고급 엔비디아 GPU에 대한 접근을 확대할 목표를 가지고 있습니다. 미국에서 이 GPU의 가격은 시간당 약 1.33달러부터 시작하며, 바이트댄스는 연간 지속적인 운영을 위해 614,682개의 H100 GPU 클러스터를 임대할 수 있을 것으로 보입니다.
그러나 이러한 야심찬 계획에도 불구하고 중동 및 아시아 지역에서 이처럼 많은 H100 GPU의 가용성에 대한 불확실성이 존재하며, 바이트댄스가 실제로 AI 프로젝트를 위해 이 정도 규모가 필요한지에 대한 의문도 제기되고 있습니다. 현재 이 회사의 가장 중요한 AI 프로젝트는 5,100만 명의 활성 사용자를 보유한 두바오(Doubao) AI 챗봇입니다. 이는 바이트댄스가 실제로 70억 달러를 GPU 임대에 전액 지출할 것인지, 아니면 보다 소규모의 접근 방식을 추구할 것인지에 대한 질문을 불러일으킵니다.
GPU 임대 외에도 바이트댄스는 브로드컴과 협력하여 자체 AI 프로세서를 개발하고 있으며, 이는 엔비디아에 대한 의존도를 줄이기 위한 노력의 일환입니다. 이 프로세서는 훈련 및 추론 작업 모두를 위해 설계되었으며, TSMC에서 고급 N4/N5 공정 기술을 사용하여 제조될 예정이며, 대량 생산은 2026년으로 예상됩니다. 이러한 자체 칩이 미국의 수출 제한으로 인해 엔비디아의 성능을 초과하지는 못할 것으로 보이지만, 바이트댄스에게는 더 비용 효율적일 것으로 예상되며, 장기적으로 AI 인프라 전략을 재편할 가능성이 있습니다.
* 이 글은
tomshardware.com의 기사를 요약한 것입니다. 전체 기사의 내용은
이곳에서 확인하실 수 있습니다.