최근 연구 논문에 따르면, 애플이 AI 학습 기능을 위해 NVIDIA의 GPU 대신 구글의 텐서 처리 장치(TPU)를 사용하기로 선택했다. 애플은 27억 3천만 개의 매개변수를 가진 자사의 Apple Foundation Model(AFM)을 구글의 TPUv4와 v5p 클라우드 클러스터에서 학습한다.
구체적으로 애플은 8,192개의 TPUv4 칩을 사용하여 630조 개의 토큰으로 이루어진 AI 모델을 처음부터 학습시켰다. 온디바이스 AI 기능에는 2,048개의 TPUv5p 칩으로 구성된 64억 매개변수 모델을 사용한다. TPUv5p 칩은 TPUv4 대비 부동소수점 연산 속도가 두 배, 메모리 용량이 3배 더 크기 때문에 학습 속도가 거의 3배 빨라진다.
애플의 AFM 모델은 유해한 출력을 효과적으로 억제하도록 설계되었다. AFM 서버 모델의 유해한 출력 위반율은 6.3%로 OpenAI의 GPT-4 28.8%보다 훨씬 낮다. 온디바이스 AFM 모델 역시 Meta의 Llama-3-8B보다 우수한 7.5%의 위반율을 보인다. 이메일, 메시지, 알림 요약에 대한 사용자 만족도도 각각 71.3%, 63%, 74.9%로 경쟁 모델을 능가했다.
이와 같이 구글 TPU를 활용한 전략적 선택은 애플이 선도적인 AI 기능을 개발하고자 하는 의지를 보여준다. 이는 AI 하드웨어 시장의 경쟁 구도를 재편할 것으로 예상된다.
* 이 글은
wccftech.com의 기사를 요약한 것입니다. 전체 기사의 내용은
이곳에서 확인하실 수 있습니다.