X(구 Twitter)의 사용자 안드레이 다비드(Andrei David)는 거의 20년 된 콘솔인 Xbox 360에서 llama2.c 기반의 AI 모델을 성공적으로 설치하고 실행했습니다. 이 성과는 Windows 98 PC에서 AI 모델이 실행된 이전 시연에서 영감을 받았습니다. 다비드는 부트로더를 사용하여 모델을 로드하고 프롬프트를 실행하여 노후화된 하드웨어의 성능을 보여주었습니다.
Xbox 360의 PowerPC 아키텍처에 맞게 AI 모델을 조정하기 위해 다비드는 코드를 상당히 최적화해야 했습니다. PowerPC 아키텍처는 빅 엔디안(big-endian) 방식으로, 가장 중요한 값을 먼저 저장하는 반면, EXO Lab의 구현에 사용된 인텔 펜티엄 II는 리틀 엔디안(little-endian) 방식입니다. 이로 인해 다비드는 바이트 스와핑(byte-swapping) 시스템을 구현하고 데이터 저장을 위한 128바이트 메모리 정렬을 보장해야 했습니다.
또 다른 도전 과제는 Xbox 360의 통합 메모리 시스템으로, 이는 출시 당시 혁신적이었습니다. 512MB의 RAM만으로 다비드는 60MB의 AI 모델이 CPU와 GPU 모두에 할당된 공유 메모리 풀에 적합하도록 해야 했습니다. 세심한 메모리 관리와 PowerPC 아키텍처에 맞춘 조정을 통해 그는 콘솔에서 LLM을 성공적으로 실행했습니다.
이 성과는 AI 접근을 민주화하는 중요한 단계로, 대규모 자원을 가진 대기업의 손에만 있던 AI를 일반 사용자에게도 개방하는 방향으로 나아가고 있습니다. 다비드의 Xbox 360에서의 성공은 Hugging Face의 SmolLM이나 4비트 0.5B Qwen2.5 모델과 같은 더 강력한 AI 모델을 이러한 레거시 하드웨어에서 실행할 가능성을 열어줍니다.
* 이 글은
tomshardware.com의 기사를 요약한 것입니다. 전체 기사의 내용은
이곳에서 확인하실 수 있습니다.