2024 핫 칩스에서 IBM의 수잔 아이코프와 크리스티안 야코비는 새로운 텔룸 II 프로세서와 스파이르 AI 카드의 개발 및 기능에 대해 논의했습니다. 차세대 Z Systems 메인프레임에 사용될 텔룸 II 칩은 높은 신뢰성, 확장성, 성능 및 지속 가능성에 중점을 두고 5년간 개발되었습니다. 프로세서 측에 데이터 처리 장치(Data Processing Unit, DPU)를 통합하여 기업급 I/O 프로토콜을 최적화하고, 주요 작업과 I/O 시스템 간의 통신 효율성을 향상시키는 것을 목표로 하고 있습니다.
텔룸 II의 독특한 캐시 계층 구조는 가상 L3 역할을 하는 개인 L2 캐시를 포함하고 있어 동적 할당이 가능하며 이전 설계에 비해 중복성을 줄입니다. 이 아키텍처는 10개의 36MB L2 슬라이스로 구성되어 있으며, 열 번째 슬라이스는 캐시 라인 관리를 최적화하기 위한 추가 캐시 용량을 제공합니다. 아이코프는 텔룸 I에서 AI 기능이 도입되었으며, 175개의 클라이언트가 200개 이상의 사용 사례를 활용하고 있다고 언급하며, AI 컴퓨팅 용량 증가와 대형 언어 모델 지원에 대한 수요가 강조되었습니다.
스파이르 AI 가속기는 더 큰 모델을 수용할 수 있도록 설계되었으며, 클라이언트들은 점점 더 앙상블 방법과 생성적 AI 애플리케이션으로 이동하고 있습니다. 초기에는 별도로 개발되었지만, 스파이르와 텔룸 II는 개발 주기 말미에 통합되었으며, 구성은 개별 클라이언트의 요구에 맞춰 조정됩니다. 인터뷰는 치즈 선호에 대한 가벼운 대화로 마무리되었으며, 대화의 친근한 성격을 보여주었습니다.
* 이 글은
chipsandcheese.com의 기사를 요약한 것입니다. 전체 기사의 내용은
이곳에서 확인하실 수 있습니다.