웨이퍼 스케일 AI 추론 가속기 제조업체 Cerebras가 현지 시간 18일 차세대 칩 WSE-3 Turbo와 이 칩을 기반으로 한 CS-4 시스템을 출시한다고 발표했다. 이전 세대 CS-3와 비교해 CS-4는 토큰 용량을 10배, 속도를 2배로 높였다.
기존 WSE-3와 마찬가지로 WSE-3 Turbo에는 90만 개의 코어와 44GB SRAM 온칩 캐시가 통합되어 있지만, FP16 희소 AI 연산 성능, 메모리 대역폭, 칩 내 인터커넥트 대역폭, I/O 대역폭은 모두 2배로 향상됐다. 또한 CS-4 시스템은 WSE-3 Turbo 3개를 통합할 수 있어 연산 밀도를 한층 높였다.
Cerebras에 따르면 CS-4는 OpenAI GPT-OSS 모델에서 4465 Token/s의 토큰 생성 속도를 기록해 GPU 솔루션보다 30배 빠르며, CS-3보다 93% 향상됐다. 초대형 매개변수 모델의 경우 CS-4의 2μs 저지연 웨이퍼 간 인터커넥트는 10T 규모에서 1000 Token/s를 초과하는 토큰 출력을 구현할 수 있다.
CS-4는 추론 부하 분할을 기본 지원하며, 디코딩 유닛으로서 이기종 프리필 하드웨어와 함께 사용해 양측 아키텍처의 차별화된 강점을 발휘할 수 있다.
이 연산 하드웨어는 Cerebras의 새로운 Nexus 랙형 플랫폼을 기반으로 한다. 컴퓨팅, 전원, 인터커넥트의 3대 시스템은 이제 독립 시스템으로 재설계됐으며, 전체 구성 요소 수는 50% 감소하고 제조 자동화 비율은 크게 높아졌다. CS-4는 보드 수준의 전력 공급 손실을 거의 완전히 제거해 WSE-3 Turbo에 2배의 전력을 공급한다.