애널리스트 궈밍치가 어제 발표한 최신 산업 조사에 따르면, NVIDIA(엔비디아)는 인공지능 추론 프리필 가속 GPU "Rubin CPX" 프로젝트를 재개했다. 다만 설계가 크게 조정됐으며, 2027년 1분기부터 생산을 시작할 것으로 예상된다.
칩 수준에서 새 Rubin CPX는 표준 Rubin GPU에 근접한 연산 성능을 갖추고 프리필 성능이 더욱 향상됐다. 단일 칩의 최대 소비전력은 동일하게 2300W이며, 168GB HBM4 메모리를 탑재한다(참고: 기존 Rubin CPX는 128GB GDDR7을 사용했으며, 168GB는 7×24GB 설계를 가리킬 가능성이 있다).
트레이와 랙 수준에서는 새 Rubin CPX 8개가 컴퓨트 트레이 1개를 구성하고, 컴퓨트 트레이 8개가 랙 모듈 1개를 구성한다. 내부에서는 Spectrum-6 전 구리 이더넷을 통해 횡방향 확장(Scale-out)을 지원한다. 새 Rubin CPX는 독립형 MGX ETL 랙을 사용하며, 각 랙에는 1~4개의 랙 모듈이 포함된다. 랙 모듈 간 횡방향 확장에는 Spectrum-6과 OSFP 광학 솔루션이 사용된다.
시스템 수준에서 NVIDIA는 Rubin CPX와 표준 Rubin을 1:1로 페어링할 것을 권장한다. Rubin CPX ETL 랙과 Vera Rubin NVL72 랙 간에는 이더넷 기반 RDMA 연결을 사용한다.
이 애널리스트는 현재 AI 추론 작업량의 50% 이상이 입력을 처리하고 그에 맞는 KV Cache를 구축하는 데서 발생한다고 분석했다. 새 Rubin CPX는 더욱 유연한 배포 방식과 낮은 비용으로 프리필 부하를 처리할 수 있다. 새 Rubin CPX 컴퓨트 트레이는 1.34TB HBM 메모리를 갖춰 대부분의 긴 컨텍스트 프리필 및 KV Cache 구축 수요를 충족할 수 있다.