Nhà phân tích Kuo Ming-chi cho biết hôm qua rằng cuộc khảo sát mới nhất trong ngành cho thấy NVIDIA đã khởi động lại dự án GPU tăng tốc prefill suy luận trí tuệ nhân tạo "Rubin CPX". Tuy nhiên, thiết kế của sản phẩm đã được điều chỉnh đáng kể và dự kiến bắt đầu sản xuất vào quý 1/2027.
Ở cấp độ chip, Rubin CPX mới có năng lực tính toán gần tương đương GPU Rubin tiêu chuẩn, hiệu suất prefill tiếp tục được nâng cao, công suất tối đa của mỗi chip cũng là 2300W và được trang bị bộ nhớ HBM4 168GB (lưu ý: Rubin CPX cũ sử dụng 128GB GDDR7, còn 168GB có thể ám chỉ thiết kế 7×24GB).
Ở cấp độ khay và giá đỡ, 8 Rubin CPX mới tạo thành 1 khay tính toán; 8 khay tính toán tạo thành 1 mô-đun giá đỡ, bên trong sử dụng Ethernet Spectrum-6 toàn đồng để mở rộng ngang (Scale-out). Rubin CPX mới sử dụng giá đỡ MGX ETL độc lập, mỗi giá đỡ bao gồm 1~4 nhóm mô-đun giá đỡ; việc mở rộng ngang giữa các mô-đun giá đỡ sử dụng giải pháp quang Spectrum-6 + OSFP.
Ở cấp độ hệ thống, NVIDIA khuyến nghị ghép Rubin CPX với Rubin tiêu chuẩn theo tỷ lệ 1:1. Giữa giá đỡ Rubin CPX ETL và giá đỡ Vera Rubin NVL72 sử dụng kết nối RDMA dựa trên Ethernet.
Nhà phân tích này nhận xét rằng hơn 50% khối lượng công việc suy luận AI hiện nay đến từ việc xử lý đầu vào và xây dựng KV Cache tương ứng. Rubin CPX mới có thể đảm nhận tải prefill với phương thức triển khai linh hoạt hơn và chi phí thấp hơn; khay tính toán Rubin CPX mới có 1,34TB bộ nhớ HBM, đủ đáp ứng nhu cầu prefill ngữ cảnh dài và xây dựng KV Cache của phần lớn trường hợp.