Nhà sản xuất bộ tăng tốc suy luận AI cấp độ wafer Cerebras tuyên bố vào ngày 18 theo giờ địa phương rằng họ đã ra mắt chip thế hệ mới WSE-3 Turbo và hệ thống CS-4 dựa trên chip này. So với CS-3 thế hệ trước, CS-4 mang lại dung lượng token gấp 10 lần và tốc độ gấp 2 lần.
Tương tự WSE-3 trước đây, WSE-3 Turbo tích hợp 900.000 lõi và bộ nhớ đệm SRAM trên chip 44GB, nhưng năng lực tính toán AI thưa FP16, băng thông bộ nhớ, băng thông liên kết trên chip và băng thông I/O đều tăng gấp đôi. Trong khi đó, hệ thống CS-4 có thể tích hợp 3 chip WSE-3 Turbo, qua đó nâng cao hơn nữa mật độ tính toán.
Cerebras cho biết CS-4 đạt tốc độ cung cấp token 4465 Token/s trên mô hình OpenAI GPT-OSS, nhanh gấp 30 lần giải pháp GPU, đồng thời tăng 93% so với CS-3. Đối với các mô hình có số lượng tham số cực lớn, kết nối liên wafer độ trễ thấp 2μs của CS-4 có thể đạt tốc độ xuất hơn 1000 Token/s ở quy mô 10T.
CS-4 hỗ trợ nguyên bản việc tách các tải suy luận, có thể được sử dụng như một đơn vị giải mã kết hợp với phần cứng nạp trước không đồng nhất, qua đó phát huy lợi thế khác biệt về kiến trúc của cả hai bên.
Phần cứng tính toán này dựa trên nền tảng dạng rack Nexus hoàn toàn mới của Cerebras. Ba khía cạnh gồm tính toán, nguồn điện và kết nối hiện được thiết kế thành các hệ thống độc lập, giúp giảm 50% tổng số linh kiện và tăng đáng kể tỷ lệ tự động hóa sản xuất. CS-4 gần như loại bỏ hoàn toàn tổn hao công suất cấp điện ở cấp bo mạch, cung cấp cho WSE-3 Turbo lượng điện gấp đôi.