ウェハースケールAI推論アクセラレーターを製造するCerebrasは現地時間18日、次世代チップ「WSE-3 Turbo」と、同チップを搭載した「CS-4」システムを発表した。前世代のCS-3と比べ、CS-4はトークン容量が10倍、速度が2倍になった。
従来のWSE-3と同様、WSE-3 Turboは90万個のコアと44GBのSRAMオンチップキャッシュを搭載する。一方、FP16スパースAI演算性能、メモリ帯域幅、チップ内相互接続帯域幅、I/O帯域幅はいずれも2倍に向上した。CS-4システムはWSE-3 Turboを3基統合でき、演算密度をさらに高めている。
Cerebrasによると、CS-4はOpenAI GPT-OSSモデル上で毎秒4465トークンのトークン生成速度を実現し、GPU構成の30倍に達する。また、CS-3と比べて93%向上した。超大規模モデルでは、CS-4の遅延2μsの低遅延ウェハー間接続により、10T規模で毎秒1000トークンを超える出力を実現できる。
CS-4は推論ワークロードの分割をネイティブにサポートし、デコードユニットとして異種のプリフィルハードウェアと組み合わせて使用できるため、両者のアーキテクチャ上の差別化された強みを生かせる。
この演算ハードウェアは、Cerebrasの新しいNexusラック型プラットフォームを基盤としている。演算、電源、相互接続の3分野は、現在では再設計された独立システムとなり、コンポーネント数全体を50%削減するとともに、製造自動化率を大幅に高めた。CS-4は基板レベルの電力供給による電力損失をほぼ完全に排除し、WSE-3 Turboに2倍の電力を供給する。