TrendForce 집방컨설팅은 최근 새로운 산업 인사이트를 발표하며, NVIDIA, AMD, Google 등의 AI 칩이 지속적으로 세대교체를 거치면서 단일 칩의 TDP가 대부분 이미 1kW를 넘어섰고, 랙 단위 AI 서버의 전력도 수백 kW까지 상승해 액체 냉각이 점차 고급 AI 인프라의 표준 구성으로 자리 잡고 있다고 밝혔다.
업계에 따르면 NVIDIA와 AMD 등의 칩 솔루션은 이미 액체 냉각 기술을 전면적으로 채택했다. AI 칩의 지속적인 신제품 출시와 CSP(주: 클라우드 서비스 공급업체)의 AI 데이터센터 아키텍처 업그레이드 가속화에 따라, AI 칩의 액체 냉각 침투율은 2025년 약 33%에서 2026년 53%로 상승할 전망이다.
Google은 주요 CSP 가운데 가장 먼저 액체 냉각 기술을 도입했으며, AI 서버 적용 비율이 80%를 넘는다. Google은 다년간의 자체 개발 경험을 바탕으로 고도로 맞춤화된 액체 냉각 아키텍처를 구축했다.
공급망 관점에서 액체 냉각 시스템에는 콜드 플레이트(Cold Plate), 매니폴드(Manifold), 냉각 분배 장치(CDU) 등의 핵심 설계가 포함된다. 이는 공랭식 시스템보다 냉각 효율을 크게 높이는 동시에 전력 사용 효율(PUE)도 개선한다.
NVIDIA Vera Rubin 플랫폼이 팬리스(Fanless) 전면 액체 냉각 아키텍처를 전면 도입하면서, 액체 냉각 구성은 기존의 GPU 및 CPU 중심에서 CX9 네트워크 카드, 배전판(Busbar / Power Board), 광 트랜시버 모듈 및 기타 핵심 부품으로 확대되며 단일 랙의 냉각 솔루션 가치도 상승하고 있다.
현재 콜드 플레이트의 주요 공급업체로는 Cooler Master(쿨러마스터), AVC(치훙테크놀로지), BOYD(바오더), Auras(솽훙테크놀로지)가 있다. 이 가운데 AVC는 3분기부터 Vera Rubin 콜드 플레이트 모듈을 출하할 예정이며, AWS(아마존웹서비스), Google, Meta, OpenAI 등의 AI ASIC 플랫폼 공급망에도 이미 진입했다.
칩과 함께 패키징되는 베이퍼 챔버의 경우, NVIDIA는 당초 Rubin 플랫폼에 2피스 설계를 적용해 냉각 효율을 높일 계획이었다. 그러나 기판 휨 등의 문제로 현재는 1피스 설계로 전환하는 과도기적 방안을 적용하고 있다. Rubin 플랫폼의 베이퍼 챔버는 현재 Jentech(젠텍)가 독점 공급한다.