IBM은 미국 현지 시간 11일 AI 네이티브 클라우드 플랫폼 Together AI와 다년간 2억 4,000만 달러(참고: 현재 환율 기준 약 16억 2,200만 위안) 규모의 계약을 체결했다고 발표했습니다.
IBM은 자사의 IBM Cloud에 NVIDIA(엔비디아) HGX B300 클러스터를 구축해 Together AI의 오픈소스 모델 추론 서비스를 지원할 예정입니다. 이 시스템은 2027년 1분기에 가동될 것으로 예상됩니다.
IBM은 이번 구축이 IBM Cloud를 기반으로 NVIDIA HGX B300 시스템과 Spectrum-X 이더넷 기술을 적용해 구축한 최초의 추론 전용 대규모 클러스터라고 밝혔습니다.
Together AI의 CEO Vipul Ved Prakash는 다음과 같이 말했습니다.
기업은 최첨단 모델 성능을 원하지만 폐쇄형 모델의 높은 비용은 부담스러워합니다. 이를 실현하려면 기반 인프라가 빠르고 안정적이며 대규모로 배포될 수 있어야 합니다.
IBM 및 NVIDIA와의 협력은 이러한 기반을 마련해 줍니다. 이 클러스터를 통해 더 많은 기업에 프로덕션급 추론 역량을 더욱 빠르게 제공할 수 있게 되었으며, 이는 오픈소스 AI를 기업의 우선 선택으로 만들기 위한 중요한 단계입니다.
Together AI는 최근 기업가치 83억 달러로 8억 달러 규모의 시리즈 C 투자를 유치했으며, 월간 토큰 처리 능력은 400T에 달합니다.