IBM ngày 11 theo giờ địa phương tại Mỹ thông báo đã đạt thỏa thuận trị giá 2.4 tỷ USD trong nhiều năm với nền tảng đám mây AI bản địa Together AI.
IBM sẽ triển khai một cụm NVIDIA (NVIDIA) HGX B300 trên IBM Cloud để hỗ trợ dịch vụ suy luận mô hình nguồn mở của Together AI. Hệ thống dự kiến được đưa vào sử dụng vào quý 1 năm 2027.
IBM cho biết đây là cụm máy chủ quy mô lớn chuyên dụng cho suy luận đầu tiên được xây dựng trên IBM Cloud, sử dụng hệ thống NVIDIA HGX B300 và công nghệ Ethernet Spectrum-X.
CEO Together AI Vipul Ved Prakash cho biết:
Các doanh nghiệp muốn có hiệu năng mô hình tiên tiến nhất nhưng không muốn gánh chi phí cao của các mô hình đóng. Điều này chỉ có thể đạt được khi hạ tầng nền tảng nhanh, đáng tin cậy và có khả năng triển khai trên quy mô lớn.
Hợp tác với IBM và NVIDIA đã tạo nền tảng đó cho chúng tôi. Cụm máy chủ này giúp chúng tôi nhanh chóng cung cấp năng lực suy luận cấp độ sản xuất cho nhiều công ty hơn. Đây là bước tiến quan trọng trong việc thúc đẩy AI nguồn mở trở thành lựa chọn hàng đầu của doanh nghiệp.
Gần đây, Together AI đã hoàn tất vòng gọi vốn Series C trị giá 8 tỷ USD với mức định giá 83 tỷ USD, đạt năng lực xử lý 400T token mỗi tháng.