Microsoft는 7월 28일 공지를 통해 사용자가 Fireworks AI를 이용해 Microsoft Microsoft Foundry에 월지암면의 Kimi K3 모델을 배포할 수 있다고 발표했다.
참고: Microsoft Foundry는 Microsoft가 출시한 기업용 원스톱 AI 애플리케이션 및 에이전트(Agent) 개발 플랫폼이다. 모델 관리, 에이전트 구축, 보안 거버넌스와 관측 가능성을 단일 클라우드 네이티브 아키텍처에 통합해 개발자와 기업이 생성형 AI 애플리케이션을 대규모로 구축, 운영하고 확장할 수 있도록 지원하는 것을 목표로 한다.
Fireworks AI는 초고속·고가성비 생성형 AI 추론 및 미세 조정에 주력하는 클라우드 서비스 플랫폼이다. 2022년 전 Meta PyTorch 핵심 팀원들이 설립했으며(CEO 린처는 전 PyTorch 글로벌 책임자), 본사는 미국 캘리포니아주에 있다.
Microsoft는 공식적으로 사용자가 Fireworks AI를 통해 Microsoft Foundry에 Kimi K3 모델을 배포할 수 있다고 밝혔다. 이 모델은 2.8조 개의 매개변수를 보유해 현재 가장 큰 오픈 모델 중 하나다.
모델의 컨텍스트 창은 100만 토큰(Token)으로, 한 번의 요청으로 약 75만 단어(완성된 소설 약 10권 또는 전체 코드베이스 하나에 해당)를 처리할 수 있다는 의미다.
모델명
배포 유형
100만 Token 입력당
100만 Token 출력당
100만 Token 캐시 입력당
FW Kimi K3
Data Zone
3.30달러(현재 환율 기준 약 22.4위안)
16.50달러(현재 환율 기준 약 111.8위안)
0.33달러(현재 환율 기준 약 2.2위안)