GLM-5.3-FlashX 운영 중

GLM-5.3-FlashX는 즈푸가 출시한 고속 추론 모델로, 최대 200 tokens/s의 출력 속도를 제공합니다. GLM-5.3-Flash보다 5배 빠르고 가격은 2.5배 높으며, API가 공개되었습니다. 이 모델은 10만 개의 중국산 칩으로 구성된 컴퓨팅 성능을 기반으로 하며, 추론 인프라는 GLM-5.3으로 구동되는 Agent가 2주 만에 자동으로 구축했습니다. 엔드투엔드 처리량은 초기 기준의 3배에 달합니다. 동일한 규모에서 최고의 지능과 뛰어난 가성비를 목표로 하며, 지능, 가격, 속도 전반에서 경쟁력을 갖추고 있습니다. 지연 시간에 민감한 실시간 상호작용과 Agent의 높은 빈도 호출 시나리오에 적합합니다.

고속 텍스트 생성: 최대 200 tokens/s의 출력 속도로 GLM-5.3-Flash보다 5배 빠릅니다.
대화 완성 API: bigmodel.cn을 통해 표준 API를 제공하며, Model Key는 GLM-5.3-FlashX입니다.
온라인 체험: 공식 웹사이트 체험 센터에서 시각화된 체험入口를 제공하므로 배포 없이 테스트할 수 있습니다.
실시간 Agent 상호작용: 낮은 지연 시간으로 높은 빈도 호출과 스트리밍 출력을 사용하는 에이전트 애플리케이션에 적합합니다.
가성비 높은 추론: 동일한 규모에서 최고의 지능을 유지하면서 2.5배의 가격으로 5배의 속도를 제공합니다.

중국산 칩 기반 추론 컴퓨팅: 모델은 10만 개의 중국산 칩으로 구성된 추론 클러스터에서 실행됩니다. Infra 측의 지속적인 투자와 추론 최적화를 통해 대규모 동시 처리 환경에서도 빠르고 안정적인 출력을 보장합니다.
Agent 기반 Infra 구축: 전체 추론 시스템은 GLM-5.3으로 구동되는 Agent가 자동으로 구축합니다. 사람은 목표 설정, 경계 지정, 주요 변경 사항 검토를 담당하고, Agent는 테스트, 로그 분석, Trace 조사 및 코드 최적화를 자율적으로 수행합니다. 이를 통해 「고밀도 피드백」 루프를 형성했으며, 2주가 채 되지 않아 엔드투엔드 처리량을 3배 향상했습니다.
정밀도 보정으로 긴 컨텍스트 안정성 보장: KDA의 CP 경로에서 FP32 입력이 기본적으로 TF32 연산으로 처리되어 오차가 누적되는 문제를 수정했습니다. input_precision="tf32x3"을 명시적으로 설정해 긴 컨텍스트의 정밀도를 높였으며, 수정 사항은 Flash Linear Attention 상류 프로젝트에 반영되었습니다.
KV Transfer 동시 처리 최적화: DeepEP v1.2.1의 C++ 호출이 GIL을 해제하지 않아 Python 측 Mooncake Transfer 스레드를 차단하는 문제를 찾아냈습니다. 수정 후 Prefill과 전송을 함께 수행하는 경우와 단독 Prefill 간의 성능 차이를 20% 이상에서 1% 이내로 줄였습니다.
KDA Decode 연산자 중복 제거: V 차원을 따라 분할하면서 발생하던 네 차례의 반복 FP32 정규화 및 게이팅 계산을 하나의 스레드 블록으로 통합하고, 중간 결과를 일괄 사전 계산해 공유했습니다. 연산자 성능은 최적화 전의 1.71배로 향상되었습니다.

계정 등록: API 호출 웹사이트 https://docs.bigmodel.cn/api-reference/에서 계정을 등록하고 로그인합니다.
API Key 발급: 콘솔에서 API 키를 생성하고 복사합니다.
모델 이름 확인: 호출 시 Model Key GLM-5.3-FlashX를 사용합니다.
API 호출: 공식 문서(대화 완성 인터페이스)를 참고해 요청의 model 필드를 GLM-5.3-FlashX로 설정한 후 요청을 전송합니다.
온라인 체험(선택 사항): 체험 센터 https://www.bigmodel.cn/trialcenter/modeltrial/visual?modelCode=glm-5.3-flashx에 접속해 배포 없이 바로 사용해 볼 수 있습니다.
애플리케이션 연동: API를 애플리케이션 또는 Agent 워크플로에 통합해 200 tokens/s의 고속 출력을 활용하고 실시간 상호작용을 처리합니다.

탁월한 속도: 최대 200 tokens/s의 출력 속도로 GLM-5.3-Flash보다 5배 빠릅니다.
지능을 타협하지 않음: 동일한 규모에서 최고의 지능 수준을 지속적으로 유지하며, 속도 향상을 위해 모델 성능을 희생하지 않습니다.
높은 가성비: 2.5배의 가격으로 5배의 속도를 얻어 단위 지능 비용이 오히려 낮습니다.
중국산 컴퓨팅 기반: 10만 개의 중국산 칩으로 구성된 추론 클러스터를 기반으로 하며, 공급망을 독립적으로 통제할 수 있습니다.
Agent가 구축한 Infra: 추론 시스템은 GLM-5.3으로 구동되는 Agent가 2주가 채 되지 않아 자동으로 구축했으며, 엔드투엔드 처리량은 기준의 3배에 달합니다. 반복 효율은 기존 수동 최적화를 크게 뛰어넘습니다.
심층적인 엔지니어링 최적화: TF32 정밀도 편차, GIL 차단, 중복 계산 등의 문제를 해결해 연산자 수준의 성능 향상을 달성했습니다(KDA Decode 연산자 1.71배 향상).

AI Agent의 높은 빈도 호출: Agent 워크플로에서는 계획 수립, 도구 선택, 결과 통합을 위해 모델을 반복 호출해야 하므로, 낮은 지연 시간이 전체 작업 시간을 직접 단축합니다.
코드 어시스턴트 및 IDE 자동 완성: 프로그래밍 환경에서는 스트리밍 출력이 즉시 표시되어야 하므로, 빠른 생성 속도가 개발자의 몰입 경험을 크게 향상합니다.
라이브 방송/마케팅 실시간 콘텐츠 생성: 전자상거래 라이브 방송 대본, 실시간 댓글 상호작용, 트렌드 속보 작성 등 ‘말하면서 동시에 생성하는’ 시나리오에 활용됩니다.
음성 상호작용 및 AI 동반자: 음성 비서와 정서적 동반자 애플리케이션은 첫 글자 지연 시간과 스트리밍 속도에 매우 민감하므로, 속도 프리미엄이 가장 쉽게 수익으로 이어지는 시나리오입니다.