Xing4.0-29B-Intent 운영 중

Xing4.0-29B-Intent는 싱천 연구소가 오픈 소스로 공개한 의도 이해 전용 모델로, Xing4.0-29B-A4B를 기반으로 미세 조정되었습니다. Xing4.0-29B-Intent는 분류＋매개변수 구조를 사용해 사용자의 자연어를 의도 분류와 매개변수 추출 결과로 동시에 변환하며, 의도 인식, 개체 인식, 관계 추출, 이벤트 추출의 네 가지 작업을 지원합니다. 모델 출력은 수십 토큰에 불과하고 응답 지연 시간은 수백 밀리초 수준이며, 평가 총점 58점으로 18개 범용 모델을 넘어섰습니다. 현재 통신 고객 서비스와 스마트 홈 시나리오에 적용되었으며, Agent의 의미 진입 계층으로 적합합니다.

의도 인식: 사용자의 한 문장이 어떤 업무 범주에 속하는지 판단하며, 단일 의도와 한 문장 내 다중 의도를 지원합니다.
매개변수 추출: 의도를 인식하는 동시에 작업 완료에 필요한 개체, 수치 및 속성을 추출합니다.
통합 구조화 출력: 결과를 “분류＋매개변수” JSON 형식으로 구성하며, 의도 인식, 개체 인식, 관계 추출, 이벤트 추출의 네 가지 작업이 동일한 입출력 형식을 공유합니다.
다중 작업 병렬 분석: 한 문장에 여러 의도, 여러 매개변수 및 여러 개체가 포함된 경우를 지원하며, JSON 배열로 여러 결과를 한 번에 반환할 수 있습니다.
Schema 기반 적용: 개발자가 후보 범주, 범주 설명 및 추출 가능한 필드를 미리 정의하면, 모델은 정해진 업무 프레임워크 내에서 인식하고 값을 입력합니다.
Function Calling 의미 진입점: Agent/에이전트 애플리케이션에 의도 판단과 함수 호출 매개변수 추출 기능을 제공하여 자연어와 업무 시스템 실행을 연결합니다.

WeChat에서 “오픈 소스”를 팔로우하고 답장하여 AI 오픈 소스 프로젝트 교류 그룹에 참여하세요
모델 기반 및 아키텍처: 모델은 싱천 범용 기반 모델 Xing4.0-29B-A4B를 기반으로 미세 조정되었으며, MoE 아키텍처를 사용합니다. 총 매개변수는 약 290억 개이고 각 Token에서 약 40억 개의 매개변수만 활성화되어, 구조화 출력 능력을 유지하면서도 적은 연산량과 수백 밀리초 수준의 응답 지연 시간을 구현합니다.
USP 통합 모드 기반 의미 분석 프레임워크: 모델은 USP 프레임워크를 사용해 의도 이해, 개체 인식, 관계 추출, 이벤트 추출 등의 이기종 작업을 “분류＋매개변수” 계층형 JSON 출력 형식으로 통합하여 제한합니다. 이에 따라 다운스트림 시스템은 작업별로 별도의 분석 로직을 적용할 필요가 없으며, 마이그레이션 및 도입 비용이 매우 낮습니다.
Schema 제약 생성 메커니즘: 추론 시 개발자는 후보 범주, 범주 설명 및 추출 가능한 필드의 정의를 제공해야 합니다. 모델은 정해진 필드 규칙 내에서 인식하고 값을 입력하며, 출력은 미리 정의된 구조로 엄격하게 제한됩니다. 이를 통해 자유 텍스트의 무작위성을 방지하고 필드의 확실성, 형식 검증 가능성 및 낮은 환각률을 보장합니다.
구조화 출력 학습: 모델은 약 275.3만 개의 전용 지도 미세 조정 데이터(61개 공개 데이터 세트를 재구성했으며, 19개 분야와 52개 언어를 포함)를 사용해 구조화 출력 능력을 학습했습니다. 이를 통해 평균 수십 개의 토큰만으로 의도 판단과 매개변수 추출의 전체 의사 결정 과정을 완료할 수 있습니다.

리소스 확보: GitHub 또는 HuggingFace에서 모델 가중치, 코드 저장소 및 관련 데이터 세트를 다운로드합니다.
환경 준비: 공식 추론 이미지를 배포하거나, 기반 모델 설명을 참고해 vLLM 및 SGLang으로 모델 서비스를 구축합니다.
SDK 설치: 저장소에서 제공하는 Python SDK를 통해 연동하거나, 톈이 AI 오픈 플랫폼의 클라우드 API를 호출해 배포 없이 사용할 수 있습니다.
업무 Schema 정의: 후보 의도 범주, 범주 설명 및 각 범주에서 추출 가능한 필드를 선언합니다.
프롬프트 구성: SDK를 사용해 사용자 입력과 Schema를 모델이 인식할 수 있는 요청으로 구성합니다.
호출 실행: 모델 서비스에 요청을 보내면 모델이 수십 토큰의 JSON 구조화 결과를 출력합니다.
결과 분석: 분류＋매개변수 구조에 따라 의도와 필드 값을 읽고, 오류 발생 시 필드 검증을 수행합니다.
업무 연동: 구조화 결과를 다운스트림 시스템에 전달해 실행하며, 민감한 작업이 포함된 경우 먼저 권한을 검증하거나 사용자에게 확인을 요청합니다.

의도 인식과 매개변수 추출의 통합: 하나의 모델이 의도 분류와 매개변수 추출을 동시에 수행하여 다운스트림의 반복적인 분석 작업을 줄입니다.
빠른 응답 속도: 평균 출력이 수십 토큰에 불과하고 전체 결과의 응답 지연 시간이 수백 밀리초 수준으로, 빈번한 실시간 상호작용 시나리오에 적합합니다.
낮은 호출 비용: MoE 아키텍처는 각 Token에서 약 4B개의 매개변수만 활성화하므로, 범용 대형 모델과 비교해 일일 수백만 회 호출 시나리오에서 비용 차이를 크게 줄일 수 있습니다.
안정적이고 신뢰할 수 있는 출력: 결과가 미리 정의된 Schema의 JSON 구조로 엄격하게 제한되어 필드가 확실하고 형식을 검증할 수 있습니다.
다중 의도 복합 분석: 한 문장에 여러 의도, 여러 매개변수 및 여러 개체가 포함된 경우를 지원하며, JSON 배열로 통합 반환합니다.
네 가지 작업의 통합 형식: 의도 이해, 개체 인식, 관계 추출, 이벤트 추출이 동일한 “분류＋매개변수” 입출력 형식을 공유하므로 다운스트림 마이그레이션 비용이 매우 낮습니다.

GitHub 저장소: https://github.com/XingChen-AGI/Xing4.0-29B-Intent
HuggingFace 모델 저장소: https://huggingface.co/XingChen-AGI/Xing4.0-29B-Intent

스마트 고객 서비스 / 작업 주문 라우팅: 고객 대화의 의도를 인식하고 핵심 정보를 추출해 작업 주문 분류 및 전달을 자동으로 수행하며, 통신 만호 고객 서비스에 적용되었습니다.
단말 음성 상호작용: 음성 비서, 스마트 콕핏, IoT 중앙 제어 등의 시나리오에서 사용자의 구어 명령을 구조화된 기기 제어 명령으로 분석합니다.
기업용 IM 로봇: 업무 초기 구축 단계에서 대규모 주석 데이터 없이도 의도 인식 및 질의응답 라우팅 기능을 빠르게 구축할 수 있습니다.
Agent / Function Calling 의미 진입 계층: 에이전트에 낮은 환각률의 의도 판단과 함수 호출 매개변수 추출 기능을 제공하여 자연어와 도구 실행을 연결합니다.
다중 작업 정보 추출: 한 문장에서 개체 인식, 관계 추출 및 이벤트 추출을 병렬로 수행합니다. 예를 들어 “회의를 금요일 오후로 변경하고 장소를 3층으로 바꿔 줘”라는 문장에서 시간과 장소 변경을 동시에 추출할 수 있습니다.