Piccolo 운영 중

Piccolo는 알리바바 AgentScope 팀이 오픈소스로 공개한 의사결정 모델 시리즈로, 27B, 9B, 4B 세 가지 크기를 제공합니다. Piccolo는 구조화된 의사결정 결과와 확률을 직접 출력하며, 에이전트 워크플로의 도구 선택, 권한 판단, 실패 복구 등의 단계에 통합할 수 있고 데이터 처리와 게임 실시간 의사결정에도 사용할 수 있습니다. 27B는 JevBench Public에서 92.21%, 텍스트 Decision Index에서 68.59를 기록했습니다. 또한 HarnessJevBench와 DataJevBench라는 두 가지 자체 구축 시나리오 벤치마크를 개발해 오픈소스로 공개했습니다. 연구 개발에는 재귀적 자기 개선 프레임워크를 적용해 연구 Agent가 오답을 분석하고 데이터를 반복 개선함으로써 지속적으로 발전합니다.

도구 선택: 작업, 근거, 제약 조건을 바탕으로 후보 도구 중 어떤 도구를 호출할지 판단합니다. 예를 들어 배송 예정일을 조회할 때 주문 시스템을 선택합니다.
모델 라우팅: 여러 모델이 작업을 수행할 수 있을 때 예산 등의 요소를 종합해 실행 리소스를 선택합니다.
컨텍스트 및 메모리 선별: 핵심 정보는 보존하고 오래되었거나 관련 없는 내용은 필터링합니다.
권한 및 신뢰 판단: 권한 범위 내에서 의사결정합니다. 예를 들어 초안 저장만 허용된 경우 직접 전송하지 않고 저장을 선택합니다.
완료 검수 및 실패 복구: 근거가 부족하면 계속 확인하고, 일시적인 오류가 발생하면 재시도 여부를 판단합니다.
데이터 처리 의사결정: 정제와 중복 제거의 순서를 판단하고, 요약 방식을 선택하며, 필드가 누락되면 추가 정보를 요청하고, 외부 전송 전에 비식별화가 필요한지 판단합니다.
게임 실시간 의사결정: 게임 화면을 바탕으로 이동, 공격, 회피 등 연속 동작에 대한 키 입력 수준의 지침을 제공하며, 액션, 퍼즐, 보드 게임을 지원합니다.

WeChat에서 “오픈소스”를 팔로우 메시지로 보내 AI 오픈소스 프로젝트交流群에 참여하세요
의사결정 인터페이스 형태: Piccolo는 전용 판단 컴포넌트로, “상태, 질문, 후보 항목”을 입력으로 받습니다. 양방향 prompt 어텐션을 통해 문제와 후보 항목을 서로 참조하게 하고, 후보 token의 logits에서 각 선택지의 확률을 직접 읽어 프로그램이 바로 사용할 수 있는 구조화된 의사결정을 출력합니다. 전체 과정에서 생성 텍스트는 전혀 만들지 않습니다. 기본적으로 Jev 호환 /v1/systemone 엔드포인트를 사용하며, flex_twice 입력 배치 최적화를 통해 추론 경로를 개선합니다.
통합 데이터 엔지니어링: 학습 데이터는 오픈소스 커뮤니티에서 수집한 665만 개 샘플을 기반으로 하며, 분류, 검색, 수리 추론, 선호도 판단, 도구 사용 등의 작업을 포괄합니다. 이를 “상태, 질문, 후보 항목, 목표 분포”라는 통일된 의사결정 형식으로 정리하고, 하드 라벨과 소프트 라벨이 동일한 감독 인터페이스를 공유합니다. 팀은 Data-Juicer를 기반으로 13개 주석 차원과 551개의 사전 정의 값을 갖춘 의미 라벨 체계를 구축했습니다. 모든 데이터는 풀에 들어가기 전에 중복을 제거하고, 평가 벤치마크와의 중복 여부를 점검해 학습과 평가를 분리합니다.
재귀적 자기 개선 폐쇄 루프: 연구 개발은 연구 Agent가 주도하며, 핵심 신호는 문제별 KL 손실입니다. 의미 라벨별로 데이터를 분할해 집계한 뒤 편차가 계속 높은 데이터는 답변을 재검토하고, 유사한 자료를 검색하거나 더 많은 조건 조합을 목표에 맞게 합성합니다. 이미 충분히 학습된 동질 샘플은 다운샘플링하거나 대표성 있는 리플레이로 보존합니다. 선별 비율, 감사 및 재작성, 목표 지향 합성, 삭제 및 다운샘플링을 조합해 다양한 실험 방안을 구성합니다. Agentic Data Engineering은 여러 Agent가 “방안 설계→실험 구성→결과 피드백→진단 업데이트” 순서로 진행하도록 구성하며, DataJuicer-Sandbox는 데이터 처리, 학습, 평가를 실행 가능한 워크플로로 편성합니다. 사람은 목표, 예산, 데이터 범위만 설정하면 됩니다.

온라인 체험: 공식 웹사이트 https://decisionplayground.agentscope.io/ 에 접속해 바로 사용해 보세요. 다운로드 없이 다양한 판단 작업에서 Piccolo의 의사결정 성능을 확인할 수 있습니다.
모델 다운로드: Hugging Face에서 필요에 따라 4B/9B/27B의 전체 가중치 또는 BF16, Q8_0, Q4_K_M 세 가지 GGUF를 선택합니다. GGUF는 각 샤드를 같은 디렉터리에 다운로드해야 합니다.
로컬 실행: 소스 코드에서 QwenPaw와 Piccolo 호환 llama.cpp 런타임을 설치한 뒤, Models → QwenPaw Local → Decision models에서 GGUF를 다운로드하고 Start를 클릭합니다. 그런 다음 Default models에서 기본 의사결정 모델이 해당 모델을 가리키는지 확인합니다.
자동 검토 활성화: 세션 모델 메뉴에서 Use decision model을 활성화하고 도구 승인 설정에서 Decision Model Mode를 선택하면 Piccolo가 각 도구 호출을 자동으로 검토하며, 사람의 승인으로 대체할 수 있습니다.
컨텍스트 압축 활성화: Context Compaction을 활성화한 뒤 Decision Model Compaction 스위치를 켜면 Piccolo가 컨텍스트 부담이 커질 때 어떤 도구 결과가 관련성이 낮아 압축 가능한 내용인지 판단합니다.
API 연동: 자체 개발 워크플로에 통합하려면 저장소의 inference/ 디렉터리에 있는 참고 추론 구현과 examples/의 최소 요청 예제를 참고하세요. 기본 /v1/systemone 엔드포인트를 호출하고 “상태, 질문, 후보 항목” 형식으로 요청을 전송한 뒤 구조화된 의사결정과 확률을 파싱합니다.
데모 리플레이 시청: 저장소를 복제한 후 arena/ 아래의 대화형 Arena를 실행하면 일시 정지, 드래그, 단계별 확인이 가능합니다. 《젠레스 존 제로》 전투를 포함한 9개 저장 리플레이에서 각 의사결정의 후보 확률을 확인할 수 있습니다.

모든 크기를 오픈소스로 공개하고 허용적인 라이선스 제공: 4B, 9B, 27B 세 가지 모델과 가중치를 모두 Apache-2.0으로 공개하며, 전체 가중치와 세 가지 GGUF를 제공합니다. 클라우드부터 로컬까지 모든 배포 시나리오를 지원합니다.
소형 모델의 뛰어난 성능: 4B만으로도 JevBench Public 87.01%, Decision Index 58.00을 달성해 대부분의 경쟁 모델 9B급 수준을 넘어섰으며, 고빈도 호출과 비용에 민감한 의사결정 모델 수요에 적합합니다.
우수한 평가 성적: 27B는 JevBench Public에서 92.21%, Decision Index에서 68.59를 기록했으며, 팀의 11개 모델 비교에서 HarnessJevBench, DataJevBench, JevBench 세 항목 모두 1위를 차지했습니다.
낮은 지연 시간의 의사결정 인터페이스: 후보 token의 logits를 직접 읽어 구조화된 결과와 확률을 반환합니다. 양방향 어텐션과 flex_twice 배치를 결합해 워크플로의 고빈도 판단 단계에 자연스럽게 통합할 수 있습니다.
원활한 알리바바 생태계 통합: ModelScope에서 모델을 호스팅하며 QwenPaw 메인 브랜치에 통합되었습니다. 도구 자동 승인과 컨텍스트 압축을 한 번에 활성화할 수 있고, AgentScope 프레임워크와 동일한 계보를 공유해 가장 짧은 도입 경로를 제공합니다.
전체 스택 엔지니어링 공개: 재귀적 자기 개선 데이터 파이프라인과 HarnessJevBench, DataJevBench 두 가지 시나리오 벤치마크를 모두 오픈소스로 공개해 커뮤니티가 재현하고 기여할 수 있습니다.

프로젝트 공식 웹사이트: https://decisionplayground.agentscope.io/
GitHub 저장소: https://github.com/agentscope-ai/Piccolo

Agent 도구 자동 승인: QwenPaw 또는 자체 개발 Agent 런타임에 통합해 각 도구 호출을 판단합니다. 읽기 전용 작업은 허용하고 덮어쓰기 등 파괴적인 명령은 차단해 사람이 일일이 승인하는 절차를 대체합니다.
컨텍스트 압축 및 메모리 선별: 컨텍스트 부담이 커질 때 어떤 과거 메시지와 도구 결과가 관련성이 낮은지 판단해 압축하거나 삭제하면서 핵심 정보는 보존합니다.
데이터 처리 워크플로 의사결정: 데이터 입력, 정제, 비식별화, 전달의 각 단계에서 판단합니다. 예를 들어 정제와 중복 제거의 순서를 정하고, 세액 필드가 누락되면 추가 정보를 요청하며, 외부 전송 전에 이메일 비식별화가 필요한지 판단합니다.
업무 프로세스 권한 및 검수 판단: Agent 실행을 제어하면서 작업이 권한을 초과했는지, 작업 증거가 완료 선언에 충분한지, 일시적인 오류가 발생했을 때 재시도할지 판단합니다.
게임 및 상호작용 환경의 실시간 의사결정: 게임 화면을 바탕으로 캐릭터의 이동, 공격, 회피에 대한 키 입력 수준의 동작 지침을 제공하며, 오셀로, 소코반 등 상황 판단이 필요한 전략 게임에도 사용할 수 있습니다.