Piccolo Đang hoạt động

Piccolo là dòng mô hình ra quyết định mã nguồn mở của đội ngũ AgentScope thuộc Alibaba, gồm ba kích thước 27B, 9B và 4B. Piccolo có thể trực tiếp xuất kết quả quyết định có cấu trúc cùng xác suất, và được tích hợp vào các bước chọn công cụ, phán đoán quyền hạn, khôi phục sau lỗi trong quy trình làm việc của agent; đồng thời có thể dùng cho xử lý dữ liệu và ra quyết định theo thời gian thực trong game. Mô hình 27B đạt 92.21% trên JevBench Public và 68.59 trên Decision Index dạng văn bản. Đội ngũ tự xây dựng và mã nguồn mở hai bộ tiêu chuẩn trong các tình huống HarnessJevBench và DataJevBench. Quá trình nghiên cứu sử dụng khung tự cải tiến đệ quy, trong đó Research Agent phân tích các câu trả lời sai và lặp lại việc cải tiến dữ liệu để liên tục tiến hóa.

Chọn công cụ: dựa trên nhiệm vụ, bằng chứng và các ràng buộc để xác định công cụ cần gọi trong số các công cụ ứng viên, chẳng hạn chọn hệ thống đơn hàng khi tra cứu ngày giao hàng.
Định tuyến mô hình: khi nhiều mô hình đều có thể hoàn thành nhiệm vụ, lựa chọn tài nguyên thực thi dựa trên ngân sách và các yếu tố khác.
Lọc ngữ cảnh và bộ nhớ: giữ lại thông tin quan trọng, lọc nội dung không liên quan hoặc đã hết hạn.
Phán đoán quyền hạn và độ tin cậy: ra quyết định trong phạm vi quyền hạn, chẳng hạn chỉ chọn lưu bản nháp thay vì gửi trực tiếp khi chỉ được cấp quyền lưu bản nháp.
Xác nhận hoàn tất và khôi phục sau lỗi: tiếp tục kiểm tra khi bằng chứng chưa đủ, đồng thời xác định có nên thử lại khi gặp lỗi tạm thời.
Quyết định xử lý dữ liệu: xác định thứ tự làm sạch và loại bỏ trùng lặp, chọn phương án tóm tắt, yêu cầu bổ sung thông tin khi thiếu trường dữ liệu, và xác định có cần ẩn danh trước khi gửi ra ngoài hay không.
Ra quyết định theo thời gian thực trong game: dựa trên hình ảnh game để cung cấp hướng dẫn cấp độ phím bấm cho các hành động liên tục như di chuyển, tấn công và né tránh, hỗ trợ game hành động, giải đố và dạng bàn cờ.

Theo dõi WeChat và trả lời “开源” để tham gia nhóm trao đổi dự án AI mã nguồn mở
Dạng giao diện ra quyết định: Piccolo là một thành phần phán đoán chuyên dụng, nhận “trạng thái, câu hỏi, các phương án” làm đầu vào. Thông qua cơ chế chú ý prompt hai chiều, nội dung câu hỏi và các phương án tham chiếu lẫn nhau; mô hình trực tiếp đọc logits của token ứng viên để lấy xác suất của từng phương án, sau đó xuất quyết định có cấu trúc để chương trình sử dụng trực tiếp. Toàn bộ quá trình không tạo ra bất kỳ văn bản sinh nào. Piccolo sử dụng nguyên bản endpoint /v1/systemone tương thích với Jev, kết hợp cách sắp xếp đầu vào flex_twice để tối ưu đường suy luận.
Kỹ thuật dữ liệu thống nhất: dữ liệu huấn luyện bắt đầu từ 6,65 triệu mẫu thu thập từ cộng đồng mã nguồn mở, bao phủ các nhiệm vụ phân loại, truy xuất, suy luận toán học, phán đoán ưu tiên và sử dụng công cụ. Dữ liệu được thống nhất thành định dạng quyết định “trạng thái, câu hỏi, các phương án, phân phối mục tiêu”, trong đó nhãn cứng và nhãn mềm dùng chung một giao diện giám sát. Đội ngũ xây dựng hệ thống nhãn ngữ nghĩa gồm 13 chiều và 551 giá trị định nghĩa trước dựa trên Data-Juicer. Tất cả dữ liệu được loại bỏ trùng lặp trước khi đưa vào kho, đồng thời kiểm tra và loại trừ phần giao với các bộ tiêu chuẩn đánh giá để bảo đảm tách biệt giữa huấn luyện và đánh giá.
Vòng lặp tự cải tiến đệ quy: quá trình nghiên cứu được dẫn dắt bởi Research Agent, với tín hiệu cốt lõi là tổn thất KL trên từng câu hỏi. Sau khi tổng hợp theo từng lát cắt nhãn ngữ nghĩa, đội ngũ rà soát câu trả lời của dữ liệu có độ lệch liên tục cao, truy xuất tài liệu tương tự hoặc chủ động tổng hợp thêm các tổ hợp điều kiện; với các mẫu đồng nhất đã được học đầy đủ, đội ngũ giảm lấy mẫu hoặc giữ lại các mẫu đại diện để phát lại. Tỷ lệ chọn mẫu, kiểm toán và viết lại, tổng hợp có định hướng, xóa và giảm lấy mẫu được kết hợp thành nhiều phương án thử nghiệm. Agentic Data Engineering tổ chức nhiều agent tiến hành theo quy trình “thiết kế phương án → xây dựng thử nghiệm → phản hồi kết quả → cập nhật chẩn đoán”. DataJuicer-Sandbox biên soạn xử lý dữ liệu, huấn luyện và đánh giá thành quy trình có thể thực thi; con người chỉ thiết lập mục tiêu, ngân sách và phạm vi dữ liệu.

Trải nghiệm trực tuyến: truy cập trang web chính thức https://decisionplayground.agentscope.io/ để dùng thử trực tiếp, không cần tải xuống và có thể trải nghiệm hiệu quả ra quyết định của Piccolo trong nhiều nhiệm vụ phán đoán.
Tải mô hình: trên Hugging Face, chọn đầy đủ trọng số 4B/9B/27B hoặc một trong ba phiên bản GGUF BF16, Q8_0, Q4_K_M tùy nhu cầu. Với GGUF, cần tải tất cả các mảnh vào cùng một thư mục.
Chạy cục bộ: cài đặt QwenPaw từ mã nguồn cùng runtime llama.cpp tương thích với Piccolo. Trong Models → QwenPaw Local → Decision models, tải GGUF và nhấp Start, sau đó vào Default models để xác nhận mô hình quyết định mặc định đã trỏ đến mô hình này.
Bật phê duyệt tự động: bật Use decision model trong menu mô hình phiên, sau đó chọn Decision Model Mode trong phần cài đặt phê duyệt công cụ. Piccolo sẽ tự động kiểm soát mỗi lần gọi công cụ và vẫn giữ tùy chọn chuyển sang phê duyệt thủ công.
Bật nén ngữ cảnh: sau khi bật Context Compaction, mở công tắc Decision Model Compaction. Khi ngữ cảnh chịu áp lực, Piccolo sẽ xác định kết quả công cụ nào có mức liên quan thấp và có thể nén.
Tích hợp qua API: nếu cần nhúng vào quy trình làm việc tự phát triển, có thể tham khảo phần triển khai suy luận mẫu trong thư mục inference/ và ví dụ yêu cầu tối thiểu trong examples/. Gọi endpoint nguyên bản /v1/systemone, gửi yêu cầu theo định dạng “trạng thái, câu hỏi, các phương án” và phân tích quyết định cùng xác suất có cấu trúc.
Xem lại bản trình diễn: sau khi sao chép kho mã, chạy Arena tương tác trong arena/. Có thể tạm dừng, kéo thanh tiến trình và xem từng xác suất ứng viên của mỗi quyết định trong chín bản phát lại được lưu, bao gồm các trận chiến trong 《绝区零》.

Mã nguồn mở đầy đủ kích thước với giấy phép linh hoạt: cả ba mô hình 4B, 9B và 27B cùng toàn bộ trọng số đều được phát hành theo Apache-2.0. Sản phẩm cung cấp đầy đủ trọng số và ba phiên bản GGUF, hỗ trợ triển khai từ đám mây đến cục bộ.
Hiệu năng nổi bật ở kích thước nhỏ: 4B đạt 87.01% trên JevBench Public và 58.00 trên Decision Index, vượt mức 9B của phần lớn đối thủ, phù hợp với nhu cầu gọi mô hình quyết định thường xuyên và nhạy cảm về chi phí.
Dẫn đầu về kết quả đánh giá: 27B đạt 92.21% trên JevBench Public và 68.59 trên Decision Index. Trong so sánh 11 mô hình của đội ngũ, mô hình đứng đầu cả ba hạng mục HarnessJevBench, DataJevBench và JevBench.
Giao diện quyết định có độ trễ thấp: trực tiếp đọc logits của token ứng viên để trả về kết quả và xác suất có cấu trúc. Kết hợp với chú ý hai chiều và cách sắp xếp flex_twice, mô hình đặc biệt phù hợp để tích hợp vào các bước phán đoán thường xuyên trong quy trình làm việc.
Tích hợp thuận tiện với hệ sinh thái Alibaba: mô hình được lưu trữ trên ModelScope, đã được tích hợp vào nhánh chính QwenPaw, cho phép bật phê duyệt công cụ tự động và nén ngữ cảnh chỉ bằng một lần nhấp. Mô hình sử dụng chung nguồn gốc với framework AgentScope, giúp rút ngắn lộ trình làm quen.
Mở toàn bộ hệ thống kỹ thuật: pipeline dữ liệu tự cải tiến đệ quy cùng hai bộ tiêu chuẩn HarnessJevBench và DataJevBench đều được mã nguồn mở, cho phép cộng đồng tái hiện và đóng góp.

Trang web dự án: https://decisionplayground.agentscope.io/
Kho GitHub: https://github.com/agentscope-ai/Piccolo

Phê duyệt công cụ tự động cho Agent: tích hợp vào QwenPaw hoặc runtime Agent tự phát triển để phán đoán mỗi lần gọi công cụ, cho phép các thao tác chỉ đọc và chặn các lệnh mang tính phá hoại như ghi đè dữ liệu, thay thế phê duyệt thủ công từng mục.
Nén ngữ cảnh và lọc bộ nhớ: khi áp lực ngữ cảnh tăng, xác định tin nhắn lịch sử và kết quả công cụ nào có mức liên quan thấp để quyết định nén hoặc loại bỏ, đồng thời giữ lại thông tin quan trọng.
Quyết định trong quy trình xử lý dữ liệu: đưa ra phán đoán ở các bước tiếp nhận, làm sạch, ẩn danh và bàn giao dữ liệu, chẳng hạn quyết định thứ tự làm sạch và loại bỏ trùng lặp, yêu cầu bổ sung khi thiếu trường thuế, hoặc xác định có cần ẩn danh email trước khi gửi ra ngoài.
Phán đoán quyền hạn và nghiệm thu quy trình nghiệp vụ: trong quá trình Agent thực thi, xác định thao tác có vượt quyền hay không, bằng chứng nhiệm vụ đã đủ để tuyên bố hoàn tất chưa, và có nên thử lại khi gặp lỗi tạm thời hay không.
Ra quyết định theo thời gian thực trong game và môi trường tương tác: dựa trên hình ảnh game để cung cấp hướng dẫn hành động cấp độ phím bấm cho nhân vật di chuyển, tấn công và né tránh; đồng thời có thể dùng cho các game chiến thuật cần phán đoán thế cờ như cờ vây, đẩy hộp.