Spark X2.5 Đang hoạt động

Spark X2.5 là dòng mô hình ngôn ngữ lớn đa dụng chủ lực do iFlytek phát triển, bao gồm các mô hình nền tảng MoE trên đám mây (293B/30B) và các mô hình mã nguồn mở dành cho thiết bị biên Spark X2.5-4B và Spark X2.5-1.7B. Mô hình được huấn luyện toàn quy trình trên hạ tầng tính toán nội địa Trung Quốc, đạt khả năng tự chủ và kiểm soát toàn bộ nền tảng. Các nâng cấp cốt lõi tập trung vào khả năng sinh mã, phối hợp tác tử và suy luận toán học. Phiên bản dành cho thiết bị biên hỗ trợ nguyên bản ngữ cảnh siêu dài 1 triệu Token, sử dụng kiến trúc chú ý hỗn hợp để giảm chi phí tính toán. Mô hình tương thích với nhiều nền tảng phần cứng như NVIDIA và Huawei Ascend, hỗ trợ các framework phổ biến như vLLM và Ollama, đồng thời đã được cung cấp trên Nền tảng mở iFlytek, Hugging Face và các kênh khác.

Tự chủ và kiểm soát hoàn toàn trong nước: Được huấn luyện toàn quy trình trên hạ tầng tính toán nội địa Trung Quốc, đạt khả năng tự chủ toàn bộ từ chip nền tảng đến mô hình cấp cao.
Kiến trúc MoE hiệu quả: Sử dụng kiến trúc chuyên gia hỗn hợp với tổng cộng 293B tham số và 30B tham số được kích hoạt, cân bằng hiệu năng mạnh mẽ với hiệu quả suy luận.
Sinh mã thông minh: Cải thiện đáng kể khả năng hiểu và sinh mã, vượt qua các mô hình có số tham số lớn hơn trong các bài đánh giá mã uy tín như SWE-Bench.
Tác tử tự chủ thực thi: Tích hợp sâu với các framework Agent phổ biến, hỗ trợ lập kế hoạch nhiều bước, gọi công cụ và phối hợp tự chủ để hoàn thành các tác vụ phức tạp.
Suy luận toán học và logic: Khả năng suy luận toán học và logic được tăng cường rõ rệt, đạt trình độ hàng đầu ngành trong các bài đánh giá như kỳ thi tuyển sinh đại học và AIME.
Ngữ cảnh dài 1 triệu Token: Hỗ trợ nguyên bản ngữ cảnh siêu dài 1 triệu Token, là mô hình dành cho thiết bị biên duy nhất có khả năng này, có thể xử lý toàn bộ sách hoặc video dài.
Mã nguồn mở nhẹ cho thiết bị biên: Cung cấp các mô hình 4B và 1.7B mã nguồn mở cho thiết bị biên, sử dụng kiến trúc chú ý hỗn hợp để vận hành hiệu quả trên điện thoại, thiết bị IoT và các thiết bị khác.
Tương thích toàn hệ sinh thái phần cứng: Hỗ trợ liền mạch các chip NVIDIA, Huawei Ascend, Hygon, Moore Threads và các loại khác, tương thích với các framework phổ biến như vLLM và Ollama.
Khả năng đa ngôn ngữ: Hỗ trợ hơn 200 ngôn ngữ, bao phủ các ngôn ngữ chính trên toàn cầu, đáp ứng nhu cầu giao tiếp đa ngôn ngữ và triển khai quốc tế.

Theo dõi WeChat và trả lời “开源” để tham gia nhóm trao đổi dự án AI mã nguồn mở
Huấn luyện trên hạ tầng tính toán nội địa Trung Quốc: Hoàn tất toàn bộ quy trình tiền huấn luyện và hậu huấn luyện mô hình trên các cụm máy tính AI nội địa như Huawei Ascend, giảm sự phụ thuộc vào hạ tầng tính toán nước ngoài và đạt khả năng tự chủ toàn bộ từ chip nền tảng đến mô hình cấp cao.
Kiến trúc chuyên gia hỗn hợp MoE: Sử dụng thiết kế chuyên gia hỗn hợp kích hoạt thưa, với tổng số 293B tham số nhưng chỉ kích hoạt 30B khi suy luận, vừa duy trì hiệu năng của mô hình lớn vừa giảm đáng kể chi phí suy luận và mức sử dụng VRAM.
Cơ chế chú ý hỗn hợp: Mô hình dành cho thiết bị biên sử dụng kiến trúc xen kẽ 1 lớp chú ý toàn phần và 3 lớp chú ý cửa sổ trượt. Với chi phí tính toán rất thấp, mô hình hỗ trợ nguyên bản ngữ cảnh siêu dài 1 triệu Token, phá vỡ giới hạn xử lý văn bản dài trên thiết bị biên.
Tối ưu hậu huấn luyện MOPD: Thông qua học tăng cường quy mô lớn cùng các kỹ thuật hậu huấn luyện như MOPD (chưng cất ưu tiên đa mục tiêu), mô hình tăng cường có trọng tâm các năng lực cốt lõi như sinh mã, lập kế hoạch tự chủ của Agent, suy luận toán học và tuân thủ chỉ dẫn.
Thiết kế nhẹ cho thiết bị biên: Các mô hình 4B và 1.7B mã nguồn mở được tối ưu chuyên sâu cho các kịch bản thiết bị biên, đạt thời gian phản hồi dưới một giây trên các thiết bị có năng lực tính toán thấp như nhà thông minh và điện thoại, đồng thời duy trì chất lượng hoàn thành tác vụ gần với mô hình lớn trên đám mây.

Gọi API: Đăng nhập Nền tảng mở iFlytek hoặc nền tảng Xingchen MaaS để lấy khóa, sau đó kết nối qua giao diện tương thích OpenAI tiêu chuẩn; hiện được miễn phí trong thời gian giới hạn.
Tải mô hình: Truy cập Hugging Face, ModelScope, GitHub và các kênh khác để tải tệp trọng số mô hình Spark-X2.5-4B hoặc 1.7B.
Triển khai cục bộ: Chọn phương án suy luận theo phần cứng. GPU NVIDIA sử dụng vLLM/SGLang, NPU Huawei Ascend sử dụng image Docker chính thức, còn Apple Silicon có thể dùng trực tiếp MLX.
Chạy bằng một cú nhấp: Nhập mô hình qua Ollama hoặc LM Studio để khởi chạy dịch vụ trò chuyện cục bộ mà không cần viết mã.
Tinh chỉnh tùy chỉnh: Dùng LLaMA-Factory để tải mô hình mã nguồn mở và thực hiện huấn luyện bổ sung, nhanh chóng thích ứng với các ngành hoặc kịch bản nghiệp vụ cụ thể.

Tự chủ và kiểm soát hoàn toàn trong nước: Được huấn luyện toàn quy trình trên hạ tầng tính toán nội địa như Huawei Ascend, đạt khả năng tự chủ toàn bộ từ chip đến mô hình và giảm sự phụ thuộc bên ngoài.
Kiến trúc MoE hiệu quả: Tổng cộng 293B tham số nhưng chỉ kích hoạt 30B, đạt hiệu năng gần với các mô hình lớn hơn ở mức chi phí suy luận thấp hơn.
Năng lực mã hàng đầu: Vượt qua các mô hình cấp 9B trong các bài đánh giá mã uy tín như SWE-Bench, nổi bật về triển khai thuật toán và hoàn thiện mã.
Tác tử tự chủ thực thi: Tương thích sâu với các framework Agent phổ biến như Codex và OpenClaw, hỗ trợ lập kế hoạch tự chủ nhiều bước và gọi công cụ cho các tác vụ phức tạp.
Suy luận toán học dẫn đầu: Đạt thành tích thuộc nhóm hàng đầu ngành trong các bài đánh giá toán học như kỳ thi tuyển sinh đại học và AIME, với khả năng suy luận logic và giải bài được tăng cường rõ rệt.
Ngữ cảnh dài 1 triệu Token: Hỗ trợ nguyên bản chuỗi siêu dài 1 triệu Token, là sản phẩm dành cho thiết bị biên duy nhất có khả năng này, có thể xử lý toàn bộ sách hoặc video dài.
Mã nguồn mở nhẹ cho thiết bị biên: Các mô hình 4B/1.7B được tối ưu cho điện thoại, thiết bị IoT và các thiết bị khác, đạt chất lượng hoàn thành tác vụ gần với mô hình lớn trên đám mây với số tham số rất nhỏ.
Tương thích toàn hệ sinh thái phần cứng: Tương thích liền mạch với các chip NVIDIA, Huawei Ascend, Hygon, Moore Threads và các loại khác, hỗ trợ triển khai một cú nhấp với các framework phổ biến như vLLM và Ollama.

Kho GitHub: https://github.com/XHToken/Spark-X2.5
Kho mô hình HuggingFace: https://huggingface.co/collections/XHToken/spark-x25

Phát triển lập trình thông minh: Với khả năng sinh mã hàng đầu và thành tích nổi bật trên SWE-Bench, mô hình hỗ trợ toàn bộ quy trình kỹ thuật phần mềm từ phân tích yêu cầu đến kiểm thử và triển khai, có thể đóng vai trò lập trình viên AI để nâng cao đáng kể hiệu suất phát triển.
Tự động hóa Agent cấp doanh nghiệp: Tích hợp sâu với các framework Agent phổ biến, hỗ trợ lập kế hoạch tự chủ nhiều bước, gọi công cụ và thực thi khép kín cho các tác vụ phức tạp, phù hợp với tự động hóa văn phòng và quy trình nghiệp vụ liên hệ thống.
Xử lý văn bản dài trên thiết bị biên: Mô hình dành cho thiết bị biên hỗ trợ nguyên bản ngữ cảnh siêu dài 1 triệu Token, cho phép đọc toàn bộ sách, rà soát hợp đồng dài và hiểu video dài trên các thiết bị ngoại tuyến như điện thoại và hệ thống trên xe.
Giáo dục thông minh và hỗ trợ toán học: Đạt trình độ hàng đầu ngành trong các bài đánh giá toán học như kỳ thi tuyển sinh đại học và AIME, hỗ trợ hướng dẫn giải toán cá nhân hóa, rèn luyện suy luận logic và lập kế hoạch lộ trình học tập thích ứng.
Triển khai công nghệ thông tin nội địa Trung Quốc: Dựa trên hạ tầng tính toán nội địa để đạt khả năng tự chủ toàn bộ, đáp ứng nhu cầu triển khai riêng tư của các ngành như chính phủ, tài chính và năng lượng, nơi có yêu cầu nghiêm ngặt về bảo mật dữ liệu và quyền tự chủ chuỗi cung ứng.