Mellum2.1 Đang hoạt động

Mellum2.1 là mô hình lập trình AI mã nguồn mở do JetBrains phát triển, sử dụng kiến trúc Mixture-of-Experts 12B. Trong Mellum2.1, học tăng cường chuyển từ giai đoạn hoàn thiện sang trở thành trọng tâm huấn luyện. Kết hợp với hàng triệu lần chạy trong môi trường sandbox, mô hình có thể khám phá kho mã, chỉnh sửa tệp và tự kiểm tra các thay đổi, giúp năng lực lập trình tác nhân được nâng cao đáng kể. Thông lượng của Mellum2.1 ở tải cao gần gấp đôi Qwen3.5-9B, hỗ trợ triển khai riêng tư và đã được phát hành trên Hugging Face.

Lập trình tác nhân: khám phá kho mã, chỉnh sửa tệp và tự kiểm tra các thay đổi; có thể xác định nguyên nhân gốc rễ của các bài kiểm thử thất bại, soạn thảo và xác minh phương án khắc phục.
Hoàn thiện và tạo mã: tiếp nối định hướng của Mellum2, cung cấp khả năng tạo mã nhanh và hỏi đáp cho quy trình lập trình.
Gọi công cụ: có thể điều phối các công cụ bên ngoài để hoàn thành nhiệm vụ, phù hợp cho việc xây dựng hệ thống tác nhân AI.
Suy luận tổng quát: có thể xử lý hỏi đáp hằng ngày, đồng thời từng bước suy luận và giải các bài toán toán học, logic.
Triển khai riêng tư: hỗ trợ chạy trên máy cục bộ hoặc hạ tầng riêng, giúp mã nguồn và dữ liệu được lưu giữ hoàn toàn trong nội bộ doanh nghiệp.

Theo dõi WeChat và trả lời “开源” để tham gia nhóm trao đổi dự án AI mã nguồn mở
Kiến trúc Mixture-of-Experts (MoE): Mellum2.1 sử dụng kiến trúc Mixture-of-Experts với 12B tham số, trong đó mỗi lần suy luận chỉ kích hoạt 2.5B tham số. Mô hình gồm nhiều mạng con “chuyên gia”; dữ liệu đầu vào được cơ chế định tuyến phân phối cho một phần chuyên gia xử lý, nhờ đó vừa duy trì dung lượng mô hình vừa giảm đáng kể lượng tính toán,实现 suy luận với chi phí thấp và thông lượng cao.
Học tăng cường quy mô lớn (RL): nâng cấp cốt lõi của phiên bản này nằm ở quy trình huấn luyện: RL được mở rộng từ một giai đoạn hoàn thiện ngắn sau tiền huấn luyện thành trọng tâm của quá trình huấn luyện. Nhóm đã bổ sung các nhiệm vụ về toán học, lập trình thi đấu, khoa học, sử dụng công cụ và kỹ thuật phần mềm. Hạ tầng do nhóm tự xây dựng khởi chạy hàng triệu sandbox trong quá trình huấn luyện, bao phủ hàng nghìn môi trường thực tế, giúp mô hình học được năng lực khám phá, chỉnh sửa và xác minh cần thiết cho tác nhân thông qua tương tác với các tình huống lập trình thực tế, cùng cơ chế thử-sai và tín hiệu phần thưởng.
Sàng lọc dữ liệu nghiêm ngặt: toàn bộ tập dữ liệu mở dùng để huấn luyện đều được lọc trước khi đưa vào hệ thống, loại bỏ các nhiệm vụ có lỗi kiểm thử, đáp án không thể xác minh hoặc độ khó không phù hợp, nhằm đảm bảo tín hiệu huấn luyện RL đáng tin cậy và tránh để mô hình học từ phản hồi sai.
Dự đoán nhiều Token (MTP): MTP cho phép mô hình dự đoán nhiều Token tiếp theo trong một lần truyền tiến. Trong kịch bản một yêu cầu, tốc độ tăng khoảng 1.6 lần. Kết hợp với thiết kế ít tham số kích hoạt của MoE, thông lượng của Mellum2.1 ở tải cao gần gấp đôi Qwen3.5-9B.

Truy cập trang mô hình: mở trang tổ chức chính thức của JetBrains trên Hugging Face và tìm kho mô hình Mellum2.1.
Tải trọng số mô hình: nhấp tải xuống trên trang thẻ mô hình hoặc lấy các tệp mô hình theo điều khoản cấp phép (nếu có yêu cầu, cần đồng ý với thỏa thuận sử dụng trước).
Chọn framework triển khai: sử dụng Transformers hoặc vLLM để triển khai; Transformers phù hợp cho kiểm thử đơn giản, còn vLLM phù hợp cho dịch vụ sản xuất có lưu lượng đồng thời cao.
Cấu hình môi trường suy luận: chuẩn bị môi trường GPU (benchmark chính thức dựa trên một H200), tải mô hình và đặt ngữ cảnh ở mức 131K.
Bật tùy chọn tăng tốc: cấu hình Dự đoán nhiều Token (MTP) theo hướng dẫn chính thức để tăng tốc độ mỗi yêu cầu khoảng 1.6 lần.
Gửi lệnh suy luận: gửi lời nhắc tạo mã, chỉnh sửa cấp kho hoặc tác vụ tác nhân qua API để nhận đầu ra của mô hình.

Năng lực lập trình tác nhân nổi bật: nhờ được huấn luyện RL quy mô lớn trong môi trường thực tế, mô hình có thể tự khám phá kho mã, chỉnh sửa tệp và xác minh thay đổi, đồng thời xác định nguyên nhân gốc rễ của lỗi kiểm thử và soạn thảo phương án khắc phục.
Tốc độ suy luận dẫn đầu: thông lượng ở tải cao gần gấp đôi Qwen3.5-9B, nhanh nhất trong các mô hình cùng cấp.
Phản hồi nhanh cho từng yêu cầu: công nghệ Dự đoán nhiều Token (MTP) tăng tốc độ mỗi yêu cầu khoảng 1.6 lần.
Kiến trúc hiệu quả: thiết kế MoE 12B chỉ kích hoạt 2.5B tham số, đạt hiệu năng cao với chi phí tính toán thấp.
Chất lượng dữ liệu huấn luyện cao: toàn bộ dữ liệu huấn luyện được sàng lọc nghiêm ngặt, loại bỏ các nhiệm vụ có lỗi để đảm bảo tín hiệu học đáng tin cậy.
Năng lực toàn diện mạnh: được cải thiện trên nhiều phương diện như lập trình, lập trình thi đấu, toán học, gọi công cụ và kiến thức tổng quát.
Thân thiện với triển khai riêng tư: hỗ trợ chạy trên máy cục bộ hoặc hạ tầng riêng, giúp doanh nghiệp toàn quyền kiểm soát mã nguồn và dữ liệu, phù hợp với các tình huống nhạy cảm.

Trang web dự án：https://blog.jetbrains.com/ai/2026/10/mellum2-1-gets-to-work-a-fast-open-model-for-coding-agents/
Kho mô hình Hugging Face：https://huggingface.co/JetBrains/Mellum2.1-12B-A2.5B-Thinking

Lập trình tác nhân: tự khám phá kho mã, chỉnh sửa tệp và xác minh thay đổi, hoàn thành toàn bộ quy trình từ xác định lỗi kiểm thử đến khắc phục.
Trợ lý riêng tư cho doanh nghiệp: triển khai trên máy chủ doanh nghiệp để đảm bảo mã nguồn và dữ liệu không rời khỏi mạng nội bộ.
Tích hợp sâu với IDE: tích hợp vào các IDE thuộc dòng JetBrains hoặc công cụ bên thứ ba, cung cấp tính năng hoàn thiện mã và hỏi đáp thông minh.
Điều phối tác nhân con: tận dụng độ trễ thấp và thông lượng cao để thực hiện nhiệm vụ con hoặc định tuyến yêu cầu trong hệ thống đa tác nhân.
Suy luận toán học và logic: xử lý bài toán toán học, lập trình thi đấu và hỏi đáp hằng ngày, đồng thời cung cấp năng lực của một trợ lý tổng quát.