Mistral Large 4 Đang hoạt động

Mistral Large 4 là mô hình hàng đầu do Mistral AI của Pháp phát triển, có biệt danh «Le Chonk mèo béo». Mistral Large 4 sử dụng kiến trúc MoE mịn, có tổng cộng 1.05T tham số nhưng mỗi lần chỉ kích hoạt khoảng 49B, đi kèm bộ mã hóa thị giác 1.6B, đa phương thức gốc và ngữ cảnh 1M. Mistral Large 4 đã được triển khai trên Mistral API; mô hình dẫn đầu về kỹ thuật phần mềm, quy trình tài chính và định vị ảnh viễn thám qua các bài đánh giá. Mục tiêu chính là các kịch bản phòng thủ mạng và chủ quyền doanh nghiệp có thể triển khai cục bộ.

Hiểu đa phương thức gốc: có thể đọc đồng thời văn bản và hình ảnh, xuất văn bản, với cửa sổ ngữ cảnh lên tới 1M token.
Kỹ thuật phần mềm theo chuỗi dài: đạt 62% trong các nhiệm vụ kỹ thuật thực tế DeepSWE v1.1, có thể viết mã và thực hiện phát triển nhiều bước.
Phân tích tài chính doanh nghiệp: đạt 67% trên chuẩn quy trình tài chính Finch, giỏi tra cứu dữ liệu trong bảng tính lộn xộn, lập mô hình và tạo báo cáo.
Định vị hình ảnh: có thể khoanh vùng mục tiêu trong các hình ảnh phức tạp như ảnh chụp từ trên không bằng viễn thám; đạt 73% trên DIOR-RSVG, hỗ trợ đánh giá thiệt hại do thiên tai và kiểm tra đường dây truyền tải điện.
Chuyển bản vẽ sang CAD: có thể chuyển bản vẽ kỹ thuật thành mô hình CAD; theo công bố chính thức, đạt kết quả cao trong các bài kiểm tra liên quan đến chất bán dẫn.
Phòng thủ mạng: bản xem trước cung cấp phiên bản ít hạn chế hơn với chức năng an ninh mạng mạnh hơn, dùng cho các nhiệm vụ phòng thủ như quét lỗ hổng.
Đa ngôn ngữ và triển khai chủ quyền: được huấn luyện với hơn 160 ngôn ngữ, có thể triển khai trên máy chủ riêng hoặc API trong khu vực được pháp luật EU bảo vệ.

Theo dõi WeChat và trả lời “开源” để tham gia nhóm trao đổi dự án AI mã nguồn mở
Kiến trúc hỗn hợp chuyên gia mịn (MoE): mô hình có tổng cộng 1.05T tham số, được chia thành nhiều mạng con «chuyên gia». Mỗi lần xử lý một token, chỉ một phần nhỏ được kích hoạt, đồng thời sử dụng bộ mã hóa thị giác 1.6B để xử lý đầu vào hình ảnh. Nguyên lý là dùng kích hoạt thưa để đổi lấy dung lượng của mô hình lớn với chi phí suy luận của mô hình nhỏ; chi phí tính toán cho mỗi token gần tương đương một mô hình dày đặc 49B.
Huấn luyện từ đầu và sử dụng năng lực tính toán riêng: mô hình được huấn luyện hoàn toàn từ đầu trong hai tháng, sử dụng khoảng 4.000 GPU NVIDIA Grace Blackwell và được triển khai toàn bộ tại các trung tâm dữ liệu châu Âu do Mistral sở hữu. Điều này giúp kiểm soát quá trình huấn luyện và truy xuất nguồn gốc dữ liệu, hỗ trợ câu chuyện về AI chủ quyền, đồng thời giúp khách hàng có được mô hình không bị chính phủ nước ngoài ngừng cung cấp.
Hậu huấn luyện bằng học tăng cường liên tục: phiên bản phát hành là bản xem trước, nên kết quả vẫn có thể thay đổi trước khi công bố trọng số. Định hướng là dùng RL để liên tục cải thiện hiệu suất theo chuỗi dài của mô hình trong các nhiệm vụ suy luận, lập trình và quy trình tài chính.
Định vị thị giác (Grounding): dựa trên nền tảng đa phương thức, mô hình có thể xuất tọa độ vị trí cụ thể của mục tiêu trong hình ảnh. Nguyên lý là bộ mã hóa thị giác trích xuất đặc trưng hình ảnh rồi căn chỉnh chúng với chỉ dẫn ngôn ngữ qua các phương thức, từ đó cho phép nhận diện ở cấp độ pixel trong các bối cảnh viễn thám và bản vẽ.

Đăng ký tài khoản: truy cập trang web Mistral Studio để đăng ký và đăng nhập.
Tạo API Key: tạo khóa API trong bảng điều khiển để xác thực lệnh gọi.
Xác nhận ID mô hình: chọn mô hình mistral-large-4.
Chọn phương thức tích hợp: có thể gọi trực tiếp APIhttps://api.mistral.ai.
Soạn yêu cầu: khi gửi yêu cầu, kèm theo API Key, tên mô hình và nội dung đầu vào.

Kiến trúc MoE thưa: trong tổng số 1.05T tham số, mỗi lần chỉ kích hoạt 49B, cân bằng giữa dung lượng của mô hình siêu lớn và chi phí suy luận gần với mô hình nhỏ.
Được công bố là mô hình có trọng số mở mạnh nhất châu Âu và Mỹ, đồng thời là mô hình hàng đầu đầu tiên sau vòng gọi vốn Series D trị giá 3 tỷ euro.
Chủ quyền và khả năng kiểm soát an toàn: được huấn luyện hoàn toàn tại các trung tâm dữ liệu riêng ở châu Âu, có thể tải trọng số để tự triển khai và không bị chính phủ nước ngoài ngừng cung cấp.
Đa phương thức gốc kết hợp định vị thị giác hàng đầu: ngữ cảnh 1M và khả năng nhận diện, khoanh vùng hình ảnh vượt qua các mô hình tiên tiến độc quyền.
Kết quả đánh giá bản xem trước nổi bật: 62% về kỹ thuật phần mềm DeepSWE và 67% về tài chính Finch, đều dẫn đầu các đối thủ cùng bảng.

Kỹ thuật phần mềm theo chuỗi dài: tự hoàn thành toàn bộ nhiệm vụ phát triển, từ phân tích yêu cầu đến lập trình và gỡ lỗi.
Phân tích tài chính doanh nghiệp: tra cứu dữ liệu, lập mô hình và tạo báo cáo từ các bảng tính, tài liệu lộn xộn, phù hợp với đối soát và kiểm toán.
Đánh giá hình ảnh viễn thám: công ty bảo hiểm xem ảnh chụp từ trên không để đánh giá thiệt hại do bão, công ty điện lực kiểm tra đường dây truyền tải, trang trại theo dõi tình trạng cây trồng.
Phòng thủ mạng: quét lỗ hổng và diễn tập tấn công phòng thủ; sau khi tải trọng số về cục bộ, mô hình không bị hàng rào bảo vệ của mô hình độc quyền chặn lại.
Rà soát pháp lý và hợp đồng: hỗ trợ hoàn thành toàn bộ quy trình công việc pháp lý; tỷ lệ vượt qua của Harvey là 15%, hiện chưa đạt mức đạt yêu cầu trong toàn bộ bài đánh giá, cho thấy năng lực vẫn ở giai đoạn đầu.