Muse Spark Open Đang hoạt động

Muse Spark Open là mô hình AI đa phương thức do Meta mã nguồn mở, sử dụng kiến trúc hỗn hợp chuyên gia thưa, có tổng cộng 816 tỷ tham số và kích hoạt 42 tỷ tham số mỗi lần suy luận, hỗ trợ ngữ cảnh 1 triệu Token, có thể xử lý văn bản, hình ảnh, video và âm thanh, tập trung vào lập trình và các tác vụ Agent. Muse Spark Open có thể chạy cục bộ trên hai máy M5 Ultra Mac Studio thông qua framework MLX; năng lực tổng thể và lập trình hiện vẫn kém một số mô hình mã nguồn mở trong nước như MiMo-V2.6-Pro, GLM-5.3 và Kimi K3.

Hiểu ngữ cảnh cực dài: Hỗ trợ cửa sổ ngữ cảnh 1 triệu Token, có thể xử lý cùng lúc các tài liệu và kho mã nguồn rất dài.
Xử lý đa phương thức nguyên bản: Có thể tiếp nhận và hiểu đầu vào ở bốn phương thức: văn bản, hình ảnh, video và âm thanh.
Năng lực lập trình: Có thể sửa lỗi, thêm tính năng, hoàn tất quá trình xây dựng dự án và đảm nhiệm các tác vụ kỹ thuật phần mềm phức tạp.
Thực thi tác vụ Agent: Có thể tự chủ thực hiện các tác vụ suy luận nhiều bước trong thời gian dài, chẳng hạn thao tác DaVinci Resolve để hoàn tất chỉnh sửa video.
Chạy cục bộ trên máy tính để bàn: Được tối ưu qua framework MLX, có thể chạy toàn bộ mô hình cục bộ trên hai máy M5 Ultra Mac Studio.
Tương thích nhiều framework và chip: Hỗ trợ các framework suy luận phổ biến như SGLang, vLLM, llama.cpp, tương thích với chip Nvidia, AMD, Apple và Intel.
Gọi API trên nền tảng đám mây: Có thể sử dụng qua API trên các nền tảng như OpenRouter, Groq và Together AI.

Theo dõi WeChat và trả lời “开源” để tham gia nhóm trao đổi dự án AI mã nguồn mở
Kiến trúc hỗn hợp chuyên gia thưa (MoE): Mô hình có tổng cộng 816 tỷ tham số, nhưng mỗi lần suy luận chỉ kích hoạt khoảng 42 tỷ tham số. Cơ chế định tuyến phân bổ từng Token cho một số ít mạng chuyên gia xử lý, qua đó duy trì quy mô mô hình đồng thời giảm đáng kể chi phí tính toán, giúp mô hình cực lớn có thể chạy trên phần cứng hạn chế.
Cửa sổ ngữ cảnh cấp triệu Token: Sử dụng công nghệ xử lý chuỗi dài hiệu quả để mở rộng cửa sổ ngữ cảnh lên 1 triệu Token, cho phép mô hình tiếp nhận cùng lúc các kho mã nguồn rất dài, nhiều tài liệu hoặc thông tin video dài, đáp ứng nhu cầu “ghi nhớ” trong các tác vụ kéo dài.
Suy luận phân tán trên kiến trúc bộ nhớ hợp nhất: Kiến trúc bộ nhớ hợp nhất của Apple M5 Ultra cho phép GPU tích hợp trên mỗi Mac Studio sử dụng tối đa 512GB bộ nhớ; hai máy có tổng cộng khoảng 1TB, với băng thông bộ nhớ đạt 1.2TB/s. Nhờ phiên bản mới của framework MLX, hai thiết bị có thể phối hợp như một siêu máy tính, chứa đầy đủ mô hình 816 tỷ tham số.
Tăng tốc bằng kernel GPU tùy chỉnh: Meta cung cấp cho SGLang các kernel GPU Helion tùy chỉnh có khả năng tự động tối ưu, đạt mức tăng tốc cấp kernel 1.03–3.95 lần trên GPU Nvidia và AMD, đồng thời cải thiện hiệu năng đầu cuối khoảng 3% trên AMD MI350.

Nhận quyền truy cập: Gọi trực tiếp mô hình qua API của các nền tảng như OpenRouter hoặc Together AI.
Tải trọng số mô hình: Nếu cần triển khai cục bộ, có thể tải trọng số mở từ Hugging Face.
Chọn framework suy luận: Tùy môi trường phần cứng, sử dụng SGLang, vLLM, TensorRT-LLM, Hugging Face Transformers, Apple MLX, llama.cpp hoặc Unsloth để nạp mô hình.
Chuẩn bị phần cứng: Trên đám mây sử dụng GPU Nvidia hoặc AMD; trên máy tính để bàn cục bộ có thể dùng hai máy Mac Studio trang bị chip M5 Ultra để chạy toàn bộ mô hình.
Viết mã gọi: Sử dụng các framework như PyTorch để viết script suy luận, nhập lời nhắc dạng văn bản, hình ảnh, video hoặc âm thanh, đồng thời thiết lập nội dung ngữ cảnh trong giới hạn 1 triệu Token.
Thực thi tác vụ Agent: Thông qua API hoặc trình điều khiển chạy cục bộ để thực hiện các quy trình Agent nhiều bước như lập trình và chỉnh sửa video.

Quy mô dẫn đầu: Tổng cộng 816 tỷ tham số, mỗi lần suy luận chỉ kích hoạt 42 tỷ, là mô hình trọng số mở của Mỹ mạnh nhất từ trước đến nay của Meta.
Ngữ cảnh cực dài: Hỗ trợ cửa sổ ngữ cảnh 1 triệu Token, có thể xử lý cùng lúc các tài liệu rất dài và kho mã nguồn lớn.
Đa phương thức nguyên bản: Xử lý thống nhất văn bản, hình ảnh, video và âm thanh, có thể trực tiếp điều khiển các công cụ đa phương thức như phần mềm chỉnh sửa video.
Chạy cục bộ trên máy tính để bàn: Được tối ưu qua framework MLX, có thể chạy đầy đủ trên hai máy M5 Ultra Mac Studio, đưa quy trình Agent về môi trường cục bộ.
Hệ sinh thái mở: Trọng số được mở hoàn toàn, hỗ trợ bảy framework lớn như SGLang, vLLM và llama.cpp, tương thích với chip Nvidia, AMD, Apple và Intel.
Khả năng tùy chỉnh cao: Nhà phát triển có thể tinh chỉnh và phát triển mở rộng mô hình dựa trên PyTorch.

Trang web dự án：https://dev.meta.ai/resources/blog/build-with-muse-spark-open
Kho mô hình HuggingFace：https://huggingface.co/collections/meta-models/muse-spark-open

Phát triển và bảo trì iOS: Sửa lỗi, thêm tính năng mới và hoàn tất xây dựng dự án cho ứng dụng khách mã nguồn mở Ice Cubes.
Hậu kỳ video: Thao tác DaVinci Resolve để kiểm tra từng khung hình, chọn các đoạn chất lượng và cắt thành video dọc.
Đánh giá kho mã nguồn lớn: Sử dụng ngữ cảnh 1 triệu Token để phân tích cùng lúc cấu trúc và vấn đề của toàn bộ kho mã nguồn.
Xử lý tài liệu rất dài: Đọc cùng lúc các báo cáo hoặc luận văn dài hàng trăm trang để tóm tắt, hỏi đáp và đối chiếu chéo.
Hiểu nội dung đa phương thức: Phân tích đồng thời văn bản, hình ảnh, video và âm thanh để kiểm duyệt hoặc phân tích nội dung tổng hợp.