Clef Đang hoạt động

Clef là dòng mô hình ra quyết định mã nguồn mở của Cloudflare, giúp xác định ngữ cảnh rồi quyết định hành động tiếp theo. Khác với các mô hình trò chuyện tạo văn bản tự do, Clef tạm thời định nghĩa câu hỏi trong từng yêu cầu và chấm xác suất cho từng lựa chọn, để mã thực hiện định tuyến hoặc chặn dựa trên kết quả mà không cần huấn luyện lại liên tục khi có danh mục mới. Trong dòng Clef, Clef 27B tập trung vào độ chính xác, còn Clef-flash 9B đạt độ trễ trung vị chỉ 38.8 mili giây, phù hợp để tích hợp vào đường dẫn nóng của Agent.

Ra quyết định theo xác suất: nhập state và câu hỏi có kiểu dữ liệu, xuất xác suất của từng lựa chọn để mã trực tiếp định tuyến, chặn hoặc chuyển cho nhân viên xử lý.
Ba loại câu hỏi: hỗ trợ noul, choice và score, mỗi yêu cầu tối đa 64 câu hỏi.
Phân loại hình ảnh: tích hợp vision encoder, cho phép chấm điểm tối đa 4 hình ảnh cùng với văn bản.
Ngữ cảnh 64K: chứa được nhật ký dài, phiếu hỗ trợ, trạng thái JSON và các đầu vào đầy đủ hơn.
Tương thích API Jev: schema yêu cầu tương thích với Jev, khi di chuyển gần như chỉ cần thay endpoint và tên mô hình.
Suy luận không tự hồi quy: sau một lần prefill, chấm điểm song song các lựa chọn hợp lệ mà không tạo văn bản từng token, nên độ trễ thấp hơn nhiều so với LLM đa dụng.
Triển khai biên với độ trễ thấp: nhờ mạng GPU toàn cầu của Workers AI, Clef có độ trễ trung vị 209ms, còn Clef-flash chỉ 38.8ms, phù hợp với đường dẫn nóng.

Theo dõi WeChat và trả lời “开源” để tham gia nhóm trao đổi dự án AI mã nguồn mở
Kiến trúc quyết định không tự hồi quy: Clef trước tiên thực hiện một lượt tính toán xuôi chỉ prefill trên đầu vào, sau đó chấm điểm song song các lựa chọn schema hợp lệ được định nghĩa trong yêu cầu, trực tiếp suy ra kết quả có cấu trúc từ biểu diễn bên trong.
Định tuyến attention hai giai đoạn: mỗi lựa chọn hợp lệ trước tiên trích xuất ngữ cảnh liên quan đến chính nó từ prompt, sau đó các tham số trường cross-attend lẫn nhau và kết nối lại với payload ban đầu để mô hình hóa kết hợp. Kết hợp với lexical prior nhằm duy trì tính nhất quán ngữ nghĩa giữa các lựa chọn, hệ thống cuối cùng tổng hợp bằng chứng thành điểm số trong các ràng buộc của schema.
Đóng băng backbone + thích ứng nhẹ: backbone là Qwen3.8-27B và Qwen3.5-9B, đóng băng phần chính, chỉ tối ưu kết hợp routing head và bộ thích ứng LoRA rank-256. Với số lượng tham số có thể huấn luyện rất nhỏ, mô hình vẫn đạt năng lực ra quyết định, đồng thời giảm chi phí huấn luyện và triển khai.
Mục tiêu huấn luyện định hướng hiệu chuẩn: post-training sử dụng label-smoothed cross-entropy để bảo đảm đầu ra nằm trong schema hợp lệ, đồng thời thêm Brier loss để chuyên hiệu chuẩn xác suất, giúp bản thân các giá trị xác suất đầu ra đáng tin cậy.
Học tăng cường RLCD: Reinforcement Learning for Calibrated Decisions do nhóm tự phát triển được dùng làm mục tiêu tối ưu cấp hai. Các lựa chọn thứ tự liền kề nhận điểm một phần, lựa chọn khớp chính xác nhận toàn bộ điểm, đồng thời thêm reference penalty để ngăn phân phối lệch khỏi tham chiếu, từ đó cải thiện độ chính xác và khả năng khái quát hóa.
Chiến lược dữ liệu: dữ liệu huấn luyện là tập dữ liệu tổng hợp nội bộ. Hệ thống tăng cường khả năng khái quát bằng cách hoán vị thứ tự trường và cấu trúc prompt, schema, giúp mô hình ít phụ thuộc vào cách viết câu hỏi và thích ứng với các danh mục mới được định nghĩa tạm thời trong yêu cầu.

Xác nhận tài khoản và quyền truy cập: đăng ký tài khoản Cloudflare, lấy Account ID và API Token, rồi bật Workers AI.
Chọn mô hình: tùy nhu cầu chọn @cf/cloudflare/clef hoặc @cf/cloudflare/clef-flash.
Tạo request body: điền model, state (trạng thái dạng văn bản/JSON) và questions (1–64 câu hỏi kiểu noul/choice/score, ghi rõ ranh giới criteria).
Gửi yêu cầu: dùng REST POST đến /accounts/{id}/ai/run/@cf/cloudflare/clef, hoặc gọi qua liên kết env.AI.run() trong Worker.
Phân tích kết quả xác suất: đọc xác suất/điểm có trọng số của các lựa chọn trong response.answers, rồi dùng “lựa chọn cao nhất + ngưỡng xác suất” để định tuyến hoặc chặn.
Tích hợp hình ảnh (tùy chọn): khi cần phán định bằng hình ảnh, nhúng byte PNG/JPEG/WebP vào yêu cầu, không truyền URL từ xa.
Kiểm thử tải trước khi vận hành: dùng độ dài state và số lượng câu hỏi thực tế để đo độ trễ và độ chính xác, sau đó quyết định chuyển đổi toàn bộ hoặc phân luồng theo rủi ro giữa flash/clef.
Tinh chỉnh nâng cao (tùy chọn): khi nhãn lĩnh vực đặc thù, tích lũy dữ liệu qua AI Gateway và sử dụng dịch vụ tinh chỉnh RL của nhóm FDE để tùy chỉnh mô hình.

Tốc độ cao: chấm điểm song song không tự hồi quy + lưu trữ GPU ở biên, Clef có độ trễ trung vị 209ms, Clef-flash chỉ 38.8ms, nhanh hơn Jev 2.5×–13× và có thể chạy trong đường dẫn nóng.
Độ chính xác cao: đứng đầu Jev Decision Index, đạt điểm cao nhất ở 7 trong 10 benchmark quyết định chính thức, đồng thời thắng 3/4 bài đánh giá quy trình Typesafe.
Thêm danh mục không cần huấn luyện lại: danh mục được định nghĩa tạm thời trong yêu cầu, thêm nhãn mới mà không cần huấn luyện lại như bộ phân loại truyền thống.
Xác suất được hiệu chuẩn: quá trình huấn luyện với Brier loss + RLCD giúp bản thân xác suất đầu ra đáng tin cậy, có thể trực tiếp đặt ngưỡng để tự động hóa quyết định.
Đa phương thức nguyên bản: vision encoder tích hợp cho phép phân loại hình ảnh, trong khi Jev hiện chỉ xử lý văn bản.
Ngữ cảnh tăng gấp đôi: ngữ cảnh 64K (Jev là 32K), chứa được nhật ký và trạng thái dài hơn.
Di chuyển không tốn chi phí: tương thích hoàn toàn với API Jev, chỉ cần thay endpoint và tên mô hình để chuyển đổi liền mạch.

Trang web dự án: https://blog.cloudflare.com/clef-decision-models/
Kho mô hình HuggingFace: https://huggingface.co/Cloudflare/clef
https://huggingface.co/Cloudflare/clef-flash

Phân loại phiếu hỗ trợ khách hàng: nhập nội dung phiếu và ảnh chụp màn hình, trong một yêu cầu có thể đồng thời xác định mức độ khẩn cấp, định tuyến đến nhóm nào và chấm điểm mức độ nghiêm trọng; các trường hợp có độ tin cậy thấp sẽ tự động chuyển cho nhân viên xử lý.
Thông tin tình báo về mối đe dọa và chống lừa đảo: kết hợp Browser Run để lấy trang web đã kết xuất, thực hiện phân loại đa nhãn cho tên miền/trang; thử nghiệm chính thức cho thấy toàn bộ quy trình chỉ mất 2.2 giây.
Phán định lưu lượng Bot: trên đường dẫn nóng của gateway, dùng Clef-flash để nhanh chóng xác định crawler là thiện chí hay độc hại, chặn hoặc cho phép ở cấp mili giây.
Kiểm tra trước khi Agent gọi công cụ: trước khi Agent thực hiện thao tác rủi ro cao, hỏi Clef “có nên thực hiện hay không, dùng công cụ nào”, rồi dựa trên ngưỡng xác suất để quyết định thực thi hoặc yêu cầu xác nhận.