Jev Đang hoạt động

Jev là mô hình ra quyết định có cấu trúc bằng AI do TypeSafe AI phát triển. Mô hình không trò chuyện, viết mã hay tạo bất kỳ văn bản nào, mà chỉ làm một việc: ra quyết định tần suất cao, tiếp nhận thông tin phi cấu trúc, thực hiện một lần tính toán song song và lập tức xuất ra kết quả có xác suất được hiệu chuẩn. Độ trễ chỉ 70–500 mili giây, chi phí đầu vào 0.042 đô la/triệu token, đầu ra miễn phí và tỷ lệ lỗi kiểu là 0%. Mô hình được định vị như cung phản xạ phía trước của hệ thống Agent, đảm nhiệm các phán đoán tần suất cao như định tuyến, phân loại, sàng lọc rủi ro và lọc nội dung, để các mô hình lớn tiên tiến tập trung vào suy luận phức tạp, trở thành một bộ quyết định siêu việt sở hữu tri thức thế giới.

Đầu ra quyết định có cấu trúc: mô hình chỉ trả về Choice (lựa chọn), Score (chấm điểm) và Noul (phán đoán Boolean) trong các kiểu được định nghĩa trước, kèm theo xác suất được hiệu chuẩn.
Phán đoán song song nhiều luồng: một lần gọi có thể đồng thời trả lời nhiều câu hỏi độc lập, độ trễ không tăng tuyến tính theo số lượng câu hỏi.
Định tuyến theo cấp độ tin cậy: tự động phân luồng theo độ tin cậy đã hiệu chuẩn — độ tin cậy cao thì thực thi trực tiếp, độ tin cậy trung bình thì chuyển cho mô hình lớn kiểm tra, độ tin cậy thấp thì chuyển cho người xử lý.
Lớp lọc phía trước Agent: đảm nhiệm các quyết định nhỏ tần suất cao như định tuyến, phân loại, xác minh và kiểm tra trạng thái, giúp giảm hơn 90% số lần gọi mô hình lớn đắt đỏ.
Đảm bảo không có lỗi định dạng: đầu ra được khóa chặt trong Schema định trước, tỷ lệ lỗi kiểu về mặt toán học là 0%, có thể trực tiếp tích hợp vào quy trình mã hóa.
Phán đoán thời gian thực ở cấp mili giây: phản hồi trong 70–500 mili giây, chi phí khoảng $0.0004 cho mỗi quyết định, giúp AI lần đầu tiên có thể tham gia các tình huống nhạy cảm với độ trễ như điều khiển trò chơi, lọc nội dung thời gian thực và ra quyết định giao dịch.

Loại bỏ tự hồi quy, chuyển sang lấy mẫu song song: LLM truyền thống tạo từng Token theo thứ tự, độ dài đầu ra càng lớn thì số bước giải mã càng nhiều; Jev sử dụng parallel sampler do mình phát triển để đồng thời tạo ra mọi kết quả phán đoán trong một lần tính toán xuôi, không cần giải mã từng chữ.
Giới hạn không gian đầu ra: nhà phát triển định nghĩa trước Schema (ví dụ refund_risk={low, medium, high}), mô hình chỉ phân bổ xác suất trong các lựa chọn này. Đổi mức độ tự do lấy hiệu suất, đầu ra luôn có thể phân tích và được mã trực tiếp tiếp nhận, qua đó loại bỏ ảo giác định dạng và lỗi kiểu ngay từ cơ chế.
Phương pháp huấn luyện RLCD: Reinforcement Learning for Calibrated Decisions (học tăng cường cho quyết định được hiệu chuẩn): RLHF tối ưu hóa sở thích của con người, RLVR tối ưu hóa câu trả lời có thể xác minh, còn RLCD tối ưu hóa việc “phán đoán có đúng hay không” và “độ tin cậy mà mô hình tự nhận có trung thực hay không”. Khi mô hình báo độ chắc chắn 90% cho một nhóm tác vụ, khoảng 90% trong số đó phải thực sự đúng; đây là tiền đề toán học của việc phân luồng tự động.
Độ tin cậy chính là giao diện: mọi đầu ra đều kèm xác suất được hiệu chuẩn, phần mềm định tuyến theo ngưỡng: >0.90 tự động thực thi, 0.7–0.9 chuyển cho mô hình lớn kiểm tra, <0.7 chuyển cho người xử lý — biến tính không chắc chắn thành thông tin hiển thị rõ ràng cho hệ thống.

Đăng ký Early Access: truy cập trang web TypeSafe AI https://typesafe.ai/, tham gia waitlist và sau khi được chấp thuận, lấy API key tại console.typesafe.ai.
Dùng thử Playground: cấu hình câu hỏi và định nghĩa Schema đầu ra trong Playground của Console để trực quan xem kết quả quyết định kèm xác suất.
Định nghĩa Schema: dùng JSON để khai báo trước các câu hỏi cần phán đoán và kiểu dữ liệu (Choice/Score/Noul cùng các lựa chọn). Đây là công việc chuẩn bị duy nhất bắt buộc trước khi gọi API.
Gọi API: gửi yêu cầu POST đến https://api.typesafe.ai/v1/systemone, điền ID mô hình là jev-latest, cung cấp nội dung phi cấu trúc và nhận về phán đoán có cấu trúc cùng xác suất được hiệu chuẩn.
Sử dụng SDK chính thức: cài typesafe-sdk cho Python, cài @typesafe-ai/sdk cho JS/TS; SDK tự động xử lý việc tạo yêu cầu và kiểm tra kiểu.

Độ trễ cực thấp: phản hồi đầu cuối trong 70–500 mili giây, nhanh hơn các mô hình lớn tiên tiến 40–200 lần, lần đầu đưa phán đoán AI vào các tình huống thời gian thực.
Chi phí cực thấp: đầu vào 0.042 đô la/triệu token, đầu ra miễn phí, khoảng $0.0004 cho mỗi quyết định, rẻ hơn GPT tối đa 444 lần.
Không có lỗi định dạng: đầu ra được khóa chặt trong Schema định trước, tỷ lệ lỗi kiểu về mặt toán học là 0%.
Độ tin cậy có thể hiệu chuẩn: mỗi phán đoán kèm xác suất trung thực (được huấn luyện bằng RLCD), hệ thống có thể tự động phân luồng theo ngưỡng; đây là tiền đề toán học để triển khai tự động hóa.
Phán đoán song song nhiều luồng: một lần gọi đồng thời trả lời nhiều câu hỏi độc lập, độ trễ không tăng tuyến tính theo số lượng câu hỏi.
Duy trì năng lực ngữ nghĩa tổng quát: so với bộ phân loại truyền thống, mô hình có thể xử lý tác vụ mới ngay cả khi không có ví dụ, không cần huấn luyện lại cho từng loại phán đoán.

Trang web dự án: https://typesafe.ai/blog/introducing-system-one-models-and-jev

Lọc nội dung và sàng lọc sơ bộ đề xuất: theo thời gian thực ẩn các nội dung kích động tranh cãi hoặc quảng cáo trong luồng thông tin, hoặc sàng lọc sơ bộ mức độ liên quan bằng AI cho hàng chục nghìn mục thông tin thu thập được, chỉ giao phần sàng lọc chuyên sâu cho mô hình đắt tiền.
Định tuyến yêu cầu và phân luồng chăm sóc khách hàng: một email có thể đồng thời xác định bộ phận phụ trách, mức độ khẩn cấp, rủi ro hoàn tiền và có cần người can thiệp hay không; các yêu cầu có độ tin cậy cao được xử lý tự động ngay.
Sàng lọc sơ bộ rủi ro và tuân thủ: phân cấp rủi ro và xuất xác suất cho giao dịch, tín dụng và nội dung UGC; tự động cho phép các trường hợp có độ tin cậy cao, chuyển trường hợp có độ tin cậy thấp cho người xử lý hoặc mô hình mạnh kiểm tra.
Lớp quyết định trong quy trình Agent: đảm nhiệm các phán đoán nhỏ tần suất cao như chọn công cụ, sắp xếp kết quả, kiểm tra trạng thái và quyết định có kết thúc hay không, giúp giảm hơn 90% số lần gọi mô hình lớn đắt đỏ.