Awesome Jev cung cấp những gì
Awesome Jev là một danh mục được tuyển chọn, có nguồn tham chiếu, về các dự án được xây dựng với Jev, mô hình System One của TypeSafe AI. Đây không phải là một SDK; thay vào đó, kho lưu trữ giúp nhà phát triển tìm các tài nguyên chính thức, thư viện máy khách cộng đồng, công cụ dành cho nhà phát triển, tích hợp quy trình làm việc, bản minh họa, dự án tái tạo và dự án đánh giá.
Jev được thiết kế cho các quyết định phần mềm có phạm vi giới hạn thay vì việc tạo văn bản tự do. Nó kết hợp trạng thái chương trình không có cấu trúc với các câu hỏi có kiểu, sau đó trả về các câu trả lời bị giới hạn cùng xác suất tương ứng. Mã ứng dụng vẫn chịu trách nhiệm quyết định cách xử lý những câu trả lời đó.
trạng thái chương trình + câu hỏi có kiểu
→ câu trả lời bị giới hạn + xác suất
→ logic ứng dụng xác địnhDanh mục ưu tiên các dự án có mã nguồn công khai, sử dụng Jev cụ thể, các giới hạn được ghi chép và bằng chứng có thể tái tạo. Các mục được liệt kê được xem xét lần cuối vào ngày 18 tháng 9 năm 2026, nhưng hệ sinh thái này được mô tả là mới và phát triển nhanh.
Tìm hiểu các nguyên thủy quyết định cốt lõi
Trước khi chọn một dự án, hãy xác định loại quyết định mà ứng dụng của bạn phải đưa ra. README nêu bật ba nguyên thủy câu hỏi.
- Choice: Chọn từ một tập hợp câu trả lời khả dĩ bị giới hạn. Phù hợp cho việc phân loại, định tuyến, phân loại ưu tiên và lựa chọn hành động.
- Score: Tạo ra một đánh giá có giới hạn, có thể hỗ trợ xếp hạng, sắp xếp ưu tiên và đánh giá dựa trên tiêu chí.
- Noul: Biểu diễn một quyết định xác suất theo kiểu có, không hoặc chưa biết. Có thể hỗ trợ xác minh, kiểm duyệt, kiểm tra và các cơ chế bảo vệ.
Các nguyên thủy này hữu ích khi có thể xác định trước những kết quả được phép. Jev không được định vị như một giải pháp thay thế cho trình tạo văn bản đa dụng.
Vòng lặp quyết định khái niệm
README không cung cấp cú pháp dành riêng cho SDK, vì vậy mã giả sau đây chỉ mang tính khái niệm, không phải ví dụ có thể thực thi trực tiếp.
state = collect_relevant_program_state()
question = define_typed_question(
allowed_answers = ["route_a", "route_b", "abstain"]
)
result = ask_jev(state, question)
if result.probability >= validated_threshold:
apply_deterministic_action(result.answer)
else:
request_human_review()Mẫu hình quan trọng là Jev đề xuất một quyết định bị giới hạn cùng các xác suất, trong khi mã ứng dụng thông thường thực thi các ngưỡng, quyền hạn và tác động phụ.
Chọn điểm bắt đầu
Hãy bắt đầu với tài liệu chính thức trước khi áp dụng một tích hợp cộng đồng.
- Đọc bài giới thiệu về System One và Jev để tìm hiểu giao diện mô hình, các tuyên bố đã công bố, bản minh họa và lưu ý.
- Sử dụng tài liệu chính thức để xem các khái niệm, nguyên thủy, chi tiết API, mẫu hình và hướng dẫn SDK hiện tại.
- Truy cập TypeSafe AI để xem tổng quan sản phẩm và điểm truy cập chương trình dùng thử sớm.
- Chọn SDK TypeScript và JavaScript chính thức hoặc SDK Python tùy theo ngăn xếp ứng dụng của bạn.
SDK JavaScript và TypeScript cung cấp các kiểu câu trả lời được suy luận. SDK Python hỗ trợ việc sử dụng đồng bộ và bất đồng bộ. Để so sánh các nhà cung cấp, bộ chuyển đổi System One cho Python chính thức cung cấp một giao diện chung cho Jev và các nhà cung cấp LLM.
Cài đặt và thiết lập
Awesome Jev là một danh mục, vì vậy không có môi trường chạy ứng dụng dùng chung hoặc lệnh cài đặt toàn cục. Việc thiết lập phụ thuộc vào SDK hoặc dự án bạn chọn. Hãy sử dụng quy trình này để tránh dựa vào các giả định đã lỗi thời.
- Chọn một triển khai được duy trì. Ưu tiên SDK chính thức cho lần tích hợp đầu tiên, sau đó cân nhắc các thư viện máy khách cộng đồng khi cần một ngôn ngữ hoặc framework cụ thể.
- Mở kho lưu trữ đã chọn. Làm theo README riêng của kho lưu trữ để cài đặt gói, xác thực, thiết lập biến môi trường và đáp ứng yêu cầu phiên bản.
- Tham khảo tài liệu API hiện tại. Xác nhận chính xác các hàm khởi tạo, trường yêu cầu, kiểu phản hồi và hành vi bất đồng bộ.
- Tạo một câu hỏi có kiểu tối thiểu. Bắt đầu với một tập hợp nhỏ các kết quả có thể hiểu rõ và không chồng chéo.
- Ghi lại câu trả lời và xác suất. Lưu đủ bằng chứng để đánh giá độ chính xác, ngưỡng, độ trễ và các trường hợp từ chối trả lời.
- Thêm các cơ chế kiểm soát xác định. Không cho phép một câu trả lời xác suất tự nó kích hoạt hành động không thể đảo ngược hoặc có tác động lớn.
Máy khách cho ngôn ngữ và framework khác
Danh mục bao gồm các tích hợp cộng đồng cho một số môi trường. Ví dụ gồm typesafe-go cho Go, jev cho Elixir và OTP, và laravel-typesafe-jev cho Laravel. Người dùng Python cũng có thể xem xét jevclient bất đồng bộ.
Các dự án này là những kho lưu trữ riêng biệt, mỗi kho có hướng dẫn thiết lập và giấy phép riêng. Việc được đưa vào Awesome Jev không phải là sự chứng thực của TypeSafe AI.
Xây dựng quy trình làm việc Jev cơ bản
Bước 1: Xác định một tác vụ có phạm vi giới hạn
Chọn một quyết định có tập đầu ra hữu hạn. Các tác vụ khởi đầu phù hợp gồm phân công một yêu cầu đến hàng đợi, đánh giá một bản ghi theo tiêu chí, kiểm tra xem bằng chứng có hỗ trợ một khẳng định hay không, hoặc xếp hạng một nhóm nhỏ ứng viên.
Một định nghĩa định tuyến mang tính khái niệm có thể như sau:
Trạng thái:
yêu cầu đến, ngữ cảnh tài khoản, siêu dữ liệu chính sách
Lựa chọn có kiểu:
billing | technical_support | abuse_review | unknown
Quy tắc áp dụng:
chỉ định tuyến khi câu trả lời được chọn đạt ngưỡng đã kiểm thửBước 2: Cung cấp trạng thái liên quan
Cung cấp thông tin cần thiết cho quyết định mà không kỳ vọng mô hình tự tạo ra các sự thật còn thiếu. Giữ các quy tắc chính sách và ràng buộc quan trọng ở dạng tường minh. Nếu một hành động tiếp theo cần dữ liệu đang thiếu, hãy hướng quy trình đến việc từ chối thực hiện hoặc chuyển cấp thay vì đoán.
Bước 3: Đặt câu hỏi có kiểu
Sử dụng Choice cho phân loại hữu hạn, Score cho đánh giá có phạm vi giới hạn, hoặc Noul cho kiểm tra dạng có, không hoặc chưa biết. Làm theo tài liệu của SDK đã chọn để biết chính xác định dạng yêu cầu.
Bước 4: Diễn giải xác suất
Một phản hồi hợp lệ theo schema chỉ chứng minh rằng kết quả phù hợp với cấu trúc được yêu cầu. Điều đó không chứng minh quyết định là chính xác. Hãy xem xác suất được trả về là một đầu vào cho chính sách đã được kiểm thử trên các ví dụ có nhãn.
if confident and action_is_allowed:
continue_workflow()
elif review_is_available:
send_to_human()
else:
stop_safely()Bước 5: Giữ quá trình thực thi mang tính tất định
Sử dụng mã thông thường để thực thi quyền hạn, các chuyển đổi hợp lệ, giới hạn tốc độ và kiểm tra an toàn. Việc tách biệt này đặc biệt quan trọng đối với kiểm duyệt, thực thi mã, lệnh gọi công cụ, thiết bị vật lý và các hoạt động có tác động lớn khác.
Áp dụng Jev cho các trường hợp sử dụng phổ biến
Định tuyến ngữ nghĩa
Đối với định tuyến HTTP, hono-jev-router định tuyến các yêu cầu Hono theo ý nghĩa. tiershift tập trung vào định tuyến mô hình theo chính sách cho TypeScript và Python, trong khi jev-codex-router chọn mô hình Codex, khả năng suy luận và thiết lập tốc độ cho từng lượt.
Lọc và phân loại dữ liệu
jev-curate lọc và chấm điểm các luồng Parquet và JSONL. jevlogs phân loại các nhật ký OpenTelemetry trước khi thực hiện phân tích tốn kém hơn. Các tùy chọn hướng đến cơ sở dữ liệu gồm tiện ích mở rộng PostgreSQL pg-jev và jevsql cho việc lọc, xếp hạng, phân loại và chấm điểm kiểu SQL bằng các vị từ ngôn ngữ tự nhiên.
Tác tử và lớp bảo vệ
Các dự án hướng đến tác tử minh họa cách các quyết định có kiểu có thể nằm giữa mô hình và các công cụ của mô hình. jev-guard phân công các kết quả cho phép, hỏi hoặc từ chối đối với lệnh gọi công cụ. winnow đánh giá kết quả công cụ trước khi thêm chúng vào ngữ cảnh Claude Code, còn Canny ghi lại bằng chứng và phản biện các khẳng định hoàn tất không có cơ sở.
Các mô hình này phát huy hiệu quả nhất khi lớp quyết định không thể bỏ qua việc cấp quyền mang tính tất định. Kết quả cho phép vẫn phải được kiểm tra dựa trên các chính sách quyền hạn và an toàn thực tế của ứng dụng.
Hệ thống tương tác và thời gian thực
Danh mục này bao gồm các thử nghiệm trò chơi và robot, trong đó phán đoán xác suất được tách khỏi các quy tắc thế giới mang tính tất định. typesafe-snake đưa ra một quyết định có kiểu ở mỗi nhịp trò chơi, trong khi mã tạo ra các nước đi hợp lệ. heist-one sử dụng Jev để phán đoán về lính canh, còn mã mang tính tất định điều khiển thế giới trò chơi. jev-drone khám phá các quyết định chiến thuật chậm hơn trong một thử nghiệm máy bay bốn cánh quạt MuJoCo.
Mẹo nâng cao để đưa ra quyết định đáng tin cậy
Hiệu chỉnh ngưỡng trên dữ liệu của riêng bạn
Đừng sao chép ngưỡng độ tin cậy từ một bản minh họa không liên quan. Thu thập các ví dụ có nhãn từ môi trường dự định sử dụng và đo lường kết quả ở các ngưỡng khác nhau. jevcal được liệt kê là công cụ để điều chỉnh ngưỡng độ tin cậy và kiểm tra độ lệch.
Đo lường rủi ro có chọn lọc và độ trễ
Cho phép hệ thống từ chối thực hiện khi độ tin cậy không đủ. Sau đó đo cả độ chính xác của các quyết định được chấp nhận và tỷ lệ trường hợp được chuyển đến phương án dự phòng. jev-benchmarks cung cấp đánh giá có thể tái lập, tập trung vào hiệu chỉnh, rủi ro có chọn lọc và độ trễ.
So sánh các phương pháp ra quyết định
Sử dụng các phép so sánh có kiểm soát khi quyết định Jev có phù hợp với một tác vụ hay không. Janus đo lường thời điểm nên sử dụng Jev thay cho các mô hình khác và định tuyến phù hợp. Dự án typesafe-ai-benchmark cung cấp một cổng LLM mô phỏng định dạng đầu ra của System One để phục vụ việc so sánh.
Xử lý đệ quy các hệ phân loại lớn
Khi một hệ phân loại lớn hơn giới hạn tùy chọn trực tiếp của mô hình, hãy chia quyết định thành các giai đoạn có phạm vi giới hạn thay vì cung cấp một không gian đầu ra không bị giới hạn. jev-tree minh họa việc lựa chọn đệ quy trên các hệ phân loại lớn.
Kết hợp xác thực cấu trúc và ngữ nghĩa
Xác thực lược đồ cục bộ và phán đoán ngữ nghĩa giải quyết những vấn đề khác nhau. zod-jev kết hợp xác thực cấu trúc Zod với xác thực ngữ nghĩa Jev. Ngay cả khi có cả hai lớp, hãy xác thực hiệu suất của tác vụ trên dữ liệu đại diện.
Bảo toàn bằng chứng
Đối với mỗi quyết định, hãy cân nhắc ghi lại phiên bản trạng thái đầu vào, câu hỏi đã định kiểu, các câu trả lời được phép, câu trả lời được chọn, xác suất, ngưỡng, đường dẫn dự phòng và hành động xác định cuối cùng. Điều này hỗ trợ việc kiểm toán, phân tích lỗi, hiệu chỉnh và phát hiện sai lệch.
Lưu ý quan trọng: Kết quả hợp lệ theo lược đồ không nhất thiết là một quyết định đúng. Hãy xác thực trên dữ liệu của bạn, hiệu chỉnh các ngưỡng, đặt những hành động có tác động lớn sau các bước kiểm tra xác định và cung cấp phương án chuyển sang xử lý thủ công.
Thận trọng khi khám phá các bản tái triển khai mở
Thư mục này cũng liên kết đến các giao diện độc lập tương tự Jev và những bản triển khai mở, bao gồm openjev-sglang, jevmlx, openvons và openjev. Các dự án này được mô tả rõ ràng là những nỗ lực độc lập, không phải bản phát hành chính thức của TypeSafe.
Khi đánh giá một bản tái triển khai mở, hãy xác minh khả năng tương thích API, yêu cầu mô hình, hỗ trợ phần cứng, việc thực thi ràng buộc, hiệu chỉnh xác suất, các phương thức được hỗ trợ và những hạn chế đã công bố. Định dạng đầu ra tương tự không đảm bảo hành vi tương đương.
Đóng góp dự án
Nếu bạn đã xây dựng một dự án Jev, hãy đọc CONTRIBUTING.md của kho lưu trữ và mở một pull request. Các dự án nhỏ được hoan nghênh nếu mã nguồn công khai của chúng thể hiện rõ một vòng lặp quyết định Jev cụ thể. Hãy ghi lại tác vụ, các đầu ra đã định kiểu, cách xử lý xác suất, các cơ chế kiểm soát xác định, hạn chế và các bước tái hiện.
Awesome Jev được phát hành theo CC0 1.0 Universal. Mỗi dự án được liên kết vẫn giữ giấy phép riêng, vì vậy hãy xem xét các điều khoản của dự án đó trước khi sử dụng hoặc sửa đổi mã.
Kết luận
Awesome Jev là bản đồ thực tiễn về hệ sinh thái System One đang hình thành. Hãy bắt đầu với tài liệu chính thức và SDK dành cho ngôn ngữ của bạn, xây dựng một quyết định đã định kiểu với phạm vi giới hạn và duy trì việc thực thi dưới sự kiểm soát xác định. Trước khi sử dụng trong môi trường production, hãy đánh giá trên dữ liệu đại diện, hiệu chỉnh các ngưỡng, đo lường số lần từ chối và độ trễ, đồng thời duy trì một phương án chuyển sang xử lý thủ công an toàn cho các trường hợp không chắc chắn hoặc có hậu quả đáng kể.