Jev 運営中

JevはTypeSafe AIが提供するAI構造化意思決定モデルです。モデルは会話、コード作成、文章生成を行わず、ただ一つのこと、高頻度の意思決定だけを実行します。非構造化情報を入力すると、1回の並列計算で、校正済み確率を伴う構造化された判断を瞬時に出力します。遅延はわずか70–500ミリ秒、入力は100万tokenあたり0.042米ドル、出力は無料で、型エラー率は0%です。Agentシステムの前段にある反射弧として、ルーティング、分類、リスク管理の初期審査、コンテンツフィルタリングなどの高頻度な判断を担い、最先端の大規模モデルは複雑な推論に集中できます。世界知識を持つスーパー意思決定器です。

構造化された意思決定の出力：モデルは事前定義された型の中からChoice（選択）、Score（スコア）、Noul（ブール判定）だけを返し、校正済み確率も付与します。
複数経路の並列判定：1回の呼び出しで複数の独立した質問に同時に回答でき、遅延は質問数に比例して増加しません。
信頼度に基づく段階的ルーティング：校正済み信頼度に応じて自動振り分けします。高信頼度なら直接実行、中信頼度なら大規模モデルで再確認、低信頼度なら人手に回します。
Agent向け前段フィルタリング層：ルーティング、分類、検証、状態確認などの高頻度な小さな意思決定を引き受け、高価な大規模モデルの呼び出しを90%以上削減します。
フォーマットエラーゼロの保証：出力は事前設定したSchema内に厳密に限定され、型エラー率は数学的に0%です。コードパイプラインに直接組み込めます。
ミリ秒単位のリアルタイム判定：応答時間は70–500ミリ秒、1回の意思決定は約$0.0004です。AIを初めてゲーム操作、リアルタイムコンテンツフィルタリング、取引判断など遅延に敏感な場面で利用できます。

自己回帰を廃止し、並列サンプリングに変更：従来のLLMはTokenを順番に生成するため、出力が長いほどデコード手順が増えます。Jevは独自開発のparallel samplerにより、1回の順方向計算で全ての判定結果を同時に生成し、逐語的なデコードを必要としません。
出力空間を制限：開発者があらかじめSchema（例：refund_risk={low, medium, high}）を定義すると、モデルはこれらの選択肢内でのみ確率を割り当てます。自由度と引き換えに効率を高め、出力は常に解析可能で、コードから直接利用できます。仕組み上、フォーマットの幻覚と型エラーを排除します。
RLCDトレーニング：Reinforcement Learning for Calibrated Decisions。RLHFは人間の好みを最適化し、RLVRは検証可能な答えを最適化します。一方RLCDは「判断が正しいか」と「モデルが示す信頼度が正直か」を最適化します。モデルが一連のタスクについて90%の確信度を示した場合、そのうち約90%が実際に正しい状態を目指します。これは自動振り分けの数学的前提です。
信頼度をインターフェースに：各出力には校正済み確率が付与され、ソフトウェアはしきい値に基づいてルーティングします。>0.90なら自動実行、0.7–0.9なら大規模モデルで再確認、<0.7なら人手に回し、不確実性をシステムに明示します。

Early Accessに申請：TypeSafe AI公式サイト https://typesafe.ai/ にアクセスしてwaitlistに登録し、承認後にconsole.typesafe.aiでAPI keyを取得します。
Playgroundで試用：ConsoleのPlaygroundで質問を設定し、出力Schemaを定義すると、確率付きの意思決定結果を視覚的に確認できます。
Schemaを定義：判定する質問と型（Choice/Score/Noulおよびその選択肢）をJSONで事前に宣言します。これは呼び出し前に必要な唯一の準備です。
APIを呼び出す：https://api.typesafe.ai/v1/systemone にPOSTリクエストを送り、モデルIDにjev-latestを指定します。非構造化コンテンツを入力すると、構造化された判断と校正済み確率が返されます。
公式SDKを使用：Pythonではtypesafe-sdk、JS/TSでは@typesafe-ai/sdkをインストールすると、リクエストの構築と型検証を自動処理できます。

圧倒的な低遅延：エンドツーエンドの応答時間は70–500ミリ秒で、最先端の大規模モデルより40–200倍高速です。AIによる判定を初めてリアルタイムの場面で利用できるようにします。
極めて低コスト：入力は100万tokenあたり0.042米ドル、出力は無料で、1回の意思決定は約$0.0004です。GPTより最大444倍安価です。
フォーマットエラーゼロ：出力は事前設定したSchema内に厳密に限定され、型エラー率は数学的に0%です。
校正可能な信頼度：各判定には正直な確率が付与されます（RLCDトレーニング）。システムはしきい値に基づいて自動振り分けできます。これは自動化を実現する数学的前提です。
複数経路の並列判定：1回の呼び出しで複数の独立した質問に同時に回答でき、遅延は質問数に比例して増加しません。
汎用的な意味理解能力を維持：従来の分類器と比べ、新しいタスクにもゼロショットで対応でき、判定の種類ごとに再トレーニングする必要がありません。

公式サイト：https://typesafe.ai/blog/introducing-system-one-models-and-jev

コンテンツフィルタリングと推薦の事前審査：情報フィード内の煽動的な内容や広告をリアルタイムで折りたたんだり、数万件のクロール情報に対してAIによる関連性の事前審査を行ったりできます。精密な審査だけを高価なモデルに任せます。
チケットのルーティングとカスタマーサポートの振り分け：1通のメールから、担当部署、緊急度、返金リスク、人手対応の要否を同時に判定し、高信頼度のチケットは直接自動処理します。
リスク管理とコンプライアンスの初期審査：取引、信用審査、UGCコンテンツのリスクを分類して確率を出力します。高信頼度なら自動承認し、低信頼度なら人手または高性能モデルによる再確認に回します。
Agentパイプラインの意思決定層：ツールの選択、結果の順位付け、状態確認、終了の要否など、高頻度で小さな判断を担い、高価な大規模モデルの呼び出しを90%以上削減します。