TypeSafe AIのJevとTransformerや拡散モデルの違い
目次
元OpenAIでChatGPTやInstructGPTの基盤となったRLHF(人間からのフィードバックによる強化学習)の共同発明者、Diogo Almeida氏らが立ち上げたTypeSafe AIが、2026年9月15日にステルスを解除して第一号モデル「Jev」を発表した。
シードラウンドで4,000万ドル(DCVC主導)を調達している。
Jevは、チャットUIで人間と対話するための自然言語生成を捨て、ソフトウェア内部の条件分岐やルーティングに特化した「システム1モデル(System One Model)」と位置づけられている。
公開されたドキュメントや発表資料から、オープンウェイトの有無、料金体系、Transformerや拡散言語モデルとのアーキテクチャの違いをまとめた。
提供形態と料金体系
Jevはオープンウェイトではなく、完全クローズドなマネージドAPIとして提供されている。
現在は公式コンソールで早期アクセスのウェイトリストを受け付けており、審査に通った開発者へ順次APIキーを発行している。
自社VPCやオンプレミス環境へデプロイしてセルフホストする方法は現時点ではない。
Hacker Newsの議論でも、社外へデータを送信できない金融やセキュリティ基盤への導入ネックとして、オープンウェイト版がない点が指摘されていた。
APIキー未発行の開発者向けには、OpenAIなどの既存LLMでJevの型スキーマを再現する互換アダプター(system-one-adapter-python)がGitHubで公開されている。
従来のLLMとの料金比較。
| 項目 | 料金 | 従来のフロンティアLLMとの差 |
|---|---|---|
| 入力トークン | $0.042 / 100万トークン($42 / 10億トークン) | GPT-4o($2.50)の約60分の1、GPT-4o-mini($0.15)の約3.5分の1 |
| 出力トークン | $0(完全無料) | 従来のモデルは出力が入力の3〜5倍高額だが、Jevは課金対象外 |
出力トークンが無料なのは、モデルがテキストを逐次生成せず、固定された確率値を一括出力するために入力処理だけで計算が完了する仕組みになっている。
同時公開されたデモでは、Jevを使って名作FPSゲーム『DOOM』を毎秒10回(100ms周期)の判断ループで操作している。
ゲーム内ステートを入力し、前進や射撃の選択肢を返させ続ける構成で、1時間あたりのAPI費用は約7ドル。
1リクエストあたり約$0.000194(約0.03円)の計算になり、従来のLLMで同様のループを回す場合と比べて数十倍から数百倍安く抑えられる。
自然言語生成を省いた設計
TypeSafe AIは、ダニエル・カーネマンの二重過程理論を引用して自社モデルを「システム1」と位置づけている。
| 思考モデル | 特徴 | 該当するAI |
|---|---|---|
| システム2(遅い思考) | 論理的に順を追って考え、文章を逐次生成する | 従来のフロンティアLLM |
| システム1(速い思考) | 直感や反射。決まった選択肢や重みから即座に判断する | Jev |
業務システムやWebバックエンドでAIを使う場合、必要な処理の大半は返信文の作成ではなく、問い合わせチケットの担当部署振り分けや請求書の不正検知といった内部判断に集中する。
従来のLLMにJSON Modeなどでこれらの判断を出力させると、不要な前置き文が出たり、JSONの構文エラーでリトライの手間が発生する。
Jevは文章生成の機能を省き、型安全な判断値だけを返すことで、この手戻りをなくそうとしている。
モデル名の「Jev」は、19世紀の経済学者ジェヴォンズが唱えた「ジェヴォンズのパラドックス」から取られていて、効率化によって利用コストが下がると消費量は減るどころか爆発的に増えるという法則を指している。
判断AIの遅延を数十ミリ秒台に短縮し、コストをほぼタダに近づけることで、コード内のありとあらゆるif文にAI判断を組み込ませる狙いがある。
推論ループを回さない並列サンプラー
自己回帰型TransformerとJevの違いは、推論ループの有無にある。
通常のLLMで分類や構造化出力を得る場合、モデルは最初の文字 { を予測し、次に " を予測し、トークンを1個ずつ順番に出力していく。
この逐次サンプリング(自己回帰デコーディング)はGPUのメモリ帯域を消費し、出力がわずか数行であっても数百ミリ秒から数秒の遅延が出る。
Jevはトークンを生成するループを回さず、入力コンテキストを受け取った後、一度のフォワードパスで全選択肢の確率分布を計算する並列サンプラー(Parallel Sampler)を採用している。
一連の順伝播が1回で終わるため、全体のレイテンシは70〜500msの範囲になる。
出力形式の3つの型プリミティブ。
| プリミティブ | 内容 | 出力値 |
|---|---|---|
Choice | 最大255個の定義済み選択肢(Enum)から1つ選ぶ | 選択結果、全候補の確率分布、確信度(0.0〜1.0) |
Score | 2〜10段階のルーブリック(評価尺度)に基づく採点 | 評価点、確率分布、確信度(0.0〜1.0) |
Noul | ベルヌーイ分布に基づくYes/Noの二値判定 | 0.0〜1.0の浮動小数点(Yesの確率値) |
定義された型の外側に文字を書き出す仕組み自体が存在しないため、構文エラーや型不一致のハルシネーションが仕組み上起きない。
拡散言語モデルとの処理の違い
最初から1文字ずつ出すのではなく全体を並列に扱うモデルとしては、近頃研究が進んでいる拡散言語モデル(Masked Diffusion Language Models / MDLMやdLLMなど)もある。
拡散言語モデルは、文章全体のすべてのトークンをマスク([MASK])やノイズで埋めた状態から始め、複数回のデノイジング(逆拡散過程)を経て徐々に文字を確定させていく。
前後の文脈を同時に考慮しながら並列にデコードできる利点があるものの、文章そのものを生成するモデルという枠組みに変わりはない。
ノイズを除去するために全層のフォワードパスを10〜50回ほど繰り返すため、推論遅延も自己回帰型と同等かそれ以上に重くなりやすい。
Jevと拡散言語モデルの主な相違点。
| 観点 | 拡散言語モデル(MDLM / dLLM等) | TypeSafe Jev |
|---|---|---|
| 主目的 | 自然言語の文章生成 | 構造化された判断・分類 |
| 出力形式 | トークン列(テキスト) | Choice / Score / Noul の確率値 |
| 推論回数 | 10〜50回以上の反復デノイジング | 単一のフォワードパス(1回) |
| レイテンシ | 数百ミリ秒〜数秒 | 70〜500ミリ秒 |
| モデルの分類 | 離散拡散生成モデル | 大規模分類・判断モデル |
Jevの並列サンプラーが拡散モデルに近いと言われることがあるのは、トークンの逐次生成を行わない並列評価という発想の類似から引き合いに出されている。
実装の実態は反復ノイズ除去とは異なり、エンコーダ型の内部表現から事前定義スキーマへ一発で確率を割り当てる並列ヘッドに近い。
RLCDによる確率のキャリブレーション
Jevを実際のコードに組み込む際は、出力に含まれる確信度(Confidence)の信頼性が前提になる。
従来のLLMをRLHFで訓練すると、人間好みの断定的な文章を書くように誘導され、実際には間違っている判断でも高い確信度を示してしまう(過信や迎合の問題)。
これに対し、Jevは「RLCD(Reinforcement Learning for Calibrated Decisions)」という独自の強化学習手法で訓練されている。
RLCDは、人間の主観的な好ましさではなく、客観的に検証可能な正解データとブライアスコア(Brier Score)などの適正スコアリングルールを用いて報酬を与える。
モデルが「確信度85%」と返した判断は、統計的にも85%の精度で的中するよう確率が調整される。
この性質により、プログラム側で確信度に応じたフォールバックを直接分岐できる。
# 確信度が95%以上なら完全自動処理、未満なら人間の確認へ回す
if result.answers["department"].confidence >= 0.95:
route_ticket(result.answers["department"].choice)
else:
escalate_to_human(ticket_id)
確率と確信度の出力を活かせる応用分野
Jevが返す出力は文章ではなく、キャリブレーションされた確率値や選択肢に限定される。
この特性を前提に置くと、テキスト生成とは異なる領域でいくつかの具体的な活用法が考えられる。
キャラクター会話ボットにおける感情とリアクションの分岐
Jev単体ではキャラクターのセリフそのものを生成できない。
その代わり、相手の発話や直前の文脈を入力し、キャラクターの内的感情や次のアクションを確率分布として即座に決定する「ステートマシン」として機能する。
ユーザーからの入力に対して、キャラクターが喜・怒・哀・楽のどの感情をどの比率で抱いたかを Choice や Score で取得し、その確率分布に基づいてリアクション(共感する、ツッコミを入れる、恥ずかしがって無視するなど)をプログラム側でサンプリングする。
従来の生成LLMで毎回「怒りつつも好意を隠せない返事をして」とプロンプトで指示すると、出力文のトーンが固定化したり推論待ち時間が伸びやすい。
前段にJevを挟んで感情パラメータや行動分岐を70〜500msで確定させ、後段の軽量な生成モデルや定型ボイスへ渡す構成にすることで、ランダム性とキャラクターの一貫性を低遅延で両立できる。
金融市場や適時開示の定性シグナル判定
株価のような時系列数値データの回帰予測は、Jevのような言語系分類器よりも数値データに特化した統計モデルが担う領域に当たる。
一方で、ニュース速報、適時開示、決算短信、SNSの投稿といったテキスト情報から市場への影響シグナルを抽出する用途には合致する。
大量の開示情報を受け取り、「暴落・不正リスクの兆候があるか」を Noul(Yesの確率値)で判定させたり、「事業への影響度」を Score(1〜10段階)で評価させるパイプラインを組む。
入力トークン費用が $0.042 / 100万トークンと極めて安いため、全銘柄の開示フィードを毎秒監視し続けるような高頻度な判定ループを低コストで維持できる。
キャリブレーションされた確信度が得られるため、「確信度98%以上のアラートのみ自動でポジション縮小や注文取り消しを実行する」といった安全策を直接コードに記述できる。
競馬や競艇などの公営競技における定性情報の数値化
競馬(最大18頭)や競艇(6艇)の着順・勝率予測は、最大255候補から1つを選ぶ Choice 型や、複勝圏内に入る確率を出す Noul 型のインターフェースと構造が一致している。
過去のレース結果、馬場状態、血統データ、パドックの気配、陣営のコメントといったテキスト情報を入力し、各候補の勝率や期待値を確率値として算出する使い方が想定される。
ただし、公営競技の予測精度は過去数十万レースのタイム指数やオッズ推移といった定量特徴量が大きく影響し、純粋な勝敗判定器としては勾配ブースティング木(LightGBM等)の統計モデルが優位に立つ。
Jevの実用的な位置づけは、競馬新聞の厩舎コメントや調教短評のような「人間が記述した非構造化テキスト」を高速かつ客観的にスコア化し、既存の数値予測モデルへ新たな特徴量として流し込む前処理エンジンとしての運用に向いている。