記事のサマリー（TL;DR）
- OpenAIはDev DayでCEOサム・アルトマン氏が「Decisions API」を発表しました。これはTypeSafe AIが今月初めに公開したモデル「Jev」と似た機能を持つとされています。
- Jevはソフトウェア自動化向けに設計された、LLMをベースにした分類特化型モデルで、開発者が与えた選択肢に対して確率を低コスト・高速に出力します。Decisions APIも同様の仕組みとみられ、OpenAIのLunaモデルに事前定義された選択肢（画像分類のカテゴリやエージェントの振る舞いなど）を選ばせる用途で説明されています。
- サイバーセキュリティ専門家のShapor Naghibzadeh氏はハッカソンでJevを使い、エージェントの行動を監視するデモを作成しました。この監視コストはJevで2.94ドルである一方、フロンティアLLMを使うと372ドルかかると説明されています。
詳細
OpenAIの「Decisions API」とTypeSafeの「Jev」
火曜日に開催されたOpenAIのDev Dayイベントで注目を集めた発表の一つが、CEOサム・アルトマン氏が言及した新しい「Decisions API」でした。このAPIは、TypeSafe AIが今月リリースしたモデル「Jev」と類似の機能を提供しているとみられています。Jevはソフトウェア自動化のために明確に設計されたモデルで、LLMをベースにした一種の高性能な分類器です。開発者がJevに選択肢の集合を与えると、Jevはそれらを確率として低コストかつ高速に出力します。
OpenAIのDecisions APIも同種の製品とみられます。アルトマン氏はイベントで、このAPIについて、OpenAIのLunaモデルに対し、画像を分類する際のカテゴリや、エージェントの異なる振る舞いなど、あらかじめ定義された選択肢の中から選ばせる手段だと説明しました。アルトマン氏は「モデルをその選択に集中させることで、画像理解や幅広い言語対応、安全対策といった能力を維持しながら、非常に高速にすることができる」と述べています。
TypeSafeはTechCrunchからの質問に回答しませんでしたが、元OpenAIのエンジニアで強化学習の共同発明者でもあるCEOのDiogo Almeida氏は、X（旧Twitter）上で「クローン戦争」の始まりだと冗談めかして投稿しました。同氏はさらに、OpenAIの関心は「System One互換の形で構築することが今後の方向性であることの兆候かもしれない」と付け加えています。なお「System One」とは、TypeSafeが使う用語で、高速で直感的な思考を指し、熟慮的な推論を指す「System 2」と対比されるものです。
この背景にあるのは、現在知られている形のLLMは、比較的遅く高コストであるため、多くのソフトウェア用途には適していないという考え方です。開発者はJevをLLMの補助として使うことで、処理が高速かつ低コストになることを確認してきたとされています。
Decisions APIがJevとどれほど類似しているかは明確ではありません。OpenAIはこれを限定プレビューとしてリリースしており、TechCrunchは今のところ、開発者が実際に試用している様子を確認していません。ただし、X上での反応を見る限り、関心は明らかに高いとされています。
Decisions APIは、インターネット上に存在するJev型APIの唯一の例ではなく、他のスタートアップも同様のモデルを展開しており、OpenAIがこうしたモデルを手がける最後の大手テック企業にはならないだろうと記事は述べています。重要な論点は、これら各意思決定モデルの出力が、実際の状況にどれだけ適切に調整（キャリブレーション）されているかという点です。Almeida氏は、自社の強みは、統計的に有用な出力を生成するために作成する合成データにあると述べています。
「速くて安いのは非常に簡単なことです」とAlmeida氏は先週TechCrunchに語りました。「本当に速くて安いものが欲しいなら、サイコロを使えばいい。知性こそが難しい部分であり、私の目指すところは常に、ドルあたりの知性というパレート曲線を押し上げることです」。
エージェント監視への応用
公開からわずか数週間ですが、こうしたモデルには今後の用途があるとみられており、有力な応用先の一つがAIエージェントの監視・保護だとされています。OpenAIは、同社のエージェントがオープンなインターネット上で不適切な挙動を示した一連の事例を受けて導入した新たなセキュリティ対策の一つとして、「相当な計算コスト」をかけて別のモデルに不適切な行動を監視させる仕組みを採用しています。
長年サイバーセキュリティに携わってきた専門家で、スタートアップQueryStoryを率いるShapor Naghibzadeh氏は、Jevのようなモデルを使えば、こうした監視をはるかに低コストで実現できると考えています。同氏は先週末開催されたハッカソンで、Jevを用いてエージェントの各行動を、与えられたタスクと照合してチェックするデモを構築しました。このデモは、問題があると高い確度で判断された行動をブロックし、判断が難しいものはレビュー対象としてフラグを立て、それ以外は許可する仕組みです。
理論上、このような監視があれば、Hugging Faceで発生した事例を阻止できた可能性があるとされています。また、この種の監視コストは、Jevを使った場合は2.94ドルであるのに対し、フロンティアLLMを使った場合は372ドルかかるとされています。注目すべき点は、Jevはあらゆるエージェントの行動に対して実行しても十分安価だとみられることで、これによりエージェント全体の信頼性を高めうるレビュー層を提供できるとされています。これはTypeSafeが実現を目指していたことであり、今やOpenAIもその価値を認識したことになる、と記事は結んでいます。