記事のサマリー(TL;DR)
- OpenAIはGPT‑6 Lunaを基盤とした「Decisions API」を一般提供開始し、境界のある(答えの範囲が限定された)質問に特化することで、Responses API経由のGPT‑6 Lunaと比べて最大10倍速い判定を可能にすると説明しています。
- パブリックベータ以降、GPT‑Liveとのネイティブ統合、再利用コンテキスト向けのプロンプトキャッシュ、米国およびEUでの推論リージョン対応を追加し、ネイティブJSON入力、質問指示への画像の組み込み、1リクエストあたり最大400件の質問(従来の2倍)に対応しました。
- Decisions APIは入力トークン100万あたり0.10ドル、キャッシュ入力は100万あたり0.01ドルで、出力トークン課金はなく、米国・EUでのリージョン処理や、対象顧客向けのZero Data Retentionにも対応しています。
詳細
Decisions APIとは
アプリケーションやエージェントは、ワークフローの中で「入力をどう分類するか」「リクエストをどこにルーティングするか」「次にどのアクションを取るか」といった小さな判断を多数行っています。個々の判断自体は単純ですが、規模が大きくなるとレイテンシとコストが積み重なるとOpenAIは述べています。
OpenAIは本日、Decisions APIを一般提供(Generally Available)すると発表しました。Decisions APIはGPT‑6 Lunaを基盤に構築されており、答えの範囲が限定された質問にLunaの能力を集中させることで、テキスト、画像、構造化入力からほぼリアルタイムの判断をアプリケーションやエージェントが行えるよう支援します。OpenAIによれば、Responses API経由でGPT‑6 Lunaを利用する場合と比較して、最大10倍高速だとしています。
パブリックベータからの変更点
パブリックベータ以降、以下の機能が追加されました。
- GPT‑Liveとのネイティブ統合
- 再利用されるコンテキスト向けのプロンプトキャッシュ
- 米国およびEUでの推論リージョン対応
また、開発者はネイティブJSON形式の入力を渡せるようになり、質問の指示に画像を含めることや、1リクエストあたり最大400件の質問(従来の上限の2倍)を行うことが可能になりました。アジアの複数リージョンでの処理能力増強を含め、レイテンシの改善も継続して行われているとのことです。
社内外でのDecisions APIの活用例
早期導入の段階で、Decisions APIはさまざまなユースケースに適用可能であることが示されているとOpenAIは述べています。
OpenAI社内では、複数のチームが製品や業務のワークフローにDecisions APIを適用しています。
- dotsチームは、応答時間の短縮とインタラクティブ性の向上のために利用
- Personal Financeチームは、取引明細の分類に利用
- Communicationsチームは、報道をテーマ別に分類し、それが主要なナラティブを強化するものか、あるいは異議を唱えるものかをスコア化することで、重点的に確認すべき内容の特定に役立てている
これらの事例は、迅速で構造化された意思決定が、入ってくる情報を有用なアクションへと変換できることを示しているとOpenAIは説明しています。顧客側でも同様に幅広い用途で活用されており、AIコストの正確な帰属管理から、語学学習体験をよりインタラクティブにする取り組みまで応用されているとのことです。
判断の種類を選択する
Decisions APIの使い方は、開発者が質問とその許容される回答を定義し、テキスト・画像・ネイティブJSONとしてコンテキストを与えるというものです。APIは「確率」「選択(choice)」「スコア」の3種類の回答タイプのいずれかを返し、アプリケーションはこれをもとに次の処理を決定します。この回答タイプの多様性により、Decisions APIは幅広いユースケースに適用できるとされています。
Decisions APIがサポートする3つの回答タイプは次の通りです。
| タイプ | 用途 | 主な結果 |
|---|---|---|
| predicate(述語) | ある条件が真である確率を推定する。例:製品に目に見える損傷があるかどうか | probability:条件が真である確率の推定値(0〜1) |
| choice(選択) | あらかじめ定義された選択肢の中から1つを選ぶ。例:エージェントが続行するか、再試行するか、確認を求めるか | choice:指定した値のいずれか。レスポンスには確率と信頼度も含まれる |
| score(スコア) | ルーブリックの順序付きレベルに対して入力を評価する。例:損傷の重大度 | score:各レベルのインデックスを確率で重み付けした平均値 |
GPT‑LiveとDecisions APIによるリアルタイム音声体験の構築
GPT‑Liveを使うと、自然で表現力豊かな会話を音声アプリケーションに取り入れることができ、スムーズな割り込み処理により会話の流れを維持できます。Decisions APIは現在GPT‑Liveとネイティブに統合されており、ライブ会話中にアプリケーションが迅速かつ的確な判断を行えるよう支援します。
例えば、カスタマーサポートエージェントは、確認の質問をするか、リクエストをルーティングするか、問題をエスカレーションするかを判断できます。また、アバターはユーザーが話す内容に応じて表情を調整し、ユーザーの言葉に基づいてウインクや笑顔で応答することで、よりインタラクティブな体験を作り出すことができます。
記事内で紹介されている例では、トランスクリプトの更新を使ってアバターの表情を選択しています。この設定は既存のGPT‑Liveセッションの session.triggers に追加します。Liveは decision.event を発行し、アプリケーションは選択されたリアクションを読み取ってキャラクターをそれに応じてアニメーションさせます。音声とDecisions APIの接続方法については、別途公開されている開発者向けガイドで詳しく説明されています。
記事には、GPT‑Liveと組み合わせたDecisions APIを試せるデモ(表情パレットやライブ判定の様子を確認できるもの)も紹介されています。このデモは利用時間が制限されており、利用にはOpenAIの利用規約への同意とプライバシーポリシーの確認が必要です。
利用開始にあたっての条件と料金
Decisions APIは、専用のDecisionsエンドポイントを通じてGPT‑6 Lunaとともに本日より一般提供されています。現在の料金やキャッシュの詳細については、別途公開されている料金・提供状況ガイドを参照するよう案内されています。
OpenAIは、まずアプリケーションが頻繁に行う1つの繰り返し判断から始めることを推奨しています。質問、可能な回答、そしてそれらを区別するために必要なコンテキストを定義し、実際の利用状況を反映した例でテストします。テストは、自分のテキストや画像を使ってDecisions Playground上で行うか、開発者ガイドに従って最初のリクエストを送ることができます。
料金は以下の通りです。
- 入力トークン:100万トークンあたり0.10ドル
- キャッシュされた入力:100万トークンあたり0.01ドル
- 30分および12時間のキャッシュ書き込みについては、別途公開されている料金ガイドを参照
- 出力トークンに対する課金はなく、支払いは入力トークンのみに対して発生します
また、リージョン処理は米国およびEUで利用可能であり、Zero Data Retention(ゼロデータ保持)は対象となる顧客に提供されています。詳細は料金・キャッシュのガイド、およびデータ管理に関するガイドで確認できるとされています。