解決できる課題 事業紹介トップ 経営データ分析基盤 AI導入・業務改善 AI 業務アプリ 基幹システムのWeb化・段階移行 複雑な SaaS を専用 UI に Shopify Plus 移行・拡張 生成AI 活用(Multi AI) SEO / AIO / 広告運用 顧問・アドバイザリ インフラ構築 PHP脆弱性対策・更新 WordPressからEmDashへの移行 自社メディア投資・開発
AI導入 AI導入・業務改善 ChatGPTの社内導入 OpenAI Codex導入 AI運用・定着 Claude / MCP 総合 Claude Cowork Claude Code 導入支援 Claude Code 使いこなし支援 Claude Design MCP 開発・サーバー構築
EC構築・移行 Shopify Plus トップ EC-CUBEからShopifyへの移行 大手カートからの移行 Shopify 通常プラン EC サイト構築
実績
業界ニュース 業界ニュース トップ AI ニュース └ Claude └ ChatGPT・Codex └ Gemini └ その他 Shopify ニュース SaaS ニュース お知らせ(自社発信)
会社情報 相談する
2026.11.12

Hugging Faceの「意思決定モデル」、テキスト生成せず確率分布を返す新インターフェース

記事のサマリー(TL;DR)

  • Hugging Faceは、LLMにテキストを生成させる代わりに、あらかじめ定義された選択肢に対して確率分布を直接返す「意思決定モデル(decision model)」という共通インターフェースを紹介しています。
  • このインターフェースは「choice(選択)」「score(順序付きスコア)」「noul(二値判定)」という3種類の質問プリミティブを持ち、各回答に確率と「confidence(確信度)」が付与されます。
  • Transformers(DecisionPipeline、AutoModelForDecision、DecisionConfig、/v1/systemoneエンドポイント)やllama.cpp、Hugging Face Hub上のdecision-modelタグ、Trainer APIによる学習など、エコシステム全体での対応状況が説明されています。

詳細

LLMによるテキスト生成の限界

記事は、大規模言語モデル(LLM)がテキスト生成に優れている一方、すべての問題がテキスト生成を必要とするわけではないと述べています。例として、「サブスクリプション料金が二重に請求され、本日中に返金してほしい」という顧客サポートのチケットを挙げ、このようなケースではどのチームが対応すべきか、緊急度はどの程度か、返金を求めているかどうかを判定する必要があるとしています。

従来の方法として、LLMにJSONオブジェクトを生成させる例(llama cli -hf ggml-org/gemma-4-e4b-it-GGUF:Q4_0を用いたプロンプト)が示されていますが、記事はこれに代わるアプローチとして、モデルが選択肢を直接評価し、テキストを生成せずに確率分布を返す方法を提示しています。具体例として、transformersのpipeline("decision", model="autotrust/GEV-26B-Decide")を用い、状態(state)と質問(questions)を渡すことで、department(担当部署)についてchoice(billing: 0.9983、technical: 0.0010、sales: 0.0007、confidence: 0.9974)という形式の結果が返されることが示されています。

意思決定モデルとは何か

意思決定モデルは、入力コンテキスト(state)を受け取り、あらかじめ定義された回答候補(primitives)を持つ質問を評価し、確率を伴う構造化された決定を返すモデルと定義されています。モデルに1トークンずつ回答を生成させるのではなく、アプリケーション側があらかじめ理解している回答に対して確率を割り当てさせる、という考え方です。

TypeSafe AIが「Jev」というモデルを発表した際、これを「System One」モデルと呼んだことが紹介されています。この名称は、速く直感的な思考(System 1)と、遅く熟慮的な思考(System 2)という区別に由来するとされています。記事によれば、コミュニティはこの呼び方ではなく「decision model(意思決定モデル)」という用語に収束したとされ、その理由は特定の認知理論を想起させるのではなく、モデルの計算上の役割を表すためだと説明されています。以降の本文では一貫して「decision models」という用語が使われています。

意思決定モデルの基本的なインターフェースは、「State(状態)+ Questions(質問)+ Allowed Answers(許容される回答)→ Decisions(決定)+ Probabilities(確率)」という形で表されています。

なぜLLMだけに頼らないのか

記事は、LLMにJSON形式の決定を返すようプロンプトすることは既に多くのアプリケーションで分類やルーティングなどに使われていると認めつつ、いくつかの問題点を挙げています。

  • スキーマ遵守の保証がない:明示的な指示があっても、モデルが無効なJSONを生成したり、想定外のキーを含めたり、許可された選択肢以外の回答を返したりする可能性がある。
  • 制約付きデコーディングはコストを完全には解消しない:OutlinesやXGrammarのようなライブラリは、各ステップで生成可能なトークンを制限することで文法やJSONスキーマを強制できるが、これは追加の処理負荷を伴う。
  • 応答全体を生成する必要性:LLMは自由形式の生成のために設計されているが、アプリケーションが定義済みの回答から選ぶだけでよい場合、自己回帰的なデコーディングは不要な処理になり得る。

分類モデル・ゼロショット分類モデルとの違い

記事は意思決定モデルのインターフェースを理解する前段として、従来の分類モデルとゼロショット分類モデルを振り返っています。

従来の分類(Traditional classification):顧客サポートのリクエストを「Billing」「Technical support」「Sales」の3部署に振り分ける分類器を例に、入力からあらかじめ定義されたラベル集合へのマッピングを学習する仕組みが説明されています。分類ヘッドは通常クラスごとに1つのロジットを出力し、softmaxで確率分布に変換されます。この方式の限界として、出力クラスがモデルの分類ヘッドに組み込まれているため、新たに「Legal(法務)」部署を追加する場合、既存の分類器が自動的に対応するクラスを獲得するわけではなく、ヘッドの変更や学習データの収集、再学習・適応が必要になる可能性があるとしています。

ゼロショット分類(Zero-shot classification):この限界に対処する方法として、候補ラベルを推論時に与える方式が紹介されています。facebook/bart-large-mnliを用いた例では、「My payment was deducted twice.」という入力に対し、["billing", "technical support", "sales"]というラベルで分類した結果(billing: 0.8467、sales: 0.0962、technical support: 0.0571)が示され、さらに「legal」を候補に加えた場合の結果(billing: 0.8186、sales: 0.0930、technical support: 0.0552、legal: 0.0332)も示されています。記事は、この方式が自然言語推論(NLI)向けに学習されたモデルを用いる実装が一般的であり、各候補ラベルを仮説文に変換し、入力がその仮説をどの程度含意するかをモデルが測定する仕組みだと説明しています。

意思決定モデルとの違い:意思決定モデルは、入力をカテゴリに割り当てるだけでなく、同じ状態に対して複数の名前付き質問を、異なる回答タイプ(choice、score、noul)とともに受け付けられる点が異なるとしています。さらに、そのインターフェースは可能な決定に対する確率分布を中心に設計されているとしています。記事には、分類・ゼロショット分類・意思決定モデルの3つを比較する表が示されており、「選択肢に対する確率」はいずれも可能、「推論時のラベル定義」は分類では不可・ゼロショットと意思決定モデルは可能、「複数の型付き質問」は意思決定モデルのみ可能、「順序スコアや二値判定」は分類ではタスク固有の対応、ゼロショットでは適応により対応可能、意思決定モデルではネイティブなプリミティブとして対応、とまとめられています。記事は、意思決定モデルの利点は推論時定義ラベルや確率的分類そのものを発明したことではなく、これらの能力を一貫したインターフェースに整理し、決定に特化して最適化されたアーキテクチャや学習手順によって支えられ得る点にあると述べています。

意思決定モデルのインターフェース構成

意思決定モデルへのリクエストは、「state(状態)」と「questions(質問)」の2つの要素から構成されます。

State:モデルが評価すべき情報であり、文字列、構造化されたJSONオブジェクト、あるいは対応するomni-modalモデルの場合は他のモダリティも取り得るとされています。例として、customer_message、subscription、previous_ticketsを含むJSONオブジェクトが示されています。

Questions(質問)とそのプリミティブ:状態について知りたい内容を記述するもので、3つの基本プリミティブが示されています。

  • Choice:複数の候補から1つを選択する。
  • Score:順序付きスケール上で評価する。
  • Noul:確率的にyes/noの質問に答える。

Choice(選択肢に対する確率分布):「どの部署がこのリクエストを処理すべきか」という質問を例に、Billing・Technical support・Salesの3選択肢に対する確率分布の例が再掲されています。ロジット$(z_1,\ldots,z_K)$に対してsoftmax関数$p_i=\frac{\exp(z_i/T)}{\sum_{j=1}^{K}\exp(z_j)}$により確率を得るとし、Billing 0.998、Technical support 0.001、Sales 0.001という例示の分布が示されています。確率の総和は1になり($\sum_{i=1}^{K}p_i=1$)、モデルは最大確率を持つ選択肢を選びます($\hat y=\arg\max_i p_i$)。この例ではBillingが確率0.998で選ばれていますが、残りの確率もモデルが各選択肢にどう信念を分配しているかを示す点で有用だとしています。

Score(順序分布の期待値):「この顧客リクエストはどの程度緊急か」という質問を例に、0: Low urgency、1: Medium urgency、2: High urgencyという3段階の例が示されています。モデルは各レベルに対する確率分布(0: 0.01、1: 0.26、2: 0.72)を返し、Scoreプリミティブは最も可能性の高いレベルのみを返すのではなく、レベルの指標の期待値を計算するとされています。期待値は$\mathbb{E}[X]=\sum_{i=0}^{K-1}ip_i$で与えられ、この例では$\mathbb{E}[X] = 0(0.01)+1(0.26)+2(0.72)=1.7$となり、報告されるスコアは1.7になります。記事は、この値がモデルが「medium」と「high」の中間にある架空のレベルを選んだことを意味するのではなく、確率分布の期待値が1.7であることを意味すると説明しています。

Noul(ベルヌーイ的決定):「顧客は返金を求めているか」という二値の質問を例に、選択肢のリストを定義する代わりに、回答がtrueである確率をモデルに返させる方式が説明されています。これはベルヌーイ分布(noulという名称はBernoulliに由来)を用いて理解でき、二値の結果を表す確率変数$Y$について$Y\sim\operatorname{Bernoulli}(p)$、$P(Y=1)=p,\ P(Y=0)=1-p$という関係が成り立つとされています。モデルが{"type": "noul", "noul": 0.92}を返した場合、Yesに0.92、Noに0.08の確率を割り当てたことになります。モデルはここで二値の回答をランダムにサンプリングしているのではなく、確率パラメータそのものを返し、それをどう扱うかはアプリケーション側の判断に委ねられるとしています。

Confidence(モデルの確信度):Choice・Scoreの両方について、「confidence」という項目が返されることが説明されています。これは、モデルの信念がどれだけ集中しているかを要約するものです。K個の選択肢を持つChoiceの場合、confidenceは$\frac{p_{\max}-\frac{1}{K}}{1-\frac{1}{K}}$で計算され、$p_{\max}$は予測された最大確率です。一様分布(すべての選択肢が等確率、$p_{\max} = \frac{1}{K}$)の場合confidenceは0、1つの選択肢に完全に集中した分布($p_{\max} = 1$)の場合confidenceは1になるとされ、勝者の確率が一様分布と比較して大きいほどconfidenceは高くなるとしています。記事の3択の例ではBilling確率0.99に対し$C=\frac{3(0.99)-1}{2}=0.98$という計算結果が示され、勝者確率0.99に対して報告されるconfidenceは0.98になると説明されています。これはconfidenceが最大確率を選択肢数で正規化した値であるためだとしています。対照的に、Scoreの例ではconfidenceは0.558にとどまっていたとされています。

Hugging Faceエコシステムにおける意思決定モデル

記事は、意思決定モデルがまだ新しく急速に変化している分野であり、モデルごとに内部の決定方法が異なる(スキーマ全体を同時にスコアリングするヘッド、LLMバックボーン上の個別の読み出し層、エッジサイズやマルチモーダルのバリエーションなど)と述べています。この多様性自体は健全だとしつつ、各モデルが独自のインターフェースを持つ場合、周辺ツールがモデルごとの対応を必要とするというコストが生じるとしています。

Hugging Faceの目標は、共通の実装を強制することなく共通のインターフェースについて合意することだとされています。意思決定モデルは内部でどのように動作してもよいが、同じstateとquestionsを受け付け、同じ型付き決定を返す限り、エコシステムの他の部分はその上に構築できるとし、具体的には次の3点が挙げられています。

  • llama.cppのような推論エンジンが、同一のAPIを通じて任意の意思決定モデルを提供できる
  • Hubがこれらのモデルを一貫した形でパッケージ化・提示できる
  • 学習ツールが個別のアーキテクチャではなく共有されたプリミティブを対象にできる

1. Transformersによる提供:Transformersは現在、DecisionPipeline、AutoModelForDecision、DecisionConfigクラスをサポートしているとされ、これらは既存のpipelineやmodelクラスと同様の構造を踏襲しつつ、意思決定モデル向けに作られているとしています。pipeline("decision", model="autotrust/GEV-26B-Decide")で呼び出した際の出力例(DecisionPipeline: {'model': 'JevForDecision', 'dtype': 'bfloat16', 'device': 'cuda', 'input_modalities': 'text'})や、DecisionConfig.from_pretrained・AutoModelForDecision.from_pretrainedを用いた設定・モデルの確認方法が示されています。

また、Transformersは/v1/systemoneエンドポイントもサポートしており、pip install "transformers[serving]"とtransformers serveでローカルサーバーを起動できるとしています。curlコマンドでdepartment(choice)、urgency(score)、refund(noul)の3つの質問を含むリクエストを送信する例と、それに対するJSON形式のレスポンス例(department: billing、confidence 0.9974、urgency: score 1.7526・confidence 0.6289、refund: noul 0.9953、usage: input_tokens 148・output_tokens 0)が示されています。記事は、このAPIが対応する自己回帰型言語モデルでも動作する点を興味深い詳細として挙げ、Transformersが決定用のプロンプトを構築し、バッチ化されたフォワードパスで回答ラベルのロジットを評価し、応答テキストを生成せずにsoftmaxを適用するため、新たにモデルを学習しなくても意思決定インターフェースを試せるとしています。

2. llama.cppによる提供:llama.cppも同じ/v1/systemone APIを用いて意思決定モデルをサポートするとされています。llama serve -hf ggml-org/Kev-4B-GGUFコマンドでHubからGGUF形式の意思決定モデルを起動する例が示され、デフォルトのサーバーはポート9931で動作するとしています。http://localhost:9931/v1/systemoneに対して同じstateとquestionsを含むリクエストを送信でき、サーバー側で選択されたモデルを使う場合はリクエストのmodelフィールドを省略できるとしています。記事は、この方式の有用な特性としてインターフェースの互換性を挙げ、ggml-org/Kev-4B-GGUFを指定したcurlリクエストの例を示しています。

3. Hugging Face Hubでのモデル発見:Hugging Faceは、対応モデルを発見するための専用のdecision-modelタグを導入したとされています。これは、意思決定モデルが単一のバックボーンやアーキテクチャを共有する必要がないため有用だとしており、エコシステムにはModernBERTのようなエンコーダアーキテクチャに基づくモデルと、より大規模な生成型言語モデルのバックボーンから派生したモデルの両方が含まれるとしています。

4. Hugging Faceツールによる意思決定モデルの学習:記事は、意思決定モデルがtransformersに統合されているため、Trainer APIを使ってファインチューニングできるとし、JEV-9Bをサポートリクエストのルーティング用にファインチューニングする小規模な例を示しています。この例では、各サンプルが意思決定リクエスト(stateとquestions)と正解ラベルの組になっており、model.decision_config.prepare_inputsが推論時と同様にリクエストをモデル入力に変換し、モデルは選択肢ごとに1つのロジットを返すため、choice形式の質問は通常の交差エントロピー損失で学習されるとしています。コード例では、autotrust/JEV-9Bをチェックポイントとして読み込み、返金・配送・技術的な問題に関する6件の例文とラベルを用意し、preprocess関数でリクエストを構築し、DecisionTrainerというTrainerのサブクラスでcompute_lossをオーバーライドして交差エントロピー損失を計算し、max_steps=30などの設定でtrainer.train()を実行する流れが示されています。

記事はさらに、意思決定モデルの学習に対する本格的な対応がTRL(huggingface/trl#8040)にも導入される予定であり、これにより同様の処理を手作業で実装する必要がなくなるとした上で、執筆時点ではそのPull Requestはまだオープンの状態であると述べています。また、生成型LLMを意思決定モデルに変換したい場合の方法として、UnslothがQwenなどのモデルをLoRAと意思決定用スコアリングヘッドでファインチューニングするレシピを提供していると紹介しています。

まとめ

記事の結論部分では、意思決定モデルが興味深いのは分類という概念自体が新しいからではなく、決定と確率をソフトウェアにとっての第一級の出力にする点にあると述べています。従来の分類器も既に確率を出力しており、ゼロショット分類器も既に実行時に定義されたカテゴリを扱えていたとした上で、意思決定モデルはこれらの考え方を、複数の質問プリミティブ・非生成的なスコアリング・信頼性が高く較正された決定のための専用学習の可能性を備えた、型付きインターフェースへとまとめ上げるものだと説明しています。