Hugging Faceが、テキストを書く代わりに選択肢を採点するモデル向けのdecisionパイプラインを追加

Hugging Faceは2026年11月10日付の記事で、TransformersのパイプラインAPIにおける新しいdecisionタスクを説明しています。著者ら（Aritra Roy Gosthipaty、Lysandre、Pedro Cuenca、Tom Aarsen）はこれを、よく知られた悩みを軸に位置づけています。チームはしばしば、ルーティングやトリアージの質問に対するJSONの回答を大規模言語モデル（LLM）に求め、そのテキストを解析します。決定モデルは生成のステップを飛ばします。状態（サポートチケットなど）、1つ以上の質問、許容される回答の固定された集合を受け取り、選ばれた回答を各選択肢の確率とともに返します。

実例では、二重請求の苦情を3つの部門のいずれかに振り分けています。記事では、モデルautotrust/GEV-26B-Decideが請求部門の選択肢に0.99を超える確率を割り当てています。記事はそのモデルのパラメータ数、コンテキスト長、ライセンスを明示していません。

記事はこのアイデアを、2つの従来手法の間に置いています。従来の分類器はラベルが出力ヘッドに固定されているので、4つ目の部門を追加するには再学習が必要です。facebook/bart-large-mnliのような自然言語推論モデルによるゼロショット分類は、各ラベルを仮説として扱うことで推論時に新しいラベルを受け入れます。決定モデルはそこからさらに一歩進んだものとして、状態・質問・基準という構造化されたインターフェースを持つと提示されています。

命名は定まりつつあります。TypeSafe AIはJevというモデルを公開し、速い思考と遅い思考の区別にちなんで「System Oneモデル」と呼びました。Hugging Faceは、コミュニティは代わりに「決定モデル」に収束したと述べています。別途、Haochen Liuと9人の共著者による論文が2026年11月12日にarXivに投稿され、そうしたモデルがエージェントに最も役立つのは行為者（actor）、審判（judge）、教師（teacher）のいずれとしてかを問うています。

なぜ重要か

実務者にとって、これは解析のいらない構造化出力です。既知の選択肢に対する較正された確率は、自由なテキストより閾値設定、ログ記録、監視が容易で、ルーティングは1回の順伝播になります。このインターフェースはまた、ヘッドを再学習せずにラベル集合を柔軟に保ちます。

2つの点で懐疑的であるべきです。記事の例のスコアは1枚のチケットに対するベンダーのデモンストレーションであってベンチマークではなく、独立した評価は引用されていません。例のチェックポイントのモデル詳細は示されていません。このタスクにオープンなチェックポイントが増えるか、分布外の入力に対して確信度がどの程度保たれるか、そしてエージェントの役割に関するarXivの研究がLLMにJSONを求めるプロンプトに対して測定可能な向上を生むかに注目してください。