ツール

Strandsが2B意思決定モデルを公開——Agent推論は大規模モデルなしで成立するか

オープンソース・2Bパラメータ・Agent意思決定ルーティング専用という小さなモデルが、大規模モデルの役割をどこまで代替できるかに挑む。

文字サイズ

Strands Deciderとは何か

一言でまとめる:2Bパラメータ、Agent意思決定ルーティング専用のオープンソース小型モデル。

Strands Agentsフレームワークはこれまで「複数モデル協調」アーキテクチャを採用してきた。メインLLMが生成を担当し、周辺モデル群が分類・ルーティング・抽出を担う。Strands Deciderはこのラインに追加された新しい环节であり、メインLLMを置換するのではなく、「次に何をすべきか」を判断する層を丸ごと引き受ける。

もう少し具体的に言うと、ユーザーが「来週上海行きの飛行機を予約して」とAgentに依頼したとする。メインLLMは依然として返信作成とツール呼び出しを行うが、「まず運賃を調べるのか、日程を確認するのか、予算を聞くのか、失敗時にどのステップに戻るのか」といった意思決定はDeciderに委ねられる。

2Bパラメータで意思決定を任せられる理由

まず直感に反する事実から:意思決定ルーティングは本質的に「分類+ランキング」問題であり、生成問題ではない。

意思決定ルーティングの仕事範囲は狭い。現在の状態と候補アクションを受け取り、最適な次の一手を選ぶだけ。きれいな文章を書く必要も、AではなくBを選んだ理由を説明する必要もない。これは「小説を書く」作業とは難易度スケールがまったく異なる。

Strandsチームの判断もそこにある。公式ブログには「Agent decision routing」専用に訓練したと明記されており、データも轨迹を厳選したものだ。メリットは次の3つ:

  • 推論コストが低い:2BモデルはシングルGPUやエッジデバイスでも動作し、GPT-4やClaudeに計画立案を任せる場合と比べて遅延と単価が1ケタ下がる
  • セルフホスト可能:重みがオープンソースなのでオンプレ環境にデプロイでき、データが社外に出ない
  • 情報漏洩リスクの回避:意思決定轨迹にはユーザーの意図やツール呼び出しのコンテキストが含まれることが多く、これらをクラウドの大規模モデルに送るのはコンプライアンス上問題になりがち

見落とされがちな点として、2Bモデルの出力は安定している傾向がある。意思決定ルーティングは一貫性が重要な要素だ。大規模モデルは時として「发挥(ひらめき)」を見せて、同じ状態に対して異なるアクションを返すことがあり、小型モデルの方がコントロールしやすい。

既存手法との比較——ReActやFunction Callingとの違い

現在のAgent意思決定は、大きく3つのアプローチに分かれる:

  1. メインLLMが自分でプランニング:ReActやPlan-and-Solveがこの方式で、メインモデルが返信生成と次のアクション決定を兼任する
  2. 大規模モデルをルーターとして使用:例えばGPT-4を分類器として、リクエストを各専門家モデルに振り分ける構成
  3. 小型モデルでルーティング+大規模モデルで生成:Strands Deciderはこちらの路線

前2つの方式に共通する問題は、意思決定コストがメインモデルのスケールに連動することだ。Claudeをメインに使うなら、意思決定コストもClaudeのコストになる。高並列のAgentを運用しようと思えば、請求書が天井知らずに跳ね上がる。

3つ目の方式は「意思決定」と「生成」を分離する。意思決定は小型モデル(安価・高速・可控)、生成は大型モデル(高価・低速だが品質は高い)。パイプライン全体で「大型モデルが必須の环节」だけを大型モデルに任せ、他の部分は小型モデルに走らせる。

この発想はStrandsが始めたものではない。LlamaIndexのルーティング機能やHaystackのclassifierなど、過去にも同様の方向性を試みた例はある。ただしStrandsは「意思決定ルーティング」を独立したオープンソース・セルフホスト可能なモデルとして製品化した点が画期的だ。

海外コミュニティの反応

Hacker Newsのフロントページに登場し、104ポイント・20コメント、中の上くらいの盛り上がりだった。

代表的なコメントをいくつか紹介する:

  • セルフホスト支持派:「ようやく自社デプロイ可能な意思決定モデルが出た。毎回ユーザーの意図をOpenAIに送らずに済む」
  • 2Bの規模に懐疑的な意見:「2Bで本当に十分なのか?実際の意思決定ツリーは複雑で、小型モデルが見た轨迹が足りない」
  • ベンチマークを気にする声:「GPT-4ルーターとの比較データはあるのか?数字がないと本番投入しづらい」
  • アーキテクチャへの興味:「複数モデル協調という方向性は正しい。メインモデルが何でも屋になるべきではない」

後ろ2つのコメントは共通の問題を突きつけている——現時点で公開されている比較データがないことだ。続いてこの点を掘り下げる。

実測データの欠落——本番環境で検証した人はいない

率直に言えば、ブログに書かれていることよりも書かれていないことの方が多い。

  • ベンチマーク数値が提示されていない——SWE-benchやτ-benchなどAgent向け評価で2Bモデルは何点を獲得できるのか?
  • レイテンシのデータがない——1回の意思決定推論は何msなのか?Claudeをルーターにした場合と比較してどれだけ短縮できるのか?
  • コスト比較がない——2Bモデルをセルフホストする場合と、APIを利用する場合の実質TCOはどうなるのか?
  • 「意思決定精度」が示されていない——同一の状態を与えたとき、Deciderと大型モデルルーターの選択一致率はどの程度か?

これらは本番投入前に把握しておきたい情報ばかりだ。Strandsチームが提供しているのは「モデルが存在する」「アーキテクチャが妥当」の2点だけで、「本当に使い物になる」はまだ示されていない。

個人としては、最初は社内リスクの低いシナリオ(カスタマーサポートのFAQルーティング、ツール呼び出しの振り分けなど)でスモールスタートし、コア業務にはいきなり投入しないことを推奨する。

編集部の考察

仮にこの路線がうまくいけば、Agentアーキテクチャは「一つの大規模モデルが何でも屋」から「小型モデルルーティング+大型モデル生成」というパイプラインへと移行する。コストとレイテンシは理論上1ケタ圧縮できる。これは漸進的な最適化ではなく、アーキテクチャレベルでの分業構造の再設計だ。

ただし2Bモデルの汎化能力は明白な弱点だ。意思決定ルーティングは分類問題のように見えても、実環境の「状態」は千差万別だ。ユーザーが途中で気が変わる、ツールが想定外の形式でレスポンスを返す、長すぎるコンテキストが切り詰められる——こうしたロングテールケースを2Bモデルが経験していなければ、ハマりやすい。現状で実用になるのは、構造化タスク——FAQルーティング、ツール振り分け、固定フローのカスタマーサポート——に限られるだろう。こうしたシーンでは2Bで十分だ。

過去の類似研究との違いは、従来のルーティング小型モデルがほぼ Proprietary で、API呼び出し型、特定フレームワーク(LangChainの一部コンポーネントなど)にロックインされていた点にある。Strands Deciderは「意思決定ルーティングモデル」を独立したオープンソース重みとして切り出し、任意のAgentフレームワークと組み合わせ可能な初のプロダクト形態を実現した。これにより「小型モデルによるルーティング」は社内テクニックから再利用可能なインフラ層へと変わった。

結論として、注目に値する内容だが、「小型モデルが大規模モデルの意思決定を代替する」までには少なくとも2バージョンの再成熟を要する。バージョン1で動作確認、バージョン2でベンチマークとツールチェーン整備、そしてバージョン3でようやく本番投入が見えてくる。Strands Deciderは現在バージョン0.5といった位置づけだ。

不確定要素として、2Bモデルが複数ターン・複雑なツールチェーンを扱うシナリオでどの程度安定するのかを自分で検証できていない点がある。ブログにも記述がない。もし実データで試したチームがあれば、コメント欄で情報を共有してほしい。


参考リンク:

出典: https://strandsagents.com/blog/introducing-strands-decider/