小規模言語モデル（SLM）を活用した自律型システムの未来が、新たな注目を集めている。最近の調査報告書によると、SLMはツール利用、構造化出力、展開戦略において高い効率性を発揮し、自律ワークフローの標準となるべき存在として位置づけられている。多くの自律システムでは、「フロントドアルーター（分類器）」が入力リクエストを受け取り、意図、コスト、遅延、不確実性、タスクの種類に基づいて適切なモデルにルーティングする。このルーターが、システム全体の「交通管制官」として機能する。 自律ワークフローでは、日常的なタスクに対してはSLMを標準として使い、複雑なケースのみを大規模言語モデル（LLM）に委ねる。研究で提唱された「能力レジストリ」では、SLMを分類（意図検出）、情報抽出、ツール利用、コード生成などの強み別にタグ付けし、タスクに応じて最適なモデルを自動選定する。このアプローチにより、LLMは「バックアップ」や「最終手段」として機能する。 実際のシナリオでは、ユーザーのリクエストが最初に処理されるのは3B～8Bパラメータの小型モデル。このモデルが、呼び出すツールの選定、エンティティ抽出、厳密なJSON/YAML出力、複数ステップの計画の調整をほぼすべて担う。LLMは、SLMの失敗や不確実性が高まった場合にのみ起動される。エスカレーションのトリガーは明確で、LLMには会話履歴、SLMの失敗記録、明確な指示が与えられる。出力が正しければ検証を通過し、そうでなければ再試行または人間の介入へ。 特に危険な操作（支払い、個人情報の変換、本番データの削除など）は、自動実行されない。システムには2つのモードがある：SLMが提案 → 2番目のSLMまたはLLMが審査する、または不確実性やポリシーリスクスコアが高ければ人間が承認・拒否・修正する。すべての人間介入はログに記録され、貴重な「反事実トレース」として学習データとして活用される。 すべてのプロンプト、出力、遅延、コスト、検証エラー、エスカレーション率、不確実性スコアが徹底的に記録され、これが次のアダプタの訓練データとなる。数週間で、SLMは実際の製品で実行されるタスクに特化して進化する。なぜなら、訓練データは自社の製品に特化した限定されたログに限られるからだ。 このアプローチを実現するための5段階のプロセスが提示されている。まず、現行のLLMを1～2週間ログ収集。次に、タスクをクラスタリングし、80％が情報抽出やルーティング、簡単なツール呼び出しであることが判明。その後、LoRAによる微調整（1万～5万件の脱識別ログを用い、4ビットまたは8ビット量子化）。ルーターの背後にSLMを導入し、不確実性によるフォールバックを設定。これにより、トークンコストが20～100倍まで削減される。最後に、人間評価、ガードレール、失敗ログからのアダプタを用いた反復改善を継続する。 結論として、自律型システムの未来は「より大きなモデル」ではなく、「より知的なオーケストレーション」にある。SLMを核に、人間とAIの協働を最適化するインフラが、次世代AIの基盤となる。