HyperAIHyperAI

Command Palette

Search for a command to run...

予算制約下での適応型LLMルーティング手法「PILOT」がEMNLP 2025で採択

大規模言語モデル(LLM)の能力とコストのばらつきは、実用的な応用において大きな課題となっている。従来のLLMルーティング手法は、最適なクエリ-LLM対応を事前に学習する教師あり学習に基づいていたが、現実の環境ではそのような完全なマッピングが存在せず、ユーザーの要求も変化し続ける。本研究では、こうした制約を踏まえ、LLMルーティングを文脈的バンディット問題として定式化し、教師データに頼らず、オンラインでのフィードバックを活用して適応的に最適なモデルを選択するアプローチを提案する。 具体的には、クエリとLLMの埋め込みを共通の埋め込み空間にマッピングし、その類似度を反映する仕組みを構築。この空間は、事前学習段階で人間の好みデータから学習し、運用中にオンラインでのバンディットフィードバックで継続的に改善する。このアイデアを実装した新アルゴリズム「PILOT(Preference-prior Informed LinUCB for adaptive routing)」は、LinUCBの拡張版として、効率的な探索と活用のバランスを実現。 さらに、ユーザーごとの予算制約に対応するため、マルチチョイスナップサック問題として定式化されたオンラインコストポリシーを導入。これにより、性能とコストの両立を実現する資源効率の高いルーティングが可能となる。 本手法はEMNLP 2025(Findings)で採択され、実用的なLLM運用における自律的かつ効率的な選択メカニズムの実現に貢献する。

関連リンク

予算制約下での適応型LLMルーティング手法「PILOT」がEMNLP 2025で採択 | 人気の記事 | HyperAI超神経