AdaptFlow：メタラーニングを活用した適応型ワークフロー最適化

大規模言語モデル（LLM）の最近の進展により、複雑なタスクを解決することを目的とした、LLMの呼び出しを構造化したシーケンスであるエージェントワークフローへの関心が高まっている。しかし、従来のアプローチはしばしば静的テンプレートや手動で設計されたワークフローに依存しており、多様なタスクへの適応性が制限され、スケーラビリティにも課題がある。本研究では、モデルに依存しないメタラーニング（MAML）に着想を得た、自然言語に基づくメタラーニングフレームワークであるAdaptFlowを提案する。AdaptFlowは、汎化可能なワークフローの初期化を学習することで、サブタスクレベルでの迅速な適応を可能にする。本フレームワークは二段階最適化スキームを採用している：内側のループでは、LLMが生成するフィードバックを用いて特定のサブタスク向けにワークフローを微調整する一方、外側のループでは、複数のタスクにおいて良好な性能を発揮できるように共有される初期化を更新する。この構成により、AdaptFlowは言語による誘導に基づく修正を通じて、初期化されたワークフローを適応させることで、未観測のタスクに対しても効果的に汎化できる。質問応答、コード生成、数学的推論のベンチマークにおいて評価した結果、AdaptFlowは手動で設計されたものや自動探索されたベースラインを常に上回り、タスクおよびモデルの観点からも最先端の性能を達成し、強固な汎化能力を示した。ソースコードおよびデータは、以下のURLにて公開されている。