大規模言語モデル（LLM）は、提示された文脈の質と量に大きく依存するが、実際の応用では数百万トークンに及ぶ膨大な文脈を扱う必要がある。しかし、モデルの性能は文脈長が増えるにつれて低下する「コンテキストロット」という現象が起きる。これは、モデルの実効的な文脈長が公式に提示される窓サイズの50％以下にまで落ち込むことを示している。この課題を克服するため、張ら氏らの論文「Recursive Language Models（RLM）」が提案した新しいアプローチが注目されている。 RLMは、長文脈を単一のプロンプトとして処理するのではなく、PythonのREPL環境に似た構造で、モデルが自らコードを書くことで、文脈を分割・再帰的に処理する仕組みを採用している。具体的には、提示された大規模な文脈（例：1.5MBの記事群）を変数として保持し、モデルが部分的な処理をコードで記述し、再帰的に小規模なサブプロンプトを生成・実行することで、全体を効率的に扱える。この方法により、Claude Sonnet 4.5（20万トークン窓）でも、40万トークンを超える文脈を正確に分析可能となった。 実際の実装では、DSPyのRLM機能を活用。1.5MBの記事群から2025年のAIトレンドを抽出するタスクを実行。最初の段階でモデルは文脈の構造を解析し、記事をタイトルや日付、カテゴリごとに分離。その後、2025年発行の記事13本に絞り込み、各記事の内容を再帰的に分析。最終的に、Agentic AI、マルチエージェントシステム、RAGの進化、標準化プロトコル（MCP、ACP）、コードベースの開発（DSPy）など、12の主要なAIトレンドを抽出した。 この結果は、RLMが文脈ロットを克服し、大規模文脈処理において従来手法より優れた精度と信頼性を発揮することを示している。ただし、モデルは「年」のフィルタリングなど、明確な指示がなければ誤った判断を下す可能性があるため、プロンプトの明確さと制御が不可欠である。 結論として、RLMはLLMの文脈能力を飛躍的に拡張する革新的な手法であり、AI開発の生産性と信頼性向上に大きく貢献する。今後のAIシステム開発において、文脈処理の限界を乗り越える鍵となる可能性がある。