大規模言語モデル（LLM）の生産環境での性能向上には、「コンテキスト工学」が不可欠である。OpenAI共同創業者アンドレイ・カーパティ氏の指摘にもあるように、単なるプロンプト設計にとどまらず、モデルに与えるすべての情報を戦略的に設計する必要がある。コンテキスト工学とは、LLMに適切な情報を供給して性能を最大化する科学的なアプローチであり、システムプロンプトだけでなく、事例、外部データ、ツールアクセスなど、あらゆる要素を含む。 主な7つの有効な戦略として、まずゼロショットプロンプティングがある。これは、モデルに事前学習データや例なしにタスクを提示する方法で、シンプルな分類や要約などでは十分な精度を発揮する。次に、フェーショットプロンプティングは、タスク例を提示することでモデルの理解を高める。特に、動的フェーショットでは、新規入力と既存例の類似度をベクトル検索で評価し、最も関連性の高い例だけを提示することで、精度が向上する。 Retrieval-Augmented Generation（RAG）は、大規模データベースから関連性の高い情報を検索し、LLMに提示する手法。全データを投入できないため、類似度検索で最適な文書を絞り込むことで、知識の正確性と信頼性を確保できる。 また、ツール呼び出し（MCP）の導入も重要。天気予報やデータ取得など、リアルタイム情報が必要なタスクでは、LLMに外部APIを呼び出す能力を付与することで、実用性が飛躍的に向上する。 さらに、コンテキスト長の適切な利用も鍵となる。2025年現在、10万トークン以上の入力が可能なモデルも登場しているが、情報が多すぎると「コンテキストロット（context rot）」が発生し、性能が低下する。不要な情報は逆効果であるため、必要最小限の関連情報を提供することが必須。 結論として、LLMの実用化には、プロンプト設計を超えた包括的なコンテキスト工学が不可欠。適切な例、関連データ、外部ツールの統合に加え、情報の質と量のバランスを意識することで、生産環境での信頼性と効率性が大きく向上する。