ベースプロンプトとルールでRAG生成プロンプトを構築する
企業向けRAGシステムの構築シリーズEnterprise Document Intelligenceが、生成基盤としてプロンプト組み立てフレームワークを発表した。同フレームワークは、単一プロンプトに全ルールを埋め込む従来の方式を改め、ディスパッチャによって構造化質問データに基づきシステムプロンプトを動的に組み立てるアーキテクチャを採用している。 核となるのは、汎用的な基本ルールと回答形式や制約事項に応じた断片を呼び出し時に結合する仕組みである。これによりプロンプトの肥大化を防ぎ、新たな形式の追加を組み合わせ爆発なしで可能にする。ユーザープロンプトでは参照元のグローバル行番号を明記し、モデルの行番号混同を防ぐ。検索チャンク送信には、統合モードと上位から順次読み込む逐次モードの使い分けを実装し、トークン効率と精度のバランスを最適化している。 信頼性確保のため、すべてのAPIレスポンスをそのままトレーシングし、使用量やモデルバージョンを含めて保管する。これにより監査とエラー追跡を可能にする。回答検証では単一フィールド単位で証拠包囲を行い、出力値が元文書に実際に存在するかをサブリサーチで検証する工程を組み込んだ。これによりモデルによる捏造引用を技術的に封じる。 加えて、過去の検証済み回答例を取得検索しプロンプトに動的に注入する機構も実装された。通貨変換や特殊フォーマットなど、ルール文章だけでは誤解しやすいケースを実例を通じてモデルが学習する。 本フレームワークはGitHubで公開されており、文書解析、質問解析、検索、生成の4基盤を繋ぐパイプラインの中核をなす。大規模文書から正確な構造データへの変換において、再現性、コスト効率、監査可能性を同時に満たす実装として、企業向けAIシステム整備に新たな基準を提供する。
