人工知能の会話モデルは、セッションごとに状態を持たないため、ユーザーの過去のやり取りを記憶できません。この「状態なし」の設計はスケーラビリティと安全性には有利ですが、個人化されたチャットアプリケーションには大きな課題です。ユーザーが毎回新規ユーザー扱いされれば、個別対応した応答は不可能です。そこで、OpenAIの共同創業者Andrej Karpathy氏が提唱する「AIのリードで歩ませる」姿勢に倣い、ユーザーごとの記憶層を自作する方法を紹介します。 本記事では、Mem0アーキテクチャを参考に、完全に自前で記憶システムを構築するプロセスを解説します。主な構成は以下の4つです：抽出、埋め込み、取得、維持。まず、会話内容から原子的な事実（factoid）を抽出します。DSPyというフレームワークを用いて、会話履歴から「ユーザーはコーヒーが好き」「ユーザーはサッカーが好き」といった独立した事実を抽出。次に、これらの事実を64次元のベクトルに変換し、QDrantというベクトルデータベースに保存。ユーザーIDごとにフィルタリングできるようにインデックスを設定することで、高速な検索を実現。 質問が来た際には、LLMが「検索が必要か」を判断し、必要に応じてベクトル検索を実行。この検索は、DSPyの「ツールコール」機能で実装され、LLMが自ら判断して呼び出します。検索結果は、会話文脈と組み合わせて応答生成に利用されます。 さらに、記憶の「維持」も重要です。新しい情報が入ってきたら、既存の記憶と照らし合わせて、追加・更新・削除・無処理のいずれかを決定します。例えば、「ユーザーは紅茶が好き」という記憶が「実は紅茶が嫌い」という情報と矛盾した場合、古い記憶を削除し、新しい情報を保存。この判断もReAct（推論と行動）アーキテクチャに基づき、LLMが自律的に実行。 この記憶層は、単なるログではなく、動的に進化する情報のプールです。今後の拡張として、グラフデータベースによる関係性記憶、メタデータによる分類（例：「食事」「スポーツ」）、ファイルベースの記憶管理なども検討可能です。 結論として、記憶はLLMの文脈を整える「コンテキスト工学」の最も重要な課題の一つです。本記事で紹介した手法は、開発者がAIに「人間らしさ」を持たせるための実践的な第一歩となります。GitHubリポジトリや動画チュートリアルで、より詳細なコードと実装例を確認できます。