Command Palette
Search for a command to run...
ロバストなゼロショットスロットフィリングのためのリトリーバーアウグメンテッドジェネレーション
ロバストなゼロショットスロットフィリングのためのリトリーバーアウグメンテッドジェネレーション
Michael Glass; Gaetano Rossiello; Md Faisal Mahbub Chowdhury; Alfio Gliozzo
概要
与えられた文書コレクションから高品質な知識グラフを自動的に誘導することは、AIにおける依然として挑戦的な問題の一つです。この問題に対する進展の一つは、スロットフィリングという関連タスクの発展を通じて達成することができます。このタスクでは、[エンティティ, スロット, ?]形式のエンティティクエリが与えられ、システムは該当する文書コレクション内の関連する文章から抽出された証拠を利用して、欠落している値を生成または抽出してスロットを埋めることが求められます。最近の研究では、検索ベースの言語モデルを使用してこのタスクをエンドツーエンドで解決しようとする試みが見られます。本論文では、ゼロショットスロットフィリングに向けた新しいアプローチを提案します。このアプローチは、密接な文章検索にハードネガティブと堅牢な学習手順を取り入れることで、検索強化生成モデルを拡張しています。我々のモデルはT-RExおよびzsREスロットフィリングデータセットにおいて大幅な改善を示し、文章検索とスロット値生成の両方で性能向上を達成し、KILTリーダーボードでトップ1位となっています。さらに、ゼロショット/ファワーショット学習の組み合わせにより新規変種のTACREDデータセットでのドメイン適応能力を示すことで、システムの堅牢性を実証しています。ソースコードと事前学習済みモデルを公開します。注:「ファワーショット」(Few-shot)は一般的には「少ショット」とも表現されます。ただし、「ファワーショット」の方がより正確な音訳であるため採用しました。