16日前

PeTra:人追跡のためのスパースに監視されたメモリモデル

Shubham Toshniwal, Allyson Ettinger, Kevin Gimpel, Karen Livescu
PeTra:人追跡のためのスパースに監視されたメモリモデル
要約

我々は、メモリスロット内にエンティティを追跡できるように設計されたメモリ拡張型ニューラルネットワーク「PeTra」を提案する。PeTraはGAP代名詞解決データセットからのスパースなアノテーションを用いて学習され、より単純なアーキテクチャを採用しながらも、従来のメモリモデルを上回る性能を発揮する。我々は、主要なモデル設計選択肢を実証的に比較し、メモリモジュールの設計においていくつかの側面を簡素化しても、高い性能を維持できることを確認した。メモリモデルの人物追跡能力を評価するために、(a) テキスト内のユニークなエンティティ数をカウントする新しい診断評価法を提案し、(b) PeTraのメモリログにおける人物追跡の証拠を、従来手法と比較するための小規模な人間評価を実施した。その結果、PeTraは両方の評価において高い有効性を示し、限られたアノテーション情報のみで学習されたにもかかわらず、自身のメモリ内で人物を効果的に追跡できる能力を有していることを実証した。

PeTra:人追跡のためのスパースに監視されたメモリモデル | 最新論文 | HyperAI超神経