3ヶ月前

ストーリー内のアンカーワード埋め込みを予測することによるビジュアル・ストーリーテリング

Bowen Zhang, Hexiang Hu, Fei Sha
ストーリー内のアンカーワード埋め込みを予測することによるビジュアル・ストーリーテリング
要約

視覚的ストーリーテリング(visual storytelling)というタスクに対する学習モデルを提案する。本研究の核心的なアイデアは、画像からアンカー語彙埋め込み(anchor word embeddings)を予測し、その埋め込みと画像特徴量を統合して物語文を生成することである。ターゲットとなるアンカー語彙埋め込みとして、正解の物語からランダムに抽出した名詞の埋め込みを用い、予測器を学習する。複数の画像からなるシーケンスを物語化する際には、予測されたアンカー語彙埋め込みと画像特徴量を組み合わせた入力として、seq2seqモデルを用いる。従来の最先端手法と異なり、提案手法は構造が単純で最適化が容易であり、多数の自動評価指標において最高の性能を達成している。人間による評価でも、他の手法を上回る結果が得られた。