8日前

NITS-VCシステム:VATEXビデオキャプションチャレンジ2020

Alok Singh, Thoudam Doren Singh, Sivaji Bandyopadhyay
NITS-VCシステム:VATEXビデオキャプションチャレンジ2020
要約

ビデオキャプションは、動画の内容、出来事、行動を短いテキスト形式に要約するプロセスであり、ビデオを用いた機械翻訳やビデオ感情分析、支援が必要な個人への支援など、多くの研究分野において有用である。本論文では、VATEX-2020ビデオキャプションチャレンジに使用されたフレームワークのシステム構成について述べる。本研究では、エンコーダ・デコーダ型アプローチを採用し、動画の視覚的特徴量は3次元畳み込みニューラルネットワーク(C3D)を用いてエンコードする。デコーディング段階では、視覚的特徴量と入力キャプションを別々に融合する2つの長短期記憶(LSTM)再帰型ニューラルネットワークを用い、両LSTMの出力に対して要素ごとの積演算を実行することで最終的な出力を生成する。本モデルは、公開テストデータセットおよび非公開テストデータセットにおいて、それぞれBLEUスコア0.20および0.22を達成した。