要約
動画セマンティックセグメンテーションでは、動画シーケンス内のフレーム間における複雑な時系列関係を活用する必要がある。従来の手法は、時系列関係を効果的に活用するため、高精度なオプティカルフローを用いることが一般的であったが、これには膨大な計算コストが伴うという課題があった。本論文では、過度なオプティカルフロー予測を必要とせずに、自己注意機構（self-attention mechanism）に基づき、動画シーケンス全体にわたる長距離時系列関係を適応的に統合するための「時系列メモリ注意ネットワーク（Temporal Memory Attention Network, TMANet）」を提案する。具体的には、過去の複数フレームを用いてメモリを構築し、現在のフレームの時系列情報を保存する。さらに、現在のフレームとメモリ間の関係を捉えるための「時系列メモリ注意モジュール」を提案し、これにより現在のフレームの表現力を強化する。本手法は、2つの挑戦的な動画セマンティックセグメンテーションデータセットにおいて、新たなSOTA（State-of-the-Art）性能を達成した。特に、CityscapesデータセットではResNet-50を用いて80.3%のmIoU、CamVidデータセットでは76.5%のmIoUを達成した。