HiCM$^2$: ヒエラルキー型コンパクトメモリモデルによる高密度ビデオキャプショニング

実世界のビデオ課題に対する解決策の需要が高まるにつれて、密集型ビデオキャプショニング（DVC）への関心も増加しています。DVCは、トリミングされていないビデオの自動キャプショニングと位置特定を扱う技術です。いくつかの研究では、DVCの課題が指摘され、事前学習や外部メモリなどの先験知識を活用した改善手法が提案されています。本研究では、人間の記憶階層構造と認知に着想を得た、人間中心の階層的コンパクトメモリの先験知識を活用するモデルを提案します。人間のような記憶再現を模倣するために、階層的メモリと階層的メモリ読み出しモジュールを構築しました。効率的な階層的コンパクトメモリを構築するために、メモリイベントのクラスタリングと大規模言語モデルを使用した要約化を行いました。比較実験により、この階層的記憶再現プロセスがYouCook2およびViTTデータセットで最先端の性能を達成し、DVCの性能向上に寄与することが示されました。