Room-Across-Room：密な時空間基底を用いた多言語視覚言語ナビゲーション

本稿では、新たな視覚・言語ナビゲーション（VLN）データセット「Room-Across-Room（RxR）」を紹介する。RxRは英語、ヒンディ語、テルグ語の多言語対応であり、他のVLNデータセットと比較してより大規模（より多くの経路と指示文）である。本データセットは、経路に見られる既知のバイアスを是正し、視認可能な実体への言語的参照をより多く引き出すことで、言語がVLNにおいて果たす役割に重点を置いている。さらに、各指示文内の単語が、指示作成者および検証者の仮想的な姿勢（pose）と時間的に同期されている。単言語および多言語設定、およびRoom-to-Roomのアノテーションを含むマルチタスク学習におけるベースラインスコアを設定した。また、人間のデモンストレーションで注目されたパノラマの一部にのみ注目することで、同期された姿勢トレースから学習するモデルの性能も提示している。RxRの規模、範囲、詳細さは、模擬的かつ写実的な環境における体現型言語エージェントに関する研究の前線を著しく拡大している。