17日前

Text2Pos:テキストからポイントクラウドへのクロスモーダルローカライゼーション

Manuel Kolmet, Qunjie Zhou, Aljosa Osep, Laura Leal-Taixe
Text2Pos:テキストからポイントクラウドへのクロスモーダルローカライゼーション
要約

モバイルデバイスや家庭用家電との自然言語ベースのコミュニケーションは、ますます普及しつつあり、将来的にはモバイルロボットとのコミュニケーションにも自然な形で利用される可能性を秘めています。この目標に向けて、本研究では、たとえば車両のピックアップ場所や荷物の配達場所を指定できる、クロスモーダルなテキストからポイントクラウドへの位置特定(text-to-point-cloud localization)を検討します。特に、粗い段階から細かい段階へと段階的にテキスト記述と位置特定の手がかりを対応させる学習を行う、Text2Posというクロスモーダル位置特定モジュールを提案します。環境のポイントクラウドが与えられた場合、Text2Posは周囲の状況を自然言語で記述したテキストに基づいて、対応する位置を特定します。Text2Posの学習および性能評価のため、最近公開されたKITTI360データセットをもとに、本タスク向けの初のデータセットであるKITTI360Poseを構築しました。実験の結果、上位10件の検索結果のうち、65%のテキストクエリが、対応する位置から15メートル以内の範囲内に正しく位置特定できました。これは、自然言語に基づくナビゲーションへのさらなる発展を促すための出発点であると考えており、今後の研究に期待を寄せています。