Scan2CAD: RGB-DスキャンにおけるCADモデルのアライメント学習

我々はScan2CADという新しいデータ駆動型手法を提案します。この手法は、形状データベースから清潔な3D CADモデルを商品RGB-Dスキャンのノイジーで不完全な幾何学に合わせるための学習を行います。室内シーンの3D再構成において、当手法はCADモデルのセットを取り扱い、各モデルが基となるスキャン幾何学に一致する9自由度（9DoF）ポーズを予測します。この問題に対処するために、1506件のScanNetスキャンと14225件のShapeNet CADモデルとの間で97607個のアノテートされたキーポイントペアに基づく新しいスキャン対CADアライメントデータセットを作成しました。当手法では、3Dスキャン内で代表的なキーポイントを選択し、それらがCAD幾何学に対応することを見出します。そのためには、実際の物体と合成物体との間での共通埋め込み（joint embedding）を学習する新しい3D CNNアーキテクチャを設計しました。これにより、対応関係ヒートマップ（correspondence heatmap）を予測します。これらの対応関係ヒートマップに基づいて、与えられたCADモデルのセットが再構成に一致するように変分エネルギー最小化（variational energy minimization）を定式化しました。我々は新しく導入したScan2CADベンチマーク上で当手法を評価し、手作り特徴記述子や最先端のCNNベース手法よりも21.39%優れた性能を示しました。