2 个月前

利用Transformer中的归纳偏置进行点云分类和分割

Li, Zihao ; Gao, Pan ; Yuan, Hui ; Wei, Ran ; Paul, Manoranjan
利用Transformer中的归纳偏置进行点云分类和分割
摘要

从点坐标中发现点间连接以实现高效高维特征提取是处理点云的关键挑战之一。大多数现有方法要么专注于设计高效的局部特征提取器而忽视全局连接,要么反之。在本文中,我们设计了一种新的基于归纳偏置的变压器(Inductive Bias-aided Transformer, IBT)方法来学习三维点间关系,该方法同时考虑了局部和全局注意力机制。具体而言,考虑到局部空间一致性,局部特征学习通过相对位置编码和注意特征池化来完成。我们将学到的局部性融入到变压器模块中。局部特征影响变压器中的值组件,以调节每个点的通道之间的关系,从而通过基于局部性的通道交互增强自注意力机制。我们在分类和分割任务上进行了实验验证,展示了其优越性。代码可在以下地址获取:https://github.com/jiamang/IBT

利用Transformer中的归纳偏置进行点云分类和分割 | 最新论文 | HyperAI超神经