Exploiter le biais inductif dans les Transformers pour la classification et la segmentation de nuages de points

La découverte des connexions inter-points pour une extraction efficace de caractéristiques de haute dimension à partir des coordonnées de points est un défi majeur dans le traitement des nuages de points. La plupart des méthodes existantes se concentrent sur la conception d'extracteurs locaux de caractéristiques efficaces tout en ignorant les connexions globales, ou inversement. Dans cet article, nous proposons une nouvelle méthode basée sur un Transformers aidé par un Biais Inductif (IBT) pour apprendre les relations inter-points en 3D, qui prend en compte à la fois les attentions locales et globales. Plus précisément, en considérant la cohérence spatiale locale, l'apprentissage des caractéristiques locales est réalisé grâce au Codage de Position Relatif et au Regroupement Attentif de Caractéristiques. Nous intégrons cette localité apprise dans le module Transformers. La caractéristique locale influence le composant valeur du Transformers pour moduler la relation entre les canaux de chaque point, ce qui peut améliorer le mécanisme d'auto-attention avec une interaction de canaux basée sur la localité. Nous démontrons expérimentalement sa supériorité sur les tâches de classification et de segmentation. Le code est disponible à l'adresse suivante : https://github.com/jiamang/IBT