HyperAIHyperAI
منذ 2 أشهر

LCPFormer: نحو تحليل فعال للسحابات النقطية ثلاثية الأبعاد من خلال انتشار السياق المحلي في الترانسفورمرات

Huang, Zhuoxu ; Zhao, Zhiyou ; Li, Banghuai ; Han, Jungong
LCPFormer: نحو تحليل فعال للسحابات النقطية ثلاثية الأبعاد من خلال انتشار السياق المحلي في الترانسفورمرات
الملخص

يعد النموذج التحويلي (Transformer) مع آلية الانتباه الأساسية وقدرته على التقاط الارتباطات طويلة المدى خيارًا طبيعيًا للبيانات السحابية ثلاثية الأبعاد غير المرتبة. ومع ذلك، فإن الفصل بين المناطق المحلية من البنية العامة للعينة يفسد معلومات الهيكل للعناصر، ويفتقر إلى استكشاف العلاقات الطبيعية بين المناطق المحلية المجاورة، بينما تعتبر المعلومات الهيكلية المحلية حاسمة في نموذج السحابة النقطية ثلاثي الأبعاد القائم على النموذج التحويلي. لذلك، في هذا البحث، نقترح وحدة جديدة تسمى انتشار السياق المحلي (Local Context Propagation - LCP) لاستغلال تمرير الرسائل بين المناطق المحلية المجاورة وجعل تمثيلاتها أكثر إفادة وتفرقة.وبشكل أكثر تحديدًا، نستخدم النقاط المتداخلة بين المناطق المحلية المجاورة (والتي تظهر إحصائيًا أنها شائعة) كوسطاء، ثم نعيد وزن ميزات هذه النقاط المشتركة من المناطق المحلية المختلفة قبل نقلها إلى الطبقات التالية. يؤدي إدراج وحدة LCP بين طبقتين تحويليتين إلى تحسين كبير في قدرة الشبكة على التعبير. أخيرًا، صممنا هندسة مرنة تُعرف بـ LCPFormer مجهزة بوحدة LCP. يمكن تطبيق الطريقة المقترحة على مهام مختلفة وتتفوق على العديد من الأساليب القائمة على النموذج التحويلي في مقاييس مختلفة مثل تصنيف الأشكال ثلاثية الأبعاد ومهمات التنبؤ الكثيف مثل الكشف عن الأجسام ثلاثية الأبعاد والتقسيم الدلالي.سيتم إطلاق الكود للمراجعة وإعادة الإنتاج.

LCPFormer: نحو تحليل فعال للسحابات النقطية ثلاثية الأبعاد من خلال انتشار السياق المحلي في الترانسفورمرات | أحدث الأوراق البحثية | HyperAI