HyperAIHyperAI
منذ 4 أشهر

GPSFormer: محول يستند إلى الإدراك العالمي وتناسب الهيكل المحلي لفهم السحابة النقطية

Wang, Changshuo ; Wu, Meiqing ; Lam, Siew-Kei ; Ning, Xin ; Yu, Shangshu ; Wang, Ruiping ; Li, Weijun ; Srikanthan, Thambipillai
GPSFormer: محول يستند إلى الإدراك العالمي وتناسب الهيكل المحلي لفهم السحابة النقطية
الملخص

رغم التقدم الملحوظ في طرق التدريب المسبق لفهم السحب النقطية، لا يزال التقاط المعلومات الشكلية المعقدة من السحب النقطية غير المنتظمة دون الاعتماد على البيانات الخارجية تحديًا كبيرًا. لحل هذه المشكلة، نقترح GPSFormer، وهو محول (Transformer) مبتكر يستند إلى الإدراك العالمي وتناسب الهيكل المحلي، والذي يتعلم المعلومات الشكلية التفصيلية من السحب النقطية بدقة ملحوظة. يتكون جوهر GPSFormer من وحدة الإدراك العالمي (GPM) وتناسب الهيكل المحلي للالتفاف (LSFConv). بصفة خاصة، تستخدم GPM الالتفاف الرسومي المرن القابل للتكييف (ADGConv) لاكتشاف الارتباطات قصيرة المدى بين الخصائص المشابهة في الفضاء الخصائصي وتستفيد من انتباه متعدد الرؤوس (MHA) لتعلم الارتباطات طويلة المدى عبر جميع المواقع داخل الفضاء الخصائصي، مما يمكنه في النهاية من تعلم مرنة للتمثيلات السياقية. مستوحىً من سلسلة تايلور، صممنا LSFConv، الذي يتعلم كلًا من المعلومات الأساسية ذات الرتب المنخفضة والمعلومات الدقيقة ذات الرتب المرتفعة من الهياكل الهندسية المحلية المشفرة بشكل صريح. بدمج GPM وLSFConv كمكونات أساسية، نقوم ببناء GPSFormer، وهو محول رائد يلتقط بشكل فعال الهياكل العالمية وال محلية للسحب النقطية. أثبتت التجارب الواسعة فعالية GPSFormer في ثلاث مهام للسحب النقطية: تصنيف الأشكال، تقسيم الأجزاء، والتعلم بمعدود قليل من الأمثلة. يمكن الحصول على شفرة GPSFormer من الرابط \url{https://github.com/changshuowang/GPSFormer}.