HyperAIHyperAI
منذ 2 أشهر

تمييز مخفي للتعلم الذاتي بدون إشراف على السحابات النقطية

Liu, Haotian ; Cai, Mu ; Lee, Yong Jae
تمييز مخفي للتعلم الذاتي بدون إشراف على السحابات النقطية
الملخص

حققت الترميز التلقائي المقنّع (Masked Autoencoding) نجاحًا كبيرًا في مجالات التعلم الذاتي بدون إشراف للصور واللغة. ومع ذلك، لم تظهر التقنيات القائمة على القناع فوائد حتى الآن في فهم السحابات النقطية (point clouds)، ربما بسبب عدم قدرة الهياكل الأساسية القياسية مثل PointNet على التعامل بشكل صحيح مع عدم التطابق بين توزيع البيانات أثناء التدريب واختبارها الذي يُدخله القناع أثناء التدريب. في هذا البحث، نغلق هذه الفجوة من خلال اقتراح إطار عمل متحول (Transformer) للتدريب المقنّع التمييزي، والذي أطلقنا عليه اسم MaskPoint، خاص بالسحابات النقطية. الفكرة الرئيسية لدينا هي تمثيل السحابة النقطية كقيم احتلال متقطعة (1 إذا كانت جزءًا من السحابة النقطية؛ 0 إذا لم تكن كذلك)، وأداء تصنيف ثنائي بسيط بين نقاط الكائن المقنّعة ونقاط الضوضاء المستخرجة كمهمة بديلة. بهذه الطريقة، يكون نهجنا مقاومًا لاختلاف عينات النقاط في السحابات النقطية، مما يسهل تعلم تمثيلات غنية. نقوم بتقييم نماذجنا المدربة مسبقًا عبر عدة مهام ثانوية، بما في ذلك تصنيف الأشكال ثلاثية الأبعاد، والتقسيم، وكشف الكائنات الحقيقية، ونثبت تحقيق أفضل النتائج المعروفة حتى الآن مع زيادة كبيرة في سرعة التدريب المسبق (مثل 4.1 مرة على ScanNet) مقارنة بأفضل إطار عمل متحول سابق كان يعتبر المرجعي. الرمز البرمجي متاح على الرابط: https://github.com/haotian-liu/MaskPoint.

تمييز مخفي للتعلم الذاتي بدون إشراف على السحابات النقطية | أحدث الأوراق البحثية | HyperAI