DINO في الغرفة: الاستفادة من النماذج الأساسية ثنائية الأبعاد للفصل ثلاثي الأبعاد

تُعد النماذج الأساسية للرؤية (VFMs) التي تم تدريبها على مجموعات بيانات صور كبيرة الحجم مصادر لسمات عالية الجودة ساهمت بشكل كبير في تطوير التعرف البصري ثنائي الأبعاد. ومع ذلك، لا يزال هناك استغلال محدود لقدرات هذه النماذج في مجال الرؤية ثلاثية الأبعاد، بالرغم من توفر الصور ثنائية الأبعاد بشكل شائع جنبًا إلى جنب مع مجموعات بيانات السحاب النقطي ثلاثي الأبعاد. وعلى الرغم من الجهود البحثية الكبيرة المبذولة في مجال دمج البيانات ثنائية وثلاثية الأبعاد، فإن الأساليب الحديثة المتطورة في مجال الرؤية ثلاثية الأبعاد تركز بشكل أساسي على البيانات ثلاثية الأبعاد، مما يترك مجال دمج النماذج الأساسية للرؤية ثنائية الأبعاد في النماذج ثلاثية الأبعاد دون استغلال كافٍ. في هذا العمل، نتحدى هذا الاتجاه من خلال تقديم DITR، وهي طريقة بسيطة وفعالة تُستخرج من خلالها ميزات النموذج الأساسي ثنائي الأبعاد، ثم تُرَمَّز إلى الفضاء ثلاثي الأبعاد، وتُدمج في نهاية المطاف في نموذج لتصنيف سحابات النقط ثلاثية الأبعاد. تحقق DITR أداءً متفوقًا على أفضل النماذج الحالية في معايير التصنيف الدلالي ثلاثي الأبعاد، سواء في البيئات الداخلية أو الخارجية. ولتمكين استخدام النماذج الأساسية ثنائية الأبعاد حتى عند عدم توفر الصور أثناء الاستدلال، نقترح أيضًا تدريب نموذج ثلاثي الأبعاد على معرفة مُستخلصة من النماذج الأساسية ثنائية الأبعاد كمهمة تدريب مسبق. وباستخدام معرفة مستخلصة من النماذج الأساسية ثنائية الأبعاد لتهيئة النموذج ثلاثي الأبعاد، نُنشئ أساسًا قويًا لمهام التصنيف ثلاثي الأبعاد اللاحقة، مما يعزز الأداء بشكل ملحوظ عبر مجموعة متنوعة من المجموعات البيانات.