إعادة بناء اليدين في بعد ثلاثي باستخدام المحولات

نقدّم نهجًا يمكنه استرجاع اليد ثلاثية الأبعاد من مدخلات مونوكولار (أحادية الكاميرا). يعتمد نهجنا لاسترداد شبكة اليد، المعروف بـ HaMeR، على بنية بالكامل مبنية على الترانسفورمر (Transformer)، ويتيح تحليل الأيدي بدقة وثبات كبيرين مقارنة بالأساليب السابقة. تكمن المفتاح الرئيسي لنجاح HaMeR في التوسع في حجم البيانات المستخدمة في التدريب وفي قدرة الشبكة العميقة الخاصة باسترجاع اليد. أما بالنسبة لبيانات التدريب، فإننا ندمج عدة مجموعات بيانات تحتوي على تسميات يدوية ثنائية أو ثلاثية الأبعاد. أما بالنسبة للنموذج العميق، فإننا نستخدم بنية ترانسفورمر الرؤية على نطاق واسع. يتفوق نموذجنا النهائي باستمرار على النماذج السابقة في المعايير الشهيرة لقياس وضعية اليد ثلاثية الأبعاد. ولتقييم إضافي لتأثير تصميمنا في البيئات غير المنظمة، قمنا بتوسيع مجموعات البيانات الموجودة في الطبيعة (in-the-wild) بتسميات ثنائية الأبعاد لنقاط المفاصل اليدوية. وباستخدام مجموعة التسميات الجديدة، المسمّاة HInt، نُظهر تحسينات كبيرة مقارنة بالأساليب الحالية. نُزوّد بالكود والبيانات والنماذج على موقع المشروع: https://geopavlakos.github.io/hamer/.