إعادة بناء اليد ثلاثية الأبعاد من خلال تجميع الرسوم البيانية الداخلية والخارجية بقيادة المعرفة السابقة لسيناريو تفاعل اليد مع الكائنات

في الآونة الأخيرة، حظيت إعادة بناء اليد ثلاثية الأبعاد باهتمام أكبر في مجال التعاون بين الإنسان والحاسوب، خاصة في سيناريوهات تفاعل اليد مع الأشياء. ومع ذلك، لا يزال هذا المجال يواجه تحديات كبيرة بسبب التعتيم الشديد لليد الناجم عن التفاعل، والذي يتضمن موازنة الدقة والواقعية الفيزيائية، وتوافق الخرائط غير الخطية بشكل كبير لمعلمات النموذج، وتعزيز ميزات التعتيم. لتجاوز هذه المشكلات، نقترح شبكة لإعادة بناء اليد ثلاثية الأبعاد تجمع بين فوائد النماذج القائمة على البيانات والنماذج الحرة من البيانات لتحقيق التوازن بين الدقة والواقعية الفيزيائية في سيناريوهات تفاعل اليد مع الأشياء.أولاً، نقدم وحدة تنبؤ جديدة بمعالم وضعية MANO مباشرة من المفاصل ثنائية الأبعاد، مما يتجنب عملية التوافق غير الخطي بشكل كبير من ميزات الصورة المجردة ولم تعد تعتمد على المفاصل ثلاثية الأبعاد بدقة. علاوة على ذلك، نقترح نموذجًا جديدًا للانتباه المتبادل بين الرأس والمفصل (vertex-joint mutual graph-attention model) موجهًا بواسطة MANO لتحسين شبكات اليدين والمفاصل بشكل مشترك، حيث يتم نمذجة اعتمادية الرأس-الرأس والمفصل-المفصل ويتم التقاط علاقة الرأس-المفصل لتجميع خصائص العقد داخل الرسم البياني وخارجه على التوالي.تظهر نتائج التجارب أن طريقتنا تحقق أداءً تنافسيًا على مجموعات البيانات المرجعية الحديثة HO3DV2 وDex-YCB، وتتفوق على جميع النماذج القائمة فقط على البيانات والنماذج الحرة فقط من البيانات.