الإمساك الكلي: تقدير وضعية الإنسان ثلاثية الأبعاد من خلال دمج الفيديو والمستشعرات الحركية

نقدّم خوارزمية لدمج مقاطع الفيديو من وجهات نظر متعددة (MVV) مع بيانات وحدة القياس الحركي (IMU) لتقدير دقيق لوضع الجسم البشري ثلاثي الأبعاد. يتم استخدام شبكة عصبية متعددة الأبعاد (3D CNN) لاستخلاص تمثيل لوضع الجسم من بيانات الحالة البصرية الاحتمالية الحجمية (PVH) المستمدة من إطارات مقاطع الفيديو متعددة الزوايا. ونُدمج هذا النموذج ضمن شبكة ذات تدفق مزدوج، تدمج تمثيلات وضع الجسم المستمدة من MVV مع حل حركي أمامي لبيانات IMU. كما يتم إدخال نموذج زمني (LSTM) داخل كل من التدفقين قبل دمجهما. تُظهر النتائج أن الاستدلال الهجين على وضع الجسم باستخدام هذين المصدرَين المكملين يُسهم في حل الغموض الموجود في كل من وسائط الاستشعار، مما يؤدي إلى دقة أفضل مقارنة بالطرق السابقة. كما يُعدّ إسهامًا إضافيًا في هذا العمل إنشاء مجموعة بيانات هجينة جديدة لمقاطع الفيديو متعددة الزوايا (TotalCapture)، تشمل مقاطع فيديو، بيانات IMU، وحقائق مرجعية لعُقد المفاصل العظمية المستمدة من نظام احترافي لالتقاط الحركة. وتتوفر هذه المجموعة على الإنترنت عبر الرابط: http://cvssp.org/data/totalcapture/