HyperAIHyperAI
منذ 17 أيام

خسارة ثلاثية واعية بالحقل في التعميم الحقلية

Kaiyu Guo, Brian Lovell
خسارة ثلاثية واعية بالحقل في التعميم الحقلية
الملخص

على الرغم من التقدم الكبير المحرز في مجال تمييز الكائنات بفضل تطورات التعلم العميق، تظل هناك عوامل عديدة تؤثر سلبًا على أداء نماذج التعلم العميق. أحد هذه العوامل هو "انزياح المجال" (Domain Shift)، الذي ينشأ عن الفروق بين توزيعات البيانات المستخدمة في التدريب والبيانات المستخدمة في الاختبار. في هذه الورقة، نركّز على مشكلة تجميع الميزات المدمجة في سياق تعميم المجال، بهدف تحسين مساحة التضمين (Embedding Space) الناتجة عن بيانات متعددة المجالات. ولتحقيق ذلك، نصمم خسارة ثلاثية واعية بالمهام (Domain-aware Triplet Loss) لتحسين أداء تعميم المجال، بحيث تُمكّن النموذج من تجميع الميزات الشبيهة من الناحية المعنى، وفي الوقت نفسه تُفرّق بين الميزات الناتجة عن مجالات مختلفة. على عكس الطرق السابقة التي ركّزت على محاذاة التوزيعات، فإن خوارزميتنا مصممة لتفريق معلومات المجال داخل مساحة التضمين. وتنبع الفكرة الأساسية من الافتراض بأن يمكن تجميع الميزات في مساحة التضمين بناءً على معلومات المجال، وهو ما يُدعم رياضيًا وتجريبيًا في هذه الورقة. بالإضافة إلى ذلك، أثناء استكشافنا لتجميع الميزات في سياق تعميم المجال، لاحظنا أن العوامل المؤثرة في تقارب خسارة التعلم القياسي (Metric Learning Loss) في تعميم المجال تكون أكثر أهمية من المجالات المحددة مسبقًا. ولحل هذه المشكلة، نستخدم طريقتين لمعايرة مساحة التضمين، مما يقلل من انزياح التغير الداخلي (Internal Covariate Shift) في الميزات المضمنة. تُظهر الدراسة التحليلية (Ablation Study) فعالية خوارزميتنا. علاوةً على ذلك، تُظهر النتائج التجريبية على مجموعات بيانات معيارية، بما في ذلك PACS وVLCS وOffice-Home، أن طريقة التصميم لدينا تتفوق على الطرق المماثلة التي تركز على الفروق بين المجالات. وبشكل خاص، تُظهر نتائجنا باستخدام نموذج RegnetY-16 تحسنًا كبيرًا مقارنة بالطرق الأفضل في المجال على هذه المجموعات المعيارية. سيتم إصدار الكود الخاص بنا عبر الرابط: https://github.com/workerbcd/DCT

خسارة ثلاثية واعية بالحقل في التعميم الحقلية | أحدث الأوراق البحثية | HyperAI