HyperAIHyperAI
منذ 17 أيام

توافق التدرجات للعامة على المجال

Yuge Shi, Jeffrey Seely, Philip H.S. Torr, N. Siddharth, Awni Hannun, Nicolas Usunier, Gabriel Synnaeve
توافق التدرجات للعامة على المجال
الملخص

تُفترض عادةً أن أنظمة التعلم الآلي أن تتطابق توزيعات مجموعات التدريب والاختبار بشكل وثيق. ومع ذلك، فإن أحد المتطلبات الحاسمة لهذه الأنظمة في العالم الحقيقي هو قدرتها على التعميم على مجالات غير مرئية. هنا، نقترح هدفًا يُعرف بـ "مطابقة التدرج بين المجالات" (inter-domain gradient matching)، والذي يهدف إلى تحسين التعميم بين المجالات من خلال تكبير حاصل الضرب الداخلي بين التدرجات الناتجة عن مجالات مختلفة. وبما أن التحسين المباشر لحاصل الضرب الداخلي للتدرجات قد يكون مكلفًا حسابيًا — حيث يتطلب حساب المشتقات من الدرجة الثانية — فقد اشتقينا خوارزمية من الدرجة الأولى أبسط تُدعى "فيش" (Fish) تُقرب عملية التحسين هذه. نُظهر فعالية طريقة "فيش" على 6 مجموعات بيانات من معيار Wilds، الذي يُمثّل التحول في التوزيع عبر مجموعة متنوعة من الأنواع (السياقات). تُظهر طريقتنا نتائج تنافسية على هذه المجموعات، وتفوق جميع المعايير المعيارية في 4 منها. أجرينا تجارب على معيار Wilds، الذي يُعكس التحول في التوزيع في العالم الحقيقي، وكذلك على مجموعات بيانات من معيار DomainBed الذي يركّز أكثر على نقل التعلم من بيئات اصطناعية إلى واقعية. وحققت طريقتنا نتائج تنافسية على كلا المعيارَين، مما يُثبت فعاليتها في مجموعة واسعة من مهام التعميم بين المجالات.