التعلم التبايني المتعدد الوسائط مع اختيار المثال المشترك (JEST)

التعلم التبايني المتعدد الوسائط مع اختيار المثال المشترك (JEST) هي خوارزمية جديدة اقترحها فريق البحث DeepMind في عام 2024.يؤدي تنظيم البيانات من خلال اختيار الأمثلة المشتركة إلى تسريع التعلم المتعدد الوسائط بشكل أكبريهدف JEST إلى حل مشكلة استهلاك الطاقة المرتفع أثناء تدريب نماذج اللغات الكبيرة مثل ChatGPT. تُقلل خوارزمية JEST بشكل كبير من موارد الحوسبة والوقت اللازمين من خلال اختيار دفعات فرعية عالية الجودة من "دفعات فائقة" واسعة النطاق للتدريب.

الفكرة الأساسية لخوارزمية JEST هي الاستفادة من التعلم التبايني المتعدد الوسائط واختيار المثال المشترك لتحسين كفاءة التدريب. يقوم أولاً بتقييم قابلية التعلم للدفعة الفرعية بأكملها، ثم يقوم بأخذ عينات بناءً على النتائج لاختيار الدفعات الفرعية الأكثر ملاءمة للتعلم من أجل التدريب. لا يؤدي هذا النهج إلى تحسين كفاءة التدريب فحسب، بل يعمل أيضًا على تسريع التعلم المتعدد الوسائط. عند استخدام نسب التصفية 50% و80% و90%، هناك حاجة إلى 2 مليار و1 مليار و670 مليون عينة تدريب فقط، على التوالي، لتحقيق الأداء النهائي لمعيار 3 مليارات الموحد.

بالإضافة إلى ذلك، تأخذ خوارزمية JEST أيضًا في الاعتبار التأثير التآزري بين التدريب متعدد الدقة واختيار الدفعة عبر الإنترنت لتقليل التكلفة الحسابية بشكل أكبر.