HyperAIHyperAI

Command Palette

Search for a command to run...

التعلم التبايني المتعدد الوسائط مع اختيار المثال المشترك (JEST)

التاريخ

منذ 2 أعوام

التعلم التبايني المتعدد الوسائط مع اختيار المثال المشترك (JEST) هي خوارزمية جديدة اقترحها فريق البحث DeepMind في عام 2024.يؤدي تنظيم البيانات من خلال اختيار الأمثلة المشتركة إلى تسريع التعلم المتعدد الوسائط بشكل أكبريهدف JEST إلى حل مشكلة استهلاك الطاقة المرتفع أثناء تدريب نماذج اللغات الكبيرة مثل ChatGPT. تُقلل خوارزمية JEST بشكل كبير من موارد الحوسبة والوقت اللازمين من خلال اختيار دفعات فرعية عالية الجودة من "دفعات فائقة" واسعة النطاق للتدريب.

الفكرة الأساسية لخوارزمية JEST هي الاستفادة من التعلم التبايني المتعدد الوسائط واختيار المثال المشترك لتحسين كفاءة التدريب. يقوم أولاً بتقييم قابلية التعلم للدفعة الفرعية بأكملها، ثم يقوم بأخذ عينات بناءً على النتائج لاختيار الدفعات الفرعية الأكثر ملاءمة للتعلم من أجل التدريب. لا يؤدي هذا النهج إلى تحسين كفاءة التدريب فحسب، بل يعمل أيضًا على تسريع التعلم المتعدد الوسائط. عند استخدام نسب التصفية 50% و80% و90%، هناك حاجة إلى 2 مليار و1 مليار و670 مليون عينة تدريب فقط، على التوالي، لتحقيق الأداء النهائي لمعيار 3 مليارات الموحد.

بالإضافة إلى ذلك، تأخذ خوارزمية JEST أيضًا في الاعتبار التأثير التآزري بين التدريب متعدد الدقة واختيار الدفعة عبر الإنترنت لتقليل التكلفة الحسابية بشكل أكبر.

بناء الذكاء الاصطناعي بالذكاء الاصطناعي

من الفكرة إلى الإطلاق — سرّع تطوير الذكاء الاصطناعي الخاص بك مع المساعدة البرمجية المجانية بالذكاء الاصطناعي، وبيئة جاهزة للاستخدام، وأفضل أسعار لوحدات معالجة الرسومات.

البرمجة التعاونية باستخدام الذكاء الاصطناعي
وحدات GPU جاهزة للعمل
أفضل الأسعار

HyperAI Newsletters

اشترك في آخر تحديثاتنا
سنرسل لك أحدث التحديثات الأسبوعية إلى بريدك الإلكتروني في الساعة التاسعة من صباح كل يوم اثنين
مدعوم بواسطة MailChimp