HyperAIHyperAI

Command Palette

Search for a command to run...

التعلم التبايني المتعدد الوسائط مع اختيار المثال المشترك (JEST)

التاريخ

منذ عام واحد

العلامات

التعلم التبايني المتعدد الوسائط مع اختيار المثال المشترك (JEST) هي خوارزمية جديدة اقترحها فريق البحث DeepMind في عام 2024.يؤدي تنظيم البيانات من خلال اختيار الأمثلة المشتركة إلى تسريع التعلم المتعدد الوسائط بشكل أكبريهدف JEST إلى حل مشكلة استهلاك الطاقة المرتفع أثناء تدريب نماذج اللغات الكبيرة مثل ChatGPT. تُقلل خوارزمية JEST بشكل كبير من موارد الحوسبة والوقت اللازمين من خلال اختيار دفعات فرعية عالية الجودة من "دفعات فائقة" واسعة النطاق للتدريب.

الفكرة الأساسية لخوارزمية JEST هي الاستفادة من التعلم التبايني المتعدد الوسائط واختيار المثال المشترك لتحسين كفاءة التدريب. يقوم أولاً بتقييم قابلية التعلم للدفعة الفرعية بأكملها، ثم يقوم بأخذ عينات بناءً على النتائج لاختيار الدفعات الفرعية الأكثر ملاءمة للتعلم من أجل التدريب. لا يؤدي هذا النهج إلى تحسين كفاءة التدريب فحسب، بل يعمل أيضًا على تسريع التعلم المتعدد الوسائط. عند استخدام نسب التصفية 50% و80% و90%، هناك حاجة إلى 2 مليار و1 مليار و670 مليون عينة تدريب فقط، على التوالي، لتحقيق الأداء النهائي لمعيار 3 مليارات الموحد.

بالإضافة إلى ذلك، تأخذ خوارزمية JEST أيضًا في الاعتبار التأثير التآزري بين التدريب متعدد الدقة واختيار الدفعة عبر الإنترنت لتقليل التكلفة الحسابية بشكل أكبر.

بناء الذكاء الاصطناعي بالذكاء الاصطناعي

من الفكرة إلى الإطلاق — عجّل تطوير الذكاء الاصطناعي الخاص بك من خلال البرمجة المشتركة المجانية بالذكاء الاصطناعي، وبيئة جاهزة للاستخدام، وأفضل أسعار لوحدات معالجة الرسومات.

البرمجة المشتركة بالذكاء الاصطناعي
وحدات معالجة رسومات جاهزة
أفضل الأسعار
ابدأ الآن

Hyper Newsletters

اشترك في آخر تحديثاتنا
سنرسل لك أحدث التحديثات الأسبوعية إلى بريدك الإلكتروني في الساعة التاسعة من صباح كل يوم اثنين
مدعوم بواسطة MailChimp