المحولات القائمة على الطاقة (EBTs)

المحولات القائمة على الطاقة (EBTs) هي نوع جديد من النماذج القائمة على الطاقة اقترحها فريق من جامعة فيرجينيا في 2 يوليو 2025. يمكنها تعيين قيمة طاقة لكل زوج من المدخلات والمرشحات للتنبؤ وتحقيق التنبؤ عن طريق تقليل الطاقة بناءً على الانحدار التدرجي حتى التقارب.المحولات القائمة على الطاقة هي متعلمين ومفكرين قابلين للتطوير".

تتوسع وحدات EBT بشكل أسرع أثناء التدريب مقارنةً بنهج Transformer++ السائد حاليًا في مهام النمطين المنفصل والمستمر، محققةً تحسينات في التوسع تصل إلى 35% عبر أبعاد متعددة، بما في ذلك حجم البيانات، وحجم الدفعة، وعدد المعلمات، وFLOPs، وعمق النموذج. حتى مع أداء مماثل أو حتى أدنى في مرحلة ما قبل التدريب، لا تزال وحدات EBT تتفوق على النماذج الحالية في معظم المهام اللاحقة، مما يُظهر قدرات تعميم فائقة مقارنةً بالطرق الحالية.

تمثل تجارب التعلم القائمة على الأدلة (EBTs) نموذجًا جديدًا واعدًا يمكنه توسيع قدرات التعلم والتفكير في النموذج في وقت واحد.