SR-Forest: طريقة تعلم مجمّع غير متجانس تعتمد على البرمجة الوراثية

تم استخدام طرق التعلم المجمّع (Ensemble learning methods) على نطاق واسع في مجال التعلم الآلي في السنوات الأخيرة بفضل أدائها التنبؤي العالي. ومع تطور طرق الانحدار الرمزي المستندة إلى البرمجة الوراثية (genetic programming-based symbolic regression)، بدأ العديد من الدراسات في اختيار طريقة التعلم المجمّع الشهيرة، وهي "غابة عشوائية" (random forests)، كمنافس أساسي للقياس. بدلاً من اعتبار هذه الطرق منافسة، قد تكون الفكرة البديلة هي النظر إلى الانحدار الرمزي كتقنية تحسين للغابة العشوائية. فطرق الانحدار الرمزي المستندة إلى البرمجة الوراثية، التي تُناسب دوالًا ناعمة، تكمل الطبيعة القطعية (piecewise) للأشجار القرار، حيث إن التغير الناعم شائع في مسائل الانحدار. في هذه المقالة، نقترح بناء نموذج مجمّع باستخدام أشجار قرار تعتمد على الانحدار الرمزي لمعالجة هذه المشكلة. علاوة على ذلك، قمنا بتصميم مشغل طفرة موجهة (guided mutation operator) لتسريع عملية البحث في المشكلات عالية الأبعاد، واستراتيجية تقييم متعددة الدقة (multi-fidelity evaluation strategy) لتقليل التكلفة الحسابية، بالإضافة إلى آلية اختيار مجمّع (ensemble selection mechanism) لتحسين الأداء التنبؤي. وأخيرًا، أظهرت النتائج التجريبية على مجموعة معايير انحدار مكوّنة من 120 مجموعة بيانات أن النموذج المُقترح يتفوّق على 25 طريقة موجودة للانحدار الرمزي والتعلم المجمّع. كما أن الطريقة المقترحة قادرة على تقديم رؤى مهمة في مهمة توقع أداء مُعامِلات XGBoost، وهي مجال تطبيقي مهم لطرق التعلم المجمّع.