المعلمات الفائقة

في التعلم الآلي، تعتبر المعلمات الفائقة عبارة عن معلمات يتم تقديمها مسبقًا للتحكم في عملية التعلم. يتم الحصول على قيم المعلمات الأخرى (مثل أوزان العقد) من خلال التدريب.المعلمات الفائقة هي خيارات تكوين تحدد كيفية تعلم خوارزمية التعلم الآلي من البيانات؛ يتم تعيينها من قبل المستخدم ولا يتم تعلمها أثناء عملية التدريب. تتضمن أمثلة المعلمات الفائقة معدل التعلم، وعدد الطبقات المخفية في الشبكة العصبية، وعدد أشجار القرار في الغابة العشوائية، ومعلمة التنظيم في الانحدار الخطي.

يمكن تقسيم المعلمات الفائقة إلى معلمات فائقة للنموذج ومعلمات فائقة للخوارزمية. تُستخدم معلمات النموذج بشكل أساسي لاختيار النموذج ولا تساعد في تعلم خصائص مجموعة التدريب. على النقيض من ذلك، من الناحية النظرية ليس لمعلمات الخوارزمية الفائقة أي تأثير على أداء النموذج، ولكنها ستؤثر على سرعة وجودة التعلم. المعلمة النموذجية النموذجية هي طوبولوجيا وحجم الشبكة العصبية؛ في حين أن معدل التعلم وحجم الدفعة (حجم الدفعة) وحجم الدفعة الصغيرة (حجم الدفعة الصغيرة) هي معلمات نموذجية للخوارزمية.

تتطلب خوارزميات تدريب النماذج المختلفة معلمات فرعية مختلفة. بعض الخوارزميات البسيطة (مثل الانحدار باستخدام المربعات الصغرى العادية) لا تتطلب معلمات فائقة. يعد اختيار المعلمات الفائقة المناسبة أمرًا بالغ الأهمية لأنه يؤثر بشكل مباشر على أداء وسلوك نماذج التعلم الآلي. قد يؤدي تعيين معلمات فائقة منخفضة للغاية إلى عدم الملاءمة، حيث يفشل النموذج في التقاط الأنماط الأساسية في البيانات. وعلى العكس من ذلك، فإن تعيينها على قيمة عالية للغاية قد يؤدي إلى الإفراط في التجهيز، حيث يصبح النموذج معقدًا للغاية ويحفظ بيانات التدريب بدلاً من التعميم بشكل جيد على البيانات غير المرئية. ضبط المعلمات الفائقة هو عملية العثور على أفضل مجموعة من المعلمات الفائقة لمهمة التعلم الآلي المحددة. يتم ذلك عادة من خلال البحث الشبكي، أو البحث العشوائي، أو تقنيات أكثر تقدمًا مثل التحسين البايزي. من خلال استكشاف مجموعات مختلفة من المعلمات الفائقة بشكل منهجي، يمكن للباحثين تحديد التكوين الذي يعمل على تعظيم أداء النموذج على مجموعة التحقق من الصحة.

مراجع

【1】https://zh.wikipedia.org/wiki/1T P3TB0_()

【2】https://encord.com/glossary/hyper-parameters-definition/