التنظيمإنها عملية تقديم معلومات إضافية لحل مشكلة أو منع الإفراط في التجهيز. إنها طريقة شائعة في الرياضيات والإحصاء وعلوم الكمبيوتر، وخاصة في التعلم الآلي والمسائل العكسية.

طرق التنظيم الشائعة

• التنظيم L2: مجموع مربعات جميع المعلمات w، مقسومًا على حجم العينة n لمجموعة التدريب، λ هو معامل مصطلح التنظيم، والذي يستخدم لوزن نسبة مصطلح التنظيم ومصطلح C0. بالإضافة إلى ذلك، هناك معامل 1/2. الغرض من إضافة مصطلحات التنظيم هو تقليل مجموع مربعات المعلمات. الطريقة الأكثر شيوعًا للتنظيم في التعلم الآلي هي فرض قيد معياري L2 على الأوزان.
• التنظيم L1: يتم ضرب مجموع القيم المطلقة لجميع الأوزان w في λ/n. تضيف عملية التنظيم L1 مصطلح تنظيم إلى دالة الهدف لتقليل القيمة المطلقة للمعلمات وغالبًا ما يتم استخدامها في اختيار الميزة.
• التسرب: يتم تحقيق التنظيم L1 و L2 عن طريق تعديل دالة التكلفة، بينما يتم تحقيق التسرب عن طريق تعديل الشبكة العصبية نفسها. إنها تقنية تستخدم في تدريب الشبكات العصبية.
• Drop Connect: تعميم لـ Dropout، وهو عبارة عن استراتيجية تنظيم أخرى لتقليل الإفراط في ملاءمة الخوارزمية. يقوم Drop Connect عادةً بتعيين مجموعة فرعية مختارة عشوائيًا من أوزان بنية الشبكة إلى 0.
• الإيقاف المبكر: تحديد عدد تكرارات التدريب المطلوبة للنموذج لتقليل دالة التكلفة، والذي يستخدم غالبًا لمنع النماذج المفرطة التعبير من الحصول على أداء تعميم ضعيف أثناء التدريب.

الكلمات الفرعية: تنظيم اللغة الأولى، تنظيم اللغة الثانية