HyperAI

ضبط المعلمات الكاملة

ضبط المعلمات الكامل هو تقنية تحسين النموذج في التعلم العميق، وتستخدم بشكل خاص في سيناريوهات التعلم الانتقالي أو التكيف مع المجال. يتضمن ذلك ضبط جميع معلمات النموذج المدرب مسبقًا لتناسب مهمة أو مجموعة بيانات محددة. تسمح هذه التقنية بتحسين النموذج لمهمة محددة مع الاحتفاظ بالمعرفة المدربة مسبقًا، ولكنها تتطلب في المقابل المزيد من موارد الحوسبة. إنه نموذج رئيسي لنماذج اللغة المدربة مسبقًا (PLMs) في معالجة اللغة الطبيعية (NLP)، والذي يتضمن ضبط جميع معلمات النموذج باستخدام بيانات مُسمّاة للمهام اللاحقة للتكيف مع مهام محددة. على الرغم من أن هذه الطريقة يمكن أن تعمل على تحسين الأداء، إلا أنها مصحوبة أيضًا باستهلاك ضخم لموارد الحوسبة والتخزين. ومع زيادة حجم النموذج، تزداد أيضًا متطلبات الموارد اللازمة لضبط المعلمات بالكامل، وهو ما يحد إلى حد ما من نطاق تطبيقه. .