HOPE يحافظ على تعاون الخبراء بتقليم النماذج اللغوية

أظهرت ورقة بحثية نُشرت عام 2026 طريقة جديدة لتقليص حجم النماذج اللغوية الكبيرة المبنية على بنية الخبراء المختلطة، مع الحفاظ على قدراتها، وذلك عبر أسلوب يسمى «هوب» لتقليم الخبراء من الرتبة الثانية. وتواجه هذه النماذج مشكلة في الذاكرة، إذ تحتوي كل طبقة على مئات وحدات الخبراء، بينما يستخدم كل رمز عددًا محدودًا فقط منها، فتبقى الوحدات غير المستخدمة محجوزة في الذاكرة طوال وقت الاستدلال، ما قد يستهلك نحو 95 بالمئة من حجم النموذج. تعتمد الأساليب السابقة على تقدير أهمية كل خبير بشكل مستقل ثم حذف الأقل أهمية، لكن التجارب تشير إلى أن الخبراء يتعاونون في مجموعات تُفعَّل معًا بانتظام، وأن حذف خبير واحد قد يكسر مجموعة مؤثرة إذا كان ذلك الخبير يساند خبيرًا مهمًا. ويتجاوز «هوب» هذا القصور بمعالجة التفاعلات الثنائية بين الخبراء، إذ يبني مصفوفة ترصد متوسط أوزان التوجيه ونشاط أزواج الخبراء في الرموز المشتركة، ثم يختار مجموعة الحذف التي تقلل الخطأ المتوقع عبر حل برمجة تربيعية، مع زيادة زمنية طفيفة على المعايرة. وعلى نماذج كبيرة ذات 35 مليارًا و122 مليار معلمة، إضافة إلى نموذج يتجاوز 100 مليار معلمة ويضم 128 خبيرًا في الطبقة، تفوق الأسلوب على طرق التقليم الأولية، وحقق أفضل متوسط ترتيب عند نسب تقليم عالية، مع مكاسب تصل إلى 6,1 بالمئة في مهام البرمجة الوكيلية مقارنة بأفضل طريقة منافسة. وفي اختبار واقعي لإصلاح الأخطاء البرمجية، حافظ نموذج مُقلَّم بنسبة 50 بالمئة على مستوى قريب من النموذج الكامل، بينما انخفض أداء الطرق السابقة. وتوفر الورقة أداة مبسطة تعمل بثلاث خطوات: المعايرة، وحل التقييم، وإنشاء نسخة أصغر من النموذج دون تغيير في أنظمة التنفيذ. وتقتصر أقوى المزايا على معدلات التقليم المرتفعة، إذ تبقى الأساليب الأولية تنافسية عند الخصومات المنخفضة. كما لا يرصد النموذج بعد كامل التفاعلات بين الطبقات، وإن كانت الورقة تستكشف إطارًا نظريًا لذلك.