الملخص

تطورت النماذج اللغوية الكبيرة (LLMs) إلى أنظمة عاملة قادرة على استخدام أدوات تلقائية والتفكير متعدد الخطوات لحل المشكلات المعقدة. ومع ذلك، تُظهر النماذج التي تُدرَّب بعد التدريب الأولي، والتي تعتمد على النماذج الأساسية العامة، أداءً ضعيفًا باستمرار في المهام العاملة، خصوصًا في النسخ المفتوحة المصدر. نحدد السبب الجذري: غياب النماذج الأساسية العاملة القوية، ما يُجبر النماذج أثناء التدريب اللاحق على تعلُّم سلوكيات عاملة متنوعة في آنٍ واحد، مع محاذاة هذه السلوكيات إلى أمثلة الخبراء، مما يخلق تناقضات أساسية في عملية التحسين. ولحل هذه المشكلة، نُقدِّم لأول مرة دمج عملية التدريب المُستمر العامل (Agentic Continual Pre-training - Agentic CPT) في خط أنابيب تدريب الوكلاء العاملين العميقين، بهدف بناء نماذج أساسية عاملة قوية. واستنادًا إلى هذا النهج، نُطوِّر نموذجًا عاملًا عميقًا للبحث يُسمَّى AgentFounder. وقد قُمنا بتقييم نموذج AgentFounder-30B على 10 معايير، وحقق أداءً يُصنَّف ضمن أفضل الأداء في المجال، مع الحفاظ على قدرة قوية على استخدام الأدوات، حيث بلغت النتائج 39.9% في BrowseComp-en، و43.3% في BrowseComp-zh، و31.5% في Pass@1 على HLE.