نيل-تشات: نماذج لغوية مصرية للحروف العربية واللاتينية

نقدم نماذج Nile-Chat-4B، 3x4B-A6B، و12B، وهي مجموعة من النماذج اللغوية الكبيرة المصممة خصيصًا لللهجة المصرية لفهم وإنتاج النصوص المكتوبة بحروف عربية وأحرف لاتينية. وبشكل خاص، مع نموذج Nile-Chat-3x4B-A6B، نقدم نهجًا جديدًا للتكيف اللغوي من خلال الاستفادة من استراتيجية Branch-Train-MiX لدمج الخبراء المتخصصين في الحرف في نموذج واحد من نوع MoE (خبير متعدد). تتفوق نماذج Nile-Chat الخاصة بنا بشكل كبير على النماذج اللغوية متعددة اللغات واللغة العربية الرائدة مثل LLaMa وجيس وALLaM في مقاييس التقييم المصرية الجديدة التي قمنا بتقديمها، والتي تغطي مهام الفهم والإنتاج. ومن الجدير بالذكر أن نموذجنا 12B حقق زيادة في الأداء بنسبة 14.4% مقارنة بنموذج Qwen2.5-14B-Instruct في مقاييس التقييم اللاتينية. جميع مواردنا متاحة للعامة. نعتقد أن هذا العمل يقدم منهجية شاملة لتكيف النماذج اللغوية الكبيرة مع اللغات ذات الحرف المزدوج، مما يتناول جانبًا غالبًا ما يتم تجاهله في تطوير النماذج اللغوية الكبيرة الحديثة.