HyperAI
منذ 10 أيام

RedOne: كشف التدريب ما بعد النموذجي للنماذج اللغوية الكبيرة المحددة للمنطقة في خدمات التواصل الاجتماعي

Fei Zhao; Chonggang Lu; Yue Wang; Zheyong Xie; Ziyan Liu; Haofu Qian; JianZhao Huang; Fangcheng Shi; Zijie Meng; Hongcheng Guo; Mingqian He; Xinze Lyu; Yiming Lu; Ziyang Xiang; Zheyu Ye; Chengqiang Lu; Zhe Xu; Yi Wu; Yao Hu; Yan Gao; Jun Fan; Xiaolong Jiang; Weiting Liu; Boyang Wang; Shaosheng Cao
RedOne: كشف التدريب ما بعد النموذجي للنماذج اللغوية الكبيرة المحددة للمنطقة في خدمات التواصل الاجتماعي
الملخص

بصفتها وسيلة رئيسية لنشر المعلومات في العصر الحديث، شهدت خدمات الشبكات الاجتماعية (SNS) نموًا سريعًا، مما ألقى تحديات كبيرة على إدارة محتوى المنصة وتحسين جودة التفاعل. مؤخرًا، قدم تطوير النماذج اللغوية الكبيرة (LLMs) حلولًا محتملة، ولكن الدراسات الحالية تركز على المهام المنعزلة، والتي لا تقتصر فائدتها فقط على توسع البيانات داخل السيناريوهات الفردية بل وتفشل أيضًا في التكيف المرن مع السياقات الواقعية المتنوعة. لمواجهة هذه التحديات، نقدم RedOne، وهو نموذج لغوي كبير خاص بال مجال يهدف إلى كسر عنق الزجاجة في الأداء للأسس ذات المهمة الواحدة وإنشاء أساس شامل لخدمات الشبكات الاجتماعية. تم تطوير RedOne من خلال استراتيجية تدريب ثلاثية تتكون من الاستمرار في التدريب الأولي، والضبط الدقيق تحت الإشراف، وتحسين التفضيلات باستخدام مجموعة بيانات حقيقية ضخمة. من خلال التجارب الواسعة النطاق، يحافظ RedOne على قدراته العامة القوية ويحقق تحسينًا متوسطه يصل إلى 14.02% عبر ثماني مهام رئيسية لخدمات الشبكات الاجتماعية و7.56% في مقاييس التقييم الثنائية لخدمات الشبكات الاجتماعية (SNS)، مقارنة بالنماذج الأساسية. علاوة على ذلك، من خلال الاختبار عبر الإنترنت، خفّض RedOne معدل تعرض المحتوى الضار بنسبة 11.23% وحسّن معدل النقر على الصفحة بعد العرض بنسبة 14.95% مقارنة بنماذج الضبط الدقيق ذات المهمة الواحدة. هذه النتائج تثبت أن RedOne هو نموذج لغوي كبير متين ومحدد المجال لخدمات الشبكات الاجتماعية، يظهر تعميمًا ممتازًا عبر مختلف المهام وقابلية التطبيق الواعدة في السياقات الواقعية.