Orca AgentInstruct 1M هو مجموعة بيانات تعليمات اصطناعية تم توليدها باستخدام إطار عمل AgentInstruct وأصدرتها Microsoft في عام 2024. وقد نُشرت الورقة البحثية ذات الصلة في AgentInstruct: Toward Generative Teaching with Agentic Flows، وتهدف إلى توفير بيانات عالية الجودة لضبط النموذج اللغوي الكبير بناءً على التعليمات.

تحتوي هذه المجموعة على حوالي مليون زوج من التعليمات الاصطناعية، حيث تم توليد جميع المطالبات والاستجابات باستخدام إطار عمل AgentInstruct، معتمدة حصريًا على المحتوى النصي الأصلي المتاح للجمهور كبذور للتوليد. أدى تدريب النموذج اللاحق لـ Mistral-7b باستخدام مجموعة بيانات AgentInstruct الكاملة (حوالي 25 مليون زوج من التعليمات) إلى إنتاج نموذج Orca-3-Mistral، الذي حقق تحسنًا ملحوظًا مقارنة بالنموذج الأصلي في اختبارات معيارية متعددة مثل AGIEval وMMLU وGSM8K. تغطي البيانات أبعادًا متعددة للقدرات، بما في ذلك تحرير النصوص، والكتابة الإبداعية، والبرمجة، وفهم القراءة، مما يجعلها مناسبة لأبحاث ضبط النماذج اللغوية الكبيرة القائمة على التعليمات لأي نموذج أساسي.

تكوين مجموعة البيانات

• creative_content: توليد المحتوى الإبداعي.
• text_modification: تعديل وتحسين النصوص.
• struct2text_flow: تحويل البيانات المهيكلة إلى نص.
• rc: فهم القراءة.
• rag: التوليد المعزز بالاسترجاع.
• text_extraction: استخراج المعلومات النصية.
• mcq: أسئلة الاختيار من متعدد.
• follow_up: توليد والإجابة على الأسئلة اللاحقة.
• analytical_reasoning: الاستدلال التحليلي.
• fermi: مسائل التقدير حسب طريقة فيرمي.
• fs_cot_flow: الاستدلال بسلسلة التفكير باستخدام أمثلة قليلة.
• code: توليد الشيفرات والبرمجة.
• brain_teaser: الألغاز العقلية والمسائل المنطقية.
• text_classification: تصنيف النصوص.
• open_domain_qa: الأسئلة والأجوبة في المجالات المفتوحة.

الاقتباس

@misc{  
      title={ AgentInstruct: Toward Generative Teaching with Agentic Flows},  
      author={Arindam Mitra, Luciano Del Corro, Guoqing Zheng, Shweti Mahajan, Dany Rouhana, Andres Codas, Yadong Lu, Wei-ge Chen, Olga Vrousgos, Corby Rosset, Fillipe Silva, Hamed Khanpour, Yash Lara, Ahmed Awadallah}, 
      year={2024}, 
      eprint={ 2407.03502}, 
      archivePrefix={arXiv}, 
      primaryClass={cs.CL} 
}