Orca AgentInstruct 1M은 Microsoft가 2024년에 발표한 합성 지시 데이터셋으로, AgentInstruct 프레임워크를 기반으로 생성되었으며, 관련 논문은 AgentInstruct: Toward Generative Teaching with Agentic Flows입니다. 이 데이터셋은 대규모 언어 모델에 고품질 지시 미세 조정 데이터를 제공하는 것을 목표로 합니다.

이 데이터셋에는 약 100만 개의 합성 지시 쌍이 포함되어 있으며, 모든 프롬프트와 응답은 AgentInstruct 프레임워크를 사용하여 공개적으로 이용 가능한 원본 텍스트만을 시드로 활용하여 생성되었습니다. 전체 AgentInstruct 데이터(약 2,500만 개의 지시 쌍)로 Mistral-7b를 후학습하여 얻은 Orca-3-Mistral 모델은 AGIEval, MMLU, GSM8K 등 여러 벤치마크 테스트에서 원본 모델 대비 상당한 성능 향상을 보였습니다. 데이터는 텍스트 편집, 창의적 글쓰기, 프로그래밍, 독해 등 다양한 능력 차원을 포괄하며, 모든 기본 대규모 언어 모델의 지시 미세 조정 연구에 활용될 수 있습니다.

데이터셋 구성

• creative_content: 창의적 콘텐츠 생성.
• text_modification: 텍스트 수정 및 다듬기.
• struct2text_flow: 구조화된 데이터를 텍스트로 변환.
• rc: 독해.
• rag: 검색 증강 생성.
• text_extraction: 텍스트 정보 추출.
• mcq: 객관식 문제.
• follow_up: 후속 질문 생성 및 답변.
• analytical_reasoning: 분석적 추론.
• fermi: 페르미 추정 문제.
• fs_cot_flow: 소수 예제 사고사슬 추론.
• code: 코드 생성 및 프로그래밍.
• brain_teaser: 뇌 풀이 및 논리 퍼즐.
• text_classification: 텍스트 분류.
• open_domain_qa: 개방형 도메인 질의응답.

인용

@misc{  
      title={ AgentInstruct: Toward Generative Teaching with Agentic Flows},  
      author={Arindam Mitra, Luciano Del Corro, Guoqing Zheng, Shweti Mahajan, Dany Rouhana, Andres Codas, Yadong Lu, Wei-ge Chen, Olga Vrousgos, Corby Rosset, Fillipe Silva, Hamed Khanpour, Yash Lara, Ahmed Awadallah}, 
      year={2024}, 
      eprint={ 2407.03502}, 
      archivePrefix={arXiv}, 
      primaryClass={cs.CL} 
}