CLaRa 연속 잠재 변수 추론 데이터셋은 검색 증강 생성(RAG)과 연속 잠재 변수 추론을 위한 목적으로 2025년 Apple에서 공개한 데이터셋입니다. 관련 논문 결과는 「CLaRa: Bridging Retrieval and Generation with Continuous Latent Reasoning」이며, 압축된 문서 표현 하에서의 모델 질문 답변(QA) 능력을 지원하기 위해 훈련 및 평가 데이터를 제공하는 것을 목표로 합니다.

이 데이터셋에는 사전 학습(pre-training), 지시 미세 조정(instruction fine-tuning), 그리고 엔드투엔드(end-to-end) 미세 조정을 위한 세 가지 주요 유형의 데이터가 포함되어 있으며, 2WikiMultihopQA, HotpotQA, MuSiQue, Natural Questions 등 다양한 주류 QA 벤치마크의 구축 및 평가 집합을 아우릅니다. 데이터 규모는 크며(10G~100G 범위), 형식은 모두 JSONL로 통일되어 있습니다. 정답 문서(오라클)와 일반적인 검색 시나리오를 모두 지원하므로, RAG 연구, 문서 압축 및 복잡한 QA 작업에 적합합니다.

데이터셋 구성

데이터셋은 주로 다음 세 부분으로 구성되어 있으며, 모든 데이터는 JSONL 형식으로 저장됩니다.

• 사전 학습 데이터 (Pretraining) : 문서 컴프레서 학습용 사전 학습 데이터. 포함 필드:

  • data_type: 데이터 유형 (예: qa)
  • question: 질문 목록
  • answers: 답변 목록
  • docs: 문서 컨텍스트 목록

• 미세 조정 데이터 (Fine-Tuning Data) : 압축된 문서 표현 기반 QA 훈련을 위한 지시 미세 조정 데이터. 포함 필드:

  • question: 질문 문자열
  • docs: 검색된 문서 목록
  • gold_answer: 표준 정답
  • answer: 모델이 생성한 답변

또한, 서로 다른 벤치마크 테스트(2wiki, hotpotqa, musikue, nq)를 대상으로 한 평가 집합도 포함되어 있습니다. 이는 정답 문서를 포함한 오라클 설정(inst_eval*_with_pos)과 일반 설정(inst_eval*_no_pos)으로 나뉩니다.

• 엔드투엔드 미세 조정 데이터 (End-to-End Tuning Data) : 엔드투엔드 모델 훈련을 위한 전체 프로세스 데이터. 포함 필드:
  • question: 질문 문자열
  • answer: 답변 문자열
  • docs: 검색된 문서 목록
  • pos_index: docs列表中 정답 문서의 인덱스

마찬가지로 훈련 집합과 평가 집합으로 구분되며, 서로 다른 벤치마크 테스트(ours_2wiki, ours_hotpotqa, ours_musique, ours_nq)에 대해 정답을 포함한(with_pos) 것과 포함하지 않는(no_pos) 두 가지 설정을 제공합니다.

엔드투엔드 미세 조정 데이터 (End-to-End Tuning Data): 엔드투엔드 모델 훈련을 위한 전체 프로세스 데이터. 포함 필드:

• question: 질문 문자열
• answer: 답변 문자열
• docs: 검색된 문서 목록
• pos_index: docs列表中 정답 문서의 인덱스

마찬가지로 훈련 집합과 평가 집합으로 구분되며, 서로 다른 벤치마크 테스트(ours_2wiki, ours_hotpotqa, ours_musique, ours_nq)에 대해 정답을 포함한(with_pos) 것과 포함하지 않는(no_pos) 두 가지 설정을 제공합니다.

인용

@misc{he2025clarabridgingretrievalgeneration,
      title={CLaRa: Bridging Retrieval and Generation with Continuous Latent Reasoning}, 
      author={Jie He and Richard He Bai and Sinead Williamson and Jeff Z. Pan and Navdeep Jaitly and Yizhe Zhang},
      year={2025},
      eprint={2511.18659},
      archivePrefix={arXiv},
      primaryClass={cs.CL},
      url={https://arxiv.org/abs/2511.18659}, 
}