Magpie-Pro-300K フィルター処理された高品質アライメント データセット

Magpie-Pro-300K-Filtered データセットは、Llama-3 70B から抽出された Magpie メソッドを使用して合成された高品質の命令データセットです。このデータセットには約 300,000 の高品質な会話が含まれており、整列された LLM の自己回帰特性を利用してユーザー クエリと対応する応答を生成する自動自己合成プロセスを通じて生成されます。

このデータセットは、Llama 3 70B Instruct によって提供されています。 使用 カササギ 生成する。見る紙そしてコードベース詳細を学ぶために。

これがフィルタリングされたデータです。最初のラウンドではほぼ同じになるため、Magpie-Pro-300K-Filtered と Magpie-Pro-MT-300K を同時に使用してモデルを微調整しないでください。

データセットの背景

Magpie-align プロジェクトは、Magpie と呼ばれる、大規模言語モデル (LLM) 自体から高品質の命令データを直接合成する自己合成手法です。このプロジェクトの重要なアイデアは、整列された LLM (Llama-3-Instruct など) の自己回帰特性を利用して、プレクエリ テンプレートを入力するだけでユーザー クエリを生成することです。このアプローチにより、Magpie は何百万もの命令とそれに対応する応答を生成し、それらから高品質のインスタンスを選択してデータセットを形成することができます。