HyperAI
Command Palette
Search for a command to run...
FActScore は、ワシントン大学、マサチューセッツ大学アマースト校、Allen Institute for AI、Meta の研究チーム(Sewon Min ら)により 2023 年の EMNLP で提案されたもので、長文生成における事実の正確性を測定することを目的としています。まず生成されたコンテンツを独立した原子的事実(atomic facts)に分解し、次に信頼できる知識源(Wikipedia など)と照合して各事実が支持されているかを判断します。最終的なスコアは、支持された原子的事実が全原子的事実に占める割合として算出されます。
この指標は正確性のみを考慮し、再現率は計算しません。スコアの範囲は 0~100 で、通常はパーセンテージまたは 0~1 の値で報告され、数値が高いほど良いとされます。これは、生成されたコンテンツの中で検証可能な事実の割合が高いことを意味します。主に大規模言語モデルによる人物伝記や百科事典的な長文生成における事実上の信頼性を評価するために使用されます。