Command Palette
Search for a command to run...
SubLlME は、ランキング相関予測に基づいたデータ効率の高いサブセット選択方法です。
データ効率的なLLM評価のためのランク相関予測によるサブセット選択(SubLlME)は、2025年7月にHP Labsと他のチームによって提案された新しい評価方法です。完全な評価を必要とせずに、ランク相関予測を通じて効率的かつ正確なモデルパフォーマンス評価を実現することを目的としています。SubLIME: データ効率の高いLLM評価のための順位相関予測によるサブセット選択」はACL 25ベストテーマペーパー賞を受賞しました。
SubLIMEはオリンピック数学競技会の評価戦略を採用しています。小規模ながらも代表的なサブセットをインテリジェントに選択することで、完全な評価におけるモデルの相対的なパフォーマンスを予測し、評価コストを大幅に削減(80%~99%を削減)しながら、非常に一貫性のあるモデルランキング結果を維持します。