HyperAIHyperAI

Command Palette

Search for a command to run...

IFStruct v1.0 構造化出力準拠ベンチマークデータセット

日付

2時間前

ライセンス

Apache 2.0

IFStruct v1.0は、Liquid AIが2026年にリリースした構造化出力準拠ベンチマークデータセットです。これは、大規模言語モデル(LLM)が指定されたスキーマに準拠した構造化出力(JSON/YAML)を生成する能力を体系的に評価するように設計されています。 このデータセットには 2,000 個のプロンプトが含まれています。各プロンプトでは、モデルがターゲットパターンに基づいて複数のインスタンスを生成する必要があります。プロンプトは、自然な対話、明示的なパス指示、生の JSON スキーマ、コードブロック要件、および追加テキストなしなど、さまざまな形式で提示され、すべてに厳密な基盤となるスキーマ検証仕様が付随しています。このテストは出力形式と構造的準拠のみに焦点を当てており、コンテンツの品質、意味の正しさ、または推論精度は評価しません。スコアリング基準は厳密な二値判定 (合格/不合格) を使用し、モデルの応答がすべての構造的制約を完全に満たしている場合にのみ合格となります。スコアリングの難易度は、低~中程度の能力を持つモデルと最先端のモデルを効果的に区別できるように調整されています。

データフィールド:

  • doc_id: 識別子 (0~1999)。
  • entity_type: スキーマ分類システム(例:test_recipe)。
  • プロンプト:入力された特定のプロンプトワード。
  • output_format: 必要な出力形式(jsonまたはyaml)。
  • top_level_count: 必要なインスタンス数。整数または範囲形式(JSONエンコードされた文字列)で指定します。
  • top_level_key: トップレベルラッパーキー名
  • require_wrapper_key: 最上位レイヤーが配列を含むラッパーオブジェクトである必要があるかどうかを示すブール値。
  • require_code_block: レスポンスをコードブロックで囲む必要があるかどうかを示すブール値。
  • require_no_commentary: ペイロード外のテキストを禁止するかどうかを示すブール値。
  • json_schema: モデルの出力が満たすべきJSONスキーマ仕様(JSONエンコードされた文字列)。

引用

@article{liquidAI2026IFStruct,
author = {Liquid AI},
title = {IFStruct: Measuring structured-output compliance},
journal = {Liquid AI Blog},
year = {2026},
note = {www.liquid.ai/blog/ifstruct-v1.0}
}

AIでAIを構築

アイデアからローンチまで — 無料のAIコーディング支援、すぐに使える環境、最高のGPU価格でAI開発を加速。

AI コーディング補助
すぐに使える GPU
最適な料金体系

HyperAI Newsletters

最新情報を購読する
北京時間 毎週月曜日の午前9時 に、その週の最新情報をメールでお届けします
メール配信サービスは MailChimp によって提供されています