HyperAI超神経

Auto Debugging On Big Bench Lite

評価指標

Exact string match

評価結果

このベンチマークにおける各モデルのパフォーマンス結果

モデル名
Exact string match
Paper TitleRepository
PaLM 62B (few-shot, k=5)38.2PaLM: Scaling Language Modeling with Pathways
PaLM 8B (few-shot, k=5)14.7PaLM: Scaling Language Modeling with Pathways
PaLM 540B (few-shot, k=5)38.2PaLM: Scaling Language Modeling with Pathways
0 of 3 row(s) selected.