Code Generation On Pecc
評価指標
Pass@3
評価結果
このベンチマークにおける各モデルのパフォーマンス結果
比較表
| モデル名 | Pass@3 |
|---|---|
| pecc-problem-extraction-and-coding-challenges | 3.1 |
| pecc-problem-extraction-and-coding-challenges | 27.67 |
| pecc-problem-extraction-and-coding-challenges | 8.48 |
| pecc-problem-extraction-and-coding-challenges | 23.75 |
| pecc-problem-extraction-and-coding-challenges | 3.72 |
| pecc-problem-extraction-and-coding-challenges | 8.35 |
| pecc-problem-extraction-and-coding-challenges | 11.39 |
| pecc-problem-extraction-and-coding-challenges | 7.18 |