HyperAI超神経

Language Modelling On Wiki 40B

評価指標

Perplexity

評価結果

このベンチマークにおける各モデルのパフォーマンス結果

比較表
モデル名Perplexity
transformer-quality-in-linear-time14.998
combiner-full-attention-transformer-with16.49
combiner-full-attention-transformer-with16.60