2ヶ月前
PaLI-X: 複数言語の視覚と言語モデルのスケーリングについて
Chen, Xi ; Djolonga, Josip ; Padlewski, Piotr ; Mustafa, Basil ; Changpinyo, Soravit ; Wu, Jialin ; Ruiz, Carlos Riquelme ; Goodman, Sebastian ; Wang, Xiao ; Tay, Yi ; Shakeri, Siamak ; Dehghani, Mostafa ; Salz, Daniel ; Lucic, Mario ; Tschannen, Michael ; Nagrani, Arsha ; Hu, Hexiang ; Joshi, Mandar ; Pang, Bo ; Montgomery, Ceslee ; Pietrzyk, Paulina ; Ritter, Marvin ; Piergiovanni, AJ ; Minderer, Matthias ; Pavetic, Filip ; Waters, Austin ; Li, Gang ; Alabdulmohsin, Ibrahim ; Beyer, Lucas ; Amelot, Julien ; Lee, Kenton ; Steiner, Andreas Peter ; Li, Yang ; Keysers, Daniel ; Arnab, Anurag ; Xu, Yuanzhong ; Rong, Keran ; Kolesnikov, Alexander ; Seyedhosseini, Mojtaba ; Angelova, Anelia ; Zhai, Xiaohua ; Houlsby, Neil ; Soricut, Radu
要約
私たちは、マルチリンガルのビジョンおよび言語モデルであるPaLI-Xのスケーリングアップに関するトレーニングレシピと結果を紹介します。このモデルは、コンポーネントのサイズとトレーニングタスクの多様性の両面で拡大されています。当モデルは、複数の画像ベースのキャプショニングや質問応答タスク、画像ベースのドキュメント理解、少量学習（インコンテキスト学習）、物体検出、ビデオ質問応答、ビデオキャプショニングなど、幅広く多様かつ複雑なタスクにおいて新しいレベルの性能を達成しています。PaLI-Xは、考慮されたほとんどのビジョンおよび言語ベンチマーク（25つ以上）で最先端を更新しています。最後に、明示的にトレーニングミックスには含まれていない複雑なカウントやマルチリンガル物体検出などの新規能力が現れていることを観察しました。