HyperAIHyperAI

Command Palette

Search for a command to run...

PaLI-X: 複数言語の視覚と言語モデルのスケーリングについて

概要

私たちは、マルチリンガルのビジョンおよび言語モデルであるPaLI-Xのスケーリングアップに関するトレーニングレシピと結果を紹介します。このモデルは、コンポーネントのサイズとトレーニングタスクの多様性の両面で拡大されています。当モデルは、複数の画像ベースのキャプショニングや質問応答タスク、画像ベースのドキュメント理解、少量学習(インコンテキスト学習)、物体検出、ビデオ質問応答、ビデオキャプショニングなど、幅広く多様かつ複雑なタスクにおいて新しいレベルの性能を達成しています。PaLI-Xは、考慮されたほとんどのビジョンおよび言語ベンチマーク(25つ以上)で最先端を更新しています。最後に、明示的にトレーニングミックスには含まれていない複雑なカウントやマルチリンガル物体検出などの新規能力が現れていることを観察しました。


AIでAIを構築

アイデアからローンチまで — 無料のAIコーディング支援、すぐに使える環境、最高のGPU価格でAI開発を加速。

AI コーディング補助
すぐに使える GPU
最適な料金体系

HyperAI Newsletters

最新情報を購読する
北京時間 毎週月曜日の午前9時 に、その週の最新情報をメールでお届けします
メール配信サービスは MailChimp によって提供されています