2 个月前
LLaVA-OneVision:简便的视觉任务迁移
Bo Li, Yuanhan Zhang, Dong Guo, Renrui Zhang, Feng Li, Hao Zhang, Kaichen Zhang, Yanwei Li, Ziwei Liu, Chunyuan Li

摘要
我们介绍了LLaVA-OneVision,这是一系列由我们在LLaVA-NeXT博客系列中整合的数据、模型和视觉表示见解开发的开放大型多模态模型(LMMs)。实验结果表明,LLaVA-OneVision是首个能够在三个重要的计算机视觉场景中同时突破开放LMM性能边界的单一模型:单图像场景、多图像场景和视频场景。尤为重要的是,LLaVA-OneVision的设计允许在不同模态/场景之间进行强大的迁移学习,从而产生新的涌现能力。特别是,通过从图像到视频的任务迁移,展示了其强大的视频理解和跨场景能力。