利用视觉令牌扩展多模态学习中的文本上下文

作者：Alex Jinpeng Wang, Linjie Li, Yiqi Lin, Min Li, Lijuan Wang, Mike Zheng Shou
译者：知道创宇404实验室翻译组
原文链接：https://arxiv.org/html/2406.02547v1
摘要
由于巨大的 GPU 内存和计算成本，训练具有更长上下文长度的模型对多模态模型来说是一项重大挑战。本探索性研究并未...