GIVT: 生成无限词汇的变形器
原文中文,约200字,阅读约需1分钟。发表于: 。我们引入了生成无限词汇的变换器(GIVT),其生成具有实值条目的向量序列,而不是来自有限词汇的离散标记。
GIT是一个生成式图像到文本的转换器,用于视觉语言任务。通过简化的体系结构和扩大的预训练数据和模型规模,GIT在12个基准测试中表现最佳。
我们引入了生成无限词汇的变换器(GIVT),其生成具有实值条目的向量序列,而不是来自有限词汇的离散标记。
GIT是一个生成式图像到文本的转换器,用于视觉语言任务。通过简化的体系结构和扩大的预训练数据和模型规模,GIT在12个基准测试中表现最佳。