量子位
·
谷歌&MIT何恺明团队：视觉大模型像LLM一样高效扩展
💡
原文中文，约1500字，阅读约需4分钟。
📝
内容提要
谷歌与MIT何恺明团队提出Fluid模型，通过连续token和随机生成顺序提升视觉自回归模型的效率。该模型在MS-COCO和GenEval测试中表现优异，展示了良好的可扩展性和视觉大模型的潜力。
🎯
关键要点
- 谷歌与MIT何恺明团队提出Fluid模型，提升视觉自回归模型效率。
- Fluid模型基于连续token和随机生成顺序，表现优异。
- Fluid在MS-COCO和GenEval测试中取得领先结果，展示良好的可扩展性。
- 离散token和光栅顺序限制了自回归图像生成模型的性能。
- Fluid模型抛弃离散token，采用连续token，避免量化损失。
- 生成token顺序采用随机选择，提升生成质量和多样性。
- 模型参数量扩展至超过100亿，验证损失和FID等指标表现良好。
- 视觉大模型的潜力尚未被充分挖掘，未来有望进一步扩展。
➡️
