内容提要
Awaker 1.0 是智子引擎发布的多模态大模型,具备自主更新能力,向通用人工智能(AGI)迈出重要一步。该模型通过与智能设备结合,持续学习新知识,解决复杂任务。其视频生成底座 VDT 在生成高质量视频方面表现优异,推动了多模态大模型的发展。
延伸解读
自主更新:从静态模型到动态进化
Awaker 1.0 的核心突破在于实现了真正的自主更新能力。与依赖 RAG 或长上下文注入新知识不同,它通过数据主动生成、模型反思评估和连续更新三大机制,将新知识直接编码到模型参数中。这意味着模型能够像生物一样持续学习,而无需频繁的全量重训。这种动态进化能力使其在 AI Agent、具身智能等需要适应动态环境的场景中具有显著优势,也为解决大模型落地难提供了新思路。
MOE 架构:破解多任务冲突的钥匙
多模态大模型常面临多任务预训练冲突的难题,Awaker 1.0 通过精心设计的 MOE 架构有效缓解了这一问题。其基座模型在继承前代 ChatImg 能力的同时,能针对不同任务学习专用能力。在智子引擎自建的严格评测集上,Awaker 1.0 在视觉问答和业务应用任务上超越了 GPT-4V、Qwen-VL-Max 和 Intern-VL,平均得分领先。这验证了 MOE 架构在多模态多任务学习中的有效性,为后续模型设计提供了参考。
VDT:视频生成底座的潜力与局限
VDT 作为 Awaker 1.0 的视频生成底座,比 Sora 早 10 个月发布,并被 ICLR 2024 接收。它创新性地将 Transformer 与扩散模型结合,通过统一的时空掩码建模,支持多种视频生成任务。在 Physion 数据集上,VDT 能模拟简单物理规律,如小球抛物运动和碰撞。在写真视频生成上,智子引擎宣称其质量优于 Sora。然而,VDT 目前仍处于研究阶段,其商业化落地和更复杂物理规律的模拟能力有待进一步验证。
云边协同:落地场景的务实探索
Awaker 1.0 的自主更新能力并非停留在实验室,而是通过云边协同在电网智能巡检、智慧城市等场景中落地。模型作为大脑部署在云端,控制边端设备执行任务,并将反馈数据回传用于持续更新。这种模式已取得优于传统小模型的识别效果,并获得行业客户认可。这表明,多模态大模型的自主更新不仅具有理论意义,还能在实际行业中创造价值,为 AGI 的渐进式实现提供了可行路径。
Q&A
Awaker 1.0 的自主更新能力有什么特点?
Awaker 1.0 具备真正的自主更新能力,能够与智能设备结合,通过持续学习新知识和反馈进行自我更新。
Awaker 1.0 在视频生成方面的表现如何?
Awaker 1.0 的视频生成底座 VDT 在生成高质量视频方面表现优异,尤其在写真视频生成上超过了 Sora。
Awaker 1.0 的 MOE 架构有什么优势?
Awaker 1.0 的 MOE 架构能够有效解决多模态多任务预训练中的冲突,提升模型在多个任务上的能力。
Awaker 1.0 如何推动多模态大模型的发展?
Awaker 1.0 通过自主更新和高效的视频生成能力,推动了多模态大模型在各行业的应用,解决了落地难题。
Awaker 1.0 在视觉问答任务上的表现如何?
Awaker 1.0 在视觉问答和业务应用任务上超过了其他先进模型,验证了其多任务 MOE 架构的有效性。
VDT 的创新之处是什么?
VDT 将 Transformer 技术应用于视频生成,具备出色的时间依赖性捕获能力,能够生成连贯的视频帧。