内容提要
9月23日云栖大会,斑马智能发布全模态端侧大模型AutoOmni 2.0-23B-A3B,采用MoE架构,普通任务能力堪比10倍参数量云模型,并展示AutoClaw 2.0智舱协作实车方案。元神AI已覆盖68%主流车企,正从智舱AI迈向Personal AI,实现云端车端、多终端与服务“三个连通”。
延伸解读
端侧大模型:隐私与低时延的平衡
AutoOmni 2.0作为端侧模型,强调低时延和隐私保护,这解决了云端模型在实时性和数据安全上的痛点。但端侧算力有限,模型通过MoE架构和量化技术,在23B参数下实现接近10倍云模型的能力,不过复杂任务仍与云模型有差距。读者需注意,端侧模型更适合对实时性要求高的场景,而复杂规划可能仍需云端协同。
元神AI的生态连通策略
元神AI提出“三个连通”,旨在打通云端车端、多终端和服务。这有助于实现跨场景的连续体验,但依赖与芯片企业、数据终端公司的合作。目前覆盖68%主流车企,表明其市场接受度较高。然而,数据合规和跨平台整合仍是挑战,实际落地效果需观察。
从智舱AI到Personal AI的演进
斑马智能将元神AI从智舱AI升级为Personal AI,强调理解用户的“表世界”和“里世界”。这要求AI不仅处理物理环境,还需洞察个人意图。AutoClaw 2.0实车方案展示了初步落地,但实现真正的个性化服务,需要长期数据积累和算法迭代。读者应关注其实际用户体验,而非仅看技术发布。
Q&A
斑马智能在云栖大会发布了什么端侧大模型?
斑马智能发布了新一代全模态端侧大模型AutoOmni 2.0-23B-A3B。
AutoOmni 2.0-23B-A3B采用了什么架构?
该模型采用MoE混合专家模型架构。
AutoOmni 2.0在智能座舱场景下的任务处理能力如何?
普通任务能力堪比10倍参数量云模型,复杂任务处理能力相当于10倍参数量云模型的80%-90%。
元神AI目前的市场覆盖情况如何?
元神AI实现了对主流车企68%的服务覆盖。
元神AI的“三个连通”具体指什么?
连通云端与车端的算力和服务;连通用户的多个终端,打通全时空场景数据;连通用户与服务,实现跨App、跨终端的服务整合。
AutoOmni在芯片合作和性能优化方面有哪些成果?
已合作国内外10家芯片企业,软硬协同支持8路以上多任务稳定并发,大模型推理加速5-6倍,量化保真度超过99%,少占用运行内存50%以上。