斑马智能发布端模型AutoOmni2.0,让元神AI更懂“我的世界”

斑马智能发布端模型AutoOmni2.0,让元神AI更懂“我的世界”

💡 原文中文,约1400字,阅读约需4分钟。
📝

内容提要

9月23日云栖大会,斑马智能发布全模态端侧大模型AutoOmni 2.0-23B-A3B,采用MoE架构,普通任务能力堪比10倍参数量云模型,并展示AutoClaw 2.0智舱协作实车方案。元神AI已覆盖68%主流车企,正从智舱AI迈向Personal AI,实现云端车端、多终端与服务“三个连通”。

🔎

延伸解读

端侧大模型:隐私与低时延的平衡

AutoOmni 2.0作为端侧模型,强调低时延和隐私保护,这解决了云端模型在实时性和数据安全上的痛点。但端侧算力有限,模型通过MoE架构和量化技术,在23B参数下实现接近10倍云模型的能力,不过复杂任务仍与云模型有差距。读者需注意,端侧模型更适合对实时性要求高的场景,而复杂规划可能仍需云端协同。

元神AI的生态连通策略

元神AI提出“三个连通”,旨在打通云端车端、多终端和服务。这有助于实现跨场景的连续体验,但依赖与芯片企业、数据终端公司的合作。目前覆盖68%主流车企,表明其市场接受度较高。然而,数据合规和跨平台整合仍是挑战,实际落地效果需观察。

从智舱AI到Personal AI的演进

斑马智能将元神AI从智舱AI升级为Personal AI,强调理解用户的“表世界”和“里世界”。这要求AI不仅处理物理环境,还需洞察个人意图。AutoClaw 2.0实车方案展示了初步落地,但实现真正的个性化服务,需要长期数据积累和算法迭代。读者应关注其实际用户体验,而非仅看技术发布。

Q&A

斑马智能在云栖大会发布了什么端侧大模型?

斑马智能发布了新一代全模态端侧大模型AutoOmni 2.0-23B-A3B。

AutoOmni 2.0-23B-A3B采用了什么架构?

该模型采用MoE混合专家模型架构。

AutoOmni 2.0在智能座舱场景下的任务处理能力如何?

普通任务能力堪比10倍参数量云模型,复杂任务处理能力相当于10倍参数量云模型的80%-90%。

元神AI目前的市场覆盖情况如何?

元神AI实现了对主流车企68%的服务覆盖。

元神AI的“三个连通”具体指什么?

连通云端与车端的算力和服务;连通用户的多个终端,打通全时空场景数据;连通用户与服务,实现跨App、跨终端的服务整合。

AutoOmni在芯片合作和性能优化方面有哪些成果?

已合作国内外10家芯片企业,软硬协同支持8路以上多任务稳定并发,大模型推理加速5-6倍,量化保真度超过99%,少占用运行内存50%以上。

🏷️

标签

➡️

继续阅读