2026年5至8月，Blockchain Labs、微软、奔驰相继公开端侧小模型专利，涉及本地数据签名、边云分层路由和车载模型剪枝，均处于审查阶段。端侧AI竞争正转向架构层面，但量化选型基准与交付工具仍缺失。独立开发者可开发本地评测CLI或基准站，提供量化级、速度与准确率报告，并输出边云降级路由模板，服务私有化部署外包，2至4周可完成MVP。

小米发布玄戒O3、O100和D100三款自研芯片，并展示两台原型机：折叠屏手机本地运行3B模型，生成速度达303 tokens/s，响应延迟0.45秒；AI Cube桌面终端内置80GB内存，可本地部署120B模型，生成代码并运行应用。两者分别侧重轻量秒回和重度推理，展现端侧AI离线能力，未来或量产低门槛AI算力设备。

LFM2.5-2.6B是面向端侧部署的轻量级AI推理模型，支持128K长上下文和智能体工具调用，性能可与大4倍参数模型竞争。在Apple M5 Max上推理速度达220 tok/s，AMD Ryzen CPU上113 tok/s，内存占用低于2.5GB，平衡了轻量化与高性能。HyperAI官网已上线该模型，并提供相关数据集、教程和百科词条更新。

AI联汇完成数亿元融资并开源端侧原生模型VLX-Seek 1.5，旨在填补物理AI端侧原生路线空白。该模型从架构设计即考虑端侧约束，通过流式多模态实现低延迟、低成本部署，在无人机等场景性能超越同规模模型，并减少目标幻觉。此举类比云原生早期，意在定义物理AI基础设施标准，推动AI规模化进入真实设备。

江波龙在FMS 2026展示端侧AI存储方案，覆盖AI BOX、AI PC和移动嵌入式场景。与AMD合作推出AIDIMM等一体化方案，支持本地大模型运行。自研5nm SPU的PCIe Gen5 SSD实测性能优异，并演示无损压缩技术。HLCache UFS提升手机后台保活能力。

杭州联汇科技完成数亿元融资，由前海母基金领投，杭州政府基金参投。公司开源VLX-Seek 1.5多模态模型，性能超越英伟达同级产品，无人机场景准确率提升62.9%。资金将用于技术迭代和物理AI商业化，已落地AIPC、具身智能及视障辅助应用。

今年WAIC展会上，手机端侧AI成为焦点，苹果、三星等7款产品获批备案。端侧AI因低延迟、隐私保护等优势，正从概念走向规模化落地。面壁智能与三星合作，其MiniCPM模型应用于手机，并拓展至汽车、机器人等领域，同时参与制定行业标准，争夺端侧智能定义权。

移远通信在WAIC 2026上宣布升级端侧AI大模型方案，聚焦多模态感知与推理加速。新增视觉大模型，使设备具备听懂、看懂和自主决策能力，应用于智能制造、智能座舱等领域。引入MTP和SD技术，推理速度提升至2倍，生成速度从25增至50+ tokens/s，加速AI商业化落地。

杭州联汇科技在上海WAIC举办端侧多模态模型论坛，发布《端侧多模态基座与AI硬件协同发展倡议》及VLX开发者社区。论坛聚焦端侧原生技术，解决物理AI落地难题，强调低延迟、离线运行和隐私安全。公司自研VLX模型系列，推动标准共建与生态协同，助力AI硬件产业爆发。

后摩智能在WAIC 2026上展示了多款由M50芯片驱动的端侧AI终端，包括Agent Computer和全息交互设备。M50采用存算一体架构，实现高算力低功耗，支持大模型本地运行，推动AI PC、机器人等场景商业化，降低部署门槛，加速端侧智能普及。

Om AI发布了全球首个面向物理世界的流式多模态模型系列VLX，包括VLX-Flow、VLX-Seek和VLX-Go，分别用于持续感知、精准定位和行动执行。该系列通过流式编码和增量推理，支持动态环境下的即时反应，提升AI在物理世界的自主工作能力。

Om AI发布全球首个端侧流式多模态模型VLX，旨在实现持续感知、精准定位和行动决策。VLX包含三款模型：Flow负责实时感知，Seek进行精确定位，Go实现行动。该系统专为物理世界设计，能够在手机、无人机等设备上高效运行，满足实时响应需求。

在移动端音视频开发中，ROI编码通过降低非核心区域的码率，节省带宽并提升画质。Android平台支持硬件编码（MediaCodec）和软件编码（FFmpeg libx264），并提供动态注入ROI参数的方案。通过优化编码策略，确保在低带宽环境下保持视频质量，兼容不同Android版本。

斑马智能在高通峰会上推出全模态端侧大模型AutoOmni，具备低延迟、高精准和保隐私特性，响应时间小于500毫秒。该模型提升了自然交互度和服务链接成功率。斑马智能与高通合作，已与69家车企合作，落地超1000万辆智能汽车。

江波龙在COMPUTEX 2026展会上展示了全栈端侧AI存储新品，包括针对AI推理的AIDIMM和AILPBGA内存产品，解决了内存容量不足的问题。同时，展示了从硬件到软件的存储解决方案，提升了端侧AI应用的效率，适用于AI PC和智能影像等场景。

面壁智能与OpenBMB开源社区于2024年举办了端侧大模型开源周，发布了五项关键技术成果，包括高效的训练框架ForgeTrain和数据集UltraData。这些成果展示了面壁智能在端侧AI领域的系统性工程能力，推动了技术生态的发展，并为未来的AGI奠定了基础。

本文介绍了如何结合Amazon SageMaker AI与Qualcomm AI Hub，实现从云端训练到端侧NPU的端到端工作流。通过微调模型并在真实设备上进行编译与验证，整个过程可在约20分钟内完成，显著缩短了AI项目的上线时间。以手机人像分割为例，最终在Galaxy S24上实现了13.59毫秒的推理延迟，展示了该方案的高效性与实用性。

端侧AI面临内存不足、算子不兼容、性能瓶颈和散热问题等挑战。尽管技术进步，实际应用仍需克服困难。然而，隐私保护和低延迟需求推动了端侧AI的发展，未来值得期待。