小米发布三款自研芯片玄戒O3、O100和D100，并展示两款原型机。O100原型机主打端侧大模型，推理速度达每秒295 Tokens；AI Cube原型机集成三芯片，支持150瓦散热和120B参数模型。O3将用于小米18 Fold，9月上市，O100和D100计划2027年商用。三芯片覆盖手机、AI和智驾，构成完整AI算力底座。

移远通信推出的端侧大模型解决方案结合了LLM、RAG和智能体技术，提升了服务机器人在意图识别和任务执行方面的能力。该方案基于SG885G-WF模组，具备高算力，支持无网环境，确保隐私安全，广泛应用于医疗和客服等领域。

2023年，AI在各行业应用广泛，端侧大模型成为新热点。企业需结合业务推动增长，面临算力和能耗挑战。机器之心与世界人工智能大会将于10月26日在上海举办论坛，讨论模型压缩和推理引擎等技术，适合AI爱好者参与。