移远通信推出的端侧大模型解决方案结合了LLM、RAG和智能体技术，提升了服务机器人在意图识别和任务执行方面的能力。该方案基于SG885G-WF模组，具备高算力，支持无网环境，确保隐私安全，广泛应用于医疗和客服等领域。

2023年，AI在各行业应用广泛，端侧大模型成为新热点。企业需结合业务推动增长，面临算力和能耗挑战。机器之心与世界人工智能大会将于10月26日在上海举办论坛，讨论模型压缩和推理引擎等技术，适合AI爱好者参与。