大模型「瘦身」进手机，面壁智能发布性能小钢炮 MiniCPM
内容提要
面壁智能发布了2B旗舰端侧大模型MiniCPM，性能超越Mistral-7B和Phi-2，能识别野外危险生物。MiniCPM的推理成本仅为Mistral的1%。面壁智能计划开源MiniCPM，推动大模型普及。AI Agent是大模型的关键应用方向，面壁智能推出了XAgent、AgentVerse和ChatDev。AI Agent在企业内部和消费级应用中有广泛应用前景。面壁智能的愿景是实现「智周万物」，将AI Agents连接起来形成群体智能。
延伸解读
端侧大模型的性能突破
MiniCPM以2B的规模，在多项评测中超越Mistral-7B和Phi-2，甚至能与Claude 2在MT-Bench上竞争。这得益于面壁智能在算力、算法和数据上的优化：全流程高效infra实现10倍推理加速和90%成本降低，模型风洞寻找高效训练配置，数据工厂闭环迭代。这些技术让端侧模型在有限资源下发挥出更大潜力。
离线多模态的实用价值
MiniCPM具备多模态能力，能识别野外危险生物如毒蘑菇和毒蛇，并在离线状态下提供实用自救建议。在飞行模式演示中，其回答具体而非空泛，对于信号不佳的野外场景有实际帮助。此外，它还能通过图片细节进行逻辑推理，展现了端侧模型在无网络环境下的应用前景。
AI Agent的双引擎战略
面壁智能将大模型与Agent视为双引擎，MiniCPM的发布服务于这一战略。AI Agent在企业内部可重塑运营流程，在消费级市场则以智能助手形式提供个性化服务。面壁智能已推出XAgent、AgentVerse和ChatDev三款产品，分别作为应用框架、通用平台和多智能体协作框架，推动Agent技术落地。
群体智能的愿景与挑战
面壁智能提出「智周万物」愿景，旨在让AI Agents连接万物，实现从万物互联到万物智联的转变。创始人刘知远认为，这将引发人工智能的第二次涌现，形成群体智能。然而，这一愿景需要解决智能体之间的协作、通信和标准化等问题，目前仍处于早期探索阶段。
Q&A
MiniCPM是什么？它的主要特点有哪些？
MiniCPM是面壁智能发布的2B旗舰端侧大模型，性能超越Mistral-7B和Phi-2，推理成本仅为Mistral的1%，具备多模态能力，能识别野外危险生物，并计划开源。
MiniCPM在性能上如何超越Mistral-7B和Phi-2？
MiniCPM在多项主流评测中，中英文平均成绩均超越Mistral-7B，在CEval、CMMLU、MMLU等基准测试中得分超越Phi-2，英语榜单平均分大幅超越同等规模甚至更大模型，在MT-Bench中能与Claude 2媲美。
MiniCPM的推理成本有多低？
MiniCPM的推理成本仅为Mistral在云端的1%。
面壁智能的AI Agent产品有哪些？
面壁智能推出了AI Agent的“三驾马车”：XAgent（AI智能体应用框架）、AgentVerse（智能体通用平台）和ChatDev（多智能体协作开发框架）。
AI Agent在企业内部和消费级应用中有哪些前景？
在企业内部，AI Agent可扮演多重角色，重塑运营流程和组织架构，降本增效；在消费级应用中，AI Agent可能以智能助手形式出现，提供个性化服务，改善用户体验和生活质量。
面壁智能的愿景“智周万物”是什么？
“智周万物”即Internet of Agents，旨在让AI Agents连接世间万物，实现从“万物互联”到“万物智联”的转变，形成复杂的群体智能，迎来人工智能的第二次涌现。
