量子位
·
华为升级行业Agent算法架构！MindScale自己写prompt和工作流，KV Cache减少5.7倍token
💡
原文中文，约2400字，阅读约需6分钟。
📝
内容提要
华为升级了MindScale算法架构，提升开发效率，解决工作流维护和知识复用等挑战。新算法支持自动生成工作流和优化提示词，显著提高推理效率，并适配国产硬件，推动行业智能化应用。
🎯
关键要点
- 华为升级了MindScale算法架构，提升开发效率，解决工作流维护和知识复用等挑战。
- MindScale项目识别了行业Agent发展的四大核心挑战：工作流手工维护、历史知识复用难、训推效率瓶颈和复杂推理测评。
- MindScale提供了自进化的Agent算法EvoFabric，支持从自然语言文档生成可执行的工作流。
- 算法框架实现了基于记忆的演进，优化Agent的使用效果。
- MindScale引入了prompt在线优化算法SCOPE和大模型prompt优化器C-MOP，实现提示词的自动优化。
- MindScale注重训推效率优化，推出了TrimR算法，显著降低推理时延。
- MindScale提供了基于KV Cache的推理方案，减少生成token数，提高推理性能。
- MindScale包含适配昇腾硬件的代码实现，支持国产算力的高效Agent构建。
➡️
