量子位
·
华为升级行业Agent算法架构！MindScale自己写prompt和工作流，KV Cache减少5.7倍token
内容提要
华为升级了MindScale算法架构，提升开发效率，解决工作流维护和知识复用等挑战。新算法支持自动生成工作流和优化提示词，显著提高推理效率，并适配国产硬件，推动行业智能化应用。
关键要点
-
华为升级了MindScale算法架构，提升开发效率，解决工作流维护和知识复用等挑战。
-
MindScale项目识别了行业Agent发展的四大核心挑战：工作流手工维护、历史知识复用难、训推效率瓶颈和复杂推理测评。
-
MindScale提供了自进化的Agent算法EvoFabric，支持从自然语言文档生成可执行的工作流。
-
算法框架实现了基于记忆的演进，优化Agent的使用效果。
-
MindScale引入了prompt在线优化算法SCOPE和大模型prompt优化器C-MOP，实现提示词的自动优化。
-
MindScale注重训推效率优化，推出了TrimR算法，显著降低推理时延。
-
MindScale提供了基于KV Cache的推理方案，减少生成token数，提高推理性能。
-
MindScale包含适配昇腾硬件的代码实现，支持国产算力的高效Agent构建。
延伸问答
华为的MindScale算法架构有哪些主要功能？
MindScale算法架构主要功能包括自动生成工作流、优化提示词、提高推理效率，并适配国产硬件。
MindScale如何解决工作流维护的挑战？
MindScale通过自进化的Agent算法EvoFabric，支持从自然语言文档生成可执行的工作流，减少对专家经验的依赖。
KV Cache在MindScale中的作用是什么？
KV Cache在MindScale中用于减少生成token数，提高推理性能，最高可减少5.7倍token。
MindScale是如何优化提示词的？
MindScale通过prompt在线优化算法SCOPE和大模型prompt优化器C-MOP，实现提示词的自动优化，提升推理精度。
MindScale在推理效率方面有哪些创新？
MindScale推出了TrimR算法，显著降低推理时延，并适配工业级异步在线系统以应对高并发场景。
MindScale如何适配国产硬件？
MindScale包含适配昇腾硬件的代码实现，支持基于国产算力的高效Agent构建。
