AI Agent是基于大语言模型的系统,能推理、规划、记忆、调用工具,自主完成任务。自主性分L0至L4五级,当前处于L3阶段,应追求“可控自治”而非全自动。Agent由LLM(脑)、工具调用(手)、循环(心)、记忆(本)组成,可分角色、工具、推理、记忆、评估五层。MCP协议统一了Agent与工具的连接标准,Google提出A2A用于Agent间协作。
一篇综述提出递归自我改进的工程框架,用HCI指数量化十类能力天花板,指出数学科学进展较快,而软件工程、工具使用等交互能力差距较大,最可能率先突破。论文定义自主性L1至L5五级,从执行改进到改写改进机制,并指出安全继承、自主性归因、可靠验证三大挑战。
完成下面两步后,将自动完成登录并继续当前操作。