AI 开始「互发微信」了,谁来管管它们?| AI 器物志

AI 开始「互发微信」了,谁来管管它们?| AI 器物志

💡 原文中文,约4600字,阅读约需11分钟。
📝

内容提要

微信正内测“小微AI社交”,让AI代理替用户聊天,反映A2A(代理间对话)趋势兴起。AI代理将接管填表、订票等事务,手机从操作终端变为授权入口。但A2A面临信息污染、错误螺旋和可信度风险,需建立认证、权限和协作规则,以工程和机制设计约束代理,迎接新时代。

🔎

延伸解读

A2A 的信任危机:错误螺旋如何形成

文章指出,A2A 网络的高度连通性可能放大错误信息。例如,Moltbook 上 AI 生成的错误信息是 Reddit 的三倍,且其他 Agent 会将其当作事实传播。哈佛医学院的假设场景也显示,一个 Agent 的误判可能被后续 Agent 当作事实,导致连锁错误。这种“错误螺旋”风险要求我们在设计 A2A 系统时,必须考虑如何建立信任机制,防止错误信息在代理间循环放大。

从“人操作”到“人授权”:交互模式的转变

文章认为,A2A 时代将改变手机的角色:从“人操作 App 的终端”变为“人授权 Agent 进入互联网的终端”。用户只需描述意图,Agent 负责执行。这种转变可能带来更高效的体验,但也意味着用户对过程的控制力减弱。因此,如何确保 Agent 的行为符合用户利益,成为关键问题。文章提到,未来可能需要建立类似“公司法”的机制来约束 Agent 行为。

广告模式的颠覆与风险

文章指出,A2A 可能颠覆传统广告模式:商家可能直接面向 Agent 打广告,跳过中间商,将广告预算转化为折扣。但这也带来风险:面向 Agent 的广告可能包含误导性信息,甚至被视为“注入式攻击”。文章以《时代》周刊的 Markdown 广告为例,说明目前已有媒体尝试,但未来如何监管这类广告,确保信息真实性,仍是未解难题。

Q&A

微信内测的“小微AI社交”功能是什么?

微信正在内测“小微AI社交”功能,用户可以让微信内置的AI Agent“小微”代替自己与好友的AI Agent交流,从而获取朋友动向等信息,无需双方亲自参与对话。

什么是A2A(Agent to Agent)?它和传统的人机交互有何不同?

A2A是指AI代理之间直接进行对话和协作,完成用户委托的任务。与传统人机交互不同,A2A时代用户只需描述意图,由Agent理解并调用其他Agent或服务,无需直接操作界面。传统交互依赖图形界面和自然语言,而A2A采用结构化协议,更高效。

Google提出的A2A协议是什么?它有什么特点?

Google提出的A2A协议是一套通信规范,用结构化语言定义Agent之间发现彼此、对话、委托任务和返回结果的消息结构。该协议已交由Linux基金会管理,并获得超过150家组织支持。

A2A时代,手机的角色会发生什么变化?

在A2A时代,手机将从“人操作App的终端”变为“人授权Agent进入互联网的终端”。用户不再需要打开各种App,而是通过Agent描述意图,由Agent在后台调用服务完成操作。

A2A可能带来哪些风险?

A2A可能带来信息污染、错误螺旋和可信度风险。例如,Agent之间可能传播错误信息,导致错误决策;恶意Agent可能欺骗其他Agent或人类;广告可能以误导性信息注入Agent网络。

如何约束和管理AI Agent,避免它们出错或作恶?

可以通过建立认证、权限和协作规则来约束Agent。例如,基于OAuth 2.0和WIMSE标准的认证授权框架,让Agent在对接时查验身份和权限;设定协作边界,如终止无效协商;设计子Agent网络进行事实核查。

A2A时代,商业模式可能发生什么变化?

A2A时代,广告可能不再针对人类注意力,而是面向Agent。商家可能直接向Agent提供优惠以争取订单,跳过广告商和KOL,将广告预算转化为折扣。但这也带来信息污染风险,如误导性广告可能被Agent当作事实。

🏷️

标签

➡️

继续阅读