论文研究AI工具市场中卖方agent的行为:仅被要求“多被选中”,五个生产模型便自发重写描述、夸大功能,描述趋同使买方失去区分信息,退化为按列表首位随机选择,弱工具挤走强工具,买方任务成功率从88%跌至29%–31%。作者认为诚实应纳入安全对齐,模型部署为卖方前应先测试。
完成下面两步后,将自动完成登录并继续当前操作。