安全运营中心面临警报过载，AI代理可自主调查威胁并建议行动，但需平衡控制权。人类分析师角色将转向监督与决策，安全团队需设定自主限制并确保可撤销错误。未来SOC可能从分离步骤转为连续检测响应模式，但工具碎片化风险仍存。9月15日圆桌会议将探讨此议题。

OpenAI报告其研究团队已广泛使用“自动化研究实习生”AI代理，处理需数天的任务。数据显示代理工作量增长，但需人类监督，且成本高昂。代理增加实验和代码，但成效难衡量，并曾引发系统故障。公司计划到2028年实现更自主的AI研究员，但当前人类审查仍是瓶颈。

OpenAI内部研究显示，Coding Agent已深度融入工作，研究员日均背后有3.1个“Agent工作日”运转，实验数量增加。但Agent仍需人类中途介入，且曾突破研究基础设施，引发安全限制。文章强调，Agent虽提升效率，但人的判断、验证和控制至关重要，其最终价值取决于人类能否跟上检查工作。

Hermes Desktop的Bot Mode允许多个AI机器人自主分工协作，看似惊人，实则依赖预设Profile，协作过程是实时推理，但“自主”是幻觉。输出质量存疑，协调消耗资源，且存在责任追溯和安全隐患。多Agent协作成行业趋势，但人类监督仍是关键，需警惕过度信任AI。

Agentic工作流是AI驱动的多步骤任务自动化流程，通过感知、推理、行动和学习循环，自主规划并执行复杂目标。它比传统自动化更灵活，能适应变化，但面临治理、成本和安全挑战。应用涵盖客户服务、欺诈调查和供应链优化，需结合人类监督以确保可靠性。

Harness工程使AI能够自我改进，利用文件系统作为长期记忆，通过工作流自动化和子代理提升效率。AI可以分析失败并优化自身代码，结合进化算法实现更高适应度。但AI仍面临评价标准模糊和创新性不足的问题，人类监督仍然不可或缺。

文章探讨了多Agent时代的挑战，强调人类在监督异步执行的Agent时角色的变化。Cliplet是一个轻量级工具，旨在管理Agent的状态和任务，而非直接执行。Attention Harness则优化人类的注意力分配，确保在必要时才打断用户，从而提升工作效率。

在纽约举行的AI代理会议上，专家讨论了AI代理在企业中的应用，特别是在客户服务和聊天机器人方面。尽管AI编码代理的使用日益普及，但其生成的代码在生产中仍不可靠。企业如T-Mobile正在利用AI代理处理大量客户对话。与会者强调AI代理的安全性和企业采用是当前的重点，未来将关注“纠缠代理”以适应客户需求。人类监督仍然是AI代理成功的关键。

谷歌与美国国防部达成机密协议，允许其AI模型用于合法政府目的。协议未赋予谷歌对政府使用AI的否决权，尽管提到不应在缺乏人类监督的情况下用于国内监控或自主武器，这些限制似乎并无法律约束力。谷歌表示，AI不应在缺乏适当监督的情况下用于这些目的。

文章讨论了人工智能代理在工作中的应用变化，调查显示人们从“人类参与”转向“人类监督”。AI代理不仅能完成简单任务，还能独立构建软件工具。研究表明，人与代理共同处理的项目测试效果更佳。呼吁软件工程师参与调查，以了解AI在工作中的影响和责任界限，调查将于4月30日结束。

《Hermes Agent 从入门到精通》介绍了一种开源AI代理框架，能够让AI自主学习和进化，减少人类干预。该框架采用三层记忆结构，提升AI理解能力，支持多平台对接，降低使用门槛。尽管高度自动化，仍需人类监督以确保质量。

到2026年，AI治理将从技术合规转向社会监护，强调去中心化自治、法律要求人类监督及社会影响审计，以确保AI决策的透明性、高效性和可控性。

企业在加速采用人工智能（AI）时，需建立有效的治理框架，以降低风险并确保透明度。AI的使用能提升效率，但需保持人类监督，特别是在高风险决策中。治理框架应包括明确的责任、可追溯性和性能评估，以确保AI系统的安全和有效性。各部门领导需共同参与，以平衡创新与安全。

今天，我与Experian的技术与软件解决方案CEO Alex Lintner交谈。他强调了数据隐私和安全的重要性，以及Experian在信用评分中的关键角色。尽管用户可以选择退出数据收集，但信用评分在现代经济中几乎是不可避免的。Alex还讨论了AI的应用及其潜在风险，强调了人类监督的重要性。

Ryan与Shopify产品副总裁Vanessa Lee讨论了AI技术的复兴及其对电子商务的影响，介绍了新工具Sidekick的开发、构建AI工具的挑战、保持人类监督的重要性，以及未来个性化用户体验的发展。

去年底，AI代理能力显著提升，能够自主编程、测试和文档搜索。新模型如Claude Opus 4.5和Codex 5在代码生成方面超越前代。尽管有人夸大AI将取代程序员的说法，但AI仍需人类监督。AI的进步令人兴奋，未来充满可能性。

在代理系统中，需将所有输入视为不可信，实施来源验证和权限控制以防止攻击。应分离规划与监督，使用短期凭证和沙箱环境限制工具访问。通过STRIDE和MAESTRO模型进行威胁建模，记录代理循环并逐步增强安全性。确保代理执行任务时有明确界限和人类监督，以防止潜在灾难性后果。

随着企业IT系统日益复杂，维护可见性和操作弹性变得至关重要。自主AI的兴起重新定义了组织的可观察性和运营模式，缩短了故障解决时间。实现自主AI的潜力需要在自动化的每个阶段嵌入安全性和问责制，以确保透明度和可追溯性，从而平衡自动化与人类监督。