小红花·文摘
  • 首页
  • AI Tokens🪙
  • 排行榜🏆
  • 直播
  • FAQ
权限应属于上下文组装阶段

文章讨论企业AI检索中的权限控制问题。核心观点是:权限不应作为事后过滤器,而应在“上下文组装”阶段结构性执行,即根据用户身份决定模型能看到哪些数据。文章以AWS、微软等平台为例,指出仅靠元数据过滤存在泄露风险,并强调需在系统间传递用户身份,确保授权在每一步被检查。

权限应属于上下文组装阶段

The New Stack The New Stack · 2026-09-06T15:00:00Z
你的AI代理的好坏取决于其周围的框架

本文探讨AI代理在生产环境中的实际挑战,指出模型仅是服务的一部分,代理框架(harness)负责提供边界、工具契约、权限控制和上下文管理。通过账单变更等具体示例,强调工具定义、读写分离、权限验证、追踪记录和测试的重要性,并指出代理需明确停止条件,确保安全可靠运行。

你的AI代理的好坏取决于其周围的框架

The New Stack The New Stack · 2026-08-30T15:00:00Z

Claude Code Agent Loop系列总结:核心是自动循环状态机,用户回车后自主运行,通过权限批准、interrupt和maxTurns三道保险控制。错误转为可处理状态而非中断,主代理与子代理复用同一套loop。Loop管执行,Context管信息组织,二者构成完整运行机制。

Claude Code Agent Loop 研究系列(10)—— 从自动循环到通用 Agent Loop

犀利豆的博客 犀利豆的博客 · 2026-08-29T10:00:00Z

本文介绍从零实现GeekAgent的第八天,重点添加权限控制与回滚功能。通过`.geekagent/GeekAgent.json`配置文件为每个工具设定allow/ask/deny策略,未知工具默认拒绝;实现目录隔离防止路径越界和符号链接攻击;统一脱敏敏感环境变量;为文件写入保存最近状态,支持`/undo`恢复。代码净增155行,验证通过后,下一步将实现任务规划与子Agent。

从零实现 GeekAgent —— Day8 权限与回滚

极客兔兔 极客兔兔 · 2026-08-27T13:30:00Z
OpenConnector 给 AI Agent 补上的那层工程护栏

OpenConnector是一个开源连接器网关,使AI Agent能够安全调用GitHub、Gmail等SaaS服务。其核心价值在于统一认证、权限控制和审计,但需关注动作级权限和可观测性。建议从低风险场景试用,确保权限边界清晰、调用记录完整,才能从Demo工具变为可靠基础设施。

OpenConnector 给 AI Agent 补上的那层工程护栏

mongona news mongona news · 2026-08-21T22:39:07Z
Vercel for Slack现已公开测试

Vercel Agent现已集成至Slack,用户可在频道或线程中通过@Vercel调用,获取项目部署、日志等上下文。它支持调查故障、修复代码、审查PR,并在批准后执行回滚或配置更改。Agent默认只读,权限受限,操作需审批并记录归属。公测面向Pro和Enterprise团队,部分简单请求免费,付费按需计费。

Vercel for Slack现已公开测试

Vercel News Vercel News · 2026-08-19T00:00:00Z
如何在保持治理的同时,将Genie Agents锚定在结构化数据和文档中

Genie Agents在Databricks中整合结构化与非结构化数据,通过Unity Catalog实现治理。代理以用户身份运行,继承对象权限、ABAC、行过滤和列掩码,确保数据安全。身份自动同步,文档存于Volumes并受权限控制。示例显示不同区域经理查询同一问题,结果按权限过滤,确保治理不依赖模型层。

如何在保持治理的同时,将Genie Agents锚定在结构化数据和文档中

Databricks Databricks · 2026-08-10T23:08:50Z
AI代理何时需要权限边界?

AI代理调用工具时,工具访问即生产访问,风险随权限扩大。需用确定性策略层分离工具选择与授权,通过静态风险策略、角色授权、参数验证和审批门控,阻止危险操作。代理仅请求调用,最终执行由治理层决定,并记录审计日志。模型提议,策略决策,确保安全。

AI代理何时需要权限边界?

The New Stack The New Stack · 2026-07-30T13:00:00Z
AI代理的瓶颈不再是模型,而是上下文层。

本文指出AI代理系统失败的根本原因不是模型不够聪明,而是基础设施不足。作者引用Karpathy经验,强调需构建结构化知识库、工具接口和反馈循环,而非仅升级模型。生产系统应重视上下文图谱、可观测性、持续评估和配置管理,并加强执行层权限控制,防止越权行为。模型差距在缩小,基础设施差距才是关键。

AI代理的瓶颈不再是模型,而是上下文层。

The New Stack The New Stack · 2026-07-18T15:00:00Z
无人谈论的智能代理身份问题

文章讨论了在开发智能代理系统时身份管理的重要性,强调共享服务账户和长期凭证的安全隐患,以及工作负载身份和短期凭证的优势。明确的身份界定和权限控制是确保系统安全的关键,开发者应在项目初期重视身份设计,以避免后续安全问题。IBM 提供了集成的身份优先安全解决方案,帮助组织安全扩展智能代理系统。

无人谈论的智能代理身份问题

The New Stack The New Stack · 2026-06-26T13:00:00Z

本文讨论了LLM功能调用的安全性,强调工具架构中的风险管理。通过分层授权模型和策略引擎,确保API调用的安全性。分析了静态允许列表与动态策略的优缺点,以及SQL代理的权限控制和行级安全性。最后,强调审计和监控在防止越权行为中的重要性。

【Agent 身份与安全】Function Calling 的授权模型

土法炼钢兴趣小组的博客 土法炼钢兴趣小组的博客 · 2026-06-18T00:00:00Z
直播预告 | 清风拂境·智御全域——绿盟科技智能体安全创新成果发布

智能体安全面临权限控制漏洞和框架隔离失效的挑战。绿盟科技将于5月28日发布“类Claw智能体威胁与防御建议矩阵”,并升级安全解决方案,重点关注意图安全、行为管控和数据审计。会议将分析智能体执行框架的风险,并提供线上直播。

直播预告 | 清风拂境·智御全域——绿盟科技智能体安全创新成果发布

绿盟科技技术博客 绿盟科技技术博客 · 2026-05-27T08:15:18Z

OpenClaw 是一个 AI Agent 运行时框架,采用三层渐进加载架构。第一层为系统自带工具,提供基本能力;第二层为场景化的技能包,组合底层工具;第三层按需加载资源。exec 工具用于执行命令,具备权限控制和安全机制。用户通过简单指令,AI 根据剧本执行任务,实现复杂操作,旨在优化资源使用,提升 AI 的功能和安全性。

OpenClaw 架构解析:AI 的工具箱是怎么工作的

dotNET跨平台 dotNET跨平台 · 2026-05-18T00:01:20Z

本文总结了AI编码工具的实践经验,强调基本原理和权限控制。AI通过API调用生成文本,权限管理由Agent实现,以确保不同角色的操作限制。工具和MCP提供不同功能,Skill和Command定义工作流程。有效使用AI编码工具依赖于合理规划与执行,未来Web APP可能成为发展方向,以满足个性化需求。

AI Coding 工具的实践经验

BBing's Blog BBing's Blog · 2026-05-12T13:10:01Z
在Python代理中实现权限控制的工具调用

本文介绍了如何在Python代理中实现权限控制,使用@requires_approval装饰器确保高风险操作需人类审批。代理在执行任务前会中断流程,显示参数并请求用户确认。这种方法可扩展到生产环境,确保AI代理的安全性和可靠性。

在Python代理中实现权限控制的工具调用

MachineLearningMastery.com MachineLearningMastery.com · 2026-05-08T12:00:34Z
OpenHarness框架的整体总结

文章总结了香港大学的OpenHarness框架,涵盖智能体引擎、工具与权限控制、记忆与技能,以及智能体协作与扩展等核心概念。

OpenHarness框架的整体总结

ArchGrid - 架构知识网格 ArchGrid - 架构知识网格 · 2026-04-29T05:26:12Z
C# 原生编码智能体运行时 SharpClawCode - 张善友

SharpClawCode 的租户感知部署模式支持企业级多用户场景,确保每个租户的数据和配置独立,避免数据泄露。它灵活集成多种配置源,满足个人和团队的需求,并提供权限控制和会话管理,适合 SaaS 产品集成 AI 功能。

C# 原生编码智能体运行时 SharpClawCode - 张善友

张善友 张善友 · 2026-04-26T22:45:00Z
C# .NET 周刊|2026年3月4期

本文讨论了多租户进销存系统的基础表设计,强调租户隔离、权限控制和组织结构。推荐的层级结构为“租户→机构→角色→用户”,所有业务数据需附带tenant_id字段。字段设计规范明确,状态管理采用枚举方式,提升系统可读性和调试便利性,适合系统设计人员参考。

C# .NET 周刊|2026年3月4期

dotNET跨平台 dotNET跨平台 · 2026-04-16T00:01:38Z
通过Unity AI Gateway扩展代理治理

AI Gateway扩展了对AI代理的治理,支持多模型和系统的工作流程,确保数据访问和政策执行。新功能包括细粒度权限控制、审计日志和成本跟踪,提升了代理行为的可见性和灵活性。用户可快速配置LLM端点,确保安全和一致的治理。

通过Unity AI Gateway扩展代理治理

Databricks Databricks · 2026-04-15T16:00:19Z
OpenClaw v2026.3.31 默认安全模型升级详解与迁移指南

OpenClaw v2026.3.31 实现了从“默认信任”到“零信任”的安全模型,强化了权限控制和插件安全,确保所有操作必须经过授权,以提升系统安全性。

OpenClaw v2026.3.31 默认安全模型升级详解与迁移指南

极道 极道 · 2026-03-31T23:47:00Z
  • <<
  • <
  • 1 (current)
  • 2
  • 3
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码