小红花·文摘
  • 首页
  • AI Tokens🪙
  • 排行榜🏆
  • 直播
  • FAQ
Dify.AI
沉浸式翻译 immersive translate
代理完成了工作,审计日志却无法说明是谁下的指令。

CloudBolt专家指出,超20%的MCP访问策略存在缺陷,多数MCP服务器使用个人令牌而非服务账户,导致审计无法追溯代理操作的责任人。代理通过继承角色或借用令牌获得的“涌现式”访问权限,身份提供商并无记录,出事难以追责。CloudBolt将直播演示如何将代理活动关联至身份提供商、限制其访问范围并读取审计记录。

代理完成了工作,审计日志却无法说明是谁下的指令。

The New Stack The New Stack · 2026-10-13T15:00:48Z
Java 17 音频转写上传前校验:大小、MIME、超时与审计 ID

文章介绍用 Java 17 实现音频转写上传前的本地校验:检查文件可读性、扩展名和 20MB 业务上限,生成 SHA-256 短审计 ID,再以带 45 秒超时的 multipart 请求提交转写。日志仅保留不可逆哈希,不含音频或全文。强调授权、隐私与删除机制应优先于便利,扩展名校验不等于安全,生产环境应检测 MIME、时长并采用流式上传。

Java 17 音频转写上传前校验:大小、MIME、超时与审计 ID

Java for You Java for You · 2026-10-13T03:45:55Z
Python Agent 工具调用:审批令牌、参数白名单和累计预算

本文介绍用Python为Agent工具调用构建安全闸门:只读工具自动放行,退款等写操作需一次性审批令牌,所有操作共享累计预算。核心原则是模型只负责提出计划,执行必须在模型外验证白名单、参数、成本与人工批准,并记录审计事件,以防提示注入与令牌重放。

Python Agent 工具调用:审批令牌、参数白名单和累计预算

Java for You Java for You · 2026-10-13T02:42:12Z
Java 17 视觉识别结果的金额与字段门禁实现

文章介绍用Java 17为视觉识别票据金额设置安全门禁:模型只负责提取字段,Java用BigDecimal、币种白名单和金额上限判断能否进入人工复核,避免浮点误差与误报销。代码无需外部依赖,并强调超时、幂等、原图留存与审计,适合低风险票据预分流,不适用于自动付款或税务认定。

Java 17 视觉识别结果的金额与字段门禁实现

Java for You Java for You · 2026-10-10T06:50:09Z
Java 17实现Agent工具调用的白名单、预算与审计门禁

文章介绍用 Java 17 为 Agent 工具调用添加执行门禁:调用前校验工具白名单、金额合法性与累计预算,任一失败即拒绝并记录审计日志。示例中首笔通过,越权工具与超额调用被拒。强调执行权应在应用侧,预算分单次、任务、租户三层,生产环境需数据库事务、幂等键与人工复核。

Java 17实现Agent工具调用的白名单、预算与审计门禁

Java for You Java for You · 2026-10-09T02:29:43Z
审计日志上写着我的名字:当你把凭证交给代理时,它继承了什么

实测显示,AI代理借用人类Azure凭证访问数据库时,同一令牌在不同生产库权限差异巨大(一个仅2项,另一个达107项),且可删除数据的库缺乏审计。代理无独立身份,日志仅记录人类账号,无法区分人机操作。即使配置规范的无人代理,数据库仍使用SQL密码登录,导致归因失效。作者提出五项改进,并指出MCP规范已禁止转发客户端令牌,命令行工具应跟进。

审计日志上写着我的名字:当你把凭证交给代理时,它继承了什么

The New Stack The New Stack · 2026-10-08T15:00:00Z
第四部分:LLM系统的安全与治理:护栏、PII、审计与记忆

LLM生产系统成熟度模型第四级聚焦安全与治理,核心为四层防护:护栏分层且失败即阻断;输入输出边界处脱敏PII,并用HMAC哈希替代原始存储;审计账本仅追加、哈希链防篡改;记忆按租户和用户分类隔离。同时区分随版本发布的种子配置与运行时积累状态,重置仅清运行时,学习须经评审合并。

第四部分:LLM系统的安全与治理:护栏、PII、审计与记忆

Stack Overflow Blog Stack Overflow Blog · 2026-10-07T20:48:55Z
Chris van Eijk:PostgreSQL 中按租户划分的审计日志:触发器的开销有多大

实测PostgreSQL 17多租户审计日志触发器开销:2万次单行更新每次增加32微秒;10万行批量更新慢3.6至4.4倍。语句触发器配转换表比行触发器快约两成,但仅限AFTER且不能指定列。只存变更列可使日志缩小五倍,但比较更耗CPU。用行级安全策略限制租户只能读自己的日志,应用角色仅可SELECT和INSERT,日志追加不可改。

Chris van Eijk:PostgreSQL 中按租户划分的审计日志:触发器的开销有多大

Planet PostgreSQL Planet PostgreSQL · 2026-10-01T00:00:00Z
代码审计工具有哪些:2026年主流SAST工具与Gitee平台集成指南

2026年代码审计工具分为SAST、DAST与AI审查三类,核心价值是在代码合并前发现安全与质量问题。Gitee通过原生Pull Request审查流程及奇安信代码卫士等第三方集成,为国内团队提供可落地的审计路径。选型应综合语言支持、CI/CD集成深度、合规需求与实际测试结果,避免盲目套用海外方案。

代码审计工具有哪些:2026年主流SAST工具与Gitee平台集成指南

Gitee 官方博客 Gitee 官方博客 · 2026-09-27T00:30:15Z
AI 代码审计工具推荐:2026 年主流工具对比与 Gitee 平台集成实践

2026年,AI代码审计工具已成为研发安全基础设施,主要分为PR级(如CodeRabbit、Qodo,在合并前审查)和IDE级(编码中即时反馈)两类。Gitee原生PR流程可作为协作底座,第三方工具能兼容接入。选型应优先考虑任务形态、网络环境与合规要求,建议采用“AI生成→AI审查→人工复核”三层流程。

AI 代码审计工具推荐:2026 年主流工具对比与 Gitee 平台集成实践

Gitee 官方博客 Gitee 官方博客 · 2026-09-27T00:30:08Z
AI 能自动做代码审计吗?技术能力、适用边界与 Gitee 实践指南

AI代码审计利用大模型语义推理,弥补传统SAST在复杂逻辑分析上的不足,已进入工程化落地阶段。在Gitee等平台可通过Webhook集成到PR流程,拦截硬编码密钥等低级漏洞,但存在幻觉与合规风险,需采用“AI初筛+人工复核”模式,而非完全替代人工。

AI 能自动做代码审计吗?技术能力、适用边界与 Gitee 实践指南

Gitee 官方博客 Gitee 官方博客 · 2026-09-25T00:30:03Z
智谱宣布开源ZCode并完成全面整改 将邀请信通院和绿盟开展安全审计

智谱就ZCode未经同意上传用户数据完成整改,宣布开源代码,并邀请中国信通院和绿盟科技进行安全审计,重点核查数据是否被读取或转移。智谱称数据生成Wiki后即销毁,并将建立漏洞奖励机制,持续接受反馈。

智谱宣布开源ZCode并完成全面整改 将邀请信通院和绿盟开展安全审计

蓝点网 蓝点网 · 2026-09-21T05:45:27Z
AI代码审计最危险的不是漏报,而是团队开始不再相信它

AWS发布Deception Benchmark,测试AI能否识别看似危险但已被缓解的代码。结果显示通用模型难以兼顾误报与漏报;要求模型提供证明可减少误报,但会增加漏报。文章建议团队验收安全AI时同时评估误报和漏报,结合人工复核,并按资产等级设置阈值。

AI代码审计最危险的不是漏报,而是团队开始不再相信它

Java for You Java for You · 2026-09-16T01:16:03Z
一分钟读论文:《遗忘审计的结论可能是统计量挪的》

一篇审计预印本发现,机器遗忘评测的指标波动可能源于批归一化统计量这一未记录的自由度:在263个已发布检查点中,冻结权重、仅用保留数据重拟合统计量,就有47个指标移动超出种子散布。交换实验排除了被删数据残留的解释。实际影响有限:12个判定翻转,仅2个稳定翻转。作者建议发布时注明拟合约定。

一分钟读论文:《遗忘审计的结论可能是统计量挪的》

Micropaper Micropaper · 2026-09-14T00:00:00Z
智能体能读文件跑命令之后,企业权限该怎么管

GitHub 为 Copilot 新增集中权限管理,管理员可按团队对 Shell 命令、文件读写和网络域名分别设置阻止、审批或放行,企业策略不可被本地设置削弱。智能体风险来自动作组合,应按最小权限拆分能力,并定期审计权限与批准记录。

智能体能读文件跑命令之后,企业权限该怎么管

Java for You Java for You · 2026-09-11T06:25:38Z
金融服务领导者提出的五个AI问题

本文探讨了Sibos Miami大会上金融机构应关注的AI治理、数据与成本问题。调查显示,半数银行高管认为治理合规限制AI性能,仅18%有信心通过审计。文章提出五大关键问题:实时流动性、警报真实性、客户需求、交易决策及成本控制,强调AI需可追溯、可审计,并平衡效率与信任。

金融服务领导者提出的五个AI问题

Databricks Databricks · 2026-09-09T18:09:29Z
当数学家把未公开证明交给 AI,平台还是工具吗?

数学家借助AI证明流体方程有限时间爆破,但争议焦点转向数据边界:研究过程存入AI平台后,平台是否可能利用未公开数据?OpenAI被指接触相关进展,双方各执一词。文章强调,当AI参与高价值工作,用户需区分工具与平台竞争风险,数据训练、访问、审计边界须事先明确并可验证。

当数学家把未公开证明交给 AI,平台还是工具吗?

凡人小北 · 转角处 凡人小北 · 转角处 · 2026-09-08T11:13:35Z
AI 智创简报:《MCP 安全专利密集授权,插件市场审计留给了谁》

2026年2月至8月,MCP服务器安全专利密集授权,Airia和Notion等公司覆盖注册、代理、容器化等全链路。技术趋势转向运行时持续监控,而非一次性审核。市场存在第三方审计空白,机会在于开发MCP审计工具,提供订阅监控和上架前审计服务,但需注意注册市场审核补齐的风险。

AI 智创简报:《MCP 安全专利密集授权,插件市场审计留给了谁》

Micropaper Micropaper · 2026-09-06T00:00:00Z
Legora利用GPT-6 Astra在几分钟内审阅了41份文件

Legora利用GPT-6 Astra处理复杂金融文档,自动完成财务报表核对,在41份文件中几分钟内检查所有余额并记录结果,发现全部四个错误。相比旧模型,性能提升近40%,同时保持人类专家对最终判断的负责,扩展至审计、税务等领域。

Legora利用GPT-6 Astra在几分钟内审阅了41份文件

OpenAI OpenAI · 2026-09-03T12:00:00Z
使用内部审计器测试数百个网页表面的Cookie行为

Dropbox开发了一款“Cookie审计器”,通过模拟真实用户访问网站,自动检查Cookie横幅是否尊重用户隐私选择(如接受、拒绝或GPC信号)。该系统结合URL检测器,定期测试数百个网页,确保合规,并将结果报告给团队,以持续维护用户信任。

使用内部审计器测试数百个网页表面的Cookie行为

Dropbox Tech Blog Dropbox Tech Blog · 2026-08-31T17:00:00Z
  • <<
  • <
  • 1 (current)
  • 2
  • 3
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
友情链接: MOGE.AI 九胧科技 1tok 菜鸟教程 Remio.AI DeekSeek连连 53AI 神龙海外代理IP IPIPGO全球代理IP 东波哥的博客 匡优考试在线考试系统 开源服务指南 蓝莺IM Solo 独立开发者社区 AI酷站导航 极客Fun 我爱水煮鱼 周报生成器 He3.app 简单简历 白鲸出海 T沙龙 职友集 TechParty 蟒周刊 Best AI Music Generator 模力方舟 Gitee AI

小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码