ProvenanceGuard面向多工具Agent，在生成答案后读取工具轨迹，将回答拆分为声明并逐条验证来源，可允许、阻断或修复。医学测试中，系统拦截了139条应拦声明中的138条，但相似来源精确匹配率仅50.3%。文章强调多源RAG应保留来源ID，区分事实正确与出处正确，并提供Python示例检查声明是否由声称来源支持。

作者为 CloudNativePG 构建 Postgres 扩展容器，重点解决 SBOM 与来源验证问题。初期 PGRX 与上游验证命令不一致导致用户困惑，后改用 Docker 自定义 SBOM 生成器重构，将逻辑集中于单一模块，构建改动极小。AI 可加速编码但无法判断正确设计。项目已可测试，包含 PG-Cron 等扩展，后续将合并 PR 并提交上游。

研究表明，大语言模型能够仅凭目录推理生成完整内容，这可能带来数据安全风险。模型越强，越容易自信地编造错误答案，用户需警惕其不可靠性。建议在使用AI时，避免泄露结构信息，并确保每个回答都有来源验证。

在代理系统中，需将所有输入视为不可信，实施来源验证和权限控制以防止攻击。应分离规划与监督，使用短期凭证和沙箱环境限制工具访问。通过STRIDE和MAESTRO模型进行威胁建模，记录代理循环并逐步增强安全性。确保代理执行任务时有明确界限和人类监督，以防止潜在灾难性后果。