研究表明，大语言模型能够仅凭目录推理生成完整内容，这可能带来数据安全风险。模型越强，越容易自信地编造错误答案，用户需警惕其不可靠性。建议在使用AI时，避免泄露结构信息，并确保每个回答都有来源验证。

在代理系统中，需将所有输入视为不可信，实施来源验证和权限控制以防止攻击。应分离规划与监督，使用短期凭证和沙箱环境限制工具访问。通过STRIDE和MAESTRO模型进行威胁建模，记录代理循环并逐步增强安全性。确保代理执行任务时有明确界限和人类监督，以防止潜在灾难性后果。