LLM 大语言模型人工智能应用十大安全威胁(OWASP)
原文约21900字/词，阅读约需52分钟。发表于：。清单的制定创建OWASP LLM申请前 10 名列表是一项艰巨的任务，它建立在由近 500 名专家和超过125 名积极贡献者组成的国际团队的集体专业知识的基础上。我们的贡献者来自不同的背景，包括人工智能公司、安全公司、ISV、云超大规模提供商、硬件提供商和学术界。
本文讨论了基于大型语言模型（LLM）系统中的安全漏洞，包括过度代理、过度依赖和模型盗窃。为了防止这些漏洞，可以限制代理权限、交叉验证输出、实施自动验证机制、分解任务、清晰传达风险和限制，并建立安全的编码实践和准则。此外，还可以记录和监控LLM活动、实施速率限制和授权措施。
