Cloud Native Computing Foundation
·
Kubernetes上的大型语言模型（LLM）第一部分：理解威胁模型
💡
原文英文，约1300词，阅读约需5分钟。
📝
内容提要
在运行大型语言模型（LLM）时，需关注安全风险，包括提示注入、敏感信息泄露、供应链风险和过度自主性。建议在应用层实施输入验证和输出过滤，并通过政策层管理这些风险，以确保模型行为符合安全标准。
🎯
关键要点
-
在运行大型语言模型（LLM）时，需要关注安全风险，包括提示注入、敏感信息泄露、供应链风险和过度自主性。
-
Kubernetes能够调度工作负载并保持隔离，但无法理解工作负载的具体行为，因此需要额外的控制措施。
-
OWASP为LLM建立了十大安全风险框架，包括提示注入、敏感信息泄露、供应链风险等。
-
提示注入是用户输入影响模型行为的风险，需要对输入进行验证。
-
敏感信息泄露是模型生成包含敏感数据的响应，需进行输出过滤。
-
供应链风险涉及使用未验证的模型或数据，需确保模型来源可追溯且未被篡改。
-
过度自主性是指模型被赋予过多权限，需遵循最小权限原则。
-
这些控制措施应在模型运行时之外进行，建议在模型前设置政策层来处理安全规则。
-
使用托管AI服务时，安全控制由提供商管理；在自有集群中需建立或采用政策层。
-
将介绍如何实现提示注入检测、输出过滤、模型白名单和工具限制等安全措施。
❓
延伸问答
在Kubernetes上运行大型语言模型时需要关注哪些安全风险？
需要关注的安全风险包括提示注入、敏感信息泄露、供应链风险和过度自主性。
什么是提示注入，为什么它是一个风险？
提示注入是指用户输入影响模型行为的风险，用户可以通过特定输入操控模型的响应。
如何防止敏感信息泄露？
需要实施输出过滤，以确保模型生成的响应不包含敏感数据。
供应链风险在大型语言模型中如何表现？
供应链风险涉及使用未验证的模型或数据，可能导致模型行为不安全或不可靠。
过度自主性在大型语言模型中意味着什么？
过度自主性是指模型被赋予过多权限，可能导致不安全的操作，因此需要遵循最小权限原则。
在自有集群中如何管理大型语言模型的安全风险？
需要建立或采用政策层来处理安全规则，确保模型行为符合安全标准。
➡️
