参考 OWASP 10 大 LLM 安全风险，针对生成式 AI 应用程序构建深度防御安全架构
内容提要
大语言模型（LLM）构建的生成式人工智能（AI）应用程序在为企业创造价值和加速实现价值方面展现出巨大潜力。AWS提供了安全服务和最佳实践，帮助企业构建安全的生成式人工智能应用程序。企业应关注安全、隐私、合规性、弹性、模型攻击防御、数据质量和企业治理等方面的问题。通过深度防御安全策略和AWS安全服务，可以保护生成式人工智能应用程序的安全性和可观测性。
延伸解读
企业弹性：生成式AI安全的基础
文章强调，企业弹性是生成式AI安全架构的基石。OWASP LLM 10大风险中有5项（不安全的输出处理、供应链漏洞、敏感信息泄露、过度代理和过度依赖）依赖于企业范围内的架构和运营控制。这意味着，仅靠技术手段不足以应对这些风险，企业需从治理、流程和文化层面构建弹性，确保在中断发生时能快速恢复，并保护资产和业务部门免受意外后果的影响。
深度防御：分层保护LLM应用
文章提出，深度防御策略应首先保护账户和企业环境，再叠加AI/ML特定的安全增强功能。例如，使用IAM实施最小权限、AWS KMS加密静态数据、AWS WAF防护Web攻击，并利用Amazon GuardDuty、AWS Security Hub等服务进行威胁检测和集中管理。之后，可引入Amazon SageMaker Clarify检测偏见、Model Monitor监控模型质量。这种分层方法确保即使某一层防御失效，其他层仍能提供保护。
信任边界：识别关键控制点
文章以聊天机器人架构为例，定义了五个信任边界：用户界面交互、应用程序交互、模型交互、数据交互和企业交互。每个边界都需要特定的控制措施。例如，在用户界面层，需监控请求和响应，防范提示词注入；在应用程序层，需确保授权检查，防止模型被利用绕过访问控制；在模型层，需审查模型来源和数据集，缓解供应链风险。明确信任边界有助于系统化地部署防御措施。
风险管理：从威胁建模到持续监控
文章建议企业采用逆向思维，从生产应用出发开发威胁模型，并接受某些风险而非试图消除所有风险。例如，根据数据敏感性，决定是否使用AWS KMS客户自主管理型密钥轮换或AWS Network Firewall强制执行TLS。同时，需规划回滚和恢复策略，以应对提示词注入、训练数据中毒等事件。通过持续监控和定期测试防御措施，企业可以动态调整安全状况，确保生成式AI应用的安全性和合规性。
Q&A
生成式人工智能应用程序的安全风险有哪些？
生成式人工智能应用程序的安全风险包括不安全的输出处理、供应链漏洞、敏感信息泄露、过度代理和过度依赖等。
如何在开发生成式人工智能应用程序时确保安全性？
在开发生成式人工智能应用程序时，应将安全性视为核心需求，实施深度防御安全策略，并使用AWS的安全服务和最佳实践。
企业如何增强生成式人工智能的弹性？
企业可以通过将安全性纳入开发周期、实施风险管理机制和建立业务连续性计划来增强生成式人工智能的弹性。
AWS提供哪些服务来支持生成式人工智能的安全性？
AWS提供多种安全服务，如AWS KMS、AWS WAF、Amazon GuardDuty等，帮助企业保护生成式人工智能应用程序的安全性。
在生成式人工智能应用程序中实施风险管理的步骤是什么？
实施风险管理的步骤包括识别风险、制定控制措施和监控风险管理效果，以确保应用程序的安全性和合规性。
如何通过深度防御方法保护生成式人工智能应用程序？
通过在多个层次上实施冗余防御措施，结合AWS安全服务，可以有效保护生成式人工智能应用程序，确保安全性和灵活性。
