Cloudflare 宣布推出 AI 防火墙
内容提要
Cloudflare正在开发Firewall for AI，这是一种用于检测和防止滥用的大型语言模型（LLMs）的保护层。LLMs引入了新的漏洞，Firewall for AI旨在解决这些威胁。它将包括速率限制和敏感数据检测等工具，以及一种新的验证功能来识别对模型的利用尝试。Cloudflare的Firewall for AI靠近用户运行，可以早期检测攻击。文章还讨论了LLMs的独特特性和不同的部署模型。Cloudflare的Firewall for AI可以部署在各种平台上托管的LLMs之前，并提供防止大流量攻击、识别敏感信息和防止模型滥用等功能。即时验证功能目前正在开发中。
延伸解读
LLM安全与传统WAF的差异
文章指出，LLM应用与传统Web应用有两个关键区别：交互方式非确定性，以及控制平面与数据平面未分离。传统应用通过定义好的操作（如GET /balance）控制数据访问，而LLM基于自然语言，每次响应可能不同，且训练数据已融入模型本身，难以控制数据共享。这意味着传统WAF的签名匹配方法可能失效，需要新的防护思路。
不同部署模式下的风险归属
文章将LLM部署分为内部、公共和产品三种。内部LLM是企业资产，需防止非员工访问；公共LLM（如GPT、Claude）的风险在于数据一旦进入模型可能被任何人获取，因此企业常禁止员工在提示中放入机密信息；产品LLM（如客服聊天机器人）若训练时接触专有信息，则可能威胁企业知识产权。风险承担主体不同，防护重点也应有所区别。
Firewall for AI的现有能力与路线图
目前，企业客户可立即使用高级速率限制和敏感数据检测（响应阶段），以缓解模型拒绝服务攻击和防止敏感信息泄露。提示验证功能仍在开发中，计划未来几个月内推出测试版，届时将分析提示并给出1-99的恶意可能性评分，并支持基于主题标签创建拦截规则。用户可加入等待列表获取通知。
Q&A
Cloudflare 的 AI 防火墙是什么？
Cloudflare 的 AI 防火墙（Firewall for AI）是一种保护层，可部署在大型语言模型（LLM）前面，在滥用到达模型之前识别它们。它是一种专门为使用 LLM 的应用程序定制的高级 Web 应用防火墙（WAF）。
AI 防火墙如何防止模型滥用？
AI 防火墙通过分析每个提示，根据恶意可能性给出 1 到 99 的评分（1 表示最可能为提示注入），并基于预定义类别对提示进行标记。客户可以创建 WAF 规则来阻止或处理具有特定评分的请求，还可以结合其他信号（如机器人评分）来决定是否阻止请求。此外，可以创建规则来阻止特定主题的请求。
AI 防火墙可以检测哪些类型的敏感数据？
AI 防火墙的敏感数据检测（SDD）功能可以识别模型响应中返回的某些个人身份信息（PII），例如信用卡号码、API 密钥等财务信息和机密。未来计划允许客户创建自定义指纹，并扩展 SDD 以扫描请求提示，防止用户向公共 LLM 发送敏感数据。
LLM 与传统应用程序在安全方面有什么主要区别？
LLM 与传统应用程序的主要区别有两个：第一，用户交互方式不同。传统应用是确定性的，而 LLM 操作是非确定性的，基于自然语言，且每次响应可能不同，这使得识别问题请求更加困难。第二，控制平面与数据平面的关系不同。传统应用中控制平面（代码）与数据平面（数据库）分离，而 LLM 的训练数据成为模型本身的一部分，难以控制数据如何被共享。
AI 防火墙如何防止大流量攻击？
AI 防火墙通过速率限制策略来缓解模型拒绝服务攻击。客户可以使用速率限制和高级速率限制来管理允许到达模型的请求速率，通过设置单个 IP 地址或 API 密钥在会话期间的最大请求速率。此外，通过 Cloudflare 代理模型，可以获得 DDoS 保护。
哪些客户可以立即使用 AI 防火墙的功能？
企业客户在 Application Security Advanced offering 中可以立即开始使用高级速率限制和敏感数据检测（响应阶段）功能。这些产品可以在 Cloudflare 仪表板的 WAF 部分找到。AI 防火墙的提示验证功能目前正在开发中，测试版将在未来几个月内向所有 Workers AI 用户发布。
