Cloudflare 作为 AI 领域的新动向:与 CEO Matthew Prince 的专访 [译]

Cloudflare 作为 AI 领域的新动向:与 CEO Matthew Prince 的专访 [译]

💡 原文中文,约3700字,阅读约需9分钟。
📝

内容提要

Cloudflare CEO Matthew Prince在访谈中表示,公司从早期利用机器学习防御安全威胁,如今借助大语言模型强化安全、开发者体验等五大方向。由于GPU稀缺,AI公司倾向采用多云策略,Cloudflare的R2对象存储因免出口费成为训练数据存储的首选。Prince认为AI推理将分布在边缘网络与终端设备上,Cloudflare可凭借全球低延迟网络承接推理任务,并看好信息管理与“影子AI”治理的机遇,将自身定位为AI基础设施供应商。

🔎

延伸解读

GPU 短缺催生多云存储新策略

文章指出,GPU 稀缺使 AI 公司转向多云策略,以灵活获取廉价算力。传统做法是在不同云和地区复制训练集,造成资源浪费。Cloudflare 的 R2 对象存储因免出口费,允许 AI 公司只存一份训练数据,再按需导入有 GPU 的云,从而降低成本。这显示在算力紧张背景下,存储与网络架构正成为 AI 训练的关键环节。

AI 推理将走向边缘与终端

Prince 认为,AI 推理不会只集中在大型数据中心,而会分布在边缘网络和终端设备上。合规、隐私和性能是主要驱动因素。例如,自动驾驶的紧急刹车需在设备端即时完成,而路线优化等任务可由边缘云聚合多源数据。Cloudflare 凭借全球低延迟网络,正承接越来越多 AI 公司的推理引擎,未来可能与终端设备制造商合作而非竞争。

“影子 AI”治理蕴含新机遇

文章提到,企业担心机密信息被输入 ChatGPT 等模型,但员工往往因便利而违规使用,形成“影子 AI”。由于大语言模型难以忘记已学信息,信息管理成为关键。Prince 认为,如何控制哪些数据可进入 AI 系统、哪些绝对不可,是巨大机遇。信任、数据来源、安全性和知识产权管理将成为 AI 领域竞争焦点,Cloudflare 可借此拓展信息治理服务。

❓

Q&A

Cloudflare 在 AI 领域主要关注哪些方向?

Cloudflare 主要关注五大领域:1) 利用 AI 防御安全威胁;2) 在开发者体验方面运用 AI,如推出 Cursor 助手;3) 通过 R2 对象存储为 AI 公司存储训练数据;4) 承接 AI 推理任务,利用全球边缘网络提供低延迟服务;5) 信息管理与“影子 AI”治理,防止企业机密泄露给第三方 AI 模型。

为什么 AI 公司会选择 Cloudflare 的 R2 对象存储来存储训练数据?

因为 GPU 稀缺,AI 公司需要多云策略以灵活使用各云平台的 GPU 资源。传统做法是在不同云和地区存储多份训练集副本,成本高昂。Cloudflare R2 不收取数据出口费,AI 公司只需存储单一副本,即可轻松将数据导入任何有 GPU 容量的云服务,从而节省成本并提高灵活性。

Cloudflare 如何看待 AI 推理的未来分布?

Cloudflare 认为 AI 推理将分布在边缘网络和终端设备上,而非局限于传统大型数据中心。原因包括合规性、隐私和性能需求。例如,自动驾驶汽车的紧急刹车需在设备上即时完成,而路线规划等任务可由边缘云聚合数据完成。Cloudflare 凭借全球覆盖、延迟仅 50 毫秒的网络,可承接大量推理任务,并与终端设备制造商合作而非竞争。

Cloudflare 如何利用 AI 提升安全性?

Cloudflare 自成立以来一直使用机器学习模型预测安全威胁。如今借助大语言模型,AI 能更有效地防御安全威胁。例如,其自动化系统已发现人类未识别的安全威胁,虽误报率较高需人工干预,但已成为日常变革。此外,AI 公司因查询成本高昂(每次查询可达 25 美分)而重视安全,OpenAI 等已采用 Cloudflare 的挑战系统进行机器人管理,防止滥用导致的高额成本。

什么是“影子 AI”?Cloudflare 在其中看到什么机遇?

“影子 AI”指员工未经组织批准私自使用第三方 AI 服务(如 ChatGPT)的现象,类似于“影子 IT”。即使公司禁止,员工仍可能因工具高效而违规使用。Cloudflare 认为这其中蕴藏巨大机遇,可提供信息管理解决方案,确保企业机密不被输入到 AI 模型中,并管理数据流动、信任、安全性、可解释性及知识产权等关键问题。

Cloudflare 在 AI 模型训练中扮演什么角色?

Cloudflare 认为自身并不适合直接进行模型训练,因为训练需要大量紧密排列的最新 GPU,而 Cloudflare 的机器分布太广。但它在模型训练中扮演间接而关键的角色:通过 R2 对象存储为 AI 公司提供免出口费的训练数据存储,方便其将数据导入任何有 GPU 容量的云服务。只要 GPU 稀缺且其他云收取出口费,Cloudflare 就面临有趣机遇。

🏷️

标签

➡️

继续阅读