刚刚上线:Cloudflare的Arroyo和Pipelines实时数据流摄取

刚刚上线:Cloudflare的Arroyo和Pipelines实时数据流摄取

💡 原文英文,约2200词,阅读约需8分钟。
📝

内容提要

Cloudflare推出Pipelines开放测试版,支持高吞吐量的实时数据流处理,简化数据摄取和存储。用户可通过简单命令创建管道,支持每秒高达10万请求。新收购的Arroyo将增强数据转换和实时处理能力,未来将推出更多功能和定价方案。

🎯

关键要点

  • Cloudflare推出Pipelines开放测试版,支持高吞吐量的实时数据流处理。
  • 用户可以通过简单命令创建管道,支持每秒高达10万请求。
  • 新收购的Arroyo将增强数据转换和实时处理能力。
  • Pipelines简化数据摄取和存储,无需管理底层基础设施。
  • 用户按处理的数据付费,而不是按小时计费。
  • Pipelines支持将数据加载到Cloudflare的对象存储服务R2。
  • Pipelines允许用户在数据摄取过程中进行实时数据处理和转换。
  • Arroyo的目标是使实时处理对所有数据工作者可用,简化数据管道的构建。
  • Pipelines可以从HTTP端点和Workers中摄取数据,并将其批量加载到R2存储桶中。
  • 在开放测试阶段,除了标准的R2存储和操作费用外,不会有额外费用。
  • 未来将根据摄取和交付的数据量引入定价方案。
  • Pipelines将与R2数据目录集成,支持直接将数据流摄取到Iceberg表中。

延伸问答

Cloudflare的Pipelines是什么?

Pipelines是Cloudflare推出的实时数据流摄取产品,支持高吞吐量的数据处理和存储。

如何创建一个Pipelines管道?

用户可以通过运行命令`npx wrangler@latest pipelines create my-clickstream-pipeline --r2-bucket my-bucket`来创建管道。

Pipelines支持多少请求每秒?

Pipelines支持每秒高达10万请求。

Arroyo在Pipelines中有什么作用?

Arroyo增强了Pipelines的数据转换和实时处理能力,使实时处理对所有数据工作者可用。

Pipelines的定价方案是怎样的?

在开放测试阶段,用户只需支付标准的R2存储和操作费用,未来将根据摄取和交付的数据量引入定价方案。

Pipelines如何处理数据流?

Pipelines允许用户在数据摄取过程中进行实时数据处理和转换,并将数据加载到Cloudflare的对象存储服务R2。

➡️

继续阅读