基于亚马逊云科技托管 Flink 的开发系列 — 写入 Amazon S3 篇

基于亚马逊云科技托管 Flink 的开发系列 — 写入 Amazon S3 篇

💡 原文中文,约3000字,阅读约需7分钟。
📝

内容提要

本文讲解如何在本地环境中使用 Apache Flink 将数据写入 Amazon S3。首先,下载 flink-s3-fs-hadoop 插件并放入 Flink 的 lib 目录。为访问国内 S3,在 conf 目录创建 core-site.xml 文件并设置 endpoint。然后,通过示例代码生成数据,配置 Java 包和应用属性。最后,运行程序验证数据是否成功写入 S3。

Q&A

如何在本地环境中使用 Apache Flink 写入 Amazon S3?

需要下载 flink-s3-fs-hadoop 插件并放入 Flink 的 lib 目录,同时在 conf 目录创建 core-site.xml 文件设置 endpoint。

在本地开发环境中访问国内 S3 需要哪些特别设置?

需要在 conf 目录下创建 core-site.xml 文件,并设置相应的 endpoint 地址以访问国内 S3。

如何生成测试数据以写入 S3?

可以使用 stock.py 程序模拟股票价格作为测试数据,配合 Amazon Kinesis Data Streams 使用。

在运行程序之前需要配置哪些 Java 包?

需要下载 flink-sql-connector-kinesis-1.15.2.jar 并放入 FileSink 的 lib 目录。

如何验证数据是否成功写入 S3?

运行程序后,检查 S3 控制台中的 Bucket,查看是否生成了 JSON 文件。

部署到云端时需要注意哪些事项?

部署上云时无需考虑 S3 的 endpoint 地址问题,因为托管的 Flink 已经做好相应配置。

🏷️

标签

➡️

继续阅读