为迁移到 Amazon Aurora 设计可回退路径

为迁移到 Amazon Aurora 设计可回退路径

💡 原文中文,约7000字,阅读约需17分钟。
📝

内容提要

某社交娱乐客户将核心MySQL迁移至Amazon Aurora,但部分系统仍向原平台写入。文章介绍其回退方案:用Debezium采集Aurora binlog,经Amazon MSK持续缓冲,需回退时由Flink按有界范围回放至原库;设计涵盖表分类、奇偶自增主键减少冲突、幂等、异常隔离与对账。关键流程测试已跑通,生产小时级RTO仍需按真实负载验收。

🔎

延伸解读

回退方案的选择取决于RTO目标

文章对比了常驻反向CDC(直接写生产表或影子表)与“持续缓冲、按需回放”两种思路。前者可将RTO缩短至分钟级,但需长期承担计算、存储和跨云流量费用,且直接写回会持续修改生产数据。客户确认小时级RTO可接受后,才取消常驻反向链路,改为平时仅用Debezium和MSK保存事件。这说明回退架构并非越实时越好,需先明确RTO、RPO和成本边界。

通用回放链路有明确的表范围限制

方案并非对所有表一视同仁。余额、库存、订单状态机等无法用统一冲突规则的表被排除在通用流程之外,转入专项恢复。无主键表只接受新增和读取,更新与删除会进入异常表。此外,通用链路不保证跨表事务在目标库原子提交,依赖外键或状态机一致性的表需专项处理。读者应关注:表分类是回退设计的前置步骤,不能默认所有表都能走同一条回放通道。

幂等与对账机制支撑失败重跑

回放作业以有界范围运行,支持从已提交offset或指定时间点启动,并记录批次、异常、删除审计和执行点位。无主键表通过登记topic+partition+offset实现幂等,有主键表用完整after image执行upsert。切流前需由回放执行人之外的人员检查异常、点位和对账报告。这些设计使回退过程可中断、可重来,但文章也指出无主键去重无法识别连接器将同一变更重新发布到新offset的情况。

生产RTO仍需按真实负载验收

验证阶段在Flink 1.19.1、3个库级topic、每个6个partition、并行度6的配置下,处理十万量级事件耗时为分钟级,关键流程已跑通。但文章明确,正式小时级RTO仍取决于生产数据量、事件大小、DML比例、目标数据库规格和最长回退窗口下的真实负载。此外,当前缓冲和控制面位于同一AWS区域,不覆盖区域级故障。读者应将测试结果视为可行性验证,而非生产性能承诺。

❓

Q&A

为什么迁移到Aurora后还需要设计回退路径?

因为部分系统仍留在原云平台并继续写入相关表,一旦需要回退,既要保留AWS运行期间产生的新数据,也要避免覆盖原数据库中的有效写入。

回退方案中如何持续采集Aurora的增量数据?

Aurora设置binlog_format=ROW、binlog_row_image=FULL,Debezium通过Amazon MSK Connect持续读取binlog,并将事件写入启用分层存储的Amazon MSK。

为什么最终选择持续缓冲、按需回放而不是常驻反向写入?

客户确认小时级RTO可接受后,团队不再保留常驻反向写入链路,改为平时由Debezium和MSK保存保护期内事件,回退时启动Flink按有界范围回放,以降低日常对生产表的影响和运维复杂度。

如何减少回放时INSERT操作的主键冲突?

两端分别使用奇数和偶数自增主键:Aurora设置auto_increment_increment=2、auto_increment_offset=1(只产生奇数id),原MySQL设置auto_increment_increment=2、auto_increment_offset=2(只产生偶数id),从源头减少INSERT冲突。

无主键表在回放时如何处理幂等和异常?

无主键表通过replay_applied_event实现幂等:先登记topic+partition+offset,再插入业务行,两步在同一MySQL事务中提交。只接受create和read事件;update、delete无法定位行,写入异常表。

回放过程支持中断后重跑吗?如何控制回放范围?

支持。作业默认从consumer group已提交的offset开始,没有提交点时回退到earliest;也可通过replay.start.timestamp指定起始时间,结束位置由replay.end.timestamp指定,未配置时取作业启动时的latest。Flink以bounded source运行,新消息不会无限延长当前批次。

当前方案能覆盖区域级故障吗?有哪些实现边界?

不能覆盖区域级故障,因为缓冲和回放控制面位于同一AWS区域。当前实现边界包括:无主键表使用Kafka坐标去重,不能识别连接器将同一源变更重新发布到新offset;删除审计保存的是Debezium源事件,而不是目标库删除前的实际行。

项目验证结果如何?生产环境的RTO是否已确认?

测试使用3个库级topic、每个topic 6个partition,Managed Flink 1.19.1并行度为6,多个并行子任务处理十万量级事件,当前测试规模下耗时为分钟级;有主键表完成新增、更新和删除测试,无主键表完成新增、读取及异常隔离测试。生产环境的小时级RTO仍需按真实数据量、事件大小、DML比例、目标数据库规格和最长回退窗口下的真实负载测试验收。

🏷️

标签

➡️

继续阅读