AutoMQ 到 AutoMQ

选择对端数据库：

AutoMQ

数据链路

基本功能

功能	说明
Schema Migration	If the specified Topic after mapping does not exist in the Target, BladePipe will automatically create the Topic, allowing setting the number of partitions.
Incremental Data Sync	Allow subscribing to messages from the source Topic.
Subscription Modification	Add, delete, or modify the subscribed topics. For more information, see Modify Subscription.
Position Resetting	Reset positions by timestamp to consume the data in a past period again.

高级功能

功能	说明
消息格式	支持以下消息格式，文档：消息格式说明 CloudCanal内置格式 AlibabaCanal兼容格式

限制和注意点

限制项	说明
目标端需要提前创建表	仅支持消息自动创建 Topic
原始消息格式	仅支持 AutoMQ 到 AutoMQ，且两端的消息格式都需要选择 原始消息格式

使用示例

标题	详情
CloudCanal x AutoMQ 数据迁移同步	文档：CloudCanal x AutoMQ 数据迁移同步
跨互联网数据互通 (AutoMQ)	文档：跨互联网数据互通 (AutoMQ)
AutoMQ 数据中转校验	文档：AutoMQ 数据中转校验

链路FAQ

• 如何打开 AutoMQ 源端心跳?

---

源端数据源

前置条件

条件	说明
网络准备	迁移同步节点（sidecar）可连接 AutoMQ 各节点

任务参数

参数名称	说明
schemaFormat	MQ 消息格式，文档：消息格式说明
consumerGroupId	AutoMQ 消费组 Id
consumeParallel	消费 AutoMQ 的并行度
sessonTimeoutMs	AutoMQ Session 超时时间（毫秒）
maxPollRecords	AutoMQ 一次最大拉取消息数量

Tips: 通用参数配置请参考 通用参数及功能

---

目标端数据源

前置条件

条件	说明
网络准备	迁移同步节点（sidecar）可连接 AutoMQ 各节点

任务参数

参数名称	说明
schemaFormat	消息格式，文档：消息格式说明
batchWriteSize	单条消息最大数据条数，超过则拆分消息
defaultTopic	无法找到对应 Topic 的消息则发送到此 Topic (如新增表)
ddlTopic	专门发送 DDL 的 Topic, 为空则发送到对应 Topic 的第 0 个分区
compressionType	AutoMQ compression.type 参数, 设置压缩算法, 支持 GZIP, SNAPPY, LZ4, ZSTD 算法
batchSize	AutoMQ batch.size 参数
acks	AutoMQ acks 参数, 默认 all
maxRequestBytes	AutoMQ max.request.size 参数
lingerMs	AutoMQ linger.ms 参数, 默认 1
envelopSchemaInclude	当 schemaFormat 设置为 DEBEZIUM_ENVELOP_JSON_FOR_MQ 时，消息体是否包含 schema 信息

Tips: 通用参数配置请参考 通用参数及功能