AutoMQ 到 Elasticsearch

选择对端数据库：

Elasticsearch

数据链路

基本功能

功能	说明
Incremental Data Sync	Allow subscribing to messages from the source Topic and transforming them into DML operations, namely, INSERT, UPDATE, DELETE.
Subscription Modification	Add, delete, or modify the subscribed topics. For more information, see Modify Subscription.
Position Resetting	Reset positions by timestamp to consume the data in a past period again.

高级功能

功能	说明
消息格式	支持以下消息格式，文档：消息格式说明 CloudCanal内置格式 AlibabaCanal兼容格式
全量前清空目标数据	运行全量任务前清除老数据，包括重跑任务、定时全量迁移都会触发此能力
重建目标表	运行全量任务前重建目标表，包括重跑任务、定时全量迁移都会触发此能力
ES 时间写入格式	以该字段的第一个时间格式写入 Elasticsearch，如果未设置时间格式，则使用 yyyy-MM-dd'T'HH:mm:ss 格式
ES 时区设置	只有当时间格式的时区为 ZZZZZ 时，才会将页面设置的时区写入到 Elasticsearch
Pre-Creation of Index in the Target	Automatic index creation is not supported when moving data from Kafka/AutoMQ to Elasticsearch.
Setting Target Primary Key	Change the primary key to another field to facilitate data aggregation and other operations.

限制和注意点

限制项	说明
目标端需要提前创建表	仅支持消息自动创建 Topic
原始消息格式	仅支持 AutoMQ 到 AutoMQ，且两端的消息格式都需要选择 原始消息格式

使用示例

标题	详情
CloudCanal x AutoMQ 数据迁移同步	文档：CloudCanal x AutoMQ 数据迁移同步
跨互联网数据互通 (AutoMQ)	文档：跨互联网数据互通 (AutoMQ)
AutoMQ 数据中转校验	文档：AutoMQ 数据中转校验
Elasticsearch 对端同步技术详解	文档：Elasticsearch 对端同步技术详解

链路FAQ

• 如何打开 AutoMQ 源端心跳?

---

源端数据源

前置条件

条件	说明
网络准备	迁移同步节点（sidecar）可连接 AutoMQ 各节点

任务参数

参数名称	说明
schemaFormat	MQ 消息格式，文档：消息格式说明
consumerGroupId	AutoMQ 消费组 Id
consumeParallel	消费 AutoMQ 的并行度
sessonTimeoutMs	AutoMQ Session 超时时间（毫秒）
maxPollRecords	AutoMQ 一次最大拉取消息数量

Tips: 通用参数配置请参考 通用参数及功能

---

目标端数据源

前置条件

条件	说明
账号权限	具备索引的 create, delete, create_index, delete_index, read, write 权限
网络准备	迁移同步节点（sidecar）可连接 Elasticsearch 节点

任务参数

参数名称	说明
maxBulkSizeMb	单表最大攒批容量，超过此容量则刷出数据到写入队列
totalDataInMemMb	攒批写入，内存中最大数据容量，超过此容量或超过 asyncFlushIntervalSec 则刷出数据到写入队列
asyncFlushIntervalSec	攒批写入，等待刷出的间隔时间，超过此时间或超过 totalDataInMemMb 则刷出数据到写入队列
realFlushPauseSec	使用 Bulk Write 刷出数据到 ElasticSearch 的等待时间，0 则不等待
pkSeparator	拼接 _id 的分隔符（字段数 > 1）
enableBulkSizeThreshold	启用批量写入模式（默认开启）

Tips: 通用参数配置请参考 通用参数及功能