BladePipe 1.9.0: New data pipelines, faster Oracle writes, and improved stability.
跳到主要内容

Pulsar 到 Pulsar

选择对端数据库:

数据链路

基本功能

功能说明
Schema Migration

If the specified Topic after mapping does not exist in the Target, BladePipe will automatically create the Topic, allowing setting the number of partitions.

Incremental Data Sync

Allow subscribing to messages from the source Topic.

Subscription Modification

Add, delete, or modify the subscribed topics. For more information, see Modify Subscription.

Position Resetting

Reset positions by timestamp to consume the data in a past period again.

高级功能

功能说明
消息格式

支持以下消息格式,文档:消息格式说明

  • CloudCanal内置格式
  • AlibabaCanal兼容格式

限制和注意点

限制项说明
目标端需要提前创建表

仅支持消息自动创建 Topic


源端数据源

前置条件

条件说明
网络准备

迁移同步节点(sidecar)可连接 Pulsar 各节点

任务参数

参数名称说明
schemaFormat

MQ 消息格式,文档:消息格式说明

subscriptionMode

Pulsar 订阅模式 DurableNonDurable

consumeParallel

消费 Pulsar 的并行度

receiverQueueSize

Pulsar 消费者接收队列大小

receiverMaxNumBytes

Pulsar batch 接收最大字节数, 单位为字节

receiverTimeout

Pulsar batch 接收超时时间, 单位为秒

connectionTimeoutMs

Pulsar Client 连接超时时间, 单位为毫秒

Tips: 通用参数配置请参考 通用参数及功能


目标端数据源

前置条件

条件说明
网络准备

迁移同步节点(sidecar)可连接 Pulsar 各节点

任务参数

参数名称说明
schemaFormat

消息格式,文档:消息格式说明

batchWriteSize

单条消息最大数据条数,超过则拆分消息

enableBatching

Pulsar 是否启用批量发送

batchingMaxBytes

Pulsar 批量发送最大字节数,单位为字节

connectionTimeoutMs

Pulsar Client 连接超时时间,单位为毫秒

compressionType

设置 Pulsar 消息压缩算法,支持 LZ4, ZLIB, ZSTD, SNAPPY 算法

envelopSchemaInclude

当 schemaFormat 设置为 DEBEZIUM_ENVELOP_JSON_FOR_MQ 时,消息体是否包含 schema 信息

Tips: 通用参数配置请参考 通用参数及功能