SAP HANA 到 OceanBase
| 功能 | 说明 |
|---|---|
Schema Migration | If the target schema does not exist, BladePipe will automatically generate and execute CREATE statements based on the source metadata and the mapping rule. |
Full Data Migration | Migrate data by sequentially scanning data in tables and writing it in batches to the target database. |
Incremental Data Sync | Sync of common DML like INSERT, UPDATE, DELETE is supported. |
Data Verification and Correction | Verify all existing data. Optionally, you can correct the inconsistent data based on verification results. Scheduled DataTasks are supported. |
Subscription Modification | Add, delete, or modify the subscribed tables with support for historical data migration. For more information, see Modify Subscription. |
Position Resetting | Reset positions by data ID or timestamp. Allow re-consumption of CDC data in a past period. |
Table Name Mapping | Support the mapping rules, namely, keeping the name the same as that in Source, converting the text to lowercase, converting the text to uppercase, truncating the name by "_digit" suffix. |
Metadata Retrieval | Retrieve the target metadata with filtering conditions or target primary keys set from the source table. |
高级功能
| 功能 | 说明 |
|---|---|
基于 Trigger 增量同步 | 任务会自动创建表的触发器,触发器能捕获数据的 INSERT / UPDATE / DELETE 事件并写入增量 CDC 数据表 |
全量前清空目标数据 | 运行全量任务前清除老数据,包括重跑任务、定时全量迁移都会触发此能力 |
重建目标表 | 运行全量任务前重建目标表,包括重跑任务、定时全量迁移都会触发此能力 |
高并发行级写入 | 适配分布式数据库特征,默认采用高并发行级写入策略 (ROW) |
增量写入冲突策略 | IGNORE: 遇到主键冲突则忽略(不做写入),REPLACE: 遇到主键冲突则整行替换 |
Scheduled Full Data Migration | For more information, see Create Scheduled Full Data DataJob. |
Custom Code | For more information, see Custom Code Processing, Debug Custom Code and Logging in Custom Code. |
Data Filtering Conditions | Support data filtering using WHERE conditions, with SQL-92 as the SQL language. For more information, see Data Filtering. |
限制和注意点
| 限制项 | 说明 |
|---|---|
DDL 变化处理方案 | SAP HANA 源端通过触发器捕获增量数据,不支持 DDL 同步。若发生 DDL 变更,可参考文档:SAP HANA 源端表结构变更 |
HANA 增量同步数据类型 | HANA 增量阶段,触发器不支持捕获 TEXT、BIN_TEXT、ST_POINT、ST_GEOMETRY 类型的数据变更 |
OceanBase 版本 | 当前仅支持 OceanBase for MySQL 版本 |
OceanBase 数据类型 | 不支持地理位置类型 |
前置条件
| 条件 | 说明 |
|---|---|
账号权限 | 文档:HANA 需要的权限 |
任务参数
| 参数名称 | 说明 |
|---|---|
sysTriggerDataSchema | 触发器写入增量表 SCHEMA 名称 |
sysTriggerDataTable | 触发器写入增量表 TABLE 名称 |
incrPagingCount | 触发器增量同步每次查询数据总量 |
incrIdleSleepSecond | 触发器的增量同步空闲时查询间隔(单位:秒) |
incrScanIntervalMs | 设置基于触发器的增量同步数据查询间隔(单位:毫秒) |
autoCheckTriggerAndReInstall | 任务启动时检查触发器状态并重新安装 |
triggerDataCleanEnabled | 是否开启定时清理触发器增量表数据 |
triggerDataCleanIntervalMin | 设置触发器增量表的清理间隔(单位:分钟) |
triggerDataRetentionMin | 设置触发器增量表数据的保留时间(单位:分钟) |
dbHeartbeatEnable | 配置对源端数据库是否开启心跳 |
needTriggerDataJsonEscape | 是否对触发器增量表数据加转义符(\) |
triggerDataJsonQuotation | 自定义触发器增量表 JSON 数据引号 |
triggerParamBathSize | 设置触发器模板中每个变量包含列的个数 |
fullBeforeImageEnabled | 触发器是否记录所有列变更前的完整数据 |
Tips: 通用参数配置请参考 通用参数及功能
前置条件
| 条件 | 说明 |
|---|---|
账号权限 | 具备 SELECT, INSERT, DELETE, UPDATE, 常见 DDL 权限 |
网络准备 | 迁移同步节点(sidecar)可连接 OceanBase 标准交互接口(如 3306) |
任务参数
| 参数名称 | 说明 |
|---|---|
keyConflictStrategy | 增量写入遇到主键冲突策略:
|
writeStrategy | 对端写入策略,包含
|
Tips: 通用参数配置请参考 通用参数及功能