基于MongoDB元数据管理的异构数据源同步的方法及系统

摘要

本发明公开了一种基于MongoDB元数据管理的异构数据源同步的方法，包括：S1、扫描MySQL源数据端待同步表结构，初始化源端数据表的元数据信息；S2、基于扫描结果，在MongoDB数据库中构建一个通用的数据库元数据模型；S3、对MySQL数据库的binlog操作日志进行监听，解析操作日志后对数据操作行为进行区分，并进行后续处理；S4、获取分布式消息队列中待消费的数据变更信息；S5、根据数据变更信息，获取其涉及在MongoDB的元数据最新版本信息：S6、根据MongoDB元数据信息和消息队列数据，实时转换构造Kudu的DML变更数据，并执行Kudu数据更新。本发明实现了关系型数据库MySQL与分布式列式数据库Kudu之间的数据实时同步问题，支持DML和DDL的数据操作变更，可维护不同历史版本的元数据结构信息。