首页> 中国专利> 一种从HBase中全量抽取数据的方法及系统

一种从HBase中全量抽取数据的方法及系统

摘要

本发明公开一种从HBase中全量抽取数据的方法,其能够多线程并发地全量高效抽取HBase数据,而且数据抽取时在regionServer间是负载均衡的,防止抽取数据时出现热点对regionServer造成压力。该方法包括:(1)部署在可以访问HBase集群的一台服务器上;(2)该服务器上面,将分区服务器regionserver的机器名与ip的对应信息配置到hosts文件中;(3)先读取HBase的元数据表,获取到region信息;然后根据不同的region信息,构建不同的scan对象,来抽取数据;(4)抽取的数据按照不同的region存放到HDFS的不同目录下。还有从HBase中全量抽取数据的系统。

著录项

  • 公开/公告号CN106294886A

    专利类型发明专利

  • 公开/公告日2017-01-04

    原文格式PDF

  • 申请/专利权人 北京集奥聚合科技有限公司;

    申请/专利号CN201610902484.8

  • 发明设计人 范卫卫;张翼;温宗臣;何良均;

    申请日2016-10-17

  • 分类号G06F17/30;

  • 代理机构北京和信华成知识产权代理事务所(普通合伙);

  • 代理人胡剑辉

  • 地址 100085 北京市海淀区上地东路1号院5号楼9层901

  • 入库时间 2023-06-19 01:14:33

法律信息

  • 法律状态公告日

    法律状态信息

    法律状态

  • 2020-05-08

    发明专利申请公布后的驳回 IPC(主分类):G06F17/30 申请公布日:20170104 申请日:20161017

    发明专利申请公布后的驳回

  • 2017-02-01

    实质审查的生效 IPC(主分类):G06F17/30 申请日:20161017

    实质审查的生效

  • 2017-01-04

    公开

    公开

相似文献

  • 专利
  • 中文文献
  • 外文文献
获取专利

客服邮箱:kefu@zhangqiaokeyan.com

京公网安备:11010802029741号 ICP备案号:京ICP备15016152号-6 六维联合信息科技 (北京) 有限公司©版权所有
  • 客服微信

  • 服务号