首页> 外国专利> ETL APPARATUS AND METHOD FOR CONTROLLING SKEW IN DISTRIBUTED ETL JOB

ETL APPARATUS AND METHOD FOR CONTROLLING SKEW IN DISTRIBUTED ETL JOB

机译:ETL装置和用于控制分布式ETL作业中偏斜的方法

摘要

An apparatus and a method for controlling a skew in a distributed extract, transform, load (ETL) job are disclosed. According to an embodiment of the present invention, the apparatus for controlling a skew in a distributed ETL job comprises: a division unit for generating a plurality of partitions distributively processed by a plurality of ETL tasks by dividing original data; and a re-division unit for identifying a straggler of the plurality of partitions based on a size of each of the plurality of partitions, and dividing the straggler based on the number of available containers.
机译:公开了一种用于控制分布式提取,变换,加载(ETL)作业中的偏斜的设备和方法。根据本发明的实施例,一种用于控制分布式ETL作业中的偏斜的设备包括:划分单元,用于通过划分原始数据来生成由多个ETL任务分布式处理的多个分区;以及重新划分单元,用于基于所述多个分区中的每个分区的大小来识别所述多​​个分区的散乱者,并且基于可用容器的数量来划分散乱者。

著录项

  • 公开/公告号KR20170133913A

    专利类型

  • 公开/公告日2017-12-06

    原文格式PDF

  • 申请/专利权人 SAMSUNG SDS CO. LTD.;

    申请/专利号KR20160065325

  • 发明设计人 CHO SEONG HWAN;KO YOON WON;

    申请日2016-05-27

  • 分类号G06F17/30;G06F3/06;G06F9/48;

  • 国家 KR

  • 入库时间 2022-08-21 12:41:50

相似文献

  • 专利
  • 外文文献
  • 中文文献
获取专利

客服邮箱:kefu@zhangqiaokeyan.com

京公网安备:11010802029741号 ICP备案号:京ICP备15016152号-6 六维联合信息科技 (北京) 有限公司©版权所有
  • 客服微信

  • 服务号