离散流处理模型下批次间隔大小的动态设置系统及方法

摘要

本发明公开了离散流处理模型下批次间隔大小的动态设置系统及方法，该系统包括主节点，其分别与数据源和若干工作节点连接，所述主节点上部署有接收器和任务管理模块，所述接收器依次通过批次控制模块和观察模块与工作节点连接；主节点将从数据源中得到流数据；所述观察模块，用于对集群中的负载信息和网络流量信息进行监控，计算出符合设定条件的批次间隔值；所述批次控制模块，将批次间隔值传输给接收器，按照批次间隔值对接收器中的流数据切分批次；所述任务管理模块将每个批次划分为分布式任务，并分配到工作节点中进行计算；所述批次间隔值是指从接收器中取出未被处理的数据的时间间隔；按照批次间隔值进行处理的数据叫做间隔值下对应的批次。