一种大数据环境下基于树形网络和数据分块的锁步分发方法

摘要

树形网络的大数据分发技术，通过把大数据进行分块和按序编号，并搭建高度最小的最优树形网络结构，使大数据文件在网络中的数据分发能以流水线的形式进行，从而在很大程度上减少了数据分发延迟和计算开销，同时，这种方法还能为数据在树形网络中的传输时间进行预测。在本发明中提出了一种大数据在树形网络中锁步分发的方法，通过找出一个固定的、所有节点都一样的上传速率让整个数据分发时间变得最小，同时提出一种新的通过采用流水线技术和降低树形网络的高度来提高数据分发速率的方法，极大地降低了大数据在树形网络的数据分发的开销。