数据需求驱动的Storm应用辅助开发框架

摘要

Storm支持流式数据的高性能实时计算,是一种广泛使用的流式计算框架.在Storm应用的开发中,开发人员需要针对不同的流式数据需求定制开发相应的计算模块,往往导致大量的重复工作,且难以适应数据需求的变动.如何根据流式数据格式和计算方式等数据需求,快速开发并配置相应的Storm计算环境,是提升大部分流式计算应用开发效率的重要问题.提出了流式数据需求描述方法,设计并实现了一种基于Storm的、由数据需求驱动的流式数据实时处理应用辅助开发框架,根据业务人员描述的领域数据需求自动生成符合数据处理需求的Storm实时数据处理应用.实验表明,该框架能帮助不具备Storm开发能力甚至非软件开发人员快速配置常见的基于Storm的流式计算应用,对于常见的流式数据实时处理需求具有一定的适应性.