通信系统优化对分布式机器学习系统性能提升的分析

摘要

随着人工智能技术的迅猛发展,分布式机器学习系统的应用不断加速,对该系统性能提升的研究愈发紧迫。聚焦用于分布式机器学习的通信系统对整体系统性能提升的重大影响,从机器学习计算的独特性及分布式系统性能现有分析理论的局限性入手,对理论和工程实现两个维度深度分析了通信系统优化对于分布式机器学习系统实现线性乃至超线性加速的可行性,提出了影响分布式机器学习系统性能提升最为关键的三个通信系统优化核心要素,并对机器学习分布式系统中的通信优化理论及未来实践方向作出了展望。