弹性部署的分布式AI计算架构系统研究

摘要

为了解决嵌入式前端运行人工智能的现实需求与其自身性能不足的矛盾,本文提出了一种可弹性部署的分布式人工智能(AI)计算架构系统.本系统通过一套经过精心设计的网络通讯程序,将嵌入式设备需要计算的数据发送至云端,然后利用云端的GPU工作站集群进行高速计算.本系统能高效管理云端各个工作站的运行,可弹性部署的特性使其能依据计算负载的不同,方便快捷地增加或者减少算力,实现节能与算力的最优化.分布式的特性使本系统具有一定的灾备冗余特性,有效避免了因某几个计算节点崩溃导致整个系统瘫痪,并且运用了集群计算模式,大幅减少了系统对公网IP数量的要求.