面向大规模AI数据流的可靠接入研究

摘要

随着人工智能边缘化,繁杂的智能终端设备产生大规模AI数据流,这些AI数据流的实时高可靠接入对边缘接入集群提出了更高的要求。论文提出基于UDP的AI数据流通信协议和旁路控制机制,以实现数据流实时高可靠接入;提出基于AI数据单元的组确认通信机制,大大减少通信确认造成的额外开销;同时设计数据流周期同步机制以支撑GPU服务器的SPMD计算。实验结果表明,论文旁路控制机制和组确认通信可对接入网卡进行横向扩展,且在不发生AI数据包丢失情况下,论文通信方案比传统UDP通信单端口平均数据流单元并发量提升约30%。