基于深度强化学习的边云协同优化方法

摘要

本发明提供一种基于深度强化学习的边云协同优化方法，所述方法包括：在离线阶段，通过离线训练深度学习模型生成带有多个早退点的多分支网络，并获取云服务器与终端设备运行深度学习模型中的不同神经网络层的时延和能耗作为设备参数；在优化决策阶段，将预先获取的时延、能耗、准确率以及带宽的设备参数一起输入至优化器进行优化，得到深度学习模型关于早退点、分割点以及量化编码的推理方案；在在线推理阶段，边缘设备与云服务器建立连接并运行深度学习模型，优化器根据边缘设备实时检测到的带宽对推理方案进行动态优化，并按照优化后的推理方案指导边缘设备与云服务器协同实施。本发明对于传输数据的时延、能耗和准确率能够有效优化。