具有时延约束任务流场景下的自适应封装与协同推理方法

摘要

本发明公开了一种具有时延约束任务流场景下的自适应封装与协同推理方法，包括如下步骤：建立自适应边缘智能推理模型，包括用于接收任务的终端设备和用于制定任务卸载决策的边缘服务器；构建边缘服务器和终端设备的分支模型，所述分支模型均包括若干个分支，每个分支上均设有划分点和出口点，且出口点设置在每个分支的终端；根据任务的处理流程分别预测任务在终端设备和边缘服务器上的处理时间，以及任务的总处理时间；设定目标函数，若已知任务流的所有信息，采用动态规划的离线算法对目标函数进行优化，否则，采用深度强化学习的在线算法对目标函数进行优化。本发明提高了延迟限制下所权衡完成的任务数量和任务推断的准确性。