一种模型训练方法、工作节点及参数更新服务器

摘要

本申请公开了一种模型训练方法、工作节点及参数更新服务器，该方法包括：根据第一模型的任务类型，确定第一模型中各个网络层的目标计算精度，并基于第一模型中各个网络层的目标计算精度，利用第一模型的训练数据进行前向计算和后向计算，得到第一模型的各个网络层的网络参数的目标梯度值，以便根据该目标梯度值对第二模型进行参数更新。由于不同任务类型所需求的计算精度不同，因而，根据任务类型确定的目标计算精度更适应于该任务类型对精度的需求，从而使得在第一模型基于目标计算精度进行计算的过程中，不但可以减少在工作节点上的资源消耗和提升在工作节点上的计算加速，还可以降低因第一模型的计算精度损失带来的对第二模型的训练效果损失。