基于个体学习的模型蒸馏改进方法、设备及存储介质

摘要

本发明公开了一种基于个体学习的模型蒸馏改进方法，所述方法包括以下步骤：将预选训练集输入教师网络，经所述教师网络筛选后生成代表样本和非代表样本；确定学生网络用于处理代表样本的第一损失函数及用于处理非代表样本的第二损失函数；将所述预选训练集输入学生网络，经所述第一损失函数与第二损失函数训练得到训练后的学生网络。本发明还公开了一种智能设备及计算机可读存储介质。通过采用不同的损失函数对代表样本与非代表样本进行训练，提高了学生网络对于代表样本所属类别的表征能力，进而提高了学生网络对于单个样本所属类别的表征能力。