一种基于集成知识蒸馏的图像分类方法

摘要

本发明公开了一种基于集成知识蒸馏的图像分类方法，包括以下步骤：(1)预训练教师模型，将教师模型的训练过程分为三个阶段，从每个阶段中取出一个最好的教师模型，得到3个教师模型T1、T2和T3；(2)训练学生模型，将学生模型的训练过程划分为三个阶段，每个阶段用得到的三个教师模型来联合指导学生模型；其中，T3在每个阶段的权重保持不变；T1在第一阶段权重最大，T2在第二阶段权重最大；(3)使用训练好的学生模型进行图片分类任务，输入待分类图片，进行分类预测。利用本发明，使得学生模型从教师模型中学习知识变得简单，从而进一步提高学生模型的性能，在提高模型响应速度的同时保证图像分类的精度。