基于在线协作与融合的自我知识蒸馏方法与系统

摘要

本发明公开了一种基于在线协作与融合的自我知识蒸馏方法与系统，该自我知识蒸馏方法包括特征提取网络、特征融合网络和分类器网络，特征提取网络包括主干网络和n个辅助分支网络，主干网络包括n+1级卷积组块，前n级卷积组块的输出作为辅助分支网络的输入，n个辅助分支网络与第n+1级卷积组块的输出作为特征融合网络的输入，将各网络的输出分别送入分类器网络得到类别预测概率进行自适应融合，相邻辅助分支网络之间、第n个辅助分支网络和第n+1级卷积组块之间均设有多样性正则化项Ldiv用于减缓网络同质化现象和提升融合质量。本发明旨在通过融合与Ldiv来充分利用各分支的知识并且减缓网络同质化现象，从而提升各网络的性能。