用于将来自更复杂模型的知识融入更简单模型中的系统、方法和计算机程序产品

摘要

本发明提供一种用于将来自更复杂模型的知识融入更简单模型中的系统、方法和计算机程序产品。方法可包括获得与第一组特征相关联的第一训练数据以及与不同于所述第一组特征的第二组特征相关联的第二训练数据；基于所述第一训练数据和所述第二训练数据来训练第一模型；以及基于所述第二训练数据而使用损失函数来训练第二模型，所述损失函数取决于所述第一模型的中间层的输出和所述第二模型的输出。