一种注意力机制下基于特征表征的点击率预估模型

摘要

为了根据待测对象的对象特征完成点击率预估，可作为数据精排环节应用于企业级推荐系统、搜索系统和在线广告系统等领域。本发明提供一种注意力机制下基于特征表征的点击率预估模型，该模型包括：特征嵌入层，用于将连续型特征和离散型特征进行矢量化处理进而形成堆叠特征、显式特征交叉网络，通过注意力交叉网络将堆叠特征进行显式特征组合、隐式特征交叉网络，通过多层感知机将堆叠特征进行隐式特征组合以及预估概率输出层，根据接收到的组合特征对点击率进行预估。其中，注意力交叉网络消除了预估模型对人工特征工程的依赖，同时注意力机制的引入，区分了各组合特征对模型预估的重要性，消除了无用、冗余特征对模型的影响。