关键词推荐效果评估方法、系统、电子设备及存储介质

摘要

本申请公开了关键词推荐效果评估方法、系统、电子设备及存储介质，关键词推荐效果评估方法包括：关键词向量化步骤：选取目标关键词与负样本关键词后，将目标关键词与负样本关键词进行特征向量化处理；排序位置计算步骤：通过预估模型获取目标关键词推荐概率与负样本关键词推荐概率后，根据目标关键词推荐概率与负样本关键词推荐概率获得目标关键词及负样本关键词的排序位置；推荐效果评估步骤：根据目标关键词在负样本关键词中的排序位置评估目标关键词的推荐效果。本发明可以有效的避免数据中指标的噪声问题，也可以同时将隐反馈信息包含进去，学习到排序信息，达到推荐的目的。

说明书

技术领域

本申请涉及关键词推荐效果评估技术领域，尤其涉及一种关键词推荐效果评估方法、系统、电子设备及存储介质。

背景技术

在淘宝钻展，直通车等等活动中，我们项目目的是通过对投手投放过的关键词历史指标表现，从中预测未来一周的关键词指标表现，从而给投手一些比较直观的信息而利于他们后期的投放。具体使用过程中，投手会先提供给系统一些信息，比如未来要预测的期间是哪种活动类型，哪个品牌，品类，活动名称等等。相应的，系统会根据这些条件对关键词库里的关键词进行排序，把表现好的关键词推荐给投手。现有方法是先预测ROI、点击率的值，然后根据其进行排序的方法比较受限于数据本身的质量。如果数据中缺失率太高，那么时序和均值算法的效果会很受影响，这种影响主要来自于：数据噪声太大；其次，数据中包含很多隐反馈信息，如果通过填充0的方式处理就会丢失掉很多信息，而其他的常见填充时间序列方式也均受到较高的缺失度的影响，因而通过现有技术无法解决关键词推荐效果评估过程中关键词指标数据中的噪音较大以及丢失隐反馈信息等问题。

发明内容

本申请实施例提供了关键词推荐效果评估方法、系统、电子设备及存储介质，以至少通过本发明解决了关键词推荐效果评估过程中丢失隐反馈信息以及关键词指标数据中的噪音较大等问题。

本发明提供了关键词推荐效果评估方法，包括：

关键词向量化步骤：选取目标关键词与负样本关键词后，将所述目标关键词与所述负样本关键词进行特征向量化处理；

排序位置计算步骤：通过预估模型获取目标关键词推荐概率与负样本关键词推荐概率后，根据所述目标关键词推荐概率与所述负样本关键词推荐概率获得所述目标关键词及所述负样本关键词的排序位置；

推荐效果评估步骤：根据所述目标关键词在所述负样本关键词中的排序位置评估所述目标关键词的推荐效果。

上述的关键词推荐效果评估方法，所述关键词向量化步骤包括：

选取步骤：选取关键词组后，从所述关键词组中选取一个所述目标关键词并随机抽取多个所述负样本关键词；

特征向量获取步骤：将所述目标关键词与所述负样本关键词进行特征向量化处理后，获取目标关键词特征向量与负样本关键词特征向量。

上述的关键词推荐效果评估方法，所述排序位置计算步骤包括：

关键词推荐概率获取步骤：将所述目标关键词特征向量与所述负样本关键词特征向量输入到所述预估模型中，获取所述目标关键词推荐概率与所述负样本关键词推荐概率；

排序位置获取步骤：将所述目标关键词推荐概率与所述负样本关键词推荐概率合并成推荐概率向量后，计算所述目标关键词和多个所述负样本关键词的所述排序位置。

上述的关键词推荐效果评估方法，所述推荐效果评估步骤包括，根据所述目标关键词在所述负样本关键词中的所述排序位置获得所述目标关键词的召回率指标和排序指标，根据所述召回率指标和所述排序指标评估所述目标关键词的推荐效果。

本发明还提供关键词推荐效果评估系统，其中，适用于上述所述的关键词推荐效果评估方法，所述关键词推荐效果评估系统包括：

关键词向量化单元：选取目标关键词与负样本关键词后，将所述目标关键词与所述负样本关键词进行特征向量化处理；

排序位置计算单元：通过预估模型获取目标关键词推荐概率与负样本关键词推荐概率后，根据所述目标关键词推荐概率与所述负样本关键词推荐概率获得所述目标关键词及所述负样本关键词的排序位置；

推荐效果评估单元：根据所述目标关键词在所述负样本关键词中的排序位置评估所述目标关键词的推荐效果。

上述的关键词推荐效果评估系统，所述关键词向量化单元包括：

选取模块：选取关键词组后，从所述关键词组中选取一个所述目标关键词并随机抽取多个所述负样本关键词；

特征向量获取模块：将所述目标关键词与所述负样本关键词进行特征向量化处理后，获取目标关键词特征向量与负样本关键词特征向量。

上述的关键词推荐效果评估系统，所述排序位置计算单元包括：

关键词推荐概率获取模块：将所述目标关键词特征向量与所述负样本关键词特征向量输入到所述预估模型中，获取所述目标关键词推荐概率与所述负样本关键词推荐概率；

排序位置获取模块：将所述目标关键词推荐概率与所述负样本关键词推荐概率合并成推荐概率向量后，计算所述目标关键词和多个所述负样本关键词的所述排序位置。

上述的关键词推荐效果评估系统，根据所述目标关键词在所述负样本关键词中的所述排序位置获得所述目标关键词的召回率指标和排序指标，根据所述召回率指标和所述排序指标，通过所述推荐效果评估单元评估所述目标关键词的推荐效果。

本发明还提供一种电子设备，包括存储器、处理器以及存储在所述存储器上并可在所述处理器上运行的计算机程序，其特征在于，所述处理器执行所述计算机程序时实现上述任一项所述的关键词推荐效果评估方法。

本发明还提供一种电子设备可读存储介质，所述电子设备可读存储介质上存储有计算机程序指令，所述计算机程序指令被所述处理器执行时实现上述任一项所述的关键词推荐效果评估方法。

相比于相关技术，本发明通过负采样的损失函数铺捉到关键词数据中的隐反馈信息，学习到排序信息，达到了推荐的目的，并且本发明有效避免了数据中指标的噪声问题，提出了关键词推荐效果评估更有效更鲁棒的方法，提高了预测与优化能力。

本申请的一个或多个实施例的细节在以下附图和描述中提出，以使本申请的其他特征、目的和优点更加简明易懂。

附图说明

此处所说明的附图用来提供对本申请的进一步理解，构成本申请的一部分，本申请的示意性实施例及其说明用于解释本申请，并不构成对本申请的不当限定。在附图中：

图1是根据本申请实施例的关键词推荐效果评估方法流程图；

图2是根据本申请实施例的具体实施流程图；

图3为本发明的关键词推荐效果评估系统的结构示意图；

图4是根据本申请实施例的电子设备的框架图。

其中，附图标记为：

关键词向量化单元：51；

排序位置计算单元：52；

推荐效果评估单元：53；

选取模块：511；

特征向量获取模块：512；

关键词推荐概率获取模块：521；

排序位置获取模块：522；

总线:80；

处理器：81；

存储器：82；

通信接口：83。

具体实施方式

为了使本申请的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本申请进行描述和说明。应当理解，此处所描述的具体实施例仅仅用以解释本申请，并不用于限定本申请。基于本申请提供的实施例，本领域普通技术人员在没有作出创造性劳动的前提下所获得的所有其他实施例，都属于本申请保护的范围。

显而易见地，下面描述中的附图仅仅是本申请的一些示例或实施例，对于本领域的普通技术人员而言，在不付出创造性劳动的前提下，还可以根据这些附图将本申请应用于其他类似情景。此外，还可以理解的是，虽然这种开发过程中所作出的努力可能是复杂并且冗长的，然而对于与本申请公开内容相关的本领域的普通技术人员而言，在本申请揭露的技术内容基础上进行的一些设计，制造或者生产等变更只是常规的技术手段，不应当理解为本申请公开的内容不充分。

在本申请中提及“实施例”意味着，结合实施例描述的特定特征、结构或特性可以包含在本申请的至少一个实施例中。在说明书中的各个位置出现该短语并不一定均是指相同的实施例，也不是与其它实施例互斥的独立的或备选的实施例。本领域普通技术人员显式地和隐式地理解的是，本申请所描述的实施例在不冲突的情况下，可以与其它实施例相结合。

除非另作定义，本申请所涉及的技术术语或者科学术语应当为本申请所属技术领域内具有一般技能的人士所理解的通常意义。本申请所涉及的“一”、“一个”、“一种”、“该”等类似词语并不表示数量限制，可表示单数或复数。本申请所涉及的术语“包括”、“包含”、“具有”以及它们任何变形，意图在于覆盖不排他的包含；例如包含了一系列步骤或模块(单元)的过程、方法、系统、产品或设备没有限定于已列出的步骤或单元，而是可以还包括没有列出的步骤或单元，或可以还包括对于这些过程、方法、产品或设备固有的其它步骤或单元。本申请所涉及的“连接”、“相连”、“耦接”等类似的词语并非限定于物理的或者机械的连接，而是可以包括电气的连接，不管是直接的还是间接的。本申请所涉及的“多个”是指两个或两个以上。“和/或”描述关联对象的关联关系，表示可以存在三种关系，例如，“A和/或 B”可以表示：单独存在A，同时存在A和B，单独存在B这三种情况。字符“/”一般表示前后关联对象是一种“或”的关系。本申请所涉及的术语“第一”、“第二”、“第三”等仅仅是区别类似的对象，不代表针对对象的特定排序。

本发明提供关键词推荐效果评估方法、系统、电子设备及存储介质，有效避免了数据中指标的噪声问题，同时将隐反馈信息包含进去，提出了关键词推荐效果评估更有效更鲁棒的方法。

下面结合具体实施例对本发明进行说明。

实施例一

本实施例提供了关键词推荐效果评估方法。请参照图1至图2，图1是根据本申请实施例的关键词推荐效果评估方法流程图；图2是根据本申请实施例的具体实施流程图，如图所示，关键词推荐效果评估方法包括如下步骤：

关键词向量化步骤S1：选取目标关键词与负样本关键词后，将所述目标关键词与所述负样本关键词进行特征向量化处理；

排序位置计算步骤S2：通过预估模型获取目标关键词推荐概率与负样本关键词推荐概率后，根据所述目标关键词推荐概率与所述负样本关键词推荐概率获得所述目标关键词及所述负样本关键词的排序位置；

推荐效果评估步骤S3：根据所述目标关键词在所述负样本关键词中的排序位置评估所述目标关键词的推荐效果。

实施例中，所述关键词向量化步骤S1包括：

选取步骤S11：选取关键词组后，从所述关键词组中选取一个所述目标关键词并随机抽取多个所述负样本关键词；

特征向量获取步骤S12：将所述目标关键词与所述负样本关键词进行特征向量化处理后，获取目标关键词特征向量与负样本关键词特征向量。

具体实施中，选取一组关键词并从中选出一个目标关键词后，随机抽取100个负样本关键词后，将关键词、品牌、品类等等特征向量化。关键词特征向量化时，采用二分类的方式，损失函数为交叉熵函数：

其中，u:场景变量(品牌、品类、时间等等)，i：关键词，Y:正样本，Y

正样本数据为某一场景下关键词ROI>2(或者其它表示指标表现好的，如impression>1000等等)的相关数据。例如，对于品牌A、品类B、2021年4月1号之一天来说，有大概100个词是符合以上条件的，那么这些特征就作为正样本。负样本为在以上条件下ROI<2，或者ROI为空值的关键词。

实施例中，所述排序位置计算步骤S2包括：

关键词推荐概率获取步骤S21：将所述目标关键词特征向量与所述负样本关键词特征向量输入到所述预估模型中，获取所述目标关键词推荐概率与所述负样本关键词推荐概率；

排序位置获取步骤S22：将所述目标关键词推荐概率与所述负样本关键词推荐概率合并成推荐概率向量后，计算所述目标关键词和多个所述负样本关键词的所述排序位置。

具体实施中,获取所述目标关键词与负样本关键词的推荐概率后，合并成推荐概率向量并计算所述目标关键词和100个负样本关键词的概率排序位置。因为每个关键词和负样本关键词都有一个概率，最终就是按照这个概率做排序。其中，预估模型为传统的时序模型，如LSTM 神经网络模型。

实施例中，所述推荐效果评估步骤S3包括，根据所述目标关键词在所述负样本关键词中的所述排序位置获得所述目标关键词的召回率指标和排序指标，根据所述召回率指标和所述排序指标评估所述目标关键词的推荐效果。

具体实施中，Recall和NDCG都是一种排序的指标，Recall是召回率，在本场景下他也可以被叫做hit rate，数学公式为：

其中，分母是所有的测试集合，分子是每个场景下推荐的对应的 TPK个关键词中属于测试集合的个数的总和。该指标衡量是召回率，该指标越大越好。

NDCG也是一种排序指标，其公式定义为：

r

实施例二

请参照图3，图3为本发明的关键词推荐效果评估系统的结构示意图。如图3所示，发明的关键词推荐效果评估系统，适用于上述的关键词推荐效果评估方法，关键词推荐效果评估系统包括：

关键词向量化单元51：选取目标关键词与负样本关键词后，将所述目标关键词与所述负样本关键词进行特征向量化处理；

排序位置计算单元52：通过预估模型获取目标关键词推荐概率与负样本关键词推荐概率后，根据所述目标关键词推荐概率与所述负样本关键词推荐概率获得所述目标关键词及所述负样本关键词的排序位置；

推荐效果评估单元53：根据所述目标关键词在所述负样本关键词中的排序位置评估所述目标关键词的推荐效果。

在本实施例中，所述关键词向量化单元51包括：

选取模块511：选取关键词组后，从所述关键词组中选取一个所述目标关键词并随机抽取多个所述负样本关键词；

特征向量获取模块512：将所述目标关键词与所述负样本关键词进行特征向量化处理后，获取目标关键词特征向量与负样本关键词特征向量。

在本实施例中，所述排序位置计算单元52包括：

关键词推荐概率获取模块521：将所述目标关键词特征向量与所述负样本关键词特征向量输入到所述预估模型中，获取所述目标关键词推荐概率与所述负样本关键词推荐概率；

排序位置获取模块522：将所述目标关键词推荐概率与所述负样本关键词推荐概率合并成推荐概率向量后，计算所述目标关键词和多个所述负样本关键词的所述排序位置。

在本实施例中，根据所述目标关键词在所述负样本关键词中的所述排序位置获得所述目标关键词的召回率指标和排序指标，根据所述召回率指标和所述排序指标，通过所述推荐效果评估单元53评估所述目标关键词的推荐效果。

实施例三

结合图4所示，本实施例揭示了一种电子设备的一种具体实施方式。电子设备可以包括处理器81以及存储有计算机程序指令的存储器82。

具体地，上述处理器81可以包括中央处理器(CPU)，或者特定集成电路(Application Specific Integrated Circuit，简称为ASIC)，或者可以被配置成实施本申请实施例的一个或多个集成电路。

其中，存储器82可以包括用于数据或指令的大容量存储器。举例来说而非限制，存储器82可包括硬盘驱动器(Hard Disk Drive，简称为HDD)、软盘驱动器、固态驱动器(SolidState Drive，简称为SSD)、闪存、光盘、磁光盘、磁带或通用串行总线(Universal SerialBus，简称为USB)驱动器或者两个或更多个以上这些的组合。在合适的情况下，存储器82可包括可移除或不可移除(或固定)的介质。在合适的情况下，存储器82可在关键词推荐效果评估装置的内部或外部。在特定实施例中，存储器82是非易失性(Non-Volatile)存储器。在特定实施例中，存储器82包括只读存储器(Read-Only Memory，简称为ROM)和随机存取存储器(Random Access Memory，简称为RAM)。在合适的情况下，该ROM可以是掩模编程的ROM、可编程ROM (Programmable Read-Only Memory，简称为PROM)、可擦除PROM (ErasableProgrammable Read-Only Memory，简称为FPROM)、电可擦除PROM(Electrically ErasableProgrammable Read-Only Memory，简称为EFPROM)、电可改写ROM(ElectricallyAlterable Read-Only Memory，简称为EAROM)或闪存(FLASH)或者两个或更多个以上这些的组合。在合适的情况下，该RAM可以是静态随机存取存储器(Static Random-AccessMemory，简称为SRAM)或动态随机存取存储器(Dynamic Random Access Memory，简称为DRAM)，其中， DRAM可以是快速页模式动态随机存取存储器(Fast Page Mode DynamicRandom Access Memory，简称为FPMDRAM)、扩展数据输出动态随机存取存储器(ExtendedDate Out Dynamic Random Access Memory，简称为EDODRAM)、同步动态随机存取内存(Synchronous Dynamic Random-Access Memory，简称SDRAM)等。

存储器82可以用来存储或者缓存需要处理和/或通信使用的各种数据文件，以及处理器81所执行的可能的计算机程序指令。

处理器81通过读取并执行存储器82中存储的计算机程序指令，以实现上述实施例中的任意关键词推荐效果评估方法。

在其中一些实施例中，电子设备还可包括通信接口83和总线80。其中，如图4所示，处理器81、存储器82、通信接口83通过总线 80连接并完成相互间的通信。

通信接口83用于实现本申请实施例中各模块、装置、单元和/ 或设备之间的通信。通信端口83还可以实现与其他部件例如：外接设备、图像/关键词推荐效果评估设备、数据库、外部存储以及图像/ 关键词推荐效果评估工作站等之间进行数据通信。

总线80包括硬件、软件或两者，将电子设备的部件彼此耦接在一起。总线80包括但不限于以下至少之一：数据总线(Data Bus)、地址总线(Address Bus)、控制总线(ControlBus)、扩展总线 (Expansion Bus)、局部总线(Local Bus)。举例来说而非限制，总线80可包括图形加速接口(Accelerated Graphics Port，简称为 AGP)或其他图形总线、增强工业标准架构(Extended Industry Standard Architecture，简称为EISA)总线、前端总线(FrontSide Bus，简称为FSB)、超传输(Hyper Transport，简称为HT)互连、工业标准架构(Industry Standard Architecture，简称为ISA)总线、无线带宽(InfiniBand)互连、低引脚数(Low Pin Count，简称为LPC)总线、存储器总线、微信道架构(Micro ChannelArchitecture，简称为MCA)总线、外围组件互连(Peripheral Component Interconnect，简称为PCI)总线、PCI-Express(PCI-X) 总线、串行高级技术附件(Serial AdvancedTechnology Attachment，简称为SATA)总线、视频电子标准协会局部(Video ElectronicsStandards Association Local Bus，简称为VLB)总线或其他合适的总线或者两个或更多个以上这些的组合。在合适的情况下，总线 80可包括一个或多个总线。尽管本申请实施例描述和示出了特定的总线，但本申请考虑任何合适的总线或互连。

电子设备可连接关键词推荐效果评估系统，从而实现结合图1至图2描述的方法。

以上所述实施例的各技术特征可以进行任意的组合，为使描述简洁，未对上述实施例中的各个技术特征所有可能的组合都进行描述，然而，只要这些技术特征的组合不存在矛盾，都应当认为是本说明书记载的范围。

综上所述，本发明通过负采样的损失函数铺捉到关键词数据中的隐反馈信息，学习到排序信息，达到了推荐的目的，并且本发明有效避免了数据中指标的噪声问题，提出了关键词推荐效果评估更有效更鲁棒的方法。

以上所述实施例仅表达了本申请的几种实施方式，其描述较为具体和详细，但并不能因此而理解为对发明专利范围的限制。应当指出的是，对于本领域的普通技术人员来说，在不脱离本申请构思的前提下，还可以做出若干变形和改进，这些都属于本申请的保护范围。因此，本申请专利的保护范围应以所附权利要求的保护范围为准。