一种基于神经网络挖掘模型的业务智能推荐方法

摘要

本发明涉及业务智能推送技术领域，尤其公开了一种基于神经网络挖掘模型的业务智能推荐方法，包括：获取用户数据并对用户数据进行预处理；利用预处理后的用户数据作为数据源输入，结合激活函数，训练数据，调整误差，构建神经网络模型；根据所构建的神经网络模型的数据输出，计算用户的效用函数，结合推荐算法，计算用户对业务产品的用户相似度和用户兴趣度，构建混合业务推荐模型，所构建的混合业务推荐模型建立并展示混合业务推荐列表。本发明的基于神经网络挖掘模型的业务智能推荐方法，覆盖的业务产品范围更广，利用同一套模型、业务推荐标准统一，在满足业务产品推荐的准确性和时效性的同时，能够解决业务产品推荐的优先级排序问题。

说明书

技术领域

本发明涉及业务智能推送技术领域，特别是涉及基于神经网络挖掘模型的业务智能推荐方法。

背景技术

近年来，随着移动互联网市场的快速发展，各种新式业务产品不断增加，要求运营商快速响应市场业务精准推荐的需求，不断提升客户营销精准度和及时性。然而，传统的移动市场业务精准营销推荐均是针对具体业务产品进行精细市场分析，基于用户基础属性、行为偏好、消费偏好等多维度搭建用户标签库，提取与业务相关的指标，通过构建决策树、逻辑回归等数据挖掘模型算法，计算目标用户购买具体业务产品的概率，从而提供个性化业务精准推荐服务。传统的业务精准营销推荐方法针对的业务产品单一、覆盖不够全面，考虑指标维度较片面、过于依赖业务经验，且缺乏业务产品推荐优先级的统一标准，导致业务智能推荐工作效率低下而被动。

发明内容

基于此，本发明的目的在于，提供一种基于神经网络挖掘模型的业务智能推荐方法，能适应不同业务产品的推荐、覆盖的业务产品范围更广，且是利用同一套模型、业务推荐标准统一，在满足业务产品推荐的准确性和时效性的同时，能够解决业务产品推荐的优先级排序问题。

本发明的目的通过以下技术方案实现：

一种基于神经网络挖掘模型的业务智能推荐方法，包括以下步骤：

获取用户数据并对用户数据进行预处理，所述用户数据包括用户人口属性数据、用户消费行为数据、用户上网行为数据，所述预处理包括对用户数据进行去重处理、剔除异常值处理、标准化处理、以及均值归一化处理；

利用预处理后的用户数据作为数据源输入，结合激活函数，训练数据，调整误差，构建神经网络模型，所述训练数据包括卷积层训练、池化层训练、以及尾部感知机训练；

根据所构建的神经网络模型的数据输出，计算用户的效用函数，结合推荐算法，计算用户对业务产品的用户相似度和用户兴趣度，构建混合业务推荐模型，所构建的混合业务推荐模型建立并展示混合业务推荐列表，所述推荐算法包括基于内容的推荐、协同过滤推荐、和基于知识的推荐。

本发明的基于神经网络挖掘模型的业务智能推荐方法，采用神经网络模型将用户数据的特征矩阵进行估值填充，提高矩阵的密度，可以很好地解决混合业务推荐模型的数据稀疏性问题，从而提高业务智能推荐方法的准确性；再将深度训练的神经网络模型的输出结果作为混合业务推荐模型的输入，建立基于Item CF、user CF、协同过滤推荐算法的最优组合混合推荐算法，能适应不同业务产品的推荐、覆盖的业务产品范围更广，且是利用同一套模型、业务推荐标准统一，在满足业务产品推荐的准确性和时效性的同时，能够解决业务产品推荐的优先级排序问题。

进一步优选地，所述用户人口属性数据包括用户的年龄、性别、职业、手机归属地、以及身份证归属地；

所述用户消费行为数据包括用户的月租费用、apru值、语音次数、以及通话次数；

所述用户上网行为数据包括用户使用的网站或软件、对应网站或软件的访问次数、对应网站或软件的使用流量、用户在对应网站或软件上搜索的关键字；

所述用户数据还包括额外数据，所述额外数据包括用户的手机终端档次、入网时长、用户使用状态。

进一步优选地，所述预处理中的标准化处理具体为利用公式

所述预处理中的均值归一化处理具体为利用公式

其中x为原始的用户数据特征，μ为均值，σ为标准差，x

进一步优选地，所述激活函数为sigmoid函数

所述训练数据中的卷积层训练具体为采用所述激活函数对卷积层的权重矩阵加权求和计算f(x)＝sigmoid((W

所述训练数据中的池化层训练具体为采用平均池化的计算方法对预处理后的用户数据特征进行特征降维处理以及压缩数据和参数的数量处理；

所述训练数据中的尾部感知机训练具体为将卷积层训练得到的训练样本和/或池化层训练得到的训练样本整合连接成输出向量，将所述输出向量乘以单层感知机的权重矩阵，再加上尾部感知机的偏置后进行卷积操作。

进一步优选地，所述调整误差具体为采用梯度下降法计算代价函数

其中η为学习率，W为神经网络模型的权重矩阵，b为偏置，l表示第几层神经元，其取值范围为(l＝1,2,3，...)，y为通过一次数据训练后得到的训练样本结果。

进一步优选地，所述调整误差还包括迭代计算，使得代价函数达到预设极小值。

进一步优选地，所述用户的效用函数为效用函数

所述计算用户对业务产品的用户相似度具体为采用皮尔逊相关系数

所述计算用户对业务产品的用户兴趣度具体为采用

所构建的混合业务推荐模型根据计算所得的用户兴趣度排序建立并展示混合业务推荐列表。

进一步优选地，所述基于神经网络挖掘模型的业务智能推荐方法还包括步骤：对所构建的混合业务推荐模型的推荐效果进行评估，并根据评估结果对所构建的混合业务推荐模型进行定期更新。

进一步优选地，所述对所构建的混合业务推荐模型的推荐效果进行评估具体为通过计算所构建的混合业务推荐模型推荐业务产品的准确率和召回率来进行评估，所述准确率通过

进一步优选地，所述业务产品包括终端类业务产品、套餐类业务产品、业务类业务产品。

相对于现有技术，本发明的基于神经网络挖掘模型的业务智能推荐方法至少带来以下有益效果：

(1)建立神经网络模型，更好地处理用户数据的稀疏性问题，提高矩阵密度，深度训练的神经网络模型的输出结果作为混合业务推荐模型的输入，从而提高混合业务推荐模型最终推荐结果的准确性；

(2)采用混合业务推荐模型，推荐业务产品覆盖更全面，建立一个模型就能计算出多个不同业务产品的推荐列表，节约成本资源；

(3)基于神经网络模型的混合业务推荐模型，能够实时建立和展示多个不同业务产品的推荐列表，在营销工作中更有利于抢占市场先机；

(4)神经网络模型和混合业务推荐模型结合使用，采用同一套推荐算法规则，在统一规则和计算条件的情况下为用户提供智能个性化的业务产品推荐，更有利于后续营销工作中的市场判断；

(5)能适应不同业务产品的推荐、覆盖的业务产品范围更广，且是利用同一套模型、业务推荐标准统一，在满足业务产品推荐的准确性和时效性的同时，能够解决业务产品推荐的优先级排序问题。

为了更好地理解和实施，下面结合附图详细说明本发明。

附图说明

图1是本发明的基于神经网络挖掘模型的业务智能推荐方法的流程图。

图2是本发明的基于神经网络挖掘模型的业务智能推荐方法的细化流程图。

图3是本发明的基于神经网络挖掘模型的业务智能推荐方法的算法调度过程。

具体实施方式

在本说明书中提到或者可能提到的上、下、左、右、前、后、正面、背面、顶部、底部等方位用语是相对于其构造进行定义的，它们是相对的概念。因此，有可能会根据其所处不同位置、不同使用状态而进行相应地变化。所以，也不应当将这些或者其他的方位用语解释为限制性用语。

以下示例性实施例中所描述的实施方式并不代表与本公开相一致的所有实施方式。相反，它们仅是与如所附权利要求书中所详述的、本公开的一些方面相一致的方法的例子。

在本公开使用的术语是仅仅出于描述特定实施例的目的，而非旨在限制本公开。在本公开和所附权利要求书中所使用的单数形式的“一种”、“所述”和“该”也旨在包括多数形式，除非上下文清楚地表示其他含义。还应当理解，本文中使用的术语“和/或”是指并包含一个或多个相关联的列出项目的任何或所有可能组合。

本发明的基于神经网络挖掘模型的业务智能推荐方法，如图1-3所示，包括以下步骤：

获取用户数据并对用户数据进行预处理，

具体地，所述用户数据包括用户人口属性数据、用户消费行为数据、用户上网行为数据，进一步具体地，所述用户人口属性数据包括用户的年龄、性别、职业、手机归属地、以及身份证归属地；所述用户消费行为数据包括用户的月租费用、apru值、语音次数、以及通话次数；所述用户上网行为数据包括用户常用的网站或软件、对应网站或软件的访问次数、对应网站或软件的使用流量、用户搜索的关键字；所述用户数据还包括额外数据，所述额外数据包括手机终端档次、入网时长、用户使用状态、以及交往圈信息、生活圈信息等；

具体地，所述预处理包括对用户数据进行数据清洗处理、去重处理、剔除异常值处理、根据不同业务产品使用不同方法处理缺失值、标准化处理、以及均值归一化处理；

更具体地，所述预处理中的标准化处理具体为利用公式

所述预处理中的均值归一化处理具体为利用公式

其中x为原始的用户数据特征，μ为均值，σ为标准差，x

在本实施例中，优选获取10000个广东移动用户的用户数据，因为广东移动用户每天都产生大量数据，利用其数据构建的模型能够更好地适应移动互联网市场的快速发展，实现客户营销的各类业务精准推荐和及时性,实现高质量的个性化推荐系统；以及，优选将预处理后的用户数据划分80％作为训练集，20％作为测试集。

利用预处理后的用户数据作为数据源输入输入向量X＝(x

具体地，所述激活函数优选为sigmoid函数

所述训练数据中的卷积层训练具体为采用所述激活函数对卷积层的权重矩阵加权求和计算f(x)＝sigmoid((W

所述训练数据中的池化层训练具体为采用平均池化的计算方法对预处理后的用户数据特征进行特征降维处理以及压缩数据和参数的数量处理，更具体地，采用平均池化的计算方法，计算结果作为下一层的特征，使用全一矩阵除以维度得到采样核，移动的维度即下一个采样核的维度大小；

所述训练数据中的尾部感知机训练具体为将卷积层训练得到的训练样本和/或池化层训练得到的训练样本整合连接成输出向量，将所述输出向量乘以单层感知机的权重矩阵，再加上尾部感知机的偏置后进行卷积操作，更具体地，最后一层将一个训练块中的训练样本所有输出连接起来得到输出向量乘上单层感知机的权重矩阵，再加上尾部感知机的偏置后做卷积操作；

具体地，所述调整误差具体为采用梯度下降法计算代价函数

其中η为学习率，W为权重矩阵，b为偏置，l表示第几层神经元，其取值范围为(l＝1,2,3，...)，y为通过一次数据训练后得到的训练样本结果；

优选地，所述调整误差还包括迭代计算，使得代价函数达到预设极小值，在本实施例中，迭代次数epochs优选为1200次，代价函数的预设极小值为0.00567，此时计算出的W为权重矩阵的最优值，输出输出向量Y＝(y

根据所构建的神经网络模型的数据输出，计算用户的效用函数，构建相似度矩阵，结合推荐算法，计算用户对业务产品的用户相似度和用户兴趣度，常用的推荐算法有皮尔逊相关系数(Pearson)、余弦相关系数、杰卡德相关系数，选用不同的相关系数计算方法计算相似度得分，从而构建混合业务推荐模型，所构建的混合业务推荐模型对计算后的用户兴趣度排序，从而建立并展示混合业务推荐列表，推荐TopN的业务产品；所述推荐算法包括基于内容的推荐、协同过滤推荐、和基于知识的推荐；

具体地，根据效益规则选择最优组合理论框架，所述用户的效用函数优选为效用函数

所述计算用户对业务产品的用户相似度优选为采用皮尔逊相关系数

所述计算用户对业务产品的用户兴趣度具体为采用

所构建的混合业务推荐模型根据计算所得的用户兴趣度排序建立并展示混合业务推荐列表，在本实施例中，选取计算所得的用户兴趣度前五(Top5)的业务产品进入混合业务推荐列表；

优选地，所述基于神经网络挖掘模型的业务智能推荐方法还包括步骤：对所构建的混合业务推荐模型的推荐效果进行评估，并根据评估结果对所构建的神经网络模型和混合业务推荐模型进行定期更新，实现精准营销的实时推荐。

具体地，所述对所构建的混合业务推荐模型的推荐效果进行评估具体为通过计算所构建的混合业务推荐模型推荐业务产品的准确率和召回率来进行评估，所述准确率通过

在本实施例中，当迭代次数为1200次时，准确率为0.896，召回率为0.725。

另外，在构建神经网络模型的调整误差的步骤中可以通过通过

优选地，所述业务产品优选包括但不限于终端类业务产品、套餐类业务产品、业务类业务产品，如表1：

表1业务产品内容(部分)

通过本发明的基于神经网络挖掘模型的业务智能推荐方法，可以建立和展示智能的混合业务推荐列表如下表2，实现更优的组合业务推荐，令终端类业务产品、套餐类业务产品、业务类业务产品的推荐并行执行：

表2混合业务推荐列表(部分)

现有的传统业务精准营销推荐算法，为了保障模型的整体运行效率与准确性，前期主要依赖市场人员的业务经验进行初步的指标筛选，并对指标X与业务产品Y之间进行相关分析提取关联度较高的指标，为避免模型指标维度过多导致运行效率降低的情况，需要控制指标的数据维度在一定范围内，该指标维度过于依赖业务经验；而且，现有的传统业务精准营销推荐算法是针对每一个业务产品都构建一个独立的模型，当业务产品较多时，运行所有业务模型来选择推荐的业务产品会消耗相当长的时间和大量的计算资源，在有限计算资源下选择推荐哪个业务产品变得十分困难；再者，现有的传统业务精准营销推荐算法得出的是指定业务产品的购买概率，当用户同时满足多个业务产品时，优先推荐哪项业务产品，由于采用的模型算法不同，较难有一个统一的标准，无法为用户提供有效的个性化的业务智能推荐。

而本发明的基于神经网络挖掘模型的业务智能推荐方法，采用神经网络模型将用户数据的特征矩阵进行估值填充，提高矩阵的密度，可以很好地解决混合业务推荐模型的数据稀疏性问题，从而提高业务智能推荐方法的准确性；再将深度训练的神经网络模型的输出结果作为混合业务推荐模型的输入，建立基于Item CF、user CF、协同过滤推荐算法的最优组合混合推荐算法，能适应不同业务产品的推荐，覆盖业务更广，且都是同一套模型，业务推荐标准统一；后台实时更新神经网络模型和混合业务推荐模型，以实现业务产品的推荐时效性，以便后续营销工作占领市场先机。

相对于现有技术，本发明的基于神经网络挖掘模型的业务智能推荐方法至少带来以下有益效果：

(1)建立神经网络模型，更好地处理用户数据的稀疏性问题，提高矩阵密度，深度训练的神经网络模型的输出结果作为混合业务推荐模型的输入，从而提高混合业务推荐模型最终推荐结果的准确性；

(2)采用混合业务推荐模型，推荐业务产品覆盖更全面，建立一个模型就能计算出多个不同业务产品的推荐列表，节约成本资源；

(3)基于神经网络模型的混合业务推荐模型，能够实时建立和展示多个不同业务产品的推荐列表，在营销工作中更有利于抢占市场先机；

(4)神经网络模型和混合业务推荐模型结合使用，采用同一套推荐算法规则，在统一规则和计算条件的情况下为用户提供智能个性化的业务产品推荐，更有利于后续营销工作中的市场判断；

(5)能适应不同业务产品的推荐、覆盖的业务产品范围更广，且是利用同一套模型、业务推荐标准统一，在满足业务产品推荐的准确性和时效性的同时，能够解决业务产品推荐的优先级排序问题。

本发明还公开一种基于神经网络挖掘模型的业务智能推荐设备，所述设备包括存储装置和处理器，所述存储装置用于存储一个或多个程序；

当所述一个或多个程序被所述处理器执行时，所述处理器实现如上述所述的基于神经网络挖掘模型的业务智能推荐方法。

所述设备还可以优选地包括通信接口，所述通信接口用于与外部设备进行通信和数据交互传输。

需要说明的是，所述存储器可能包含高速RAM存储器，也可能还包括非易失性存储器(nonvolatile memory)，例如至少一个磁盘存储器。

在具体实现上，如果存储器、处理器及通信接口集成在一块芯片上，则存储器、处理器及通信接口可以通过内部接口完成相互间的通信。如果存储器、处理器和通信接口独立实现，则存储器、处理器和通信接口可以通过总线相互连接并完成相互间的通信。

本发明还公开一种计算机可读存储介质，其存储有至少一个程序，当所述程序被处理器执行时，实现如上述所述的基于神经网络挖掘模型的业务智能推荐方法。

应当理解，所述计算机可读存储介质为可存储数据或程序的任何数据存储设备，所述数据或程序其后可由计算机系统读取。计算机可读存储介质的示例包括：只读存储器、随机存取存储器、CD-ROM、HDD、DVD、磁带和光学数据存储设备等。

计算机可读存储介质还可分布在网络耦接的计算机系统中使得计算机可读代码以分布式方式来存储和执行。

计算机可读存储介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：无线、电线、光缆、射频(Radio Frequency，RF)等，或者上述的任意合适的组合。

在一些实施方案中，计算机可读存储介质还可以是非暂态的。

以上所述实施例仅表达了本发明的几种实施方式，其描述较为具体和详细，但并不能因此而理解为对发明专利范围的限制。应当指出的是，对于本领域的普通技术人员来说，在不脱离本发明构思的前提下，还可以做出若干变形和改进，这些都属于本发明的保护范围。