建立区域热度预测模型、区域热度预测的方法及装置

摘要

本申请公开了一种建立区域热度预测模型、区域热度预测的方法及装置，涉及大数据技术领域。具体实现方案为：利用第一历史区域热度数据，预训练时序预测模型；将第二历史区域热度数据作为第二支持样本，利用所述第二支持样本对所述时序预测模型进行进一步训练，以对模型参数进行调整得到所述区域热度预测模型；所述区域热度预测模型用于对第二查询样本进行预测，所述第二查询样本包括待预测时间的区域热度。该方式使得在第二历史区域热度数据所代表的分布数据较少的情况下，也能够对该分布数据进行有效学习，从而提高区域热度预测的准确度。

说明书

技术领域

本申请涉及计算机应用技术领域，特别涉及大数据技术领域下一种建立区域热度预测模型、区域热度预测的方法及装置。

背景技术

区域热度预测具有巨大的价值，可以让政府、机构和个人更加有效地优化资源配置，预判发展趋势，甚至在交通出行方面提供参考或建议。所谓区域热度预测指的是预测区域在指定时间的人流量，例如预测某个商圈在指定时间的客流量，预测某个车站在指定时间的客流量，等等。

区域热度预测本质上是一个时间序列预测问题，现有的时间序列预测算法包括特征工程、神经网络拟合等算法。然而，现有的时间序列预测算法对大量标注数据存在高度依赖，只能在具有较长的平稳性序列历史记录的数据上进行训练后，才能够具有较高的预测准确率。然而一些小概率事件发生时会对区域热度产生影响，从而导致在一段时间内区域热度相较于平时发生剧烈波动。然而，由于这类小概率事件的历史数据较少，采用传统方法则无法对此进行有效学习，从而导致发生小概率事件情况下的区域热度预测准确度很差。

发明内容

有鉴于此，本申请旨在提供一种建立区域热度预测模型、区域热度预测的方法及装置，以解决上述技术问题。

第一方面，本申请提供了一种建立区域热度预测模型的方法，包括：

利用第一历史区域热度数据，预训练时序预测模型；

将第二历史区域热度数据作为第二支持样本，利用所述第二支持样本对所述时序预测模型进行进一步训练，以对模型参数进行调整得到所述区域热度预测模型；

所述区域热度预测模型用于对第二查询样本进行预测，所述第二查询样本包括待预测时间的区域热度。

第二方面，本申请提供了一种区域热度预测的方法，包括：

利用区域热度预测模型对第二查询样本进行预测，所述第二查询样本包括待预测时间的区域热度；

其中所述区域热度预测模型是利用第一历史区域热度数据预训练时序预测模型后，将第二历史区域热度数据作为第二支持样本，并利用所述第二支持样本对所述时序预测模型进行进一步训练得到的。

第三方面，本申请提供了一种建立区域热度预测模型的装置，包括：

预训练模块，用于利用第一历史区域热度数据，预训练时序预测模型；

微调模块，用于将第二历史区域热度数据作为第二支持样本，利用所述第二支持样本对所述时序预测模型进行进一步训练，以对模型参数进行调整得到所述区域热度预测模型；

所述区域热度预测模型用于对第二查询样本进行预测，所述第二查询样本包括待预测时间的区域热度。

第四方面，本申请提供了一种区域热度预测的装置，包括：

预测模块，用于利用区域热度预测模型对第二查询样本进行预测，所述第二查询样本包括待预测时间的区域热度；

其中所述区域热度预测模型是利用第一历史区域热度数据预训练时序预测模型后，将第二历史区域热度数据作为第二支持样本，并利用所述第二支持样本对所述时序预测模型进行进一步训练得到的。

第五方面，本申请提供了一种电子设备，包括：

至少一个处理器；以及

与所述至少一个处理器通信连接的存储器；其中，

所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行上述的方法。

第六方面，本申请提供了一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使所述计算机执行上述的方法。

由以上技术方案可以看出，本申请在利用第一历史区域热度数据预训练得到的时序预测模型基础上，将第二历史区域热度数据作为支持样本对时序预测模型进行微调，从而建立能够对第二查询样本中待预测时间的区域热度进行预测的区域热度预测模型。该方式使得在第二历史区域热度数据所代表的分布数据较少的情况下，也能够对该分布数据进行有效学习，从而提高区域热度预测的准确度。

上述可选方式所具有的其他效果将在下文中结合具体实施例加以说明。

附图说明

附图用于更好地理解本方案，不构成对本申请的限定。其中：

图1为本申请实施例一提供的主要方法流程图；

图2是本申请实施例一提供的一种时序预测模型的结构示意图；

图3为本申请实施例一提供的一种商圈热度预测的数据实例图；

图4为本申请实施例二提供的一种商圈热度预测的数据实例图；

图5为本申请实施例提供的一种建立区域热度预测模型的装置结构图；

图6为本申请实施例提供的一种区域热度预测的装置结构图；

图7是用来实现本申请实施例的电子设备的框图。

具体实施方式

以下结合附图对本申请的示范性实施例做出说明，其中包括本申请实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本申请的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。

本申请实施例中采用了基于小样本的学习技术(Few-shot Learning)，基于小样本的学习技术可以利用大量常规分布的历史数据训练基于小样本的时间序列预测模型，再将训练好的模型配合少量不常规分布的历史数据，就能在少量不常规分布的数据上取得令人满意的预测准确率，比传统监督学习算法具有更加理想的效果。

Few-shot Learning的数据由支持样本(Support Set)和查询样本(Query Set)组成。Support Set中包含已知类别的实例，Query Set中包含一条以上未标注类别的数据，Few-shot Learning的任务就是对Query Set中的数据类别进行预测。

实施例一

基于上述理论，本申请实施例一提供的主要方法流程图如图1中所示，可以包括以下步骤：

在101中，利用第一历史区域热度数据，预训练时序预测模型。

在102中，将第二历史区域热度数据作为第二支持样本，利用第二支持样本对时序预测模型进行进一步训练，以对模型参数进行调整得到区域热度预测模型。

在本申请实施例中，第一历史区域热度数据可以包括第一历史时段中区域在各时间点的特征数据和区域热度。第二历史区域热度数据可以包括第二历史时段中区域在各时间点的特征数据和区域热度。

其中，本申请实施例所涉及的区域可以是地理位置上的AOI(Area of Interest，兴趣面)、ROI(Regin of Interest，兴趣区域)，也可以是由多个POI(Point Of Interest，兴趣点)、AOI、ROI等形成的区域。例如可以是商圈、校区、科技园区，等等。

其中特征数据可以包括区域包含兴趣点POI的数量、用户到访时间分布数据、到访用户的出行方式分布数据以及到访用户的出行距离分布数据中的至少一种。区域热度很大程度上体现的是到访该区域的用户量。

更进一步地，训练得到区域热度预测模型后，可以利用训练得到的区域热度预测模型执行步骤103，即利用区域热度预测模型对第二查询样本进行预测，第二查询样本包括待预测时间的区域热度。

作为其中一种实施方式，上述第一历史区域热度数据可以是常见分布的历史区域热度数据。第二历史区域热度数据可以是不常见分布的历史区域热度数据。

下面以商圈热度预测为例，结合两个实施例对本申请提供的上述方法进行详细描述。

实施例二

假设目前的预测任务为：已知历史时段T中特定商圈各时间点的区域热度数据，其中该商圈在该历史时段T中的特征可以用一个特征序列X＝(x

其中，x

举个例子：

某商圈由一些商业场所类的POI构成，那么该商圈包含POI的数量可以构成一个一维向量。

该商圈的到访时间分布可以采用每天24个小时的到访用户数量来表示，即构成一个24维的向量。

该商圈到访用户的出行方式分布数据可以采用到访人群中使用各种交通工具出行的数量来表示，假设交通工具采用公共交通、自行车、私家车和步行，那么该特征可以表示成一个4维的向量。

该商圈到访用户的出行距离分布数据可以采用从出发达到目的地商圈的不同出行距离的数量来表示。如果将出行距离离散化为10档，即：＜0.25km,0.25km-0.5km,0.5km-1km,1km-2km,2km-5km,5km-6km,6km-10km,10km-15km,15km-30km。＞30km，那么该向量可以表示成一个10维的向量。

然后将各向量进行拼接后，可以得到一个39维的特征向量x

作为其中一种实现方式，本实施例中采用的时序预测模型可以基于循环神经网络。模型结构可以如图2中所示。

对于预测任务而言，对于给定输入的特征序列X＝(x

h

其中，F是一个非线性的函数，可以是LSTM(Long Short-Term Memory，长短期记忆网络)或者GRU(Gated Recurrent Unit，门控循环单元)等具有建模序列能力的循环神经网络。

将历史时段T中最后一个时刻的隐层状态向量h

其中，W和b为模型参数，其中，W为m×τ维的向量，b为τ维的向量。

在进行上述时序预测模型的训练时，首先利用该商圈第一历史时段T1中各时间点的特征数据和商圈热度进行预训练。然后利用该商圈在第二历史时段T2中各时间点的特征数据和商圈热度对预训练得到的时序预测模型进行进一步训练，以对模型参数进行调整。

其中，在利用该商圈第一历史时段T1中各时间点的特征数据和商圈热度进行预训练的过程中，可以利用第一历史时段T1中各时间点的特征数据和商圈热度构建训练样本。可以采用一个时间窗T

训练过程中，时序预测模型利用时间窗T

例如，损失函数L可以采用如下公式：

其中，N为训练样本的数量，

预训练时序预测模型之后，在利用第二历史时段T2中各时间点的特征数据和商圈热度(即第二支持样本)对预训练得到的时序预测模型进行进一步训练时，同样采用上述时间窗的方式构建训练样本，不同的是，在预训练得到的时序预测模型的模型参数基础上，对模型参数进行进一步优化调整。

经过上述预训练和调整之后的时序预测模型，可以用于对第二查询样本中部分时间点的商圈热度的预测。其中，所述部分时间点指的是待预测时间，该待预测时间的时长小于或等于上述τ。在进行预测时，将待预测时间之前时间段T中各时间点的特征数据和商圈热度输入时序预测模型，就可以得到时序预测模型输出的待预测时间的区域热度。预测方式即采用上述公式(1)和(2)。

举个例子，如图3中所示，可以将2018年、2019年中某商圈各周的热度数据作为第一历史商圈热度数据，即利用2018年、2019年中某商圈各周的热度数据作为一个训练任务构建训练样本，对时序预测模型进行预训练。由于2020年发生了众所周知的小概率事件，因此，可以将2020年1～8周的热度数据作为第二历史商圈热度数据，对时序预测模型进行进一步训练，以调整模型参数。调整后得到区域热度预测模型用以预测2020年第9～26周(即第二查询样本)中待预测时间的区域热度。

实施例三

本实施例在实施例二的基础上进行进一步改进，使用了元学习的方法对时序预测模型进行预训练，从而得到可以在第二支持样本上进行迅速拟合的模型参数。

在本实施例中，在预训练之前，利用第一历史区域热度数据构建至少一个元训练任务。每个元训练任务中都包含第一支持样本和第一查询样本，采用元学习机制训练时序预测模型。

举个例子，如图4中所示，利用2018年的商圈热度数据构建一个元训练任务，将2019年的商圈热度数据构建另一个元训练任务。其中，每个训练任务中都进行了支持样本和查询样本的划分。为了与微调任务和预测任务中的支持样本和查询样本进行区分，在本申请实施例中，将预训练任务中的支持样本和查询样本称为“第一支持样本”和“第一查询样本”，将后续微调任务中的支持样本称为“第二支持样本”，预测任务中的查询样本称为“第二查询样本”。其中“第一”和“第二”并不具备数量和顺序上的含义，仅仅用于在名称上进行区分。另外，本实施例中，与训练任务实际上对应了元学习机制中的元训练(meta-train)过程，微调任务和预测任务实际上对应了元学习机制中的元测试(meta-test)过程。

其中第一支持样本和第一查询样本分别与第二支持样本、第二查询样本的时长一致。如图4中所示，将2018年中第1～8周的商圈热度数据作为第一个元训练任务中的第一支持样本，将第9～26周的商圈热度数据在作为第一查询样本。将2019年中第1～8周的商圈热度数据作为第二个元训练任务中的第一支持样本，将第9～26周的商圈热度数据在作为第一查询样本。

与实施例二中不同的是，在meta-train过程中，对于每个元学习任务，在第一支持样本上计算梯度并更新元参数，计算所有元学习任务在第一查询样本上的损失函数梯度并用以更新模型参数，直至达到训练结束条件。例如，损失函数的值小于或等于预设损失函数阈值，或者，迭代次数达到预设次数阈值，等等。至此完成预训练，得到预训练后的时序预测模型。

然后在预训练得到的时序预测模型上利用第二支持样本(例如图4中2020年底1～8周的商圈热度数据)对时序预测模型进行进一步训练，调整模型参数。在此过程中计算在第二支持样本上的损失函数梯度并用以更新模型参数。该调整过程与后续对第二查询样本中待预测时间的区域热度的预测过程与实施例二中类似，不做赘述。

在上述训练过程中采用与实施例二中类似的方式构建训练样本，即利用时间窗T

通过上述实施例中的方式，可以在发生小概率事件时，帮助模型很好地理解小概率事件对区域所造成的持续性影响，更加准确地预测区域热度，从而帮助用户更加有针对性地优化资源配置，预判发展趋势。

在实现上述对待预测时间的区域热度预测后，可以将预测结果进行显示、特定格式的存储、进一步分析等处理。还可以主动或者响应于用户终端的请求，将预测结果发送给用户终端。

以上是对本申请所提供方法进行的详细描述，下面结合实施例对本申请提供的装置进行详细描述。

实施例四

图5为本申请实施例提供的一种建立区域热度预测模型的装置结构图，该装置是可以位于服务器端的应用，或者还可以为位于服务器端的应用中的插件或软件开发工具包(Software Development Kit，SDK)等功能单元，或者，还可以位于计算机终端，本发明实施例对此不进行特别限定。如图5中所示，该装置可以包括：预训练模块01和微调模块02。其中各组成单元的主要功能如下：

预训练模块01，用于利用第一历史区域热度数据，预训练时序预测模型。

微调模块02，用于将第二历史区域热度数据作为第二支持样本，利用第二支持样本对时序预测模型进行进一步训练，以对模型参数进行调整得到区域热度预测模型。

区域热度预测模型用于对第二查询样本进行预测，第二查询样本包括待预测时间的区域热度。

作为一种优选的实施方式，第一历史区域热度数据包括第一历史时段中区域在各时间点的特征数据和区域热度；

第二历史区域热度数据包括第二历史时段中区域在各时间点的特征数据和区域热度。

其中，特征数据包括区域包含兴趣点POI的数量、用户到访时间分布数据、到访用户的出行方式分布数据以及到访用户的出行距离分布数据中至少一种。

其中，时序预测模型的训练目标包括：最小化预测结果与期望值之间的差值，预测结果为时序模型利用时间窗T

作为一种优选的实施方式，预训练模块01可以利用第一历史区域热度数据，构建至少一个元训练任务；基于元训练任务中的第一支持样本和第一查询样本，采用元学习机制训练时序预测模型；其中第一支持样本、第一查询样本分别与第二支持样本、第二查询样本的时长一致。

其中，预训练模块01在采用元学习机制训练时序预测模型时，可以对于各元学习任务，在第一支持样本上计算损失函数的梯度并更新元参数；确定所有元学习任务在第一查询样本上的损失函数梯度并用以更新模型参数；

微调模块02，具体用于在第二支持样本上的计算损失函数梯度并用以更新模型参数。

其中，损失函数可以由时序模型利用时间窗T

其中，时间窗T

实施例五

图6为本申请实施例提供的一种区域热度预测的装置结构图，该装置是可以位于服务器端的应用，或者还可以为位于服务器端的应用中的插件或软件开发工具包(Software Development Kit，SDK)等功能单元，或者，还可以位于计算机终端，本发明实施例对此不进行特别限定。如图6中所示，该装置可以包括：

预测模块11，用于利用区域热度预测模型对第二查询样本进行预测，第二查询样本包括待预测时间的区域热度。

其中区域热度预测模型是利用第一历史区域热度数据预训练时序预测模型后，将第二历史区域热度数据作为第二支持样本，并利用第二支持样本对时序预测模型进行进一步训练得到的。即采用如图5中所示的装置预先训练得到。

其中，第一历史区域热度数据包括第一历史时段中区域在各时间点的特征数据和区域热度；

第二历史区域热度数据包括第二历史时段中区域在各时间点的特征数据和区域热度。

作为一种优选的实施方式，预测模块11可以利用待预测时间之前时间窗T内各时间点的特征数据和区域热度，对待预测时间的区域热度进行预测；时间窗T小于第一历史时段的长度，且小于第二历史时段的长度。

上述时间窗T实际上与实施例四中训练时序预测模型过程中所采用的时间窗T

根据本申请的实施例，本申请还提供了一种电子设备和一种可读存储介质。

如图7所示，是根据本申请实施例的建立区域热度预测模型或区域热度预测的方法的电子设备的框图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本申请的实现。

如图7所示，该电子设备包括：一个或多个处理器701、存储器702，以及用于连接各部件的接口，包括高速接口和低速接口。各个部件利用不同的总线互相连接，并且可以被安装在公共主板上或者根据需要以其它方式安装。处理器可以对在电子设备内执行的指令进行处理，包括存储在存储器中或者存储器上以在外部输入/输出装置(诸如，耦合至接口的显示设备)上显示GUI的图形信息的指令。在其它实施方式中，若需要，可以将多个处理器和/或多条总线与多个存储器和多个存储器一起使用。同样，可以连接多个电子设备，各个设备提供部分必要的操作(例如，作为服务器阵列、一组刀片式服务器、或者多处理器系统)。图7中以一个处理器701为例。

存储器702即为本申请所提供的非瞬时计算机可读存储介质。其中，所述存储器存储有可由至少一个处理器执行的指令，以使所述至少一个处理器执行本申请所提供的建立区域热度预测模型或区域热度预测的方法的方法。本申请的非瞬时计算机可读存储介质存储计算机指令，该计算机指令用于使计算机执行本申请所提供的建立区域热度预测模型或区域热度预测的方法的方法。

存储器702作为一种非瞬时计算机可读存储介质，可用于存储非瞬时软件程序、非瞬时计算机可执行程序以及模块，如本申请实施例中的建立区域热度预测模型或区域热度预测的方法的方法对应的程序指令/模块。处理器701通过运行存储在存储器702中的非瞬时软件程序、指令以及模块，从而执行服务器的各种功能应用以及数据处理，即实现上述方法实施例中的建立区域热度预测模型或区域热度预测的方法的方法。

存储器702可以包括存储程序区和存储数据区，其中，存储程序区可存储操作系统、至少一个功能所需要的应用程序；存储数据区可存储根据该电子设备的使用所创建的数据等。此外，存储器702可以包括高速随机存取存储器，还可以包括非瞬时存储器，例如至少一个磁盘存储器件、闪存器件、或其他非瞬时固态存储器件。在一些实施例中，存储器702可选包括相对于处理器701远程设置的存储器，这些远程存储器可以通过网络连接至该电子设备。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。

该电子设备还可以包括：输入装置703和输出装置704。处理器701、存储器702、输入装置703和输出装置704可以通过总线或者其他方式连接，图7中以通过总线连接为例。

输入装置703可接收输入的数字或字符信息，以及产生与该电子设备的用户设置以及功能控制有关的键信号输入，例如触摸屏、小键盘、鼠标、轨迹板、触摸板、指示杆、一个或者多个鼠标按钮、轨迹球、操纵杆等输入装置。输出装置704可以包括显示设备、辅助照明装置(例如，LED)和触觉反馈装置(例如，振动电机)等。该显示设备可以包括但不限于，液晶显示器(LCD)、发光二极管(LED)显示器和等离子体显示器。在一些实施方式中，显示设备可以是触摸屏。

此处描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、专用ASIC(专用集成电路)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。

这些计算程序(也称作程序、软件、软件应用、或者代码)包括可编程处理器的机器指令，并且可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。如本文使用的，术语“机器可读介质”和“计算机可读介质”指的是用于将机器指令和/或数据提供给可编程处理器的任何计算机程序产品、设备、和/或装置(例如，磁盘、光盘、存储器、可编程逻辑装置(PLD))，包括，接收作为机器可读信号的机器指令的机器可读介质。术语“机器可读信号”指的是用于将机器指令和/或数据提供给可编程处理器的任何信号。

为了提供与用户的交互，可以在计算机上实施此处描述的系统和技术，该计算机具有：用于向用户显示信息的显示装置(例如，CRT(阴极射线管)或者LCD(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。

可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网(LAN)、广域网(WAN)和互联网。

计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。

应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本发申请中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本申请公开的技术方案所期望的结果，本文在此不进行限制。

上述具体实施方式，并不构成对本申请保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本申请的精神和原则之内所作的修改、等同替换和改进等，均应包含在本申请保护范围之内。