一种基于网络资源的医学问题问答处理方法及装置

摘要

本发明提供一种基于网络资源的医学问题问答处理方法及装置。该方法包括：确定用户输入的医学问题信息，并对医学问题信息进行关键词提取及扩展处理，得到扩展后的关键词集合；利用基于词频逆文档频率的统计方式及关键词集合，从文档库中检索出与关键词集合对应的目标问答文档；基于预训练语言模型和医学问题信息对目标问答文档进行重排序，输出重排序后的问答结果；预训练语言模型是基于通用领域样本数据、医学问答领域数据组成的混合数据集及相应的评分指标为预训练样本对初始掩码语言模型进行训练得到的。本发明提供的方法，通过基于词频逆文档频率的统计方式进行筛选并利用预训练语言模型重排序，能够有效提高医学问题问答匹配的精度和效率。

说明书

技术领域

本发明涉及人工智能技术领域，具体涉及一种基于网络资源的医学问题问答处理方法及装置。另外，还涉及一种电子设备及处理器可读存储介质。

背景技术

近年来，随着互联网技术的快速发展，各种网络医疗信息海量增长。人们在网络上输入医学问题时面对海量的医疗信息想要搜索到满意的答案越来越难，用户必须逐一浏览问答内容，并对医疗信息进行进一步甄别，才能找到其需要的答案，费时费力。然而，目前在医学领域，医学的智能问答系统研究尚不成熟，现有的智能问答系统局限性较大，存在语义推理能力差、问答准确率较差等问题，导致用户使用体验较差。因此，如何设计一种能够对用户输入问题进行高效检索并准确返回问答文档的方案成为本领域亟待解决的技术问题。

发明内容

为此，本发明提供一种基于网络资源的医学问题问答处理方法及装置，以解决现有技术中存在的针对医学问题的智能问答处理方案局限性较高，从而导致问答匹配检索的精度和效率较差的缺陷。

第一方面，本发明提供一种基于网络资源的医学问题问答处理方法，包括：确定用户输入的医学问题信息，并对所述医学问题信息进行关键词提取及扩展处理，得到扩展后的关键词集合；

利用基于词频逆文档频率的统计方式以及所述关键词集合，从文档库中检索出与所述关键词集合对应的目标问答文档；

基于预训练语言模型和所述医学问题信息对所述目标问答文档进行重排序，输出重排序后的问答结果；

其中，所述预训练语言模型是基于通用领域样本数据、预先构建的医学问答领域数据组成的混合数据集以及相应的评分指标为预训练样本对初始掩码语言模型进行训练得到的。

进一步的，所述利用基于词频逆文档频率的统计方式以及所述关键词集合，从文档库中检索出与所述关键词集合对应的目标问答文档，具体包括：利用基于词频逆文档频率的统计方式以及所述关键词集合，从文档库中检索出与所述关键词集合对应的问答文档；

基于所述词频逆文档频率的打分机制赋予所述问答文档对应的分值，基于所述问答文档对应的分值确定前预设数量的目标问答文档。

进一步的，基于所述词频逆文档频率的打分机制赋予所述问答文档对应的分值，具体包括：

基于所述问答文档包含的关键词在文档库内所有问答文档中出现的比率以及所述关键词对应的权重，将所述问答文档中的所有关键词进行加权平均处理，得到所述问答文档对应的分值。

进一步的，所述基于预训练语言模型和所述医学问题信息对所述目标问答文档进行重排序，输出重排序后的问答结果，具体包括：

利用所述预训练语言模型中训练得到的编码向量将用户输入的所述医学问题信息编码为相应的第一向量，并将所述目标问答文档中包含的问答文档分别编码为相应的第二向量，确定所述第一向量和所述第二向量之间的相似度值；根据所述相似度值的大小对所述目标问答文档进行重排序，得到重排序后的问答结果。

进一步的，对所述医学问题信息进行关键词提取及扩展处理，得到扩展后的关键词集合，具体包括：

基于预设的分词库提取所述医学问题信息中的关键词；

基于预设的停用词表对所述关键词进行过滤，得到目标关键词；

基于预设的近义词表对过滤后得到的所述目标关键词进行近义词扩展，得到所述关键词集合。

进一步的，所述分词库为jieba分词库。

进一步的，所述目标问答文档为与所述关键词集合中关键词相匹配的至少一个问题信息及其对应的答复信息。

第二方面，本发明还提供一种基于网络资源的医学问题问答处理装置，包括：

关键词扩展单元，用于确定用户输入的医学问题信息，并对所述医学问题信息进行关键词提取及扩展处理，得到扩展后的关键词集合；

问答文档筛选单元，用于利用基于词频逆文档频率的统计方式以及所述关键词集合，从文档库中检索出与所述关键词集合对应的目标问答文档；

问答结果确定单元，用于基于预训练语言模型和所述医学问题信息对所述目标问答文档进行重排序，输出重排序后的问答结果；

其中，所述预训练语言模型是基于通用领域样本数据、预先构建的医学问答领域数据组成的混合数据集以及相应的评分指标为预训练样本对初始掩码语言模型进行训练得到的。

进一步的，所述问答文档筛选单元，具体用于：

利用基于词频逆文档频率的统计方式以及所述关键词集合，从文档库中检索出与所述关键词集合对应的问答文档；

基于所述词频逆文档频率的打分机制赋予所述问答文档对应的分值，基于所述问答文档对应的分值确定前预设数量的目标问答文档。

进一步的，所述问答结果确定单元，具体用于：

利用所述预训练语言模型中训练得到的编码向量将用户输入的所述医学问题信息编码为相应的第一向量，并将所述目标问答文档中包含的问答文档分别编码为相应的第二向量，确定所述第一向量和所述第二向量之间的相似度值；根据所述相似度值的大小对所述目标问答文档进行重排序，得到重排序后的问答结果。

进一步的，基于所述词频逆文档频率的打分机制赋予所述问答文档对应的分值，具体包括：

基于所述问答文档包含的关键词在文档库内所有问答文档中出现的比率以及所述关键词对应的权重，将所述问答文档中的所有关键词进行加权平均处理，得到所述问答文档对应的分值。

进一步的，所述关键词扩展单元，具体用于：

基于预设的分词库提取所述医学问题信息中的关键词；

基于预设的停用词表对所述关键词进行过滤，得到目标关键词；

基于预设的近义词表对过滤后得到的所述目标关键词进行近义词扩展，得到所述关键词集合。

进一步的，所述分词库为jieba分词库。

进一步的，所述目标问答文档为与所述关键词集合中关键词相匹配的至少一个问题信息及其对应的答复信息。

第三方面，本发明还提供一种电子设备，包括：存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，处理器执行所述计算机程序时实现如上述任意一项所述的基于网络资源的医学问题问答处理方法的步骤。

第四方面，本发明还提供一种处理器可读存储介质，所述处理器可读存储介质上存储有计算机程序，该计算机程序被处理器执行时实现如上述任意一项所述的基于网络资源的医学问题问答处理方法的步骤。

本发明提供的基于网络资源的医学问题问答处理方法，通过确定用户输入的医学问题信息，并对所述医学问题信息进行关键词提取及扩展处理得到扩展后的关键词集合；然后，利用基于词频逆文档频率的统计方式以及所述关键词集合，从文档库中检索出与所述关键词集合对应的目标问答文档；并基于预训练语言模型和所述医学问题信息对所述目标问答文档进行重排序，以输出重排序后的问答结果。通过先基于词频逆文档频率的统计方式进行筛选，再利用预训练语言模型进行重排序以输出问答结果的方式，能够有效提高医学问题问答匹配的检索精度和效率。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作一简单地介绍，显而易见地，下面描述中的附图是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获取其他的附图。

图1是本发明实施例提供的基于网络资源的医学问题问答处理方法的流程示意图；

图2是本发明实施例提供的基于网络资源的医学问题问答处理装置的结构示意图；

图3是本发明实施例提供的电子设备的实体结构示意图。

具体实施方式

为使本发明实施例的目的、技术方案和优点更加清楚，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获取的所有其他实施例，都属于本发明保护的范围。

下面基于本发明所述的基于网络资源的医学问题问答处理方法，对其实施例进行详细描述。如图1所示，其为本发明实施例提供的基于网络资源的医学问题问答处理方法的流程示意图，具体实现过程包括以下步骤：

步骤101：确定用户输入的医学问题信息，并对所述医学问题信息进行关键词提取及扩展处理，得到扩展后的关键词集合。

其中，所述医学问题信息可以是指用户通过互联网输入的与孕妇相关的医学问题信息，比如“孕妇可以吃螃蟹吗？”。

对所述医学问题信息进行关键词提取及扩展处理，得到扩展后的关键词集合，对应的具体实现过程为：基于预设的分词库(jieba分词库)提取所述医学问题信息中的关键词；基于预设的停用词表对所述关键词进行过滤，得到目标关键词；基于预设的近义词表对过滤后得到的所述目标关键词进行近义词扩展，得到所述关键词集合。举例而言，当医学问题信息为“孕妇可以吃螃蟹吗？”时，“孕妇”、“吃”、“螃蟹”是关键词；其中，“螃蟹”可以扩展成包含“大闸蟹”、“梭子蟹”、“河蟹”、“青蟹”等关键词，最终得到相应的关键词集合。

步骤102：利用基于词频逆文档频率的统计方式以及所述关键词集合，从文档库中检索出与所述关键词集合对应的目标问答文档。

具体的，可利用基于词频逆文档频率的统计方式以及所述关键词集合，从文档库中检索出与所述关键词集合对应的问答文档；并基于所述词频逆文档频率的打分机制赋予所述问答文档对应的分值，基于所述问答文档对应的分值确定前预设数量的目标问答文档。其中，基于所述词频逆文档频率的打分机制赋予所述问答文档对应的分值，对应的具体实现过程包括：基于所述问答文档包含的关键词在文档库内所有问答文档中出现的频率及所述关键词对应的权重，将所述问答文档中的所有关键词进行加权平均处理，得到所述问答文档对应的分值。比如：当医学问题信息为“孕妇可以吃螃蟹吗？”时，得到包含“螃蟹”、“大闸蟹”、“梭子蟹”、“河蟹”、“青蟹”等关键词的关键词集合之后。可基于该关键词集合去预设的文档库中搜索，确定所有与“螃蟹”、“大闸蟹”、“梭子蟹”、“河蟹”、“青蟹”、“孕妇”、“吃”等关键词对应的问答文档，并利用基于词频逆文档频率的打分机制分别赋予所述问答文档对应的分值，并检索出来经过粗筛选得到目标问答文档。所述目标问答文档为与所述关键词集合中关键词相匹配的至少一个问题信息及其对应的答复信息。

在本发明实施例中，该打分机制中每一个问答文档都对应一个分值。该分值代表着关键词在问答文档中出现的频率，比如该问答文档包含1000个词，其中关键词“孕妇”出现了50次，则关键词“孕妇”出现的频率是二十分之一。当有多个关键词时，需要对所有关键词的频率进行加权平均。在加权平均处理过程中，每一个关键词都对应一个在问答文档中出现的频率，同时每一个关键词都对应一个权重；将问答文档中所有关键词加权平均处理得到该文档的分数(也就关键词成分越多这个问答文档对应的分值就越高)。当文档库里有n个文档(问答文档)，其中一个关键词对应的权重为n除以包含这个关键词的问答文档的个数。比如有n/2个问答文档包含关键词“孕妇”，则关键词“孕妇”对应的权重为2。通过上述方式相当于进行一个粗筛选，只筛选出k个问答文档来，即基于词频逆文档频率检索出和关键词集合相关的top-k个问题，以便后续通过预训练语言模型再进行精筛，得到准确结果。

需要说明的是，所述词频逆文档频率，即词频-逆文档频率(Term Frequency-Inverse Document Frequency，TF-IDF)技术，其是一种用于资讯检索与文本挖掘的加权技术，可以用来评估一个词对于一个文档集或语料库中某个文档的重要程度。字词的重要性随着它在文件中出现的次数成正比增加，但同时会随着它在语料库中出现的频率成反比下降。如果某个词比较少见，但是它在这篇文章中多次出现，那么它很可能就反映了这篇文章的特性，正是所需要的关键词。以统计一篇文档的关键词为例，最简单的方法就是计算每个词的词频。词频(term frequency,TF)指的是某一个给定的词语在该文件中出现的次数。出现频率最高的词就是这篇文档的关键词。但是一篇文章中出现频率最高的词肯定是“的”、‘是’、‘也’……这样的词，这些词显然不能反应文章的意思，此时就需要对每个词加一个权重，最常见的词(“的”、“是”、“在”)给予最小的权重，较少见的但能反应这篇文章意思的词给予较大的权重，这个权重叫做逆文档频率。逆文档频率(nverse Document Frequency，IDF)是一个词语普遍重要性的度量，其大小与一个词的常见程度成反比，计算方法是语料库的文档总数除以语料库中包含该词语的文档数量，再将得到的商取对数。其中，所述词频是第一部分分数，权重(逆文档频率)即为第二部分分数。

步骤103：基于预训练语言模型和所述医学问题信息对所述目标问答文档进行重排序，输出重排序后的问答结果。其中，所述预训练语言模型是基于通用领域样本数据、预先构建的医学问答领域数据组成的混合数据集以及相应的评分指标为预训练样本对初始掩码语言模型进行训练得到的。

在本发明实施例中，为了引入语义信息，可应用预训练语言模型对所述目标问答文档进行重排序。在应用之前需要预先通过预训练样本(比如文档库中的通用领域样本数据)和预训练指标来训练初始的掩码语言模型(Masked Language Model)，以获得预训练模型。然后，基于ChineseBLUE的cMedQQ对应的下游任务训练集(即预先构建的医学问答领域数据组成的混合数据集)和预设的评分指标(精调目标函数)对预训练模型进行精调，得到精调后的预训练语言模型。其中，精调目标函数是余弦相似度与真实相似度的均方误差。具体地，精调时模型的训练数据分为两类：一类是正例，包含两个相关的问题，此时的真实相似度l＝1；另一类是负例，包含两个不相关的问题，此时的真实相似度l＝0。在精调时，首先将两个问题x

需要说明的是，本发明实施例中，精调后的预训练语言模型的输入包含两部分问题：一个是用户输入的医学问题信息；另一个是统计得到的k个目标问答文档；计算两者的相似度，根据相似度确定目标问答文档的分值，重排序后返回给用户，即根据相似度确定k个目标问答文档对应的分数。比如：当k＝3时，检索出“孕妇可以吃螃蟹吗？”，“孕妇可以吃大闸蟹吗？”，“孕妇可以吃鱼吗？”；当用户输入的医学问题信息是“孕妇可以吃螃蟹吗？”时，可将，检索出“孕妇可以吃螃蟹吗？”，“孕妇可以吃大闸蟹吗？”，“孕妇可以吃鱼吗？”依次输入到预训练语言模型中，计算与用户输入的医学问题信息之间的相似度。根据匹配程度对k个目标问答文档进行重排序，即通过分值大小来进行重排序，最终反馈将重排序得到的问答结果返回给用户。

本发明实施例所述的基于网络资源的医学问题问答处理方法，通过确定用户输入的医学问题信息，并对所述医学问题信息进行关键词提取及扩展处理得到扩展后的关键词集合；然后，利用基于词频逆文档频率的统计方式以及所述关键词集合，从文档库中检索出与所述关键词集合对应的目标问答文档；并基于预训练语言模型和所述医学问题信息对所述目标问答文档进行重排序，以输出重排序后的问答结果。通过先基于词频逆文档频率的统计方式进行筛选，再利用预训练语言模型进行重排序以输出问答结果的方式，能够有效提高医学问题问答匹配的检索精度和效率。

与上述提供的一种基于网络资源的医学问题问答处理方法相对应，本发明还提供一种基于网络资源的医学问题问答处理装置。由于该装置的实施例相似于上述方法实施例，所以描述得比较简单，相关之处请参见上述方法实施例部分的说明即可，下面描述的基于网络资源的医学问题问答处理装置的实施例仅是示意性的。请参考图2所示，其为本发明实施例提供的一种基于网络资源的医学问题问答处理装置的结构示意图。

本发明所述的基于网络资源的医学问题问答处理装置，具体包括如下部分：

关键词扩展单元201，用于确定用户输入的医学问题信息，并对所述医学问题信息进行关键词提取及扩展处理，得到扩展后的关键词集合；

问答文档筛选单元202，用于利用基于词频逆文档频率的统计方式以及所述关键词集合，从文档库中检索出与所述关键词集合对应的目标问答文档；

问答结果确定单元203，用于基于预训练语言模型和所述医学问题信息对所述目标问答文档进行重排序，输出重排序后的问答结果；

其中，所述预训练语言模型是基于通用领域样本数据、预先构建的医学问答领域数据组成的混合数据集以及相应的评分指标为预训练样本对初始掩码语言模型进行训练得到的。

进一步的，所述关键词扩展单元，具体用于：

基于预设的分词库提取所述医学问题信息中的关键词；

基于预设的停用词表对所述关键词进行过滤，得到目标关键词；

基于预设的近义词表对过滤后得到的所述目标关键词进行近义词扩展，得到所述关键词集合。

进一步的，所述问答文档筛选单元，具体用于：

利用基于词频逆文档频率的统计方式以及所述关键词集合，从文档库中检索出与所述关键词集合对应的问答文档；

基于所述词频逆文档频率的打分机制赋予所述问答文档对应的分值，基于所述问答文档对应的分值确定前预设数量的目标问答文档。

进一步的，基于所述词频逆文档频率的打分机制赋予所述问答文档对应的分值，具体包括：

基于所述问答文档包含的关键词在文档库内所有问答文档中出现的比率以及所述关键词对应的权重，将所述问答文档中的所有关键词进行加权平均处理，得到所述问答文档对应的分值。

进一步的，所述问答结果确定单元，具体用于：

利用所述预训练语言模型中训练得到的编码向量将用户输入的所述医学问题信息编码为相应的第一向量，并将所述目标问答文档中包含的问答文档分别编码为相应的第二向量，确定所述第一向量和所述第二向量之间的相似度值；根据所述相似度值的大小对所述目标问答文档进行重排序，得到重排序后的问答结果。

本发明实施例所述的基于网络资源的医学问题问答处理装置，通过确定用户输入的医学问题信息，并对所述医学问题信息进行关键词提取及扩展处理得到扩展后的关键词集合；然后，利用基于词频逆文档频率的统计方式以及所述关键词集合，从文档库中检索出与所述关键词集合对应的目标问答文档；并基于预训练语言模型和所述医学问题信息对所述目标问答文档进行重排序，以输出重排序后的问答结果。通过先基于词频逆文档频率的统计方式进行筛选，再利用预训练语言模型进行重排序以输出问答结果的方式，能够有效提高医学问题问答匹配的检索精度和效率。

与上述提供的基于网络资源的医学问题问答处理方法相对应，本发明还提供一种电子设备。由于该电子设备的实施例相似于上述方法实施例，所以描述得比较简单，相关之处请参见上述方法实施例部分的说明即可，下面描述的电子设备仅是示意性的。如图3所示，其为本发明实施例公开的一种电子设备的实体结构示意图。该电子设备可以包括：处理器(processor)301、存储器(memory)302和通信总线303，其中，处理器301，存储器302通过通信总线303完成相互间的通信，通过通信接口304与外部进行通信。处理器301可以调用存储器302中的逻辑指令，以执行基于网络资源的医学问题问答处理方法，该方法包括：确定用户输入的医学问题信息，并对所述医学问题信息进行关键词提取及扩展处理，得到扩展后的关键词集合；利用基于词频逆文档频率的统计方式以及所述关键词集合，从文档库中检索出与所述关键词集合对应的目标问答文档；基于预训练语言模型和所述医学问题信息对所述目标问答文档进行重排序，输出重排序后的问答结果；其中，所述预训练语言模型是基于通用领域样本数据、预先构建的医学问答领域数据组成的混合数据集以及相应的评分指标为预训练样本对初始掩码语言模型进行训练得到的。

此外，上述的存储器302中的逻辑指令可以通过软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括：存储芯片、U盘、移动硬盘、只读存储器(ROM，Read-Only Memory)、随机存取存储器(RAM，Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。

另一方面，本发明实施例还提供一种计算机程序产品，所述计算机程序产品包括存储在处理器可读存储介质上的计算机程序，所述计算机程序包括程序指令，当所述程序指令被计算机执行时，计算机能够执行上述各方法实施例所提供的基于网络资源的医学问题问答处理方法。该方法包括：确定用户输入的医学问题信息，并对所述医学问题信息进行关键词提取及扩展处理，得到扩展后的关键词集合；利用基于词频逆文档频率的统计方式以及所述关键词集合，从文档库中检索出与所述关键词集合对应的目标问答文档；基于预训练语言模型和所述医学问题信息对所述目标问答文档进行重排序，输出重排序后的问答结果；其中，所述预训练语言模型是基于通用领域样本数据、预先构建的医学问答领域数据组成的混合数据集以及相应的评分指标为预训练样本对初始掩码语言模型进行训练得到的。

又一方面，本发明实施例还提供一种处理器可读存储介质，所述处理器可读存储介质上存储有计算机程序，该计算机程序被处理器执行时实现以执行上述各实施例提供的基于网络资源的医学问题问答处理方法。该方法包括：确定用户输入的医学问题信息，并对所述医学问题信息进行关键词提取及扩展处理，得到扩展后的关键词集合；利用基于词频逆文档频率的统计方式以及所述关键词集合，从文档库中检索出与所述关键词集合对应的目标问答文档；基于预训练语言模型和所述医学问题信息对所述目标问答文档进行重排序，输出重排序后的问答结果；其中，所述预训练语言模型是基于通用领域样本数据、预先构建的医学问答领域数据组成的混合数据集以及相应的评分指标为预训练样本对初始掩码语言模型进行训练得到的。

所述处理器可读存储介质可以是处理器能够存取的任何可用介质或数据存储设备，包括但不限于磁性存储器(例如软盘、硬盘、磁带、磁光盘(MO)等)、光学存储器(例如CD、DVD、BD、HVD等)、以及半导体存储器(例如ROM、EPROM、EEPROM、非易失性存储器(NANDFLASH)、固态硬盘(SSD))等。

以上所描述的装置实施例仅仅是示意性的，其中所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。本领域普通技术人员在不付出创造性的劳动的情况下，即可以理解并实施。

通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到各实施方式可借助软件加必需的通用硬件平台的方式来实现，当然也可以通过硬件。基于这样的理解，上述技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品可以存储在计算机可读存储介质中，如ROM/RAM、磁碟、光盘等，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行各个实施例或者实施例的某些部分所述的方法。

最后应说明的是：以上实施例仅用以说明本发明的技术方案，而非对其限制；尽管参照前述实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。