基于水文事件的事理图谱构建方法

摘要

本发明公开了基于水文事件的事理图谱构建方法，属于事理图谱构建技术领域，包括基于模板库的因果关系抽取方法、基于模式匹配与神经网络的事件抽取方法、构建融合水利模型的领域事理图谱；基于模板库的因果关系抽取方法部分从句子中抽取出原因句和结果句。基于模式匹配与神经网络的事件抽取方法部分从上一步得到的因果句中获取形式化的因果事件对。在定义事件触发词时对触发词进行聚类和人工调整，提高事件抽取任务的召回率。采用投票机制融合了三种事件元素抽取方法，提升了事件抽取的性能；构建融合水利模型的领域事理图谱部分将领域特有的水利模型融入事理图谱中，在定性分析的基础上进行定量分析，为水利事理图谱的推理提供支持。

说明书

技术领域

本发明属于事理图谱构建技术领域，具体的涉及基于水文事件的事理图谱构建方法。

背景技术

事件是人类记忆和理解现实世界的基本知识单元。知识图谱主要描述现实世界中各种实体之间的关系，事理图谱则是在知识图谱的基础上，以事件为核心，将静态的知识与动态的逻辑规则紧密相连，形成刻画真实世界的逻辑网络。随着我国水利事业的发展，水利领域积累了大量的文献数据，使水利领域事理图谱的构建成为可能。

研究者通过构建水利事理图谱，刻画水利事件间的逻辑演化的规律与模式，为水资源管理决策提供支持。

目前水利事理图谱构建方法相关研究还存在以下不足：现有的中文因果关系连接词库不全面且领域适用性较差；在事件抽取过程中，存在触发词与事件类型的一对多、事件元素抽取精度不高等问题；事理图谱中转移概率固定，可解释性较差，导致难以适应水利事件间的突变性、多样性。

因此，设计一种新的基于水文事件的事理图谱构建方法是必然需要的。

发明内容

发明目的：为克服上述现有技术的不足，本发明提出基于水文事件的事理图谱构建方法，构建融合水利模型的领域事理图谱部分将领域特有的水利模型融入事理图谱中，在定性分析的基础上进行定量分析，为水利事理图谱的推理提供支持。

技术方案：为实现上述发明目的，本发明采用如下技术方案：

基于水文事件的事理图谱构建方法，包括以下步骤：

(1)收集水利领域的文本语料，并进行预处理，以用作后续图谱构建；

(2)利用现有的一般因果关系连接词和步骤(1)中获取的文本语料，抽取因果关系实例句，并抽取句子特征，构建因果关系语料库；

(3)基于模板库的因果关系抽取，从句子中抽取出原因句和结果句；

(4)基于模式匹配与神经网络的事件抽取，从上一步得到的原因句和结果句中获取形式化的因果事件对；

(5)构建融合水利模型的领域事理图谱，将领域特有的水利模型融入事理图谱中，在定性分析的基础上进行定量分析，为水利事理图谱的推理提供支持。

进一步地，所述的步骤(3)具体为：基于Bootstrapping算法的思想，利用已有的抽取结果不断迭代寻求因果关系抽取方法，通过基于句法结构的卷积树核相似度和基于语义特征的BERT模型计算语义相似度，抽取新的因果关系连接词。

进一步地，所述的步骤(4)具体为：

4.1)定义出事件框架，在定义事件触发词时对触发词进行聚类和人工调整；

4.2)针对预先定义的事件框架，结合事件触发词和领域特征词构造规则，定位事件触发词并识别事件类型的识别；

4.3)采用Bi-LSTM+Attention+CRF神经网络模型抽取事件元素，并采用投票机制融合了三种事件元素抽取方法；

4.4)最后借助同义词词典做事件实例中名词的融合。

进一步地，所述的步骤(5)具体为：首先设计了基于XML Schema技术和OWL语言封装水利模型的方法，构建事件粒度的水利模型库；并提出了事理图谱与水利模型的融合方法，将水利模型以计算形式融入事理图谱中，构建领域事理图谱并进行应用。

进一步地，所述的步骤(3)中，基于模板库的因果关系抽取的方法包括以下步骤：

3.1)基于句法结构和语义挖掘得到新的模板；使用卷积树核方法计算句子之间的句法结构相似度，抽取训练语料中与因果关系语料库句法结构相似的句子，并与其最相似的实例句组列为候选集合；其中，因果关系语料库的句子以连接词为标志，相同连接词的句子为一组；

3.2)同时，为了解决候选句中存在结构相似但语义不同的问题，使用BERT模型表达句子的语义特征，获得一批句法结构和语义特性相似的因果关系实例句；提取句中的因果关系连接词模板，并将相同连接词的实例句列入因果关系语料库；

3.3)模板泛化；为了充分利用因果关系实例的协同过滤能力，将抽取得到的模板进行泛化；结合通用的中文因果关系分类方法，人们对因果关系连接词的位置(如居中式、由因到果)更为关注，采用基于句法结构的卷积树核相似性计算，选择K-means算法做聚类。

进一步地，所述的步骤3.2)中，具体为：

首先将两个句法结构相似的句子输入模型前，在首部加入[CLS]，在两个句子之间加入[SEP]作为分隔符，最终得到模型的输入序列{[CLS]，w

经过分词处理，并映射到字嵌入向量E；E＝{Ecls，E

最后得到句子的特征向量，再经过sigmoid计算两个句子的语义相似度为Sim

进一步地，所述的步骤3.3)中，具体为：K-means算法将输入数据集划分为k个簇，使得簇内数据具有最大相似性；

首先随机选择k个对象为质心；

然后计算其他数据到质心的距离，将数据划分到距离最小的簇内；一轮划分结束后重新计算选择每个簇的簇心；

循环迭代以上过程，直到簇心不再发生明显变化。

进一步地，所述的步骤(4)中，基于模式匹配与神经网络的事件抽取的方法包括以下步骤：

4.11)基于触发词聚类方法，完成事件框架的构建；

首先使用一种通过分析依存句法结构，识别句中的动词及对应的动宾结构和主谓结构的触发词抽取算法，抽取句子中的核心谓语作为候选触发词集；

算法的核心是判断V

上式即判断句子中的主谓关系中的动词V

再基于HowNet做候选触发词的词义相似度计算，并据此进行聚类；基于聚类结果及人工的调整，为后续能够更大范围的识别事件进行触发词同义词扩散，形成了触发词-事件类型对照表；

4.12)采用模式匹配的方法进行事件触发词的抽取与事件类型的识别，针对事件框架，结合事件触发词和领域特征词构建匹配规则，用于水利领域事件类型识别；

采用神经网络进行事件元素的抽取，通过词向量、词性特征POS、触发词特征，利用Encoder-Decoder框架提出一个基于Bi-LSTM+Attention+CRF的事件元素抽取模型，利用Bi-LSTM进行特征提取，联合Attention机制为词组分配权重系数并筛选重要度较高的信息，使用CRF解码增加词的整体性，抽取事件的主谓宾三元组；

最后采用投票机制融合了三种事件元素抽取方法，提高事件抽取的性能；

4.13)事件融合；通过同义词典归并相同事件类型下的事件实例，将表达同个现实事件的多条事件数据合并为一条事件数据，实现事件融合。

进一步地，所述的步骤(5)中，构建融合水利模型的领域事理图谱包括以下步骤：

5.1)基于XML Schema和OWL构建水利模型本体；

基于XML Schema设计水利模型元数据；水利模型元数据模型由base_info、parameters、function三个部分构成

构建水利模型本体；首先，将收集的水利模型按事件粒度拆分；根据水利模型高内聚、低耦合的特性，将水利模型按子过程拆分；其次，将模型按功能归类，构建模型池；然后，基于XML Schema技术定义水利模型元数据结构；最后，利用元数据结构，将Schema转换成OWL语法的本体文档，建立了水利模型本体；

5.2)将水利模型与因果事件融合，利用水利领域特有的水利模型，替代一般事理图谱中的转移概率。

有益效果：与现有技术相比，本发明的基于水文事件的事理图谱构建方法，包括基于模板库的因果关系抽取、基于模式匹配与神经网络的事件抽取、构建融合水利模型的领域事理图谱；基于模板库的因果关系抽取方法部分从句子中抽取出原因句和结果句。基于模式匹配与神经网络的事件抽取方法部分从上一步得到的因果句中获取形式化的因果事件对。在定义事件触发词时对触发词进行聚类和人工调整，提高事件抽取任务的召回率。采用投票机制融合了三种事件元素抽取方法，提升了事件抽取的性能；构建融合水利模型的领域事理图谱部分将领域特有的水利模型融入事理图谱中，在定性分析的基础上进行定量分析，为水利事理图谱的推理提供支持。

附图说明

图1是事理图谱构建流程图；

图2因果关系抽取流程图；

图3事件抽取流程图；

图4事件元素抽取模型整体架构图；

图5水利模型库构建流程图。

具体实施方式

为使本发明实现的技术手段、创作特征、达成目的与功效易于明白了解，下面结合具体实施方式，进一步阐述本发明。

基于水文事件的事理图谱构建方法，包括以下步骤：

(1)收集水利领域论文、新闻类型的文本语料，并进行预处理，以用作后续图谱构建。

(2)利用现有的一般因果关系连接词和步骤(1)中获取的语料，抽取因果关系实例句，并抽取句子特征，构建因果关系语料库。

(3)基于模板库的因果关系抽取，从句子中抽取出原因句和结果句。针对现有的中文因果关系连接词库不全面且不具有领域适用性的问题，提出了基于句法结构和语义特征的领域因果关系模板库构建方法。结合水利领域特点，基于Bootstrapping算法的思想，利用已有的抽取结果不断迭代寻求更多有效的因果关系抽取方法，克服了规则模板方法完全依赖人工编写规则的缺点。通过基于句法结构的卷积树核相似度和基于语义特征的BERT模型计算语义相似度，抽取新的因果关系连接词，解决了候选句中存在结构相似但语义不同的问题。

(4)基于模式匹配与神经网络的事件抽取，从上一步得到的因果句中获取形式化的因果事件对。由于水利领域事件框架的缺乏，定义出事件框架。其中，在定义事件触发词时对触发词进行聚类和人工调整，提高事件抽取任务的召回率。针对预先定义的事件框架，结合事件触发词和领域特征词构造规则，定位事件触发词并识别事件类型的识别。采用Bi-LSTM+Attention+CRF神经网络模型抽取事件元素，并采用投票机制融合了三种事件元素抽取方法，显著提升了事件抽取的性能。最后借助同义词词典做事件实例中名词的融合，避免图谱中出现冗余信息。

(5)构建融合水利模型的领域事理图谱，将领域特有的水利模型融入事理图谱中，在定性分析的基础上进行定量分析，为水利事理图谱的推理提供支持。首先设计了基于XMLSchema技术和OWL语言封装水利模型的方法，构建事件粒度的水利模型库。并提出了事理图谱与水利模型的融合方法，将水利模型以可计算形式融入事理图谱中，构建领域事理图谱并进行简单应用。

步骤(3)中基于模板库的因果关系抽取方法包括以下步骤：

(31)基于句法结构和语义挖掘得到新的模板。使用卷积树核方法计算句子之间的句法结构相似度，抽取训练语料中与因果关系语料库句法结构相似的句子，并与其最相似的实例句组列为候选集合。其中，因果关系语料库的句子以连接词为标志，相同连接词的句子为一组。计算两组句子句法树的相似度的形式化定义为：

(32)同时，为了解决候选句中存在结构相似但语义不同的问题，使用BERT模型表达句子的语义特征，获得一批句法结构和语义特性相似的因果关系实例句。提取句中的因果关系连接词模板，并将相同连接词的实例句列入因果关系语料库。首先将两个句法结构相似的句子输入模型前，在首部加入[CLS]，在两个句子之间加入[SEP]作为分隔符，最终得到模型的输入序列{[CLS]，w

(33)模板泛化。为了充分利用因果关系实例的协同过滤能力，将抽取得到的模板进行泛化。结合通用的中文因果关系分类方法，人们对因果关系连接词的位置(如居中式、由因到果)更为关注，采用基于句法结构的卷积树核相似性计算，选择K-means算法做聚类。K-means算法将输入数据集划分为k个簇，使得簇内数据具有最大相似性。首先随机选择k个对象为质心，然后计算其他数据到质心的距离，将数据划分到距离最小的簇内。一轮划分结束后重新计算选择每个簇的簇心。循环迭代以上过程，直到簇心不再发生明显变化。

步骤(4)中基于模式匹配与神经网络的事件抽取方法包括以下步骤：

(41)基于触发词聚类方法，完成事件框架的构建。首先使用一种通过分析依存句法结构，识别句中的动词及对应的动宾结构和主谓结构的触发词抽取算法，抽取句子中的核心谓语作为候选触发词集。算法的核心是判断V

(42)采用模式匹配的方法进行事件触发词的抽取与事件类型的识别，针对事件框架，结合事件触发词和领域特征词构建匹配规则，用于水利领域事件类型识别。在少量具有触发词歧义的情况中，发现句子中触发词的直接主语或直接宾语也在事件描述中起到了重要作用。在此，以关键词与触发词联合的方式，制定这些少量事件类型的限制条件。规则实例如下：SEQ＝有，Key＝氮磷浓度，TR＝上升。其中，SEQ为是否需要考虑领域特征词与触发词的位置顺序；Key为领域特征词标签，指向领域特征词，表示在句子中必须出现该领域特征词才能被认定含有事件；TR为触发词标签，指向触发词，表示在句子中需要出现该触发词才能被认定含有事件。

采用神经网络进行事件元素的抽取，通过词向量、词性特征POS、触发词特征，利用Encoder-Decoder框架提出一个基于Bi-LSTM+Attention+CRF的事件元素抽取模型，利用Bi-LSTM进行特征提取，联合Attention机制为词组分配权重系数并筛选重要度较高的信息，使用CRF解码增加词的整体性，抽取事件的主谓宾三元组。最后采用投票机制融合了三种事件元素抽取方法，提高事件抽取的性能。

(43)事件融合。通过同义词典归并相同事件类型下的事件实例，将表达同个现实事件的多条事件数据合并为一条事件数据，实现事件融合。输入经过事件元素识别获得事件实例E＝

步骤(5)中构建融合水利模型的领域事理图谱包括以下步骤：

(51)基于XML Schema和OWL构建水利模型本体。结合XML Schema技术设计了水利模型的元数据模型，然后将Schema转换成OWL语法文档，构建事件粒度的水利模型。

具体步骤如下：

(1)基于XML Schema设计水利模型元数据。水利模型元数据模型由“base_info”、“parameters”、“function”三个部分构成。复杂类型“base_info”是模型的基本信息模块，包含了“model_id”(模型ID)、“name”(模型名称)和“describe”(模型功能描述)三个子元素来存储和定义元数据信息；复杂类型“parameters”是模型的要素信息。其中子节点“attribute”是模型中参数，包括“measurement”(实测型参数)和“empirical_value”(经验型参数)两类，数量不限。子节点“input”和“output”分别是模型的输入、输出信息，包括“name”(信息名称)、“type”(数据类型)、“describe”(信息描述)三类元素，其中“input”数量至少为1个，“output”可以缺失；复杂类型“function”是模型的函数信息。其中，“language”是算法开发语言，“version”是算法版本号，同于区分同一算法的不同代码版本，“code”是保存的代码地址。

(2)构建水利模型本体。首先，将收集的水利模型按事件粒度拆分。如降雨-径流模型中，以降雨量为输入、径流量为输出，模型内部包含树冠截留、蒸散发、地表产流、壤中流、地下水、河道汇流多个子过程，这些子过程是事件粒度的。根据水利模型高内聚、低耦合的特性，将水利模型按子过程拆分。其次，将模型按功能归类，构建模型池。然后，基于XMLSchema技术定义水利模型元数据结构。最后，利用元数据结构，将Schema转换成OWL语法的本体文档，建立了水利模型本体。

(52)将水利模型与因果事件融合，利用水利领域特有的水利模型，替代一般事理图谱中的转移概率，使水利事理图谱的事件转移信息更具可计算性和可解释性。模型包含输入要素、模型方程和输出要素。输入要素包含前驱事理节点的要素(包含对象属性、状态)，输出要素赋予后继事理节点并控制节点状态转移，模型方程根据输入要素计算输出要素。

实施例

如图1所示，本发明具体实现步骤如下：

S1：收集水利领域论文、新闻等类型的文本语料，并进行预处理，以用作后续图谱构建。

S2：利用现有的一般因果关系连接词和上一步中获取的语料，抽取因果关系实例句，并抽取句子特征，构建因果关系语料库。

S3：基于模板库的因果关系抽取方法，基于句法结构和语义挖掘得到新的模板，并对模板进行泛化。根据领域因果关系模板库，抽取新的因果关系实例。

S4：基于模式匹配与神经网络的事件抽取，基于触发词聚类方法，完成事件框架的构建。采用模式匹配的方法进行事件触发词的抽取与事件类型的识别，采用神经网络进行事件元素的抽取，完成从因果事件句中抽取事件的过程。再借助同义词词典做事件实例中名词的融合，获取事件及事件间的因果关系。

S5：构建融合水利模型的领域事理图谱。将领域特有的水利模型融入事理图谱中，在定性分析的基础上进行定量分析，为水资源管理决策提供支持。

其中，在S1中，收集数据并进行预处理包括以下步骤：

S101：共收集水利领域《水文》、《水科学进展》、《水利信息化》、《河海大学学报(自然科学版)》等相关学术期刊论文共384篇，使用爬虫在水利部《太湖流域管理局》、《中国水利网》等相关网站新闻文本共1187篇作为实验数据。每篇文档均以独立TXT格式存储。

S102：对文档进行降噪处理，去除数据集中的图片、表格、参考文献等信息，仅保留文本。对文本进行分句、分词、词性标注等操作，将文档组织成需要的输入格式。本文使用“？”、“！”、“。”、“……”等终结符划分句子。使用jieba分词作为文本分词工具。完成分词后，使用LTP工具进行词性标注。

其中，在S2中，因果关系语料库构建的具体做法如下：

利用现有的一般因果关系连接词，按句法规则进行分类，将其制定为正则表达式。利用这些正则表达式从训练语料中抽取因果关系实例句，并按连接词类型分类，构成因果关系语料库。表达式有由因到果(连词对)：\s？(因为)/[p|c]+\s(.*)(所以)/[p|c]+\s(.*)；由因到果(前端式)：(.*)\s+(牵动|已致|导向)/[d|v]+\s(.*)；由果溯因(居中式)：(.*)(根源于|取决|来源于|出于)/[p|c]+\s(.*)等等。

其中，在S3中，基于模板库的因果关系抽取如图2所示，具体包括以下步骤：

S301：使用卷积树核方法计算句子之间的句法结构相似度，抽取训练语料中与因果关系语料库句法结构相似的句子，并将与其最相似的实例句组列为候选集合。其中，因果关系语料库的句子以连接词为标志，相同连接词的句子为一组。计算两组句子句法树的相似度的形式化定义为：

S302：经过句法结构相似度比较，从训练语料中抽取出一些与因果句有相似句法结构的候选句。但经过观察发现，存在句子结构相似但语义不同的情况。因此采用BERT模型计算句子间的语义相似度。BERT最重要的部分是双向Transformer编码结构，完全基于注意力机制来对本文进行建模。算法先对文章中的每一句话进行处理，计算出单个词和每个词之间的关系，而后根据词与词之间的相互关系每个词在句子中的权重，并利用权重重新表达词。这个特征蕴含了词本身及词之间的关系，是更加全局的表达。具体做法先将两个句法结构相似的句子输入模型前，在首部加入[CLS]，在两个句子之间加入[SEP]作为分隔符，最终得到模型的输入序列{[CLS]，w

S303：为了充分利用因果关系实例的协同过滤能力，需要将抽取得到的模板进行泛化。结合通用的中文因果关系分类方法，人们对因果关系连接词的位置(如居中式、由因到果等)更为关注，因此基于句法结构的卷积树核相似性计算，选择K-means算法来做聚类。K-means算法将输入数据集划分为k个簇，使得簇内数据具有最大相似性。首先随机选择k个对象为质心，然后计算其他数据到质心的距离，将数据划分到距离最小的簇内。一轮划分结束后重新计算选择每个簇的簇心。循环迭代以上过程，直到簇心不再发生明显变化。

其中，在S4中，使用模式匹配与神经网络的方法进行事件抽取如图3所示，具体包括以下步骤：

S401：基于触发词聚类方法，完成事件框架的构建。首先使用一种通过分析依存句法结构，识别句中的动词及对应的动宾结构和主谓结构的触发词抽取算法，抽取句子中的核心谓语作为候选触发词集。算法的核心是判断V

S402：采用模式匹配的方法进行事件触发词的抽取与事件类型的识别；采用神经网络进行事件元素的抽取，完成从因果事件句中抽取事件的过程。它可以分为两个子任务：

事件触发词和事件类型的识别。针对事件框架，结合事件触发词和领域特征词构建匹配规则，用于水利领域事件类型识别。以“水体氮磷浓度上升”为例，这类与水利特征值相关的事件中，仅凭“上升”“增加”等表示趋势的动词不能清晰的表征这类事件。而其主语“氮磷浓度”在句子表征中有着比较重要的作用，因此将“氮磷浓度”以领域特征词的形式引入规则。在事件抽取过程中，根据所示匹配规则，该句子中出现了领域特征词“氮磷浓度”和触发词“上升”，同时词出现的相对位置也符合规则所述，因此，该句子被抽取出来当作事件。

事件元素的识别和抽取。模型整体框架如图4所示。具体步骤如下：(1)模型在嵌入层对词向量、词性特征POS、触发词位置特征、触发词类型进行拼接。(2)将拼接后的向量输入到神经网络编码层，通过双向长短期记忆单元学习输入令牌丰富的上下文信息。为了解决梯度爆炸、梯度消失以及长距离依赖问题，引入“门结构”的LSTM模型，模型通过使用逐位相乘的哈达马积(Hadamard product)计算记忆状态，其计算公式为：c

S403：事件融合。通过同义词典归并相同事件类型下的事件实例，将表达同个现实事件的多条事件数据合并为一条事件数据，实现事件融合。输入经过事件元素识别获得事件实例E＝

其中，在S5中，融合水利模型的领域事理图谱构建包括以下步骤：

S501：设计了基于XML Schema技术和OWL语言封装水利模型的方法，构建事件粒度的水利模型库，如图5所示。具体步骤如下：(1)基于XML Schema设计水利模型元数据。水利模型元数据模型由“base_info”、“parameters”、“function”三个部分构成。复杂类型“base_info”是模型的基本信息模块，包含了“model_id”(模型ID)、“name”(模型名称)和“describe”(模型功能描述)三个子元素来存储和定义元数据信息；复杂类型“parameters”是模型的要素信息。其中子节点“attribute”是模型中参数，包括“measurement”(实测型参数)和”empirical_value”(经验型参数)两类，数量不限。子节点“input”和“output”分别是模型的输入、输出信息，包括“name”(信息名称)、“type”(数据类型)、“describe”(信息描述)三类元素，其中“input”数量至少为1个，“output”可以缺失；复杂类型“function”是模型的函数信息。其中，“language”是算法开发语言，“version”是算法版本号，同于区分同一算法的不同代码版本，“code”是保存的代码地址。(2)构建水利模型本体。首先，将收集的水利模型按事件粒度拆分。如降雨-径流模型中，以降雨量为输入、径流量为输出，模型内部包含树冠截留、蒸散发、地表产流、壤中流、地下水、河道汇流等多个子过程，这些子过程是事件粒度的。根据水利模型高内聚、低耦合的特性，将水利模型按子过程拆分。其次，将模型按功能归类，构建模型池。然后，基于XML Schema技术定义水利模型元数据结构。最后，利用元数据结构，将Schema转换成OWL语法的本体文档，建立了水利模型本体。

S502：模型包含输入要素、模型方程和输出要素。输入要素包含前驱事理节点的要素(包含对象属性、状态)，输出要素赋予后继事理节点并控制节点状态转移，模型方程根据输入要素计算输出要素。模型“富营养化动力方程”接受三种输入要素，分别为“温度升高”，“光照强烈”，“水体营养化”三个前驱事理节点，经过模型方程的计算可以得到输出要素“生长速率”，并赋予给后继事理节点“浮游生物大量繁殖”。

以上显示和描述了本发明的基本原理和主要特征和本发明的优点。本行业描述的只是说明本发明的原理，在不脱离本发明精神和范围的前提下，本发明还会有各种变化和改进，这些变化和改进都落入要求保护的本发明范围内。本发明要求保护范围由所附的权利要求书及其等效物界定。