CRF

摘要： 数量名短语的识别是识别由数量短语修饰的名词短语左右边界的研究.以往研究中,基于统计学习模型的数量短语识别方法依赖人工特征,需要通过专家知识构建知识库来实现对“数词+量词”短语的识别.本文在以往研究基础上纳入“名词”形成“数词+量词+名词”等八类数量名短语,并采用深度学习方法解决这一边界识别任务.通过BERT模型对原始文本进行上下文特征表示,利用Lattice LSTM模型字词结合的思想将标准分词作为软特征融入文本字符级的特征表示中,最后通过CRF全局约束识别数量名短语边界.实验结果表明,本文方法在AMR语料上达到较优结果,精确率、召回率、F1值分别为80.83%,89.78%,85.07%.

摘要： Traditional named entity recognition methods need professional domain knowl-edge and a large amount of human participation to extract features,as well as the Chinese named entity recognition method based on a neural network model,which brings the prob-lem that vector representation is too singular in the process of character vector representa-tion.To solve the above problem,we propose a Chinese named entity recognition method based on the BERT-BiLSTM-ATT-CRF model.Firstly,we use the bidirectional encoder representations from transformers(BERT)pre-training language model to obtain the se-mantic vector of the word according to the context information of the word;Secondly,the word vectors trained by BERT are input into the bidirectional long-term and short-term memory network embedded with attention mechanism(BiLSTM-ATT)to capture the most important semantic information in the sentence;Finally,the conditional random field(CRF)is used to learn the dependence between adjacent tags to obtain the global optimal sentence level tag sequence.The experimental results show that the proposed model achieves state-of-the-art performance on both Microsoft Research Asia(MSRA)corpus and people’s daily corpus,with F1 values of 94.77% and 95.97% respectively.

摘要： 专业术语的自动抽取对于领域机器翻译、领域知识图谱等方面均具有重要作用.近年来,新能源领域专利文本的申请量逐年增加,我国科技文献走向世界有了更高需求,专业术语翻译质量直接影响专利文本的翻译质量.为了提高新能源领域专利文本术语抽取结果的准确率和召回率,构建新能源领域术语库以及提高新能源领域专利文本的翻译质量打下基础.本文提出了基于BERT-BiLSTM-CRF的新能源专利术语抽取方法,以自建的3002条新能源领域专利文本作为实验对象,在中文数据集上的实验结果达到了0.9211的精确率,0.9245的召回率以及0.9228的F1值.与其他经典深度学习术语抽取模型相比,基于BERT-BiLSTM-CRF的新能源专利术语抽取模型能有效地将新能源领域专利文本中字符较多的长序列术语识别出来,提高术语抽取在实际应用中的效果.

摘要： 针对现存交通事故文本信息中存在的大量时间、地点、伤亡损失等关键异构数据难以有效提取,以及用静态词向量深度学习模型提取交通事故文本信息精确度较低的问题,本文利用BERT(Bidirectional Encoder Representations from Transformers)对文本字符进行动态向量映射,从数据表达源头解决一词多义、上下文依赖不充分等问题;利用BiGRU(Bi-Gate Recurrent Unit)提取文本向量化后的特征,输出高特征的文本序列;利用CRF(Conditional Random Fields)计算全局最优输出节点的概率优势,优化文本序列特征结果,提出一种基于动态字向量的BERT-BiGRU-CRF融合模型,用于交通事故文本关键信息提取。通过对比实验表明,该模型在交通事故文本信息提取中平均准确率为0.952,F1为0.925,比基于静态词向量Word2Vec模型的精确率与F1值分别提高了6.3个百分点和7.9个百分点。

摘要： 针对现有事件抽取模型事件数据集规模较小、存在开销与性能不平衡问题,采用ALBERT预训练语言模型生成词向量,将其输入BiLSTM+CRF模型完成句子级事件的特征向量提取,抽取出事件触发词、论元和角色等中文事件要素,在大规模中文事件数据集DuEE上进行验证。结果表明,该模型与其他同类型模型相比,准确率和F_(1)值均有所提升,在大规模事件数据集上的准确率、召回率和F_(1)值分别为95.4%、77.8%和85.7%。

摘要： 针对警情数据中日益增长的不同种类要素提取需求,提出一种多模型融合的要素提取方法。对于警情数据中人名、地名、机构名等无明显规律的要素,采用BERT+BiLSTM+CRF模型结合文本上下文信息的方法,抽取包含语义信息的关键要素;对于时间、车牌号等具备一定规律的数据,采用模式识别方法抽取符合定义规则的相关要素;然后将上述两种方法融合,形成一体化模型进行要素提取。验证实验结果表明,与传统命名实体识别方法相比,BERT+BiLSTM+CRF模型在测试集上的F1值均提高3%以上,模式识别效果提高1%以上,可满足日常警情的要素提取需求。

摘要： 为提高传统命名实体识别模型在中文电子病历上的准确性,提出一种在基线模型BERTBiLSTM-CRF中加入对抗训练的方法,该方法在词嵌入层添加扰动因子从而生成对抗样本,并利用对抗样本进行迭代训练,从而优化模型参数。CCKS2021评测数据集实验结果表明,加入FGM和PGD两个对抗训练模型后,其精准率、召回率以及F_(1)值相比于基线模型均有所提升。并且通过对比实验,验证了加入对抗训练能够提高模型的预测能力和鲁棒性。

摘要： 为了提高智能制造装备方面的命名实体识别能力,提出了一种融合语言模型的智能制造装备命名实体识别模型。首先采用BERT语言模型对智能制造装备专利进行上下文的特征提取获取字粒度的向量矩阵,然后采用BiLSTM进行上下文信息的特征提取,并通过CRF模型增添约束得到全局最优序列,最终通过序列识别出智能制造装备的命名实体。根据实验表明,提出的模型与其它模型相比各项指标均有提升,能较好地应用于智能制造装备命名实体识别的任务。

摘要： 在水利领域中,传统的命名实体识别方法存在有效性差、精度不高、无法解决一词多义和缺乏水利领域语料等问题。基于此,利用BERT语言模型对自建水利文本语料进行训练,并引入FreeLB对抗训练模型增强模型的泛化能力,最后通过条件随机场(CRF)来得到水利实体识别方法。实验结果表明,相对于其他模型,本文提出的FreeLB-BERT-CRF模型对水利领域文本实体识别效果更好。

摘要： 证件信息识别是当前重要的人工智能应用领域,可以在金融服务和电商等多个场景提升经济活动效率和商业流程、办事流程的自动化水平。该文使用百度PaddlePaddle深度学习框架和基于双向LSTM+CRF+XGBoost模型的信息抽取与分类矫正方法,融合人工规则,在统一社会信用代码证书、民办非企业单位登记证书、事业单位法人证书等为代表的证件信息识别任务上取得了超越当前商业应用的效果。

摘要： 本文在分析术语特点的基础上，提出了一种基于统计和规则相结合的汉语术语语义分析方法。首先以词，词性，距离信息，上下文信息，词语在知网中的第一义原信息为特征，基于该特征训练得到支持向量机（SVM）依存分析模型，从而有效识别出了术语内部的依存关系；在依存分析基础上利用统计和规则相结合的方法进行术语语义分析。实验结果表明该方法的有效性，在大类语义关系和小类语义关系上正确率分别达到77.13%和69.05%。

摘要： 本文在分析术语特点的基础上，提出了一种基于统计和规则相结合的汉语术语语义分析方法。首先以词，词性，距离信息，上下文信息，词语在知网中的第一义原信息为特征，基于该特征训练得到支持向量机（SVM）依存分析模型，从而有效识别出了术语内部的依存关系；在依存分析基础上利用统计和规则相结合的方法进行术语语义分析。实验结果表明该方法的有效性，在大类语义关系和小类语义关系上正确率分别达到77.13%和69.05%。

摘要： 本文在分析术语特点的基础上，提出了一种基于统计和规则相结合的汉语术语语义分析方法。首先以词，词性，距离信息，上下文信息，词语在知网中的第一义原信息为特征，基于该特征训练得到支持向量机（SVM）依存分析模型，从而有效识别出了术语内部的依存关系；在依存分析基础上利用统计和规则相结合的方法进行术语语义分析。实验结果表明该方法的有效性，在大类语义关系和小类语义关系上正确率分别达到77.13%和69.05%。

摘要： 本文在分析术语特点的基础上，提出了一种基于统计和规则相结合的汉语术语语义分析方法。首先以词，词性，距离信息，上下文信息，词语在知网中的第一义原信息为特征，基于该特征训练得到支持向量机（SVM）依存分析模型，从而有效识别出了术语内部的依存关系；在依存分析基础上利用统计和规则相结合的方法进行术语语义分析。实验结果表明该方法的有效性，在大类语义关系和小类语义关系上正确率分别达到77.13%和69.05%。

摘要： 本文在分析术语特点的基础上，提出了一种基于统计和规则相结合的汉语术语语义分析方法。首先以词，词性，距离信息，上下文信息，词语在知网中的第一义原信息为特征，基于该特征训练得到支持向量机（SVM）依存分析模型，从而有效识别出了术语内部的依存关系；在依存分析基础上利用统计和规则相结合的方法进行术语语义分析。实验结果表明该方法的有效性，在大类语义关系和小类语义关系上正确率分别达到77.13%和69.05%。

摘要： 本文提出了一种基于判别式随机场模型的行为建模方法。在条件随机场模型的基础上,引入基于行为的隐藏特征函数和时间窗口参数,从而将其扩展到空间和时间的领域中,并设计了有效的特征模板和行为识别方法。由于模型具有基于条件的结构,该模型能够处理观察序列中任意的特征重叠和行为的上下文关系。通过对比实验表明,该模型具有更强的行为建模能力.

摘要： 本文提出了一种基于判别式随机场模型的行为建模方法。在条件随机场模型的基础上,引入基于行为的隐藏特征函数和时间窗口参数,从而将其扩展到空间和时间的领域中,并设计了有效的特征模板和行为识别方法。由于模型具有基于条件的结构,该模型能够处理观察序列中任意的特征重叠和行为的上下文关系。通过对比实验表明,该模型具有更强的行为建模能力.

摘要： 本文提出了一种基于判别式随机场模型的行为建模方法。在条件随机场模型的基础上,引入基于行为的隐藏特征函数和时间窗口参数,从而将其扩展到空间和时间的领域中,并设计了有效的特征模板和行为识别方法。由于模型具有基于条件的结构,该模型能够处理观察序列中任意的特征重叠和行为的上下文关系。通过对比实验表明,该模型具有更强的行为建模能力.

摘要： 本文提出了一种基于判别式随机场模型的行为建模方法。在条件随机场模型的基础上,引入基于行为的隐藏特征函数和时间窗口参数,从而将其扩展到空间和时间的领域中,并设计了有效的特征模板和行为识别方法。由于模型具有基于条件的结构,该模型能够处理观察序列中任意的特征重叠和行为的上下文关系。通过对比实验表明,该模型具有更强的行为建模能力.

摘要： 本文提出了一种基于判别式随机场模型的行为建模方法。在条件随机场模型的基础上,引入基于行为的隐藏特征函数和时间窗口参数,从而将其扩展到空间和时间的领域中,并设计了有效的特征模板和行为识别方法。由于模型具有基于条件的结构,该模型能够处理观察序列中任意的特征重叠和行为的上下文关系。通过对比实验表明,该模型具有更强的行为建模能力.

摘要： 本发明公开了一种基于正则表达式和CRF模型的电力可研文档提取方法和装置，所述方法包括：获取用户提交的可研报告，对所述可研报告的内容进行识别、抽取，得到待处理的文本数据；通过数据清洗对所述待处理的文本数据进行重新审查和校验；通过知识库和语义分析模型，对完成数据清洗的待处理的文本数据进行预处理；采用基于文档内容模式、基于文本语言特点模式以及基于上下文辅助信息模式分别配置相应的正则表达式，对预处理后的文本数据进行数据提取；将利用正则表达式规则提取得到的文本数据输入训练后的CRF模型进一步提取，得到可研评审指标。本发明解决了评审过程中指标提取不准确问题，增强可研智能评审系统的智能化能力，提升用户体验。

摘要： 本申请涉及一种基于BiLSTM‑CRF模型的文本数据智能提取方法，该方法先使用Flink定时从数据源中抽取流数据写入到ClickHouse中，然后从所述ClickHouse中拉取待处理的数据，将所述待处理的数据经过分批分类、标注合并以及生成词典处理，形成预训练数据，之后将所述预训练数据导入到BiLSTM‑CRF模型进行训练以形成预测模型，基于预测模型形成预测模型服务API，最后拉取数据源中的流数据经过所述预测模型服务API得到预测结果，将所述预测结果映射到特定实体并写入服务数据库中存储，从而实现非结构、无规律的文本内容的实体识别、提取以及存储等处理。本申请还涉及一种基于BiLSTM‑CRF模型的文本数据智能提取装置，具有实现对非结构、无规律的文本内容进行识别、提取以及存储的效果。

摘要： 本发明公开了一种基于Transformer‑CRF的藏文分词方法，该方法包括：输入数据集、数据预处理、音节扩展、构建基于Transformer‑CRF的藏文分词模型、训练并保存模型及其参数以及输入待分词语料，输出分词结果。本发明以当前音节为中心向左向右扩展两个单元，使用unigram和bigram相结合的方法，可以提取到更多的特征向量。同时，本发明克服了传统分词方法中存在的运算速度、准确率低等缺点。另外，基于Transformer‑CRF的藏文分词模型采用并行计算，大大增加了计算效率，而且模型中的自注意力机制的特征抽取能力比LSTM的特征抽取能力要好。

摘要： 本发明属于医疗自然语言处理领域，以建立结构化电子病历为基础建立命名实体模型，将传统的BiLSTM‑CRF深度学习模型进行改进，具体为一种改进BiLSTM‑CRF的电子病历命名实体识别方法。本发明同时考虑了字和标签，输入时将文字和标签同时做Embedding后进行结合，使用多头注意力机制，在Attention机制中获得更多的有用信息，BiLSTM模型进行特征的提取，经过BiLSTM模型后的输出结果为当前字符在各个类别标签中的概率值，最后使用CRF模型对最终分类结果进行预测。对于进行结构化电子病历中，医疗术语难以统一的情况有一定的作用，为结构化电子病历的发展有一定的推进作用。

摘要： 本发明涉及一种固定式CRF防撞护舷预埋钢板安装方法，方法包括：采用吊装设备将若干预埋钢板起吊安装至新建墩柱钢筋笼的外侧，若干预埋钢板围设在墩柱钢筋笼外侧以形成容置空间，若干预埋钢板与墩柱混凝土表面齐平；在预埋钢板背面安装焊接钢筋；将预埋钢板背面的钢筋与墩柱钢筋笼焊接；将混凝土浇注至容置空间内。通过采用吊装设备将若干预埋钢板安装在新建墩柱的外侧，再将若干预埋钢板背面的钢筋与墩柱钢筋笼焊接后，浇筑混凝土，其可以增强防撞护舷与墩柱混凝土的稳定性，使得整个墩柱结构更加牢固可靠。另外，通过将若干预埋钢板与墩柱混凝土的表面设置为齐平，可以提高整个墩柱的美观性。

摘要： 本文提供了化合物，以及用于治疗将受益于所述化合物的疾病和/或病症(例如先天性肾上腺增生症(CAH))的相关制剂、组合物和方法。

摘要： 本申请公开了一种CRF的自动生成方法和装置、电子设备和存储介质，该方法包括：从临床试验方案中定位研究流程图，以生成第一四元组数据，其中，研究流程图包括周期访视信息块、访视任务信息块、以及周期访视与访视任务的关联关系信息块；基于临床实验方案的全文生成第二四元组数据；从临床实验方案中抽取方案元数据，以生成第三四元组数据，其中，方案元数据包括试验领域、试验阶段、以及适应症；对第一四元组数据、第二四元组数据、以及第三四元组数据进行融合，获得融合四元组数据；基于知识图谱和融合四元组数据生成CRF。该CRF的自动生成方法融合了多维度提取的四元组数据，可以减少人为因素导致的CRF设计缺陷，提升CRF表单生成效率。

摘要： 本发明提供一种基于XLNet‑BiGRU‑CRF模型的电子病历命名实体标准化方法、系统、存储介质和电子设备，涉及数据处理技术领域。本发明将第一Embedding词向量与若干相关三元组数据对应的第二Embedding词向量分别作余弦相似度比较，将相似度得分最高的词对应的标准实体作为目标映射实体结果；将目标映射实体结果向基准表上进行映射，获取最终的电子病历标准实体。这样检索任意医生的诊断，都不会因为习惯不同导致数据检索结果不完全；由此既保证了医生在临床中录入的速度，以及符合医生习惯，同时保障了在数据展现和统计中所有医学表征相同的不同书写方式能够被识别为具有同一种医学含义。

摘要： 本公开的基于BiLSTM‑CRF模型的车辆变道意图预测方法，遍历车辆的历史交通数据得到车辆变道意图的历史信息；对车辆变道意图的历史信息进行预处理，提取车辆变道意图特征；根据诱导性规则将车辆变道意图特征组成车辆变道意图特征序列；对车辆变道意图特征序列进行标注得到车辆变道意图特征的标签；对标签进行模糊化处理后，将车辆变道意图特征分为训练集和测试集；利用车辆变道意图特征的训练集及车辆变道意图特征的标签训练车辆变道意图预测模型的BiLSTM‑CRF模型；利用绝对性规则训练车辆变道意图预测模型的后置规则层；利用车辆变道意图特征的测试集测试车辆变道意图预测模型。能够解决高速公路车辆变道意图预测难以兼顾预测效果与可信可解释性的问题。

摘要： 本发明属于中医临床技术领域，尤其为一种基于LSTM‑CRF的中医临床医案症状命名实体抽取系统，包括LSTM‑CRF网络模型，所述LSTM‑CRF网络模型包括输入层、特征提取层、LSTM层和CRF层；所述输入层用于获取中医临床医案症状的文本信息；所述特征提取层用于对输入的文本信息的每一个字进行特征提取，并制定特征模板；所述LSTM层用于自动提取文字的特征；所述CRF层用于文字级别的序列标注，生成最优标注序列；本发明的命名实体抽取系统，利用新型的LSTM‑CRF网络模型，并将输入的词条信息分成独立的文字，并且将文字按照偏旁部首的不同进行分类，大大提升了分词和字性标记的性能，识别能力大大提高，对于复杂实体也能够较为精准的识别和标记，降低了系统的错误率。