基于可扩展动态选择与注意力机制的类别检测算法及系统

摘要

本发明提供一种基于可扩展动态选择与注意力机制的类别检测方法与系统，方法包括以下步骤：将摘要中的单个句子通过双通道融合预训练语言模型ELMo与Bi‑LSTM，分别得到第一句向量、第二句向量；通过动态选择机制筛选保留第一句向量、第二句向量中的一个设为主句向量；将摘要中所有单个句子对应的主句向量组成摘要向量序列并通过注意力网络进行加权；经注意力网络加权后的输出进入层连Bi‑LSTM网络，单个主句向量匹配上下文，过滤冗余信息进行分类，得到摘要中所有单个句子对应的文本生成概率；采用CRF对所有单个句子对应的文本生成概率进行优化表示形成标签概率序列。该方法能避免信息重复，同时，加入基于注意力的网络，解决现有类别检测方法中语义空洞问题。