基于自注意力的迁移表示学习的国家关系研判

摘要

针对军事领域国家关系研判的特殊性以及标注文本不足等问题,结合最新文本编码解码算法,提出了一种基于双向语义表征模型(BERT)和双向长短时记忆网络(Bi-LSTM)的国家关系研判算法。该算法以字、字位置、语义块及词性作为输入特征,通过军事领域迁移表示学习编码模块和军事领域特征解码模块,实现国家关系研判。首先,通过BERT算法编码字、字位置及语义块特征,得到军事文本通用领域语义编码向量;然后,通过Word2Vec算法编码词性特征,构建空间映射层以消除空间不一致性,实现文本统一编码输出;最后,通过军事领域特征解码模块实现了文本特征解码,并叠加分类层以完成国家关系研判。试验结果表明,该算法在准确率、召回率和F1值上表现较佳。