融入多尺度特征注意力的胶囊神经网络及文本分类方法

摘要

本发明提供一种融入多尺度特征注意力的胶囊神经网络及文本分类方法，网络包括双向循环层，多尺度特征注意力层，部分连接胶囊层，类别胶囊层；多尺度特征注意力层用于将双向循环层发送的目标文本全局特征表示经过卷积窗口进行卷积操作得到多元语法特征，并对每个单词在不同尺度下的多元语法特征加权；部分连接胶囊层包括子胶囊单元与父胶囊单元，子胶囊单元接收经加权后的多元语法特征，并将信息通过路由方法路由传递到父胶囊单元，最终得到父胶囊的特征表示；类别胶囊层用于表述目标文本属于一个类别中的概率。该网络通过不同尺度的多元特征之间的注意力来精确捕获文本的多元语法特征，并避免了采用多个相似的完全胶囊层而导致的参数规模的增加。