一种基于带标签约束的双向动态路由的文本分类算法

摘要

本发明提供了一种基于带标签约束的双向动态路由的文本分类算法，首先通过自注意力机制和相对位置信息编码，使得语义信息和语序信息融入到同一向量中；然后引入双向动态路由机制，同时考虑底层胶囊到高层胶囊转化多少信息，以及高层胶囊需要底层胶囊的多少信息；最后提出一种标签嵌入约束方法来代替胶囊网络中的模型重构，解决文本胶囊潜在的不合理分布情况；本发明引入了相对位置编码，解决动态路由算法忽视单词语序问题，双向的动态路由算法可兼顾到相同单词在不同类型的文本中的重要性不同的问题；提出的标签嵌入约束方法可以解决文本胶囊潜在的不合理分布的问题。