一种新型的基于GRU注意力机制的答案选择模型

摘要

答案选择(Answer selection,AS)是问答系统设计中一个重要子任务，目前主要是使用深度学习的方法解决该问题。传统的attention机制更加偏向于后面的状态特征，基于此后来提出了内部注意力机制，从而避免出现权重分配偏差问题。但是这种模型没有对输入信息进行筛选，这会导致在候选输出隐藏状态中包含较多的噪声。本发明涉及一种用于问答系统答案选择模型的算法。包括：(1)在GRU内部注意力模型前增加一个输入门过滤掉无用信息。(2)通过使用这种新的注意力机制对问答系统中的答案选择模型做出了改进，精确度比原来基于GRU内部注意力机制模型有提高；(3)本发明提供的方法，在精确度、算法稳定度等方面有较大的改进提高，能够更好地适用于实际工程工作中。