一种基于GRU的递归神经网络多标签学习方法

摘要

本发明提供一种基于GRU的递归神经网络多标签学习方法，所述方法包括以下步骤：步骤S1：初始化系统参数θ＝(W,U,B)；步骤S2：输入样例计算各时刻RNN输出隐状态hT，其中，样例yi是样例xi的多标签向量，步骤S3：计算上下文向量hT以及输出层输出zi；步骤S4：计算预测输出计算损失Li，确定目标函数J；步骤S5：根据梯度下降法和BPTT算法求解θ＝(W,U,B)的梯度；步骤S6：确定学习率η，更新各权值梯度W＝W‑η·δW；步骤S7：判断神经网络是否达到稳定，如果是执行步骤S8；如果否，返回步骤S2，迭代更新模型参数；步骤S8：输出优化模型。本发明能充分利RNN获取样例的有效特征表示，提高多标签分类的准确率，并且反向传播时不容易出现梯度消失问题。