一种基于对抗训练的文本通用对抗防御方法及系统

摘要

本发明请求保护一种基于对抗训练的文本通用对抗防御方法及系统，属于人工智能自然语言处理领域。用于增强基于深度神经网络的文本分类模型对于通用对抗攻击的鲁棒性。获取文本分类的数据集，将数据集分为训练集、验证集和测试集，并随机初始化文本分类模型的参数和全局唯一的通用对抗扰动序列；在神经网络模型的训练过程中，首先初始化一个全局唯一的通用对抗扰动序列，然后将该扰动序列随机添加到一个批次的训练数据中，最后在更新模型参数的同时更新扰动序列，迭代训练直至模型收敛。本发明证明以对抗训练为基础的对抗防御方法不仅可以降低对抗训练的计算成本，而且可以提升模型的鲁棒性和性能。