对抗训练

摘要： 将对抗样本引入训练过程可以提高深度学习模型的鲁棒性,而且能为模型提供可解释的梯度,但这一防御策略往往需要较多的计算资源和时间成本.为提升训练模型效率和鲁棒性,同时降低训练成本,提出一种基于随机扰动的对抗训练方法:首先利用基于FGSM(Fast Gradi-ent Sign Method)的随机扰动方法生成对抗样本;其次,所提出算法的优越性;最后,利用周期性学习率和Adam(Adaptive Moment Estimation)相结合方法更新学习率.实验结果表明,通过引入周期性学习率机制,整个对抗训练过程的稳定性和拟合效果有了显著提升,所提出的训练方法能降低训练成本和提高模型的性能.

摘要： 为深入贯彻总队党委关于进一步加快推进“提质强能”步伐,促进快反分队发展,全面提升队伍综合救援能力的指示要求。春节刚过,吉林省森林消防总队特勤大队结合《吉林省森林消防总队特勤大队和快反分队对抗训练方案》和《特种救援分队教育训练大纲》,奏响了新阶段的练兵号角。大队积极贯彻“练为战”的思想,坚持“以考促学、以考促训、以考促战”,不断夯实体能、技能基础。大队立足营区现有条件,主要从基础体能、灭火专业技能、地震救援专业技能、山岳绳索救援四个方面开展训练。在训练过程中,大队以分队对抗形式从严从难开展,充分发挥队员的积极性和主动性,营造出了“比、学、赶、帮、超”的良好氛围,真正做到了训有成效。

摘要： 深度学习模型依赖大量带类标的数据作为训练数据,实际应用的各种无线电环境中收集并标记无线电信号需要消耗大量的人力物力,极大地限制了深度学习模型在无线电信号识别中的应用。目前针对数据量不足带来的问题,研究者们主要采用数据增强的方法,即根据一些先验知识,在保持已知信息的前提下,对原始数据进行适当变换达到扩充数据集的效果。具体到分类任务,在保持数据类别不变的前提下,可以对训练集中的每个样本进行变换,如在一定程度内的随机旋转、缩放、裁剪、左右翻转等,这些变换对应着同一个目标在不同角度的观察结果,并且增强效果有限。此外,深度学习作为一个非常复杂的方法,会面对各种安全问题。深度神经网络很容易受到对抗样本的攻击,攻击者可以通过向良性数据中添加特定的扰动,生成对抗样本,使DNN模型出错。虽然这些伪造的样本对人类的判断没有影响,但是对于深度学习模型来说是一个致命性的误导。聚焦到深度学习领域,本论文提出一种针对无线电信号分类的对抗增强方法,将对抗训练方法引入信号领域,通过控制eps、iteration参数,在数据集中添加算法精心设计的细微扰动生成靠近决策边界面的边界样本实现数据增强,将边界样本与训练样本混合,重新训练识别模型,在提升模型识别精度的同时,提升模型的防御能力。最终在多个分类模型、多个实际无线电信号数据集上的分类性能都有显著的提高,同时防御性能也显著增强,验证了本文提出的信号增强识别方法的有效性。

摘要： 联邦学习方法打破了数据壁垒的瓶颈,已被应用到金融、医疗辅助诊断等领域。但基于对抗样本发起的对抗攻击,给联邦学习模型的安全带来了极大的威胁。基于对抗训练提高模型鲁棒性是保证模型安全性的一个较好解决办法,但目前对抗训练方法主要针对集中式机器学习,并通常只能防御特定的对抗攻击。为此,提出了一种联邦学习场景下,增强模型鲁棒性的对抗训练方法。该方法通过分别加入单强度对抗样本、迭代对抗样本以及正常样本进行训练,并通过调整各训练样本下损失函数的权重,完成了本地训练以及全局模型的更新。在Mnist以及Fashion_Mnist数据集上开展实验,实验结果表明该对抗训练方式极大地增强了联邦模型在不同攻击场景下的鲁棒性,该对抗训练基于FGSM以及PGD展开,且对FFGSM,PGDDLR和BIM等其他攻击方法同样有效。

摘要： 深度学习技术在图像识别、自然语言处理、金融预测等领域具有广泛应用,其分析结果一旦存在偏见将给个人和群体带来负面影响,因此在保障深度学习模型的性能不受影响的前提下提高模型的公平性至关重要。针对数据的偏见信息不只是敏感属性,属性之间的关联性使非敏感属性也会带有偏见信息,因此只考虑敏感属性的去偏算法依然存在偏见问题。为了消除数据中关联属性的敏感信息对深度学习的分类结果带来偏见,提出一种基于生成式对抗网络的数据去偏方法,模型的损失函数结合公平性约束及准确性损失两种约束优化,利用对抗式编码消除偏见信息,生成去偏数据集;并通过生成器与判别器的交替博弈训练,减少数据集无偏信息的损失,在保证主任务分类准确率的同时消除数据中的偏见,从而提高后续分类任务的公平性。最终,在多个真实数据集上展开数据去偏实验,验证了该去偏算法的有效性。

摘要： 事件抽取是抽取冗余非结构化文本中重要事件要素的关键技术,可用于重要信息的结构化存储与获取。常用的事件抽取方法如CRF存在事件要素抽取断裂,模型泛化能力弱的问题。为解决上述问题,本文提出基于预训练模型BERT的双向长短时记忆和SPAN指针网络混合模型(BERT-BiLSTM-SPAN),用于非结构化事件文本中的要素抽取。预训练模型BERT用于获取突发事件CEC数据集的语义嵌入特征向量,语义嵌入特征向量作为BiLSTM-SPAN网络的输入完成事件要素的提取并利用指针结构减少要素断裂。为增强模型的泛化能力,在BERT-BiLSTM-SAPN训练过程中加入对抗训练及使用标签平滑损失函数。实验结果表明,本文所提出的BERT-BiLSTM-SPAN算法在精准率、召回率、F1三个指标上较BERT-BiLSTM-CRF模型分别平均提高5.02%、14.63%、9.80%。

摘要： 生成对抗网络(generative adversarial network,GAN)作为深度学习下无监督学习的典型方法,使用深度学习的计算机辅助诊断系统目前已经覆盖病灶检测、病理诊断、放疗规划和术后预测等各临床阶段,在医学图像领域取得了许多显著的成果。首先介绍了医学图像领域存在的基本问题,并简单介绍了生成对抗网络模型的基本含义和对抗过程。其次总结了基于生成对抗网络模型的方法在低剂量CT降噪、脑肿瘤分割、视网膜和神经元图像合成以及欠采样MR图像重建等方面的一些应用。最后给出了生成对抗网络模型的不足和未来研究方向。

摘要： 为提高传统命名实体识别模型在中文电子病历上的准确性,提出一种在基线模型BERTBiLSTM-CRF中加入对抗训练的方法,该方法在词嵌入层添加扰动因子从而生成对抗样本,并利用对抗样本进行迭代训练,从而优化模型参数。CCKS2021评测数据集实验结果表明,加入FGM和PGD两个对抗训练模型后,其精准率、召回率以及F_(1)值相比于基线模型均有所提升。并且通过对比实验,验证了加入对抗训练能够提高模型的预测能力和鲁棒性。

摘要： 随着深度学习的兴起,深度神经网络被成功应用于多种领域,但研究表明深度神经网络容易遭到对抗样本的恶意攻击。作为深度神经网络之一的卷积神经网络(CNN)目前也被成功应用于网络流量的分类问题,因此同样会遭遇对抗样本的攻击。为提高CNN网络流量分类器防御对抗样本的攻击,本文首先提出批次对抗训练方法,利用训练过程反向传播误差的特点,在一次反向传播过程中同时完成样本梯度和参数梯度的计算,可以明显提高训练效率。同时,由于训练用的对抗样本是在目标模型上生成,因此可有效防御白盒攻击;为进一步防御黑盒攻击,克服对抗样本的可转移性,提出增强对抗训练方法。利用多个模型生成样本梯度不一致的对抗样本,增加对抗样本的多样性,提高防御黑盒攻击的能力。通过真实流量数据集USTC-TFC2016上的实验,我们生成对抗样本的网络流量进行模拟攻击,结果表明针对白盒攻击,批次对抗训练可使对抗样本的分类准确率从17.29%提高到75.37%;针对黑盒攻击,增强对抗训练可使对抗样本的分类准确率从26.37%提高到68.39%。由于深度神经网络的黑箱特性,其工作机理和对抗样本产生的原因目前没有一致的认识。下一步工作对CNN的脆弱性机理进行进一步研究,从而找到更好的提高对抗训练效果的方法。

摘要： 近年来的研究表明,对抗训练是一种有效的防御对抗样本攻击的方法.然而,现有的对抗训练策略在提升模型鲁棒性的同时会造成模型的泛化能力下降.现阶段主流的对抗训练方法通常都是独立地处理每个训练样本,而忽略了样本之间的关系,这使得模型无法充分挖掘样本间的几何关系来学习更鲁棒的模型,以便更好地防御对抗攻击.因此,重点研究如何在对抗训练过程中保持样本间的几何结构稳定性,达到提升模型鲁棒性的目的.具体而言,在对抗训练中,设计了一种新的几何结构约束方法,其目的是保持自然样本与对抗样本的特征空间分布一致性.此外,提出了一种基于双标签的监督学习方法,该方法同时采用自然样本和对抗样本的标签对模型进行联合监督训练.最后,分析了双标签监督学习方法的特性,试图从理论上解释对抗样本的工作机理.多个基准数据集上的实验结果表明:相比于已有方法,该方法有效地提升了模型的鲁棒性且保持了较好的泛化精度.相关代码已经开源:https://github.com/SkyKuang/DGCAT.

摘要： 探索海军作战指挥对抗训练评估系统的设计和实现方法,研究海军作战指挥训练的评估机制和评估方法,对改进海军首长机关指挥对抗训练评估手段,提升训练质量效益具有重要意义.通过对训练评估系统的特点、以及建设目标、设计思路、功能定位的分析,明确了系统的体系结构、功能组成、信息交互关系等具体要求,对各分系统的功能和具体模块进行了描述,为系统设计和实现提供了依据和参考.

摘要： 介绍了国内外坦克训练模拟器的发展现状.针对某型坦克,提出了对抗训练模拟系统的一种设计方案,探讨了对抗训练模拟系统的硬件设计、软件设计以及相应的科目设置.为坦克训练模拟装置的研究开发提供了一种新的思路.

摘要： 该文运用作战模拟的理论和方法，并结合他院多年来指挥所对抗推演数学，讨论了在高技术条件下对抗训练模拟系统的特点和作用。

摘要： 人工智能系统面临着来自物理世界的对抗性欺骗攻击的威胁,人工智能算法对这种攻击十分敏感.以目标识别为例,攻击者在样本数据上添加十分微小的扰动,即可达到降低目标识别准确率甚至有目标地诱导识别结果的目的.如何有效抵御对抗样本威胁成为业界的一个研究热点.文章重点研究了基于随机对抗训练的智能计算模型安全加固技术和基于变分自编码器的异常样本修复技术,针对对抗样本攻击进行事前主动加固和事后及时修复,结合“主动+被动”的理念实现人工智能算法的安全增强,确保人工智能技术安全、可靠地落地应用.

摘要： 针对训练中电磁威胁信号环境模拟逼真度评估问题,基于层次分析方法剖析了评估因子,将电磁威胁信号参数分为有限值型、区间值型和综合值型,分别给出了对象映射逼真度、合成模拟逼真度、集成构设逼真度计算方法,对模型中的权重进行解析研究,最后以雷达威胁信号环境构设评估为例,描述了评估应用流程.

摘要： 针对训练中电磁威胁信号环境模拟逼真度评估问题,基于层次分析方法剖析了评估因子,将电磁威胁信号参数分为有限值型、区间值型和综合值型,分别给出了对象映射逼真度、合成模拟逼真度、集成构设逼真度计算方法,对模型中的权重进行解析研究,最后以雷达威胁信号环境构设评估为例,描述了评估应用流程.

摘要： 针对训练中电磁威胁信号环境模拟逼真度评估问题,基于层次分析方法剖析了评估因子,将电磁威胁信号参数分为有限值型、区间值型和综合值型,分别给出了对象映射逼真度、合成模拟逼真度、集成构设逼真度计算方法,对模型中的权重进行解析研究,最后以雷达威胁信号环境构设评估为例,描述了评估应用流程.

摘要： 针对训练中电磁威胁信号环境模拟逼真度评估问题,基于层次分析方法剖析了评估因子,将电磁威胁信号参数分为有限值型、区间值型和综合值型,分别给出了对象映射逼真度、合成模拟逼真度、集成构设逼真度计算方法,对模型中的权重进行解析研究,最后以雷达威胁信号环境构设评估为例,描述了评估应用流程.

摘要： 针对训练中电磁威胁信号环境模拟逼真度评估问题,基于层次分析方法剖析了评估因子,将电磁威胁信号参数分为有限值型、区间值型和综合值型,分别给出了对象映射逼真度、合成模拟逼真度、集成构设逼真度计算方法,对模型中的权重进行解析研究,最后以雷达威胁信号环境构设评估为例,描述了评估应用流程.

摘要： 对抗性训练是军事训练中高层次的训练科目,训练环境要通过营造虚拟战场环境来实现,其中,电磁空间是敌我双方为争夺制信息权而相互对抗的主要战场。电磁空间模拟重点要面向电磁环境和对抗目标两个主要方向;复杂电磁环境模拟要突出干扰反干扰的剧烈对抗过程;电磁频谱分布要以环境监测为基础,结合民用频带管规定合理分配资源;电磁空间特性要认真分析各频段特点,真实仿真出电波在空间中的各种传输特性。

摘要： 本说明书中的实施例公开了对抗补丁生成、检测模型训练、对抗补丁防御方法及系统。所述对抗补丁生成方法包括：检测对抗样本和目标人脸图像中的特征点，基于对抗样本各感兴趣区域的特征点集合和目标人脸图像各感兴趣区域的特征点集合，计算对抗样本与目标人脸在感兴趣区域上的区域相似度，调节对抗样本中的对抗补丁以至少增加所述区域相似度。相应地，可训练出能够检测人脸图像中是否包含按上述方法生成的对抗补丁的检测模型，以保证人脸识别结果的可靠性，例如可避免用户身份被冒充后用户财产和/或隐私的泄露。

摘要： 本发明提出一种基于生成式对抗网络的对抗攻击防御训练方法，包括:S1.将真实样本图像数据xreal的类别定义，并进行标准化处理；S2.建立防御训练框架；S3.生成随机噪声Z及生成随机条件向量Cfake；S4.将随机噪声Z及随机条件向量Cfake输入至防御训练框架中的生成器；S5.将标准化处理后的真实样本图像数据及其类别creal输入至攻击算法库；S6.对防御训练框架进行防御训练，保存训练后的防御训练框架参数；S7.训练完成，舍弃生成器和攻击算法库，保留判别器。本发明提出的方法克服了传统用于对抗攻击防御训练的方法如使用附加网络，具有加重工作量的弊端，本发明提出的方法具有较高鲁棒性。

摘要： 本公开涉及用于训练并使用生成式对抗网络的系统和方法。在一个实施方式中，一种训练生成式对抗网络的系统可以包括：至少一个处理器，其可以：提供第一多个图像，所述第一多个图像包括感兴趣特征的表示以及感兴趣特征的位置的指示符；并且利用第一多个图像和指示符来训练对象检测网络。此外，所述一个或多个处理器还可以：提供包括所述感兴趣特征的表示的第二多个图像，以及将经训练的对象检测网络应用于所述第二多个图像，以产生感兴趣特征的多个检测。此外，所述一个或多个处理器还可以：提供关于多个检测对真阳性和假阳性的手动设置的验证；利用验证来训练生成式对抗网络；以及利用至少另一组图像、进一步的检测和进一步手动设置的验证来重新训练生成式对抗网络。

摘要： 本发明提出一种具有反击对抗能力的智能对抗靶标机器人及射击训练系统，该智能靶标机器人是一种不依赖于固定轨道的可实弹射击的自主行驶训练设备，能够通过卫星定位的方式自动感知射手的精确位置，并通过图像与三维激光雷达相结合的方式捕获、锁定和跟踪目标射手，具有激光发射装置，结合射手身上的激光接收装置，能够对射手进行战术反击；而且设计了具有中弹受伤程度的判别策略、中弹显示策略、对抗强度策略、作战方式策略、攻击策略、路线选择策略、自主躲避策略、射击方式策略等多种对抗策略，并能通过策略分支组合使用的方式提供丰富的对战场景。

摘要： 一种物理对抗攻击方法、物理对抗攻击模型训练方法及装置，训练方法包括：获取训练样本数据集，其中，训练样本数据集包括数字图像及基准图像，数字图像包括真实标签；将数字图像及基准图像输入待训练的物理对抗攻击模型，输出对抗损失值、分类标签及攻击损失值；基于对抗损失值及攻击损失值优化物理对抗攻击模型的网络参数；以及输出网络参数满足预设条件时对应的物理对抗攻击模型。本发明的物理对抗攻击模型训练方法可以实现保留在将数字对抗图像部署到现实世界的过程中对抗信息的丢失，使对抗图像保留对抗性的效果。

摘要： 本发明提供了一种基于生成对抗网络模型的水下图像修复方法和生成对抗网络模型的训练方法，属于水下图像处理技术领域。生成对抗网络模型包括生成器网络和判别器网络，生成器网络包括依次设置的编码器网络块、特征转换网络块以及解码器网络块，生成器网络和判别器网络均包括多个BN层和PReLU层；在训练时，生成器网络中的编码器网络块和解码器网络块之间还设置有剩余路径网络块。本发明通过在编码器网络块和解码器网络块之间并添加了剩余路径网络块，增强生成器的细节特征提取能力，缓解了编码器低级特征与解码器高级特征之间的语义差异，避免了编码器下采样过程中的细节丢失，使得增强后的图像细节纹理更清晰。

摘要： 本发明公开了一种基于显著性对抗训练的对抗样本防御方法，包括：利用投影梯度下降法生成对抗样本；利用可解释性方法获取模型对于对抗样本的显著图；将显著图划分为预设数量的小块样本，并计算每个小块样本的平均显著值，每个小块样本根据对应位置的平均显著值进行JPEG压缩；将显著性压缩后的对抗样本作为训练数据进行对抗训练。在测试时，将显著性压缩后的样本输入模型进行识别。该方法提升模型的对抗鲁棒性，提升模型对于对抗样本的识别准确率。

摘要： 本发明请求保护一种基于对抗训练的文本通用对抗防御方法及系统，属于人工智能自然语言处理领域。用于增强基于深度神经网络的文本分类模型对于通用对抗攻击的鲁棒性。获取文本分类的数据集，将数据集分为训练集、验证集和测试集，并随机初始化文本分类模型的参数和全局唯一的通用对抗扰动序列；在神经网络模型的训练过程中，首先初始化一个全局唯一的通用对抗扰动序列，然后将该扰动序列随机添加到一个批次的训练数据中，最后在更新模型参数的同时更新扰动序列，迭代训练直至模型收敛。本发明证明以对抗训练为基础的对抗防御方法不仅可以降低对抗训练的计算成本，而且可以提升模型的鲁棒性和性能。

摘要： 基于对抗训练和对比学习的中文多模态对抗样本防御方法包括：对文本数据集进行预处理；将训练集中每个批次的样本依次输入进原始防御模型中执行前向计算得到每批次样本的样本向量；计算当前批次样本在原始防御模型损失函数下的梯度及对抗扰动生成对抗样本；将对抗样本输入到原始防御模型中得到当前批次对抗样本的特征向量；改造损失函数，通过损失函数最小化训练原始防御模型；训练得到当前批次样本的改进防御模型，选取在验证集上表现最好的改进防御模型作为最终防御模型。本方法针对中文拼写检测性能有限且无法并行化运行，运行速度慢的问题，改进融合中文字音、字形、字义信息的多模态ChineseBERT模型，使其能够更好地防御真实环境中的中文对抗样本攻击。

摘要： 基于N+1类对抗训练的信号对抗样本检测器设计方法，包括：(S1)：对输入的信号数据集进行预处理；(S2)：构建信号分类深度学习模型并训练；(S3)：使用FGSM攻击算法攻击生成对抗信号样本；(S4)：合对抗信号样本与原始训练集构成新的训练集；(S5)：使用新训练集训练得到N+1分类的新模型；(S6)：测试新分类模型的检测准确率。本发明还包括实施基于N+1类对抗训练的信号对抗样本检测器设计方法的系统，由数据预处理模块、深度学习模型训练模块、对抗样本生成模块、数据集构建模块和模型重训练模块组成；本发明可以利用对抗训练将对抗信号样本作为单独一类扩充分类模型，达到检测对抗信号样本的目的。