泛化性能

摘要： 近些年由于深度学习技术的介入,机械故障诊断算法也日新月异。但是现有的方法过于依赖大量数据支撑并缺乏较好的泛化能力。针对目前存在的两个问题,这里提出了一种基于多尺度卷积神经网络的全新算法(MSCNN)。该方法以轴承原始振动时序信号作为输入,为了实现预期效果,这里采取了如下三种解决思路;(1)模型使用具有一定重复率的样本数据,大幅扩充了样本数量;(2)引入多尺度卷积核进行特征提取;(3)模型根据振动信号的固有特征选择卷积核尺寸。MSCNN不仅能在少量数据下得到近乎100%的故障识别精度,还能够在不同数据集交叉中,表现出优秀的泛化性能。

摘要： 针对高炉冶炼过程的复杂、多变以及非线性等因素,提出了一种基于粒子群算法(Particleswarmoptimization,PSO)和遗传算法(Geneticalgorithm,GA)相结合来优化极限学习机(Extremelearningmachine,ELM)的高炉铁水硅含量预测模型。PSO-GA-ELM预测模型,主要是在PSO算法进行适应度值计算、粒子的速度更新和位置更新时将GA算法中的选择、交叉和变异等操作融入其中,使其输出最优的连接权值和阈值代入到ELM模型中。通过对4种不同的预测模型进行实验验证,结果表明,优化后的PSO-GA-ELM模型在进行铁水硅含量预测时的预测精度、学习能力和泛化性能均高于其他三种预测模型。

摘要： 隐马尔可夫模型(HMM)是非侵入式负荷监测常用的算法.由于电压波动与负荷自身电气特性变化等原因,负荷的测量状态如功率可能持续变化,运行过程中出现新的状态转移,但当前基于HMM的非侵入式负荷监测方法并未考虑如何处理该情况,缺乏状态辨识与功率分解的泛化能力.针对这一问题,本文提出并构建二元参数隐马尔科夫模型(BPHMM),结合DBSCAN聚类算法,基于有功功率和稳态电流对负荷状态进行聚类,降低了因电压波动和噪声数据对负荷状态聚类结果造成干扰的可能性;改进维特比算法使其考虑到HMM模型参数更新以实现对负荷状态预测泛化性能的改进;考虑到功率的随机波动性,基于极大似然估计原理构建功率计算优化模型并实现负荷的功率分解.本文采用公共数据集AMPds2对所述方法进行验证,测试算例验证了所述方法的有效性.

摘要： 在基于基础设施即服务的云服务模式下,精准的虚拟机性能预测,对于用户在众多资源提供商之间进行虚拟机租用策略的制定具有十分重要的意义.针对基于宽度学习系统(Broad learning system,BLS)的预测模型存在许多降低虚拟机性能预测准确性和效率的冗余节点,通过引入压缩因子,构建基于压缩因子的宽度学习系统,使预测结果更逼近输出样本,能够减少BLS的冗余特征节点与增强节点,从而加快BLS的网络收敛速度,提高BLS的泛化性能.

摘要： 为了提高机器人示教学习的计算效率以及泛化性能,提出了一种基于任务参数加权的动态运动基元泛化的机器人示教学习模型,主要步骤如下:运用动态运动基元模型提取多次示教运动轨迹的特征参数;在新的任务参数下,运用提取的特征参数重构特征运动轨迹;以示教任务参数与新任务参数的近似程度对特征运动轨迹进行加权叠加,生成新的运动轨迹。在Kukaiiwa机器人上的实验表明,在新的任务场景下,所提方法能够快速有效地泛化出新的运动轨迹,与已有方法相比,在计算效率及示教任务参数附近的泛化性能上有了较大的提升。

摘要： 目前说话人、环境及发音多样性仍是语音识别声学建模中需解决的主要难题,为了克服这些不利因素的影响,本文将经过三层结构优化后的卷积神经网络应用于语音识别,利用卷积神经网络的卷积不变性克服语音信号的多样性,采用更符合生物神经元特性的新型激活函数改进卷积层缓解梯度消失的问题;利用中间池化方法改进池化层、减小特征提取误差,使用卷积层代替全连接层的方式降低模型复杂度,再通过与对比方法进行多种指标评价,结果表明:本文提出的方法较对比算法在中文语音、英文语音两种数据集下平均识别错误率分别下降22.05%和20.27%。比传统卷积神经网络模型的损失值相对减小40%,在一定程度上提升了模型的泛化能力。

摘要： 依据油中溶解气体含量特征准确识别变压器故障类型,对变压器的安全运行具有重要意义。考虑深度信念网络(DBN)对样本数据中的特征提取有独特优势,采用DBN作为故障识别模型,将变压器油中溶解气体原始数据集直接输入至训练模型,并通过3种智能搜索算法对DBN中批处理、梯度下降学习率、层神经单元数3个重要参数分别进行智能寻优,解决少量原始样本数据直接输入时故障识别率不高的问题。仿真结果表明,采用布谷鸟搜索算法(CS)优化DBN模型时比粒子群搜索算法(PSO)和遗传算法搜索(GA)优化的效果更好,CS-DBN模型的故障总识别率比GA-DBN的高4.2%,比PSO-DBN的提高2.5%,同时进化效率提高56.2%;CS-DBN模型的泛化性能也比另2种更好。

摘要： 主轴热误差是影响数控机床热精度最关键的因素,为了探究主轴在变温车间中不同转速不同冷却条件下温升与热误差之间的演化规律,以一台五轴卧式加工中心的主轴为研究对象,利用思维进化算法(mind evolutionary algorithm, MEA)优化BP神经网络建立MEA-BP热误差模型,预测主轴热变形趋势。结果表明,建立的MEA-BP热误差模型,相比于传统的基于BP神经网络和遗传算法(genetic algorithm, GA)优化BP神经网络(GA-BP)建立的热误差模型,平均预测精度分别提高了63.16%和54.34%,验证了本模型在不同工况下的鲁棒性和泛化能力。

摘要： 半监督深度学习模型具有泛化能力强,所需样本数较少等特点,经过10多年的发展,在理论和实际应用方面都取得了巨大的进步,然而建模样本内部“隐含”关系时模型缺乏解释性以及构造无监督正则化项难度较大等问题限制了半监督深度学习的进一步发展。针对上述问题,从丰富样本特征表示的角度出发,构造了一种新的半监督图像分类模型—融合关系特征的半监督分类模型(semi-supervised classification model fused with relational features,SCUTTLE),该模型在卷积神经网络模型(convolutional neural networks,CNN)基础上引入了图卷积神经网络(graph convolutional networks,GCN),尝试通过GCN模型来提取CNN模型各层的低、高级特征间的关系,使得融合模型不仅具有特征提取能力,而且具有关系表示能力。通过对SCUTTLE模型泛化性能进行分析,进一步说明了该模型在解决半监督相关问题时的有效性。数值实验结果表明,三层CNN与一层GCN的融合模型在CIFAR10、CIFAR100、SVHN 3种数据集上与CNN监督学习模型的精度相比均可提升5%~6%的精度值,在最先进的ResNet、DenseNet、WRN(wide residual networks)与GCN的融合模型上同样证明了本文所提模型的有效性。

摘要： 指数移动平均(EMA)算法,通常可用于过滤由小批量梯度下降引起的噪声,提高模型鲁棒性。然而,传统EMA算法在持续训练后期,无法有效优化网络参数,深层神经网络经常出现过拟合。因此,本文提出一种以变系数Tanh为衰减函数的动态衰减EMA算法,结合SGD优化器的T-ADEMA+SGD算法,进行神经网络训练。针对MNIST、CIFAR_10、CIFAR_100数据集,采用优化器SGD训练ResNet50模型,并针对胸部X射线图像训练Vision Transformer(ViT)模型,同时采用深度卷积生成对抗网络(DCGAN)进行数据增强和基于t分布,随机邻域嵌入(t-SNE)模型用于可视化分析。实验表明,对于CIFAR_100测试集,T-ADEMA+SGD算法的准确率、精度、召回率和F值分别为74.15%、74.39%、74.15%、74.04%;而对于Kaggle COVID-19三分类图像,相应的评价指标分别为87.94%、91.19%、84.43%、86.87%,与典型算法相比,本文模型可以更好地根据训练时间,动态调整最优参数、降低噪声,具有更好的泛化性能,适用于各种常用数据集。

摘要： 极限学习机(ELM)是一种新型的单隐含层神经网络的训练方法,同传统的基于梯度的网络训练方法相比,具有快速的学习速度和更好的泛化性能.ELM在实际应用中往往需要大量的隐含层神经元,由于随机设定输入权值和偏置值,容易导致病态问题的出现.为解决上述问题,提出一种应用量子粒子群(QPSO)优化包括隐含层节点个数在内的网络参数的方法.这种优化基于验证集的均方根误差,考虑到了输入权值矩阵的范数.在典型的回归和分类问题上进行试验证明了算法的有效性.

摘要： 汽车智能化是汽车工业的发展趋势,自动驾驶是汽车智能化的集中体现.深度学习是实现自动驾驶的重要工具,应用体现在从基于视觉的交通参与者识别、多传感器信息融合到车用雷达信号处理等方面.深度学习已经在多个领域取得了成功,比如智能监控系统和语音识别应用.然而,深度学习的当前发展水平还无法满足高级自动驾驶的需要,因为自动驾驶对深度神经网络的泛化性能提出了更高要求.本文提出了一种新的深度神经网络的设计方法,目的是改进其泛化性能.首先介绍常用的改进深度神经网络泛化性能的方法;然后描述了本文提出的新的具有多个级联输出层的深度神经网络的设计方法.该神经网络的多个级联输出层构成了序列分类器,这些分类器与自适应增强算法相结合提升了神经网络的泛化性能.同时,该模型通过在分类器间共享部分网络结构节省了计算量.最后,本文通过实验证实了它的有效性和可靠性.

摘要： 为了预报海洋赤潮等灾害的发生，需要监测海水中藻类的繁殖状况。本文通过建立针对海水中叶绿素-a含量的预测模型间接预测海水中藻类的繁殖生长状况。藻类生长受海水中多种环境理化因子的作用和影响，且各种理化因子之间也存在相互关联影响，这类复杂非线性系统很难用机理模型去描述。本文运用基于数据的模糊最近邻聚类学习算法进行海水叶绿素-a含量状态的预测模型构建，并针对采样数据的特点和降低模型阶次的实际需求，设计了改进的模糊最近邻聚类学习算法。实验表明这种方法可以降低模型构造的复杂度，且使模型具有较好的泛化性能，能够有效预测海水中藻类的繁殖生长状况。

摘要： 实际中存在大量基于多分类的大样本数据集的问题。针对单一SVM解决该类问题时计算时间长、占用内存大等缺点，提出了一种分布式多分类支持向量机模型，并针对其中的子多分类SVM模型的参数选择问题，采用遗传算法来寻找具有最优性能的超参数组合，即通过最小输出编码方式，将解决多分类问题的多个二分类支持向量机整合形成单个多分类支持向量机，并把多分类支持向量机的分类正确率作为遗传算法的适应度函数，所得超参数对应的子多分类SVM模型具有较好的泛化性能。最后将分布式多分类支持向量机模型用于手写数字识别中，通过对仿真结果的对比和分析，表明该模型具有较高的精度，提高了模型的泛化能力。

摘要： 为了提高单一支持向量回归机的泛化能力，提出了一种基于Adaboost.RT的模糊支持向量回归机的集成算法。把Adaboost.RT算法中样本权重函数作为FSVM的模糊隶属度函数，采用Adaboost.RT算法的迭代过程依次形成一系列FSVM，并且使用上层SVM对底层FSVM输出进行优化集成。该算法应用于反应釜出口苯酚含量的软测量建模中，工业仿真结果表明该集成算法可以改善回归模型的估计效果，提高模型的泛化性能。

摘要： 提出了确定径向基神经网络(RBFNN)隐含层结构的APC-Ⅲ算法的改进算法。改进的算法获得了不同的径向基宽度,更少的隐含层结点数.用改进算法获取的隐含层结构来构造RBFNN,并将该RBFNN用于两个非线性系统的建模仿真.仿真结果表明由改进算法产生的RBFNN与原来的算法相比较结构简单,泛化性能更好。

摘要： 建立径向基函数(RBF)网络的关键是隐层神经元数目和隐层中心(中心向量和宽度)的确定。针对当前RBF 网络在上述参数确定，以及网络训练收敛性能和泛化能力等方面存在的缺陷，通过利用理想输出数据蕴涵的信息，以及引入减聚类算法和聚类划分方法中的迭代重定位思想，本文提出了一种混合聚类(Hybrid Clustering)算法作为RBF网络的训练方法，并将之用于4节点电网故障诊断。仿真结果表明混合聚类算法建立的RBF 网络能够以很高的准确率进行电网故障诊断。与实际应用中普遍采用的正交最小二乘算法相比，它建立的RBF网络的结构规模更小，泛化性能更好，故障诊断准确性大有提高。

摘要： 分析水华发生的主要因素,研究水华的软测量主导变量确定方法与短期预测模型,RBF神经网络基函数中心、宽度和权值的监督学习方法,基于梯度下降的误差纠正算法,提出基于RBF网络的水华软测量方法。对RBF网络隐层节点数对网络性能的作用和影响进行了分析比较,对径向基函数宽度与网络拟合能力,以及网络泛化性能进行讨论.从网络的训练和水华预测结果来看,采用RBF神经网络可以预测叶绿素的短期变化规律,基于RBF网络的水华软测量模型泛化能力强,网络预测精度高,拟合性能好,为河湖水华短期预测方法的深入研究奠定了基础。

摘要： 本发明提供一种活性能量射线固化性组合物，其特征在于，其是通过使多官能丙烯酸酯(A)与芳香族二羧酸(B)与芳香族环氧树脂(C)进行反应，接着使所得反应产物与具有聚合性不饱和基团的羧酸(D)进行反应而得到的。该活性能量射线固化性组合物在用于硬涂剂等涂料时，能够对其固化涂膜赋予高的耐擦伤性，因此作为在物品的表面形成保护膜的硬涂剂的材料是有用的。另外，在用于印刷墨时，能够对该墨赋予高的防雾性，能够对其固化涂膜赋予对基材的高密合性和高耐溶剂性，因此作为平版墨、凹版墨等各种印刷墨用的粘结剂是有用的。

摘要： 本发明提供一种活性能量射线固化性组合物，其特征在于，其是通过使多官能丙烯酸酯(A)与芳香族二羧酸(B)与芳香族环氧树脂(C)进行反应，接着使所得反应产物与具有聚合性不饱和基团的羧酸(D)进行反应而得到的。该活性能量射线固化性组合物在用于硬涂剂等涂料时，能够对其固化涂膜赋予高的耐擦伤性，因此作为在物品的表面形成保护膜的硬涂剂的材料是有用的。另外，在用于印刷墨时，能够对该墨赋予高的防雾性，能够对其固化涂膜赋予对基材的高密合性和高耐溶剂性，因此作为平版墨、凹版墨等各种印刷墨用的粘结剂是有用的。

摘要： 本发明属于图像信息处理技术领域，针对提升遥感网络准确度和泛化性的问题，提供了一种强泛化性的遥感图像目标识别方法。使用特征提取主干与多个预测分支的结构。在对有监督的数据进行训练时，我们将不同预测分支的特征通过余弦相似度的方式进行分离增加多样性，在后续的训练过程中获取无监督图像的真值，使最终的预测准确度和泛化性均得到提升。本发明的遥感图像目标识别泛化性增强方法，利用了半监督的方法通过大量无标签数据的训练增强网络特征提取能力，目前存在的蒸馏方法不能有效解决训练网络泛化性低的问题，本发明的一致性轮次学习方法有效的解决了这个问题，本发明方法能够提升识别网络的准确度和泛化性。

摘要： 本发明涉及人工智能技术，揭露了一种提升模型泛化性的方法，包括：获取图片集，对所述图片集进行归一化处理，得到样本集，并将样本集均分为N个子样本集；利用预设的图片识别模型提取每个子样本集的特征向量集，计算每个子样本集的特征向量集的均衡性分数；利用均衡性分数计算维度均衡约束损失值；利用维度均衡约束损失值优化图片识别模型的损失值，得到更新后的损失值，利用更新后的损失值迭代优化图片识别模型的参数，直至得到训练好的图片识别模型。此外，本发明还涉及区块链技术，图片集可存储于区块链的节点。本发明还提出一种提升模型泛化性的装置、电子设备以及存储介质。本发明可以提高模型的泛化性。

摘要： 本公开的一方面涉及一种图像相似度匹配的方法，包括获取页面的截图，所述页面上包括对象序列和图片，所述对象序列包括多个对象，并且所述图片中至少包括与所述对象序列中的每个对象相对应的多个图标；在所述页面的截图上进行目标检测，以获得所述多个对象和所述多个图标；基于特征提取来确定所述多个对象和所述多个图标的特征向量；以及基于对所述特征向量之间的距离度量的比较，确定每个对象与图标的配对关系。本公开还涉及其他相关方面。

摘要： 本发明提出一种面向功率放大器的深度神经网络泛化性建模方法，属于无线通信技术领域；首先，采集不同带宽和功率水平的数据，并调制到具有K个子载波的OFDM系统上生成OFDM信号，经过采样得到采样信号，并基于云边协同上传至云端；然后，对各OFDM信号的相应带宽和功率水平进行one‑hot编码，并通过全连接神经网络层，标记输出为各自的编码向量；基于此构建DNN模型；并利用采集的不同带宽和功率水平的数据，对DNN模型进行训练，实现基于多种状态数据的泛化性建模；本发明实现了对多组带宽、功率水平的功率放大器信号进行建模，避免了当存在不同带宽、功率条件的OFDM信号时需要针对性的逐一训练网络模型的问题，减少了需要建模的数量，大大提高了建模效率。

摘要： 本申请提供一种医学影像诊疗产品的跨设备泛化性的检测方法及相关设备。该方法包括：获取医学影像设备输出的初始数据集；将初始数据集分别输入至少两个经过训练的数据风格迁移模型中，经由每个数据风格迁移模型输出相应风格的生成数据集；将全部生成数据集中的每一个生成数据集分别输入医学影像诊疗产品中，得到每个生成数据集对应的诊断结果；对全部诊断结果进行对比分析，得到医学影像诊疗产品的跨设备泛化性的检测结果。能够在保证输出生成数据集的风格在尽可能接近新风格的前提下，尽可能扩大输出的生成数据集的风格与初始数据集风格的不同，解决了医学影像领域中数据短缺的问题，同时可以很好地检测医学影像诊疗产品的诊断泛化性。

摘要： 本发明公开了一种提高DNN模型泛化性能的语音增强方法，所述方法包括：步骤1)将原始带噪语音当前帧能量平均值与训练集能量平均值之间的比值作为当前帧增益，根据调整后的当前帧增益对原始带噪语音的当前帧幅度进行调整；步骤2)提取调整幅度后的带噪语音的特征并输入预先用训练集训练好的DNN模型中，估计纯净语音对数谱和噪声对数谱；步骤3)利用IRM后处理对纯净语音对数谱进行二次估计；步骤4)利用二次估计后的纯净语音对数谱和带噪语音的相位通过重叠相加法得到时域信号，并对此时域信号进行幅度调整反变换，最终估计出纯净语音时域信号。本发明的方法能够提高DNN模型在与训练集能量不匹配场景下的泛化能力，计算复杂度低，应用范围广。

摘要： 本发明公开了一种能够实现KI67病理图像神经网络模型泛化性能的方法。包括第一步，整理现有标注数据，将一单一来源的数据作为源域，将其他数据作为入侵域；第二步，在源域数据集上训练模型直至收敛；第三步，将上述提到的源域数据和入侵域数据合并为混合域；第四步，将训练数据中的源域数据替换为混合域，继续训练已收敛的模型；第五步，观察模型权值变化并据此进行模型剪枝；第六步，用混合域数据对剪枝后的模型进行微调；第七步，评估与测试以及结果可视化。该方法将不同的来源的数据划分为源域和入侵域，并在将源域替换为入侵域的过程中，衡量模型权重对于域变换的敏感程度，丢弃域特有特征对应的权重，提高模型在不同来源数据上的泛化性能。

摘要： 本发明公开了一种提高DNN模型泛化性能的语音增强方法，所述方法包括：步骤1)将原始带噪语音当前帧能量平均值与训练集能量平均值之间的比值作为当前帧增益，根据调整后的当前帧增益对原始带噪语音的当前帧幅度进行调整；步骤2)提取调整幅度后的带噪语音的特征并输入预先用训练集训练好的DNN模型中，估计纯净语音对数谱和噪声对数谱；步骤3)利用IRM后处理对纯净语音对数谱进行二次估计；步骤4)利用二次估计后的纯净语音对数谱和带噪语音的相位通过重叠相加法得到时域信号，并对此时域信号进行幅度调整反变换，最终估计出纯净语音时域信号。本发明的方法能够提高DNN模型在与训练集能量不匹配场景下的泛化能力，计算复杂度低，应用范围广。