过拟合

摘要： 准确的短时交通流预测在智慧交通系统中至关重要.近年来,双向长短时记忆网络(BiLSTM)被广泛地应用于短时交通流预测中,但由其结构特点,易产生过拟合现象,从而影响预测精度.鉴于宽度学习系统(BLS)能够解决过拟合的问题,本文将深度学习与宽度学习相结合.进一步地,为减少噪声对车流量数据的干扰,引入变分模态分解(VMD)进行降噪处理,提出VMD-BiLSTM-BLS短时车流量预测模型.本文以PeMS交通流数据为例,进行预测分析.结果表明:与基线模型、消融模型和现有模型进行对比,本文模型预测精度均表现最佳,能够更好的反应路口短时交通流的状况.

摘要： 在对煤自然发火程度预测的方法中,采用径向基(RBF)神经网络预测煤自燃的方法容易发生局部最优、结构冗杂现象,采用支持向量机(SVM)预测会由于Mercer条件的限制导致其核函数对参数反应敏感,常规的机器学习方法存在较大误差,因此引入以相关向量机(RVM)为基础进行预测。结合晋能控股集团四老沟煤矿实际生产情况,对煤自燃升温过程进行数值模拟,并构建样本。以训练样本为基础建立相关向量机(RVM)模型,获得模型最佳参数;在已训练的模型中代入测试样本,对煤自燃温度进行预测。通过对比SVM和RBF预测方法,结果证明:采用SVM和RBF神经网络预测煤自燃的方法虽然训练误差不大,但是测试误差较高,具有“过拟合”问题,泛化能力不高,而采用RVM预测方法,其测试误差和训练误差二者相对接近,而且具有最高的预测精度。

摘要： 为了解决最小二乘估计(least squares estimation,LSQ)算法在处理高维度数据模型式时易产生模型过拟合、预报精度不高等问题,采用LASSO算法(least absolute shrinkage and selection operator)对附有周期项的二次多项式模型进行整体求解,分析6,12,18,24 h预报精度。结果表明,LASSO算法能有效避免模型参数求解的过拟合问题,极大提高二次多项式模型的预报精度,随着预报时间增加,LASSO算法优势愈加明显。

摘要： 卷积神经网络(CNN)是目前基于深度学习的计算机视觉领域中重要的研究方向之一。它在图像分类和分割、目标检测等的应用中表现出色,其强大的特征学习与特征表达能力越来越受到研究者的推崇。然而,CNN仍存在特征提取不完整、样本训练过拟合等问题。针对这些问题,介绍了CNN的发展、CNN经典的网络模型及其组件,并提供了解决上述问题的方法。通过对CNN模型在图像分类中研究现状的综述,为CNN的进一步发展及研究方向提供了建议。

摘要： 以雅砻江岷江和嘉陵江为研究流域,采用K-最近邻(KNN)算法模拟生成130年的气象数据,并采用SWAT模型计算各流域出口水文站的径流过程;然后分别以前5年、10年、20年、40年和80年的降雨和径流数据对网络进行训练,以最后50年数据作为验证。主要结果表明:LSTM网络的学习能力随着神经元数量增加不断提高,但对水文序列数据的学习则存在过拟合严重的问题;增加训练数据量,可以有效地降低LSTM网络过拟合现象。

摘要： 脊柱退化性疾病,作为脊柱外科中最常见的疾病脊椎疾病,其发病正呈现年轻化的趋势。磁共振成像作为一种非侵入式检查手段,凭借对软组织成像好、无辐射、对肌肉骨骼疾病的特异性和敏感度较高等优点,在临床上被用于脊椎疾病的诊断。该文提出了一种基于深度残差网络的脊椎病核磁共振图像人工智能分类模型,能够帮助医生实现早期的脊柱退化性疾病筛查,帮助患者尽早得到正确有效的治疗。据实验结果表明,该模型不仅可以获得比传统神经网络深度学习算法更高的脊椎疾病识别率,还可以比传统神经网络深度学习算法提高35%到85%的计算效率并节省70%以上的内存占用。这一点使得该算法能够适应于资源有限的移动终端和对延迟要求比较高的医疗场景。

摘要： 针对红外热图像的纹理不清晰、对比度低和背景复杂的特点,本文提出了一种基于YOLOv4-tiny的轻量级电力设备红外目标检测网络。采用CIoU损失函数并结合标签平滑策略,对网络模型进行训练,以抑制网络训练过程中的过拟合问题,提升网络的泛化能力。实验结果表明,该算法在七类电力设备红外图像数据集上进行训练测试,检测精度达到90.12%,实时检测速度达到50FPS(on Tesla T4 GPU),相比于原YOLOv4-tiny,在检测速度上有较小的牺牲,但是检测精度有所提升,且明显高于现在的主流模型YOLOv3-tiny和YOLOv4,满足了复杂场景下电力设备检测任务的精度与实时性要求。

摘要： 为了解决深度学习模型在小数据集或存在长尾效应的数据集上训练存在过拟合的问题,提出在训练模型的过程中加入随机扰动,并提出了随机扰动模块(Random Perturb Module,RPM)。RPM模块首先计算输入特征的均值ζ,然后使用均值为0、方差为ζ/C的正态分布向网络提取的特征图中加入随机扰动。所提方法在CTSRD中国交通标志数据集和GTSRB德国交通标志数据集上的识别精度分别达到了96.9%和99.4%,同时相比原有模型,所提方法有效抑制了在CTSRD数据集上训练导致的过拟合现象,在PASCAL VOC 2012数据集上,基于残差网络的SSD模型和YOLOv3模型分别获得了10.7%和1.2%的mAP精度提升。实验证明,所提方法可以有效抑制模型过拟合,并在一定程度上提高模型的预测精度。

摘要： Xception模型的训练精度很高,但预测精度不是很高,即出现模型训练过拟合现象,文章对该模型结构做了进一步的优化改进,将改进后的模型应用于垃圾图片分类,实验结果显示优化改进的模型虽然训练精度有所降低,但预测精度比原始的Xception模型有所提高,在一定程度上纠正了过拟合现象。

摘要： 针对哪种类型神经网络对航空发动机剩余寿命预测结果更为准确的问题,采用对不同神经网络预测结果比较的方法,通过搭建双向长短时记忆网络预测模型的实验,对网络结构进行过拟合优化和对数据进行预处理后代入模型进行计算,再对长短时记忆网络的结果进行比对。结果表明,双向长短时记忆网络预测效果要比长短时记忆网络有更好的预测能力。

摘要： 利用神经网络进行光电轴角编码器的误差补偿,是一种新的编码器误差修正技术。在利用径向基函数网络(RBF)建立非线性模型对编码器的长周期误差进行修正时,实验数据中的随机噪声会造成过拟合现象的产生,影响模型的补偿效果。针对RBF网络的过拟合现象,分别采用滑动平均法与异常点剔除法对实验数据进行预处理以减小随机噪声的影响。实验表明,使用径向基神经网络进行误差补差可以将编码器的系统精度提高至3倍以上,在此基础上对建模数据进行预处理,可以进一步优化网络性能,使得编码器的系统精度在原有基础上得到进一步的改善,验证了方法的有效性。

摘要： 实验数据的非线性建模,是对各种仪器、设备的性能进行校正和补偿的基础.讨论了神经网络非线性建模时数据中的噪声成分造成的过拟合现象以及对模型精度的影响,针对RBF网络给出了2种提高建模精度的方法:建模数据预处理法和网络参数优化法.在数据预处理方法中,根据建模样本的特点,分别采用滑动平均法和灰色模型法对原始建模数据进行修正,并分析了它们的适用场合;对于后一种方法,选择径向基函数分布宽度和学习目标进行优化.以精密平台为例进行了实验,通过对其定位误差的测量、建模和预测,证明了上述各种方法的有效性,特别是后一种方法,可以得到非常高的建模精度。

摘要： 支持向量机(SVM)算法是特别适合于用有限已知样本训练建模,进而预报未知样本属性的模式识别新算法.由于它根据严格的数学理论,同时考虑了拟合精度和对过拟合的抑制,故能基于小样本集作较可靠的计算机预报.本工作用这一算法研究了11类排量为125cc的四冲程摩托车的综合排气性能的分类和预报方法,并用留一法比较了SVM算法与Fisher法和KNN法的预报准确率.结果表明:SVM算法所建立的数学模型的预报正确率比Fisher法和KNN法高,因此,SVM算法可望应用于环保领域.

摘要： 作者应用能限制过拟合,预极能力更强的支持向量机算法,优化镍氢电池的阴极材料配方.建立有关化学容量和衰减速度的数学模型.

摘要： 传统的化学计量方法得到广泛应用,并取得良好效果,但实用中常迂到"过拟合"问题.作者提出了适用于这类不适定问题统计预报的"支持向量计算法",对过拟合作有效限制.

摘要： 八十年代后期以来，自适应神经网络的增长算法越来越受到广泛的重视。但是，由于在其增长过程中，存在不充分训练和难以确定的停止增长过程的标准等因素，致使神经网络包含过多的自由参数。它和随机选取的初始权重是导致单个神经网络往往带有某些偏见的直接原因。多网络预言策略正是为了克服这种问题而提出的，由于平均效应，它能够避免单个网络预言带来的偏颇，获得满意的结果。利用Fahlman和Lebiere提出的级联相关网络，我们从实验上验证了多网络预言方案能够获得改善的泛化表现。

摘要： 八十年代后期以来，自适应神经网络的增长算法越来越受到广泛的重视。但是，由于在其增长过程中，存在不充分训练和难以确定的停止增长过程的标准等因素，致使神经网络包含过多的自由参数。它和随机选取的初始权重是导致单个神经网络往往带有某些偏见的直接原因。多网络预言策略正是为了克服这种问题而提出的，由于平均效应，它能够避免单个网络预言带来的偏颇，获得满意的结果。利用Fahlman和Lebiere提出的级联相关网络，我们从实验上验证了多网络预言方案能够获得改善的泛化表现。

摘要： 八十年代后期以来，自适应神经网络的增长算法越来越受到广泛的重视。但是，由于在其增长过程中，存在不充分训练和难以确定的停止增长过程的标准等因素，致使神经网络包含过多的自由参数。它和随机选取的初始权重是导致单个神经网络往往带有某些偏见的直接原因。多网络预言策略正是为了克服这种问题而提出的，由于平均效应，它能够避免单个网络预言带来的偏颇，获得满意的结果。利用Fahlman和Lebiere提出的级联相关网络，我们从实验上验证了多网络预言方案能够获得改善的泛化表现。

摘要： 本发明公开了一种降低离线手写数学公式识别时网络训练过拟合的方法，通过随机用同类型的字符类别样本替换当前样本，从而生成具有与原始样本不同的LaTeX标签的数学公式图像(新样本数据)，上述方式扩充了数据集的同时丰富了公式种类，实验证明相比仅对原始样本进行形变的数据生成方法更能降低过拟合影响，增强网络的泛化能力；在每次预训练或微调过程结束后通过打乱字符类别和类别号的对应关系，可以改变网络中训练数据的标签，从而强迫网络不过于依赖已学得的特征，令网络学习新的特征以适应变换，从而学习到更加泛化的特征，降低过拟合，实验证明，该方式可以在较大程度上提高基于注意力模型的编解码网络在CROHME数据集中的识别效果。

摘要： 本发明涉及图像识别技术领域，具体公开了一种公路场景识别中抑制过拟合的训练方法，包括：获取一训练样本集和一过拟合检测样本集；对训练样本集进行训练，得到一初始识别模型；利用过拟合检测样本集对训练样本集的初始识别模型进行准确率检测，其中，按照过拟合检测样本集的场景类别，通过初始识别模型计算过拟合检测样本集的各个场景整体的分割精度；依据过拟合检测样本集的各类场景整体的分割精度，自动调整各类场景下训练样本的损失权重。本发明可以在训练阶段按照验证精度交并比为不同场景的训练样本分配不同的样本损失权重，从而有效解决样本优化的不均衡性，最终遏制过拟合问题。

摘要： 本发明提供了一种基于过拟合卷积自编码网络的图像压缩编码方法，涉及图像编码技术领域，其包括：构建卷积自编码神经网络；生成训练数据集；训练卷积自编码网络；利用网络对高清自然图像进行编解码。本发明解决了现有图像编码损伤方法中未利用网络过拟合的特性和针对图像编码损伤的修复不足的问题，增强了网络针对编码损伤的学习能力，让深度学习网络有针对地参与到编解码过程，既节省了图像存储开销，又能保证压缩图像的质量，进一步提升了图像压缩编解码处理的速度与效果。

摘要： 本发明提供了一种有效减少图像分类任务中神经网络过拟合的方法，包括以下步骤：步骤S1、基于图像给定一个网络模型；步骤S2、将Sequence‑Dropout Block置入到模型的卷积层block中间或模型的全连接层的后面。本发明具有以下有益效果：能有效的减少图像分类任务中神经网络过拟合现象，最大程度的保留重要特征，使图像的模型在学习的过程中保持识别精度同时提高泛化能力。

摘要： 一种可用于比较水文领域中理论计算曲线过拟合程度的方法，主要是采用计算机程序和微积分原理来比较基于水文实测数据绘制的相同精度的两条曲线的平滑性，即判别曲线的过拟合问题，两条曲线在有实测数据点处的精度相同，但是过拟合程度不同。通过比较用水文实测数据绘制的相同精度的两条曲线的长度，曲线长度较长的波动较大，平滑性较差，过拟合现象较严重，曲线长度稍短的波动较小，平滑性较好，过拟合现象较轻，是符合条件的曲线，即拟合度适中并且符合普遍规律的曲线，从而解决水文数据处理时曲线的过拟合问题。它不仅步骤相对简单易行，而且舍弃了复杂的数学公式推导，借助计算机程序设计更加简便、精确地从两条待选曲线中挑选出拟合度较好的曲线。

摘要： 本发明涉及一种防止神经网络过拟合的处理装置及系统，该系统包括：网络运算器及处理装置。网络运算器执行神经网络的训练操作；处理装置接收来自网络运算器的指令以生成随机数，并且将输入副本和选取的神经网络数据发送到所述网络运算器以供执行训练操作。本发明可以提前计算随机数和掩模，并保存备用，缩短运算时间、节省输出入资源及运算资源。

摘要： 本发明提出了一种基于过拟合分类器模型的多方数据联合用户画像方法，包括如下步骤：S1，用户在不同数据库中生成不同的属性数据，针对不同的属性数据进行特征空间数据划分；S2，设置每个数据库用户数据的提取指令，对提取指令与相应的数据库用户数据进行特征空间数据匹配；S3，在匹配过程中判断特征空间重叠程度，根据某一数据库训练完成的用户数据分类模型对其他数据库进行用户特征分类，将处于同一分类的用户的特征空间进行合并后做用户画像。

摘要： 本发明提供了一种基于过拟合卷积自编码网络的图像压缩编码方法，涉及图像编码技术领域，其包括：构建卷积自编码神经网络；生成训练数据集；训练卷积自编码网络；利用网络对高清自然图像进行编解码。本发明解决了现有图像编码损伤方法中未利用网络过拟合的特性和针对图像编码损伤的修复不足的问题，增强了网络针对编码损伤的学习能力，让深度学习网络有针对地参与到编解码过程，既节省了图像存储开销，又能保证压缩图像的质量，进一步提升了图像压缩编解码处理的速度与效果。

摘要： 本发明涉及一种通过拟合快速计算正负极对地绝缘电阻的方法与系统，所述方法包括：当检测到第一开关与第二开关均闭合时，根据预设电压变化曲线拟合得到稳定的第一正极对地稳定电压以及第一负极对地稳定电压；当检测到第一开关闭合，第二开关断开时，根据预设电压变化曲线拟合得到第二正极对地稳定电压；当检测到第一开关断开，且第二开关闭合时，根据预设电压变化曲线拟合得到第二负极对地稳定电压；根据第一正极对地稳定电压、第一负极对地稳定电压、第二正极对地稳定电压以及第二负极对地稳定电压计算得到正极对地绝缘电阻以及负极对地绝缘电阻。本发明可大大缩短整个绝缘计算周期，提高了实际计算效率与应用效果。

摘要： 本发明涉及图像识别技术领域，具体公开了一种公路场景识别中抑制过拟合的训练方法，包括：获取一训练样本集和一过拟合检测样本集；对训练样本集进行训练，得到一初始识别模型；利用过拟合检测样本集对训练样本集的初始识别模型进行准确率检测，其中，按照过拟合检测样本集的场景类别，通过初始识别模型计算过拟合检测样本集的各个场景整体的分割精度；依据过拟合检测样本集的各类场景整体的分割精度，自动调整各类场景下训练样本的损失权重。本发明可以在训练阶段按照验证精度交并比为不同场景的训练样本分配不同的样本损失权重，从而有效解决样本优化的不均衡性，最终遏制过拟合问题。