激活函数
激活函数的相关文献在1994年到2023年内共计416篇,主要集中在自动化技术、计算机技术、无线电电子学、电信技术、电工技术
等领域,其中期刊论文292篇、会议论文8篇、专利文献20436篇;相关期刊202种,包括电子科技、电子设计工程、电子制作等;
相关会议8种,包括第四届高分辨率对地观测学术年会、2011年中国智能自动化会议、第八届中国通信学会学术年会等;激活函数的相关文献由1146位作者贡献,包括乔清理、何书专、李丽等。
激活函数—发文量
专利文献>
论文:20436篇
占比:98.55%
总计:20736篇
激活函数
-研究学者
- 乔清理
- 何书专
- 李丽
- 傅玉祥
- 吴睿振
- 王凛
- 王毅
- 于舒娟
- 刘洋
- 徐圆
- 徐菲菲
- 李卫军
- 王岩
- 王明时
- 胡明建
- 艾国
- 许赟杰
- 贺彦林
- 陈辉
- 丁良奎
- 不公告发明人
- 于振华
- 于纪言
- 冯黎明
- 刑冰
- 刘付显
- 刘佳
- 刘文博
- 刘明明
- 刘森
- 刘详凯
- 卢文娟
- 吴秀龙
- 吴长安
- 周晨旭
- 姜晓红
- 孙长征
- 季策
- 封春菲
- 常胜江
- 廖桂生
- 张奇荣
- 张宇晨
- 张宇霖
- 张庆
- 张志兴
- 张志涌
- 张昀
- 张晓晗
- 张涛
-
-
焦方圆;
申金媛;
郝同盟
-
-
摘要:
目的:解决烟叶分级准确率不高的问题。方法:提出一种改进的基于卷积神经网络的烟叶分级模型,根据VGG16网络结构,以自定义的方式搭建网络模型;将空洞卷积代替原有的传统卷积,增加图像感受野的同时避免了图像特征的损失,并将激活函数改为Leaky;elu,修正数据的分布,解决ReLU函数的硬饱和问题;用41种等级的烟叶图片加以测试。结果:试验改进算法分级准确率达95.89%,与传统SVM算法相比提高了10.46%,与经典VGG16算法相比提高了7.87%,损失率最终收敛于0.13。结论:与原始模型和传统特征提取的方式相比,试验算法在烟叶分级准确率性能上有所提高。
-
-
陈康杰;
郭慧;
周邵萍
-
-
摘要:
餐桌清理机器人能够对餐具进行自动分类与定位,并通过机械臂抓取回收,实现自动清理餐桌的功能。针对餐桌清理机器人硬件性能的局限性和餐具目标的多尺度特点,文中提出一种基于多尺度分离的改进YOLOv4-Tiny实时性餐具检测模型。设计HS-CSP(Hierarchical-Split Cross Stage Partial)模块增强模型的多尺度特征提取能力;应用Mish激活函数改进Leaky ReLU激活函数;应用AdaBelief优化器改进Adam优化器,在自建的餐具数据集上进行训练。通过对比实验得出3个改进点可有效提升模型的检测精度。最后,对比YOLOv3算法、CenterNet算法和YOLOv4-Tiny算法的检测准确性与检测速度。实验结果表明:文中的改进模型有较好的综合性能,准确率达到86.13%,检测帧数达到176 f/s;与另外两种算法相比,参数量相近时,YOLOv4-Tiny算法的检测精度有所提升,且检测速度可以满足实时性要求。该模型在餐桌清理机器人的餐具检测方面具有较好的应用价值。
-
-
周巧黎;
马丽;
曹丽英;
于合龙
-
-
摘要:
番茄病害的及时检测可有效提升番茄的质量和产量。为实现番茄病害的实时无损伤检测,本研究提出了一种基于改进MobileNetV3的番茄叶片病害分类识别方法。首先选择轻量级卷积神经网络MobileNetV3,在Image Net数据集上进行预训练,将预训练得到的共享参数迁移到对番茄叶片病害识别的模型上并做微调处理。采用相同的训练方法对VGG16、ResNet50和Inception-V3三种深度卷积网络模型也进行迁移学习并进行对比,结果显示MobileNetV3的总体学习效果最好,在Mixup混合增强和focal loss损失函数下对10类番茄病害的平均测试识别准确率达到94.68%。在迁移学习的基础上继续改进MobileNetV3模型,在卷积层引入空洞卷积和感知机结构,采用GLU(Gated Liner Unit)闸门机制激活函数,训练得到最佳的番茄病害识别模型,平均测试的识别准确率98.25%,模型的数据规模43.57 MB,单张番茄病害图像的检测耗时仅0.27 s。经十折交叉验证(10-Fold Cross-Validation),模型的鲁棒性良好。本研究可为番茄叶片病害的实时检测提供理论基础和技术支持。
-
-
袁金;
徐宪根
-
-
摘要:
与传统的机理性水质预测模型和机器学习算法相比,深度学习模型依靠自身的激活函数,能够更好的处理水质因子时序性和非线性等特点,一定程度上解决了传统水质模型预测精度低的问题。在满足一定的精度情况下,预测未来较长时间的水质状态,为水质预测预警提供了新的机遇与途径。本文回顾了深度学习模型预测原理、预测对象以及水质预测预警的研究进展,主要分析了近年来深度学习模型在水质预测上的应用,并分析了影响深度学习模型预测精度的因素。在此基础上对深度学习模型预测水质进行了展望,提出了要发展天地空一体化的水质监测预测系统。
-
-
王凯;
何宏;
殷静
-
-
摘要:
将深度卷积神经网技术应用于人脸微表情识别是近年来的研究热点,但是,研究成果还未进一步完善,主要表现在其识别能力还是拥有精度不足等问题。本文提出了一种改进的LeNet-5卷积神经网络,在卷积神经网络中引入随机失活法(Dropout),消除过拟合现象,提升神经网络算法精度。
-
-
李京泰;
王晓丹
-
-
摘要:
为解决在数据不平衡条件下使用XGBoost框架处理二分类问题时算法对少数类样本的识别能力下降的问题,提出了基于代价敏感激活函数的XGBoost算法(Cost-sensitive Activation Function XGBoost,CSAF-XGBoost)。在XGBoost框架构建决策树时,数据不平衡会影响分裂点的选择,导致少数类样本被误分。通过引入代价敏感激活函数改变样本在不同预测结果下损失函数的梯度变化,来解决被误分的少数类样本因梯度变化小而无法在XGBoost迭代过程中被有效分类的问题。通过实验分析了激活函数的参数与数据不平衡度的关系,并对CSAF-XGBoost算法与SMOTE-XGBoost,ADASYN-XGBoost,Focal loss-XGBoost,Weight-XGBoost优化算法在UCI公共数据集上的分类性能进行了对比。结果表明,在F1值和AUC值相同或有提高的情况下,CSAF-XGBoost算法对少数类样本的检出率比最优算法平均提高了6.75%,最多提高了15%,证明了CSAF-XGBoost算法对少数类样本有更高的识别能力,且具有广泛的适用性。
-
-
赵豆豆;
张伟
-
-
摘要:
针对污水处理过程具有复杂非线性特性以及出水BOD难以精确测量的问题,文中提出一种基于变宽度的逆平方根和高斯函数线性组合的RBF神经网络软测量方法。神经网络的激活函数由逆平方根函数和高斯函数线性组合,弥补了单一激活函数在某些区间饱和的问题,提高了隐层激活函数的表达能力和自适应能力。由于激活函数的宽度对模型的泛化性能有较大的影响,因此引入基于核密度的变宽度策略可以有效提高网络泛化能力。文中采用改进LM算法实现了神经网络参数的在线学习。基于污水处理过程实际运行数据的仿真实验表明,所提方法对于出水BOD具有较高的预测精度和良好的自适应能力。
-
-
骆家杭;
张旭;
汪靖翔
-
-
摘要:
为解决噪声干扰导致轴承故障分类准确率降低的问题,提出了一种基于格拉姆角场(GAF)和多尺度卷积神经网络(MSCNN)的端到端故障诊断方法。通过对故障信号进行GAF图像变换保留时间序列的相关性与依赖性,并将图像输入MSCNN中进行分类,利用改进的激活函数克服传统CNN的梯度下降问题以获得更好的分类结果。试验结果表明,所提方法在轴承故障诊断中的分类准确率能够达到99.67%,而且具有较高的鲁棒性,适用于不同工况下轴承振动信号的故障诊断。
-
-
储萍;
倪伟
-
-
摘要:
针对轻量型深度神经网络SqueezeNet存在中间流动数据量大及消耗计算周期长等问题,文中提出以处理块结构划分整个网络来加速计算。每个处理块由Expand层和Squeeze层组成。以Squeeze层结束的处理块结构减少了计算模块与内存间流动的中间数据量,降低了读写消耗。利用激活函数的特性,在核心计算模块引入提前结束卷积计算技术,并为其设计有效索引生存单元、有效索引控制取值单元和卷积判断单元,可跳过卷积计算中无效值占用的计算量和计算周期。实验结果表明,该加速器能减少55.38%的数据流动量,并将无效值所占的计算量和计算周期减少14.68%。
-
-
张明;
张芳慧;
宗佳平;
宋治;
岑翼刚;
张琳娜
-
-
摘要:
尽管基于卷积神经网络(CNN)的人脸检测器在精度上已经有了很大提升,但所需的计算量和模型复杂度越来越高,如何在计算能力有限的嵌入式设备上应用人脸检测模型是一个很大的挑战。针对320×240分辨率输入图像的人脸检测在嵌入式系统上的应用问题,提出了一种基于轻量级网络的低分辨率人脸检测算法。该算法使用注意力机制、结合了Distance-IoU (DIoU)与非极大值抑制(NMS)、使用Mish激活函数,同时针对人脸特征比例设置合适的先验框,实现了精度和速度的平衡,并部署到嵌入式平台中。具体地,用深度可分离卷积替代普通卷积,并在卷积块后加入注意力模块(CBAM),使网络更关注待识别的目标物体;代替ReLU激活函数,采用了Mish激活函数来提高模型推理速度;通过结合DIoU与NMS,提高模型对小人脸的检测能力。实验在WIDERFACE数据集的结果证明,该方法不仅能实时高精度地进行人脸检测,而且在小分辨率输入上,精度高于传统算法。扩充数据集之后,模型在复杂光照下的泛化性得到提高。
-
-
Dandan WANG;
王担担;
Xiukai RUAN;
阮秀凯;
Zhiyong ZHANG;
张志涌
- 《第八届中国通信学会学术年会》
| 2011年
-
摘要:
激活函数是一个神经元及网络的核心,Hopfield网络激活函数形式的选用和设计是由网络的复杂性和具体任务要求所决定的,通常依据特定问题所要获得的输出值的不同来选择相应的激活函数.激活函数的设计和选用是否合理直接决定着算法是否成功并影响到算法性能的优劣性.本文详细介绍了一种激活函数来检测各类QAM信号,并用高阶QAM激活函数来检测低阶QAM信号.文中还给出了能量函数的设计与分析,盲检测信号权矩阵的配置方法.实验仿真结果表明,本文所选的激活函数能很好的检测出各类QAM信号,而且在各类QAM信号中具有较强的适应性.
-
-
-
Wang Zhi;
王植;
Sun Lin;
孙林;
Gu Wenjian;
顾文剑;
Chen Dajun;
陈炟君;
Dong Bin;
董斌
- 《第四届高分辨率对地观测学术年会》
| 2017年
-
摘要:
每一分钟世界失去48个足球场的原始森林,为了遏止破坏原始森林的行为,统计人类在森林地区的活动痕迹尤为重要,其困难之处在于森林地区遥感影像中地物交错,而且气象特征难以用区域分割方式表达.本文针对高分遥感影像多标签分类问题,提出一种基于卷积神经网络将多标签分类问题转化为多类分类问题的方法,用sigmoid激活函数替代多类分类中的softmax激活函数,用阈值搜索函数求得二分类的自适应阈值,相比手动提取特征的XGBoost方法和OVR方法的F2值(召回率和准度的调和平均数的变体,权重为2)高出0.03到0.05.试验中基于八万平方米森林地区的3米分辨率红、绿、蓝、近红外四波段卫星遥感影像,进行了包括树木、云、居民区、道路、水体等17类多标签分类研究.实验结果表明,本文提出的sigmoid激活函数结合阈值搜索的方法可以有效的提高多标签分类的性能,该研究将有助于进行高分影像场景理解,更精准地发现原始森林砍伐行为.
-
-
-
-
林宾;
杨正堂
- 《第五届工业仪表与自动化学术会议》
| 2004年
-
摘要:
本文提出一种电力谐波的测量方法,首先确定初相角,在初相角已知的状态下,利用多层前馈网络测量谐波的幅值.使用动量法和学习率自适应法训练网络,并对神经元不同的激活函数进行讨论.经过训练的神经网络可以测量出各次谐波,对含有谐波的畸变电流的仿真结果说明了该方法的有效性.
-
-
-
-