梯度提升决策树

摘要： 为了解决药物-靶点相互作用(DTI)预测中数据集样本分布不平衡的问题,提出了一种新的数据处理方法.通过词向量特征提取,将原始蛋白质序列信息和药物化学结构信息转换为低维向量特征,组合药物特征和靶点特征来表征药物-靶点相互作用;采用Borderline-SMOTE技术合成少数类样本,以改善数据集的样本分布;最后将处理好的数据输入到梯度提升决策树(GBDT)分类器中进行分类预测.实验结果表明,本文方法不仅能有效提取药物-靶点相互作用的特征,加快特征提取和特征选择的过程,还能缓解数据集的不平衡性对预测结果的不利影响,提高了预测模型的性能.

摘要： 为了提高城轨塞拉门系统的智能化水平,增强城轨塞拉门运行的安全性、可靠性,提出一种基于ReliefF优化梯度提升决策树的塞拉门早期故障诊断方法,对塞拉门故障隐患进行实时有效监测和排查.在不同早期故障类型下进行城轨塞拉门早期故障试验,利用传感器采集塞拉门电机转速、转矩以及电流,通过特征工程建立数据集;运用ReliefF多分类特征筛选并从中提取故障特征,与主成分分析法、线性判别分析相比,ReliefF特征筛选表现最优;使用梯度提升决策树算法进行模型训练与早期故障类型识别,采取网格调参与五折交叉验证法进行超参数寻优,缩短运算时间.采用集中学习投票机制,得出最终分类结果,模型精度达到90%以上,具有鲁棒性.

摘要： 针对反照率直接估算中多元线性回归方法难以拟合反照率估算中的非线性特征的问题,引入基于梯度提升决策树机器学习方法对GLASS(global land surface satellite products)反照率产品算法中的多元线性回归(multiple linear regression,MLR)直接估算算法进行改进,并将梯度提升决策树算法(gradient boost decision tree,GBDT)结果同原有方法进行对比,同时利用地面站点观测反照率评价本文算法效果。结果表明,多元线性回归方法平均RMSE为0.017到0.02,梯度提升决策树方法平均RMSE为0.009到0.013,梯度提升决策树方法的估算精度较原多元线性回归方法精度有较大提升,表明新型机器学习方法在优化遥感经验或半经验模型中具有重要潜力。同时地面验证结果表明,本文算法相比于GLASS V3反照率产品在RMSE和绝对偏差上相对提升4%和60%。

摘要： 针对在强电子对抗和复杂雷达任务环境中杂波、干扰等影响目标航迹正确有效起始的问题,提出了一种多算法融合学习航迹稳健起始方法。该方法将航迹起始问题视为分类问题,使用经典的机器学习分类算法——随机森林和梯度提升决策树(gradient boosting decision tree,GBDT)为基础进行融合分类。考虑将两种方法进行Chair-Varshney最优决策融合,实现对目标航迹的高效正确起始。通过仿真实验将本文提出的方法和随机森林、GBDT、启发式规则等经典方法进行对比,结果表明:多算法融合学习航迹稳健起始方法的整体性能更好,显著优于启发式规则航迹起始方法和GBDT航迹起始方法。

摘要： 为了提高泛在电力物联网的网络安全性,提出基于机器学习的泛在电力物联网虚假数据注入攻击检测方法。采用主成分分析方法提取电力系统的量测数据主要特征值,降低数据维度;提出基于梯度提升决策树(gradient boosting decision tree,GBDT)的攻击检测模型,用于实现对攻击数据的分类;为了提高GBDT的分类精度,提出三维自适应果蝇优化算法(Three-dimensional adaptive drosophila optimization algorithm,TDADOA),用于优化GBDT的网络参数。仿真对比结果显示,相比于其他传统方法,所提的方法对于攻击数据的检测更加精准,有利于提高泛在电力物联网的安全水平。

摘要： 准确的收视率预测具有较高的商业价值,能够降低各方投资风险同时提高多方收益,形成合作共赢。为此,基于梯度提升决策树(Gradient Boosting Decision Tree,GBDT)算法建立电视剧收视率预测模型。研究表明,基于影响因素划分的GBDT电视剧收视率预测模型能够有效预测不同主创团队、题材及热度的电视剧的收视率,模型预测值能有效拟合真实收视率。GBDT预测方法为电视剧播前收视率前预测提供了一种新的思路。

摘要： 该文提出一种基于特征工程的玻璃封装绝缘端子外观质量检测算法以替代人工肉眼检测。首先,基于绝缘端子的形状先验将待检测区域划分为若干个扇区。其次,根据玻璃封装绝缘端子图像特点提出扇区基本特征数据、扇区灰度变化率、扇区反光特征和扇区方向统计特征等4大类扇区特征提取方法,采用梯度提升决策树(GBDT)进行粗分类。为了更全面地表征扇区特性,基于粗分类结果融合最近邻扇区提出扇区近邻(SN)特征提取方法。最后,将扇区近邻特征和扇区特征都输入到GBDT分类器进行精细分类,获得检测结果。实验结果表明,提出的特征工程方法能够在合理检测时间内取得较好的检测性能,交并比为97.45%,F1为0.987,优于现有类似检测方法。

摘要： 在考虑加工设备对钢筋影响的基础上,建立了基于梯度提升决策树及整数规划的钢筋一维下料优化模型,以提高原材利用率;并在此基础上,结合课题组自主研发的智能分拣装置,建立了基于动态贪心策略的分拣优化模型,以促进钢筋优化在生产现场的良好应用,并提升生产效率。工程实例分析表明,优化切割方案原材利用率得到有效提升,且相较传统优化算法,下料优化方法寻优效率及稳定性更好;分拣优化减轻了现场人员工作强度,并大幅提升了分拣效率。该方法实现了对加工成本、质量、效率的有效保证,为工程中的一维下料钢筋生产提供了一条新的途径。

摘要： 研究针对拉萨市宗角禄康公园健身空间的满意度进行调查,梯度提升决策树分析结果表明:影响拉萨健身空间满意度的因子与内地存在差异性,其中绿化环境、宗教活动、健身器材设施是对满意度影响较大的因素。结合奖惩对比法和影响非对称分析法,探讨了相关属性对健身空间的非线性影响,研究发现餐饮服务设施、健身器材设施、无障碍设施、遮阳避雨设施是需要优先改进的,在资源允许的情况下,绿化环境、休息设施是可以进一步优化的。

摘要： 针对梯度提升决策树(gradient boosting decision tree,GBDT)参数难以选择的问题,提出一种基于改进鲸鱼优化算法(improved whale optimization algorithm,IWOA)的GBDT回归预测算法.首先,提出一种改进的鲸鱼优化算法,利用混沌映射初始化种群提高种群多样性,引入惯性权重与差分进化算法中的变异交叉策略解决迭代后期易陷入局部最优的问题;其次,利用IWOA对GBDT的关键参数寻优,避免参数选择的盲目性,提高回归预测模型的泛化能力;最后,建立IWOA-GBDT回归预测模型,并利用UCI数据集对模型进行验证.实验结果表明,相比于决策树、支持向量机、Adaboost和GBDT算法,该模型算法具有更好的拟合效果,并有一定的实用价值.

摘要： 提出基于梯度提升决策树的语音情感特征选择方法,在中国科学院自动化研究所汉语语音情感数据集上获得了86.67％的识别率,在北航汉语语音情感数据集上获得了90.48％的识别率.特征选择使得每段音频的平均预测时间从2.5ms下降到0.1ms;提出基于长短期记忆神经网络的语音情感识别方法.长短期记忆神经网络从语音数据的Me1频率倒谱系数中提取深度特征,在不同噪声环境下识别语音情感,结果表明长短期记忆神经网络提取的深度特征在噪声环境下适应性强.

摘要： 气温变化导致的海平面上升给许多沿岸地区造成了安全威胁,航道内由于淤泥淤积所造成的水深变化也同样给通行船只增加了航行风险.遥感水深反演可以检测到水深的变化状况,在环境监测中占有重要的意义.本文利用四波段WorldView-2高分辨率遥感影像,选取我国七连屿与甘泉岛地区作为本文典型试验区,开展水深反演研究.通过引入梯度提升决策树(Gradient Boosting Decision Tree,GBDT)算法构建了GBDT水深反演模型,并同常用的单波段水深模型、双波段模型、BP神经网络模型进行反演精度的比较,结果表明在其反演的七连屿地区的水深值与真实值之间的RMSE为0.98m,MRE为19％,甘泉岛地区的RMSE为0.95m,MRE为9％,精度均优于其余三种模型,这为通过遥感的方法大范围快速获取水深信息从而进行水深监测提供了一种快速高效的方法.

摘要： 针对某超超临界660MW机组锅炉,结合随机森林(RF)和梯度提升决策树(GBDT)算法,建立了氮氧化物(NOX)排放预测模型.从电厂SIS系统筛选得到历史数据的稳态工况点,利用RF模型的特征排序功能对数据特征进行筛选,并以选中特征作为输入变量建立预测NOX排放的GBDT模型.与支持向量机(SVM)、RF等模型的对比表明基于RF的特征选择能提升模型性能;较于其他模型,RF-GBDT具有最高的NOX排放预测精度.

摘要： 本发明公开了基于梯度提升决策树的ERα拮抗剂的生物活性定量预测方法，属于生物制药和机器学习技术领域；解决了梯度提升决策树线性和非线性的多元回归模型不能很好的进行拟合的技术问题；其技术方案为：包括以下步骤：步骤一：对影响ERα拮抗剂的生物活性的变量数据进行预处理；步骤二：变量的筛选；步骤三：独立性检验；步骤四：模型建立。本发明的有益效果是：本发明在数据的采集过程中，先对数据进行预处理，删除全为零的列，降低了不良数据对预测模型的影响，也加快了变量的筛选速度；通过传统方法和机器学习方法筛选出特征变量，再通过特征变量建立ERα拮抗剂的生物活性定量预测模型。

摘要： 本发明提供一种基于梯度提升决策树的矢量地图水印处理方法、终端，该方法包括：S101：对矢量地图进行预处理，通过Delaunay三角网获取最大扰动区域；S102：根据数据中的非特征点进行水印嵌入，根据顶点与对应的最大扰动区域的位置关系以及约束条件识别并纠正顶点中的待纠正点，并进行水印检测；S103：对生成的训练集、测试集进行特征工程处理以训练梯度提升决策树模型，判断模型的测试结果是否满足预设条件，若是，则执行S104，若否，则执行S103；S104：根据模型预测最大扰动区域的半径，通过预测的最大扰动和约束条件对矢量地图进行水印嵌入和纠正。本发明能更高效地对水印嵌入过程中引起的问题进行检查与纠正，实现水印不被破坏的同时保证矢量地图的数据质量。

摘要： 本发明公开了一种结合张量分解与梯度提升决策树的货量预测方法及系统，属于货量预测技术领域。本发明通过构建货量张量，并通过CP分解对货量张量进行低秩近似，从而过滤噪声，并从始发转运中心、目的转运中心和日期这3个维度提取货量变化因子，然后通过将始发转运中心、目的转运中心这2个维度的货量变化因子整合到梯度提升决策树模型中，更好地利用了历史货量变化趋势，提升了梯度提升决策树模型的货量预测精度。实验表明，本发明在相同超参数下，相比较只用梯度提升决策树的货量预测方法可以获得更高的预测准确率。

摘要： 本发明公开了一种基于梯度提升决策树和神经网络的货量预测方法及系统，属于货量预测技术领域。该方法步骤包括：S1，将获取的特征数据X通过预先训练的梯度提升决策树模型T构造其在每棵决策树上的叶子节点特征；S2，使用叶子节点特征替换掉特征数据X中的高维类别特征后，得到特征数据X′；S3，将特征数据X′输入到预先训练的神经网络模型M中进行货量预测，并输出预测结果。本发明在数据输入端使用梯度提升决策树模型直接处理高维类别特征并进行特征组合，在输出端利用神经网络模型捕捉特征数据与货量间的复杂数量关系，克服了现有技术中对高维类别特征进行独热编码产生的数据稀疏导致模型的货量预测不够精准的问题。

摘要： 本发明公开了一种时空梯度提升决策树的方法，包括步骤一、目标数据获取，对原始数据进行筛选，得到目标地区气象站点的数据；步骤二、使用Python对数据中不需要的特征数据以及对剩余数据中的噪声数据进行线性处理，提高数据完整性；步骤三、对处理后的气象数据进行计算，将每日数据转为需要的月平均数据；步骤四、根据站点的时间属性信息和空间属性信息获得时空信息；步骤五、利用气象站点的纬度，月平均气温和月平均降水计算月SPEI数据；步骤六、ST‑GBDT模型构建与预测。该时空梯度提升决策树的方法，能够利用时空信息与GBDT相结合的方式，在输入探索变量中增加时空信息，增加输入变量的特征，利用scikit‑learn的类库在Python语言中的开发实现。

摘要： 本发明公开了一种无第三方的联邦梯度提升决策树模型训练方法。它包括以下步骤：训练发起方、训练参与方同步初始化；训练发起方、训练参与方同步采样d个样本数据集；训练发起方、训练参与方对各自样本数据集中的每个特征数据进行分箱、记录分箱信息并进行比特切片存储；训练发起方计算出自身每个样本数据集的每个特征数据的每个分箱对应的一阶梯度和、二阶梯度和，训练发起方、训练参与方根据安全乘法协议计算出训练参与方的样本数据集中每个特征数据的每个分箱对应的一阶梯度和、二阶梯度和；训练发起方搜索最优分裂点，将结果同步给训练参与方；重复上述步骤，直到达到终止条件。本发明保护了数据安全，降低存储空间，大幅压缩通信量。

摘要： 本发明公开了一种基于梯度提升决策树与逻辑回归融合的运维人员智能推荐方法和装置，属于计算机技术领域，解决缺少一种基于机器学习模型，通过智能推荐的方式，将故障的相关信息推送给合适的运维人员方法的问题。本发明的方法包括：建立GBDT+LR模型；建立运维人员智能推荐数据集；对运维人员智能推荐数据集进行预处理，预处理包括填充缺失值和特征处理；将预处理的运维人员智能推荐数据集划分为训练集和验证集；利用训练集对GBDT+LR模型进行训练，获取GBDT+LR模型的参数；根据GBDT+LR模型的参数，获取训练后的GBDT+LR模型；利用验证集对训练后的GBDT+LR模型进行验证，确定最终的GBDT+LR模型。本发明适用于我国城市轨道交通的运营维护。

摘要： 本发明提出一种分布式梯度提升决策树实现全面隐私保护的方法，它使用差分隐私DP和全同态加密FHE来实现全面的隐私保护。在训练阶段，数据所有者向不受信任的服务器发送受DP保护的训练树，而不是加密数据。在预测阶段，使用FHE将用户的查询数据和预测结果隐藏在服务器中。为了进一步提高预测效率，该框架提出了一个对FHE友好的多项式近似计算，这样就可以有效地实现开销巨大的比较操作。与目前的隐私保护工作相比，该框架实现了低运行时间和与非隐私保护方案相当的通信开销，同时仅有一小部分的性能损失。

摘要： 本发明公开一种基于可信执行环境的联邦学习梯度提升决策树训练方法，把联邦梯度提升决策树的训练过程中多个参与方轮流训练决策树的方法改进为多个参与方本地模型竞争的方法，每一轮迭代中选择质量最高的本地模型成为联邦模型的一部分，降低了低质量本地模型对全局模型的影响。并且，由于竞争本地模型的方式会使每个联邦参与方消耗更多的隐私预算，本发明设计了基于可信执行环境的模型评估方法，在可信执行环境中完成竞争过程，使隐私预算消耗与传统方式相同。最终，本发明应用于金融、医疗等场景下，多个社会实体可以在隐私保护的前提下，训练高质量模型，处理金融风险预测、疾病预测等业务。

摘要： 本发明公开了基于梯度提升决策树的煤自燃预警方法，涉及煤矿安全技术领域，包括：S1、根据煤自燃的演变过程，将煤自燃预警划分多个不同等级，并按等级分别建立对应的预警数据集；S2、将建立好的多个预警数据集存储在后台服务器中；S3、在矿井煤矿区域布设多组数据采集单元，数据采集单元可将煤矿的当前状态数据传输至后台服务器；S4、后台服务器的分析主机对数据采集单元上传的煤矿当前状态数据进行归一化处理等过程；本发明，通过使用多组数据采集单元对矿井煤矿区域的煤层进行监测，并将监测进行反馈处理，形成行而可靠的风险结果判定，且不受人员主观判断因素干扰，进而能够在事故发生的萌芽时期，协助人员进行准确有效的决策。