特征工程

摘要： 云数据中心的分布式应用故障具有复杂性、随机性等特点,导致应用的运行与维护(简称:运维)管理任务难度大、效率低。为此,提出一种云数据中心应用故障预测方法,构建基于门控循环单元(GRU,Gated Recurrent Unit)循环神经网络(RNN,Recurrent Neural Network)的云数据中心应用故障预测模型,对云数据中心的应用监控数据进行分析处理并预测将要出现的应用故障。试验结果表明,本方法预测精确率满足应用运维管理中故障提前发现和处理的相关要求,在降低应用运维管理难度和提升运维效率方面具有一定的实用价值。

摘要： 为解决风电历史数据挖掘不充分导致的预测精度不高问题,提出一种基于特征工程、蝠鲼觅食优化算法(Manta Ray Foraging Optimization,MRFO)和极端随机树(Extremely Randomized Trees,ET)模型的短期风电功率预测方法。首先对时间特征提取小时属性特征,并通过对风速、风向和温度等原始气象特征进行特征创造,从而充分挖掘历史数据的隐含信息,同时通过PCA方法降低数据维度。其次,将降维后的数据输入ET模型,并利用MRFO优化ET模型的参数;最后,以新疆某风电场实测数据进行了算例仿真。结果表明:与5种典型机器学习模型相比,ET模型具有更高的风电预测准确度。与单一ET模型相比,特征工程-ET模型较大程度地提高了预测精度,验证了特征工程方法的有效性。在同等条件下,特征工程-MRFO-ET模型比使用特征工程-ET模型均方根误差和平均绝对误差分别降低了29.46%和36.54%,而拟合优度系数提高了3.97%。与此同时,特征工程-MRFO-ET模型也比特征工程-GA-ET模型和特征工程-PSO-ET模型拥有更高的预测精度。研究成果可为解决短期风电功率预测问题提供了一种新的思路。

摘要： 配电系统窃电是造成电网非技术损失的主要原因,是供电企业运营管理中长期面对的痼疾。用电信息采集系统采集的海量用户数据使得开展数据驱动的用电异常检测、准确识别窃电用户成为可能。受用户用电行为多样性影响,数据驱动的窃电检测方法的误报率在某些场景下尚难以满足实践需求,严重制约了该类方法的工程应用。首先,介绍了窃电实现手法;然后,梳理了在实践中得到工程应用的窃电检测方法以及数据驱动窃电检测方法的基本思路和局限性;在此基础上,结合工程应用对窃电检测评价指标的差异性需求,分析指出提取的可用信息不足、特征指标项灵敏性和可靠性不高是阻碍数据驱动窃电检测方法走向工程实用的主要原因。最后,从算法设计、状态空间细分以及特征指标项设计选择等不同层面对低误报率窃电检测进行了展望。

摘要： [研究目的]在GTD海量恐怖主义活动数据中,存在特征影响恐怖袭击目标实现,使用机器学习方法建立恐怖袭击预警模型,可为反恐预警提供决策支持。[研究方法]通过预测恐怖袭击目标实现风险,可发现恐袭预警重要性特征。对135维GTD特征进行特征筛选、归一化、独热编码、卡方检验、PCA降维,利用Lightgbm算法在内四种机器学习算法测试评估,并根据Lightgbm算法特征重要性,控制变量并重复实验得到重点及突增点特征。[研究结果]综合评价指标,证明Lightgbm算法在表现上优于其他机器学习算法,在保证样本类别1∶1均衡的前提下,910次实验其平均准确率为0.7986,召回率为0.7852,f1值为0.7832,平均运行时间为3.57s。Lighgbm算法在GTD数据上可有效提高分类效果,attacktype突增点特征及前十四顺位特征应作为重点特征辅助预警决策。

摘要： 有序、高效的运营是现代化公共交通系统应具备的主要特征之一。然而大量实测数据显示,公交线路上普遍存在着车辆偏离调度聚集行驶以及在站点处密集到达的聚簇现象,影响了乘客的出行体验,也造成了运力的浪费。本研究从数据驱动的角度出发,提出了基于特征工程的常规公交车辆聚簇行为预测的思路,并结合青岛市322路公交车实际运行数据完成了理论模型验证。结果表明,基于“本站前序班次的车头时距”以及“上游三个站点的车头时距的方差”两个特征的Logistic回归模型可以较好地预测公交车辆聚簇行为的发生,对于缓解公交车辆运行过程中的聚簇现象具有较强的现实意义。

摘要： 实体关系联合抽取作为信息抽取领域的核心任务,能够从非结构化或半结构化的文本中自动识别实体、实体类型以及实体之间特定的关系类型,为知识图谱构建、智能问答和语义搜索等下游任务提供基础支持。传统的流水线方法将实体关系联合抽取分解成命名实体识别和关系抽取两个独立的子任务,由于两个子任务之间缺少交互,流水线方法存在误差传播等问题。近年来,实体关系联合抽取成为新的研究趋势,其可以建立统一的模型使得不同子任务彼此交互,进一步提升模型性能。对有监督实体关系联合抽取方法进行综述,根据抽取特征的不同方式,可将实体关系联合抽取分为基于特征工程的联合抽取和基于神经网络的联合抽取两种类型。首先,介绍基于特征工程的联合抽取,包括整数线性规划、卡片金字塔解析、概率图模型和结构化预测四种方法,这四种方法都需要采用相对复杂的特征工程方法。然后,介绍基于神经网络的联合抽取,这类方法可以自动抽取特征信息,已逐渐成为联合抽取的主流方法,其主要包括共享参数和联合解码两种类型。接着,介绍有监督实体关系联合抽取常用的七个数据集以及评价指标,并对不同的实体关系联合抽取方法进行了实验对比分析。最后,展望实体关系联合抽取的未来研究方向。

摘要： 即时软件缺陷预测是保障软件安全与质量相统一的必要途径,在软件工程领域受到越来越多的关注.然而,现有数据集存在特征冗余和特征相关性低的情况,极大影响了即时软件缺陷预测模型的分类性能和稳定性.此外,分析缺陷数据特征对模型的影响尤为重要,但如今对软件缺陷预测模型进行解释性研究较少.针对这些问题,文章基于6个开源项目的227417个代码级变更的大规模实证研究,创新性地选择了SHAP+SMOTEENN+XGBoost(SHAP-SEBoost)构建即时软件缺陷预测模型.首先通过SHAP(SHapley Additive exPlanation)模型可解释器分析初始数据集特征,并根据分析结果对数据集进行相应的特征选择与组合.然后,利用SMOTEENN对类不平衡的缺陷数据进行正负样本均衡化,使用集成学习算法XGBoost对实验数据进行预测建模.最后,使用SHAP对本文模型进行可解释性分析.实验结果表明SHAP-SEBoost有效地提高了分类性能,与基线模型以及近年优秀模型相比AUC平均提高11.6%,F1平均提升33.5%.

摘要： 风机叶片结冰的现象严重影响风电发电效率,若在结冰状态下风机仍照常工作,不仅会影响经济效益,严重时还会直接损坏叶片等设备引发安全事故。传统手段通过人工观察、安装设备等方法效率低下。为此提出一种使用SVMSMOTE过采样与RFECV算法结合的特征工程,并采用全连接深度神经网络模型提前准确预测叶片结冰情况,以便及时采取相应措施,保证设备与人员的安全,提高发电效益。实验结果表明,深度学习模型经过训练后测试集准确率达到99.13%,比无特征工程条件下相同模型准确度提高了1.56%;此外,当该模型泛化应用到另一风机数据集时,故障诊断的准确度也达到92.3%,证明了该方法的有效性,该模型与KNN、SVM等传统机器学习模型相比,准确度、召回率等重要指标表现更好,为风机叶片结冰的诊断问题提供了一种新的解决思路。

摘要： 消费行为预测在营销活动中具有重要的价值,其预测效果主要取决于特征工程与算法建模。通过特征提取与新特征发现,提出定长与变长滑动窗口相结合的特征提取方法和基于先验知识与矩阵分解的特征交叉方法。特征提取方法考虑样本不平衡和用户消费习惯,提取更多的样本数据并给特征加上时间属性,而特征交叉方法考虑商品与用户之间隐含的关联关系,提取有关联的新特征。对于单一模型预测效果较差的问题,采用stacking策略构建集成学习模型,以XGBoost、随机森林和梯度提升决策树作为初级学习器对特征进行变换,以逻辑回归作为元学习器对用户消费行为进行预测。实验结果表明,该特征工程方法在多个模型算法中均能明显提高精准率,该集成学习模型预测效果要比单个模型更好。

摘要： 利用火焰颜色建模测量火焰当量比是燃烧诊断技术的一个新兴研究方向。目前的建模方法主要利用RGB(Red-green-blue)模型中蓝色/绿色特征(B/G)作为模型输入,但通过单一颜色比值简单拟合得到的颜色-当量比模型存在较大的不确定性及测量误差,因此本文提出利用多颜色模型下的多颜色特征参数作为模型输入。首先,采用数字火焰颜色分布(Digital flame colour distribution,DFCD)技术对采集甲烷燃烧预混火焰图像进行处理并获取火焰图像目标区域(Region of interest,RoI)。其次,综合分析火焰颜色特征变量构建特征工程,设计并提取火焰目标区域的不同颜色模型下的多颜色特征,共计36维火焰颜色特征,利用Spearman秩相关性分析与随机森林(Random forest,RF)算法筛选出表征燃烧当量比更深层的颜色特征,得到16维优质特征子集。最后,通过优化持向量机(Support vector machine,SVM)参数选择,并采用网格搜索方法(Grid search method,GSM)寻求最优参数优化SVM,进一步利用特征工程构建得到的特征子集训练SVM以建立预混火焰燃烧当量比软测量模型。将该算法与传统的BP神经网络和极限学习(Extreme learning machine,ELM)算法进行对比,实验结果表明,本文方法具有较好的回归预测效果,均方误差(Mean square error,MSE)低至0.023。

摘要： 基于统计机器学习的语义角色标注在自然语言处理领域越来越受到重视,丰富多样的特征直接决定语义角色标注系统的性能.本文针对中文的特点,在英文语义角色标注特征的基础上,提出了一些更有效的新特征和组合特征:例如,句法成分后一个词、谓语动词和短语类型的组合、谓语动词类别信息和路径的组合等,并在Chinese Proposition Bank(CPB)语料数据上,使用最大熵分类器进行了实验,系统F-Score由89.76％增加到91.31％.结果表明,这些新特征和组合特征显著提高了系统的性能.因此,目前进行语义角色标注应集中精力寻找丰富有效的特征.

摘要： 本发明公开了一种基于特征工程的工程履约保证保险风险识别方法与平台，首先，对工程业务数据执行预处理操作，根据预处理后的数据构造初始训练数据集；然后，根据初始训练数据集，利用XGBoost模型训练得到一个基准风险评估模型；接着，针对初始训练数据集，利用基于最大互信息特征选择策略与基准风险评估模型进行特征筛选，得到筛选后的训练数据集，并使用XGBoost模型训练得到最终的风险评估模型；最后，利用得到的风险评估模型对待评估项目进行风险评估。本发明可以从大量冗余的工程项目数据中找出关键特征，在保证模型预测性能的同时减小模型复杂度。

摘要： 本公开提供了一种自动化特征工程模型的训练方法及自动化特征工程方法，涉及机器学习等人工智能技术领域。该方法包括：获取训练数据集，其中，训练数据集中的训练数据包括建模场景信息；基于建模场景信息确定自动化特征工程策略；利用训练数据集和自动化特征工程策略进行训练，得到自动化特征工程模型。本公开提供的自动化特征工程模型的训练方法训练得到了不同建模场景信息对应的自动化特征工程模型。

摘要： 本公开涉及一种使用pca和特征交叉的特征工程建模的方案，包括：对特征数据进行特征相关检测；使用独热编码对特征进行编码，并对经编码的特征执行pca算法，其中在执行独热编码的过程中，还可以对所述特征进行特征交叉；通过执行共线性选择和特征重要性选择对所述特征进行筛选；以及将筛选出的特征输出用于特征工程建模。

摘要： 本发明公开了一种基于特征工程对成品库调度系统性能数据的特征抽取方法，包括如下步骤：1)根据经验对成品库物流系统调度子系统的故障场景进行预判，分析故障场景下的数据表现，有针对性地选定对应的指标；2)等时间间隔采集选定的指标数据，并对数据进行清洗、预处理，获得用于特征抽取的数据集；3)对所述数据集进行特征提取，通过激励函数对特征进行放大及展示。该方法对较为细小的特征进行提取、放大，KPI找到合适的特征检测器，找出复杂数据的关键特征，以便于运维人员查看，信息损失较少，同时原始数据中包含的规律依然保留，且可有效减少原始数据中的不确定因素。

摘要： 本发明公开了一种基于特征工程的工程履约保证保险风险识别方法与平台，首先，对工程业务数据执行预处理操作，根据预处理后的数据构造初始训练数据集；然后，根据初始训练数据集，利用XGBoost模型训练得到一个基准风险评估模型；接着，针对初始训练数据集，利用基于最大互信息特征选择策略与基准风险评估模型进行特征筛选，得到筛选后的训练数据集，并使用XGBoost模型训练得到最终的风险评估模型；最后，利用得到的风险评估模型对待评估项目进行风险评估。本发明可以从大量冗余的工程项目数据中找出关键特征，在保证模型预测性能的同时减小模型复杂度。

摘要： 本发明属于数据安全技术领域，具体涉及一种基于联邦学习的隐私保护特征工程方法，该方法包括：获取系统参数，系统参数包括Beaver三元组和特征策略参数；客户端和服务端根据系统参数执行安全检索协议，使得客户端和服务端分别得到对方数据集的加法秘密共享份额；客户端和服务端根据加法秘密共享份额进行联邦学习训练，得到相应的模型；本发明提出了一种安全检索协议，利用该协议，客户端能够使服务端不知道使用了哪些特征进行联邦学习，进而不知道服务端不知道客户端想要联合训练一个什么模型，同时还可以筛去不符合客户端检索策略要求的训练数据。

摘要： 本申请公开了一种基于特征工程的联邦学习建模优化方法、设备、可读存储介质及计算机程序产品，应用于参与方设备，所述基于特征工程的联邦学习建模优化方法包括：获取联邦学习任务对应的待处理数据，并识别所述待处理数据的数据类型信息；依据所述数据类型信息，在协调方设备下发的特征工程模块中确定对应的特征工程子模块；依据所述联邦学习任务对应的待构建模型信息，对所述待处理数据执行所述特征工程子模块中的预设特征工程处理流程，得到特征工程处理结果；依据所述特征工程处理结果，联合其他参与方设备进行联邦学习建模，得到目标联邦学习模型。本申请解决了联邦学习系统推广效率低的技术问题。

摘要： 一种基于特征工程的河涌水质预测方法，包括：步骤A：获取影响河涌水质的监测数据；步骤B：对影响河涌水质的监测数据进行预处理；步骤C：构造影响河涌水质的特征指标；步骤D：采用相关系数法进行特征指标筛选，包括通过Pearson相关系数法进行LSTM模型的特征筛选；步骤E：模型结构数据处理，包括将筛选的特征指标，进行LSTM模型结构数据预处理；步骤F：模型训练及自动调参，包括对LSTM模型进行训练和自动调优LSTM模型参数，保存最优模型至服务器上；步骤G：模型预测及结果评估，包括基于最优模型获取预测数据，评估预测数据与真实数据的偏差。本发明结合河涌的多因素、多条件影响因素，实现更准确、更全面反映水质变化的预测情况。

摘要： 本发明实施例提供一种用于构造特征工程计算拓扑图的方法和装置，属于计算机技术领域。该方法包括：根据所述特征工程的配置文件中算子函数之间的前后依赖顺序的倒序遍历所述配置文件中的算子函数确定特征依赖链表以构造所述特征工程计算拓扑图，其中，一个所述算子函数对应至少一个特征，任一特征的特征信息包括该特征、依赖特征及所述算子函数，所述特征工程计算拓扑图包括特征依赖链表，一个所述特征依赖链表针对进行特征工程计算时一组具有计算依赖关系的所述特征或没有对应的所述计算依赖关系的单个所述特征。藉此，实现了提升在线特征工程性能。

摘要： 本发明公开了一种通用特征工程方法、系统、电子设备及存储介质，涉及计算机技术领域；该方法包括：根据特征配置文件对输入样本按类进行抽取得到输入字段和特征类型编号；调用与输入字段的数据类型对应的抽取方法对输入字段进行处理得到抽取特征值；将特征类型编号左移54位得到高位数据；将抽取特征值作为低54位数据；得到包括特征类型编号和抽取特征值的64位整型通用特征。本发明提出了一个通用标准特征工程框架，简化整个特征工程流水线，倍级提升特征工程效率。对后续机器学习AB实验提供友好的特征层面的支持，模型层面支持embedding方法、按特征组pooling计算、按特征组作为神经元输入等各类特征方法。