首页> 中国专利> 一种基于大数据和云计算的数据保存方法及云计算平台

一种基于大数据和云计算的数据保存方法及云计算平台

摘要

本申请提出一种基于大数据和云计算的数据保存方法及云计算平台,涉及云计算技术领域,通过对待进行入库保存的目标数据包的多个数据区块分别进行业务数据提取和协议数据提取,得到业务数据序列和协议数据序列;然后分别通过第一关键信息提取策略和第二关键信息提取策略对业务数据序列和协议数据序列进行关键信息提取,得到包含有业务数据的第一关键信息数据集和包含协议数据的第二关键信息数据集;接着基于第一关键信息数据集和第二关键信息数据集进行目标信息匹配,得到与目标提取内容相对应的目标提取数据集,从而基于目标提取数据集对目标数据包进行入库保存;相比于现有技术,能够提高数据包保存的安全性。

著录项

  • 公开/公告号CN112667646A

    专利类型发明专利

  • 公开/公告日2021-04-16

    原文格式PDF

  • 申请/专利权人 梁志彬;

    申请/专利号CN202110098652.3

  • 发明设计人 梁志彬;

    申请日2021-01-25

  • 分类号G06F16/22(20190101);G06F16/23(20190101);G06F16/28(20190101);G06F21/60(20130101);H04L29/06(20060101);H04L29/08(20060101);

  • 代理机构

  • 代理人

  • 地址 523808 广东省东莞市大朗镇松山湖大学路一号东莞理工学院创业基地103

  • 入库时间 2023-06-19 10:38:35

说明书

技术领域

本申请涉及云计算技术领域,具体而言,涉及一种基于大数据和云计算的数据保存方法及云计算平台。

背景技术

随着互联网以及大数据技术的发展,一些服务提供平台可以通过所负责维护的服务平台,对用户的使用信息进行收集,从而集中的对大量用户的数据进行大数据分析,进而分析出用户的行为偏好等信息,从而基于分析得到的行为偏好等信息优化平台所提供的服务,提升用户的使用体验。

其中,针对收集的用户的使用信息,由于其包括有用户的信息等重要内容,需要对这些信息进行安全的保存,以避免用户的数据出现被盗取。

然而,现有技术在对这些信息进行保存时,一般仅使用简易的保存手段,数据安全性较低。

发明内容

本申请的目的在于提供一种基于大数据和云计算的数据保存方法及云计算平台,以解决上述至少部分的技术问题。

为了实现上述目的,本申请采用的技术方案如下:

第一方面,本申请提供一种基于大数据和云计算的数据保存方法,所述方法包括:

获取待进行入库保存的目标数据包;

对所述目标数据包中的多个数据区块分别进行业务数据提取和协议数据提取,得到业务数据序列和协议数据序列;

通过第一关键信息提取策略,对所述业务数据序列进行第一关键信息提取,得到包括有业务数据的第一关键信息数据集;

通过第二关键信息提取策略,对所述协议数据序列进行第二关键信息提取,得到包括有协议数据的第二关键信息数据集;

基于所述第一关键信息数据集和所述第二关键信息数据集进行目标信息匹配,得到所述目标数据包中与目标提取内容相对应的目标提取数据集;其中,所述目标提取内容包括业务数据和协议数据中的至少之一,所述目标提取数据集用于对所述目标数据包进行入库保存。

第二方面,本申请提供一种云计算平台,所述控制设备包括存储器,用于存储一个或多个程序;处理器;当所述一个或多个程序被所述处理器执行时,实现上述的基于大数据和云计算的数据保存方法。

第三方面,本申请提供一种计算机可读存储介质,其上存储有计算机程序,该计算机程序被处理器执行时实现上述的基于大数据和云计算的数据保存方法。

本申请提供的一种基于大数据和云计算的数据保存方法及云计算平台,通过对待进行入库保存的目标数据包的多个数据区块分别进行业务数据提取和协议数据提取,得到业务数据序列和协议数据序列,即对目标数据包中的数据区块进行了分类,分为业务数据类和协议数据类;然后分别通过第一关键信息提取策略和第二关键信息提取策略对业务数据序列和协议数据序列进行关键信息提取,得到包含有业务数据的第一关键信息数据集和包含协议数据的第二关键信息数据集;接着基于第一关键信息数据集和第二关键信息数据集进行目标信息匹配,得到与目标提取内容相对应的目标提取数据集,从而基于目标提取数据集对目标数据包进行入库保存;相比于现有技术,能够提高数据包保存的安全性。

为使本申请的上述目的、特征和优点能更明显易懂,下文特举较佳实施例,并配合所附附图,作详细说明如下。

附图说明

为了更清楚地说明本申请的技术方案,下面将对实施例中所需要使用的附图作简单地介绍,应当理解,以下附图仅示出了本申请的某些实施例,因此不应被看作是对范围的限定,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其它相关的附图。

图1为本申请提供的云计算平台的结构框图。

图2为本申请提供的一种基于大数据和云计算的数据保存方法的流程图。

图3为本申请提供的一种基于大数据和云计算的数据保存装置的流程图。

具体实施方式

为使本申请的目的、技术方案和优点更加清楚,下面将结合本申请的一些实施例中的附图,对本申请中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本申请一部分实施例,而不是全部的实施例。通常在此处附图中描述和示出的本申请的组件可以以各种不同的配置来布置和设计。

因此,以下对在附图中提供的本申请的实施例的详细描述并非旨在限制要求保护的本申请的范围,而是仅仅表示本申请选定的一些实施例。基于本申请中的一部分实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。

应注意到:相似的标号和字母在下面的附图中表示类似项,因此,一旦某一项在一个附图中被定义,则在随后的附图中不需要对其进行进一步定义和解释。同时,在本申请的描述中,术语“第一”、“第二”等仅用于区分描述,而不能理解为指示或暗示相对重要性。

需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。

下面结合附图,对本申请的一些实施方式作详细说明。在不冲突的情况下,下述的实施例及实施例中的特征可以相互组合。

可以理解的是,本申请提供的一种基于大数据和云计算的数据保存方法,可以应用在多种场景中,比如智能医疗、网络直播、云游戏、智能购物、智慧城市管理、智能汽车管理系统、金融数据管理平台、云办公、云会议等系统。

请参阅图1,图1为本申请提供的云计算平台100的结构框图,所述云计算平台100包括存储器101、处理器102和通信接口103,该存储器101、处理器102和通信接口103相互之间直接或间接地电性连接,以实现数据的传输或交互。例如,这些元件相互之间可通过一条或多条通讯总线或信号线实现电性连接。

存储器101可用于存储软件程序及模块,处理器102通过执行存储在存储器101内的软件程序及模块,从而执行各种功能应用以及数据处理,进而执行本申请提供的一种基于大数据和云计算的数据保存方法的步骤。该通信接口103可用于与其他节点设备进行信令或数据的通信。

其中,存储器101可以是,但不限于,随机存取存储器(Random Access Memory,RAM),只读存储器(Read Only Memory,ROM),可编程只读存储器(Programmable Read-OnlyMemory,PROM),可擦除只读存储器(Erasable Programmable Read-Only Memory,EPROM),电可擦除可编程只读存储器(Electric Erasable Programmable Read-Only Memory,EEPROM)等。

处理器102可以是一种集成电路芯片,具有信号处理能力。该处理器102可以是通用处理器,包括中央处理器(Central Processing Unit,CPU)、网络处理器(NetworkProcessor,NP)等;还可以是数字信号处理器(Digital Signal Processing,DSP)、专用集成电路(Application Specific Integrated Circuit,ASIC)、现场可编程门阵列(Field-Programmable Gate Array,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。

请参阅图2,图2为本申请提供的一种基于大数据和云计算的数据保存方法的流程图,该数据保存方法包括以下步骤:

S310,获取待进行入库保存的目标数据包。

S320,对所述目标数据包中的多个数据区块分别进行业务数据提取和协议数据提取,得到业务数据序列和协议数据序列。

在本实施例中,所述目标数据库中的所有数据可以按照接收的时间顺序划分为多个数据区块,每一个数据区块均可以包括有业务数据和协议数据。比如,所述业务数据可以是监控相机拍摄的监控视频码流,或者智能货架产生的货物销售数据;所述协议数据可以是心跳报文或者是ARP(Address Resolution Protocol,地址解析协议)报文等。

在本实施例中,在执行步骤S320得到的业务数据序列和协议数据序列中,业务数据序列中包括有对应的数据区块中所有的业务数据,协议数据序列中包括有对应的数据区块中所有的协议数据。

S330,通过对所述业务数据序列进行第一关键信息提取,得到包括有业务数据的第一关键信息数据集。

S340,通过第二关键信息提取策略,对所述协议数据序列进行第二关键信息提取,得到包括有协议数据的第二关键信息数据集。

在本实施例中,针对提取到的所述业务数据序列以及所述协议数据序列,通过预先为业务数据配置的第一关键信息提取策略,以及预先为协议数据配置的第二关键信息提取策略,分别对业务数据序列和协议数据序列进行关键信息提取,从而分别得到包括第一关键信息数据集和第二关键信息数据集。可以理解的是,基于上述步骤S330得到的第一关键信息数据集为包括有业务数据的数据集,而基于上述步骤S340得到的第二关键信息数据集则为包括有协议数据的数据集。

S350,基于所述第一关键信息数据集和所述第二关键信息数据集进行目标信息匹配,得到所述目标数据包中与目标提取内容相对应的目标提取数据集。

在本实施例中,所述目标提取内容可以为用户输入的提取内容,即:该目标提取内容表征的是用户需要提取的内容;其中,所述目标提取内容包括业务数据和协议数据中的至少之一,也即:用户可以提取一部分业务数据,也可以提取一部分协议数据,还可以提取一部分业务数据和一部分协议数据。如此,在获得所述第一关键信息数据集合所述第二关键信息数据集后,通过基于所述目标提取内容对所述第一关键信息数据集合所述第二关键信息数据集进行目标信息匹配,从而得到所述目标数据包中与所述目标提取内容对应的目标提取数据集,进而可以基于所述目标提取数据集对所述目标数据包进行入库保存,比如可以将所述目标提取数据集对应的哈希值作为压缩秘钥对所述目标数据包进行压缩加密,从而将压缩加密后的所述目标数据包进行入库保存。

因此,采用本申请提供的上述技术方案,通过对待进行入库保存的目标数据包的多个数据区块分别进行业务数据提取和协议数据提取,得到业务数据序列和协议数据序列,即对目标数据包中的数据区块进行了分类,分为业务数据类和协议数据类;然后分别通过第一关键信息提取策略和第二关键信息提取策略对业务数据序列和协议数据序列进行关键信息提取,得到包含有业务数据的第一关键信息数据集和包含协议数据的第二关键信息数据集;接着基于第一关键信息数据集和第二关键信息数据集进行目标信息匹配,得到与目标提取内容相对应的目标提取数据集,从而基于目标提取数据集对目标数据包进行入库保存;相比于现有技术,能够提高数据包保存的安全性。

其中,作为一种实施方式,在执行步骤S320提取业务数据序列和协议数据序列时,为了提高业务数据与协议数据的准确性,可以采用以下方案:首先,对所述目标数据包中的多个数据区块分别进行业务数据提取,得到各个数据区块中的业务数据提取窗口、以及各业务数据提取窗口所对应的初始业务数据,比如,在本实施例中,每一个所述业务数据提取窗口可以是一种业务数据对应的提取窗口,比如视频数据、音频数据等等;然后,基于各数据区块中的业务数据提取窗口和相应的初始业务数据,确定业务数据序列;接下来,对所述目标数据包中的多个数据区块分别进行协议数据识别,得到各数据区块分别对应的协议数据内容;接着,对所述目标数据包中的多个数据区块分别进行协议类型识别,得到各数据区块各自所遵循的目标协议类型;然后,将存在对应关系的协议数据内容和目标协议类型进行关联;接下来,基于所述目标数据包中与预设的目标协议数据内容相关联的目标协议类型的数据包进行协议数据提取,得到协议数据序列。

另外,作为一种实施方式,在执行步骤330以提取第一关键信息数据集时,可以先针对对应于所述业务数据序列中的每个数据区块,当数据区块的初始业务数据的数量为至少两个时,获取每个初始业务数据的业务标记值;其中,所述业务标记值用于指示对应的业务数据在预设时间区间内被统计的次数;一方面,当业务标记值最高的初始业务数据为一个时,将所述业务标记值最高的初始业务数据作为相应数据区块的目标业务数据;另一方面,当所述业务标记值最高的初始业务数据为至少两个时,针对每个业务标记值最高的初始业务数据,获取对应的业务数据提取窗口的业务类型优先级;接下来,根据对应的优先级最高的业务类型优先级所对应的初始业务数据,确定出相应数据区块所对应的目标业务数据;然后,对于每个数据区块,获取各数据区块中与相应目标业务数据对应的业务数据提取窗口的目标窗口比值;其中,所述目标窗口比值用于指示对应的业务数据提取窗口的长度占所有的业务数据提取窗口的长度的比值;接下来,当所述目标窗口比值在预设的窗口比值区间内时,保留相对应的业务数据提取结果;其中,保留的所述业务数据提取结果包括业务数据提取窗口、以及所述业务数据提取窗口对应的目标业务数据;然后,当所述目标窗口比值不在所述预设的窗口比值区间内时,将相应的数据区块的业务数据提取结果设置为空业务数据集;接下来,基于各数据区块各自对应的业务数据提取结果,得到更新后的业务数据序列;然后,对所述更新后的业务数据序列进行时间戳标签识别,得到多组的业务起始数据和业务结束数据;接下来,确定每组业务起始数据和业务结束数据之间的业务数据持续时长;然后,当所述业务数据持续时长大于或等于第一设定时长阈值时,将相应组的业务起始数据和业务结束数据所构成的关键信息数据集作为第一备选关键信息数据集;接下来,对于每个第一备选关键信息数据集,根据所述第一备选关键信息数据集中各数据区块分别对应的更新后的目标业务数据,确定出现统计次数最多的特征业务类别;然后,将所述特征业务类别,作为相对应第一备选关键信息数据集所包括的业务数据所属的业务类别;然后,确定各所述第一备选关键信息数据集各自所属的业务类别;接下来,当按时间顺序相邻的至少两个的第一备选关键信息数据集均属于相同的业务类别时,将所述至少两个的第一备选关键信息数据集进行合并,得到与所述相同的业务类别对应的第一关键信息数据集。如此,采用本申请提供的上述方案,能够准确的提取第一关键信息数据集,避免脏数据的污染。

其中,在一些场景,所述业务数据序列中的业务数据提取结果包括空业务数据集和非空业务数据集;也即:一些业务数据序列的提取结果为没有业务数据的空集合。

基于此,在对所述更新后的业务数据序列进行时间戳标签识别,得到多组的业务起始数据和业务结束数据时,可以先将所述更新后的业务数据序列中,处于当前识别循环中的第一个非空业务数据集所对应的数据区块作为当前组的业务起始数据;然后,遍历所述当前组的业务起始数据之后的数据区块;其中,当遍历至的当前数据区块对应的业务数据提取结果为空业务数据集、且从所述当前数据区块开始的第二设定时长阈值内数据区块所对应的业务数据提取结果均为空业务数据集时,将所述当前数据区块作为所述当前组的业务结束数据;然后,将所述当前组的业务结束数据之后的第一个非空业务数据集所对应的数据区块,作为下一次识别循环的当前组的业务起始数据,并返回所述遍历所述当前组的业务起始数据之后的数据区块的步骤继续执行,直至得到多组的业务起始数据和业务结束数据。

另外,为了提高数据处理的完整性,避免数据遗漏,当遍历至的当前数据区块对应的业务数据提取结果为空业务数据集、且从所述当前数据区块开始的第二设定时长阈值内数据区块所对应的业务数据提取结果均为空业务数据集时,将所述当前数据区块作为所述当前组的业务结束数据之前,当由遍历至的当前数据区块与所述当前组的业务起始数据所确定的关键信息数据集时长小于第三设定时长阈值时,还可以先确定所述当前数据区块对应的业务数据提取结果是否为空业务数据集;其中,在所述当前数据区块对应的业务数据提取结果为非空业务数据集时,将所述当前数据区块作为所述当前组所对应的关键信息数据集中的其中之一;然后,在所述当前数据区块对应空业务数据集、且从所述当前数据区块开始的第二设定时长阈值内的业务数据提取结果中包括非空业务数据集时,将从所述当前数据区块开始的所述第二设定时长阈值内的第一个非空业务数据集所对应的数据区块,作为遍历的下一个当前数据区块,并返回所述当由遍历至的当前数据区块与所述当前组的业务起始数据所确定的关键信息数据集时长小于第三设定时长阈值时,确定所述当前数据区块对应的业务数据提取结果是否为空业务数据集的步骤继续执行。

可选地,在本实施例中,在将所述更新后的业务数据序列中,处于当前识别循环中的第一个非空业务数据集所对应的数据区块作为当前组的业务起始数据时,可以先获取所述更新后的业务数据序列中,处于当前识别循环中的第一个非空业务数据集所对应的目标数据包;然后,当所述目标数据包的后一个数据包所对应的业务数据提取结果为空业务数据集时,将所述目标数据包对应的业务数据提取结果置为空业务数据集;或者,当所述目标数据包的后一个数据包所对应的业务数据提取结果为非空业务数据集时,将所述目标数据包作为当前组的业务起始数据。

另外,在本实施例中,作为一种实施方式,在通过第二关键信息提取策略,对所述协议数据序列进行第二关键信息提取,得到包括有协议数据的第二关键信息数据集时,可以先对所述协议数据序列中的各个协议数据进行时间戳标签识别,得到多个包括有协议数据的第二备选关键信息数据集;然后根据各所述第二备选关键信息数据集所对应的协议类型,对属于相同协议类型的第二备选关键信息数据集进行合并,得到包括有协议数据的第二关键信息数据集。可以理解的是,如繁多种类的业务数据不同,协议数据一般是遵循严格的协议标准,因此可以采用较为简洁的提取方式。

另外,在本实施例中,作为一种实施方式,在基于所述第一关键信息数据集和所述第二关键信息数据集进行目标信息匹配,得到所述目标数据包中与目标提取内容相对应的目标提取数据集时,可以先获取维护设备发送的目标提取内容中的核心关键信息,可以理解的是,所述维护设备为管理人员所使用的设备;然后,对所述核心关键信息进行关键词筛选,得到筛选后的核心关键信息,并将所述筛选后的核心关键信息添加至对应的信息处理节点;接下来,基于所述筛选后的核心关键信息和所述信息处理节点,对所述第一关键信息数据集和所述第二关键信息数据集进行关键信息匹配,得到至少一个初始匹配关键信息;然后,确定出所有初始匹配关键信息中符合预设信息筛选策略的至少一个目标匹配关键信息,并将所有的目标匹配关键信息构建成目标提取数据集。

可选地,作为一种实施方式,所述核心关键信息包括多个核心关键词;基于此,在对所述核心关键信息进行关键词筛选,得到筛选后的核心关键信息时,可以先获取所述核心关键信息中各个核心关键词的历史统计次数、阈值统计次数;然后,将历史统计次数与阈值统计次数的差值超过设定的次数阈值的核心关键词删除,将剩余的核心关键词作为筛选后的核心关键信息。

另外,在本实施例中,作为一种实施方式,在基于所述筛选后的核心关键信息和所述信息处理节点,对所述第一关键信息数据集和所述第二关键信息数据集进行关键信息匹配,得到至少一个初始匹配关键信息时,可以先利用所述信息处理节点分别计算出每一个所述筛选后的核心关键信息各自与所述第一关键信息数据集的第一关键信息关联度和所述信息处理节点的第二关键信息关联度;然后,针对每一个所述筛选后的核心关键信息,当对应的第一关键信息关联度和对应的第二关键信息关联度中的任一个关键信息关联度大于预设的关联度阈值时,将对应的核心关键信息确定为初始匹配关键信息;接下来,针对每一个所述筛选后的核心关键信息,当对应的第一关键信息关联度和对应的第二关键信息关联度均小于或等于预设的关联度阈值时,则将对应的核心关键信息确定为初始匹配关键信息;然后,针对每一个所述筛选后的核心关键信息,当对应的第一关键信息关联度和对应的第二关键信息关联度中的其中之一大于预设的关联度阈值,且另一个小于或等于预设的关联度阈值,则将对应的核心关键信息丢弃。如此,按照本申请提供的上述方案,可以提高关键信息的获取准确度。

并且,作为一种实施方式,在确定出所有初始匹配关键信息中符合预设信息筛选策略的至少一个目标匹配关键信息时,可以先基于预先配置的至少一个特征值计算策略计算出每个初始匹配关键信息的各个特征匹配值,并基于各个特征匹配值计算出每个初始匹配关键信息的初始评价得分;然后,基于每个初始匹配关键信息各自所属的关键信息类型,确定出每个初始匹配关键信息各自对应的评价得分阈值;接下来,可以先判断每个初始匹配关键信息的初始评价得分是否大于各自对应的评价得分阈值;然后,将对应的初始评价得分大于各自对应的评价得分阈值的至少一个初始匹配关键信息确定为目标匹配关键信息。

请参阅图3,图3为本申请提供的一种基于大数据和云计算的数据保存装置的结构图,所述数据保存装置400包括获取模块410及处理模块420。

获取模块410,用于获取待进行入库保存的目标数据包;

处理模块420,用于对所述目标数据包中的多个数据区块分别进行业务数据提取和协议数据提取,得到业务数据序列和协议数据序列;

所述处理模块420还用于,通过第一关键信息提取策略,对所述业务数据序列进行第一关键信息提取,得到包括有业务数据的第一关键信息数据集;

所述处理模块420还用于,通过第二关键信息提取策略,对所述协议数据序列进行第二关键信息提取,得到包括有协议数据的第二关键信息数据集;

所述处理模块420还用于,基于所述第一关键信息数据集和所述第二关键信息数据集进行目标信息匹配,得到所述目标数据包中与目标提取内容相对应的目标提取数据集;其中,所述目标提取内容包括业务数据和协议数据中的至少之一,所述目标提取数据集用于对所述目标数据包进行入库保存。

可选地,所述处理模块420在对所述目标数据包中的多个数据区块分别进行业务数据提取和协议数据提取,得到业务数据序列和协议数据序列时,可以用于

对所述目标数据包中的多个数据区块分别进行业务数据提取,得到各个数据区块中的业务数据提取窗口、以及各业务数据提取窗口所对应的初始业务数据;

基于各数据区块中的业务数据提取窗口和相应的初始业务数据,确定业务数据序列;

对所述目标数据包中的多个数据区块分别进行协议数据识别,得到各数据区块分别对应的协议数据内容;

对所述目标数据包中的多个数据区块分别进行协议类型识别,得到各数据区块各自所遵循的目标协议类型;

将存在对应关系的协议数据内容和目标协议类型进行关联;

基于所述目标数据包中与预设的目标协议数据内容相关联的目标协议类型的数据包进行协议数据提取,得到协议数据序列。

可选地,所述处理模块420在通过第一关键信息提取策略,对所述业务数据序列进行第一关键信息提取,得到包括有业务数据的第一关键信息数据集时,可以用于

针对对应于所述业务数据序列中的每个数据区块,当数据区块的初始业务数据的数量为至少两个时,获取每个初始业务数据的业务标记值;其中,所述业务标记值用于指示对应的业务数据在预设时间区间内被统计的次数;

当业务标记值最高的初始业务数据为一个时,将所述业务标记值最高的初始业务数据作为相应数据区块的目标业务数据;

当所述业务标记值最高的初始业务数据为至少两个时,针对每个业务标记值最高的初始业务数据,获取对应的业务数据提取窗口的业务类型优先级;

根据对应的优先级最高的业务类型优先级所对应的初始业务数据,确定出相应数据区块所对应的目标业务数据;

对于每个数据区块,获取各数据区块中与相应目标业务数据对应的业务数据提取窗口的目标窗口比值;其中,所述目标窗口比值用于指示对应的业务数据提取窗口的长度占所有的业务数据提取窗口的长度的比值;

当所述目标窗口比值在预设的窗口比值区间内时,保留相对应的业务数据提取结果;其中,保留的所述业务数据提取结果包括业务数据提取窗口、以及所述业务数据提取窗口对应的目标业务数据;

当所述目标窗口比值不在所述预设的窗口比值区间内时,将相应的数据区块的业务数据提取结果设置为空业务数据集;

基于各数据区块各自对应的业务数据提取结果,得到更新后的业务数据序列;

对所述更新后的业务数据序列进行时间戳标签识别,得到多组的业务起始数据和业务结束数据;

确定每组业务起始数据和业务结束数据之间的业务数据持续时长;

当所述业务数据持续时长大于或等于第一设定时长阈值时,将相应组的业务起始数据和业务结束数据所构成的关键信息数据集作为第一备选关键信息数据集;

对于每个第一备选关键信息数据集,根据所述第一备选关键信息数据集中各数据区块分别对应的更新后的目标业务数据,确定出现统计次数最多的特征业务类别;

将所述特征业务类别,作为相对应第一备选关键信息数据集所包括的业务数据所属的业务类别;

确定各所述第一备选关键信息数据集各自所属的业务类别;

当按时间顺序相邻的至少两个的第一备选关键信息数据集均属于相同的业务类别时,将所述至少两个的第一备选关键信息数据集进行合并,得到与所述相同的业务类别对应的第一关键信息数据集。

可选地,所述业务数据序列中的业务数据提取结果包括空业务数据集和非空业务数据集;

所述处理模块420在对所述更新后的业务数据序列进行时间戳标签识别,得到多组的业务起始数据和业务结束数据时,可以用于:

将所述更新后的业务数据序列中,处于当前识别循环中的第一个非空业务数据集所对应的数据区块作为当前组的业务起始数据;

遍历所述当前组的业务起始数据之后的数据区块;

当遍历至的当前数据区块对应的业务数据提取结果为空业务数据集、且从所述当前数据区块开始的第二设定时长阈值内数据区块所对应的业务数据提取结果均为空业务数据集时,将所述当前数据区块作为所述当前组的业务结束数据;

将所述当前组的业务结束数据之后的第一个非空业务数据集所对应的数据区块,作为下一次识别循环的当前组的业务起始数据,并返回所述遍历所述当前组的业务起始数据之后的数据区块的步骤继续执行,直至得到多组的业务起始数据和业务结束数据。

可选地,当遍历至的当前数据区块对应的业务数据提取结果为空业务数据集、且从所述当前数据区块开始的第二设定时长阈值内数据区块所对应的业务数据提取结果均为空业务数据集时,将所述当前数据区块作为所述当前组的业务结束数据之前,所述处理模块420还用于:

当由遍历至的当前数据区块与所述当前组的业务起始数据所确定的关键信息数据集时长小于第三设定时长阈值时,确定所述当前数据区块对应的业务数据提取结果是否为空业务数据集;

在所述当前数据区块对应的业务数据提取结果为非空业务数据集时,将所述当前数据区块作为所述当前组所对应的关键信息数据集中的其中之一;

在所述当前数据区块对应空业务数据集、且从所述当前数据区块开始的第二设定时长阈值内的业务数据提取结果中包括非空业务数据集时,将从所述当前数据区块开始的所述第二设定时长阈值内的第一个非空业务数据集所对应的数据区块,作为遍历的下一个当前数据区块,并返回所述当由遍历至的当前数据区块与所述当前组的业务起始数据所确定的关键信息数据集时长小于第三设定时长阈值时,确定所述当前数据区块对应的业务数据提取结果是否为空业务数据集的步骤继续执行。

可选地,所述处理模块420在将所述更新后的业务数据序列中,处于当前识别循环中的第一个非空业务数据集所对应的数据区块作为当前组的业务起始数据时,可以用于

获取所述更新后的业务数据序列中,处于当前识别循环中的第一个非空业务数据集所对应的目标数据包;

当所述目标数据包的后一个数据包所对应的业务数据提取结果为空业务数据集时,将所述目标数据包对应的业务数据提取结果置为空业务数据集;

当所述目标数据包的后一个数据包所对应的业务数据提取结果为非空业务数据集时,将所述目标数据包作为当前组的业务起始数据。

可选地,所述处理模块420在通过第二关键信息提取策略,对所述协议数据序列进行第二关键信息提取,得到包括有协议数据的第二关键信息数据集时,可以用于:

对所述协议数据序列中的各个协议数据进行时间戳标签识别,得到多个包括有协议数据的第二备选关键信息数据集;

根据各所述第二备选关键信息数据集所对应的协议类型,对属于相同协议类型的第二备选关键信息数据集进行合并,得到包括有协议数据的第二关键信息数据集。

可选地,所述处理模块420在基于所述第一关键信息数据集和所述第二关键信息数据集进行目标信息匹配,得到所述目标数据包中与目标提取内容相对应的目标提取数据集时,可以用于:

获取维护设备发送的目标提取内容中的核心关键信息;

对所述核心关键信息进行关键词筛选,得到筛选后的核心关键信息,并将所述筛选后的核心关键信息添加至对应的信息处理节点;

基于所述筛选后的核心关键信息和所述信息处理节点,对所述第一关键信息数据集和所述第二关键信息数据集进行关键信息匹配,得到至少一个初始匹配关键信息;

确定出所有初始匹配关键信息中符合预设信息筛选策略的至少一个目标匹配关键信息,并将所有的目标匹配关键信息构建成目标提取数据集。

可选地,所述核心关键信息包括多个核心关键词;

所述处理模块420在对所述核心关键信息进行关键词筛选,得到筛选后的核心关键信息时,可以用于:

获取所述核心关键信息中各个核心关键词的历史统计次数、阈值统计次数;

将历史统计次数与阈值统计次数的差值超过设定的次数阈值的核心关键词删除,将剩余的核心关键词作为筛选后的核心关键信息。

可选地,所述处理模块420在基于所述筛选后的核心关键信息和所述信息处理节点,对所述第一关键信息数据集和所述第二关键信息数据集进行关键信息匹配,得到至少一个初始匹配关键信息时,可以用于:

利用所述信息处理节点分别计算出每一个所述筛选后的核心关键信息各自与所述第一关键信息数据集的第一关键信息关联度和所述信息处理节点的第二关键信息关联度;

针对每一个所述筛选后的核心关键信息,当对应的第一关键信息关联度和对应的第二关键信息关联度中的任一个关键信息关联度大于预设的关联度阈值时,将对应的核心关键信息确定为初始匹配关键信息;

针对每一个所述筛选后的核心关键信息,当对应的第一关键信息关联度和对应的第二关键信息关联度均小于或等于预设的关联度阈值时,则将对应的核心关键信息确定为初始匹配关键信息;

针对每一个所述筛选后的核心关键信息,当对应的第一关键信息关联度和对应的第二关键信息关联度中的其中之一大于预设的关联度阈值,且另一个小于或等于预设的关联度阈值,则将对应的核心关键信息丢弃。

可选地,所述处理模块420在确定出所有初始匹配关键信息中符合预设信息筛选策略的至少一个目标匹配关键信息时,可以用于:

基于预先配置的至少一个特征值计算策略计算出每个初始匹配关键信息的各个特征匹配值,并基于各个特征匹配值计算出每个初始匹配关键信息的初始评价得分;

基于每个初始匹配关键信息各自所属的关键信息类型,确定出每个初始匹配关键信息各自对应的评价得分阈值;

判断每个初始匹配关键信息的初始评价得分是否大于各自对应的评价得分阈值;

将对应的初始评价得分大于各自对应的评价得分阈值的至少一个初始匹配关键信息确定为目标匹配关键信息。

另外,本申请还提供一种基于大数据和云计算的数据保存系统,所述数据保存系统包括数据获取节点和数据处理节点。

数据获取节点用于,获取待进行入库保存的目标数据包;

数据处理节点用于,对所述目标数据包中的多个数据区块分别进行业务数据提取和协议数据提取,得到业务数据序列和协议数据序列;

所述数据处理节点还用于,通过第一关键信息提取策略,对所述业务数据序列进行第一关键信息提取,得到包括有业务数据的第一关键信息数据集;

所述数据处理节点还用于,通过第二关键信息提取策略,对所述协议数据序列进行第二关键信息提取,得到包括有协议数据的第二关键信息数据集;

所述数据处理节点还用于,基于所述第一关键信息数据集和所述第二关键信息数据集进行目标信息匹配,得到所述目标数据包中与目标提取内容相对应的目标提取数据集;其中,所述目标提取内容包括业务数据和协议数据中的至少之一,所述目标提取数据集用于对所述目标数据包进行入库保存。

可选地,所述数据处理节点在对所述目标数据包中的多个数据区块分别进行业务数据提取和协议数据提取,得到业务数据序列和协议数据序列时,可以用于

对所述目标数据包中的多个数据区块分别进行业务数据提取,得到各个数据区块中的业务数据提取窗口、以及各业务数据提取窗口所对应的初始业务数据;

基于各数据区块中的业务数据提取窗口和相应的初始业务数据,确定业务数据序列;

对所述目标数据包中的多个数据区块分别进行协议数据识别,得到各数据区块分别对应的协议数据内容;

对所述目标数据包中的多个数据区块分别进行协议类型识别,得到各数据区块各自所遵循的目标协议类型;

将存在对应关系的协议数据内容和目标协议类型进行关联;

基于所述目标数据包中与预设的目标协议数据内容相关联的目标协议类型的数据包进行协议数据提取,得到协议数据序列。

可选地,所述数据处理节点在通过第一关键信息提取策略,对所述业务数据序列进行第一关键信息提取,得到包括有业务数据的第一关键信息数据集时,可以用于

针对对应于所述业务数据序列中的每个数据区块,当数据区块的初始业务数据的数量为至少两个时,获取每个初始业务数据的业务标记值;其中,所述业务标记值用于指示对应的业务数据在预设时间区间内被统计的次数;

当业务标记值最高的初始业务数据为一个时,将所述业务标记值最高的初始业务数据作为相应数据区块的目标业务数据;

当所述业务标记值最高的初始业务数据为至少两个时,针对每个业务标记值最高的初始业务数据,获取对应的业务数据提取窗口的业务类型优先级;

根据对应的优先级最高的业务类型优先级所对应的初始业务数据,确定出相应数据区块所对应的目标业务数据;

对于每个数据区块,获取各数据区块中与相应目标业务数据对应的业务数据提取窗口的目标窗口比值;其中,所述目标窗口比值用于指示对应的业务数据提取窗口的长度占所有的业务数据提取窗口的长度的比值;

当所述目标窗口比值在预设的窗口比值区间内时,保留相对应的业务数据提取结果;其中,保留的所述业务数据提取结果包括业务数据提取窗口、以及所述业务数据提取窗口对应的目标业务数据;

当所述目标窗口比值不在所述预设的窗口比值区间内时,将相应的数据区块的业务数据提取结果设置为空业务数据集;

基于各数据区块各自对应的业务数据提取结果,得到更新后的业务数据序列;

对所述更新后的业务数据序列进行时间戳标签识别,得到多组的业务起始数据和业务结束数据;

确定每组业务起始数据和业务结束数据之间的业务数据持续时长;

当所述业务数据持续时长大于或等于第一设定时长阈值时,将相应组的业务起始数据和业务结束数据所构成的关键信息数据集作为第一备选关键信息数据集;

对于每个第一备选关键信息数据集,根据所述第一备选关键信息数据集中各数据区块分别对应的更新后的目标业务数据,确定出现统计次数最多的特征业务类别;

将所述特征业务类别,作为相对应第一备选关键信息数据集所包括的业务数据所属的业务类别;

确定各所述第一备选关键信息数据集各自所属的业务类别;

当按时间顺序相邻的至少两个的第一备选关键信息数据集均属于相同的业务类别时,将所述至少两个的第一备选关键信息数据集进行合并,得到与所述相同的业务类别对应的第一关键信息数据集。

可选地,所述业务数据序列中的业务数据提取结果包括空业务数据集和非空业务数据集;

所述数据处理节点在对所述更新后的业务数据序列进行时间戳标签识别,得到多组的业务起始数据和业务结束数据时,可以用于:

将所述更新后的业务数据序列中,处于当前识别循环中的第一个非空业务数据集所对应的数据区块作为当前组的业务起始数据;

遍历所述当前组的业务起始数据之后的数据区块;

当遍历至的当前数据区块对应的业务数据提取结果为空业务数据集、且从所述当前数据区块开始的第二设定时长阈值内数据区块所对应的业务数据提取结果均为空业务数据集时,将所述当前数据区块作为所述当前组的业务结束数据;

将所述当前组的业务结束数据之后的第一个非空业务数据集所对应的数据区块,作为下一次识别循环的当前组的业务起始数据,并返回所述遍历所述当前组的业务起始数据之后的数据区块的步骤继续执行,直至得到多组的业务起始数据和业务结束数据。

可选地,当遍历至的当前数据区块对应的业务数据提取结果为空业务数据集、且从所述当前数据区块开始的第二设定时长阈值内数据区块所对应的业务数据提取结果均为空业务数据集时,将所述当前数据区块作为所述当前组的业务结束数据之前,所述数据处理节点还用于:

当由遍历至的当前数据区块与所述当前组的业务起始数据所确定的关键信息数据集时长小于第三设定时长阈值时,确定所述当前数据区块对应的业务数据提取结果是否为空业务数据集;

在所述当前数据区块对应的业务数据提取结果为非空业务数据集时,将所述当前数据区块作为所述当前组所对应的关键信息数据集中的其中之一;

在所述当前数据区块对应空业务数据集、且从所述当前数据区块开始的第二设定时长阈值内的业务数据提取结果中包括非空业务数据集时,将从所述当前数据区块开始的所述第二设定时长阈值内的第一个非空业务数据集所对应的数据区块,作为遍历的下一个当前数据区块,并返回所述当由遍历至的当前数据区块与所述当前组的业务起始数据所确定的关键信息数据集时长小于第三设定时长阈值时,确定所述当前数据区块对应的业务数据提取结果是否为空业务数据集的步骤继续执行。

可选地,所述数据处理节点在将所述更新后的业务数据序列中,处于当前识别循环中的第一个非空业务数据集所对应的数据区块作为当前组的业务起始数据时,可以用于

获取所述更新后的业务数据序列中,处于当前识别循环中的第一个非空业务数据集所对应的目标数据包;

当所述目标数据包的后一个数据包所对应的业务数据提取结果为空业务数据集时,将所述目标数据包对应的业务数据提取结果置为空业务数据集;

当所述目标数据包的后一个数据包所对应的业务数据提取结果为非空业务数据集时,将所述目标数据包作为当前组的业务起始数据。

可选地,所述数据处理节点在通过第二关键信息提取策略,对所述协议数据序列进行第二关键信息提取,得到包括有协议数据的第二关键信息数据集时,可以用于:

对所述协议数据序列中的各个协议数据进行时间戳标签识别,得到多个包括有协议数据的第二备选关键信息数据集;

根据各所述第二备选关键信息数据集所对应的协议类型,对属于相同协议类型的第二备选关键信息数据集进行合并,得到包括有协议数据的第二关键信息数据集。

可选地,所述数据处理节点在基于所述第一关键信息数据集和所述第二关键信息数据集进行目标信息匹配,得到所述目标数据包中与目标提取内容相对应的目标提取数据集时,可以用于:

获取维护设备发送的目标提取内容中的核心关键信息;

对所述核心关键信息进行关键词筛选,得到筛选后的核心关键信息,并将所述筛选后的核心关键信息添加至对应的信息处理节点;

基于所述筛选后的核心关键信息和所述信息处理节点,对所述第一关键信息数据集和所述第二关键信息数据集进行关键信息匹配,得到至少一个初始匹配关键信息;

确定出所有初始匹配关键信息中符合预设信息筛选策略的至少一个目标匹配关键信息,并将所有的目标匹配关键信息构建成目标提取数据集。

可选地,所述核心关键信息包括多个核心关键词;

所述数据处理节点在对所述核心关键信息进行关键词筛选,得到筛选后的核心关键信息时,可以用于:

获取所述核心关键信息中各个核心关键词的历史统计次数、阈值统计次数;

将历史统计次数与阈值统计次数的差值超过设定的次数阈值的核心关键词删除,将剩余的核心关键词作为筛选后的核心关键信息。

可选地,所述数据处理节点在基于所述筛选后的核心关键信息和所述信息处理节点,对所述第一关键信息数据集和所述第二关键信息数据集进行关键信息匹配,得到至少一个初始匹配关键信息时,可以用于:

利用所述信息处理节点分别计算出每一个所述筛选后的核心关键信息各自与所述第一关键信息数据集的第一关键信息关联度和所述信息处理节点的第二关键信息关联度;

针对每一个所述筛选后的核心关键信息,当对应的第一关键信息关联度和对应的第二关键信息关联度中的任一个关键信息关联度大于预设的关联度阈值时,将对应的核心关键信息确定为初始匹配关键信息;

针对每一个所述筛选后的核心关键信息,当对应的第一关键信息关联度和对应的第二关键信息关联度均小于或等于预设的关联度阈值时,则将对应的核心关键信息确定为初始匹配关键信息;

针对每一个所述筛选后的核心关键信息,当对应的第一关键信息关联度和对应的第二关键信息关联度中的其中之一大于预设的关联度阈值,且另一个小于或等于预设的关联度阈值,则将对应的核心关键信息丢弃。

可选地,所述数据处理节点在确定出所有初始匹配关键信息中符合预设信息筛选策略的至少一个目标匹配关键信息时,可以用于:

基于预先配置的至少一个特征值计算策略计算出每个初始匹配关键信息的各个特征匹配值,并基于各个特征匹配值计算出每个初始匹配关键信息的初始评价得分;

基于每个初始匹配关键信息各自所属的关键信息类型,确定出每个初始匹配关键信息各自对应的评价得分阈值;

判断每个初始匹配关键信息的初始评价得分是否大于各自对应的评价得分阈值;

将对应的初始评价得分大于各自对应的评价得分阈值的至少一个初始匹配关键信息确定为目标匹配关键信息。

在本申请所提供的实施例中,应该理解到,所揭露的装置和方法,也可以通过其它的方式实现。以上所描述的装置实施例仅仅是示意性的,例如,附图中的流程图和框图显示了根据本申请的一些实施例的装置、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段或代码的一部分,所述模块、程序段或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。

也应当注意,在有些作为替换的实现方式中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个连续的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。

也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或动作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。

另外,在本申请的一些实施例中的各功能模块可以集成在一起形成一个独立的部分,也可以是各个模块单独存在,也可以两个或两个以上模块集成形成一个独立的部分。

所述功能如果以软件功能模块的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本申请的一些实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器、随机存取存储器、磁碟或者光盘等各种可以存储程序代码的介质。

以上所述仅为本申请的部分实施例而已,并不用于限制本申请,对于本领域的技术人员来说,本申请可以有各种更改和变化。凡在本申请的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本申请的保护范围之内。

对于本领域技术人员而言,显然本申请不限于上述示范性实施例的细节,而且在不背离本申请的精神或基本特征的情况下,能够以其它的具体形式实现本申请。因此,无论从哪一点来看,均应将实施例看作是示范性的,而且是非限制性的,本申请的范围由所附权利要求而不是上述说明限定,因此旨在将落在权利要求的等同要件的含义和范围内的所有变化囊括在本申请内。不应将权利要求中的任何附图标记视为限制所涉及的权利要求。

去获取专利,查看全文>

相似文献

  • 专利
  • 中文文献
  • 外文文献
获取专利

客服邮箱:kefu@zhangqiaokeyan.com

京公网安备:11010802029741号 ICP备案号:京ICP备15016152号-6 六维联合信息科技 (北京) 有限公司©版权所有
  • 客服微信

  • 服务号