一种基于数据中台系统的商务数据分析方法、设备及介质

摘要

本发明公开了一种基于数据中台系统的商务数据分析方法、设备及介质，属于大数据技术领域，用于解决现有的数据中台系统，对不同商务数据之间数据互通与分析较为困难，不利于多种商务数据之间的分析利用效率以及可视化展示的技术问题。方法包括：获取数据中台系统中不同商务平台中的初始商务数据，并对初始商务数据进行数据清洗，得到多样商务数据；基于多样商务数据，确定出数据中台系统中服务端的基础API接口；根据多样商务数据的商务数据结构，并通过基础API接口，搭建出API应用场景；通过API应用场景，对多样商务数据进行数据源的统一提取，并通过可视化页面，对多样商务数据进行可视化展示。

说明书

技术领域

本申请涉及大数据技术领域，尤其涉及一种基于数据中台系统的商务数据分析方法、设备及介质。

背景技术

随着社会的发展，数据中台系统使用的越来越广泛。中台系统就是将“后台”系统中那些针对技术，业务，组织的通用“模块/服务”从原来固定的项目中抽离出来，并且使之能够成为一个自治的服务提供给更多的“前台”使用。中台就是“前台”和“后台”之间联动的齿轮，

同时，针对客户端来说，通过数据中台提供的服务来获取数据。数据中台会根据不同的业务场景，生成不同的数据服务，满足客户的需要。提供类似平台的企业进入IT信息化数据，通过对数据的整合和分析可以助力业务发展。

现有的数据中台系统，对于不同商务数据源、不同商务数据格式的数据之间互通较为困难，需要耗费大量的资源进行格式转化，从而影响了数据中台系统的存储能力与计算能力，使商务数据之间分析与处理等产生了较高的沟通成本，不利于多种商务数据之间的相互利用以及可视化展示。

发明内容

本申请实施例提供了一种基于数据中台系统的商务数据分析方法、设备及介质，用于解决如下技术问题：现有的数据中台系统，对不同商务数据之间数据互通与分析较为困难，不利于多种商务数据之间的分析利用效率以及可视化展示。

本申请实施例采用下述技术方案：

一方面，本申请实施例提供了一种基于数据中台系统的商务数据分析方法，包括：获取所述数据中台系统中不同商务平台中的初始商务数据，并对所述初始商务数据进行数据清洗，得到多样商务数据；基于所述多样商务数据，确定出所述数据中台系统中服务端的基础API(Application Programming Interface，应用程序接口)接口；根据所述多样商务数据的商务数据结构，并通过所述基础API接口，搭建出API应用场景；通过所述API应用场景，对所述多样商务数据进行数据源的统一提取，并通过可视化页面，对所述多样商务数据进行可视化展示。

本申请实施例通过数据中台系统将不同数据源、不同数据格式的商务数据格式化并统一存储，提高了数据之间的共享互通。同时利用分布式存储，提高了数据中台系统的存储能力与计算能力，并且基础API接口，增加了自定义API及报表的功能，降低了不同商务数据之间数据的沟通成本，还提高了多种商务数据之间的分析利用效率，帮助用户可以直观使用生成的API文件。

在一种可行的实施方式中，获取所述数据中台系统中不同商务平台中的初始商务数据，具体包括：通过所述数据中台系统，获取不同客户端下的商务平台IP；根据所述商务平台IP，将所述数据中台系统的缓存数据库与商务平台中的所述初始商务数据进行数据识别与数据定位，确定出所述初始商务数据的定位链接信息；通过所述数据中台系统中预安装的多种数据采集工具，并基于所述定位链接信息，采集并得到不同商务平台中的所述初始商务数据；其中，所述多种数据采集工具至少包括：Python编程工具、Selenium自动化测试工具、Scrapy源网络爬虫框架工具、Fiddler调试工具以及Postman开发工具。

在一种可行的实施方式中，对所述初始商务数据进行数据清洗，得到多样商务数据，具体包括：提取所述初始商务数据的数据源以及对应的数据编码；通过所述数据中台系统中的中间数据库，对所述数据源进行数据转换，得到转换数据源，并存储于目标数据库中，将所述数据编码与所述目标数据库中的转换数据源进行一一对应，确定出与所述初始商务数据相对应的初始转换数据；通过所述数据中台系统中的数据适配格式，对所述初始转换数据进行格式的统一转化，得到二次转换数据；根据所述不同商务平台中的数据特征，对所述二次转换数据进行特征点的分类处理，得到所述多样商务数据；并将所述多样商务数据存储于所述数据中台系统中的中；其中，所述多样商务数据表示不同商务平台下的商务数据种类集合。

在一种可行的实施方式中，基于所述多样商务数据，确定出所述数据中台系统中服务端的基础API接口，具体包括：获取所述多样商务数据的API接口协议；其中，所述API接口协议与所述多样商务数据的域名与版本相互关联；基于HBase数据库中所述多样商务数据的资源路径，确定出所述多样商务数据的API接口路径；根据所述API接口协议以及所述API接口路径，将所述数据中台系统中的服务端与所述多样商务数据进行数据响应，以使所述服务端与所述多样商务数据进行进行数据关联的开发，并得到所述基础API接口；其中，所述数据响应包括：状态码响应、信息描述响应以及数据属性响应。

在一种可行的实施方式中，在以使所述服务端与所述多样商务数据进行进行数据关联的开发，并得到所述基础API接口之后，所述方法还包括：根据关联开发后的所述基础API接口，对所述多样商务数据进行有关商务报表模板的数据栏匹配处理，得到商务数据报表API。

在一种可行的实施方式中，根据所述多样商务数据的商务数据结构，并通过所述基础API接口，搭建出API应用场景，具体包括：根据商务数据报表API，对所述多样商务数据进行数据结构的划分与识别，确定出所述多样商务数据的商务数据结构；基于所述商务数据结构，确定出所述多样商务数据的业务需求组件；并所述API接口，对所述业务需求组件进行编码定义，得到业务配置组件；通过所述基础API接口以及所述业务配置组件，构建出符合业务需求的所述API应用场景。

在一种可行的实施方式中，通过所述API应用场景，对所述多样商务数据进行数据源的统一提取，具体包括：对所述多样商务数据进行有关商务数据报表API的数据源提取，得到所述多样商务数据的输入数据源；其中，所述输入数据源至少包括：商品信息表、订单信息表以及店铺信息表；根据所述输入数据源，对所述多样商务数据进行有关业务配置组件中数据处理方式的数据源提取，得到所述多样商务数据的处理过程数据源；其中，所述处理过程数据源至少包括：多年联查配置、行列转置配置以及聚合函数计算配置；基于所述处理过程数据源以及所述输入数据源，确定出输出数据源；其中，所述输出数据少包括：API、可视化的商务数据图表以及商务数据报表；通过所述API应用场景，分别提取与所述多样商务数据对应的所述输出数据源、所述处理过程数据源以及所述输入数据源。

在一种可行的实施方式中，通过可视化页面，对所述多样商务数据进行可视化展示，具体包括：通过所述可视化页面，对所述输出数据源、所述处理过程数据源以及所述输入数据源进行数据可视化处理，以使所述多样商务数据完成可视化的编程配置，并生成API可视化文件；其中，所述API可视化文件为不同商务平台之间的数据互通与可视化展示文件；将所述API可视化文件发送给客户端；以使所述客户端中的用户通过所述数据中台系统，获取不同商务平台中共享的商务数据以及对应的API。

第二方面，本申请实施例还提供了一种基于数据中台系统的商务数据分析设备，所述设备包括：至少一个处理器；以及，与所述至少一个处理器通信连接的存储器；其中，所述存储器存储有能够被所述至少一个处理器执行的指令，以使所述至少一个处理器能够执行上述任一实施方式所述的一种基于数据中台系统的商务数据分析方法。

第三方面，本申请实施例还提供了一种非易失性计算机存储介质，其特征在于，所述存储介质为非易失性计算机可读存储介质，所述非易失性计算机可读存储介质存储有至少一个程序，每个所述程序包括指令，所述指令当被终端执行时，使所述终端执行上述任一实施方式所述的一种基于数据中台系统的商务数据分析方法。

本申请提供了一种基于数据中台系统的商务数据分析方法、设备及介质，与现有技术相比，本申请实施例具有以下有益的技术效果：

本申请实施例通过数据中台系统将不同数据源、不同数据格式的商务数据格式化并统一存储，提高了数据之间的共享互通。同时利用分布式存储，提高了数据中台系统的存储能力与计算能力，并且基础API接口，增加了自定义API及报表的功能，降低了不同商务数据之间数据的沟通成本，还提高了多种商务数据之间的分析利用效率，帮助用户可以直观使用生成的API文件。

附图说明

为了更清楚地说明本申请实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本申请中记载的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。在附图中：

图1为本申请实施例提供的一种基于数据中台系统的商务数据分析方法流程图；

图2为本申请实施例提供的一种基于数据中台系统的商务数据分析设备的结构示意图。

具体实施方式

为了使本技术领域的人员更好地理解本申请中的技术方案，下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本申请一部分实施例，而不是全部的实施例。基于本说明书实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都应当属于本申请保护的范围。

本申请实施例提供了一种基于数据中台系统的商务数据分析方法，如图1所示，基于数据中台系统的商务数据分析方法具体包括步骤S101-S104：

S101、获取数据中台系统中不同商务平台中的初始商务数据，并对初始商务数据进行数据清洗，得到多样商务数据。

具体地，通过数据中台系统，获取不同客户端下的商务平台IP。根据商务平台IP，将数据中台系统的缓存数据库与商务平台中的初始商务数据进行数据识别与数据定位，确定出初始商务数据的定位链接信息。

进一步地，通过数据中台系统中预安装的多种数据采集工具，并基于定位链接信息，采集并得到不同商务平台中的初始商务数据。其中，多种数据采集工具至少包括：Python编程工具、Selenium自动化测试工具、Scrapy源网络爬虫框架工具、Fiddler调试工具以及Postman开发工具。

进一步地，先提取初始商务数据的数据源以及对应的数据编码。通过数据中台系统中的中间数据库，对数据源进行数据转换，得到转换数据源，并存储于目标数据库中。

进一步地，将数据编码与目标数据库中的转换数据源进行一一对应，确定出与初始商务数据相对应的初始转换数据。

进一步地，通过数据中台系统中的数据适配格式，对初始转换数据进行格式的统一转化，得到二次转换数据。

进一步地，根据不同商务平台中的数据特征，对二次转换数据进行特征点的分类处理，得到多样商务数据。并将多样商务数据存储于数据中台系统中的中。多样商务数据表示不同商务平台下的商务数据种类集合。

作为一种可行的实施方式，基于数据中台系统，使用各种数据采集工具获取各商务平台的商务数据，然后再对各平台数据进行数据清洗去除脏数据，进行数据处理脱敏并转换为统一格式，最后存入HBase数据库中，能够更全面的获取多样商务数据，提高了各种商务数据之间的共享互通。

S102、基于多样商务数据，确定出数据中台系统中服务端的基础API(ApplicationProgramming Interface，应用程序接口)接口。

具体地，获取多样商务数据的API接口协议。其中，API接口协议与多样商务数据的域名与版本相互关联。

进一步地，基于HBase数据库中多样商务数据的资源路径，确定出多样商务数据的API接口路径。

进一步地，根据API接口协议以及API接口路径，将数据中台系统中的服务端与多样商务数据进行数据响应，以使服务端与多样商务数据进行进行数据关联的开发，并得到基础API接口。其中，数据响应包括：状态码响应、信息描述响应以及数据属性响应。

进一步地，根据关联开发后的基础API接口，对多样商务数据进行有关商务报表模板的数据栏匹配处理，得到商务数据报表API。

作为一种可行的实施方式，在服务器端针对各种商务数据的数据开发对应的基础API接口以及业内常用的商务数据报表API，均可作为基础的API(ApplicationProgramming Interface，应用程序接口)提供给数据使用人员。

S103、根据多样商务数据的商务数据结构，并通过基础API接口，搭建出API应用场景。

具体地，根据商务数据报表API，对多样商务数据进行数据结构的划分与识别，确定出多样商务数据的商务数据结构。

进一步地，基于商务数据结构，确定出多样商务数据的业务需求组件；并API接口，对业务需求组件进行编码定义，得到业务配置组件。

进一步地，通过基础API接口以及业务配置组件，构建出符合业务需求的API应用场景。

S104、通过API应用场景，对多样商务数据进行数据源的统一提取，并通过可视化页面，对多样商务数据进行可视化展示。

具体地，对多样商务数据进行有关商务数据报表API的数据源提取，得到多样商务数据的输入数据源。其中，输入数据源至少包括：商品信息表、订单信息表以及店铺信息表。

进一步地，根据输入数据源，对多样商务数据进行有关业务配置组件中数据处理方式的数据源提取，得到多样商务数据的处理过程数据源。其中，处理过程数据源至少包括：多年联查配置、行列转置配置以及聚合函数计算配置。

进一步地，基于处理过程数据源以及输入数据源，确定出输出数据源。其中，所述输出数据源至少包括：API、可视化的商务数据图表以及商务数据报表。

进一步地，通过API应用场景，分别提取与多样商务数据对应的输出数据源、处理过程数据源以及输入数据源。

进一步地，进一步地，通过可视化页面，对输出数据源、处理过程数据源以及输入数据源进行数据可视化处理，以使多样商务数据完成可视化的编程配置，并生成API可视化文件。其中，API可视化文件为不同商务平台之间的数据互通与可视化展示文件。

进一步地，将API可视化文件发送给客户端。以使客户端中的用户通过数据中台系统，获取不同商务平台中共享的商务数据以及对应的API。

在一个实施例中，用户可使用可视化页面进行定制化的API(ApplicationProgramming Interface，应用程序接口)搭建。例如，用户选择至少一个表(商务数据图表以及商务数据报表)的若干字段作为输入数据源，根据所选的数据源字段进行如多表联查、分组求和、行列转置等操作，之后选择处理后数据的多个字段作为API、文件、或者可视化图表等进行输出数据源下的输出，用户配置完成后，系统根据用户配置生成对应的API可视化文件，以供用户使用。

另外，本申请实施例还提供了一种基于数据中台系统的商务数据分析设备，如图2所示，基于数据中台系统的商务数据分析设备200具体包括：

至少一个处理器201。以及，与至少一个处理器201通信连接的存储器202。其中，存储器202存储有能够被至少一个处理器201执行的指令，以使至少一个处理器201能够执行：

获取数据中台系统中不同商务平台中的初始商务数据，并对初始商务数据进行数据清洗，得到多样商务数据；

基于多样商务数据，确定出数据中台系统中服务端的基础API接口；

根据所多样商务数据的商务数据结构，并通过基础API接口，搭建出API应用场景；

通过API应用场景，对多样商务数据进行数据源的统一提取，并通过可视化页面，对多样商务数据进行可视化展示。

本申请提供了一种基于数据中台系统的商务数据分析方法、设备及介质，通过数据中台系统将不同数据源、不同数据格式的商务数据格式化并统一存储，提高了数据之间的共享互通。同时利用分布式存储，提高了数据中台系统的存储能力与计算能力，并且基础API接口，增加了自定义API及报表的功能，降低了不同商务数据之间数据的沟通成本，还提高了多种商务数据之间的分析利用效率，帮助用户可以直观使用生成的API文件。

本申请中的各个实施例均采用递进的方式描述，各个实施例之间相同相似的部分互相参见即可，每个实施例重点说明的都是与其他实施例的不同之处。尤其，对于设备和介质实施例而言，由于其基本相似于方法实施例，所以描述的比较简单，相关之处参见方法实施例的部分说明即可。

本申请实施例提供的设备和介质与方法是一一对应的，因此，设备和介质也具有与其对应的方法类似的有益技术效果，由于上面已经对方法的有益技术效果进行了详细说明，因此，这里不再赘述设备和介质的有益技术效果。

本领域内的技术人员应明白，本申请的实施例可提供为方法、系统、或计算机程序产品。因此，本申请可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且，本申请可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。

本申请是参照根据本申请实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。

这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。

这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。

在一个典型的配置中，计算设备包括一个或多个处理器(CPU)、输入/输出接口、网络接口和内存。

内存可能包括计算机可读介质中的非永久性存储器，随机存取存储器(RAM)和/或非易失性内存等形式，如只读存储器(ROM)或闪存(flash RAM)。内存是计算机可读介质的示例。

计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括，但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带，磁带磁盘存储或其他磁性存储设备或任何其他非传输介质，可用于存储可以被计算设备访问的信息。按照本文中的界定，计算机可读介质不包括暂存电脑可读媒体(transitory media)，如调制的数据信号和载波。

还需要说明的是，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、商品或者设备中还存在另外的相同要素。

以上所述仅为本申请的实施例而已，并不用于限制本申请。对于本领域技术人员来说，本申请可以有各种更改和变化。凡在本申请的精神和原理之内所作的任何修改、等同替换、改进等，均应包含在本申请的权利要求范围之内。