基于标注样本的图片结构化算法的自动测试方法及系统

摘要

本发明公开了基于标注样本的图片结构化算法的自动测试方法，包括：对选定的测试样本集进行标注，人工标注目标和属性值的正确信息，保存到文件或数据库；将样本目录下的图片一次送入结构化算法接口，将结构化数据存放到文件中，目录结构和图片一致，并记录运行时间，计算解析性能数据；对选定测试样本集中的目标进行分析，输出不相同的目标，保存不相同的目标图，计算目标检测的正确率、误检率和漏检率；对选定测试样本集中目标的属性值进行分析，输出不相同的属性值，保存属性值不相同的目标图，计算属性值识别的正确率和错误率；将分析结果进行整理，输出性能报告和功能报告。方法能客观、高效、准确、全面地评估图片结构化算法功能和性能指标。

说明书

技术领域

本发明涉及软件技术领域，具体涉及一种基于标注样本的图片结构化算法自动测试方法、系统、终端及介质。

背景技术

随着应用场景和用户需求的不断提高，图片结构化算法需要持续的优化升级，但是算法在训练集上训练完成后，各项识别指标是否达到预期的效果，往往要在线上环境才能体现出来，而且某个地方的试点只能表示在该场景下的情况，不能全面评估；而且每次进行测试的样本都不一样，导致测试出的性能指标不能直接比对，无法准确评估。

发明内容

针对现有技术中的缺陷，本发明实施例提供一种基于标注样本的图片结构化算法的自动测试方法、系统、终端及介质，能客观、高效、准确、全面地评估图片结构化算法功能和性能指标，采用自动化测试方式，大大节省人工的工作量。

第一方面，本发明实施例提供的一种基于标注样本的图片结构化算法的自动测试方法，包括：

准备多个应用场景的测试样本集；

对选定的测试样本集进行样本标注，人工标注目标和属性值的正确信息，并保存到文本或数据库；

采用样本图片结构化脚本将样本目录下的图片一次送入结构化算法接口，并将结构化数据存放到文件中，目录结构和图片一致，并记录运行时间，计算解析性能数据；

采用目标分析脚本对选定测试样本集中的目标进行分析，输出不相同的目标，并保存不相同的目标图，计算目标检测的正确率、误检率和漏检率；

采用属性值分析脚本对选定测试样本集中的目标属性值进行分析，输出不相同的属性值，并保存属性值不相同的目标图，计算属性值识别的正确率和错误率；

将分析结果进行整理，输出性能报告和功能报告。

第二方面，本发明实施例提供的一种基于标注样本的图片结构化算法的自动测试系统，包括：标注样本模块、运行分析模块和报告输出模块，

所述标注样本模块用于对选定的测试样本集进行样本标注，人工标注目标和属性值的正确信息，并保存到文件或数据库；

所述运行分析模块用于采用样本图片结构化脚本将样本目录下的图片一次送入结构化算法接口，并将结构化数据存放到文件中，目录结构和图片一致，并记录运行时间，计算解析性能数据；

采用目标分析脚本对选定测试样本集中的目标进行分析，输出不相同的目标，并保存不相同的目标图，计算目标检测的正确率、误检率和漏检率；

采用属性值分析脚本对选定测试样本集中目标的属性值进行分析，输出不相同的属性值，并保存属性值不相同的目标图，计算属性值识别的正确率和错误率；

所述报告输出模块用于将分析结果进行整理，输出性能报告和功能报告。

第三方面，本发明实施例提供的一种智能终端，包括处理器、输入设备、输出设备和存储器，所述处理器、输入设备、输出设备和存储器相互连接，所述存储器用于存储计算机程序，所述计算机程序包括程序指令，所述处理器被配置用于调用所述程序指令，执行上述实施例描述的方法。

第四方面，本发明实施例提供的计算机可读存储介质，所述计算机存储介质存储有计算机程序，所述计算机程序包括程序指令，所述程序指令当被处理器执行时使所述处理器执行上述实施例描述的方法。

本发明的有益效果：

本发明实施例提供的一种基于标注样本的图片结构化算法的自动测试方法、系统、终端及介质，样本可以在现实场景中抽取，实现较全面的覆盖，能客观、高效、准确、全面地评估图片结构化算法功能和性能指标，采用自动化测试方式，大大节省人工的工作量。

附图说明

为了更清楚地说明本发明具体实施方式或现有技术中的技术方案，下面将对具体实施方式或现有技术描述中所需要使用的附图作简单地介绍。在所有附图中，类似的元件或部分一般由类似的附图标记标识。附图中，各元件或部分并不一定按照实际的比例绘制。

图1示出了本发明第一实施例所提供的一种基于标注样本的图片结构化算法的自动测试方法的流程图；

图2示出了本发明第二实施例所提供的一种基于标注样本的图片结构化算法的自动测试系统的结构框图；

图3示出了本发明第三实施例所提供的一种智能终端的结构框图。

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

应当理解，当在本说明书和所附权利要求书中使用时，术语“包括”和“包含”指示所描述特征、整体、步骤、操作、元素和/或组件的存在，但并不排除一个或多个其它特征、整体、步骤、操作、元素、组件和/或其集合的存在或添加。

还应当理解，在此本发明说明书中所使用的术语仅仅是出于描述特定实施例的目的而并不意在限制本发明。如在本发明说明书和所附权利要求书中所使用的那样，除非上下文清楚地指明其它情况，否则单数形式的“一”、“一个”及“该”意在包括复数形式。

还应当进一步理解，本发明说明书和所附权利要求书中使用的术语“和/或”是指相关联列出的项中的一个或多个的任何组合以及所有可能组合，并且包括这些组合。

如在本说明书和所附权利要求书中所使用的那样，术语“如果”可以依据上下文被解释为“当...时”或“一旦”或“响应于确定”或“响应于检测到”。类似地，短语“如果确定”或“如果检测到[所描述条件或事件]”可以依据上下文被解释为意指“一旦确定”或“响应于确定”或“一旦检测到[所描述条件或事件]”或“响应于检测到[所描述条件或事件]”。

需要注意的是，除非另有说明，本申请使用的技术术语或者科学术语应当为本发明所属领域技术人员所理解的通常意义。

如图1所示，示出了本发明第一实施例提供了一种基于标注样本的图片结构化算法的自动测试方法，包括以下步骤：

S1:准备多个应用场景的测试样本集。

具体地，测试样本集用于目标、属性值的比对，测试样本集包含多场景的图片集合，数量较大，设定在10万左右，在多个现实场景中抽取，可以实现较全面的覆盖，并且，相比现场测试，样本可以固定，保证输出的指标具有绝对的可比性。

S2:对选定的测试样本集进行样本标注，人工标注目标和属性值的正确信息，并保存到文件或数据库，信息记为std。

对选定的测试样本集进行样本标注，用于设置标准数据便于比对分析。

S3:采用样本图片结构化脚本将样本目录下的图片一次送入结构化算法接口，并将结构化数据存放到文件中，目录结构和图片一致，运算结果记为tst，并记录运行时间，计算解析性能数据。

S4:采用目标分析脚本对选定测试样本集中的目标进行分析，输出不相同的目标，并保存不相同的目标图，计算目标检测的正确率、误检率和漏检率。

具体地，对同一图片的结构化数据中的目标区域、类型与标注信息进行比对，若目标的x、y、w、h差异在设定范围内则视为相同目标，其中，x、y分别为目标左上角在原图中的横坐标和纵坐标，w和h分别为目标的宽和高，相同目标则视为匹配成功，若目标的x、y、w、h差异不在设定范围内则视为不相同目标，不相同目标视为漏检和误检目标，std和tst中不一样的目标进行输出，并保存目标图，且计算目标检测的正确率、误检率和漏检率。

S5:采用属性值分析脚本对选定测试样本集中目标的属性值进行分析，输出不相同的属性值，并保存属性值不相同的目标图，计算属性值识别的正确率和错误率。

具体地，对同一图片的结构化数据中匹配成功的目标进行属性值与标注信息进行比对，属性值相同的则为相同的目标，属性值不同的则为不相同的目标，std和tst中不一样的属性值进行输出，保存目标图，且计算属性值识别的正确率和错误率。对识别错误项输出文本内容和目标小图，方便分析。

S6:将分析结果进行整理，输出性能报告和功能报告，进行综合评定。

本发明实施例提供的一种基于标注样本的图片结构化算法的自动测试方法，方法能客观、高效、准确、全面地评估图片结构化算法功能和性能指标，采用自动化测试方式，大大节省人工的工作量。样本可以覆盖多个场景，表现出不同场景下的效果差异，样本固定可以保证输出的指标具有绝对的可比性。

在上述的第一实施例中，提供了一种基于标注样本的图片结构化算法的自动测试方法，与之相对应的，本申请还提供一种基于标注样本的图片结构化算法的自动测试系统。请参考图2，其为本发明第二实施例提供的基于标注样本的图片结构化算法的自动测试系统的结构框图。由于装置实施例基本相似于方法实施例，所以描述得比较简单，相关之处参见方法实施例的部分说明即可。下述描述的装置实施例仅仅是示意性的。

如图2所示，示出了本发明第二实施例提供的一种基于标注样本的图片结构化算法的自动测试系统，包括：标注样本模块、运行分析模块和报告输出模块，所述标注样本模块用于对选定的测试样本集进行样本标注，人工标注目标和属性值的正确信息，并保存到文件或数据库；所述运行分析模块用于采用样本图片结构化脚本将样本目录下的图片一次送入结构化算法接口，并将结构化数据存放到文件中，目录结构和图片一致，并记录运行时间，计算解析性能数据；采用目标分析脚本对选定测试样本集中的目标进行分析，输出不相同的目标，并保存不相同的目标图，计算目标检测的正确率、误检率和漏检率；采用属性值分析脚本对选定测试样本集中目标的属性值进行分析，输出不相同的属性值，并保存属性值不相同的目标图，计算属性值识别的正确率和错误率；所述报告输出模块用于将分析结果进行整理，输出性能报告和功能报告。

其中，运行分析模块采用目标分析脚本对选定测试样本集中的目标进行分析具体包括：对同一图片的结构化数据中的目标区域、类型与标注信息进行比对，若目标的x、y、w、h差异在设定范围内则视为相同目标，其中，x、y分别为目标左上角在原图中的横坐标和纵坐标，w和h分别为目标的宽和高，相同目标则视为匹配成功，若目标的x、y、w、h差异不在设定范围内则视为不相同目标，不相同目标视为漏检和误检目标。

其中，运行分析模块采用属性值分析脚本对选定测试样本集中目标的属性值进行分析具体包括：对同一图片的结构化数据中匹配成功的目标进行属性值与标注信息进行比对，属性值相同的则为相同的目标，属性值不同的则为不相同的目标。

本发明实施例提供的一种基于标注样本的图片结构化算法的自动测试系统，能客观、高效、准确、全面地评估图片结构化算法功能和性能指标，采用自动化测试方式，大大节省人工的工作量。样本可以覆盖多个场景，表现出不同场景下的效果差异，样本固定可以保证输出的指标具有绝对的可比性。

如图3所示，示出了在本发明第三实施例提供的一种智能终端结构框图，该设备包括处理器、输入设备、输出设备和存储器，所述处理器、输入设备、输出设备和存储器相互连接，所述存储器用于存储计算机程序，所述计算机程序包括程序指令，所述处理器被配置用于调用所述程序指令，执行上述实施例描述的方法。

应当理解，在本发明实施例中，所称处理器可以是中央处理单元(CentralProcessing Unit，CPU)，该处理器还可以是其他通用处理器、数字信号处理器(DigitalSignal Processor，DSP)、专用集成电路(Application Specific Integrated Circuit，ASIC)、现成可编程门阵列(Field-Programmable Gate Array，FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。

输入设备可以包括触控板、指纹采传感器(用于采集用户的指纹信息和指纹的方向信息)、麦克风等，输出设备可以包括显示器(LCD等)、扬声器等。

该存储器可以包括只读存储器和随机存取存储器，并向处理器提供指令和数据。存储器的一部分还可以包括非易失性随机存取存储器。例如，存储器还可以存储设备类型的信息。

具体实现中，本发明实施例中所描述的处理器、输入设备、输出设备可执行本发明实施例提供的方法实施例所描述的实现方式，也可执行本发明实施例所描述的系统实施例的实现方式，在此不再赘述。

在本发明还提供一种计算机可读存储介质的实施例，所述计算机存储介质存储有计算机程序，所述计算机程序包括程序指令，所述程序指令当被处理器执行时使所述处理器执行上述实施例描述的方法。

所述计算机可读存储介质可以是前述实施例所述的终端的内部存储单元，例如终端的硬盘或内存。所述计算机可读存储介质也可以是所述终端的外部存储设备，例如所述终端上配备的插接式硬盘，智能存储卡(Smart Media Card,SMC)，安全数字(SecureDigital,SD)卡，闪存卡(Flash Card)等。进一步地，所述计算机可读存储介质还可以既包括所述终端的内部存储单元也包括外部存储设备。所述计算机可读存储介质用于存储所述计算机程序以及所述终端所需的其他程序和数据。所述计算机可读存储介质还可以用于暂时地存储已经输出或者将要输出的数据。

本领域普通技术人员可以意识到，结合本文中所公开的实施例描述的各示例的单元及算法步骤，能够以电子硬件、计算机软件或者二者的结合来实现，为了清楚地说明硬件和软件的可互换性，在上述说明中已经按照功能一般性地描述了各示例的组成及步骤。这些功能究竟以硬件还是软件方式来执行，取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应认为超出本发明的范围。

所属领域的技术人员可以清楚地了解到，为了描述的方便和简洁，上述描述的终端和单元的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。

在本申请所提供的几个实施例中，应该理解到，所揭露终端和方法，可以通过其它的方式实现。例如，以上所描述的装置实施例仅仅是示意性的，例如，所述单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另外，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口、装置或单元的间接耦合或通信连接，也可以是电的，机械的或其它的形式连接。

最后应说明的是：以上各实施例仅用以说明本发明的技术方案，而非对其限制；尽管参照前述各实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分或者全部技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本发明各实施例技术方案的范围，其均应涵盖在本发明的权利要求和说明书的范围当中。