首页> 中国专利> 一种全文检索方法、系统、电子设备及存储介质

一种全文检索方法、系统、电子设备及存储介质

摘要

本申请公开了一种全文检索方法、系统、电子设备及存储介质,全文检索方法包括:索引建立步骤:建立全文索引,将参与检索的字段信息写入所述全文索引;检索参数构造步骤:构造检索参数,并抽象所述字段信息的关键词生成DSL接口类;查询索引获取步骤:调用DSL抽象方法获得DSL查询索引,将所述DSL查询索引进行组合,获取一完整DSL查询索引;检索步骤:通过所述完整DSL查询索引进行检索以召回相关文档。本发明通过搜索引擎把文档相关的需要参与检索的不同维度的信息划分成不同字段做索引,快速精准召回和用户意图强相关的文档,增强了非结构化数据检索意图的表达能力,提高了召回数据的准确度。

著录项

  • 公开/公告号CN113127596A

    专利类型发明专利

  • 公开/公告日2021-07-16

    原文格式PDF

  • 申请/专利权人 北京明略昭辉科技有限公司;

    申请/专利号CN202110500852.7

  • 发明设计人 杜芳;

    申请日2021-05-08

  • 分类号G06F16/31(20190101);G06F16/33(20190101);

  • 代理机构37256 青岛清泰联信知识产权代理有限公司;

  • 代理人赵燕

  • 地址 100089 北京市海淀区北三环西路25号27号楼二层2020室

  • 入库时间 2023-06-19 11:52:33

说明书

技术领域

本申请涉及检索技术领域,尤其涉及一种全文检索方法、系统、电子设备及存储介质。

背景技术

在大多现有技术中,通常检索关键词入口只有一个,检索某关键词,通常做法是对索引中每个参与检索的字段都与关键词进行匹配,某个文档只要有一个字段匹配成功即视为命中,综合所有参与检索的字段的匹配程度进行相关度排序,这样做虽然能召回相关文档,但采用这种方式通常无法表达用户针对特定字段,特别是多个字段,每个字段不同关键词的精确检索意图,从而导致和用户意图强相关的文档排序却很有可能靠后。例如,用户的意图是搜索作者为张三,发表时间为2021-01-01的书籍,如果用传统的检索方式,输入“张三2021-01-01”,标题为“张三2021-01-01一夜暴富”的文档排序很可能靠前,而作者为张三,发布时间为2021-01-01的书籍排序却很可能靠后,因而通过现有技术无法快速高效精准定位以及获得与客户检索意图高度相关的信息。

发明内容

本申请实施例提供了一种全文检索方法、系统、电子设备及存储介质,以至少通过本发明解决了全文检索过程中无法快速、高效、精准定位客户检索意图强相关的信息等问题。

本发明提供了全文检索方法,包括:

索引建立步骤:建立全文索引,将参与检索的字段信息写入所述全文索引;

检索参数构造步骤:构造检索参数,并抽象所述字段信息的关键词生成DSL接口类;

查询索引获取步骤:调用DSL抽象方法获得DSL查询索引,将所述DSL查询索引进行组合,获取一完整DSL查询索引;

检索步骤:通过所述完整DSL查询索引进行检索以召回相关文档。

上述的全文检索方法,所述索引建立步骤包括,建立所述全文索引后,抽取每个参与检索的文档中需要检索的所述字段信息,并将每个所述字段信息写入所述全文索引。

上述的全文检索方法,所述检索参数构造步骤包括,构造所述检索参数,并抽象单个所述字段信息对应的所述关键词生成的所述DSL接口类后,根据不同的所述字段信息实现所述DSL接口类。

上述的全文检索方法,所述查询索引获取步骤包括:

选取步骤:根据所述检索参数的key选取适合每个kv对的所述DSL接口类;

生成步骤:调用genDSL生成所述kv对的所述DSL查询索引后,将所有的所述DSL查询索引用与的关系进行组合,生成所述完整DSL查询索引。

本发明还提供全文检索系统,其中,适用于上述所述的全文检索方法,所述全文检索系统包括:

索引建立单元:建立全文索引,将参与检索的字段信息写入所述全文索引;

检索参数构造单元:构造检索参数,并抽象所述字段信息的关键词生成DSL接口类;

查询索引获取单元:调用DSL抽象方法获得DSL查询索引,将所述DSL查询索引进行组合,获取一完整DSL查询索引;

检索单元:通过所述完整DSL查询索引进行检索以召回相关文档。

上述的全文检索系统,通过所述索引建立单元建立所述全文索引后,抽取每个参与检索的文档中需要检索的所述字段信息,并将每个所述字段信息写入所述全文索引。

上述的全文检索系统,通过所述检索参数构造单元构造所述检索参数,并抽象单个所述字段信息对应的所述关键词生成的所述DSL接口类后,根据不同的所述字段信息实现所述DSL接口类。

上述的全文检索系统,所述查询索引获取单元包括:

选取模块:根据所述检索参数的key选取适合每个kv对的所述DSL接口类;

生成模块:调用genDSL生成所述kv对的所述DSL查询索引后,将所有的所述DSL查询索引用与的关系进行组合,生成所述完整DSL查询索引。

本发明还提供一种电子设备,包括存储器、处理器以及存储在所述存储器上并可在所述处理器上运行的计算机程序,其特征在于,所述处理器执行所述计算机程序时实现上述任一项所述的全文检索方法。

本发明还提供一种电子设备可读存储介质,所述电子设备可读存储介质上存储有计算机程序指令,所述计算机程序指令被所述处理器执行时实现上述任一项所述的全文检索方法。

相比于相关技术,本发明通过搜索引擎把文档相关的需要参与检索的不同维度的信息划分成不同字段做索引,对参与检索的每个字段指定不同关键词,从而快速精准召回和用户意图强相关的文档,增强了非结构化数据检索意图的表达能力,提高了召回数据的准确度以及查询优化能力。

本申请的一个或多个实施例的细节在以下附图和描述中提出,以使本申请的其他特征、目的和优点更加简明易懂。

附图说明

此处所说明的附图用来提供对本申请的进一步理解,构成本申请的一部分,本申请的示意性实施例及其说明用于解释本申请,并不构成对本申请的不当限定。在附图中:

图1是根据本申请实施例的全文检索方法流程图;

图2为本发明的全文检索系统的结构示意图;

图3是根据本申请实施例的电子设备的框架图。

其中,附图标记为:

索引建立单元:51;

检索参数构造单元:52;

查询索引获取单元:53;

检索单元:54;

选取模块:531;

生成模块:532;

总线:80;

处理器:81;

存储器:82;

通信接口:83。

具体实施方式

为了使本申请的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本申请进行描述和说明。应当理解,此处所描述的具体实施例仅仅用以解释本申请,并不用于限定本申请。基于本申请提供的实施例,本领域普通技术人员在没有作出创造性劳动的前提下所获得的所有其他实施例,都属于本申请保护的范围。

显而易见地,下面描述中的附图仅仅是本申请的一些示例或实施例,对于本领域的普通技术人员而言,在不付出创造性劳动的前提下,还可以根据这些附图将本申请应用于其他类似情景。此外,还可以理解的是,虽然这种开发过程中所作出的努力可能是复杂并且冗长的,然而对于与本申请公开内容相关的本领域的普通技术人员而言,在本申请揭露的技术内容基础上进行的一些设计,制造或者生产等变更只是常规的技术手段,不应当理解为本申请公开的内容不充分。

在本申请中提及“实施例”意味着,结合实施例描述的特定特征、结构或特性可以包含在本申请的至少一个实施例中。在说明书中的各个位置出现该短语并不一定均是指相同的实施例,也不是与其它实施例互斥的独立的或备选的实施例。本领域普通技术人员显式地和隐式地理解的是,本申请所描述的实施例在不冲突的情况下,可以与其它实施例相结合。

除非另作定义,本申请所涉及的技术术语或者科学术语应当为本申请所属技术领域内具有一般技能的人士所理解的通常意义。本申请所涉及的“一”、“一个”、“一种”、“该”等类似词语并不表示数量限制,可表示单数或复数。本申请所涉及的术语“包括”、“包含”、“具有”以及它们任何变形,意图在于覆盖不排他的包含;例如包含了一系列步骤或模块(单元)的过程、方法、系统、产品或设备没有限定于已列出的步骤或单元,而是可以还包括没有列出的步骤或单元,或可以还包括对于这些过程、方法、产品或设备固有的其它步骤或单元。本申请所涉及的“连接”、“相连”、“耦接”等类似的词语并非限定于物理的或者机械的连接,而是可以包括电气的连接,不管是直接的还是间接的。本申请所涉及的“多个”是指两个或两个以上。“和/或”描述关联对象的关联关系,表示可以存在三种关系,例如,“A和/或B”可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。字符“/”一般表示前后关联对象是一种“或”的关系。本申请所涉及的术语“第一”、“第二”、“第三”等仅仅是区别类似的对象,不代表针对对象的特定排序。

搜索引擎(Search Engine)是指根据一定的策略、运用特定的计算机程序从互联网上搜集信息,在对信息进行组织和处理后,为用户提供检索服务,将用户检索相关的信息展示给用户的系统。搜索引擎包括全文索引、目录索引、元搜索引擎、垂直搜索引擎、集合式搜索引擎、门户搜索引擎与免费链接列表等。一个搜索引擎由搜索器、索引器、检索器和用户接口四个部分组成。搜索引擎是通过一种特定规律的软件跟踪网页的链接,从一个链接爬到另外一个链接,像蜘蛛在蜘蛛网上爬行一样,所以被称为“蜘蛛”也被称为“机器人”。搜索引擎蜘蛛的爬行是被输入了一定的规则的,它需要遵从一些命令或文件的内容。搜索引擎是通过蜘蛛跟踪链接爬行到网页,并将爬行的数据存入原始页面数据库。其中的页面数据与用户浏览器得到的HTML是完全一样的。搜索引擎蜘蛛在抓取页面时,也做一定的重复内容检测,一旦遇到权重很低的网站上有大量抄袭、采集或者复制的内容,很可能就不再爬行。搜索引擎将蜘蛛抓取回来的页面,进行各种步骤的预处理。用户在搜索框输入关键词后,排名程序调用索引库数据,计算排名显示给用户,排名过程与用户直接互动的。但是,由于搜索引擎的数据量庞大,虽然能达到每日都有小的更新,但是一般情况搜索引擎的排名规则都是根据日、周、月阶段性不同幅度的更新。搜索器的功能是在互联网中漫游,发现和搜集信息。索引器的功能是理解搜索器所搜索的信息,从中抽取出索引项,用于表示文档以及生成文档库的索引表。检索器的功能是根据用户的查询在索引库中快速检出文档,进行文档与查询的相关度评价,对将要输出的结果进行排序,并实现某种用户相关性反馈机制。用户接口的作用是输入用户查询、显示查询结果、提供用户相关性反馈机制。搜索引擎是网站建设中针对“用户使用网站的便利性”所提供的必要功能,同时也是“研究网站用户行为的一个有效工具”。高效的站内检索可以让用户快速准确地找到目标信息,从而更有效地促进产品/服务的销售,而且通过对网站访问者搜索行为的深度分析,对于进一步制定更为有效的网络营销策略具有重要价值。从网络营销的环境看,搜索引擎营销的环境发展为网络营销的推动起到举足轻重的作用;从效果营销看,很多公司之所以可以应用网络营销是利用了搜索引擎营销;就完整型电子商务概念组成部分来看,网络营销是其中最重要的组成部分,是向终端客户传递信息的重要环节。

本发明提供一种全文检索方法、系统、电子设备及存储介质,利用搜索引擎,把文档相关的需要参与检索的不同维度的信息划分成不同字段做索引,具体哪些字段可根据业务需求灵活定制,用户针对每个需要检索的字段指定关键词,精确召回符合用户意图的文档。

下面结合具体实施例对本发明进行说明。

实施例一

本实施例提供了全文检索方法。请参照图1,图1是根据本申请实施例的全文检索方法流程图,如图所示,全文检索方法包括如下步骤:

索引建立步骤S1:建立全文索引,将参与检索的字段信息写入所述全文索引;

检索参数构造步骤S2:构造检索参数,并抽象所述字段信息的关键词生成DSL接口类;

查询索引获取步骤S3:调用DSL抽象方法获得DSL查询索引,将所述DSL查询索引进行组合,获取一完整DSL查询索引;

检索步骤S4:通过所述完整DSL查询索引进行检索以召回相关文档。

实施例中,所述索引建立步骤S1包括,建立所述全文索引后,抽取每个参与检索的文档中需要检索的所述字段信息,并将每个所述字段信息写入所述全文索引。

具体实施中,建立所述全文索引后,给定一批文档,针对每个文档,利用nlp等技术抽取出需要参与检索的全部字段内容,并将每个文档的全部字段信息写入索引。其中,全文索引中一个document对应一个文档的全部内容,根据不同的应用场景可以自行定义mapping中的字段名称以及字段类型等。

实施例中,所述检索参数构造步骤S2包括,构造所述检索参数,并抽象单个所述字段信息对应的所述关键词生成的所述DSL接口类后,根据不同的所述字段信息实现所述DSL接口类。

具体实施中,构造所述检索参数,形成Map的结构,key为字段名,value为字段值,并抽象单个字段对于关键词生成DSL的接口类,记做FieldKeywordDSL,定义生成DSL的抽象方法,记做DSL genDsl(String keyword)后,根据不同的所述字段信息实现所述DSL接口类。

实施例中,所述查询索引获取步骤S3包括:

选取步骤S31:根据所述检索参数的key选取适合每个kv对的所述DSL接口类;

生成步骤S32:调用genDSL生成所述kv对的所述DSL查询索引后,将所有的所述DSL查询索引用与的关系进行组合,生成所述完整DSL查询索引。

具体实施以elasticsearch作为搜索引擎为例,给出检索示例图。

实施例二

请参照图2,图2为本发明的全文检索系统的结构示意图。如图2所示,发明的全文检索系统,适用于上述的全文检索方法,全文检索系统包括:

索引建立单元51:建立全文索引,将参与检索的字段信息写入所述全文索引;

检索参数构造单元52:构造检索参数,并抽象所述字段信息的关键词生成DSL接口类;

查询索引获取单元53:调用DSL抽象方法获得DSL查询索引,将所述DSL查询索引进行组合,获取一完整DSL查询索引;

检索单元54:通过所述完整DSL查询索引进行检索以召回相关文档。

在本实施例中,通过所述索引建立单元51建立所述全文索引后,抽取每个参与检索的文档中需要检索的所述字段信息,并将每个所述字段信息写入所述全文索引。

在本实施例中,通过所述检索参数构造单元52构造所述检索参数,并抽象单个所述字段信息对应的所述关键词生成的所述DSL接口类后,根据不同的所述字段信息实现所述DSL接口类。

在本实施例中,所述查询索引获取单元53包括:

选取模块531:根据所述检索参数的key选取适合每个kv对的所述DSL接口类;

生成模块532:调用genDSL生成所述kv对的所述DSL查询索引后,将所有的所述DSL查询索引用与的关系进行组合,生成所述完整DSL查询索引。

实施例三

结合图3所示,本实施例揭示了一种电子设备的一种具体实施方式。电子设备可以包括处理器81以及存储有计算机程序指令的存储器82。

具体地,上述处理器81可以包括中央处理器(CPU),或者特定集成电路(Application Specific Integrated Circuit,简称为ASIC),或者可以被配置成实施本申请实施例的一个或多个集成电路。

其中,存储器82可以包括用于数据或指令的大容量存储器。举例来说而非限制,存储器82可包括硬盘驱动器(Hard Disk Drive,简称为HDD)、软盘驱动器、固态驱动器(SolidState Drive,简称为SSD)、闪存、光盘、磁光盘、磁带或通用串行总线(Universal SerialBus,简称为USB)驱动器或者两个或更多个以上这些的组合。在合适的情况下,存储器82可包括可移除或不可移除(或固定)的介质。在合适的情况下,存储器82可在全文检索装置的内部或外部。在特定实施例中,存储器82是非易失性(Non-Volatile)存储器。在特定实施例中,存储器82包括只读存储器(Read-Only Memory,简称为ROM)和随机存取存储器(RandomAccess Memory,简称为RAM)。在合适的情况下,该ROM可以是掩模编程的ROM、可编程ROM(Programmable Read-Only Memory,简称为PROM)、可擦除PROM(Erasable ProgrammableRead-Only Memory,简称为FPROM)、电可擦除PROM(Electrically Erasable ProgrammableRead-Only Memory,简称为EFPROM)、电可改写ROM(Electrically Alterable Read-OnlyMemory,简称为EAROM)或闪存(FLASH)或者两个或更多个以上这些的组合。在合适的情况下,该RAM可以是静态随机存取存储器(Static Random-Access Memory,简称为SRAM)或动态随机存取存储器(Dynamic Random Access Memory,简称为DRAM),其中,DRAM可以是快速页模式动态随机存取存储器(Fast Page Mode Dynamic Random Access Memory,简称为FPMDRAM)、扩展数据输出动态随机存取存储器(Extended Date Out Dynamic RandomAccess Memory,简称为EDODRAM)、同步动态随机存取内存(Synchronous Dynamic Random-Access Memory,简称SDRAM)等。

存储器82可以用来存储或者缓存需要处理和/或通信使用的各种数据文件,以及处理器81所执行的可能的计算机程序指令。

处理器81通过读取并执行存储器82中存储的计算机程序指令,以实现上述实施例中的任意全文检索方法。

在其中一些实施例中,电子设备还可包括通信接口83和总线80。其中,如图3所示,处理器81、存储器82、通信接口83通过总线80连接并完成相互间的通信。

通信接口83用于实现本申请实施例中各模块、装置、单元和/或设备之间的通信。通信端口83还可以实现与其他部件例如:外接设备、图像/全文检索设备、数据库、外部存储以及图像/全文检索工作站等之间进行数据通信。

总线80包括硬件、软件或两者,将电子设备的部件彼此耦接在一起。总线80包括但不限于以下至少之一:数据总线(DataBus)、地址总线(Address Bus)、控制总线(ControlBus)、扩展总线(Expansion Bus)、局部总线(Local Bus)。举例来说而非限制,总线80可包括图形加速接口(Accelerated Graphics Port,简称为AGP)或其他图形总线、增强工业标准架构(Extended Industry Standard Architecture,简称为EISA)总线、前端总线(FrontSide Bus,简称为FSB)、超传输(Hyper Transport,简称为HT)互连、工业标准架构(Industry Standard Architecture,简称为ISA)总线、无线带宽(InfiniBand)互连、低引脚数(Low Pin Count,简称为LPC)总线、存储器总线、微信道架构(Micro ChannelArchitecture,简称为MCA)总线、外围组件互连(Peripheral Component Interconnect,简称为PCI)总线、PCI-Express(PCI-X)总线、串行高级技术附件(Serial AdvancedTechnology Attachment,简称为SATA)总线、视频电子标准协会局部(Video ElectronicsStandards Association Local Bus,简称为VLB)总线或其他合适的总线或者两个或更多个以上这些的组合。在合适的情况下,总线80可包括一个或多个总线。尽管本申请实施例描述和示出了特定的总线,但本申请考虑任何合适的总线或互连。

电子设备可连接全文检索系统,从而实现结合图1描述的方法。

以上所述实施例的各技术特征可以进行任意的组合,为使描述简洁,未对上述实施例中的各个技术特征所有可能的组合都进行描述,然而,只要这些技术特征的组合不存在矛盾,都应当认为是本说明书记载的范围。

综上所述,本发明通过搜索引擎把文档相关的需要参与检索的不同维度的信息划分成不同字段做索引,对参与检索的每个字段指定不同关键词,从而快速精准召回和用户意图强相关的文档,增强了非结构化数据检索意图的表达能力,提高了召回数据的准确度。

以上所述实施例仅表达了本申请的几种实施方式,其描述较为具体和详细,但并不能因此而理解为对发明专利范围的限制。应当指出的是,对于本领域的普通技术人员来说,在不脱离本申请构思的前提下,还可以做出若干变形和改进,这些都属于本申请的保护范围。因此,本申请专利的保护范围应以所附权利要求的保护范围为准。

去获取专利,查看全文>

相似文献

  • 专利
  • 中文文献
  • 外文文献
获取专利

客服邮箱:kefu@zhangqiaokeyan.com

京公网安备:11010802029741号 ICP备案号:京ICP备15016152号-6 六维联合信息科技 (北京) 有限公司©版权所有
  • 客服微信

  • 服务号