首页> 中国专利> 一种基于语义空间投影变换的三维模型在线标注方法与系统

一种基于语义空间投影变换的三维模型在线标注方法与系统

摘要

本发明公开了一种基于语义空间投影变换的三维模型在线标注方法与系统,该方法包括训练集三维模型的预处理;建立三维模型标注数据库;建立训练集三维模型的内容特征相似图;建立训练集的文本标签相关图;利用所述内容特征相似图和文本标签相关图计算三维模型特征正交投影矩阵和文本标签的语义特征向量,构建语义空间;对待标注三维模型进行预处理,提取内容特征向量,所述内容特征向量经过所述三维模型特征投影变换,得到三维模型的语义特征向量,计算三维模型的语义特征向量与所述文本标签的语义特征向量之间的相似度,得到近邻文本标签,所述近邻文本标签作为最终的标注词。以及一种系统。以解决三维模型在线标注方法准确率低的问题。

著录项

  • 公开/公告号CN106910252A

    专利类型发明专利

  • 公开/公告日2017-06-30

    原文格式PDF

  • 申请/专利权人 东北石油大学;

    申请/专利号CN201710044880.6

  • 发明设计人 田枫;尚福华;周凯;

    申请日2017-01-20

  • 分类号G06T19/20;

  • 代理机构大庆知文知识产权代理有限公司;

  • 代理人李建华

  • 地址 163318 黑龙江省大庆市高新区发展路199号

  • 入库时间 2023-06-19 02:45:36

法律信息

  • 法律状态公告日

    法律状态信息

    法律状态

  • 2022-12-30

    未缴年费专利权终止 IPC(主分类):G06T19/20 专利号:ZL2017100448806 申请日:20170120 授权公告日:20180522

    专利权的终止

  • 2018-05-22

    授权

    授权

  • 2017-07-25

    实质审查的生效 IPC(主分类):G06T19/20 申请日:20170120

    实质审查的生效

  • 2017-06-30

    公开

    公开

说明书

技术领域

本发明涉及三维模型标注领域,具体说是一种基于语义空间投影变换的三维模型在线标注方法与系统。

背景技术

三维模型在电影特效制作、游戏、计算机辅助设计等领域广泛应用。随着三维建模工具和三维扫描设备广泛使用,三维模型大量产生并广泛传播。由于三维建模过程费时耗力,因此,如何重用已有的三维模型是一个非常重要的问题。

当前,三维模型检索技术主要分为三类:基于文本的三维模型检索技术;基于内容的三维模型检索技术和基于语义的三维模型检索技术。基于文本的检索最符合用户使用习惯,如谷歌公司发布的Google3DWarehouse[1]。这种检索方式的不足是缺乏描述三维模型的关键字,需要人工标注。对于大规模数据集来说,繁重的人工标注工作量,以及标注结果中存在的不准确、不完整现象不能满足实际检索需求。基于内容的三维模型检索技术通过模型的内容特征进行检索,这些内容特征包括:空间信息、拓扑结构信息、纹理信息、材质信息、颜色信息等等。如美国普林斯顿大学开发的三维模型检索系统[2],不仅提供模型文本关键字查询,还提供草图查询。这种检索方式检索出的结果中存在大量与目标模型语义不同的模型。

三维模型语义自动标注是指使用语义标签来表示一个三维模型的语义内容,是检索和管理三维模型的重要支撑技术。按照三维模型标注的粒度,标注方法可分为两种:一种是基于模型分割的局部标注方法;一种是全局语义标注方法。研究工作者对基于模型分割的标注方法进行了大量的研究,如文献[3]按模型的组合特性来分解三维模型,并对模型进行自动标注,该算法主要适用于CAD三维模型。文献[4]提出了一种基于分割的语义标注技术,其先主要是依靠模型部件与本体的关系来对模型进行标注。文献[5]设计了一个交互式的三维模型标注系统,对三维模型进行分割,提取分割装置特征,并利用本体对分割装置、装置属性和分割装置之间的关系进行描述,利用知识库实现三维模型自动标注。文献[6]提出了一种数据驱动的三维模型分割与标注方法,通过条件随机域模型对剖分装置和文本标签之间的相关性进行学习。中国专利(申请号201310019194.5)“一种三维模型构件类别的自动标注方法”可获得优于传统分割方法的标注结果,但是其需要数据集中存在大量已给出的模型部件标注信息。中国专利(申请号201310019194.5)“一种三维模型构成的自动标注方法”也同样受限于初始分割结果,而且当有新的三维模型添加到数据集的时候,需要重新进行联合分割,才能得到较好的标注结果。中国专利(申请号201410223528.5)“一种三维模型构件的在线标注方法”需要用户在三维模型上交互地选择各个分割部件,获得分割模型,这种用户指定分割种类和范围的模式使得标注结果受到用户主观影响,会降低标注精度。

上述方法主要适用于规则的三维模型,有其局限性。三维模型涉及领域广泛,组织结构复杂,很难开发出完善的三维模型分割技术。而且,由于三维模型网格自动剖分算法复杂,需要人工参数调节,不可避免的存在三维模型过分割和欠分割现象,由此带来的累积误差无法满足实际环境中的三维模型标注要求。因此,适用度更广的全局语义标注得到了更多地重视。文献[7]采用对模型和文本标签进行概率统计,进行自动标注。但是该方法没有考虑词汇之间相似度计算。文献[8]提出了一种基于语义相关性的三维模型自动标注方法,语义相关性来自用户的相关反馈记录。文献[9]通过语义距离来判断语义群。文献[10]通过综合内容相似性、WORDNET语义相似度以及相关反馈确定最终的标注结果。其缺陷是相关反馈需要用户进行多次介入。文献[11]结合深度特征和词汇信息量共同完成语义标注。文献[12]提出了一种基于模糊近邻的三维模型半自动标注方法,该方法利用模糊分类结果,计算分类不确定度,并通过主动学习进行半自动化标注。文献[13]首先获得模型“视觉词汇”,并采用模糊近邻分类完成标注过程。文献[14]提出了一种基于半监督学习的标签传播方法,该方法在弱标签数据集上能够解决数据稀疏和噪声干扰问题。文献[15]计算不同CAD模型之间的形状相似度进行语义标注。文献[16,17]提出了一种求解三维模型语义相似度的简便计算方法。文献[18]利用WordNet语义度量优化标注结果,这是一种引入额外数据源的方法,但是这种本体知识库对于词典依赖性过强,仅考虑候选标注间的字典语义关系,与数据集统计特性无关。

综上所述,当前语义标注方法准确率低的主要原因在于:已有的标注模型分别在三维模型的内容特征空间和文本特征空间两个异构空间上对内容特征和标签进行相关性建模。因此,其模型构建过程没有充分利用视觉内容和其附带文本标签的语义关联和互补特性。同时,现有方法的计算复杂性限制了其在大规模三维模型数据集上应用。

文献[1]https://3dwarehouse.sketchup.com。

文献[2]http://shape.cs.princeton.edu/search.html。

文献[3]Symonova,Olga,Minh-Son Dao,Giuliana Ucelli,and Raffaele De Amicis."Ontology based shape annotation and retrieval."In Proc.of the ECAI.2006。

文献[4]Robbiano,Francesco,Marco Attene,Michela Spagnuolo,and Bianca Falcidieno."Part-based annotation of virtual 3d shapes."In Cyberworlds,2007.CW'07.International Conference on,pp.427-436.IEEE,2007。

文献[5]Attene,Marco,Francesco Robbiano,Michela Spagnuolo,and Bianca Falcidieno."Characterization of 3D shape parts for semantic annotation."Computer-Aided Design 41,no.10(2009):756-763。

文献[6]Kalogerakis,Evangelos,Aaron Hertzmann,and Karan Singh."Learning3D mesh segmentation and labeling."ACM Transactions on Graphics(TOG)29,no.4(2010):102。

文献[7]Goldfeder,Corey,and Peter Allen."Autotagging to improve text search for 3d models."In Proceedings of the 8th ACM/IEEE-CS joint conference on Digital libraries,pp.355-358.ACM,2008。

文献[8]王新颖.三维模型检索中基于语义方法的若干问题研究[D].吉林大学,2009。

文献[9]Lu,Tianyang,Shaobin Huang,Peng Wu,and Yeran Jia."Researches on Semantic Annotation and Retrieval of 3D Models Based on User Feedback."In Semantics Knowledge and Grid(SKG),2010Sixth International Conference on,pp.211-218.IEEE,2010。

文献[10]黄文.三维模型语义标注系统的设计与实现[D].西安:西北大学,2011。

文献[11]樊亚春,周明全,宋毅,等.结合深度特征和信息量的三维模型标注方法[J].计算机应用与软件,2011,28(11):40-44.

文献[12]张俊青.三维模型采集与自动标注算法研究[D].北京:北京交通大学,2011。

文献[13]李雅洁.基于HKS的非刚性三位模型检索与语义标注研究[D].北京:北京交通大学,2012。

文献[14]田枫,沈旭昆,刘贤梅等.一种基于弱标签的三维模型语义自动标注方法[J].系统仿真学报,2012,24(009):1873-1876。

文献[15]李亮,张树生,白晓亮,黄瑞.一种三维CAD模型自动语义标注算法[J].计算机集成制造系统,2013,19(7):1484-1489。

文献[16]韩丽,朱永玲.融合骨架结构与相关传递性的三维模型标注方法[J].计算机应用与软件,2015,32(1):211-228。

文献[17]韩丽,朱永玲.融合形状与语义相关性的三维模型标注方法[J].《计算机工程与设计》,2014,35(2):715-719。

文献[18]汤斌,王吉华,庞双双.改进的三维模型语义自动标注算法[J].山东师范大学学报(自然科学版),2015,30(4):50-54。

发明内容

有鉴于此,本发明提供一种基于语义空间投影变换的三维模型在线标注方法与系统,以解决目前语义标注方法准确率低的问题。

第一方面,本发明提供一种基于语义空间投影变换的三维模型在线标注方法,包括:

第一步,训练集三维模型的预处理,提取所述训练集三维模型的内容特征向量;

第二步,建立三维模型标注数据库,存储所述内容特征向量和所述三维模型附带的文本标签数据;

第三步,从所述三维模型标注数据库中获取所述内容特征向量,计算所述内容特征向量之间的相似度,以所述训练集三维模型为节点,所述相似度为边,建立训练集三维模型的内容特征相似图;

第四步,从所述文本标签数据中获取文本标签向量,计算标签的相关度,以所述标签为节点,以所述相关度为边,建立训练集的文本标签相关图;

第五步,根据所述内容特征相似图和文本标签相关图,计算三维模型特征正交投影矩阵,得到三维模型的语义特征向量和文本标签的语义特征向量,所述三维模型的语义特征向量和文本标签的语义特征向量构成语义空间,将所述三维模型的语义特征向量和文本标签的语义特征向量存储到所述三维模型标注数据库;

第六步,通过待标注三维模型的预处理,提取所述待标注三维模型的内容特征向量;

第七步,对所述待标注三维模型的内容特征向量进行三维模型特征投影变换,得到待标注的三维模型的语义特征向量,在所述语义空间内计算所述待标注的三维模型的语义特征向量与所述文本标签的语义特征向量之间的相似度,得到所述待标注三维模型的近邻文本标签,所述近邻文本标签作为最终的标注词。

优选地,所述语义空间的构建方法包括:

建立语义空间优化目标函数:

其中,为所述训练集三维模型的内容特征向量构成的内容特征矩阵,{t1,t2,...,tm}为所述文本标签数据的文本标签的集合;

其中,LS是所述内容特征相似图的规范拉普拉斯相似度矩阵,LC是所述训练集的文本标签相关图的规范拉普拉斯相关度矩阵;

其中,为所述文本标签向量构成的标签矩阵,Yij=1表示所述内容特征矩阵O中特征向量oj具备文本标签ti,Yij=0表示所述内容特征矩阵O中特征向量oj不具备文本标签ti

其中,为文本标签语义特征矩阵,为所述语义空间中第i个文本标签ti的语义特征向量;为三维模型语义特征矩阵,为所述语义空间中第j个三维模型的语义特征向量,所述文本标签的语义特征向量和所述三维模型的语义特征向量构成所述语义空间;

其中,为所述三维模型特征正交投影矩阵;

其中,为在所述语义空间内,所述ui与所述vj的相似度;

其中,为p阶单位矩阵,α、β与γ为参数,

优选地,所述参数取值为:α=0.8,β=0.6,γ=0.005;

优选地,所述计算三维模型特征正交投影矩阵A和文本标签语义特征矩阵U的方法包括:

语义空间优化目标函数的拉格朗日函数为:

随机初始化所述三维模型特征正交投影矩阵A和所述文本标签语义特征矩阵U,并初始迭代变量t=1;

步骤1:计算所述目标函数对于A的导数:

步骤2:计算所述目标函数对于U的导数:

所述目标函数对于U的每个列向量的导数为:

所述目标函数对于U的导数为

步骤3:更新更新η为下降步长;

步骤4:更新所述迭代变量t=t+1;重复步骤1、步骤2、步骤3,直至所述三维模型特征正交投影矩阵A和文本标签语义特征矩阵U收敛;

其中,λ和ζ为拉格朗日不定乘子;

利用所述三维模型特征正交投影矩阵A对所述训练集三维模型内容特征矩阵进行变换,所述变换为O'=ATO,将所述三维模型的语义特征向量和所述文本标签的语义特征向量存储到三维模型标注数据库中。

优选地,所述参数取值为:λ=ζ=0.005,下降步长η=0.005。

第二方面,本发明提供一种基于语义空间投影变换的三维模型在线标注系统,包括:

训练集三维模型预处理装置,与三维模型标注数据库装置连接,用于提取所述训练集三维模型的内容特征向量和文本标签向量;

所述三维模型标注数据库装置,分别与训练集三维模型预处理装置、训练集的三维模型的内容特征相似图建立装置、训练集的文本标签相关图建立装置、语义空间构建装置和待标注三维模型预处理装置连接,用于存储和读取所述特征向量等数据;

所述训练集的三维模型的内容特征相似图建立装置,用于获取所述内容特征向量,计算所述内容特征向量之间相似度,以所述训练集三维模型为节点,所述相似度为边,建立所述训练集的三维模型的内容特征相似图;

所述训练集的文本标签相关图建立装置,用于计算所述训练集中标签的相关度,以所述标签为节点,以所述标签相关度为边,建立所述训练集的文本标签相关图;

所述语义空间构建装置,还与训练集的三维模型的内容特征相似图建立装置、训练集的文本标签相关图建立装置、三维模型标注数据库装置和待标注三维模型在线标注装置连接,计算三维模型特征正交投影矩阵和文本标签的语义特征向量,构建所述语义空间,并将所述语义空间的三维模型的语义特征向量和文本标签的语义特征向量存储到三维模型标注数据库;

待标注三维模型预处理装置,用于对待标注三维模型进行格式转换、归一化处理,并提取所述待标注三维模型的内容特征向量;

所述待标注三维模型在线标注装置,还与所述待标注三维模型预处理装置、三维模型标注数据库装置、语义空间构建装置连接,用于对所述待标注三维模型的内容特征向量进行三维模型特征投影变换,得到所述待标注三维模型的语义特征向量,在语义空间内计算所述三维模型的语义特征向量与所述文本标签的语义特征向量之间的相似度,得到待标注三维模型的近邻文本标签,所述近邻文本标签作为最终的标注词。

优选地,所述语义空间构建装置包括:

语义空间的目标函数建立单元:

其中,为所述训练集三维模型的内容特征向量构成的内容特征矩阵,{t1,t2,...,tm}为所述文本标签数据的文本标签的集合;

其中,LS是所述内容特征相似图的规范拉普拉斯相似度矩阵,LC是所述训练集的文本标签相关图的规范拉普拉斯相关度矩阵;

其中,为所述文本标签向量构成的标签矩阵,Yij=1表示所述内容特征矩阵O中特征向量oj具备文本标签ti,Yij=0表示所述内容特征矩阵O中特征向量oj不具备文本标签ti

其中,为文本标签语义特征矩阵,为所述语义空间中第i个文本标签ti的语义特征向量;为三维模型语义特征矩阵,为所述语义空间中第j个三维模型的语义特征向量,所述文本标签的语义特征向量和所述三维模型的语义特征向量构成所述语义空间;

其中,为所述三维模型特征正交投影矩阵;

其中,为在所述语义空间内,所述ui与所述vj的相似度;

其中,为p阶单位矩阵,α、β与γ为参数,

语义空间求解单元,与所述语义空间的目标函数建立单元连接,用于计算三维模型特征正交投影矩阵A和文本标签语义特征矩阵U;

语义空间变换单元,与所述语义空间求解单元连接,利用所述三维模型特征正交投影矩阵A对所述内容特征矩阵进行变换,生成所述三维模型的语义特征向量,所述变换为O'=ATO。

优选地,所述参数取值为:α=0.8,β=0.6,γ=0.005;

优选地,所述语义空间求解单元包括:

初始化模块,语义空间优化目标函数的拉格朗日函数为:

其中,λ和ζ为参数,随机初始化所述三维模型特征正交投影矩阵A和所述文本标签语义特征矩阵U,并初始迭代变量t=1;

第一导数模块,与所述初始化模块连接,用于计算所述目标函数对于A的导数:

第二导数模块,与所述初始化模块连接,用于计算所述目标函数对于U的导数:

所述目标函数对于U的每个列向量的导数为:

所述目标函数对于U的导数为

变量更新模块,分别与所述第一导数模块和所述第二导数模块连接,用于更新更新更新所述迭代变量t=t+1,η为下降步长;

迭代模块,分别与所述变量更新模块和所述第一导数模块连接,重复所述第一导数模块、所述第二导数模块和所述变量更新模块的迭代计算,直至所述三维模型特征正交投影矩阵A和文本标签语义特征矩阵U收敛。

优选地,所述参数取值为:λ=ζ=0.005,下降步长η=0.005。

本发明至少具有如下有益效果:

本发明采用训练集三维模型的内容特征相似图和训练集三维模型文本标签相关图,得到语义空间的潜在表示,对待标注三维模型的内容特征向量进行三维模型特征投影变换,得到待标注的三维模型的语义特征向量,在所述语义空间内计算所述待标注的三维模型的语义特征向量与所述文本标签的语义特征向量之间的相似度,得到所述待标注三维模型的近邻文本标签,所述近邻文本标签作为最终的标注词,可以取得更好的标注精度和标注速度。

附图说明

通过以下参考附图对本发明实施例的描述,本发明的上述以及其它目的、特征和优点更为清楚,在附图中:

图1是本发明实施例提供一种基于语义空间投影变换的三维模型在线标注方法的流程图;

图2是本发明实施例提供一种基于语义空间投影变换的三维模型在线标注方法的具有标签向量的三维模型标注数据库结构图;

图3是本发明实施例的一种基于语义空间投影变换的三维模型在线标注系统的框图。

具体实施方式

以下基于实施例对本发明进行描述,但是值得说明的是,本发明并不限于这些实施例。在下文对本发明的细节描述中,详尽描述了一些特定的细节部分。然而,对于没有详尽描述的部分,本领域技术人员也可以完全理解本发明。

此外,本领域普通技术人员应当理解,所提供的附图只是为了说明本发明的目的、特征和优点,附图并不是实际按照比例绘制的。

同时,除非上下文明确要求,否则整个说明书和权利要求书中的“包括”、“包含”等类似词语应当解释为包含的含义而不是排他或穷举的含义;也就是说,是“包含但不限于”的含义。

图1是本发明实施例提供一种基于语义空间投影变换的三维模型在线标注方法的流程图。如图1所示,一种基于语义空间投影变换的三维模型在线标注方法包括:步骤101训练集三维模型预处理、步骤102建立三维模型标注数据库、步骤103建立训练集三维模型的内容特征相似图、步骤104建立训练集的文本标签相关图、步骤105构建语义空间、步骤106待标注三维模型预处理和步骤107待标注三维模型在线标注。

步骤101训练集三维模型预处理进一步包括:步骤101a训练集三维模型转换为off格式,并进行归一化处理和步骤101b训练集三维模型的内容特征向量提取。

步骤101a训练集三维模型转换为off格式,并进行归一化处理,以第i个三维模型为例,其归一化处理过程如下:

(1)读取三维模型网格结构,获取其顶点集合{p1,p2,...,pN}和三角面片集合{T1,T2,...,TM};

(2)平移变换:顶点集合{p1,p2,...,pN}中每个元素均进行坐标平移变换pi=pi-tm,i=1,···,N,使得模型的重心与坐标原点重合,三维模型重心tm的计算公式为:

其中,si为三角面片Ti的面积,tmi为三角面片Ti的重心,tmi计算公式为(pa,pb,pc)为Ti的三个顶点向量;

其中,三角面片Ti的面积si计算公式为:

其中,pa=(xa,ya,za),pa=(xa,ya,za),pa=(xa,ya,za)分别为三角形Ti的三个顶点向量的坐标;

(3)旋转变换:顶点集合{p1,p2,...,pN}中每一个元素均进行旋转变换pi=pi×R,其中,R=[e1,e2,e3]T为缩放变换矩阵,{e1,e2,e3}为顶点集合的协方差矩阵C的特征向量,顶点集合的协方差矩阵C的计算公式为:

(4)缩放变换:顶点集合{p1,p2,...,pN}中每一个元素均进行缩放变换pi=sc×pi,sc为缩放因子,缩放因子sc的计算公式为:

其中,dx为模型表面顶点集合到YOZ平面的加权平均距离,计算公式为:di为三角形Ti的中心到YOZ平面的距离;

其中,dy是模型表面顶点集合到XOZ平面的加权平均距离,dj为三角形Ti的中心到XOZ平面的距离;

其中,dz为模型表面顶点集合到XOY平面的加权平均距离,dk为三角形Ti的中心到XOY平面的距离。

步骤101b训练集三维模型的内容特征向量提取,采用文献[19]中的方法,提取以下训练集三维模型特征向量:基于深度缓冲的特征,得到438维特征向量;基于射线的球面调和方法,得到136维特征向量;基于体素化的球面调和方法,得到256维特征向量;基于射线的方法,得到512维特征向量;基于形状分布方法,得到64维特征向量;基于形状直方图方法,得到128维特征向量。将上述特征向量拼接并进行归一化处理后,得到三维模型内容特征向量。

文献[19]D.V.Vranic,3D Model Retrieval[D].Ph.D.Thesis,University of Leipzig,2004。

步骤102建立三维模型标注数据库。

三维模型标注数据库用于存放三维模型的基本信息、文本标签向量、内容特征向量和语义特征向量等数据,详细描述如图2所示。

步骤103建立训练集三维模型的内容特征相似图。

令训练集三维模型的内容特征向量集合为{o1,o2,...,on}。从三维模型标注数据库中提取训练集三维模型的内容特征向量,并计算各个特征向量之间的欧式距离,计算公式为:

其中,表示第i个训练集三维模型的内容特征向量,表示第j个训练集三维模型的内容特征向量,d为内容特征向量的维度;

计算训练集三维模型的各个内容特征向量之间的平均距离,公式为:

计算训练集三维模型的各个内容特征向量之间的相似度,相似度公式为:

以训练集三维模型为节点,以各个内容特征向量之间的相似度为边,构建K-近邻图,K默认值为30,内容特征相似度矩阵

步骤104建立训练集的文本标签相关图。

令训练集文本标签集合为{t1,t2,...,tm},从三维模型标注数据库中读取训练集三维模型的标签向量并初始化标签矩阵如果oj具备第i个标签ti,则Yij=1,否则Yij=0,计算两个标签的共现次数,公式为:

根据两个标签的共现次数,计算两个标签的相关度,公式为:

以标签为节点,以标签相关度Cik为边,构建文本标签相关图,其相似度矩阵为

步骤105构建语义空间。

在语义空间中,训练集的n个三维模型和m个文本标签均采用语义特征向量来表示,具有相同的维度。其目标为将两个相似的三维模型内容特征向量和映射到语义空间中相近的两个点和将语义相关的两个文本标签ti和tj映射到语义空间中相近的两个点和将语义相关的三维模型和文本标签tj映射到语义空间中相近的两个点和语义空间的构建方法如下:

(1)计算三维模型内容特征相似度矩阵S的规范拉普拉斯矩阵:

其中,D=diag(D11,...,Dnn),

(2)计算标签相关矩阵C的规范拉普拉斯矩阵,公式如下:

其中,G=diag(G11,...,Gmm),

语义空间优化目标函数为:

其中,为训练集三维模型内容特征矩阵,为第i个文本标签的语义特征向量,为文本标签语义特征矩阵,为第j个三维模型的语义特征向量,为三维模型语义特征矩阵;

其中,为在语义空间内标签ui与三维模型vj的相似度,||ui-vj||2=(ui-vj)T(ui-vj),σ设置为0.5,vj=AToj实现第j个三维模型的内容特征向量到VO-X的投影;

其中,

tr(·)为矩阵求迹运算;

其中,为三维模型特征正交投影矩阵,A为正交投影矩阵;

其中,为p阶单位矩阵,α=0.8,β=0.6,γ=λ=ζ=0.005,

将约束条件乘以不定乘子λ和ζ,构造拉格朗日目标函数:

(3)随机初始化三维模型特征正交投影矩阵A=rand(d,p)和文本标签语义特征矩阵U=rand(p,m),并初始迭代变量t=1。

(4)计算目标函数对于A的导数,公式为:

(5)计算目标函数对于U的导数,公式如下:

目标函数对于U的每个列向量的导数为:

目标函数对于U的导数为

(6)更新

(7)更新变量t=t+1;重复步骤(4)、(5)、(6)迭代计算直至A与U收敛,实施过程中,下降步长η=0.005,拉格朗日乘子λ=ζ=0.005。

读取三维模型标注数据库中的三维模型特征数据表3DmodelFeature_Table,用获得的三维模型特征正交投影矩阵A对训练集三维模型的内容特征向量实施投影变换O'=ATO,得到三维模型的语义特征向量,并存储到三维模型特征数据表3DmodelFeature_Table中。利用获得的文本标签语义特征矩阵U,将文本标签的语义特征向量存储到文本标签字典表TagDictionary_Table中。

步骤106待标注三维模型预处理进一步包括:步骤106a待标注三维模型转换为off格式,并进行归一化处理和步骤106b待标注三维模型内容特征向量提取。待标注三维模型预处理与步骤101训练集三维模型预处理的方法相同,详见步骤101训练集三维模型预处理的描述。

步骤107待标注三维模型在线标注。

按照步骤106待标注三维模型预处理得到待标注三维模型的内容特征向量onew,然后采用如下投影变换得到onew的语义特征向量vnew,投影变换公式为:vnew=ATonew

其中,A为步骤105构建语义空间计算得到的投影矩阵;

计算待标注三维模型的语义特征向量vnew与文本标签字典表TagDictionary_Table中的文本标签的语义特征向量的欧式距离,获取其k个近邻。计算公式为:

其中,ui为文本标签的语义特征向量,为向量vnew的第i维向量值,为向量ui的第i维向量值,p为语义空间的维度,实施中p固定为300;

按照距离由小达大排序,获取前k个文本标签的语义特征向量,k默认取值是3,对应的文本标签作为待标注三维模型的标注词。

进一步地,基于语义空间投影变换的三维模型在线标注方法采用JAVA实现。

图2是本发明实施例提供的一种基于语义空间投影变换的三维模型在线标注方法的三维模型标注数据库结构图。如图2所示,三维标注数据数据库包括:三维模型表3DmodelDescription_Table、特征描述符表3DmodelFeature_Table、模型标签信息表3DmodelTag_Table、文本标签字典表TagDictionary_Table。

三维模型特征数据表3DmodelFeature_Table用于存储三维模型的标识码ModelID、内容特征向量FeatureVector、三维模型的语义特征向量SemanticFeatureVector,主键PK为ModelID。

三维模型表3DmodelDescription_Table用于存储三维模型的标识码ModelID,模型文件的存放路径FilePath,入库时间Time,主键PK为ModelID。

模型标签信息表3DmodelTag_Table用于存储三维模型的标识码ModelID,标签向量FeatureVector,主键PK为ModelID。

文本标签字典表TagDictionary_Table用于存储文本标签的标识码TagID、文本TagText、语义特征向量SemanticFeatureVector,主键PK为TagID。

进一步地,三维模型标注数据库的实现采用MySQL数据库。

进一步地,训练集三维模型数据和其附属文本标签数据来自于美国普林斯顿大学三维模型数据库和Google3Dwarehouse三维模型数据库。

图3是本发明实施例的一种基于语义空间投影变换的三维模型在线标注系统的框图。如图3所示,一种基于语义空间投影变换的三维模型在线标注系统包括:训练集三维模型预处理装置301、三维模型标注数据库装置302、训练集的三维模型的内容特征相似图建立装置303、训练集的文本标签相关图建立装置304、语义空间构建装置305、待标注三维模型在线标注装置306、待标注三维模型预处理装置307。

图3中,训练集三维模型预处理装置301与三维模型标注数据库装置302连接,三维模型标注数据库装置302分别与训练集的三维模型的内容特征相似图建立装置303、训练集的文本标签相关图建立装置304、语义空间构建装置305和待标注三维模型在线标注装置306连接,训练集的三维模型的内容特征相似图建立装置303和训练集的文本标签相关图建立装置304都与语义空间构建装置305连接,语义空间构建装置305还分别与三维模型标注数据库装置302和待标注三维模型在线标注装置306连接,待标注三维模型在线标注装置306与待标注三维模型预处理装置307、三维模型标注数据库装置302和语义空间构建装置305连接。

训练集三维模型预处理装置301,用于提取训练集三维模型的内容特征向量。

三维模型标注数据库装置302,用于存储与读取三维模型基本信息、内容特征向量、文本标签信息和语义特征向量等数据,三维模型标注数据库的结构见图2的描述。

训练集的三维模型的内容特征相似图建立装置303,用于获取三维模型内容特征向量,计算各个内容特征向量之间相似度,以训练集三维模型为节点,相似度为边,建立训练集的三维模型的内容特征相似图。

训练集的文本标签相关图建立装置304,用于计算标签的相关度,以标签为节点,以标签相关度为边,建立训练集的文本标签相关图。

语义空间构建装置305,用于计算三维模型特征正交投影矩阵和文本标签的语义特征向量,构建语义空间,并将语义空间的三维模型的语义特征向量和文本标签的语义特征向量存储到三维模型标注数据库。

待标注三维模型预处理装置307,用于对待标注三维模型进行格式转换、归一化处理,并提取待标注三维模型的内容特征向量。

待标注三维模型在线标注装置306,用于对待标注三维模型的内容特征向量进行三维模型特征投影变换,得到待标注三维模型的语义特征向量,计算三维模型的语义特征向量与文本标签的语义特征向量之间的相似度,得到待标注三维模型的近邻文本标签,近邻文本标签作为最终的标注词。

进一步地语义空间构建装置305包括语义空间的目标函数建立单元、语义空间求解单元、语义空间变换单元。

语义空间的目标函数建立单元包括:建立语义空间优化目标函数,完成训练集三维模型的内容特征相似图的规范拉普拉斯相似度矩阵、训练集的文本标签相关图的规范拉普拉斯相关度矩阵等数据的计算准备。

进一步地,语义空间优化目标函数为:

其中,训练集由n个三维模型和其附带的文本标签构成,为训练集三维模型的内容特征向量构成的内容特征矩阵,{t1,t2,...,tm}为文本标签的集合。

其中,LS是训练集三维模型的内容特征相似图的规范拉普拉斯相似度矩阵,S为内容特征相似度矩阵,特征相似度矩阵S中的元素Sij为第i个三维模型的内容特征向量oi和第j个三维模型的内容特征向量oj的相似度,D=diag(D11,...,Dnn)为对角矩阵,其元素

其中,LC是训练集的文本标签相关图的规范拉普拉斯相关度矩阵,C为文本标签相关度矩阵,文本标签相关度矩阵C中的元素Cij为第i个文本标签ti和第j个文本标签tj的相关度,G=diag(G11,...,Gnn)为对角矩阵,其元素

其中,为训练集三维模型的标签向量构成的标签矩阵,Yij=1表示内容特征矩阵O中特征向量oj具备文本标签ti,Yij=0表示内容特征矩阵O中特征向量oj不具备文本标签ti

其中,为语义空间中第i个文本标签ti的语义特征向量,语义空间维度为p,为文本标签语义特征矩阵,为语义空间中第j个三维模型的语义特征向量,为三维模型语义特征矩阵,文本标签的语义特征向量和三维模型的语义特征向量构成的语义空间;

其中,为三维模型特征正交投影矩阵,A为正交投影矩阵;在语义空间中,三维模型文本标签均采用语义特征向量来表示,具有相同的维度。其目标为将两个相似的三维模型内容特征向量和映射到语义空间中相近的两个点和将语义相关的两个文本标签ti和tj映射到语义空间中相近的两个点和将语义相关的三维模型和文本标签tj映射到语义空间中相近的两个点和

其中,为在语义空间内,标签ui与三维模型vj的相似度,||ui-vj||2=(ui-vj)T(ui-vj),σ设置为0.5,vj=AToj实现三维模型的内容特征向量oj到语义空间的投影;

其中,为p阶单位矩阵,α、β与γ为参数,

其中,目标函数的参数取值为:α=0.8,β=0.6,γ=0.005。

语义空间求解单元:根据语义空间的目标函数建立单元的计算结果,完成三维模型特征正交投影矩阵和文本标签语义特征矩阵的计算。

语义空间求解单元与待优化的目标函数建立单元连接,用于求解三维模型特征正交投影矩阵A和文本标签语义特征矩阵U。

进一步地,语义空间求解单元包括:初始化模块、第一导数模块、第二导数模块、变量更新模块和迭代模块。

初始化模块,确定优化目标函数的拉格朗日函数为:

随机初始化三维模型特征正交投影矩阵A=rand(d,p)和文本标签语义特征矩阵U=rand(p,m),并初始迭代变量t=1;

第一导数模块,与初始化模块连接,用于计算目标函数对于A的导数:

第二导数模块,与初始化模块连接,用于计算目标函数对于U的导数:

目标函数对于U的每个列向量的导数为:

目标函数对于U的导数为

变量更新模块,分别与第一导数模块和第二导数模块连接,用于更新更新更新迭代变量t=t+1,η为下降步长;

迭代模块,分别与变量更新模块和第一导数模块连接,重复第一导数模块、第二导数模块和变量更新模块的迭代计算,直至三维模型特征正交投影矩阵和文本标签语义特征矩阵U收敛。

进一步地,初始化模块的参数λ=ζ=0.005,变量更新模块的下降步长η=0.005。

语义空间变换单元:根据语义空间求解单元的计算结果,完成训练集三维模型的语义特征向量和文本标签的语义特征向量的生成和存储。

进一步地,语义空间变换单元包括:通过三维模型标注数据库装置302读取三维模型标注数据库中的三维模型特征数据表3DmodelFeature_Table,获取训练集三维模型的内容特征向量,根据三维模型特征正交投影矩阵A对训练集三维模型的内容特征向量实施投影变换O'=ATO,得到三维模型的语义特征向量,并存储到三维模型特征数据表3DmodelFeature_Table中。利用获得的文本标签语义特征矩阵U,将文本标签的语义特征向量存储到文本标签字典表TagDictionary_Table中。

待标注三维模型在线标注装置306从语义空间构建装置305三维模型特征正交投影矩阵A,从待标注三维模型预处理装置307获取待标注三维模型的内容特征向量onew,对onew进行投影变换,得到待标注三维模型的语义特征向量vnew,投影变换公式为:

vnew=ATonew

待标注三维模型在线标注装置306从三维模型标注数据库装置302获取文本标签字典表TagDictionary_Table中的文本标签的语义特征向量;计算待标注三维模型的语义特征向量vnew与文本标签的语义特征向量的欧式距离,计算公式为:

其中,ui为文本标签的语义特征向量。为向量vnew的第i维向量值;为向量ui的第i维向量值;p为语义空间的维度,实施中p固定为300。

按照距离由小达大排序,获取前k个文本标签的语义特征向量,k默认取值是3,对应的文本标签作为待标注三维模型的标注词。

更进一步地,基于语义空间投影变换的三维模型在线标注系统采用JAVA实现。

显然,本领域的技术人员应该明白,上述的本发明的各单元或各步骤可以用通用的计算装置来实现,它们可以集中在单个的计算装置上,或者分布在多个计算装置组成的网络上,可选地,它们可以用计算装置可执行的程序代码来实现,从而,可以将它们存储在存储装置中由计算装置来执行,或者将它们分别制作成各个集成电路单元,或者将它们中的多个单元或步骤制作成单个集成电路单元来实现。这样,本发明不限制于任何特定的硬件和软件结合。

以上所述实施例仅为表达本发明的实施方式,其描述较为具体和详细,但并不能因此而理解为对本发明专利范围的限制。应当指出的是,对本领域的普通技术人员来说,在不脱离本发明构思的前提下,还可以做出若干变形、同等替换、改进等,这些都属于本发明的保护范围。因此,本发明专利的保护范围应以所附权利要求为准。

去获取专利,查看全文>

相似文献

  • 专利
  • 中文文献
  • 外文文献
获取专利

客服邮箱:kefu@zhangqiaokeyan.com

京公网安备:11010802029741号 ICP备案号:京ICP备15016152号-6 六维联合信息科技 (北京) 有限公司©版权所有
  • 客服微信

  • 服务号