首页> 中国专利> 摄影装置、摄影方法、模板创建装置和模板创建方法

摄影装置、摄影方法、模板创建装置和模板创建方法

摘要

公开了摄影装置、摄影方法、模板创建装置和模板创建方法。所述摄影装置包括位置估计单元和摄影控制单元。所述位置估计单元被配置为:使用从过去拍摄图像创建的待跟踪目标的长期模板和所述待跟踪目标的短期模板来估计所述待跟踪目标在当前拍摄图像中的位置。所述长期模板是按较长间隔更新的模板,所述短期模板是按较短间隔更新的模板。所述摄影控制单元被配置为:基于所述位置估计单元所估计的所述位置来控制摄影。

著录项

  • 公开/公告号CN104243796A

    专利类型发明专利

  • 公开/公告日2014-12-24

    原文格式PDF

  • 申请/专利权人 索尼公司;

    申请/专利号CN201410244787.6

  • 发明设计人 小仓翔;滨田健宏;

    申请日2014-06-04

  • 分类号H04N5/232(20060101);

  • 代理机构11105 北京市柳沈律师事务所;

  • 代理人郭定辉

  • 地址 日本东京都

  • 入库时间 2023-12-18 08:10:40

法律信息

  • 法律状态公告日

    法律状态信息

    法律状态

  • 2023-06-16

    未缴年费专利权终止 IPC(主分类):H04N 5/232 专利号:ZL2014102447876 申请日:20140604 授权公告日:20190528

    专利权的终止

  • 2019-05-28

    授权

    授权

  • 2016-06-29

    实质审查的生效 IPC(主分类):H04N5/232 申请日:20140604

    实质审查的生效

  • 2014-12-24

    公开

    公开

说明书

相关申请的交叉引用

该申请要求于2013年6月11日提交的日本优先权专利申请JP 2013-123087的利益,其完整内容通过引用合并到此。

技术领域

本公开涉及摄影装置、摄影方法、模板创建装置、模板创建方法以及程 序。具体地说,本公开涉及能够通过使用待跟踪目标的优化模板来执行跟踪 和摄影的摄影装置、摄影方法、模板创建装置、模板创建方法和程序。

背景技术

自动跟踪相机是监控相机(PTZ(摇摄/倾斜/变焦)相机),其估计自动 或手动选择的待跟踪目标的位置,并且通过待跟踪目标在预定大小范围内定 位在拍摄图像的中心的方式来执行PTZ控制。

在这种自动跟踪相机中,因为待跟踪目标典型地存在于拍摄图像的中 心,所以监视者无需对可疑人员进行搜索,这减少了对监视者的负担。此外, 因为可以跟踪待跟踪目标并且拍摄其图像,所以每个相机的监视可能范围得 以增加。因此,可以减少待安装的相机的数量,因此减少了成本。

在自动跟踪相机中,作为估计待跟踪目标的位置的方法,存在第一方法: 从过去图像和当前图像获得光学流,并且将包括运动的区域设置为待跟踪目 标,由此估计待跟踪目标的位置。此外,存在第二方法:确定过去图像的背 景图像与当前图像之间的差异,并且将具有较大差异的区域设置为待跟踪目 标,由此估计待跟踪目标的位置。

然而,如果存在多个运动对象,则通过第一方法和第二方法来指定待跟 踪目标是困难的。有鉴于此,已经提出了第三方法:学习待跟踪目标的特征 (例如色彩),并且基于该特征来估计待跟踪目标的位置。

在此,在监视者指定待跟踪目标的第一位置的情况下,与待跟踪目标的 第一模板有关的信息是高度可靠的。然而,待跟踪目标的特征取决于待跟踪 目标的姿态、亮度等而变化。因此,在第三方法中,必须实时学习待跟踪目 标的特征。

例如,日本专利No.5116605公开了这样一种方法:在帧的基础上更新 待跟踪目标的模板,学习其特征,并且基于该特征来估计待跟踪目标的位置。 在日本专利No.5116605所公开的方法中,对于在学习中所计算的特征使用 颗粒滤波器(particle filter),由此估计待跟踪目标的位置和大小。对于学习 而使用的待跟踪目标的模板(样本)是颗粒的一部分,背景图像的模板是其 余颗粒。

发明内容

如上所述,在日本专利No.5116605中所公开的第一方法中,在帧的基 础上更新待跟踪目标的模板。然而,在一些情况下,待跟踪目标的特征仅临 时变化,并且返回其初始状态。例如,在待跟踪目标是人的情况下,人的行 走方式具有规律。因此,人非常可能已经采用相对遥远过去的人的相同姿态。 为此,期望不仅待跟踪目标的先前模板而且在相对遥远过去的待跟踪目标的 模板也用于学习待跟踪目标的特征。

有鉴于上述情况,期望使得可以通过使用待跟踪目标的优化模板来执行 跟踪和摄影。

根据本公开第一实施例,提供摄影装置,包括位置估计单元和摄影控制 单元。所述位置估计单元被配置为:使用从过去拍摄图像创建的待跟踪目标 的长期模板和所述待跟踪目标的短期模板来估计所述待跟踪目标在当前拍 摄图像中的位置。所述长期模板是按较长间隔更新的模板,所述短期模板是 按较短间隔更新的模板。所述摄影控制单元被配置为:基于所述位置估计单 元所估计的所述位置来控制摄影。

根据本公开第一实施例的摄影方法和程序与根据本公开第一实施例的 摄影装置对应。

在本公开第一实施例中,使用长期模板(其为按较长间隔更新的待跟踪 目标的模板)和短模板(其为按较短间隔更新的待跟踪目标的模板),由此 估计待跟踪目标在当前拍摄图像中的位置,并且基于所估计的位置来控制摄 影。

根据本公开第二实施例,提供模板创建装置,包括模板创建单元和保存 单元。所述模板创建单元被配置为:从拍摄图像创建待跟踪目标的模板。所 述保存单元被配置为:以分类为按较长间隔更新的长期模板和按较短间隔更 新的短期模板之一的模板来保存所述模板创建单元所创建的所述模板。

根据本公开第二实施例的模板创建方法和程序与根据本公开第二实施 例的模板创建装置对应。

在本公开第二实施例中,从拍摄图像创建所述待跟踪目标的模板,而且 所述模板被分类为按较长间隔更新的长期模板和按较短间隔更新的短期模 板之一,并且得以保存。

根据第一实施例的摄影装置以及根据第二实施例的模板创建装置可以 彼此独立,或可以是构成一个装置的内部块。

根据本公开第一实施例,可以通过使用所述待跟踪目标的优化模板来执 行跟踪和摄影。

根据本公开第二实施例,可以创建所述待跟踪目标的优化模板。

如附图所示,按照以下本公开具体实施方式,本公开的这些和其它目的、 特征和优点将变得更清楚。

附图说明

图1是示出应用了本公开的摄影装置的实施例的结构示例的框图;

图2是示出图1所示的摄影装置中执行的跟踪和摄影的概述的示图;

图3是示出图1所示的CPU和RAM的结构示例的框图;

图4A-4C是用于解释图3所示的模板创建单元进行的模板的分类的示 图;

图5是用于解释摄影装置的跟踪和摄影处理的流程图;以及

图6是用于解释用于图5中的模板的更新处理的细节的流程图。

具体实施方式

下文中,将参照附图描述本公开实施例。

<实施例>

(摄影装置的实施例的结构示例)

图1是示出应用了本公开的摄影装置的实施例的结构示例的框图。

图1所示的摄影装置10包括相机单元12、DSP(数字信号处理)13、 RAM(随机存取存储器)14、通信单元15、CPU(中央处理单元)16、电 机控制单元17、电机单元18和变焦控制单元19。摄影装置10跟踪并且拍 摄待跟踪目标。

具体地说,相机单元12包括光学单元12A和图像拾取单元12B。相机 单元12的光学单元12A包括变焦镜头、用于驱动变焦镜头的驱动单元等。 光学单元12A的驱动单元基于从变焦控制单元19提供的、用于控制变焦镜 头的变焦控制信号来驱动变焦镜头,并且控制拍摄图像的放大倍率。光学单 元12A的变焦镜头在图像拾取单元12B的摄影表面上形成被摄体的光学图 像。

图像拾取单元12B包括CCD(电荷藕合器件)、CMOS(互补金属氧化 物半导体)图像传感器等。图像拾取单元12B通过光电转换等生成与光学图 像对应的数字信号,并且将数字信号提供给DSP13作为拍摄图像。

DSP13对于从图像拾取单元12B提供的拍摄图像执行各种信号处理(例 如拐点校正、伽玛校正和色彩校正)。DSP13将已经历经信号处理的拍摄图 像提供给RAM14以使得RAM14临时存储该图像,并且将该图像提供给 CPU16。

通信单元15将RAM14中临时存储的拍摄图像经由网络发送到外部显 示装置(未示出)或外部存储装置(未示出)。

CPU16根据存储单元20中存储的程序来执行各种处理。具体地说,CPU 16从提供自DSP13的、在跟踪和摄影的开始时的帧的拍摄图像选择待跟踪 目标。然后,CPU16创建拍摄图像中的待跟踪目标的图像作为待跟踪目标 的模板,并且创建待跟踪目标周围的区域的图像作为背景图像的模板。然后, CPU16将所创建的待跟踪目标的模板和所创建的背景图像的模板提供给 RAM14作为初始模板,并且使得RAM14保存模板。

此外,CPU16从RAM14中所保存的模板学习待跟踪目标的特征(例 如色彩),并且基于该特征来估计待跟踪目标在拍摄图像中的位置。

基于所估计的位置,CPU16以在拍摄图像的中心上布置待跟踪目标的 方式来确定相机单元12的方位。将指示方位的方位信息提供给电机控制单 元17。此外,基于所确定的相机单元12的方位,CPU16以拍摄图像中的待 跟踪目标的大小落入预定范围内的方式来确定拍摄图像的放大倍率,并且将 指示放大倍率的变焦放大倍率信息提供给变焦控制单元19。

此外,CPU16计算除了在跟踪和摄影的开始时的帧之外的帧中的拍摄 图像中的待跟踪目标的位置的特征与对于位置的估计所使用的特征之间的 相似度。相似度指示待跟踪目标的似然性。

基于待跟踪目标的相似度和位置,CPU16从除了在跟踪和摄影的开始 时的帧之外的帧中的拍摄图像创建待跟踪目标的模板和背景图像的模板。 CPU16将所创建的待跟踪目标的模板和背景图像的模板分类为长期模板和 短期模板,并且将所分类的模板提供给RAM14,以使得RAM14保存模板。

应注意,长期模板指代按较长间隔更新的模板,而短期模板指代按较短 间隔更新的模板。

基于从CPU16提供的方位信息,电机控制单元17生成用于将相机单元 12的方位设置为方位信息所指示的方位的电机控制信号,并且将该信号提供 给电机单元18。

电机单元18由驱动相机单元12的驱动单元形成。基于从电机控制单元 17提供的电机控制信号,电机单元18对于相机单元12执行摇摄和倾斜,由 此改变相机单元12的方位。

基于从CPU16提供的变焦放大倍率信息,变焦控制单元19生成用于按 变焦放大倍率信息所指示的放大倍率执行摄影的变焦控制信号,并且将该信 号提供给光学单元12A。

存储单元20由硬盘等形成,并且存储CPU16所执行的程序等。程序是 通信单元15通过有线或无线传输介质(例如局域网、因特网以及数字卫星 广播)获得的,并且通过CPU16安装到存储单元20。

应注意,CPU16所执行的程序可以记录在分组介质等中,以提供并且 安装到存储单元20。此外,程序可以预先安装到存储单元20。

CPU16所执行的程序可以是按顺着该说明书的描述的先后顺序或并行 地执行处理的程序,或可以是当被调用时按必要时序执行处理的程序等。

(跟踪和摄影的概述)

图2是用于解释图1所示的摄影装置10所执行的跟踪和摄影的示图。

如图2所示,在跟踪和摄影中,首先,CPU16从拍摄图像选择待跟踪 目标。接下来,CPU16使用所选择的待跟踪目标的模板来学习待跟踪目标 的特征,并且基于该特征从拍摄图像估计待跟踪目标的位置。然后,基于所 估计的待跟踪目标的位置,CPU16以在预定大小范围内在拍摄图像的中心 布置待跟踪目标的方式来控制相机单元12的方位和拍摄图像的放大倍率。 结果,待跟踪目标总是在预定大小范围内布置在所拍摄图像的中心。

(CPU和RAM的结构示例)

图3是示出图1所示的CPU16和RAM14的结构示例的框图。

图3所示的CPU16包括位置估计单元30、摄影控制单元31、学习单元 32和模板控制单元33。

CPU16的位置估计单元30基于从学习单元32提供的特征来估计待跟 踪目标在从图1所示的DSP13提供的拍摄图像中的位置。具体地说,位置 估计单元30使用颗粒滤波器来计算关于每个颗粒所学习的特征的相似度, 并且基于颗粒的相似度的加权平均来估计待跟踪目标的位置。位置估计单元 30将位置提供给摄影控制单元31和模板控制单元33。

基于从位置估计单元30提供的位置,摄影控制单元31控制相机单元12 进行的摄影。具体地说,基于从位置估计单元30提供的位置,摄影控制单 元31以在拍摄图像的中心上布置待跟踪目标的方式来确定相机单元12的方 位,并且将指示方位的方位信息提供给电机控制单元17(图1)。此外,基 于所确定的相机单元12的方位,摄影控制单元31以拍摄图像中的待跟踪目 标的大小落入预定范围内的方式来确定拍摄图像的放大倍率,并且将指示放 大倍率的变焦放大倍率信息提供给变焦控制单元19。

模板控制单元33包括模板创建单元51和相似度计算单元52。

模板控制单元33的模板创建单元51从提供自DSP13的、在跟踪和摄 影的开始时的帧中的拍摄图像选择待跟踪目标。然后,模板创建单元51从 在跟踪和摄影的开始时的帧中的拍摄图像创建所选择的待跟踪目标的模板 和背景图像的模板。模板创建单元51将所创建的待跟踪目标的模板和背景 图像的模板提供给RAM14作为初始模板,并且将模板提供给学习单元32。

此外,基于从相似度计算单元52提供的相似度以及从位置估计单元30 提供的位置,模板创建单元51从除了在跟踪和摄影的开始时的帧之外的帧 中的拍摄图像创建背景图像的模板和待跟踪目标的模板。基于相似度,模板 创建单元51将待跟踪目标的模板和背景图像的模板分类为长期模板或短期 模板,并且将所分类的模板提供给RAM14。

此外,模板创建单元51读取RAM14中所保存的初始模板、短期模板 和长期模板,并且将模板提供给学习单元32。

基于从位置估计单元30提供的位置,相似度计算单元52计算从DSP13 提供的、在除了跟踪和摄影的开始时的帧之外的帧中的拍摄图像中的待跟踪 目标的位置的特征与从学习单元32提供的待跟踪目标的特征之间的相似度。 相似度计算单元52将相似度提供给模板创建单元51。

学习单元32通过boosting从提供自模板控制单元33的模板创建单元51 的模板学习待跟踪目标的特征(例如色彩),并且将该特征提供给位置估计 单元30和模板控制单元33。

RAM14包括初始模板保存单元71、短期模板保存单元72和长期模板 保存单元73。

RAM14的初始模板保存单元71保存从模板创建单元51提供的初始模 板。短期模板保存单元72使用从模板创建单元51提供的短期模板来更新所 保存的短期模板。

具体地说,在短期模板保存单元72具有可用空间的情况下,短期模板 保存单元72保存从模板创建单元51提供的新的短期模板。另一方面,在短 期模板保存单元72没有可用空间的情况下,短期模板保存单元72删除最旧 的短期模板,并且保存新的短期模板而不是最旧的短期模板。

类似于短期模板保存单元72,长期模板保存单元73使用从模板创建单 元51提供的长期模板来更新所保存的长期模板。

(关于模板分类的解释)

图4是用于解释图3所示的模板创建单元51进行的模板的分类的示图。

图4所示的曲线图均指示相似度的历史的概率密度。如图4的曲线图所 示,可以进行这样的假设:相似度的方差服从正态分布。

有鉴于此,如图4A所示,在相似度计算单元52所计算的相似度与相似 度的历史的平均值μ之间的距离等于或小于β乘以标准偏差σ(在图4的示 例中,β是1)的情况下,模板创建单元51将模板分类为短期模板。也就是 说,在相似度是具有高出现频率的相似度的情况下,将模板分类为按较短间 隔更新的短期模板。

结果,在短期模板保存单元72中,在相似度为正常值时的最新近模板 (即待跟踪目标的特征)并不改变得很大。在待跟踪目标的特征并不改变得 很大的情况下,因为待跟踪目标的特征与待跟踪目标的最新近特征相似,所 以可以通过短期模板精确地估计待跟踪目标的位置。

另一方面,如图4B所示,在相似度计算单元52所计算的相似度与平均 值μ之间的距离超过β乘以标准偏差σ并且等于或小于α乘以标准偏差σ (α>β)(在图4的示例中,α是2)的情况下,将模板分类为按较长间隔 更新的长期模板。

结果,在长期模板保存单元73中,有代表性地保存相似度不是正常值 (即待跟踪目标的特征变化得很大)的模板。在待跟踪目标的特征变化得很 大的情况下,待跟踪目标的特征明显与待跟踪目标的最新近特征不同。因此, 短期模板可能无法精确地估计待跟踪目标。然而,在相对遥远过去中生成相 同特征的情况下,可以通过长期模板来估计待跟踪目标。

此外,如图4C所示,在相似度计算单元52所计算的相似度与平均值μ 之间的距离超过α乘以标准偏差σ的情况下,模板创建单元51不创建当前 帧的模板。也就是说,在相似度是具有异常低出现频率的相似度的情况下, 确定除了待跟踪目标的图像之外的图像(例如背景图像等)被估计为待跟踪 目标的位置,并且模板置空。

如上所述,摄影装置10将模板分类为短期模板或长期模板,并且分离 地保存模板,由此使得可以高效地保存模板。也就是说,摄影装置10可以 仅保存在待跟踪目标的特征的变化很小的情况下有用的最新近的模板以及 在待跟踪目标的特征的变化很大的情况下有用的相对遥远过去中的代表性 模板。

与之对照,如果保存所有过去的模板,则用于保存模板的大存储容量的 存储器以及通过使用模板来进行学习的大量处理是必须的。此外,如果保存 所有过去的模板,则没有用的大量模板用于学习,其结果是:在学习中有用 模板的权重减少,学习的精度恶化。

(关于摄影装置的处理的解释)

图5是用于解释摄影装置10的跟踪和摄影处理的流程图。当在相机单 元12获得拍摄图像期间由监视者指定待跟踪目标时,开始跟踪和摄影处理。

在步骤S11,摄影装置10的模板创建单元51(图3)从提供自图1的 DSP13的待处理帧的拍摄的图像选择由监视者指定的待跟踪目标。

在步骤S12,模板创建单元51从待处理帧的拍摄图像创建待跟踪目标 的模板和背景图像的模板,并且将模板作为初始模板提供给RAM14的初始 模板保存单元71,以使得RAM14保存模板。此外,模板创建单元51将初 始模板提供给学习单元32。

在步骤S13,学习单元32通过boosting从提供自模板创建单元51的初 始模板学习待跟踪目标的特征(例如色彩),并且将该特征提供给位置估计 单元30和模板控制单元33。

在步骤S14,基于从学习单元32提供的特征,位置估计单元30估计待 跟踪目标在待处理帧的拍摄图像中的位置,并且将该位置提供给摄影控制单 元31和模板控制单元33。

在步骤S15,摄影装置10确定待处理帧是否是在开始跟踪和摄影处理 之后的第一待处理帧。在步骤S15,当确定该待处理帧是在开始跟踪和摄影 处理之后的第一待处理帧时,处理跳过步骤S16至S18,并且进入步骤S19。

另一方面,在步骤S15,当确定待处理帧不是在开始跟踪和摄影处理之 后的第一待处理帧时,处理进入步骤S16。

在步骤S16,基于从位置估计单元30提供的位置,相似度计算单元52 计算关于待跟踪目标在待处理帧的拍摄图像中的位置的特征与从学习单元 32提供的待跟踪目标的特征之间的相似度。相似度计算单元52将相似度提 供给模板创建单元51。

在步骤S17,模板创建单元51执行模板更新处理:通过使用待处理帧 的拍摄图像来更新RAM14中所保存的模板。稍后将参照图6详细描述模板 更新处理。

在步骤S18,学习单元32通过boosting从提供自模板创建单元51的初 始模板、短期模板和长期模板学习待跟踪目标的特征(例如色彩)。学习单 元32将所学习的特征提供给位置估计单元30和模板控制单元33,并且使得 处理进入步骤S19。

在步骤S19,基于从位置估计单元30提供的位置,摄影控制单元31生 成方位信息和变焦放大倍率信息。摄影控制单元31将方位信息提供给电机 控制单元17,并且将变焦放大倍率信息提供给变焦控制单元19。

在步骤S20,基于从摄影控制单元31提供的方位信息,电机控制单元 17生成电机控制信号,并且将该信号提供给电机单元18,由此控制相机单 元12的方位。

在步骤S21,基于从摄影控制单元31提供的变焦放大倍率信息,变焦 控制单元19生成变焦控制信号,并且将该信号提供给光学单元12A,由此 控制拍摄图像的放大倍率。

通过步骤S20和S21的处理,相机单元12获得在预定大小范围内在拍 摄图像的中心布置待跟踪目标的拍摄图像作为当前待处理帧随后的帧的拍 摄图像。

在步骤S22,摄影装置10确定是否终止跟踪和摄影处理。具体地说, 在不执行模板的更新的状态在模板更新处理中连续出现预定次数或更多的 情况下,摄影装置10确定待跟踪目标存在于摄影范围的外部达预定时间段 或更长,由此确定终止跟踪和摄影处理。

另一方面,在模板的更新状态在模板更新处理中没有连续地出现预定次 数或更多的情况下,摄影装置10确定不终止跟踪和摄影处理。

在步骤S22,在确定不终止跟踪和摄影处理的情况下,处理返回步骤 S14,并且将当前待处理帧随后的帧设置为新的待处理帧。然后,处理重复 地执行从步骤S14至S22的处理,直到确定终止跟踪和摄影为止。

另一方面,在步骤S22,在确定要终止跟踪和摄影处理的情况下,终止 处理。

图6是用于详细解释图5的步骤S17中的模板更新处理的流程图。

在图6的步骤S40,模板创建单元51确定在所保存的待处理帧之前的 帧的相似度的平均值μ和标准偏差σ。在步骤S41,模板创建单元51保存 从相似度计算单元52提供的待处理帧的相似度。

在步骤S42,模板创建单元51确定通过从待处理帧的相似度减去平均 值μ所获得的值的绝对值(下文中,被称为相似度差绝对值)是否等于或小 于α乘以标准偏差σ。

在步骤S42确定相似度差绝对值等于或小于α乘以标准偏差σ的情况 下,模板创建单元51在步骤S43确定相似度差绝对值是否等于或小于β乘 以标准偏差σ。

在步骤S43,在确定相似度差绝对值等于或小于β乘以标准偏差σ的情 况下,处理进入步骤S44。在步骤S44,基于待跟踪目标的位置,模板创建 单元51从待处理帧的拍摄图像创建待跟踪目标的模板和背景图像的模板, 并且更新短期模板。

具体地说,模板创建单元51将待跟踪目标的模板和背景图像的模板提 供给短期模板保存单元72,并且使得该单元保存模板,由此更新短期模板保 存单元72的短期模板。然后,处理进入步骤S46。

另一方面,在步骤S43,在确定相似度差绝对值并非等于或小于β乘以 标准偏差σ的情况下,即在相似度差绝对值大于β乘以标准偏差σ并且等于 或小于α乘以标准偏差σ的情况下,处理进入步骤S45。

在步骤S45,基于待跟踪目标的位置,模板创建单元51从待处理帧的 拍摄图像创建待跟踪目标的模板和背景图像的模板,并且更新长期模板。

具体地说,模板创建单元51将待跟踪目标的模板和背景图像的模板提 供给长期模板保存单元73,并且使得该单元保存模板,由此更新长期模板保 存单元73的长期模板。然后,处理进入步骤S46。

在步骤S46,模板创建单元51读取RAM14中保存的初始模板以及短 期模板和长期模板,并且将模板提供给学习单元32。然后,处理返回图5 的步骤S17,并且进入步骤S18。

此外,在步骤S42,在确定相似度差绝对值大于α乘以标准偏差σ的情 况下,不创建模板,且处理进入图5的步骤S19。

如上所述,因为摄影装置10以分类为长期模板和短期模板的待跟踪目 标的模板来保存从拍摄图像创建的待跟踪目标的模板,所以可以创建待跟踪 目标的优化模板。

此外,摄影装置10使用长期模板和短期模板来估计待跟踪目标在拍摄 图像中的位置,并且基于该位置来控制摄影。因此,可以通过使用待跟踪目 标的优化模板来执行跟踪和摄影。结果,可以高精度地估计引起姿态或亮度 的变化的待跟踪目标的位置,并且执行跟踪和摄影。

应注意,摄影装置10可以配备有多个固定的相机单元,并且可以通过 在拍摄图像的中心布置待跟踪目标的方式来选择执行摄影的相机单元之一。

此外,基于跟踪和摄影的规格、拍摄图像的假定内容、CPU16的处理 负荷的容限等来确定短期模板保存单元72和长期模板保存单元73可以保存 的模板的数量。短期模板保存单元72可以保存的模板的数量和长期模板保 存单元73可以保存的模板的数量可以是相同或不同的。

此外,可以从一帧的拍摄图像创建待跟踪目标的一个或多个模板。对于 背景图像的模板的数量,同样成立。

此外,学习单元32可以执行对于初始模板、短期模板和长期模板的加 权,以使用这些模板用于学习。此外,学习单元32无需使用所有初始模板、 短期模板和长期模板。

此外,在以上描述中,以分类为初始模板、短期模板或长期模板的模板 而连同待跟踪目标的模板一起保存背景图像的模板。然而,背景图像的模板 可以与待跟踪目标的模板分离地保存。在此情况下,背景图像的模板可以基 于一帧而更新,或可以每隔多帧而更新。

此外,在以上描述中,摄影装置10还创建模板。然而,另一装置可以 创建模板。在此情况下,例如,模板控制单元33、初始模板保存单元71、 短期模板保存单元72和长期模板保存单元73并非提供给摄影装置10,而是 提供给外部装置。

此外,在以上描述中,当监视者指定待跟踪目标时,开始跟踪和摄影处 理。然而,当传感器(未示出)检测到运动对象或异常性时,可以开始处理。 在此情况下,模板创建单元51通过预定方法来选择待跟踪目标。

应注意,本公开不限于上述实施例,而是可以在不脱离本公开的主旨的 情况下多样地修改。

例如,本技术可以具有云计算的结构,其中,多个装置经由网络共享一 个功能,并且彼此协作而执行处理。

此外,一个装置或多个装置可以共享上述流程图中解释的步骤。

此外,在一个步骤包括多个处理的情况下,所述一个步骤中所包括的所 述多个处理可以由一个装置执行,或由多个装置成形。

应注意,本公开可以采用以下配置。

(1)一种摄影装置,包括:

位置估计单元,被配置为:使用从过去拍摄图像创建的待跟踪目标的长 期模板和所述待跟踪目标的短期模板来估计所述待跟踪目标在当前拍摄图 像中的位置,所述长期模板是按较长间隔更新的模板,所述短期模板是按较 短间隔更新的模板;

摄影控制单元,被配置为:基于所述位置估计单元所估计的所述位置来 控制摄影。

(2)如项(1)所述的摄影装置,其中:

所述长期模板是在用于创建所述模板的所述过去拍摄图像中的待跟踪 目标与从与所述过去拍摄图像相比更遥远的过去中所获得的拍摄图像创建 的所述长期模板和所述短期模板之间的相似度大于第一阈值时的模板,

所述短期模板是在所述相似度等于或小于所述第一阈值时的模板。

(3)如项(2)所述的摄影装置,其中:

所述第一阈值是基于所述相似度的历史的值。

(4)如项(2)或(3)所述的摄影装置,其中:

所述长期模板是在所述相似度大于所述第一阈值并且等于或小于第二 阈值时的模板。

(5)如项(4)所述的摄影装置,其中:

所述第二阈值是基于所述相似度的历史的值。

(6)如项(1)至(5)中的任一项所述的摄影装置,其中:

所述位置估计单元使用初始模板来估计所述待跟踪目标的位置,所述初 始模板是从在跟踪开始时的拍摄图像创建的所述待跟踪目标的模板。

(7)一种摄影方法,包括:

通过摄影装置,使用从过去拍摄图像创建的待跟踪目标的长期模板和所 述待跟踪目标的短期模板来估计所述待跟踪目标在当前拍摄图像中的位置, 所述长期模板是按较长间隔更新的模板,所述短期模板是按较短间隔更新的 模板;

所述摄影装置基于在所述位置的估计中所估计的位置来控制摄影。

(8)一种程序,用于使得计算机运作为:

位置估计单元,被配置为:使用从过去拍摄图像创建的待跟踪目标的长 期模板和所述待跟踪目标的短期模板来估计所述待跟踪目标在当前拍摄图 像中的位置,所述长期模板是按较长间隔更新的模板,所述短期模板是按较 短间隔更新的模板,

摄影控制单元,被配置为:基于所述位置估计单元所估计的所述位置来 控制摄影。

(9)一种模板创建装置,包括:

模板创建单元,被配置为:从拍摄图像创建待跟踪目标的模板;

保存单元,被配置为:以分类为按较长间隔更新的长期模板和按较短间 隔更新的短期模板之一的模板来保存所述模板创建单元所创建的所述模板。

(10)如项(9)所述的模板创建装置,还包括:

相似度计算单元,被配置为:计算在用于创建所述模板的所述拍摄图像 中的待跟踪目标与从在与所述所拍摄图像相比更遥远的过去中所获得的拍 摄图像创建的所述长期模板和所述短期模板之间的相似度,其中,

当所述相似度大于第一阈值时,所述保存单元以分类为所述长期模板的 模板来保存所述模板,而当所述相似度等于或小于所述第一阈值时,所述保 存单元以分类为所述短期模板的模板来保存所述模板。

(11)如项(10)所述的模板创建装置,其中:

所述第一阈值是基于所述相似度的历史的值。

(12)如项(10)或(11)所述的模板创建装置,其中:

当所述相似度大于所述第一阈值并且小于或等于第二阈值时,所述保存 单元以分类为所述长期模板的模板来保存所述模板。

(13)如项(12)所述的模板创建装置,其中:

所述第二阈值是基于所述相似度的历史的值。

(14)如项(9)至(13)中的任一项所述的模板创建装置,其中:

所述保存单元以分类为初始模板的模板来保存从在跟踪开始时的所拍 摄图像创建的所述模板。

(15)一种模板创建方法,包括:

模板创建装置从拍摄图像创建待跟踪目标的模板;

所述模板创建装置将所创建的模板分类为按较长间隔更新的长期模板 和按较短间隔更新的短期模板之一,并且保存所述模板。

(16)一种程序,用于使得计算机运作为:

模板创建单元,被配置为:从拍摄图像创建待跟踪目标的模板,

保存控制单元,被配置为:使得所述模板创建单元所创建的所述模板分 类为按较长间隔更新的长期模板和按较短间隔更新的短期模板之一,并且得 以保存。

本领域技术人员应理解,只要各种修改、组合、部分组合和改动在所附 权利要求及其等同物的范围内,它们就可以取决于设计需求和其它因素产 生。

去获取专利,查看全文>

相似文献

  • 专利
  • 中文文献
  • 外文文献
获取专利

客服邮箱:kefu@zhangqiaokeyan.com

京公网安备:11010802029741号 ICP备案号:京ICP备15016152号-6 六维联合信息科技 (北京) 有限公司©版权所有
  • 客服微信

  • 服务号