首页> 中国专利> 进行三维计测的图像处理装置及图像处理方法

进行三维计测的图像处理装置及图像处理方法

摘要

一种图像处理装置,使用户能易于执行用于在示出所拍摄的对象物的图像上确定三维计测的对象位置的设定,该装置具有摄像部1,其包括:第一摄像机C0,使光轴向铅直方向而设置,生成工件W的正视图像;第二摄像机C1,使光轴向倾斜方向而设置,生成工件W的斜视图像。在计测之前的设定时,由各摄像机C0、C1拍摄设定用对象物,利用来自第一摄像机C0的正视图像,使用户进行对用于确定计测对象位置的指定区域的设定。在计测时,基于设定而在来自第一摄像机C0的正视图像决定指定区域,进行在该区域内确定计测对象位置的处理。进而,对来自第二摄像机C1的斜视图像,确定与在正视图像所确定的位置对应的位置,进行计算三维坐标的处理。

著录项

  • 公开/公告号CN101010559A

    专利类型发明专利

  • 公开/公告日2007-08-01

    原文格式PDF

  • 申请/专利权人 欧姆龙株式会社;

    申请/专利号CN200680000698.0

  • 发明设计人 池田泰之;藤枝紫朗;

    申请日2006-06-16

  • 分类号G01B11/00(20060101);G01B11/30(20060101);G01B11/24(20060101);G06T1/00(20060101);

  • 代理机构72003 隆天国际知识产权代理有限公司;

  • 代理人高龙鑫

  • 地址 日本京都府

  • 入库时间 2023-12-17 18:54:43

法律信息

  • 法律状态公告日

    法律状态信息

    法律状态

  • 2009-02-11

    授权

    授权

  • 2007-09-26

    实质审查的生效

    实质审查的生效

  • 2007-08-01

    公开

    公开

说明书

技术领域

本发明涉及一种基于由以从相互不同的方向拍摄对象物的方式所配置的多个摄像机分别拍摄到的图像而进行三维计测的装置。

在本说明书中上述的“计测”包括以检查为目的的计测。即,一般来说,考虑到在检查过程中会进行一些计测,而只称为“计测”的情况下,也视为包括如下的情况:最终的输出例如仅为检查的合格与否、而不输出计测值的情况。

背景技术

一直以来,对于对象物的形状或表面图案进行根据二维图像处理的计测的装置,广泛利用于各种产品的生产现场。在这些二维图像处理装置中,以代表对象物的面(例如对象物的底面)或者对象物的计测对象面为对象,基于从与该面垂直的方向、即从正视该面的方向所拍摄到的图像,而进行计测。

另一方面,公知有利用了多个摄像机的、基于体视学原理的三维计测方法,例如在专利文献1中记载有使用了这种方法的印刷电路板的检查装置。但是,现有的进行三维计测的装置限定对象物的种类和性质,例如,如果其目的是对检查印刷电路板的检查,则作为专用于此的装置而被构成,因此无法实现具有能够适用于各种产品的制造现场的通用性、和即使没有有关三维计测的专门知识也能够使用自如的操作性的装置。

专利文献1:日本国公表特许公报2003-522347号

在这种情况下,发明人决定要开发出与现有的二维图像处理装置同样富于通用性、且用户容易操作自如的、具备三维计测功能的图像处理装置。在这种方针下,发明人将使用户能够容易地进行用于如下动作的设定这一点设定为课题:以各种形状的对象物作为计测对象,并在示出拍摄对象物得到的图像上确定三维计测的对象位置。

发明的公开

(1).为了解决上述课题,而在该说明书中提出第一图像处理装置,利用第一图像和第二图像进行处理,其中,上述第一图像是基于第一摄像机拍摄对象物得到的图像而获得的正视图像,上述第二图像则基于第二摄像机拍摄的图像,配置第二摄像机时,使该拍摄对象物的方向不同于第一摄像机的拍摄方向,其具备:设定装置,其利用设定用图像,使用户进行关于指定区域的设定,而上述设定用图像是基于第一摄像机拍摄设定用对象物得到的图像而获得的正视图像;位置确定装置,其对作为基于第一摄像机拍摄计测对象的对象物得到的图像而获得的正视图像时的第一图像,基于上述设定而决定指定区域,并在该指定区域内确定对象物上的位置;三维计测装置,其确定与在第一图像中所确定的上述位置对应的第二图像中的位置,并利用所确定的第一图像上的位置和第二图像上的位置而计算出三维坐标。

在此,第一摄像机以从正视对象物的方向进行拍摄的方式被配置,而第一摄像机所拍摄到的图像本身为正视图像时,可以将第一摄像机所拍摄到的计测对象的对象物的图像直接作为第一图像而使用,进而,将对于第一摄像机所拍摄到的图像实施了例如为了校正错位而移动图像的处理的图像,作为第一图像而使用也可。在第一摄像机所拍摄到的对象物的图像是斜视图像时,将至少实施了将该斜视图像转换为正视图像的处理的图像,作为第一图像而使用。

若根据这种图像处理装置,则用户只要对正视图像进行用于确定对象物上的位置的指定区域的设定即可,所以能够容易地进行用于确定三维计测的对象位置的设定。

(2).在上述的图像处理装置中,还具备转换装置也可,该转换装置进行转换运算,将配置为从斜视的方向拍摄对象物的第一摄像机所拍摄到的斜视图像,转换为正视图像。此时的设定用图像是通过转换装置对第一摄像机从斜视的方向拍摄设定用对象物得到的图像进行转换而获得的,而且,第一图像是通过转换装置对第一摄像机从斜视的方向拍摄计测对象的对象物得到的图像进行转换而获得的。

若根据上述的装置,则即使在正视对象物的方向(例如对象物的铅直上方)上没有设置摄像机或者无法设置摄像机的情况下,也能够进行对正视图像的区域设定。

(3).进而,在上述的设置有转换装置的图像处理装置的一实施方式中,能够利用在所转换的正视图像中的尺寸与计测对象位置的实际尺寸之间建立关联的标度标度信息、与标度(Scale)信息匹配的正视高度即标度基准高度值、和包含标度基准高度在内的正视高度容许范围值。进而,还具备:二维图像处理装置,其以第一图像为对象,使用标度信息进行二维图像处理;判断装置,其判断通过三维计测装置所计算出的上述三维坐标所表示的正视高度是否包含在上述容许范围内。

根据上述的实施方式,若所计算出的三维坐标不在正视高度的容许范围内,则可以知道:在二维图像处理装置所利用的标度信息所表示的标度、和第一图像的实际的标度之间,存在大于所预想的程度的差异。

(4).在设置有转换装置的图像处理装置的其他的实施方式中,还具有:标度信息计算装置,其利用通过三维计测装置所计算出的上述三维坐标所表示的正视高度,而计算出在通过转换装置所转换的正视图像中的尺寸与计测对象位置的实际尺寸之间建立关联的标度信息;二维图像处理装置,其以第一图像为对象,使用标度信息进行二维图像处理。

若根据上述的实施方式,则利用根据正视高度的实测值所计算出的标度信息而进行二维图像处理,因此针对对象物能够进行更加正确的计测。

(5).在设置有转换装置的图像处理装置的其他的实施方式中,能够利用在所转换的正视图像中的尺寸与计测对象位置的实际尺寸之间建立关联的标度标度信息、与标度信息匹配的正视高度即标度基准高度值,而且,还具有调整装置,该调整装置基于用户的操作而匹配性地变更标度基准高度以及标度信息。

根据上述的方式,如果基于用户的操作进行调整,以使标度基准高度与三维计测的对象位置的实际的正视高度大致一致,则在第二图像上可能会出现计测对象位置的范围就会缩小。因此,如果以这种小的范围为对象而确定与在第一图像上所确定的位置对应的位置,则会降低在第一图像、第二图像间建立计测对象部位的对应关系时出错的可能性,而且确定对应位置的运算所需要的时间也会缩短。

此外,如果基于用户的操作而正确地调整了标度信息,则对第一图像进行伴随尺寸或面积的计测的各种二维图像处理时,其结果中所包含的误差会减少。

(6).在上述(5)的实施方式的图像处理装置中,还具备图像编辑装置也可,该图像编辑装置对显示用图像进行编辑,其中,上述显示用图像是对第一图像加上表示在位于标度基准高度平面上的实际尺寸的标度图形而获得的。此时,如果编辑过的图像被显示,则用户能够进行调整操作而使所显示的标度图形和计测对象位置的像之间的大小关系变得正确。

(7).作为解决所谓使用户易于执行用于在示出所拍摄的对象物的图像上确定三维计测的对象位置的设定的课题的图像处理装置的第二结构,该说明书提出了一种图像处理装置,利用第一图像和第二图像进行处理,其中,上述第一图像是基于第一摄像机从斜视的方向拍摄对象物得到的图像而获得的正视图像,上述第二图像则基于第二摄像机拍摄的图像,配置第二摄像机时,使该拍摄对象物的方向不同于第一摄像机的拍摄方向,其具备:转换装置,其进行转换运算,将配置为从斜视的方向拍摄对象物的第一摄像机所拍摄到的斜视图像,转换为正视图像;设定装置,其利用设定用图像,而使用户进行关于计测对象位置的设定,其中,上述设定用图像是通过上述转换装置对第一摄像机拍摄设定用对象物得到的图像进行转换而获得的;位置确定装置,其在通过上述转换装置对第一摄像机拍摄计测对象的对象物得到的图像进行转换而获得的第一图像上,基于上述设定而确定对象物上的位置;三维计测装置,其确定与在第一图像中所确定的上述位置对应的第二图像中的位置,并利用所确定的第一图像上的位置和第二图像上的位置而计算出三维坐标。

若根据这种图像处理装置,则无论摄像机所拍摄到的图像是不是斜视图像,用户只要对正视图像进行用于确定对象物上的位置的设定即可,因此能够容易地进行用于确定三维计测的对象位置的设定。进而,即使是在对于对象物正视的方向上没有设置摄像机、或者无法设置摄像机的情况下,也能够容易地进行设定。

(8).在上述第二结构的图像处理装置的一个实施方式中,能够利用在通过转换装置所转换的正视图像中的尺寸与计测对象位置的实际尺寸之间建立关联的标度标度信息、与标度信息匹配的正视高度即标度基准高度值、和包含标度基准高度在内的正视高度容许范围值,而且还具备:二维图像处理装置,其以第一图像为对象,使用标度信息进行二维图像处理;判断装置,其判断通过三维计测装置所计算出的上述三维坐标所表示的正视高度是否包含在上述容许范围内。

根据上述的实施方式,若所计算出的三维坐标不在正视高度的容许范围内,则可以知道:在二维图像处理装置所利用的标度信息所表示的标度、和第一图像的实际的标度之间,存在大于所预想的程度的差异。

(9).在第二结构的图像处理装置的其他的实施方式中,还具有:标度信息计算装置,其利用通过三维计测装置所计算出的三维坐标所表示的正视高度,而计算出在通过转换装置所转换的正视图像中的尺寸与计测对象位置的实际尺寸之间建立关联的标度信息;二维图像处理装置,其以第一图像为对象,使用标度信息进行二维图像处理。

若根据上述的实施方式,则利用根据正视高度的实测值所计算出的标度信息而进行二维图像处理,因此针对对象物能够进行更加正确的计测。

(10).在第二结构的图像处理装置的其他的实施方式中,能够利用在通过转换装置所转换的正视图像中的尺寸与计测对象位置的实际尺寸之间建立关联的标度标度信息、与标度信息匹配的正视高度即标度基准高度值,而且,还具有调整装置,该调整装置基于用户的操作而匹配性地变更标度基准高度以及标度信息。

在上述的实施方式中,如果基于用户的操作而进行调整,以使标度基准高度与三维计测的对象位置的实际的正视高度大致一致,则在第二图像上可能会出现计测对象位置的范围就会缩小。因此,如果以这种小的范围为对象而确定与在第一图像上所确定的位置对应的位置,则会降低在第一图像、第二图像间建立计测对象部位的对应关系时出错的可能性,而且确定对应位置的运算所需要的时间也会缩短。

此外,如果基于用户的操作而正确地调整了标度信息,则对第一图像进行伴随尺寸或面积的计测的各种二维图像处理时,其结果所包含的误差会减少。

(11).在上述(10)的实施方式的图像处理装置中,还具备图像编辑装置也可,该图像编辑装置对显示用图像进行编辑,其中,上述显示用图像是对于第一图像加上表示位于标度基准高度平面上的实际尺寸的标度图形而获得的。如此,如果编辑过的图像被显示,则用户能够进行调整操作而使所显示的标度图形和计测对象位置的像之间的大小关系变正确。

(12).在该说明书中提出第一图像处理方法,利用第一图像和第二图像进行处理,其中,上述第一图像是基于第一摄像机拍摄对象物得到的图像而获得的正视图像,上述第二图像则基于第二摄像机拍摄的图像,配置第二摄像机时,使该拍摄对象物的方向不同于第一摄像机的拍摄方向,其具备:设定步骤,其显示设定用图像,并使用户利用该设定用图像而进行关于指定区域的设定,其中,上述设定用图像是基于第一摄像机拍摄设定用对象物得到的图像而获得的正视图像;位置确定步骤,对作为基于第一摄像机拍摄计测对象的对象物得到的图像而获得的正视图像时的第一图像,基于上述设定而决定指定区域,并在该指定区域内确定对象物上的位置;三维计测步骤,其确定与在第一图像中所确定的上述位置对应的第二图像中的位置,并利用所确定的第一图像上的位置和第二图像上的位置而计算出三维坐标。

(13).该说明书提出第二图像处理方法,利用第一图像和第二图像进行处理,其中,上述第一图像是基于以从斜视的方向拍摄对象物的方式配置的第一摄像机拍摄对象物得到的图像而获得的正视图像,上述第二图像则基于第二摄像机拍摄的图像,配置第二摄像机时,使该拍摄对象物的方向不同于第一摄像机的拍摄方向,其具备:设定步骤,通过将第一摄像机所拍摄到的斜视图像转换为正视图像的转换运算,将第一摄像机拍摄设定用对象物得到的图像转换为设定用图像,并使用户利用该设定用图像而进行关于计测对象位置的设定;位置确定步骤,通过上述转换运算,将第一摄像机拍摄计测对象的对象物得到的图像转换为第一图像,并在第一图像上,基于上述设定而确定对象物上的位置;三维计测步骤,确定与在第一图像中所确定的上述位置对应的第二图像中的位置,并利用所确定的第一图像上的位置和第二图像上的位置而计算出三维坐标。

若根据上述第一、第二图像处理方法,则用户能够容易地进行用于在示出拍摄对象物得到的图像上确定三维计测的对象位置的设定。

附图的简单说明

图1是与设置例一起表示本发明所适用的检查装置的拍摄部的结构的立体图。

图2是表示由各摄像机所拍摄到的图像的例子的说明图。

图3是检查装置的框图。

图4是表示关于IC检查的步骤的流程图。

图5是表示检测区域的设定例的说明图。

图6是表示示教处理的步骤的流程图。

图7是表示定位区域的设定例的说明图。

图8是表示引线检查的详细的步骤的流程图。

图9是表示相对检查时的正视图像中的工件的定位区域以及检测区域的关系的说明图。

图10是表示各图像之间的对应点的关系的说明图。

图11是表示检索区域的设定方法的说明图。

图12是表示高度范围与检索区域的关系的说明图。

图13是表示相对工件上的检查对象部位的模型登记例的说明图。

图14是表示关于文字键的检查的步骤的流程图。

图15是表示对检查时的图像设定了检查对象的区域以及检索区域的例子的说明图。

图16是表示关于具有圆形的表示区域的工件的正视图像以及斜视图像的说明图。

图17是表示对于合格工件的表示区域以及计测对象区域的指定结果的说明图。

图18是表示对图16的工件进行高度检查时的步骤的流程图。

图19是表示计测对象区域以及检索区域追随工件的位置变化的例子的说明图。

图20是表示了设定正视用的假想的摄像机的说明图。

图21是表示用于将斜视图像转换为正视图像的方法的说明图。

图22是表示在检查之前所进行的设定的步骤的流程图。

图23是表示伴随向正视图像的转换处理而进行的检查的步骤的一个例子的流程图。

图24是表示伴随向正视图像的转换处理而进行的检查的步骤的一个例子的流程图。

图25是表示伴随向正视图像的转换处理而进行的检查的步骤的一个例子的流程图。

图26是表示包含标度基准高度以及标度信息的变更的设定的步骤的流程图。

图27是表示利用斜视摄像机的工件的拍摄状况的说明图。

图28是表示显示在监视器的视窗的内容的说明图。

图29是表示伴随标度基准高度的变更的编辑图像的显示内容的变化的说明图。

用于实施发明的最佳方式

图1与设置例一起表示本发明所适用的检查装置(图像处理装置)的拍摄部的结构。

该检查装置具有三维以及二维两种计测处理功能,而由摄像部1依次拍摄在工厂的检查流水线L所搬送的检查对象物W(以下称为“工件W”),并执行根据各种检查目的的计测处理和判断处理。

摄像部1采用在筐体15内安装有2台摄像机C0、C1的结构,并被设置在检查流水线L的上方。一侧的摄像机C0以使其光轴朝向铅直方向的状态(对于工件正视的状态)被设置。另一侧的摄像机C1以与摄像机C0的视场相重叠的方式,在使光轴倾斜的状态下被设置。决定摄像机C0以及摄像机C1的视场范围的成像面是矩形,而且,摄像机C1相对于摄像机C0而以沿着摄像机C0的视场范围的横方向(对应于图2中的图像A0的x轴方向)并排的方式被配置。

图2表示由各摄像机C0、C1所生成的工件W的图像的例子。图中的A0是来自摄像机C0的图像,A1是来自摄像机C1的图像。在该图2以及后述的图5等例示工件W的图像的图中,与图1同样,也用W表示各图像A0、A1中的工件。此外,图像A0的横方向(水平方向)设为x轴,纵轴方向(垂直方向)设为y轴。

由于摄像机C0是以使其光轴朝向铅直方向的方式设置的,所以图像A0表示从正面看工件W的上面的状态。与此相对,由于摄像机C1是以使光轴倾斜的方式设置的,所以图像A1示出从倾斜方向看到的工件W。以下,将来自摄像机C0的图像A0称为“正视图像A0”,将来自摄像机C1的图像A1称为“斜视图像A1”。正视图像A0相当于“第一图像”,斜视图像A1相当于“第二图像”。在该检查装置中,首先利用图像的畸变小(与工件的俯视图相近)的正视图像A0而确定计测对象部位,接着在斜视图像A1上确定与正视图像A0上的计测对象位置对应的位置。

图3是表示检查装置的整体结构的框图。该检查装置除了摄像部1之外,还由主体部2,监视器3,控制台4等构成。在主体部2设置有与各摄像机C0、C1相对的图像输入部10、11,摄像机驱动部12,运算处理部20,输出部28等。

摄像机驱动部12接收来自未图示的工件检测用的传感器的检测信号,而同时驱动各摄像机C0、C1。由各摄像机C0、C1所生成的图像信号分别输入到图像输入部10、11,并进行数字转换。由此,针对每台摄像机生成计测处理用的数字图像(正视图像A0以及斜视图像A1)。

运算处理部20由计算机构成,其执行了利用摄像机C0、C1的图像的计测处理之后,根据其处理结果而判断工件W的合格与否。输出部28是一种用于将计测处理或判断处理的结果输出到PLC等外部设备的输出用接口。

在运算处理部20,除了用于存储图像A0、A1的图像存储器21之外,还设置有图像处理部22、计测处理部23、判断部24、显示控制部25、参数计算部26、参数存储部27等。图像存储器21和参数存储部27以外的各部是利用专用的程序而被设定在作为运算处理部20的计算机上的功能。图像存储器21或者参数存储部27被设定在该计算机的存储器(RAM等)中。

虽在图3中未图示,但是在运算处理部20还设置有用于对检查所需的信息(检查区域的设定条件或者模型的图像等)进行登记的存储器。向该登记用存储器的登记处理、或者运算处理部20的各处理部所执行的处理的设定或者变更,能够适当地通过对控制台4的操作来进行。

图像处理部22通过二值化、边缘提取、图案匹配等确定工件W的检查对象部位。计测处理部23对于由图像处理部22所确定的检查对象部位执行计测位置或者大小等的处理。图像处理部22以及计测处理部23能够执行二维计测和三维计测的处理。

判断部24将计测处理部23的计测结果与规定的阈值进行比较等,从而判断工件W的合格与否。其计测结果和判断结果会输出到输出部28和显示控制部25。

显示控制部25用于控制监视器3的显示动作,其能够在一个画面内并列显示由图像输入部10、11所生成的正视图像A0、斜视图像A1。进而,能够适当接收图像处理部22、计测处理部23、判断部24的处理结果,而与图像一起将其显示出来。

在参数存储部27中保存有用于三维计测的运算所利用的各种系数。这些系数的值,根据由各摄像机C0、C1构成的立体坐标系与表示实际空间中的位置的空间坐标系之间的关系(各坐标系的原点间的距离、立体坐标系相对空间坐标系的旋转偏移量等)而发生变化(以下将这些系数称为“参数”)。在检查之前,这些参数被图像处理部22和参数计算部26计算出,并存储在参数存储部27中。在计算该参数的处理中,使用具有多个特征点的校准用工件。

进而,在参数存储部27还登记有构成后述的运算式(1)的单应矩阵的参数。

该检查装置给用户提示多种检查菜单而接收选择操作,从而能够组合检查的算法。此外,根据检查对象的部位,而能够选择执行二维计测处理的检查和三维计测处理的检查。在二维计测处理的检查中,将来自摄像机C0的正视图像A0作为对象,而执行图案匹配处理、二值化处理、边缘提取处理等,从而确定工件整体或工件中的检查对象部位。

进而,该检查装置在三维计测处理的检查中,也有效利用来自摄像机C0的正视图像A0,由此实现了三维计测处理的高速化。对于这一点,在后面详细说明。

图4表示工件W是IC时所实施的检查的步骤。接收到来自工件检测用的传感器的检测信号而开始该步骤。在最初的ST1(ST是“步骤”的省略,以下也相同)中,通过摄像机驱动部12同时驱动摄像机C0、C1,而生成正视图像A0、斜视图像A1。

在接下来的ST2中,将印刷在IC的封装部分上的文字作为对象而执行检查。在该检查中,执行仅使用了正视图像A0的二维的图像处理。例如,通过图案匹配处理提取文字的印刷区域,并根据该匹配时的相关度或匹配位置而判别文字的印刷状态的适当与否。

在接下来的ST3中,在正视图像A0中通过边缘检测的方法求出各引线的前端位置的坐标,接着,在斜视图像A1中通过边缘检测的方法求出对应的各引线的前端位置的坐标。然后,根据两图像中的各引线的前端位置坐标求出各引线的前端的三维坐标,并根据该计算值而判别在各引线是否存在浮起或弯曲等异常。

若ST2、3的检查结束,则在ST4将各检查的结果输出到外部设备或监视器3。进而,如果通过工件检测用的传感器检测出下一个IC,则返回ST1,而执行与上述相同的步骤。

如此,通过利用两台摄像机C0、C1分别拍摄一次工件W,而能够连续地执行二维计测的检查和三维计测的检查。由于在二维的计测处理中使用正视图像A0,因此能够利用没有文字畸变的图像而进行高精度的计测处理。

在进行三维计测处理时,确定在正视图像A0和斜视图像A1之间所对应的计测对象的点,并通过将所确定的各点的坐标代入到基于三角测量原理的运算式中,而计算出三维坐标。

图5表示正视图像A0中的检测区域(由用户所设定的指定区域)和斜视图像A1中的检测区域的设定例。将图像的纵方向(在正视图像A0中沿着引线排列的方向)设为y方向,将横方向(在正视图像A0中沿着引线长度的方向)设为x方向。在正视图像A0中,对每个引线6设定有分别独立的检测区域7,而且,对每个检测区域7确定一个相当于引线的前端的边缘点。

即,在此,由于摄像机C0、C1并排在x方向,所以主要在x方向上产生视差。因此,对检测区域7内的图像进行二值化,并将所得到的二值化图像沿y方向进行投影,由此画出以x方向为横轴、且以投影所得到的“明”像素数或者“暗”像素数为纵轴的直方图。然后,将直方图的值急剧变化的位置的x坐标作为引线6的前端的x坐标。另一方面,关于引线6的前端的y坐标,取检测区域7的y方向的中点的y坐标。将由如此所求出的x坐标和y坐标所表示的点称为边缘点。

在此,虽然对检测区域7内的图像进行了二值化,但并不仅限定于此,也可以对检测区域7内的图像的各像素在原来的浓淡图像的状态下直接在y方向上进行积分,而求出这样所得到的积分浓度分布的值沿x方向急剧变化的位置(例如横切阈值的位置)的x坐标。

这样,沿着特定的一个方向检测出边缘的位置。在图5的例子中,x方向是边缘的检测方向。在此,在正视图像A0设定了检测区域7之后,对该检测区域7指定边缘的检测方向。但是,不仅限定于此,也可以设定具备本来所固有的边缘的检测方向的检测区域7,还可以事先指定检测区域7的边缘检测方向,其后在正视图像A0设定检测区域7。

在斜视图像A1中,也针对每个引线6设定检测区域8。这些检测区域8是基于用于将一方图像上的一个点转换为另一方图像上的一个点的运算式(后述的式(1)),而利用在正视图像A0的各检测区域7所确定的边缘点的坐标和由用户指定的高度范围(可取得三维计测的对象位置的高度的范围)而进行设定的。这里的高度是指以工件W的安置面为基准的在铅直方向、即正视方向的高度,也就是正视高度。高度的基准不仅限定于工件W的安置面,而也可以取摄像机C0的位置、或者其他任意的位置。由用户指定的高度范围就是沿着摄像机C0的光轴的三维计测的对象范围。

在图5中,虽只表示了对于工件W的右侧引线的区域设定,但是对于左侧的引线也进行相同的设定(在以下的图中也相同)。

图6表示用于IC的引线检查的示教处理(设定处理)的步骤。该步骤在开始图4的IC检查之前被执行。

在该步骤的最初的步骤、即ST11中,关于检查对象的工件W(在该例子中为IC),输入引线6的长度和引线6之间的间距等。在此所输入的数据被登记在操作用的存储器中,而在后述的ST15中被使用。

在接下来的ST12中,在拍摄对象位置作为设定用对象物而设置合格工件,并通过摄像机C0、C1对其进行拍摄。另外,在示教处理中,只要生成来自摄像机C0的正视图像A0就足够,但是在此,即使是在示教处理时,也同时驱动各摄像机C0、C1,并将所生成的两张图像并列显示在监视器3上。

在接下来的ST13中,利用作为设定用图像的正视图像A0而接受定位区域的指定操作。图7表示该指定操作时的正视图像A0的显示例,图中的9就是定位区域。

该定位区域9用于抽取排成一列的引线6中位于最边缘的引线(在图例中是最上端的引线6a。以下将其称为“前头引线6a”)。在图7的例子中,设定仅包含前头引线6a的正方形的区域9。定位区域9被调整为即使工件W发生了可预想程度的错位、都能够在定位区域9中拍摄到前头引线6a的大小。此外,定位区域9以在其下半部分的范围内拍摄到前头引线6a的方式被设定。由此,能够根据在定位区域9的上半部分的范围内没有拍摄到引线的情况,而确认在定位区域9下半部分的范围内所拍摄到的就是前头引线6a。

返回图6,若指定了定位区域9,在接下来的ST14中,从该定位区域9抽取前头引线6a。在该抽取处理中,例如通过对定位区域9内的图像进行二值化、并沿y轴方向以及x轴方向对二值化后的图像进行投影的方法,而求出前头引线6a的前端的x坐标和y坐标。或者,也可以通过抽取定位区域9内的边缘和其浓度梯度方向,而抽取引线6a的轮廓线,进而求出引线6a的前端的x坐标和y坐标。

在ST15中,基于引线6a的前端的x坐标、y坐标和在ST11中所输入的数据,对各引线6设定检测区域7。具体地说,利用在ST11中所输入的数据、摄像机C0的像素数、倍率等,计算出在图像上的引线6的长度和引线6之间的间距,并基于该计算值而决定各检测区域7的大小和区域之间的间隔。这样,以前头引线6a的位置为基准,而作成用于对含有该引线6a的各引线6设定检测区域7所需的数据、即设定条件。

之所以能够采用这种方法,是因为使用原样反映了工件W的检查对象部位的特性(各引线的长度相等、引线之间的间距相等等)的正视图像A0。因此,如果能够在由用户设定的定位区域9抽取前头引线6a,则即使不抽取其他的引线6,也能够对所有的引线6设定检测区域7,从而能够大幅度地提高处理效率。

在ST16中,在登记用存储器中登记在ST13所指定的定位区域9的设定条件(区域的位置以及大小)、和在ST15所设定的检测区域7的设定条件。进而,在ST17中,在登记用存储器中作为模型而登记定位区域9内的图像。由此结束一系列的示教处理。

从ST11到ST17为止的一系列的处理,相当于:利用作为基于第一摄像机拍摄设定用对象物得到的图像而得到的正视图像时的设定用图像,而使用户对指定区域进行设定(以更一般的说法来讲,就是让用户对于计测对象位置进行设定)。此外,示教处理用的程序所运作的运算处理部20作为执行该一系列处理的设定装置而工作。

另外,在执行ST16之前,优选在监视器3显示将根据所作成的设定条件而设定的检测区域7与正视图像A0重叠表示的图像,并根据用户的确认操作进行登记。此外,此时,也可以对检测区域7的位置或大小进行微调整。

图8表示关于IC的引线检查(图4的ST3)的详细的步骤。

该步骤的从ST21到ST24为止的处理,是对作为所拍摄到的计测对象的对象物的图像的正视图像A0进行的处理。首先,在ST21中,基于在示教处理中所登记的设定条件,在正视图像A0设定定位区域9。在接下来的ST22中,核对该定位区域9内的图像和在示教处理的ST17中所登记的模型,而抽取相对模型的错位量(在该处理,例如可以应用图案匹配方法)。

在ST23中,基于在ST22所抽取的错位量而对在示教处理时所登记的检测区域7的设定条件进行调整,并利用该调整后的设定条件,作为设定区域而设定各引线的检测区域7。若根据正视图像A0,则不需要考虑图像上的工件W的畸变,所以能够将定位区域9的错位量直接适用于各检测区域7,从而能够利用与示教处理时相同的位置关系而对各引线6设定检测区域7。

图9表示进行检查时的正视图像A0的一个例子。在该例子的工件W与图7所示的示教处理时的图像A0相比向右侧错位,所以引线6的前端处于从定位区域9露出的状态。但是,关于检测区域7,会进行上述的调整处理,所以对哪一个引线6均都以与图4所示的相同的条件设定有检测区域7。

在该例子中,虽然根据错位了的工件W调整了检测区域7在图像内的位置(图像相对于框的位置),但是也可以代替它,而即使工件W发生了错位,也以工件W相对图像的框始终保持一定的位置关系的方式使图像的整体内容移动,从而将检测区域7设定在相对图像的框始终保持一定的位置。

若如此对每个引线设定了检测区域7,则在接下来的ST24中,针对各检测区域7的每一个,取得引线前端的x、y坐标。

从ST21到ST24为止的一系列的处理,相当于:对作为基于第一摄像机拍摄计测对象的对象物得到的图像而得到的正视图像时的第一图像,基于设定而决定指定区域,并在该指定区域内确定对象物上的位置(更一般的说法来讲,根据设定确定对象物上的位置)。此外,为了执行用于引线检查处理的步骤而被组合的程序所运作的运算处理部20,作为执行该一系列处理的位置确定装置而工作。

在接下来的ST25中,在斜视图像A1上设定用于检测出各引线的前端位置的检测区域8。进而在ST26中,在所设定的检测区域8执行与ST24相同的处理,而计算出引线前端的x、y坐标。该设定检测区域8、计算出x、y坐标的处理,相当于:确定与在第一图像中所确定的位置对应的、第二图像中的位置。

其后,在ST27中,针对各前端,利用分别在ST24、26所计算出的坐标而计算出三维坐标。该处理相当于:利用所确定的第一图像上的位置和第二图像上的位置,而计算出三维坐标。以执行用于确定第二图像中的位置、且计算出三维坐标的步骤的方式所组合的程序所运作的运算处理部20,作为执行该一系列处理的三维计测装置而工作。

进而,在ST28中,将所计算出的三维坐标与预先登记的基准值进行比较等,而判断各引线前端部的合格与否。例如,如果任一个引线的前端部存在浮起,则表示其前端部的高度的Z坐标就变成超过基准值的值,从而判断该引线不合格。

接着,针对在ST25的对检测区域8的设定,进行详细的说明。

图10表示在位于空间内的任意高度位置的平面D上的一点P分别成像在摄像机C0、C1的成像面F0、F1上的点p0、p1的状态。在图10中,X、Y、Z是表示三维空间的坐标轴,平面D与XY平面相平行。此外,在成像面F0上设定有由x0、y0轴构成的二维坐标系,在成像面F1上设定有由x1、y1轴构成的二维坐标系。在图10中,偶然将成像到两个成像面的原点上的平面D上的点作为P,但是并不仅限定于此,点P的位置可以是平面D上的任意位置。

将在成像面F0中的点P的成像位置(点p0)的坐标设为(xcam0,ycam0),将在成像面F1中的点P的成像位置(点p1)的坐标设为(xcam1,ycam1),则点p0、p1之间的关系如下式(1)所示。

>>λ> > >>x>>cam>1>>> > >>y>>cam>1>>> > >1> > >=>>H>Z>> > >>x>>cam>0>>> > >>y>>cam>0>>> > >1> > >.>.>.>>(>1>)>>>s>

获取专利

客服邮箱:kefu@zhangqiaokeyan.com

京公网安备:11010802029741号 ICP备案号:京ICP备15016152号-6 六维联合信息科技 (北京) 有限公司©版权所有
  • 客服微信

  • 服务号