JP2017110975A - 計測装置、システム、計測方法、決定方法及びプログラム - Google Patents

計測装置、システム、計測方法、決定方法及びプログラム Download PDF

Info

Publication number
JP2017110975A
JP2017110975A JP2015244394A JP2015244394A JP2017110975A JP 2017110975 A JP2017110975 A JP 2017110975A JP 2015244394 A JP2015244394 A JP 2015244394A JP 2015244394 A JP2015244394 A JP 2015244394A JP 2017110975 A JP2017110975 A JP 2017110975A
Authority
JP
Japan
Prior art keywords
workpiece
unit
image
imaging
orientation
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2015244394A
Other languages
English (en)
Other versions
JP2017110975A5 (ja
Inventor
山田 顕宏
Akihiro Yamada
顕宏 山田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2015244394A priority Critical patent/JP2017110975A/ja
Priority to US15/371,538 priority patent/US10068350B2/en
Publication of JP2017110975A publication Critical patent/JP2017110975A/ja
Publication of JP2017110975A5 publication Critical patent/JP2017110975A5/ja
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/56Cameras or camera modules comprising electronic image sensors; Control thereof provided with illuminating means
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/183Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a single remote source
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30108Industrial image inspection
    • G06T2207/30164Workpiece; Machine component

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Length Measuring Devices By Optical Means (AREA)

Abstract

【課題】ワークの位置及び姿勢の少なくとも一方を計測するのに有利な計測装置を提供する。
【解決手段】パターン光が投影されたワーク4を撮像して取得される画像を用いてワークの位置及び姿勢の少なくとも一方を計測する計測装置であって、パターン光をワークに投影する投影部と、パターン光が投影されたワークを撮像して画像を取得する撮像部と、ワークに起因して撮像部で取得される画像に生じる輝度むらBUに関する輝度情報に基づいて、ワークに対する、投影部の光軸OA1と撮像部の光軸OA2との相対的な傾き方向で規定される基線方向を決定する決定部と、決定部で決定されたワークに対する基線方向となるように投影部及び撮像部の位置及び姿勢の少なくとも一方を制御するための制御情報を出力する出力部と、を有する。
【選択図】図5

Description

本発明は、ワークの位置及び姿勢の少なくとも一方を計測する計測装置、システム、計測方法、決定方法及びプログラムに関する。
近年、工業製品の組立工程などのこれまで人間が行ってきた複雑なタスクをロボットが代わりに行うようになってきている。ロボットはハンドなどのエンドエフェクタによって部品を把持して組立を行うが、このような組立を実現するためには、把持対象の物品(ワーク)の位置や姿勢を計測する必要がある。
例えば、距離画像から得られる計測情報(距離点群データ)を利用したモデルフィッティングによって、ワークの位置や姿勢を計測する技術が知られている。また、距離画像を取得する技術として、一般的に、パターンを有する光をワークに照射(投影)し、かかる光の照射方向とは異なる方向からパターンを撮像して三角測量の原理を適用するアクティブステレオ法が知られている。
アクティブステレオ法では、ワークに照射されたパターンを撮像する際の輝度むらに起因して画像におけるパターンが歪み、計測誤差(距離計測誤差)が発生してしまう。例えば、樹脂の筐体を含むワークには、射出成型時に筐体の表面に形状むらが生じ、かかる形状むらに起因して輝度むらが生じてしまう。
そこで、輝度むらに起因するパターンの歪みを補正する技術が提案されている(特許文献1及び2参照)。特許文献1に開示された技術では、ワークに対して、パターンを有する光と、パターンを有していない光とを個別に照射して、パターンを有する光に対応するパターン画像と、パターンを有していない光に対応する全照射画像とを取得する。そして、パターン画像での輝度むらを、全照射画像での輝度むらで補正することで、輝度むらに起因するパターンの歪みを補正している。また、特許文献2に開示された技術では、事前に輝度むらに起因するパターンの歪みを取得して補正量を決定し、実計測時に、かかる補正量を用いてパターンの歪みを補正している。
特開平3−289505号公報 特開2008−241483号公報
組立工程を高速化するために、ロボットを移動させながらワークの位置や姿勢を計測する場合、1回の撮像から1つの距離画像を取得しなければならない。
しかしながら、特許文献1に開示された技術では、1つの距離画像を取得するために、パターン画像及び全照射画像(輝度むら補正用の画像)を取得するための少なくとも2回の撮像が必要となるため、それぞれの画像を取得するタイミングにずれが生じてしまう。従って、パターン画像と全照射画像との間に視野ずれが発生し、輝度むらに起因するパターンの歪みの高精度な補正を実現することができない。また、ワークに対するパターンの照射方向によって、輝度むらに起因するパターンの歪みが変化してしまう。
一方、特許文献2に開示された技術は、事前に輝度むらに起因するパターンの歪みを取得して補正量を決定しているため、計測装置に対して、ワークの位置や姿勢が変化しない場合はよいが、ワークの位置や姿勢が任意に変化する場合には適用することが困難である。
本発明は、このような従来技術の課題に鑑みてなされ、ワークの位置及び姿勢の少なくとも一方を計測するのに有利な計測装置を提供することを例示的目的とする。
上記目的を達成するために、本発明の一側面としての計測装置は、パターン光が投影されたワークを撮像して取得される画像を用いて前記ワークの位置及び姿勢の少なくとも一方を計測する計測装置であって、前記パターン光を前記ワークに投影する投影部と、前記パターン光が投影された前記ワークを撮像して画像を取得する撮像部と、前記ワークに起因して前記撮像部で取得される画像に生じる輝度むらに関する輝度情報に基づいて、前記ワークに対する、前記投影部の光軸と前記撮像部の光軸との相対的な傾き方向で規定される基線方向を決定する決定部と、前記決定部で決定された前記ワークに対する基線方向となるように前記投影部及び前記撮像部の位置及び姿勢の少なくとも一方を制御するための制御情報を出力する出力部と、を有することを特徴とする。
本発明の更なる目的又はその他の側面は、以下、添付図面を参照して説明される好ましい実施形態によって明らかにされるであろう。
本発明によれば、例えば、ワークの位置及び姿勢の少なくとも一方を計測するのに有利な計測装置を提供することができる。
本発明の一側面としての把持システムの構成を示す概略図である。 第1の実施形態における計測装置の構成を示す概略図である。 図2に示す計測装置における投影部のマスクの構成の一例を示す図である。 ワークに起因して画像に生じる輝度むらの一例を示す図である。 輝度むらの周期方向と基線方向との関係を説明するための図である。 均一に照明されたワークを撮像して取得された画像に対応する画像データを周波数解析した結果を示す図である。 第2の実施形態における計測装置の構成を示す概略図である。
以下、添付図面を参照して、本発明の好適な実施の形態について説明する。なお、各図において、同一の部材については同一の参照番号を付し、重複する説明は省略する。
図1は、本発明の一側面としての把持システムGSの構成を示す概略図である。把持システムGSは、工業製品の組立工程などにおいて、把持対象の物品であるワークを把持(ピッキング)する機能を有する。把持システムGSは、例えば、トレイに不規則にバラ積みされたワークを把持する。把持システムGSは、図1に示すように、計測装置100と、把持装置300とを有する。
計測装置100は、アクティブステレオ法を採用し、パターンを有する光(パターン光)が投影されたワークを撮像して取得される画像を用いて、ワークの位置及び姿勢の少なくとも一方(以下では、「位置姿勢」と称する)を計測する。計測装置100は、支持部110を介して、外部装置である把持装置300に支持されている(取り付けられている)。計測装置100の具体的な構成や機能などについては、以下の各実施形態で詳細に説明する。
把持装置300は、計測装置100で計測されたワークの位置姿勢に基づいて、かかるワークを把持する6軸アームロボットとして具現化される。把持装置300は、図1に示すように、ハンド310と、駆動部320と、制御部330とを有する。
ハンド310は、ワークを把持する複数のフィンガを含む。ハンド310は、本実施形態では、2つのフィンガを含み、ワークを2つのフィンガで挟み込むように把持する。
駆動部320は、制御部330の制御下において、ハンド310を駆動する。また、駆動部320は、上述したように、支持部110を介してハンド310の近傍に取り付けられた計測装置100を支持し、計測装置100の位置姿勢を変更する変更部としても機能する。駆動部320には、当業界で周知の如何なる構成をも適用することが可能であるが、ハンド310及び計測装置100を3次元的に移動させ、且つ、回転させることが可能なように構成される。
制御部330は、CPUやメモリなどを含み、把持装置300の全体(動作)を制御する。制御部330は、計測装置100で計測されたワークの位置姿勢に基づいて、ハンド310でワークを把持する際の把持位置やワークに対してハンド310を挿入する際の挿入方向などを含む把持条件を決定し、かかる把持条件に基づいて、駆動部320を制御する。また、制御部330は、計測装置100から出力される、計測装置100の位置姿勢を制御するための制御情報に基づいて、計測装置100の位置姿勢を変更する変更部として機能する駆動部320を制御する。
把持システムGSでは、以下の各実施形態で説明するように、計測装置100によってワークの位置姿勢を高精度に計測することが可能であるため、ワークの把持ミス(ハンド310によるワークの破損やワークの落下など)を低減することができる。
<第1の実施形態>
図2は、把持システムGSにおける計測装置100として適用される計測装置100Aの構成を示す概略図である。計測装置100Aは、図2に示すように、投影部1と、撮像部2と、処理部3とを有する。計測装置100Aは、距離画像計測部によって取得した距離画像を利用してモデルフィッティングすることによって、ワーク4の位置姿勢を計測する装置である。なお、モデルフィッティングは、予め作成されたワーク4のCADモデルに対して行われものであって、ワーク4の3次元形状が既知であることを前提とする。
また、図示してはいないが、投影部1と撮像部2とは、一体化されて筐体に収容されている。投影部1及び撮像部2を収容する筐体は、6自由度で移動可能なように、支持部110を介して把持装置300(駆動部320)に支持されている。計測装置100Aと把持装置300との姿勢関係は、キャリブレーションによって予め保障されている。
計測装置100Aの主要部である距離画像を取得するための距離画像計測部について説明する。距離画像とは、計測対象であるワーク4(の表面上の点)の3次元等の情報を示すものであって、各画素が奥行きの情報を含む画像である。距離画像計測部は、投影部1、撮像部2及び処理部3によって構成される。
投影部1は、パターン光をワーク4に投影する。撮像部2は、投影部1によってパターン光が投影されたワーク4を、投影部1とは異なる方向(投影部1に対して特定方向に傾いた方向)から撮像してパターン画像を取得する。処理部3は、撮像部2で取得されたパターン画像から、三角測量の原理に基づいて、距離画像を求める。更に、処理部3は、距離画像をモデルフィッティングすることによって、ワーク4の位置姿勢に関する情報を求める。
距離画像計測部において、投影部1からワーク4に投影するパターンは、1つのパターン画像から距離画像を求めることが可能なパターンである。これは、計測装置100A(投影部1及び撮像部2を収容する筐体)を移動させながらワーク4の位置姿勢を計測することを想定しているからである。複数のパターン画像から距離画像を求める計測方式では、計測装置100Aの移動によって各距離画像の視野ずれが生じてしまうため、距離画像を高精度に求めることができない。
1つのパターン画像から距離画像を求めることが可能なパターンとしては、図3に示すように、ドットによって符号化されたドットラインパターンが知られている。ワーク4に投影されたドットラインパターンのドットの位置関係に基づいて、投影パターンと各ラインとの対応付けを行うことで、1つのパターン画像から距離画像を求めることができる。なお、本実施形態では、投影部1からワーク4に投影するパターンの具体例として、ドットラインパターンを説明した。但し、投影部1からワーク4に投影するパターンは、ドットラインパターンに限定されるものではなく、1つのパターン画像から距離画像を求めることができるパターンであればよい。
投影部1は、本実施形態では、光源7と、照明光学系8と、マスク9と、投影光学系10とを含む。照明光学系8は、光源7から射出された光でマスク9を均一に照明するための光学系である。マスク9には、例えば、ガラス基板をクロムめっきすることによって、ワーク4に投影するパターン(に対応する透過部)が形成されている。本実施形態では、マスク9には、図3に示すように、ドットラインパターンが形成されている。投影光学系10は、マスク9に形成されたパターンの像をワーク4に投影するための光学系である。
このように、投影部1は、照明光学系8によって、光源7からの光でマスク9を均一に照明し、投影光学系10によって、マスク9のパターンからの光をワーク4に結像する。本実施形態では、マスク9を用いてパターンをワーク4に投影する方式(固定マスクパターン方式)について説明したが、これに限定されるものではない。例えば、DLP(Digital Light Processing)プロジェクタや液晶プロジェクタを用いてパターンをワーク4に投影してもよい。
撮像部2について説明する。撮像部2は、距離画像を取得するためのユニットであって、本実施形態では、撮像光学系5と、撮像素子6とを含む。撮像光学系5は、ワーク4に投影されたパターンを撮像素子6に結像するための光学系である。撮像素子6は、パターン画像を取得するためのイメージセンサであって、例えば、CMOSセンサやCCDセンサなどで構成されている。
計測装置100Aでは、パターン光が投影されたワーク4を撮像して取得されるパターン画像に輝度むらが生じる場合がある。例えば、ワーク4が樹脂の筐体を含んでいる場合、射出成型時に筐体の表面に形状むらが生じていることが多い。このような筐体の表面の形状むらに起因して反射率のむらが発生し、撮像素子6で取得されるパターン画像に輝度むらが生じてしまう。パターン画像に輝度むらが生じると、パターン画像におけるパターンが歪んでしまうため、計測誤差(距離計測誤差)が発生し、ワーク4の位置姿勢の計測精度の低下を招いてしまう。
図4は、ワーク4が樹脂の筐体を含む場合に、かかるワーク4を撮像して取得される画像(濃淡画像)に生じる輝度むら(輝度分布)の一例を示す図である。ワーク4は、例えば、樹脂の筐体4aと、ピン4bとを含む電子部品である。このようなワーク4(の筐体4a)を撮像して取得される濃淡画像IM1を参照するに、α方向に周期性を有する輝度むらが生じていることがわかる。ワーク4の筐体4aの表面の形状むらは、輝度むらと同様に、α方向に周期性を有し、かかる形状むらに起因する反射特性によって輝度むらが生じている。
計測装置100Aでは、このような輝度むらの周期方向と基線方向との関係を規定して、ワーク4の位置姿勢を計測する。以下では、投影部1に対して撮像部2が相対的に傾き視差を持つ方向、即ち、投影部1(投影光学系10)の光軸と撮像部2(撮像光学系5)の光軸との相対的な傾き方向で規定される方向を、計測装置100Aの基線方向として説明する。
図5(a)及び図5(b)は、ワーク4に起因する輝度むらの周期方向と基線方向との関係を説明するための図である。図5(a)及び図5(b)において、OA1は、投影光学系10の光軸を表し、OA2は、撮像光学系5の光軸を表している。図5(a)及び図5(b)では、投影光学系10の光軸OA1と撮像光学系5の光軸OA2とがX方向に相対的に傾いているため、X方向が基線方向となる。投影光学系10によってワーク4に投影されるパターン光は、X方向に周期性を有するものとする。また、BUは、ワーク4を撮像して取得されるパターン画像に生じる輝度むら(輝度分布)を表している。
図5(a)は、ワーク4を撮像して取得されるパターン画像に生じる輝度むらの周期方向(X方向)と基線方向とが平行である場合、即ち、輝度むらの周期方向とパターン光の周期方向とが同一となる場合を示している。この場合、パターン画像におけるパターンは、輝度むらによって、距離算出方向に一律に歪む傾向が強くなるため、ラインごとにオフセット値を有する傾向が強くなる。従って、距離画像をモデルフィッティングすることによってワーク4の位置姿勢を求める際に、大きな計測誤差を生じる可能性が高くなる。
一方、図5(b)は、ワーク4を撮像して取得されるパターン画像に生じる輝度むらの周期方向(Y方向)と基線方向とが直交する場合、即ち、輝度むらの周期方向とパターン光の周期方向とが直交する場合を示している。この場合、パターン画像におけるパターンが距離算出方向に歪む確率が低くなるとともに、1つのライン内では歪む方向がばらつくため、平均的な距離誤差は小さくなる。従って、距離画像をモデルフィッティングすることによってワーク4の位置姿勢を求める際に、平均化効果によって、計測誤差への影響が小さくなる。
このように、ワーク4を撮像して取得されるパターン画像に生じる輝度むらの周期方向と基線方向との関係によって、ワーク4の位置姿勢を求める際の計測誤差への影響が変化する。従って、ワーク4を撮像してパターン画像を取得する際に、基線方向を輝度むらの周期方向に直交させることで、ワーク4の位置姿勢を高精度に計測することが可能となる。
ここで、輝度むらの周期方向を決定(取得)する手法について説明する。ワーク4が樹脂の筐体を含む場合、一般的に、ワーク4の種類ごとに、その表面の形状むらの特性が似ている。これは、射出成型時の金型や成型プロセスが同一であるからである。従って、ワーク4の種類ごとに、輝度むらの周期方向を決定することが可能である。
まず、ワーク4の種類ごとに輝度むらを求める。具体的には、ワーク4を均一に照明した状態でワーク4を撮像して画像を取得する。この際、ワーク4の位置姿勢の実計測で生じる輝度むらを考えると、ワーク4に対する照明方位及び撮像方位は、ワーク4に対するパターン光の投影方位と一致させるとよい。例えば、計測装置100Aにおいて、投影部1(の光路)からマスク9を取り外し、投影部1によってワーク4を均一に照明した状態で、かかるワーク4を撮像部2で撮像して画像を取得する。そして、処理部3において、かかる画像に対応する画像データを周波数解析することで、輝度むらの周期性が高い方向、即ち、周期方向を決定する。但し、このような輝度むらの周期方向を決定するための処理は、計測装置100Aで行う必要はなく、その一部又は全部を外部の計測装置や情報処理装置を用いて行ってもよい。このようにして取得された輝度むらの周期方向は、ワーク4の種類ごとに、輝度むらに関する輝度情報として、処理部3のメモリ11などの記憶部に記憶される。
図6(a)及び図6(b)は、均一に照明されたワーク4を撮像して取得された画像に対応する画像データを周波数解析した結果を示す図である。図6(a)は、均一に照明されたワーク4を撮像して取得された画像に対応する画像データに対して、2次元FFT処理を施すことで得られる各周波数の強度分布を示している。図6(a)では、X方向の周波数を横軸に採用し、Y方向の周波数を縦軸に採用している。図6(b)は、方位方向を横軸に採用し、方位方向ごとに積和した値を縦軸に採用して、図6(a)に示す強度分布をプロットしたグラフを示している。ここでは、方位方向は、各方位に対して±5度の範囲の値を積和しているが、これに限定されるものではない。図6(b)を参照するに、90度の方位方向にピークが現れているため、ワーク4に起因する輝度むらは、90度の方向に強い周期性を有していることがわかる。
計測装置100Aにおける計測処理、即ち、ワーク4の位置姿勢を計測する処理について説明する。まず、第1計測として、ワーク4に対する基線方向が任意である状態において、撮像部2で取得された画像に基づいて、ワーク4の位置姿勢(に関する第1情報)を求める。具体的には、投影部1及び撮像部2を任意の位置姿勢とし、即ち、ワーク4に起因する輝度むらの周期方向を考慮せずに、投影部1によってパターン光をワーク4に投影し、かかるワーク4を撮像部2で撮像してパターン画像を取得する。そして、処理部3において、かかるパターン画像から距離画像を求め、距離画像をモデルフィッティングすることでワーク4の位置姿勢を求める。但し、第1計測では、輝度むらの周期方向と基線方向との関係を規定して距離画像を求めていないため、第1計測で求められるワーク4の位置姿勢の精度を保障することができない。
次いで、第1計測で求められたワーク4の位置姿勢と、メモリ11に記憶された輝度情報、即ち、輝度むらの周期方向と、予め決定されている第2計測時の計測装置100Aの位置姿勢情報とに基づいて、ワーク4に対する基線方向を決定する。具体的には、処理部3において、輝度むらの周期方向と基線方向とが予め設定した関係、詳細には、直交するように、ワーク4に対する基線方向を決定する。また、処理部3は、決定したワーク4に対する基線方向となるように投影部1及び撮像部2の位置姿勢を制御するための制御情報を生成して、把持装置300の制御部330に出力する。このように、処理部3は、輝度情報に基づいて、ワーク4に対する基線方向を決定する決定部として機能するとともに、投影部1及び撮像部2の位置姿勢を制御するための制御情報を出力する出力部としても機能する。
次に、第2計測として、輝度むらの周期方向と基線方向とが直交する状態において、撮像部2で取得された画像に基づいて、ワーク4の位置姿勢(に関する第2情報)を求める。具体的には、把持装置300において、制御部330が処理部3から出力された制御情報に基づいて駆動部320を制御することで、ワーク4に対する基線方向を、第1計測の状態から輝度むらの周期方向と基線方向とが直交する状態に変更する。このように、輝度むらの周期方向と基線方向とが直交する状態において、投影部1によってパターン光をワーク4に投影し、かかるワーク4を撮像部2で撮像してパターン画像を取得する。そして、処理部3において、かかるパターン画像から距離画像を求め、距離画像をモデルフィッティングすることでワーク4の位置姿勢を求める。第2計測では、輝度むらの周期方向と基線方向との関係を規定して距離画像を求めているため、第2計測で求められるワーク4の位置姿勢の精度を保障することができる。
このように、本実施形態の計測装置100Aでは、輝度むらの周期方向と基線方向とが直交するようにワーク4に対する基線方向を規定し、その状態で取得されたパターン画像(距離画像)からワーク4の位置姿勢を求めている。従って、計測装置100Aは、パターン画像におけるパターンの歪みを低減し、ワーク4の位置姿勢を高精度に求めることができる。
<第2の実施形態>
図7は、把持システムGSにおける計測装置100として適用される計測装置100Bの構成を示す概略図である。計測装置100Bは、図7に示すように、投影部1と、撮像部202と、処理部203と、照明部205とを有する。計測装置100Bは、距離画像計測部と濃淡画像計測部とによって距離画像と濃淡画像とを同時に取得し、距離画像及び濃淡画像の2つの画像を利用してモデルフィッティングすることによって、ワーク4の位置姿勢を計測する装置である。
また、図示してはいないが、投影部1、撮像部202及び照明部205とは、一体化されて筐体に収容され、支持部110を介して把持装置300(駆動部320)に支持されている。計測装置100Bと把持装置300との姿勢関係は、キャリブレーションによって予め保障されている。
計測装置100Bにおいて、距離画像を取得するための距離画像計測部ついては、第1の実施形態(計測装置100A)と同様であるため、ここでの詳細な説明は省略する。撮像部202は、第1の実施形態と比較して、パターン画像用の光と濃淡画像用の光とを分離する波長分離素子27を更に含む。また、撮像部202は、撮像素子6の代わりに、パターン画像を取得するための撮像素子6Aと、濃淡画像を取得するための撮像素子6Bとを含む。
計測装置100Bの主要部である濃淡画像を取得するための濃淡画像計測部について説明する。濃淡画像とは、均一に照明されたワーク4を撮像して得られるグレースケール画像である。本実施形態では、濃淡画像からワーク4の輪郭や稜線に対応するエッジを求め、エッジを画像特徴としてワーク4の位置姿勢を求める際に用いる。濃淡画像計測部は、撮像部202、処理部203及び照明部205によって構成される。照明部205は、投影部1からのパターン光の波長とは異なる波長の光でワーク4を均一に照明する。撮像部202は、照明部205によって均一に照明されたワーク4を撮像して濃淡画像を取得する。
照明部205は、複数の光源21を含み、本実施形態では、リング照明を実現するために、複数の光源21をリング状に配列して構成されている。照明部205は、リング照明によって、ワーク4に影が発生しないように、ワーク4を均一に照明する。但し、ワーク4を均一に照明するための照明方式は、リング照明に限定されるものではなく、同軸落射照明やドーム照明などであってもよい。
処理部203は、撮像部202で取得された濃淡画像にエッジ検出処理を施してワーク4のエッジ(エッジ画像)を求める。エッジ検出処理のアルゴリズムとしては、Canny法やその他の様々な方法がある。
第1の実施形態では、ワーク4の形状むら(反射特性)に起因する輝度むらの周期方向を予め取得して記憶部に記憶している。一方、本実施形態では、ワーク4の位置姿勢を計測するために取得した濃淡画像から輝度むらの周期情報を取得する。
計測装置100Bにおける計測処理、即ち、ワーク4の位置姿勢を計測する処理について説明する。まず、第1計測として、ワーク4に対する基線方向が任意である状態において、撮像部202で取得された距離画像(第1画像)及び濃淡画像(第2画像)に基づいて、ワーク4の位置姿勢(に関する第1情報)を求める。具体的には、投影部1及び撮像部202を任意の位置姿勢とし、即ち、ワーク4に起因する輝度むらの周期方向を考慮せずに、投影部1によってパターン光をワーク4に投影するとともに、照明部205によってワーク4を均一に照明する。かかる状態において、ワーク4を撮像部202で撮像してパターン画像及び濃淡画像を取得する。そして、処理部203において、パターン画像から距離画像を、濃淡画像からエッジ画像を求め、距離画像及びエッジ画像をモデルフィッティングすることでワーク4の位置姿勢を求める。但し、第1計測では、輝度むらの周期方向と基線方向との関係を規定して距離画像を求めていないため、第1計測で求められるワーク4の位置姿勢の精度を保障することができない。
次いで、処理部203において、濃淡画像に対応する画像データを周波数解析することで輝度むらの周期方向を決定(取得)する。ここで、濃淡画像から輝度むらの周期方向を決定するプロセスは、第1の実施形態と同様である。
次に、処理部203は、第1計測で求められたワーク4の位置姿勢と、濃淡画像から取得された輝度情報、即ち、輝度むらの周期方向と、予め決定されている第2計測時の計測装置100Bの位置姿勢情報とに基づいて、ワーク4に対する基線方向を決定する。具体的には、処理部203において、輝度むらの周期方向と基線方向とが予め設定した関係、詳細には、直交するように、ワーク4に対する基線方向を決定する。また、処理部203は、決定したワーク4に対する基線方向となるように投影部1及び撮像部202の位置姿勢を制御するための制御情報を生成して、把持装置300の制御部330に出力する。
次に、第2計測として、輝度むらの周期方向と基線方向とが直交する状態において、撮像部202で取得された画像に基づいて、ワーク4の位置姿勢(に関する第2情報)を求める。具体的には、把持装置300において、制御部330が処理部203から出力された制御情報に基づいて駆動部320を制御することで、ワーク4に対する基線方向を、第1計測の状態から輝度むらの周期方向と基線方向とが直交する状態に変更する。このように、輝度むらの周期方向と基線方向とが直交する状態において、投影部1によってパターン光をワーク4に投影するとともに、照明部205によってワーク4を均一に照明する。かかる状態において、ワーク4を撮像部202で撮像してパターン画像及び濃淡画像を取得する。そして、処理部203において、パターン画像から距離画像を、濃淡画像からエッジ画像を求め、距離画像及びエッジ画像をモデルフィッティングすることでワーク4の位置姿勢を求める。第2計測では、輝度むらの周期方向と基線方向との関係を規定して距離画像及び濃淡画像を求めているため、第2計測で求められるワーク4の位置姿勢の精度を保障することができる。
このように、本実施形態の計測装置100Bでは、輝度むらの周期方向と基線方向とが直交するようにワーク4に対する基線方向を規定し、その状態で取得されたパターン画像(距離画像)及び濃淡画像からワーク4の位置姿勢を求めている。従って、計測装置100Bは、パターン画像におけるパターンの歪みを低減し、ワーク4の位置姿勢を高精度に求めることができる。
また、把持システムGSにおいては、計測装置100が最終的な計測位置に位置するまでに、駆動部320による移動動作がある。計測装置100では、従来技術ように、輝度むらを補正するために複数の画像を取得する必要がないため、駆動部320による移動動作中に、ワーク4を計測することが可能である。従って、駆動部320の移動動作中に上述した第1計測を行い、最終的な計測位置での計測、即ち、第2計測における輝度むらの周期方向と基線方向との関係を規定するとよい。これにより、全体的なタクトに影響を与えることなく、ワーク4の位置姿勢を高精度に計測することが可能となる。
また、上述した実施形態では、計測装置100Aの処理部3や計測装置100Bの処理部203において、投影部1及び撮像部2又は202の位置姿勢を制御するための制御情報を生成しているが、これに限定されるものではない。例えば、把持装置300の制御部330において、投影部1及び撮像部2又は202の位置姿勢を制御するための制御情報を生成することも可能である。この場合、計測装置100A又は100Bは、第1計測で求められたワーク4の位置姿勢、及び、メモリ11に記憶された輝度情報又は濃淡画像から取得された輝度情報を、把持装置300の制御部330に出力する。そして、把持装置300の制御部330は、第1計測で求められたワーク4の位置姿勢と、輝度情報と、予め決定されている第2計測時の計測装置100A又は100Bの位置姿勢情報とに基づいて、ワーク4に対する基線方向を決定する。そして、制御部330は、決定したワーク4に対する基線方向となるように投影部1及び撮像部2の位置姿勢を制御するための制御情報を生成し、かかる制御情報に基づいて駆動部320を制御する。
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
以上、本発明の好ましい実施形態について説明したが、本発明はこれらの実施形態に限定されないことはいうまでもなく、その要旨の範囲内で種々の変形及び変更が可能である。
100、100A、100B:計測装置 1:投影部 2:撮像部 3:処理部 4:ワーク

Claims (12)

  1. パターン光が投影されたワークを撮像して取得される画像を用いて前記ワークの位置及び姿勢の少なくとも一方を計測する計測装置であって、
    前記パターン光を前記ワークに投影する投影部と、
    前記パターン光が投影された前記ワークを撮像して画像を取得する撮像部と、
    前記ワークに起因して前記撮像部で取得される画像に生じる輝度むらに関する輝度情報に基づいて、前記ワークに対する、前記投影部の光軸と前記撮像部の光軸との相対的な傾き方向で規定される基線方向を決定する決定部と、
    前記決定部で決定された前記ワークに対する基線方向となるように前記投影部及び前記撮像部の位置及び姿勢の少なくとも一方を制御するための制御情報を出力する出力部と、
    を有することを特徴とする計測装置。
  2. 前記投影部及び前記撮像部を、前記投影部及び前記撮像部の位置及び姿勢の少なくとも一方を変更する外部装置に支持させる支持部を更に有し、
    前記出力部は、前記外部装置に前記制御情報を出力し、
    前記外部装置は、前記制御情報に基づいて、前記投影部及び前記撮像部の位置及び姿勢の少なくとも一方を変更することを特徴とする請求項1に記載の計測装置。
  3. 前記投影部及び前記撮像部の位置及び姿勢の少なくとも一方を変更する変更部と、
    前記出力部から出力された前記制御情報に基づいて、前記変更部を制御する制御部と、
    を更に有することを特徴とする請求項1に記載の計測装置。
  4. 前記決定部は、前記輝度むらの周期方向と前記基線方向とが直交するように、前記ワークに対する基線方向を決定することを特徴とする請求項1乃至3のうちいずれか1項に記載の計測装置。
  5. 前記画像に基づいて、前記ワークの位置及び姿勢の少なくとも一方に関する情報を求める処理を行う処理部を更に有し、
    前記処理部は、前記ワークに対する基線方向が任意である状態において前記撮像部で取得された画像に基づいて、前記ワークの位置及び姿勢の少なくとも一方に関する第1情報を求め、
    前記決定部は、前記輝度情報と前記第1情報とに基づいて、前記ワークに対する基線方向を決定し、
    前記処理部は、前記ワークに対する基線方向が前記状態から前記決定部で決定された前記ワークに対する基線方向に変更された状態において前記撮像部で取得された画像に基づいて、前記ワークの位置及び姿勢の少なくとも一方に関する第2情報を求めることを特徴とする請求項1乃至4のうちいずれか1項に記載の計測装置。
  6. 前記輝度情報を記憶する記憶部を更に有し、
    前記決定部は、前記記憶部に記憶されている前記輝度情報を取得することを特徴とする請求項1乃至5のうちいずれか1項に記載の計測装置。
  7. 前記パターン光の波長とは異なる波長の光で前記ワークを均一に照明する照明部を更に有し、
    前記撮像部は、前記パターン光が投影された前記ワークを撮像して第1画像を取得するとともに、前記照明部によって照明された前記ワークを撮像して第2画像を取得し、
    前記決定部は、前記第2画像に対応する画像データを周波数解析することで前記輝度情報を取得することを特徴とする請求項1乃至4のうちいずれか1項に記載の計測装置。
  8. 前記第1画像及び前記第2画像に基づいて、前記ワークの位置及び姿勢の少なくとも一方に関する情報を求める処理を行う処理部を更に有し、
    前記処理部は、前記ワークに対する基線方向が任意である状態において前記撮像部で取得された前記第1画像及び前記第2画像に基づいて、前記ワークの位置及び姿勢の少なくとも一方に関する第1情報を求め、
    前記決定部は、前記第1情報と、前記第2画像とに基づいて、前記ワークに対する基線方向を決定し、
    前記処理部は、前記ワークに対する基線方向が前記状態から前記決定部で決定された前記ワークに対する基線方向に変更された状態において前記撮像部で取得された前記第1画像及び前記第2画像に基づいて、前記ワークの位置及び姿勢の少なくとも一方に関する第2情報を求めることを特徴とする請求項7に記載の計測装置。
  9. パターン光が投影されたワークを撮像して取得される画像を用いて前記ワークの位置及び姿勢の少なくとも一方を計測する計測装置と、前記計測装置で計測された前記ワークの位置及び姿勢の少なくとも一方に基づいて、前記ワークを把持する把持装置とを備えたシステムであって、
    前記計測装置は、
    前記パターン光を前記ワークに投影する投影部と、
    前記パターン光が投影された前記ワークを撮像して画像を取得する撮像部と、
    前記ワークに起因して前記撮像部で取得される画像に生じる輝度むらに関する輝度情報に基づいて、前記ワークに対する、前記投影部の光軸と前記撮像部の光軸との相対的な傾き方向で規定される基線方向を決定する決定部と、
    前記決定部で決定された前記ワークに対する基線方向となるように前記投影部及び前記撮像部の位置及び姿勢の少なくとも一方を制御するための制御情報を前記把持装置に出力する出力部と、
    を有し、
    前記把持装置は、
    前記投影部及び前記撮像部を支持し、前記投影部及び前記撮像部の位置及び姿勢の少なくとも一方を変更する変更部と、
    前記出力部から出力された前記制御情報に基づいて、前記変更部を制御する制御部と、
    を有することを特徴とするシステム。
  10. パターン光をワークに投影する投影部と、前記パターン光が投影された前記ワークを撮像して画像を取得する撮像部とを備える計測装置を用いて、前記ワークの位置及び姿勢の少なくとも一方を計測する計測方法であって、
    前記ワークに対する、前記投影部の光軸と前記撮像部との光軸との相対的な傾き方向で規定される基線方向が任意である状態において前記撮像部で取得された画像に基づいて、前記ワークの位置及び姿勢の少なくとも一方に関する第1情報を求める工程と、
    前記ワークに起因して前記撮像部で取得される画像に生じる輝度むらに関する輝度情報と、前記第1情報とに基づいて、前記ワークに対する基線方向を決定する工程と、
    前記ワークに対する基線方向を前記状態から前記決定された前記ワークに対する基線方向に変更して前記撮像部で取得された画像に基づいて、前記ワークの位置及び姿勢の少なくとも一方に関する第2情報を求める工程と、
    を有することを特徴とする計測方法。
  11. パターン光をワークに投影する投影部と、前記パターン光が投影された前記ワークを撮像して画像を取得する撮像部とを備える計測装置における、前記ワークに対する、前記投影部の光軸と前記撮像部との光軸との相対的な傾き方向で規定される基線方向を決定する決定方法であって、
    前記ワークに起因して前記撮像部で取得される画像に生じる輝度むらに関する輝度情報を取得する工程と、
    前記輝度情報に基づいて、前記ワークに対する前記基線方向を決定する工程と、
    を有することを特徴とする決定方法。
  12. 請求項11に記載の決定方法の各工程をコンピュータに実行させるためのプログラム。
JP2015244394A 2015-12-15 2015-12-15 計測装置、システム、計測方法、決定方法及びプログラム Pending JP2017110975A (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2015244394A JP2017110975A (ja) 2015-12-15 2015-12-15 計測装置、システム、計測方法、決定方法及びプログラム
US15/371,538 US10068350B2 (en) 2015-12-15 2016-12-07 Measurement apparatus, system, measurement method, determination method, and non-transitory computer-readable storage medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015244394A JP2017110975A (ja) 2015-12-15 2015-12-15 計測装置、システム、計測方法、決定方法及びプログラム

Publications (2)

Publication Number Publication Date
JP2017110975A true JP2017110975A (ja) 2017-06-22
JP2017110975A5 JP2017110975A5 (ja) 2019-01-10

Family

ID=59020673

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015244394A Pending JP2017110975A (ja) 2015-12-15 2015-12-15 計測装置、システム、計測方法、決定方法及びプログラム

Country Status (2)

Country Link
US (1) US10068350B2 (ja)
JP (1) JP2017110975A (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020008434A (ja) * 2018-07-09 2020-01-16 オムロン株式会社 3次元測定装置及び方法

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2023167616A (ja) * 2022-05-12 2023-11-24 日本電気株式会社 情報処理装置、情報処理方法及びプログラム

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006177781A (ja) * 2004-12-22 2006-07-06 Matsushita Electric Works Ltd 3次元形状計測方法並びに3次元形状計測装置、3次元形状計測用プログラム
JP2014126381A (ja) * 2012-12-25 2014-07-07 Nikon Corp 形状測定装置、構造物製造システム、形状測定方法、構造物製造方法、及び形状測定プログラム
JP2015090560A (ja) * 2013-11-05 2015-05-11 キヤノン株式会社 画像処理装置、画像処理方法
JP2015206654A (ja) * 2014-04-18 2015-11-19 キヤノン株式会社 情報処理装置、情報処理方法、プログラム

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH03289505A (ja) 1990-04-06 1991-12-19 Nippondenso Co Ltd 3次元形状測定装置
JP3312849B2 (ja) 1996-06-25 2002-08-12 松下電工株式会社 物体表面の欠陥検出方法
JP2007108002A (ja) 2005-10-13 2007-04-26 Moritex Corp 光切断法を用いた三次元形状計測装置及び三次元形状計測方法
JPWO2008105460A1 (ja) * 2007-02-28 2010-06-03 株式会社ニコン 観察方法、検査装置および検査方法
JP5252820B2 (ja) 2007-03-27 2013-07-31 パナソニック株式会社 3次元計測方法及びそれを用いた3次元形状計測装置
JP5084398B2 (ja) * 2007-08-24 2012-11-28 キヤノン株式会社 測定装置、測定方法、及び、プログラム
JP4836086B2 (ja) 2007-09-10 2011-12-14 三菱電機株式会社 3次元形状検出装置
US9179106B2 (en) * 2009-12-28 2015-11-03 Canon Kabushiki Kaisha Measurement system, image correction method, and computer program
DE112015001042T5 (de) * 2014-02-27 2016-12-29 Mitsubishi Electric Corporation Lichtquellenvorrichtung
EP3244162B1 (en) * 2015-01-06 2019-09-25 NTT Advanced Technology Corporation Surveying instrument
JP2016170122A (ja) * 2015-03-13 2016-09-23 キヤノン株式会社 計測装置
JP6552230B2 (ja) * 2015-03-18 2019-07-31 キヤノン株式会社 計測装置
JP6695746B2 (ja) * 2016-06-27 2020-05-20 株式会社キーエンス 測定装置
JP6691837B2 (ja) * 2016-06-27 2020-05-13 株式会社キーエンス 測定装置
JP6691838B2 (ja) * 2016-06-27 2020-05-13 株式会社キーエンス 測定装置
JP2018051704A (ja) * 2016-09-29 2018-04-05 セイコーエプソン株式会社 ロボット制御装置、ロボット、及びロボットシステム

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006177781A (ja) * 2004-12-22 2006-07-06 Matsushita Electric Works Ltd 3次元形状計測方法並びに3次元形状計測装置、3次元形状計測用プログラム
JP2014126381A (ja) * 2012-12-25 2014-07-07 Nikon Corp 形状測定装置、構造物製造システム、形状測定方法、構造物製造方法、及び形状測定プログラム
JP2015090560A (ja) * 2013-11-05 2015-05-11 キヤノン株式会社 画像処理装置、画像処理方法
JP2015206654A (ja) * 2014-04-18 2015-11-19 キヤノン株式会社 情報処理装置、情報処理方法、プログラム

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2020008434A (ja) * 2018-07-09 2020-01-16 オムロン株式会社 3次元測定装置及び方法

Also Published As

Publication number Publication date
US10068350B2 (en) 2018-09-04
US20170169581A1 (en) 2017-06-15

Similar Documents

Publication Publication Date Title
KR102473547B1 (ko) 부품의 실장 상태를 검사하기 위한 방법, 인쇄 회로 기판 검사 장치 및 컴퓨터 판독 가능한 기록매체
KR20220098699A (ko) 로봇 모션 용 비전 시스템의 자동 핸드-아이 캘리브레이션을 위한 시스템 및 방법
JP6520451B2 (ja) 外観撮影装置及び外観撮影方法
JP6532325B2 (ja) 被計測物の形状を計測する計測装置
US20130011018A1 (en) Information processing apparatus and information processing method
JP6869159B2 (ja) ロボットシステム
JP7180783B2 (ja) コンピュータビジョンシステムのキャリブレーション方法及びこれに用いる基準立体物
US20200278197A1 (en) Measurement apparatus, measurement method, system, storage medium, and information processing apparatus
US20190392607A1 (en) Image processing apparatus, system, image processing method, article manufacturing method, and non-transitory computer-readable storage medium
US20190287258A1 (en) Control Apparatus, Robot System, And Method Of Detecting Object
US11126844B2 (en) Control apparatus, robot system, and method of detecting object
KR20130075712A (ko) 레이저비전 센서 및 그 보정방법
US20240157568A1 (en) System for welding at least a portion of a piece and related methods
US9560250B2 (en) Information processing apparatus, measurement system, control system, light amount determination method and storage medium
JP2019089172A (ja) ロボットシステム及びロボット制御方法
US20170255181A1 (en) Measurement apparatus, system, measurement method, and article manufacturing method
JP6180158B2 (ja) 位置姿勢計測装置、位置姿勢計測装置の制御方法、およびプログラム
JP5136108B2 (ja) 三次元形状計測方法および三次元形状計測装置
JP7598115B2 (ja) 自動カメラキャリブレーションを実施する方法及びシステム
So et al. Calibration of a dual-laser triangulation system for assembly line completeness inspection
JP2017110975A (ja) 計測装置、システム、計測方法、決定方法及びプログラム
JP2018189459A (ja) 計測装置、計測方法、システム、および物品製造方法
JPH0820207B2 (ja) 光学式3次元位置計測方法
JP2018044863A (ja) 計測装置、計測方法、システム及び物品の製造方法
JP2020193946A (ja) 光学装置及び把持システム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20181121

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20181121

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190906

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20191025

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20200424