JP7542779B2 - 脈波推定装置及び脈波推定方法 - Google Patents
脈波推定装置及び脈波推定方法 Download PDFInfo
- Publication number
- JP7542779B2 JP7542779B2 JP2024519158A JP2024519158A JP7542779B2 JP 7542779 B2 JP7542779 B2 JP 7542779B2 JP 2024519158 A JP2024519158 A JP 2024519158A JP 2024519158 A JP2024519158 A JP 2024519158A JP 7542779 B2 JP7542779 B2 JP 7542779B2
- Authority
- JP
- Japan
- Prior art keywords
- pulse wave
- source signal
- unit
- wave source
- measurement
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/02—Detecting, measuring or recording for evaluating the cardiovascular system, e.g. pulse, heart rate, blood pressure or blood flow
- A61B5/024—Measuring pulse rate or heart rate
- A61B5/02416—Measuring pulse rate or heart rate using photoplethysmograph signals, e.g. generated by infrared radiation
Landscapes
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Cardiology (AREA)
- Biomedical Technology (AREA)
- Medical Informatics (AREA)
- Biophysics (AREA)
- Pathology (AREA)
- Engineering & Computer Science (AREA)
- Physiology (AREA)
- Heart & Thoracic Surgery (AREA)
- Physics & Mathematics (AREA)
- Molecular Biology (AREA)
- Surgery (AREA)
- Animal Behavior & Ethology (AREA)
- General Health & Medical Sciences (AREA)
- Public Health (AREA)
- Veterinary Medicine (AREA)
- Measuring Pulse, Heart Rate, Blood Pressure Or Blood Flow (AREA)
Description
従来技術では、複数の計測領域から抽出される輝度信号に位相差が生じる場合、当該位相差が生じている輝度信号に基づく人の脈波の推定を行えない可能性があるという課題があった。
実施の形態1.
図1は、実施の形態1に係る脈波推定装置1の構成例を示す図である。
脈波推定装置1は、予め定められたフレームレートFrで、少なくとも、被験者の肌を含む領域である肌領域が存在すべき範囲(以下「肌存在範囲」という。)を撮像した、一連のフレームIm(k)からなる撮像画像を取得する。ここで、kは、それぞれフレームに割り当てられるフレーム番号を示す。例えば、フレームIm(k)の次のタイミングで与えられるフレームは、フレームIm(k+1)である。
実施の形態1では、肌領域は、被験者の顔に対応する領域とする。なお、これは一例に過ぎず、肌領域は、被験者の顔以外の領域であってもよい。例えば、肌領域は、被験者の目、眉、鼻、口、おでこ、頬、又は、顎のような、顔に属する部位、に対応する領域であってもよい。また、肌領域は、被験者の頭、肩、手、首、又は、足のような、顔以外の身体部位、に対応する領域であってもよい。肌領域は、例えば、頬に対応する肌領域、額に対応する肌領域、又は、首に対応する肌領域のように複数の領域であってもよい。
図2において、図上左側は、被験者が撮像された撮像画像における肌領域を示す図である。図2において、被験者は「H」で示し、肌領域は「sr」で示している。肌領域には、4つの計測領域が設定されたものとしている。図2において、4つの計測領域を「R1」、「R2」、「R3」、及び、「R4」で示している。なお、肌領域の検出方法、及び、計測領域の設定方法の詳細は、後述する。
図上右側は、「R1」で示す計測領域から抽出された輝度信号で示される輝度値を時間軸で示す図(図2において22で示す)、及び、「R3」で示す計測領域から抽出された輝度信号で示される輝度値を時間軸で示す図(図2において21で示す)である。
被験者の血液は、心臓から送り出され、首から額へと流れる。したがって、「R1」で示す計測領域と「R3」で示す計測領域のように、血流の方向における計測領域間の距離が大きいと、言い換えれば、計測領域間の心臓からの距離の差が大きいと、計測領域から抽出される輝度信号に位相差が生じる。
複数の計測領域から抽出された複数の輝度信号の間で位相差が生じていた場合、仮に、計測領域毎の脈波元信号に対してICA又はPCA等の一般的な信号分離技術を用いた脈波成分の分離が行われたとすると、当該脈波成分の分離は、失敗におわる。
実施の形態1に係る脈波推定装置1は、上述したような位相差が生じることを考慮し、複数の脈波元信号セグメントを生成し、生成した複数の脈波元信号セグメントに対してICA又はPCA等の一般的な信号分離技術を用いた脈波成分の分離を行うことで、複数の計測領域から抽出された複数の輝度信号の間で位相差が生じていたとしても、当該位相差を吸収して、被験者の脈波を推定可能とする。
脈波推定装置1は、車両に搭載されている撮像装置3と接続される。撮像装置3は、被験者、ここでは、ドライバの肌存在範囲を撮像可能に設置されている。撮像装置3は、例えば、車両内のドライバの状態を監視するために車両に搭載される、いわゆる「ドライバーモニタリングシステム(Driver Monitoring System,DMS)」が有する撮像装置と共用のものであってもよい。
撮像画像取得部11は、取得した撮像画像を、肌領域検出部12に出力する。
肌領域検出部12は、検出した肌領域を示す肌領域情報S(k)を生成する。
肌領域情報S(k)は、肌領域の検出の有無を示す情報と、検出された肌領域の撮像画像上における位置及びサイズを示す情報とを含むことができる。実施の形態1では、肌領域は撮像画像上の矩形領域であらわされるものとし、肌領域情報S(k)は、当該矩形領域の撮像画像上における位置及びサイズを示す情報を含むものとする。
具体的には、肌領域が被験者の顔に対応する領域である場合、肌領域情報S(k)は、例えば、被験者の顔の検出の有無と、撮像画像上で当該被験者の顔を囲む矩形の中心座標Fc(Fcx,Fcy)と、この矩形の幅Fcw及び高さFchとを示す。被験者の顔の検出の有無は、例えば、検出できた場合は「1」、検出できなかった場合は「0」であらわされる。また、顔を囲む矩形の中心座標は、フレームIm(k)の座標系で表現される。
なお、肌領域検出部12は、複数の肌領域を検出することもできる。
肌領域検出部12は、生成した肌領域情報S(k)を、計測領域設定部13に出力する。
計測領域設定部13は、複数の計測領域を設定すると、設定した複数の計測領域を示す計測領域情報R(k)を生成する。計測領域情報R(k)は、N(2以上の整数)個の計測領域の撮像画像上における位置及びサイズを示す情報を含む。各計測領域は、計測領域ri(k)(i=2,・・・,N)とする。実施の形態1では、計測領域ri(k)は、四辺形とし、計測領域ri(k)の位置及びサイズは、撮像画像上における、四辺形の4つの頂点の座標値とする。
図3を用いて、計測領域設定部13が複数の計測領域ri(k)を設定する方法の一例について説明する。
まず、図3A及び図3Bに示されているように、計測領域設定部13は、肌領域情報S(k)で示されている肌領域srにおいて、目尻、目頭、鼻及び口等の顔器官のランドマークをLn(正の整数)個検出する。図3A及び図3Bでは、ランドマークは丸で示されている。計測領域設定部13は、検出したランドマークの座標値を格納したベクトルをL(k)とする。
なお、計測領域設定部13は、Constrained Local Model(CLM)と呼ばれるモデルを用いる等、公知の手段を用いて顔器官を検出すればよい。
そして、計測領域設定部13は、ランドマークLA1とランドマークLA2との間の線分を4等分するように補助ランドマークa1、a2、a3を設定する。
同様に、計測領域設定部13は、顔の輪郭のランドマークLB1と、鼻のランドマークLB2とを選択する。また、計測領域設定部13は、ランドマークLB1とランドマークLB2との間の線分を4等分するように補助ランドマークb1、b2、b3を設定する。なお、ランドマークLB1、LB2は、それぞれ、例えば、ランドマークLA1、LA2に隣接する顔の輪郭又は鼻のランドマークから選択されればよい。
計測領域設定部13は、補助ランドマークa1、b1、b2、a2で囲まれる四辺形領域を一つの計測領域R5として設定する。補助ランドマークa1、b1、b2、a2は、それぞれ、計測領域R5に対応する頂点座標となる。
計測領域設定部13は、同様に、補助ランドマークa2、b2、b3、a3で囲まれる一つの計測領域R6及び当該計測領域R6の頂点座標を設定する。
脈波元信号抽出部14は、撮像画像取得部11が取得した撮像画像を、肌領域検出部12及び計測領域設定部13を介して取得すればよい。
脈波元信号抽出部14は、脈波元信号を抽出すると、抽出した脈波元信号を示す脈波元信号情報W(t)を生成する。
脈波元信号wi(t)を抽出するにあたっては、脈波元信号抽出部14は、撮像画像の各フレームIm(k)に対して、1つ前のフレームIm(k-1)との、各計測領域ri(k)の輝度特徴量の差分Gi(j)(j=k-Tp+1,k-Tp+2,・・・,k)を算出する。輝度特徴量は、各計測領域ri(j)に対し、撮像画像のフレームIm(j)上の輝度値に基づいて算出される値である。輝度特徴量は、計測領域ri(j)内に含まれる画素の輝度値の平均又は分散等である。実施の形態1では、一例として、輝度特徴量は、計測領域ri(j)に含まれる画素の輝度値の平均とする。
脈波元信号抽出部14は、第1期間に取得された撮像画像の各フレームIm(k)に対し算出したGi(j)を時系列に並べて脈波元信号wi(t)とする。すなわち、脈波元信号抽出部14は、脈波元信号wi(t)=[Gi(k-Tp+1),Gi(k-Tp+2),・・・,Gi(k)]とする。
脈波元信号抽出部14は、生成した脈波元信号情報W(t)を、セグメント生成部15に出力する。
セグメント生成用条件には、例えば、以下の(1)~(5)のような条件が設定されている。セグメント生成部15は、(1)~(5)の全てを満たすよう、複数の脈波元信号セグメントを生成する。
(1)第2期間は第1期間よりも短い期間であること
(2)ある計測領域における複数の脈波元信号セグメントについて、ある脈波元信号セグメントは他の脈波元信号セグメントと時間軸上で互いに完全に一致しない信号であること
(3)ある計測領域における複数の脈波元信号セグメントについて、ある脈波元信号セグメントは他の脈波元信号セグメントと時間軸上で部分的に重なる信号であること
(4)各計測領域において、ある脈波元信号セグメントが他の脈波元信号セグメントと時間軸上で部分的に重なる長さは同じであること
(5)各計測領域における複数の脈波元信号セグメントの時間軸上の長さは互いに同じであること
図4上、左の図は、計測領域ri(k)が設定された肌領域srを示す図(以下「肌領域図」という。)である。肌領域図において、被験者は「H」で示している。肌領域図に示すように、今、肌領域srには、4つの計測領域ri(k)が設定されたとする。具体的には、被験者の顎部分に2つの計測領域ri(k)(肌領域図上、「n1」及び「n2」で示す)と、被験者の額部分に2つの計測領域ri(k)(肌領域図上、「f1」及び「f2」で示す)が設定されたとする。以下の説明において、「n1」で示す計測領域ri(k)を「第1計測領域」、「n2」で示す計測領域ri(k)を「第2計測領域」、「f1」で示す計測領域ri(k)を「第3計測領域」、「f2」で示す計測領域ri(k)を「第4計測領域」という。
セグメント生成図上、上は、セグメント生成部15が第1計測領域から抽出された脈波元信号wi(t)(セグメント生成図上「401」で示す)から第2期間分の脈波元信号wi(t)を部分的に抽出して生成した、第1計測領域に対する複数の脈波元信号セグメント(=p1-1,p1-2,p1-3,p1-4,p1-5,・・・,p1-M)の一例を示し、下は、セグメント生成部15が第3計測領域から抽出された脈波元信号wi(t)(セグメント生成図上「402」で示す)から第2期間分の脈波元信号wi(t)を部分的に抽出して生成した、第3計測領域に対する複数の脈波元信号セグメント(=p3-1,p3-2,p3-3,p3-4,p1-5,・・・,p3-M)の一例を示す。
セグメント生成部15は、計測領域ri(k)毎に、1回の脈波推定を行う期間である第1期間に対して、セグメント生成用条件に従って、第1期間における脈波元信号wi(t)のうちから第2期間分の脈波元信号wi(t)を部分的に抽出したM(Mは2以上の整数)個の脈波元信号セグメントを生成する。
図4では、計測領域ri(k)は4つとしているので、セグメント生成部15は、各計測領域ri(k)に対してM個の脈波元信号セグメントを生成すると、M×4行の軌跡行列(=[p1-1,p1-2,p1-3,p1-4,p1-5,・・・,p1-M],・・・,[p4-1,p4-2,p4-3,p4-4,p4-5,・・・,p4-M])をスタックする(図4上、右の図参照)。
詳細には、まず、信号分離部161が、複数の脈波元信号セグメントに基づいて複数の信号成分(以下「主成分」という。)を示す信号(以下「分離信号」という。)を生成する。具体的には、信号分離部161は、PCA又はICA等、一般的な信号分離技術を用いて、複数の主成分を分析し、分析した複数の主成分を示す分離信号を生成する。PCA又はICA等、一般的な信号分離技術を用いた信号成分の分析を行うことで、信号分離部161は、複数の脈波元信号セグメントから、脈波成分らしい成分とノイズ成分らしい成分とを分離する。
なお、信号分離部161は、全ての計測領域ri(k)に対応する複数の脈波元信号セグメントに基づいて、複数の主成分を示す分離信号を生成する。
ここでは、計測領域ri(k)として、図4に示すような、第1計測領域、第2計測領域、第3計測領域、及び、第4計測領域の、4つの計測領域ri(k)が設定されているとする。
図5において図上左側に示す、第1計測領域、第2計測領域、第3計測領域、及び、第4計測領域毎に複数の脈波元信号セグメントが生成されM×4行の軌跡行列がスタックされるまでの処理の流れは、セグメント生成部15によって行われる処理の流れであり、図4を用いて説明済みであるため、重複した説明を省略する。
信号分離部161は、セグメント生成部15がスタックしたM×4行の軌跡行列に対し、PCA又はICA等、公知の一般的な信号分離技術を用いて、主成分の分析を行う。その結果、信号分離部161は、C(正の整数)個の主成分を分析し、分析したC個の主成分を示す分離信号を生成する。なお、一般的な信号分離技術では、できるだけ多くの情報を持つ主成分から順に生成される。すなわち、第1主成分c1、第2主成分c2、第3主成分c3、・・・、第C主成分cCは、情報量の多い順番となっている。
なお、図6は、図5に示す分離信号(=[c1,c2,c3,c4,c5,・・・,cC])、言い換えれば、図4に示す第1計測領域、第2計測領域、第3計測領域、及び、第4計測領域毎に生成された複数の脈波元信号セグメントに基づいて、信号分離部161が生成した分離信号(=[c1,c2,c3,c4,c5,・・・,cC])の詳細としている。
各分離信号は、その分離信号が示す主成分が含んでいる情報量が分析された元となった、複数の脈波元信号セグメントの軌跡行列を含んでいる。図6に示す例でいうと、第1主成分c1~第C主成分cCを示す分離信号(=[c1,c2,c3,c4,c5,・・・,cC])は、第1計測領域の脈波元信号wi(t)から生成された脈波元信号セグメント(=p1-1,p1-2,p1-3,p1-4,p1-5,・・・,p1-M)、第2計測領域の脈波元信号wi(t)から生成された脈波元信号セグメント(=p2-1,p2-2,p2-3,p2-4,p2-5,・・・,p2-M)、第3計測領域の脈波元信号wi(t)から生成された脈波元信号セグメント(=p3-1,p3-2,p3-3,p3-4,p3-5,・・・,p3-M)、及び、第4計測領域の脈波元信号wi(t)から生成された脈波元信号セグメント(=p4-1,p4-2,p4-3,p4-4,p4-5,・・・,p4-M)に基づいて生成された分離信号である。よって、第1主成分c1~第C主成分cCを示す分離信号は、それぞれ、M×4行の軌跡行列(=[p1-1,p1-2,p1-3,p1-4,p1-5,・・・,p1-M],・・・,[p4-1,p4-2,p4-3,p4-4,p4-5,・・・,p4-M])を含んでいる。
射影係数は、分離信号毎に、各計測領域ri(k)における各脈波元信号セグメントに対して付与される。例えば、図6に示す例でいうと、第1主成分c1に対しては、第1計測領域におけるM個の脈波元信号セグメントにそれぞれ対応する射影係数と、第2計測領域におけるM個の脈波元信号セグメントにそれぞれ対応する射影係数と、第3計測領域におけるM個の脈波元信号セグメントにそれぞれ対応する射影係数と、第4計測領域におけるM個の脈波元信号セグメントにそれぞれ対応する射影係数とが付与されている。
例えば、図6において、第1主成分c1を示す分離信号に付与されている射影係数(q1,1-1)は、第1主成分c1の、第1計測領域における時間軸上で1番目の脈波元信号セグメントに対応する射影係数であることを示している。また、例えば、図6において、第1主成分c1を示す分離信号に付与されている射影係数(q1,4-M)は、第1主成分c1の、第4計測領域における時間軸上でM番目の脈波元信号セグメントに対応する射影係数であることを示している。また、例えば、図6において、第C主成分cCを示す分離信号に付与されている射影係数(qC,1-1)は、第C主成分cCの、第1計測領域における時間軸上で1番目の脈波元信号セグメントに対応する射影係数であることを示している。
分離信号情報Sep(t)は、脈波元信号情報W(t)に基づいて生成された複数(M×N個)の脈波元信号セグメントから生成されたC個の分離信号を含む。
上述のとおり、分離信号情報Sep(t)に含まれている各分離信号には、各計測領域ri(k)の各脈波元信号wi(t)に基づいて生成された複数の脈波元信号セグメントが含まれているので、復元部162は、分離信号情報Sep(t)に含まれている複数の分離信号から計測領域ri(k)毎の脈波元信号wi(t)を復元できる。
復元後脈波元信号情報RW(t)は、復元された計測領域ri(k)毎の脈波元信号wi(t)(以下「復元後脈波元信号」という。)を含む。
復元部162は、生成した復元後脈波元信号情報RW(t)を、推定部163に出力する。
推定部163は、推定した脈波を示す脈波情報である脈波推定結果P(t)を出力部17に出力する。
脈波情報は、例えば、推定部163が推定した被験者の脈波の時系列データであってもよいし、被験者の脈拍数であってもよいし、被験者の脈拍間隔であってもよい。ここでは、説明を簡便にするため、脈波情報は、被験者の脈拍数(1分間当たりのはく数)とする。
推定部163は、例えば、各計測領域ri(k)の復元後脈波元信号のS/N比を求める。推定部163は、各計測領域ri(k)の復元後脈波元信号に対して求めたS/N比に基づく重み付けをした上で、各計測領域ri(k)に対応する復元後脈波元信号を合算した合成脈波信号情報D(t)を算出する。すなわち、推定部163は、全ての計測領域ri(k)に対して1つの合成脈波信号情報D(t)を算出する。S/N比に基づく重み付けが行われているため、合成脈波信号情報D(t)は、ノイズ成分が除去された、脈波成分らしい信号になっていると想定される。
そして、推定部163は、合成脈波信号情報D(t)に対し、フーリエ変換を行い、所定の周波数範囲内での、周波数パワースペクトルにおけるピーク周波数を脈拍数として算出する。所定の周波数範囲は、人の心拍数の範囲を考慮して設定される。
なお、出力部17の機能は脈波推定部16に備えられていてもよい。
図7は、実施の形態1に係る脈波推定装置1の動作について説明するためのフローチャートである。
脈波推定装置1は、例えば、車両の電源がオンにされると、車両の電源がオフにされるまで、図7のフローチャートで示すような処理を繰り返す。
撮像画像取得部11は、取得した撮像画像を、肌領域検出部12に出力する。
肌領域検出部12は、生成した肌領域情報S(k)を、計測領域設定部13に出力する。
計測領域設定部13は、生成した計測領域情報R(k)を、脈波元信号抽出部14に出力する。
脈波元信号抽出部14は、各計測領域ri(k)における脈波元信号wi(t)を示す脈波元信号情報W(t)を生成する。
脈波元信号抽出部14は、生成した脈波元信号情報W(t)を、セグメント生成部15に出力する。
セグメント生成部15は、各計測領域ri(k)に対して複数の脈波元信号セグメントを生成すると、生成した脈波元信号セグメントから軌跡行列を生成し、これを記憶部にスタックする。
セグメント生成部15は、軌跡行列をスタックすると、その旨を脈波推定部16に通知する。
脈波推定部16は、推定した脈波を示す脈波情報である脈波推定結果P(t)を出力部17に出力する。
出力部17は、脈波推定部16から出力された脈波推定結果P(t)を、例えば、状態推定装置に出力する。
信号分離部161は、生成した複数の分離信号、詳細には、生成した複数の主成分を示す分離信号に関する分離信号情報Sep(t)を、復元部162に出力する。
復元部162は、復元後脈波元信号情報RW(t)を、推定部163に出力する。
推定部163は、推定した脈波を示す脈波情報である脈波推定結果P(t)を出力部17に出力する。
出力部17は、脈波推定部16から出力された脈波推定結果P(t)を、例えば、状態推定装置に出力する。
脈波推定装置1は、第1期間の脈波元信号wi(t)に基づいて第1期間よりも短い第2期間分の脈波元信号wi(t)を部分的に抽出した脈波元信号セグメントを複数生成することで、脈波元信号wi(t)を、位相が揃った対がある状態とできる。そして、脈波推定装置1は、位相が揃った対がある状態とした脈波元信号wi(t)、言い換えれば、複数の脈波元信号セグメントに基づいて被験者の脈波を推定するので、複数の脈波元信号wi(t)に対するICA又はPCA等の公知の一般的な信号分離技術を用いた脈波成分の分離を失敗しないようにでき、その結果、被験者の脈波を推定できる。このように、脈波推定装置1は、複数の計測領域ri(k)から抽出された輝度信号に位相差が生じていても、当該輝度信号に基づく被験者の脈波の推定を行うことができる。
実施の形態1において、撮像画像取得部11と、肌領域検出部12と、計測領域設定部13と、脈波元信号抽出部14と、セグメント生成部15と、脈波推定部16と、出力部17の機能は、処理回路101により実現される。すなわち、脈波推定装置1は、第1期間に取得された撮像画像における被験者の肌領域に対して設定された複数の計測領域ri(k)の輝度変化を示す脈波元信号wi(t)を部分的に抽出した複数の脈波元信号セグメントを生成し、独立成分分析又は主成分分析等の技術を用いて脈波元信号セグメントから脈波成分を分離し、分離した脈波成分から被験者の脈波を推定する制御を行うための処理回路101を備える。
処理回路101は、図9Aに示すように専用のハードウェアであっても、図9Bに示すようにメモリに格納されるプログラムを実行するプロセッサ104であってもよい。
図示しない記憶部は、例えば、メモリ105で構成される。
また、脈波推定装置1は、撮像装置3等の装置と、有線通信又は無線通信を行う入力インタフェース装置102及び出力インタフェース装置103を備える。
これに限らず、撮像画像取得部11と、肌領域検出部12と、計測領域設定部13と、脈波元信号抽出部14と、セグメント生成部15と、脈波推定部16と、出力部17のうち、一部が車両の車載装置に搭載され、その他が当該車載装置とネットワークを介して接続されるサーバに備えられて、車載装置とサーバとでシステムを構成してもよい。
また、撮像画像取得部11と、肌領域検出部12と、計測領域設定部13と、脈波元信号抽出部14と、セグメント生成部15と、脈波推定部16と、出力部17が全部サーバに備えられてもよい。
具体例を挙げると、脈波推定装置1は、住居においてリビングに設置されているテレビに搭載されてもよい。この場合、被験者は、住居の住人等のユーザである。脈波推定装置1は、テレビに搭載されている撮像装置が撮像した撮像画像に基づき、ユーザの脈波を推定する。
実施の形態1では、脈波元信号セグメントの生成に用いられる第2期間の長さは、一律としていた。
実施の形態2では、脈波元信号セグメントの生成に用いられる第2期間の長さを調整する実施の形態について説明する。
なお、以下の実施の形態2でも、実施の形態1同様、脈波推定装置は車両に搭載されており、被験者は車両のドライバであることを想定する。
実施の形態2に係る脈波推定装置1aの構成について、実施の形態1にて図1を用いて説明した脈波推定装置1と同じ構成には、同じ符号を付して重複した説明を省略する。
実施の形態2に係る脈波推定装置1aは、実施の形態1に係る脈波推定装置1とは、パラメータ設定部18を備えた点が異なる。
詳細には、パラメータ設定部18は、脈波推定部16が推定した被験者の脈波に基づいて、第2期間が被験者の脈波の1周期分の時間となるよう第2期間の長さを算出し、算出した第2期間の長さを示す情報を含むセグメントパラメータを設定する。
なお、第2期間と被験者の脈波の1周期分の時間とが同じでなくてもよく、パラメータ設定部18は、第2期間が、被験者の脈波の1周期分の時間よりも長くなるよう、第2期間を算出していればよい。
なお、パラメータ設定部18は、第2期間の長さを示す情報の他に、例えば、第2期間の部分的な重なりの大きさに関する情報をセグメントパラメータとして設定する。パラメータ設定部18は、処理負荷における観点から、脈波元信号セグメントの長さに応じて脈波元信号セグメント同士の重なりの大きさを可変に設定することができる。
パラメータ設定部18は、設定したセグメントパラメータをセグメント生成部15に出力する。
また、実施の形態2では、セグメント生成部15は、セグメントパラメータに基づいて、パラメータ設定部18が設定した第2期間を用いて、脈波元信号セグメントを生成する。
具体的には、セグメント生成部15は、セグメントパラメータに基づいて、パラメータ設定部18が設定した第2期間の長さを、脈波元信号セグメントの生成に用いる第2期間の長さに設定した上で、計測領域ri(k)毎に、セグメント生成用条件に従って、第1期間における脈波元信号wi(t)のうちから第2期間分の脈波元信号wi(t)を部分的に抽出した脈波元信号セグメントを複数生成する。
以降、パラメータ設定部18がセグメントパラメータ設定のための情報、言い換えれば、脈波推定結果を得られていない場合は、パラメータ設定部18は、過去に設定済みのセグメントパラメータのうち、直近で設定したセグメントパラメータを継続して設定する、または、第2の期間を初期値にリセットする。
図11は、実施の形態2に係る脈波推定装置1aの動作について説明するためのフローチャートである。
脈波推定装置1aは、例えば、車両の電源がオンにされると、車両の電源がオフにされるまで、図11のフローチャートで示すような処理を繰り返す。
図11において、ステップST21~ステップST24、及び、ステップST28~ステップST29の具体的な動作は、それぞれ、実施の形態1にて説明済みの、図7のステップST1~ステップST6の具体的な動作と同様であるため、重複した説明を省略する。
脈波の推定にあたっては、繰り返しあらわれる被験者の脈波成分を捉える必要がある。しかし、被験者の脈波の周期は、被験者の状態、又は、被験者がどの人か等によって変わってくる。例えば、同じ被験者であっても当該被験者の状態に変化が発生した場合、又は、被験者の変更があった場合、脈波推定装置1aが推定しようとする被験者の脈波の1周期分の時間が変わる。例えば、被験者の脈拍数が60bpm(beat per minitues)であれば被験者の脈波の1周期分の時間は1秒となるし、被験者の脈拍数が100bpmであれば被験者の脈波の1周期分の時間は0.6秒となる。
実施の形態2に係る脈波推定装置1aは、上述のとおり、被験者の脈波の推定のための脈波元信号セグメントの生成に用いられる第2期間の長さを、推定済みの被験者の脈波の周期を考慮した長さに調整可能とする。これにより、脈波推定装置1aは、被験者の脈波の周期を考慮せずに設定された第2期間を用いて生成された脈波元信号セグメントから被験者の脈波を推定する場合よりも、精度よく被験者の脈波を推定することができる。
また、例えば、被験者が、被験者の平均的な脈波に関する情報を記憶部に登録することを可能とし、パラメータ設定部18は、記憶部に登録された被験者の平均的な脈波に関する情報に基づいて第2期間を算出可能としてもよい。
例えば、パラメータ設定部18は、記憶部を参照して得られる脈波推定結果P(t)又は被験者の平均的な脈波と、推定部163が推定した被験者の脈波とから、第2期間を算出してもよい。
実施の形態2において、撮像画像取得部11と、肌領域検出部12と、計測領域設定部13と、脈波元信号抽出部14と、セグメント生成部15と、脈波推定部16と、出力部17と、パラメータ設定部18の機能は、処理回路101により実現される。すなわち、脈波推定装置1aは、第1期間に取得された撮像画像における被験者の肌領域に対して設定された複数の計測領域ri(k)の輝度変化を示す脈波元信号wi(t)を部分的に抽出した複数の脈波元信号セグメントを生成し、独立成分分析又は主成分分析等の技術を用いて脈波元信号セグメントから脈波成分を分離し、分離した脈波成分から被験者の脈波を推定する制御を行うための処理回路101を備える。
図示しない記憶部は、例えば、メモリ105で構成される。
また、脈波推定装置1aは、撮像装置3等の装置と、有線通信又は無線通信を行う入力インタフェース装置102及び出力インタフェース装置103を備える。
これに限らず、撮像画像取得部11と、肌領域検出部12と、計測領域設定部13と、脈波元信号抽出部14と、セグメント生成部15と、脈波推定部16と、出力部17と、パラメータ設定部18のうち、一部が車両の車載装置に搭載され、その他が当該車載装置とネットワークを介して接続されるサーバに備えられて、車載装置とサーバとでシステムを構成してもよい。
また、撮像画像取得部11と、肌領域検出部12と、計測領域設定部13と、脈波元信号抽出部14と、セグメント生成部15と、脈波推定部16と、出力部17と、パラメータ設定部18が全部サーバに備えられてもよい。
実施の形態1では、脈波推定装置は、生成した複数の脈波元信号セグメントをそのまま、被験者の脈波の推定に用いるようにしていた。
実施の形態3では、複数の脈波元信号セグメントに重み付けを行った上で、被験者の脈波の推定を行う実施の形態について説明する。
なお、以下の実施の形態3でも、実施の形態1同様、脈波推定装置は車両に搭載されており、被験者は車両のドライバであることを想定する。
実施の形態3に係る脈波推定装置1bの構成について、実施の形態1にて図1を用いて説明した脈波推定装置1と同じ構成には、同じ符号を付して重複した説明を省略する。
実施の形態3に係る脈波推定装置1bは、実施の形態1に係る脈波推定装置1とは、重み係数算出部19を備えた点が異なる。
詳細には、重み係数算出部19は、脈波元信号セグメントの抽出元となった脈波元信号wi(t)における信号の変動の大きさに基づいて、複数の脈波元信号セグメントそれぞれに対するセグメント重みを算出する。
なお、実施の形態3では、セグメント生成部15は、生成した、各計測領域ri(k)の複数の脈波元信号セグメントの情報と、脈波元信号抽出部14が生成した脈波元信号情報W(t)を、重み係数算出部19に出力する。
セグメント重み情報は、計測領域ri(k)を特定可能な情報と、脈波元信号セグメントを特定可能な情報と、当該脈波元信号セグメントのセグメント重みとが対応付けられた情報である。
脈波推定部16は、セグメント重み「0」が付与されている脈波元信号セグメントは被験者の脈波の推定に用いないようにする。詳細には、脈波推定部16の信号分離部161は、セグメント重み「0」が付与されている脈波元信号セグメントについては破棄し、残った複数の脈波元信号セグメントに基づいて、PCA又はICA等、一般的な信号分離技術を用いて、複数の主成分を分析し、分析した複数の主成分を示す分離信号を生成する。
このように、実施の形態3では、脈波推定部16は、脈波元信号セグメントとセグメント重みとに基づいて被験者の脈波を推定する。
図13は、複数の計測領域ri(k)のうちのある計測領域ri(k)から抽出された、第1期間の時系列の脈波元信号wi(t)で示される輝度値を時間軸で示す図としている。
図13において、第1期間の時系列の脈波元信号wi(t)のうち、点線で囲った部分の脈波元信号wi(t)は、信号の変動が大きい。
重み係数算出部19は、ある計測領域ri(k)に対してセグメント生成部15が生成した複数の脈波元信号セグメントのうち、点線で囲った部分の脈波元信号wi(t)を抽出元とする脈波元信号セグメントに対するセグメント重みを「0」と算出する。
重み係数算出部19は、ある計測領域ri(k)に対してセグメント生成部15が生成した複数の脈波元信号セグメントのうち、点線で囲った部分以外の脈波元信号wi(t)を抽出元とする脈波元信号セグメントに対するセグメント重みは「1」と算出する。
その結果、脈波推定部16は、セグメント重みが「0」の、点線で囲った部分の脈波元信号wi(t)を抽出元とする脈波元信号セグメントは被験者の脈波の推定に用いない。
図14は、実施の形態3に係る脈波推定装置1bの動作について説明するためのフローチャートである。
脈波推定装置1bは、例えば、車両の電源がオンにされると、車両の電源がオフにされるまで、図14のフローチャートで示すような処理を繰り返す。
図14において、ステップST31~ステップST35の具体的な動作は、それぞれ、実施の形態1にて説明済みの、図7のステップST1~ステップST5の具体的な動作と同様であるため、重複した説明を省略する。
詳細には、重み係数算出部19は、脈波元信号セグメントの抽出元となった脈波元信号wi(t)における信号の変動の大きさに基づいて、複数の脈波元信号セグメントそれぞれに対するセグメント重みを算出する。
重み係数算出部19は、セグメント重み情報を、脈波推定部16に出力する。
詳細には、信号分離部161は、分離信号を生成する際(図8のステップST11参照)、セグメント重みが「0」の脈波元信号セグメントについては破棄し、残った複数の脈波元信号セグメントに基づいて、PCA又はICA等、一般的な信号分離技術を用いて、複数の主成分を分析し、分析した複数の主成分を示す分離信号を生成する。
これにより、脈波推定装置1bは、複数の計測領域ri(k)から抽出される脈波元信号wi(t)がノイズ成分を多く含む信号である場合に、これを除いて被験者の脈波を推定することができる。そのため、脈波推定装置1bは、複数の計測領域ri(k)から抽出される脈波元信号wi(t)がノイズ成分を多く含む信号であるか否かを考慮しない場合よりも精度よく被験者の脈波を推定することができる。
実施の形態3において、撮像画像取得部11と、肌領域検出部12と、計測領域設定部13と、脈波元信号抽出部14と、セグメント生成部15と、脈波推定部16と、出力部17と、重み係数算出部19の機能は、処理回路101により実現される。すなわち、脈波推定装置1bは、第1期間に取得された撮像画像における被験者の肌領域に対して設定された複数の計測領域ri(k)の輝度変化を示す脈波元信号wi(t)を部分的に抽出した複数の脈波元信号セグメントを生成し、独立成分分析又は主成分分析等の技術を用いて脈波元信号セグメントから脈波成分を分離し、分離した脈波成分から被験者の脈波を推定する制御を行うための処理回路101を備える。
図示しない記憶部は、例えば、メモリ105で構成される。
また、脈波推定装置1bは、撮像装置3等の装置と、有線通信又は無線通信を行う入力インタフェース装置102及び出力インタフェース装置103を備える。
これに限らず、撮像画像取得部11と、肌領域検出部12と、計測領域設定部13と、脈波元信号抽出部14と、セグメント生成部15と、脈波推定部16と、出力部17と、重み係数算出部19のうち、一部が車両の車載装置に搭載され、その他が当該車載装置とネットワークを介して接続されるサーバに備えられて、車載装置とサーバとでシステムを構成してもよい。
また、撮像画像取得部11と、肌領域検出部12と、計測領域設定部13と、脈波元信号抽出部14と、セグメント生成部15と、脈波推定部16と、出力部17と、重み係数算出部19が全部サーバに備えられてもよい。
脈波推定装置1,1a,1bは、上記機能を有する場合、以上の実施の形態1~3において図1、図10、又は、図12を用いて説明した脈波推定装置1,1a,1bの構成例において、脈波推定部16に代えて、図15に示すような脈波推定部16aを備えるようにする。
復元部162は、信号分離部161から出力された複数の分離信号と、成分重み設定部1621が設定した分離信号毎の成分重みとに基づいて計測領域ri(k)毎の脈波元信号wi(t)を復元する。
推定部163は、復元部162が複数の分離信号と分離信号毎の成分重みとに基づいて復元した生成した脈波元信号wi(t)に基づいて、被験者の脈波を推定する。
詳細には、成分重み設定部1621は、まず、各分離信号に対し高速フーリエ変換等を行い、各分離信号の周波数パワースペクトルにおけるピーク周波数を算出する。
次に、成分重み設定部1621は、複数の主成分を示す複数の分離信号について、隣り合う分離信号のペアを作り、隣り合う分離信号のピーク周波数の差分(以下「ピーク差分」という。)を算出する。なお、「隣り合う主成分」とは、含む情報量が多い順に分離信号を並べた場合に前後の順番となる分離信号のことを意味する。そして、成分重み設定部1621は、算出したピーク差分が予め設定された閾値(以下「ピーク差分判定用閾値」という。)よりも大きいか否かを判定する。成分重み設定部1621は、ピーク差分がピーク差分判定用閾値よりも大きい場合、当該ピーク差分が算出される対象となった分離信号の成分重みを「0」とし、当該ピーク差分がピーク差分判定用閾値以下であれば成分重みを「1」とする。
この場合、成分重み設定部1621は、第1分離信号と第2分離信号のペアを作り、第1分離信号のピーク周波数と第2分離信号のピーク周波数とのピーク差分を算出し、算出したピーク差分がピーク差分判定用閾値よりも大きいか否かを判定する。成分重み設定部1621は、ピーク差分がピーク差分判定用閾値よりも大きい場合、第1分離信号及び第2分離信号の成分重みをともに「0」とし、ピーク差分がピーク差分判定用閾値以下である場合、第1分離信号及び第2分離信号の成分重みをともに「1」とする。
また、成分重み設定部1621は、第3分離信号と第4分離信号のペアを作り、第3分離信号のピーク周波数と第4分離信号のピーク周波数とのピーク差分を算出し、算出したピーク差分がピーク差分判定用閾値よりも大きいか否かを判定する。成分重み設定部1621は、ピーク差分がピーク差分判定用閾値よりも大きい場合、第3分離信号及び第4分離信号の成分重みをともに「0」とし、ピーク差分がピーク差分判定用閾値以下である場合、第3分離信号及び第4分離信号の成分重みをともに「1」とする。
成分重み設定部1621は、第5分離信号及び第6分離信号のペア、第7分離信号及び第8分離信号のペア、・・・・第(C-1)分離信号及び第C分離信号のペアに対しても、上述したような処理を行い、全ての分離信号に対して、成分重みを設定する。
そして、推定部163は、復元部162が、成分重み「1」の分離信号のみに基づいて復元した脈波元信号wi(t)に基づいて、被験者の脈波を推定する。推定部163は、脈波成分らしい分離信号に基づいて被験者の脈波を推定できるので、被験者の脈波の推定精度を向上させることができる。
例えば、成分重み設定部1621は、C個の分離信号のうち、ある分離信号(基準分離信号とする)について、その他の(C-1)個の分離信号とのピーク周波数の差分をそれぞれ算出し、算出した(C-1)個の差分に応じた当該差分の重み付け平均値を、基準分離信号の差分値とする。そして、成分重み設定部1621は、基準分離信号の差分値が閾値よりも大きければ基準分離信号に対する成分重みは「0」、閾値以下であれば基準分離信号に対する成分重みは「1」とする。成分重み設定部1621は、以上のような処理を全ての分離信号を基準分離信号にして行う。成分重み設定部1621は、重み付け平均値の大きさに応じた値を成分重みとしてもよい。
次に、成分重み設定部1621は、分離信号毎に、生成した射影係数時系列情報の相関関係を判定し、相関係数を算出する。具体的には、成分重み設定部1621は、ある分離信号において、生成されたN個の射影係数時系列情報について、全通りのペアを作り、射影係数時系列情報のペア毎に、相関係数をそれぞれ算出する。なお、相関係数は、射影係数時系列情報の位相の一致度合いを示す。成分重み設定部1621は、ペア毎に算出した相関係数の平均値を、その分離信号の成分重みとする。
この場合、成分重み設定部1621は、まず、各分離信号に対し、計測領域ri(k)(第1計測領域、第2計測領域、第3計測領域、及び、第4計測領域)毎に射影係数時系列情報を生成する。
図16は、一例として、成分重み設定部1621が第1分離信号について生成した射影係数時系列情報としている。成分重み設定部1621は、第1分離信号について、第1計測領域、第2計測領域、第3計測領域、及び、第4計測領域それぞれの射影係数時系列情報を生成する。
なお、図16では、一例として、第1分離信号について生成された射影係数時系列情報を示しているが、成分重み設定部1621は、第2分離信号~第C分離信号についても、計測領域ri(k)毎の射影係数時系列情報を生成する。
ここでは、成分重み設定部1621は、第1計測領域の射影係数時系列情報と第2計測領域の射影係数時系列情報のペア(第1ペアとする)、第1計測領域の射影係数時系列情報と第3計測領域の射影係数時系列情報のペア(第2ペアとする)、第1計測領域の射影係数時系列情報と第4計測領域の射影係数時系列情報のペア(第3ペアとする)、第2計測領域の射影係数時系列情報と第3計測領域の射影係数時系列情報のペア(第4ペアとする)、第2計測領域の射影係数時系列情報と第4計測領域の射影係数時系列情報のペア(第5ペアとする)、及び、第3計測領域の射影係数時系列情報と第4計測領域の射影係数時系列情報のペア(第6ペアとする)を作る。
そして、成分重み設定部1621は、第1ペアの相関係数、第2ペアの相関係数、第3ペアの相関係数、第4ペアの相関係数、第5ペアの相関係数、及び、第6ペアの相関係数を、算出する。成分重み設定部1621は、算出した、第1ペアの相関係数、第2ペアの相関係数、第3ペアの相関係数、第4ペアの相関係数、第5ペアの相関係数、及び、第5ペアの相関係数の平均値を、第1主成分c1を示す第1分離信号の成分重みとする。
例えば、復元部162は、(第1分離信号の成分重み×[p1-1,p1-2,・・・,p1-M]+第2分離信号の成分重み×[p1-1,p1-2,・・・,p1-M]+第3分離信号の成分重み×[p1-1,p1-2,・・・,p1-M]+・・・+第C分離信号の成分重み×[p1-1,p1-2,・・・,p1-M])を、復元された第1計測領域の脈波元信号(t)とする。
実施の形態1~3において、脈波推定装置1,1a,1bが、公知の一般的な信号分離技術を用いて推定した複数の主成分を示す複数の分離信号に対して成分重みを設定し、複数の分離信号と設定した分離信号毎の成分重みとに基づいて計測領域ri(k)毎の脈波元信号wi(t)を復元する機能を有するようにした場合、実施の形態1~3で説明した、図7のステップST6、図11のステップST29、及び、図15のステップST37の脈波推定処理の詳細は、図17のフローチャートで示すような処理となる。
人を撮像した撮像画像を取得する撮像画像取得部と、
前記撮像画像から前記人の肌領域を検出する肌領域検出部と、
前記撮像画像上の前記肌領域に対応する領域に、第1期間における時系列の輝度変化を示す脈波元信号を抽出するための複数の計測領域を設定する計測領域設定部と、
前記計測領域毎に、当該計測領域における前記第1期間の前記輝度変化に基づき、前記脈波元信号を抽出する脈波元信号抽出部と、
前記計測領域毎に、当該計測領域から抽出された前記脈波元信号に基づき、セグメント生成用条件に従って、前記第1期間における前記脈波元信号のうちから第2期間分の前記脈波元信号を部分的に抽出した信号である脈波元信号セグメントを複数生成するセグメント生成部と、
前記計測領域毎に生成された複数の前記脈波元信号セグメントに基づいて前記人の脈波を推定する脈波推定部
とを備えた脈波推定装置。
(付記2)
前記セグメント生成用条件は、
前記第2期間は前記第1期間よりも短い期間であること、
ある計測領域における複数の前記脈波元信号セグメントについて、ある脈波元信号セグメントは他の脈波元信号セグメントと時間軸上で互いに完全に一致しない信号であること、
ある計測領域における複数の前記脈波元信号セグメントについて、ある脈波元信号セグメントは他の脈波元信号セグメントと時間軸上で部分的に重なる信号であること、
各計測領域において、ある脈波元信号セグメントが他の脈波元信号セグメントと時間軸上で部分的に重なる長さは同じであること、
及び、各計測領域における複数の前記脈波元信号セグメントの時間軸上の長さは互いに同じであること
を含むことを特徴とする付記1記載の脈波推定装置。
(付記3)
前記脈波推定部が推定した前記人の前記脈波に基づいて前記第2期間を算出し、当該第2期間の長さを示す情報を少なくとも含むセグメントパラメータを設定するパラメータ設定部を備え、
前記セグメント生成部は、前記セグメントパラメータに従って前記第2期間を設定する
ことを特徴とする付記1または付記2記載の脈波推定装置。
(付記4)
前記パラメータ設定部は、前記第2期間が、前記脈波推定部が推定した前記人の前記脈波の1周期分の時間となるよう、前記第2期間を算出する
ことを特徴とする付記3記載の脈波推定装置。
(付記5)
複数の前記脈波元信号セグメントそれぞれに対する重み係数を算出する重み係数算出部を備え、
前記脈波推定部は、前記脈波元信号セグメントと前記重み係数とに基づいて前記人の前記脈波を推定する
ことを特徴とする付記1から付記4のうちのいずれか1つ記載の脈波推定装置。
(付記6)
前記重み係数算出部は、前記脈波元信号セグメントの抽出元となった前記脈波元信号における信号の変動の大きさに基づいて、複数の前記脈波元信号セグメントそれぞれに対する前記重み係数を算出する
ことを特徴とする付記5記載の脈波推定装置。
(付記7)
前記脈波推定部は、
複数の前記脈波元信号セグメントに基づいて複数の信号成分を示す分離信号を生成する信号分離部と、
複数の前記分離信号に基づいて前記計測領域毎の前記脈波元信号を復元する復元部と、
復元された前記計測領域毎の前記脈波元信号に基づき、前記人の前記脈波を推定する推定部とを備える
ことを特徴とする付記1から付記6のうちのいずれか1つ記載の脈波推定装置。
(付記8)
前記復元部は、
前記分離信号毎の重み係数を設定する成分重み設定部を備え、
複数の前記分離信号と前記分離信号毎の前記重み係数とに基づいて前記計測領域毎の前記脈波元信号を復元する
ことを特徴とする付記7記載の脈波推定装置。
(付記9)
前記成分重み設定部は、
複数の前記分離信号間の周波数特性の類似性に基づいて前記分離信号毎の前記重み係数を設定する
ことを特徴とする付記8記載の脈波推定装置。
(付記10)
前記成分重み設定部は、
複数の前記分離信号が生成される際に当該分離信号に付与される射影係数に基づき複数の前記分離信号間の前記射影係数の相関係数を算出し、前記相関係数に基づいて前記分離信号毎の前記重み係数を設定する
ことを特徴とする付記8記載の脈波推定装置。
(付記11)
撮像画像取得部が、人を撮像した撮像画像を取得するステップと、
肌領域検出部が、前記撮像画像から前記人の肌領域を検出するステップと、
計測領域設定部が、前記撮像画像上の前記肌領域に対応する領域に、第1期間における時系列の輝度変化を示す脈波元信号を抽出するための複数の計測領域を設定するステップと、
脈波元信号抽出部が、前記計測領域毎に、当該計測領域における前記第1期間の前記輝度変化に基づき、前記脈波元信号を抽出するステップと、
セグメント生成部が、前記計測領域毎に、当該計測領域から抽出された前記脈波元信号に基づき、セグメント生成用条件に従って、前記第1期間における前記脈波元信号のうちから第2期間分の前記脈波元信号を部分的に抽出した信号である脈波元信号セグメントを複数生成するステップと、
脈波推定部が、前記計測領域毎に生成された複数の前記脈波元信号セグメントに基づいて前記人の脈波を推定するステップ
とを備えた脈波推定方法。
Claims (12)
- 人を撮像した撮像画像を取得する撮像画像取得部と、
前記撮像画像から前記人の肌領域を検出する肌領域検出部と、
前記撮像画像上の前記肌領域に対応する領域に、第1期間における時系列の輝度変化を示す脈波元信号を抽出するための複数の計測領域を設定する計測領域設定部と、
前記計測領域毎に、当該計測領域における前記第1期間の前記輝度変化に基づき、前記脈波元信号を抽出する脈波元信号抽出部と、
前記計測領域毎に、当該計測領域から抽出された前記脈波元信号に基づき、セグメント生成用条件に従って、前記第1期間における前記脈波元信号のうちから第2期間分の前記脈波元信号を部分的に抽出した信号である脈波元信号セグメントを複数生成するセグメント生成部と、
前記計測領域毎に生成された複数の前記脈波元信号セグメントに基づいて前記人の脈波を推定する脈波推定部と、
前記脈波推定部が推定した前記人の前記脈波に基づいて前記第2期間を算出し、当該第2期間の長さを示す情報を少なくとも含むセグメントパラメータを設定するパラメータ設定部を備え、
前記セグメント生成部は、前記セグメントパラメータに従って前記第2期間を設定する
ことを特徴とする脈波推定装置。 - 前記パラメータ設定部は、前記第2期間が、前記脈波推定部が推定した前記人の前記脈波の1周期分の時間となるよう、前記第2期間を算出する
ことを特徴とする請求項1記載の脈波推定装置。 - 人を撮像した撮像画像を取得する撮像画像取得部と、
前記撮像画像から前記人の肌領域を検出する肌領域検出部と、
前記撮像画像上の前記肌領域に対応する領域に、第1期間における時系列の輝度変化を示す脈波元信号を抽出するための複数の計測領域を設定する計測領域設定部と、
前記計測領域毎に、当該計測領域における前記第1期間の前記輝度変化に基づき、前記脈波元信号を抽出する脈波元信号抽出部と、
前記計測領域毎に、当該計測領域から抽出された前記脈波元信号に基づき、セグメント生成用条件に従って、前記第1期間における前記脈波元信号のうちから第2期間分の前記脈波元信号を部分的に抽出した信号である脈波元信号セグメントを複数生成するセグメント生成部と、
前記計測領域毎に生成された複数の前記脈波元信号セグメントに基づいて前記人の脈波を推定する脈波推定部と、
複数の前記脈波元信号セグメントそれぞれに対する重み係数を算出する重み係数算出部を備え、
前記脈波推定部は、前記脈波元信号セグメントと前記重み係数とに基づいて前記人の前記脈波を推定する
ことを特徴とする脈波推定装置。 - 前記重み係数算出部は、前記脈波元信号セグメントの抽出元となった前記脈波元信号における信号の変動の大きさに基づいて、複数の前記脈波元信号セグメントそれぞれに対する前記重み係数を算出する
ことを特徴とする請求項3記載の脈波推定装置。 - 人を撮像した撮像画像を取得する撮像画像取得部と、
前記撮像画像から前記人の肌領域を検出する肌領域検出部と、
前記撮像画像上の前記肌領域に対応する領域に、第1期間における時系列の輝度変化を示す脈波元信号を抽出するための複数の計測領域を設定する計測領域設定部と、
前記計測領域毎に、当該計測領域における前記第1期間の前記輝度変化に基づき、前記脈波元信号を抽出する脈波元信号抽出部と、
前記計測領域毎に、当該計測領域から抽出された前記脈波元信号に基づき、セグメント生成用条件に従って、前記第1期間における前記脈波元信号のうちから第2期間分の前記脈波元信号を部分的に抽出した信号である脈波元信号セグメントを複数生成するセグメント生成部と、
前記計測領域毎に生成された複数の前記脈波元信号セグメントに基づいて前記人の脈波を推定する脈波推定部とを備え、
前記脈波推定部は、
複数の前記脈波元信号セグメントに基づいて複数の信号成分を示す分離信号を生成する信号分離部と、
複数の前記分離信号に基づいて前記計測領域毎の前記脈波元信号を復元する復元部と、
復元された前記計測領域毎の前記脈波元信号に基づき、前記人の前記脈波を推定する推定部とを備える
ことを特徴とする脈波推定装置。 - 前記復元部は、
前記分離信号毎の重み係数を設定する成分重み設定部を備え、
複数の前記分離信号と前記分離信号毎の前記重み係数とに基づいて前記計測領域毎の前記脈波元信号を復元する
ことを特徴とする請求項5記載の脈波推定装置。 - 前記成分重み設定部は、
複数の前記分離信号間の周波数特性の類似性に基づいて前記分離信号毎の前記重み係数を設定する
ことを特徴とする請求項6記載の脈波推定装置。 - 前記成分重み設定部は、
複数の前記分離信号が生成される際に当該分離信号に付与される射影係数に基づき複数の前記分離信号間の前記射影係数の相関係数を算出し、前記相関係数に基づいて前記分離信号毎の前記重み係数を設定する
ことを特徴とする請求項6記載の脈波推定装置。 - 前記セグメント生成用条件は、
前記第2期間は前記第1期間よりも短い期間であること、
ある計測領域における複数の前記脈波元信号セグメントについて、ある脈波元信号セグメントは他の脈波元信号セグメントと時間軸上で互いに完全に一致しない信号であること、
ある計測領域における複数の前記脈波元信号セグメントについて、ある脈波元信号セグメントは他の脈波元信号セグメントと時間軸上で部分的に重なる信号であること、
各計測領域において、ある脈波元信号セグメントが他の脈波元信号セグメントと時間軸上で部分的に重なる長さは同じであること、
及び、各計測領域における複数の前記脈波元信号セグメントの時間軸上の長さは互いに同じであること
を含むことを特徴とする請求項1から請求項8のうちのいずれか1項記載の脈波推定装置。 - 撮像画像取得部が、人を撮像した撮像画像を取得するステップと、
肌領域検出部が、前記撮像画像から前記人の肌領域を検出するステップと、
計測領域設定部が、前記撮像画像上の前記肌領域に対応する領域に、第1期間における時系列の輝度変化を示す脈波元信号を抽出するための複数の計測領域を設定するステップと、
脈波元信号抽出部が、前記計測領域毎に、当該計測領域における前記第1期間の前記輝度変化に基づき、前記脈波元信号を抽出するステップと、
セグメント生成部が、前記計測領域毎に、当該計測領域から抽出された前記脈波元信号に基づき、セグメント生成用条件に従って、前記第1期間における前記脈波元信号のうちから第2期間分の前記脈波元信号を部分的に抽出した信号である脈波元信号セグメントを複数生成するステップと、
脈波推定部が、前記計測領域毎に生成された複数の前記脈波元信号セグメントに基づいて前記人の脈波を推定するステップと、
パラメータ設定部が、前記脈波推定部が推定した前記人の前記脈波に基づいて前記第2期間を算出し、当該第2期間の長さを示す情報を少なくとも含むセグメントパラメータを設定するステップを備え、
前記セグメント生成部は、前記セグメントパラメータに従って前記第2期間を設定する
ことを特徴とする脈波推定方法。 - 撮像画像取得部が、人を撮像した撮像画像を取得するステップと、
肌領域検出部が、前記撮像画像から前記人の肌領域を検出するステップと、
計測領域設定部が、前記撮像画像上の前記肌領域に対応する領域に、第1期間における時系列の輝度変化を示す脈波元信号を抽出するための複数の計測領域を設定するステップと、
脈波元信号抽出部が、前記計測領域毎に、当該計測領域における前記第1期間の前記輝度変化に基づき、前記脈波元信号を抽出するステップと、
セグメント生成部が、前記計測領域毎に、当該計測領域から抽出された前記脈波元信号に基づき、セグメント生成用条件に従って、前記第1期間における前記脈波元信号のうちから第2期間分の前記脈波元信号を部分的に抽出した信号である脈波元信号セグメントを複数生成するステップと、
脈波推定部が、前記計測領域毎に生成された複数の前記脈波元信号セグメントに基づいて前記人の脈波を推定するステップと、
重み係数算出部が、複数の前記脈波元信号セグメントそれぞれに対する重み係数を算出するステップを備え、
前記脈波推定部は、前記脈波元信号セグメントと前記重み係数とに基づいて前記人の前記脈波を推定する
ことを特徴とする脈波推定方法。 - 撮像画像取得部が、人を撮像した撮像画像を取得するステップと、
肌領域検出部が、前記撮像画像から前記人の肌領域を検出するステップと、
計測領域設定部が、前記撮像画像上の前記肌領域に対応する領域に、第1期間における時系列の輝度変化を示す脈波元信号を抽出するための複数の計測領域を設定するステップと、
脈波元信号抽出部が、前記計測領域毎に、当該計測領域における前記第1期間の前記輝度変化に基づき、前記脈波元信号を抽出するステップと、
セグメント生成部が、前記計測領域毎に、当該計測領域から抽出された前記脈波元信号に基づき、セグメント生成用条件に従って、前記第1期間における前記脈波元信号のうちから第2期間分の前記脈波元信号を部分的に抽出した信号である脈波元信号セグメントを複数生成するステップと、
脈波推定部が、前記計測領域毎に生成された複数の前記脈波元信号セグメントに基づいて前記人の脈波を推定するステップとを備え、
前記脈波推定部が前記人の前記脈波を推定するステップにおいて、
信号分離部が、複数の前記脈波元信号セグメントに基づいて複数の信号成分を示す分離信号を生成するステップと、
復元部が、複数の前記分離信号に基づいて前記計測領域毎の前記脈波元信号を復元するステップと、
推定部が、復元された前記計測領域毎の前記脈波元信号に基づき、前記人の前記脈波を推定するステップとを備える
ことを特徴とする脈波推定方法。
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| PCT/JP2022/019552 WO2023214457A1 (ja) | 2022-05-06 | 2022-05-06 | 脈波推定装置及び脈波推定方法 |
Publications (3)
| Publication Number | Publication Date |
|---|---|
| JPWO2023214457A1 JPWO2023214457A1 (ja) | 2023-11-09 |
| JPWO2023214457A5 JPWO2023214457A5 (ja) | 2024-06-21 |
| JP7542779B2 true JP7542779B2 (ja) | 2024-08-30 |
Family
ID=88646399
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2024519158A Active JP7542779B2 (ja) | 2022-05-06 | 2022-05-06 | 脈波推定装置及び脈波推定方法 |
Country Status (3)
| Country | Link |
|---|---|
| JP (1) | JP7542779B2 (ja) |
| DE (1) | DE112022006677T5 (ja) |
| WO (1) | WO2023214457A1 (ja) |
Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2019116996A1 (ja) | 2017-12-15 | 2019-06-20 | シャープ株式会社 | 血圧測定装置、および、血圧測定方法 |
| JP2019170967A (ja) | 2018-03-29 | 2019-10-10 | パナソニックIpマネジメント株式会社 | 生体信号検知装置及び生体信号検知方法 |
| WO2020054122A1 (ja) | 2018-09-10 | 2020-03-19 | 三菱電機株式会社 | 情報処理装置、プログラム及び情報処理方法 |
Family Cites Families (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP6521845B2 (ja) | 2015-11-22 | 2019-05-29 | 国立大学法人埼玉大学 | 心拍に連動する周期的変動の計測装置及び計測方法 |
| JP6730899B2 (ja) * | 2016-09-27 | 2020-07-29 | 京セラ株式会社 | 電子装置、制御方法及びプログラム |
-
2022
- 2022-05-06 DE DE112022006677.6T patent/DE112022006677T5/de active Pending
- 2022-05-06 WO PCT/JP2022/019552 patent/WO2023214457A1/ja not_active Ceased
- 2022-05-06 JP JP2024519158A patent/JP7542779B2/ja active Active
Patent Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2019116996A1 (ja) | 2017-12-15 | 2019-06-20 | シャープ株式会社 | 血圧測定装置、および、血圧測定方法 |
| JP2019170967A (ja) | 2018-03-29 | 2019-10-10 | パナソニックIpマネジメント株式会社 | 生体信号検知装置及び生体信号検知方法 |
| WO2020054122A1 (ja) | 2018-09-10 | 2020-03-19 | 三菱電機株式会社 | 情報処理装置、プログラム及び情報処理方法 |
Also Published As
| Publication number | Publication date |
|---|---|
| DE112022006677T5 (de) | 2025-02-20 |
| WO2023214457A1 (ja) | 2023-11-09 |
| JPWO2023214457A1 (ja) | 2023-11-09 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| Hernandez-Ortega et al. | Time analysis of pulse-based face anti-spoofing in visible and NIR | |
| US9795306B2 (en) | Method of estimating blood pressure based on image | |
| JP6727469B1 (ja) | 情報処理装置、プログラム及び情報処理方法 | |
| JP6248780B2 (ja) | 脈波検出装置、脈波検出方法及び脈波検出プログラム | |
| JPWO2016006027A1 (ja) | 脈波検出方法、脈波検出プログラム及び脈波検出装置 | |
| JP6737261B2 (ja) | バイタルサイン測定装置、バイタルサイン測定方法、及び、バイタルサイン測定プログラム | |
| JP7099542B2 (ja) | 脈拍推定装置、脈拍推定方法、及びプログラム | |
| KR101788803B1 (ko) | 심전도를 이용한 개인 식별 정보 생성방법 및 그 개인 식별 정보를 이용한 개인 식별 방법 | |
| KR102468648B1 (ko) | 영상에 대한 원격 광용적맥파신호를 이용하여 사람의 심박수를 산출하는 방법 | |
| JPWO2018078857A1 (ja) | 視線推定装置、視線推定方法及びプログラム記録媒体 | |
| JP2014186547A (ja) | 移動物体追跡システム、方法及びプログラム | |
| JP6020015B2 (ja) | 脈波検出装置、脈波検出プログラム及び脈波検出方法 | |
| JP7542779B2 (ja) | 脈波推定装置及び脈波推定方法 | |
| JP7561966B2 (ja) | 脈波検出装置及び脈波検出方法 | |
| JP2008242833A (ja) | 3次元の人の顔の表面データを再構築するための装置及びプログラム | |
| US20240420290A1 (en) | Face Alignment and Normalization For Enhanced Vision-Based Vitals Monitoring | |
| US20240282147A1 (en) | Action recognition method, action recognition device, and non-transitory computer readable recording medium | |
| US20230128766A1 (en) | Multimodal contactless vital sign monitoring | |
| JP7514521B2 (ja) | 心拍測定システム、心拍測定方法、及び心拍測定プログラム | |
| JP7615302B2 (ja) | 脈波検出装置及び脈波検出方法 | |
| WO2025017760A1 (ja) | 脈波推定装置および脈波推定方法 | |
| Vatanparvar et al. | Enhanced Contactless Heart Rate Monitoring Using Camera with Motion Artifact Removal During Physical Activities | |
| JPWO2020255645A1 (ja) | 3次元データ更新装置、顔向き推定装置、3次元データ更新方法およびプログラム | |
| CN114639134A (zh) | 用于人脸识别的方法和装置 | |
| JP2025004276A (ja) | 脈波推定装置及び脈波推定方法 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20240423 |
|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20240423 |
|
| A871 | Explanation of circumstances concerning accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A871 Effective date: 20240423 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20240723 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20240820 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 7542779 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
| S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313111 |
|
| R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |