+

JP7542779B2 - 脈波推定装置及び脈波推定方法 - Google Patents

脈波推定装置及び脈波推定方法 Download PDF

Info

Publication number
JP7542779B2
JP7542779B2 JP2024519158A JP2024519158A JP7542779B2 JP 7542779 B2 JP7542779 B2 JP 7542779B2 JP 2024519158 A JP2024519158 A JP 2024519158A JP 2024519158 A JP2024519158 A JP 2024519158A JP 7542779 B2 JP7542779 B2 JP 7542779B2
Authority
JP
Japan
Prior art keywords
pulse wave
source signal
unit
wave source
measurement
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2024519158A
Other languages
English (en)
Other versions
JPWO2023214457A5 (ja
JPWO2023214457A1 (ja
Inventor
遼平 村地
雄大 中村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Publication of JPWO2023214457A1 publication Critical patent/JPWO2023214457A1/ja
Publication of JPWO2023214457A5 publication Critical patent/JPWO2023214457A5/ja
Application granted granted Critical
Publication of JP7542779B2 publication Critical patent/JP7542779B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/02Detecting, measuring or recording for evaluating the cardiovascular system, e.g. pulse, heart rate, blood pressure or blood flow
    • A61B5/024Measuring pulse rate or heart rate
    • A61B5/02416Measuring pulse rate or heart rate using photoplethysmograph signals, e.g. generated by infrared radiation

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Cardiology (AREA)
  • Biomedical Technology (AREA)
  • Medical Informatics (AREA)
  • Biophysics (AREA)
  • Pathology (AREA)
  • Engineering & Computer Science (AREA)
  • Physiology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Physics & Mathematics (AREA)
  • Molecular Biology (AREA)
  • Surgery (AREA)
  • Animal Behavior & Ethology (AREA)
  • General Health & Medical Sciences (AREA)
  • Public Health (AREA)
  • Veterinary Medicine (AREA)
  • Measuring Pulse, Heart Rate, Blood Pressure Or Blood Flow (AREA)

Description

本開示は、脈波推定装置及び脈波推定方法に関する。
従来、撮像装置が撮像した撮像画像における人の肌を含む領域(以下「肌領域」という。)において設定された複数の領域(以下「計測領域」という。)の輝度信号に基づいて人の肌表面の微小な輝度変化を抽出し、独立成分分析又は主成分分析等の信号分離技術を用いて当該輝度変化を示す信号から脈波成分を分離して、人の脈波を推定する技術が知られている(例えば、特許文献1)。このような技術は、人の血流における光の吸収量が脈動に応じて変化するという原理を利用している。
特開2017-93760号公報
人の血液は、心臓から動脈にて出て行き、全身を循環すると静脈から心臓に戻る。このような人の血流の特性上、脈波を推定するために設定される複数の計測領域の間の、心臓からの距離の差が大きいと、当該複数の計測領域で、当該複数の計測領域から抽出される輝度信号の位相差が生じる。複数の計測領域間で抽出される輝度信号の位相差が生じると、輝度変化を示す信号からの脈波成分の分離が行えず、脈波の推定精度が低下してしまうおそれがある。
従来技術では、複数の計測領域から抽出される輝度信号に位相差が生じる場合、当該位相差が生じている輝度信号に基づく人の脈波の推定を行えない可能性があるという課題があった。
本開示は上記のような課題を解決するためになされたもので、複数の計測領域から抽出された輝度信号に位相差が生じていても、当該輝度信号に基づく人の脈波の推定を行うことができる脈波推定装置を提供することを目的とする。
本開示に係る脈波推定装置は、人を撮像した撮像画像を取得する撮像画像取得部と、撮像画像から人の肌領域を検出する肌領域検出部と、撮像画像上の肌領域に対応する領域に、第1期間における時系列の輝度変化を示す脈波元信号を抽出するための複数の計測領域を設定する計測領域設定部と、計測領域毎に、当該計測領域における第1期間の輝度変化に基づき、脈波元信号を抽出する脈波元信号抽出部と、計測領域毎に、当該計測領域から抽出された脈波元信号に基づき、セグメント生成用条件に従って、第1期間における脈波元信号のうちから第2期間分の脈波元信号を部分的に抽出した信号である脈波元信号セグメントを複数生成するセグメント生成部と、計測領域毎に生成された複数の脈波元信号セグメントに基づいて人の脈波を推定する脈波推定部と、脈波推定部が推定した人の脈波に基づいて第2期間を算出し、当該第2期間の長さを示す情報を少なくとも含むセグメントパラメータを設定するパラメータ設定部を備え、セグメント生成部は、セグメントパラメータに従って第2期間を設定することを特徴とするものである。
本開示によれば、複数の計測領域から抽出された輝度信号に位相差が生じていても、当該輝度信号に基づく人の脈波の推定を行うことができる。
実施の形態1に係る脈波推定装置の構成例を示す図である。 複数の計測領域間で生じる、人の血流の特性による輝度信号の位相差について説明するための図である。 図3A、図3B及び図3Cは、実施の形態1に係る脈波推定装置における、計測領域設定部による計測領域の設定方法の一例について説明するための図である。 実施の形態1において、セグメント生成部が生成する脈波元信号セグメントの一例について説明するための図である。 実施の形態1において、信号分離部が、複数の脈波元信号セグメントに基づいて主成分を分析し、分析した主成分を示す分離信号を生成するまでの流れについて説明するための図である。 実施の形態1において、信号分離部が生成する、主成分を示す分離信号の詳細の一例について説明するための図である。 実施の形態1に係る脈波推定装置の動作について説明するためのフローチャートである。 図7のステップST6における、脈波推定部による脈波推定処理の詳細を説明するためのフローチャートである。 図9A,図9Bは、実施の形態1に係る脈波推定装置のハードウェア構成の一例を示す図である。 実施の形態2に係る脈波推定装置の構成例を示す図である。 実施の形態2に係る脈波推定装置の動作について説明するためのフローチャートである。 実施の形態3に係る脈波推定装置の構成例を示す図である。 実施の形態3において、脈波推定装置が被験者の脈波の推定に用いる脈波元信号セグメントについて説明するための図である。 実施の形態3に係る脈波推定装置の動作について説明するためのフローチャートである。 実施の形態1~3において、脈波推定装置が、公知の一般的な信号分離技術を用いて推定した複数の主成分を示す複数の分離信号に対して成分重みを設定し、複数の分離信号と設定した分離信号毎の成分重みとに基づいて計測領域毎の脈波元信号を復元する機能を有するようにした場合の、脈波推定部の構成例を示す図である。 成分重み設定部が生成する射影係数時系列情報の一例のイメージを示す図である。 実施の形態1~3において、脈波推定装置が、公知の一般的な信号分離技術を用いて推定した複数の主成分を示す複数の分離信号に対して成分重みを設定し、複数の分離信号と設定した分離信号毎の成分重みとに基づいて計測領域毎の脈波元信号を復元する機能を有するようにした場合の、脈波推定部の動作について説明するためのフローチャートである。
以下、本開示の実施の形態について、図面を参照しながら詳細に説明する。
実施の形態1.
図1は、実施の形態1に係る脈波推定装置1の構成例を示す図である。
脈波推定装置1は、人を撮像した撮像画像に基づき、当該人の脈波を推定する。以下の説明において、脈波推定装置1が脈波を推定する対象となる人を「被験者」ともいう。
脈波推定装置1は、予め定められたフレームレートFrで、少なくとも、被験者の肌を含む領域である肌領域が存在すべき範囲(以下「肌存在範囲」という。)を撮像した、一連のフレームIm(k)からなる撮像画像を取得する。ここで、kは、それぞれフレームに割り当てられるフレーム番号を示す。例えば、フレームIm(k)の次のタイミングで与えられるフレームは、フレームIm(k+1)である。
実施の形態1では、肌領域は、被験者の顔に対応する領域とする。なお、これは一例に過ぎず、肌領域は、被験者の顔以外の領域であってもよい。例えば、肌領域は、被験者の目、眉、鼻、口、おでこ、頬、又は、顎のような、顔に属する部位、に対応する領域であってもよい。また、肌領域は、被験者の頭、肩、手、首、又は、足のような、顔以外の身体部位、に対応する領域であってもよい。肌領域は、例えば、頬に対応する肌領域、額に対応する肌領域、又は、首に対応する肌領域のように複数の領域であってもよい。
そして、脈波推定装置1は、1回の脈波推定を行う期間として予め設定された期間(以下「第1期間」という。)に取得した特定のフレーム数Tp毎に、一連のフレームIm(k-Tp+1)~Im(k)から被験者の脈波を推定し、推定した脈波を示す情報(以下「脈波情報」という。)である脈波推定結果P(t)を出力する。具体的には、脈波推定装置1は、一連のフレームIm(k-Tp+1)~Im(k)における被験者の肌領域に対して複数の領域(以下「計測領域」という。)を設定する。そして、脈波推定装置1は、計測領域毎の輝度変化を示す信号(以下「脈波元信号」という。)に対して、独立成分分析(Independent Component Analysis。以下「ICA」という。)又は主成分分析(Principal Component Analysis。以下「PCA」という。)等の一般的な信号分離技術を用いて脈波成分を分離し、分離した脈波成分から、被験者の脈波を推定する。脈波成分を分離するにあたっては、脈波推定装置1は、第1期間の脈波元信号から予め設定された期間(以下「第2期間」という。)の脈波元信号を部分的に抽出した複数の脈波元信号(以下「脈波元信号セグメント」という。)を生成し、複数の脈波元信号セグメントに対してICA又はPCAを行う。
ここで、tは、第1期間に取得された特定のフレーム数Tp毎に割り当てられる出力番号を示す。例えば、脈波推定結果P(t)の次のタイミングで与えられる脈波推定結果は、脈波推定結果P(t+1)である。フレーム番号k及び出力番号tは、1以上の整数である。フレーム数Tpは、2以上の整数である。
被験者の脈波は、肌領域に設定された複数の計測領域の輝度変化から推定されることが効果的である。しかし、人の血流の特性上、複数の計測領域の間の距離が大きいと、当該複数の計測領域で、当該複数の計測領域から抽出される輝度信号には位相差が生じ得る。
ここで、図2は、複数の計測領域間で生じる、人の血流の特性による輝度信号の位相差について説明するための図である。
図2において、図上左側は、被験者が撮像された撮像画像における肌領域を示す図である。図2において、被験者は「H」で示し、肌領域は「sr」で示している。肌領域には、4つの計測領域が設定されたものとしている。図2において、4つの計測領域を「R1」、「R2」、「R3」、及び、「R4」で示している。なお、肌領域の検出方法、及び、計測領域の設定方法の詳細は、後述する。
図上右側は、「R1」で示す計測領域から抽出された輝度信号で示される輝度値を時間軸で示す図(図2において22で示す)、及び、「R3」で示す計測領域から抽出された輝度信号で示される輝度値を時間軸で示す図(図2において21で示す)である。
被験者の血液は、心臓から送り出され、首から額へと流れる。したがって、「R1」で示す計測領域と「R3」で示す計測領域のように、血流の方向における計測領域間の距離が大きいと、言い換えれば、計測領域間の心臓からの距離の差が大きいと、計測領域から抽出される輝度信号に位相差が生じる。
複数の計測領域から抽出された複数の輝度信号の間で位相差が生じていた場合、仮に、計測領域毎の脈波元信号に対してICA又はPCA等の一般的な信号分離技術を用いた脈波成分の分離が行われたとすると、当該脈波成分の分離は、失敗におわる。
実施の形態1に係る脈波推定装置1は、上述したような位相差が生じることを考慮し、複数の脈波元信号セグメントを生成し、生成した複数の脈波元信号セグメントに対してICA又はPCA等の一般的な信号分離技術を用いた脈波成分の分離を行うことで、複数の計測領域から抽出された複数の輝度信号の間で位相差が生じていたとしても、当該位相差を吸収して、被験者の脈波を推定可能とする。
なお、撮像画像に含まれる人である被験者の数は、1人であっても複数人であってもよい。説明を簡単にするため、以下の実施の形態1では、撮像画像に含まれる被験者の数は、1人であるものとして説明する。
実施の形態1では、一例として、脈波推定装置1は車両(図示省略)に搭載されているものとし、被験者は車両のドライバとする。つまり、脈波推定装置1は、車両のドライバの脈波を推定する。脈波推定装置1が推定したドライバの脈波情報は、例えば、車両に搭載されている状態推定装置(図示省略)に出力される。状態推定装置は、脈波推定装置1から出力されたドライバの脈波推定結果P(t)に基づいて、ドライバの状態を推定する。状態推定装置は、例えば、ドライバの状態が運転に適していない状態であると推定した場合、ドライバに対する警告音を出力する。
図1に示すように、脈波推定装置1は、撮像画像取得部11、肌領域検出部12、計測領域設定部13、脈波元信号抽出部14、セグメント生成部15、脈波推定部16、及び、出力部17を備える。脈波推定部16は、信号分離部161、復元部162、及び、推定部163を備える。
脈波推定装置1は、車両に搭載されている撮像装置3と接続される。撮像装置3は、被験者、ここでは、ドライバの肌存在範囲を撮像可能に設置されている。撮像装置3は、例えば、車両内のドライバの状態を監視するために車両に搭載される、いわゆる「ドライバーモニタリングシステム(Driver Monitoring System,DMS)」が有する撮像装置と共用のものであってもよい。
撮像画像取得部11は、撮像装置3から、被験者を撮像した撮像画像を取得する。
撮像画像取得部11は、取得した撮像画像を、肌領域検出部12に出力する。
肌領域検出部12は、撮像画像取得部11が取得した撮像画像に含まれるフレームIm(k)から、被験者の肌領域を検出する。肌領域検出部12は、公知の手段を用いて肌領域を検出すればよい。例えば、肌領域検出部12は、Haar-like特徴量を使用したカスケード型の顔検出器を使用して、肌領域を検出できる。
肌領域検出部12は、検出した肌領域を示す肌領域情報S(k)を生成する。
肌領域情報S(k)は、肌領域の検出の有無を示す情報と、検出された肌領域の撮像画像上における位置及びサイズを示す情報とを含むことができる。実施の形態1では、肌領域は撮像画像上の矩形領域であらわされるものとし、肌領域情報S(k)は、当該矩形領域の撮像画像上における位置及びサイズを示す情報を含むものとする。
具体的には、肌領域が被験者の顔に対応する領域である場合、肌領域情報S(k)は、例えば、被験者の顔の検出の有無と、撮像画像上で当該被験者の顔を囲む矩形の中心座標Fc(Fcx,Fcy)と、この矩形の幅Fcw及び高さFchとを示す。被験者の顔の検出の有無は、例えば、検出できた場合は「1」、検出できなかった場合は「0」であらわされる。また、顔を囲む矩形の中心座標は、フレームIm(k)の座標系で表現される。
なお、肌領域検出部12は、複数の肌領域を検出することもできる。
肌領域検出部12は、生成した肌領域情報S(k)を、計測領域設定部13に出力する。
計測領域設定部13は、撮像画像取得部11が取得した撮像画像のフレームIm(k)と、肌領域検出部12が出力した肌領域情報S(k)とに基づき、フレームIm(k)上の、肌領域情報S(k)で示される肌領域に対応する画像領域に、第1期間における時系列の輝度変化を示す脈波元信号を抽出するための複数の計測領域を設定する。なお、計測領域設定部13は、撮像画像取得部11が取得した撮像画像を、肌領域検出部12を介して取得すればよい。
計測領域設定部13は、複数の計測領域を設定すると、設定した複数の計測領域を示す計測領域情報R(k)を生成する。計測領域情報R(k)は、N(2以上の整数)個の計測領域の撮像画像上における位置及びサイズを示す情報を含む。各計測領域は、計測領域ri(k)(i=2,・・・,N)とする。実施の形態1では、計測領域ri(k)は、四辺形とし、計測領域ri(k)の位置及びサイズは、撮像画像上における、四辺形の4つの頂点の座標値とする。
ここで、図3A、図3B及び図3Cは、実施の形態1に係る脈波推定装置1における、計測領域設定部13による計測領域ri(k)の設定方法の一例について説明するための図である。
図3を用いて、計測領域設定部13が複数の計測領域ri(k)を設定する方法の一例について説明する。
まず、図3A及び図3Bに示されているように、計測領域設定部13は、肌領域情報S(k)で示されている肌領域srにおいて、目尻、目頭、鼻及び口等の顔器官のランドマークをLn(正の整数)個検出する。図3A及び図3Bでは、ランドマークは丸で示されている。計測領域設定部13は、検出したランドマークの座標値を格納したベクトルをL(k)とする。
なお、計測領域設定部13は、Constrained Local Model(CLM)と呼ばれるモデルを用いる等、公知の手段を用いて顔器官を検出すればよい。
次に、計測領域設定部13は、検出したランドマークを基準にして、計測領域ri(k)の四辺形の頂点座標を設定する。例えば、計測領域設定部13は、図3Cに示されているような四辺形の頂点座標を設定し、N個の計測領域ri(k)を設定する。
計測領域設定部13が肌領域srの頬に対応する部分に計測領域ri(k)を設定する例を挙げて説明すると、計測領域設定部13は、顔の輪郭のランドマークLA1と、鼻のランドマークLA2を選択する。計測領域設定部13は、まず、鼻のランドマークLA2を選択し、当該鼻のランドマークLA2から最も近い顔の輪郭のランドマークLA1を選択すればよい。
そして、計測領域設定部13は、ランドマークLA1とランドマークLA2との間の線分を4等分するように補助ランドマークa1、a2、a3を設定する。
同様に、計測領域設定部13は、顔の輪郭のランドマークLB1と、鼻のランドマークLB2とを選択する。また、計測領域設定部13は、ランドマークLB1とランドマークLB2との間の線分を4等分するように補助ランドマークb1、b2、b3を設定する。なお、ランドマークLB1、LB2は、それぞれ、例えば、ランドマークLA1、LA2に隣接する顔の輪郭又は鼻のランドマークから選択されればよい。
計測領域設定部13は、補助ランドマークa1、b1、b2、a2で囲まれる四辺形領域を一つの計測領域R5として設定する。補助ランドマークa1、b1、b2、a2は、それぞれ、計測領域R5に対応する頂点座標となる。
計測領域設定部13は、同様に、補助ランドマークa2、b2、b3、a3で囲まれる一つの計測領域R6及び当該計測領域R6の頂点座標を設定する。
なお、ここでは、頬の対応する部分に計測領域ri(k)を設定する例を説明したが、計測領域設定部13は、例えば、頬の他の部分、及び、あごに対応する部分の肌領域srに対しても同様に、計測領域ri(k)及び当該計測領域ri(k)の頂点座標を設定する。なお、図3Cでは図示していないが、計測領域設定部13は、被験者の肌領域srの額に対応する部分、首に対応する部分、又は、鼻先に対応する部分に、計測領域ri(k)を設定してもよい。
なお、計測領域設定部13は、CLM以外の方法で計測領域ri(k)を設定してもよい。例えば、計測領域設定部13は、Kanade-Lucas-Tomasi(KLT)トラッカー等のトラッキング技術を用いて計測領域ri(k)を設定してもよい。具体的には、計測領域設定部13は、一連のフレームIm(k-Tp+1)~Im(k)のうちの最初のフレームIm(1)の肌領域に対しCLMによって顔器官点の座標を検出し、次のフレームIm(2)の肌領域以降は、KLTトラッカーにより顔器官点をトラッキングし、各フレームIm(k)の肌領域に対する顔器官点を算出してもよい。この場合、トラッキングによる検出誤差が蓄積するため、計測領域設定部13は、数フレームに一回CLMを実行し、顔器官点の座標位置をリセットする等のリセット処理を行ってもよい。
計測領域設定部13は、生成した計測領域情報R(k)を、脈波元信号抽出部14に出力する。
脈波元信号抽出部14は、撮像画像取得部11が取得した撮像画像のフレームIm(k)と、計測領域設定部13から出力された計測領域情報R(k)とに基づき、フレームIm(k)上の、計測領域情報R(k)で示される複数の計測領域ri(k)の各々から、第1期間における輝度変化を示す脈波元信号を抽出する。なお、脈波元信号は、脈波の元となる信号である。脈波推定装置1は、脈波元信号を用いて被験者の脈波を推定する。被験者の脈波の推定は、脈波推定部16が行う。脈波推定部16の詳細は後述する。
脈波元信号抽出部14は、撮像画像取得部11が取得した撮像画像を、肌領域検出部12及び計測領域設定部13を介して取得すればよい。
脈波元信号抽出部14は、脈波元信号を抽出すると、抽出した脈波元信号を示す脈波元信号情報W(t)を生成する。
脈波元信号情報W(t)は、計測領域ri(k)で抽出された脈波元信号wi(t)を示す情報を含む。脈波元信号wi(t)は、Tp分の時系列データであり、例えば、過去Tp分のフレームIm(k-Tp+1),Im(k-Tp+2),・・・,Im(k)と、計測領域情報R(k-Tp+1),R(k-Tp+2),・・・,R(k)とに基づいて抽出される。
脈波元信号wi(t)を抽出するにあたっては、脈波元信号抽出部14は、撮像画像の各フレームIm(k)に対して、1つ前のフレームIm(k-1)との、各計測領域ri(k)の輝度特徴量の差分Gi(j)(j=k-Tp+1,k-Tp+2,・・・,k)を算出する。輝度特徴量は、各計測領域ri(j)に対し、撮像画像のフレームIm(j)上の輝度値に基づいて算出される値である。輝度特徴量は、計測領域ri(j)内に含まれる画素の輝度値の平均又は分散等である。実施の形態1では、一例として、輝度特徴量は、計測領域ri(j)に含まれる画素の輝度値の平均とする。
脈波元信号抽出部14は、第1期間に取得された撮像画像の各フレームIm(k)に対し算出したGi(j)を時系列に並べて脈波元信号wi(t)とする。すなわち、脈波元信号抽出部14は、脈波元信号wi(t)=[Gi(k-Tp+1),Gi(k-Tp+2),・・・,Gi(k)]とする。
なお、脈波元信号抽出部14は、撮像画像の各フレームIm(k)に対して、各計測領域ri(k)の輝度特徴量を算出することで、脈波元信号wi(t)を抽出してもよい。
脈波元信号抽出部14は、各計測領域ri(k)における脈波元信号wi(t)を示す脈波元信号情報W(t)を生成する。脈波元信号情報W(t)は、各計測領域ri(k)における脈波元信号wi(t)と当該脈波元信号wi(t)がどの計測領域ri(k)から抽出された脈波元信号wi(t)であるかを示す情報とを含む。
脈波元信号抽出部14は、生成した脈波元信号情報W(t)を、セグメント生成部15に出力する。
セグメント生成部15は、脈波元信号抽出部14から出力された脈波元信号情報W(t)に基づき、計測領域ri(k)毎に、予め設定された条件(以下「セグメント生成用条件」という。)に従って、第1期間における脈波元信号wi(t)のうちから、第2期間分の脈波元信号wi(t)を部分的に抽出した信号である脈波元信号セグメントを複数生成する。
セグメント生成用条件は、予め、管理者等によって生成され、セグメント生成部15が保持している。
セグメント生成用条件には、例えば、以下の(1)~(5)のような条件が設定されている。セグメント生成部15は、(1)~(5)の全てを満たすよう、複数の脈波元信号セグメントを生成する。
(1)第2期間は第1期間よりも短い期間であること
(2)ある計測領域における複数の脈波元信号セグメントについて、ある脈波元信号セグメントは他の脈波元信号セグメントと時間軸上で互いに完全に一致しない信号であること
(3)ある計測領域における複数の脈波元信号セグメントについて、ある脈波元信号セグメントは他の脈波元信号セグメントと時間軸上で部分的に重なる信号であること
(4)各計測領域において、ある脈波元信号セグメントが他の脈波元信号セグメントと時間軸上で部分的に重なる長さは同じであること
(5)各計測領域における複数の脈波元信号セグメントの時間軸上の長さは互いに同じであること
ここで、図4は、実施の形態1において、セグメント生成部15が生成する脈波元信号セグメントの一例について説明するための図である。
図4上、左の図は、計測領域ri(k)が設定された肌領域srを示す図(以下「肌領域図」という。)である。肌領域図において、被験者は「H」で示している。肌領域図に示すように、今、肌領域srには、4つの計測領域ri(k)が設定されたとする。具体的には、被験者の顎部分に2つの計測領域ri(k)(肌領域図上、「n」及び「n」で示す)と、被験者の額部分に2つの計測領域ri(k)(肌領域図上、「f」及び「f」で示す)が設定されたとする。以下の説明において、「n」で示す計測領域ri(k)を「第1計測領域」、「n」で示す計測領域ri(k)を「第2計測領域」、「f」で示す計測領域ri(k)を「第3計測領域」、「f」で示す計測領域ri(k)を「第4計測領域」という。
図4上、真ん中の図は、第1計測領域及び第3計測領域に対してセグメント生成部15が生成する脈波元信号セグメントの一例について説明するための図(以下「セグメント生成図」という。)である。セグメント生成図において、第1期間(セグメント生成図において「X」で示す)における脈波元信号wi(t)で示される輝度値を時間軸で示している。
セグメント生成図上、上は、セグメント生成部15が第1計測領域から抽出された脈波元信号wi(t)(セグメント生成図上「401」で示す)から第2期間分の脈波元信号wi(t)を部分的に抽出して生成した、第1計測領域に対する複数の脈波元信号セグメント(=p1-1,p1-2,p1-3,p1-4,p1-5,・・・,p1-M)の一例を示し、下は、セグメント生成部15が第3計測領域から抽出された脈波元信号wi(t)(セグメント生成図上「402」で示す)から第2期間分の脈波元信号wi(t)を部分的に抽出して生成した、第3計測領域に対する複数の脈波元信号セグメント(=p3-1,p3-2,p3-3,p3-4,p1-5,・・・,p3-M)の一例を示す。
セグメント生成部15は、計測領域ri(k)毎に、1回の脈波推定を行う期間である第1期間に対して、セグメント生成用条件に従って、第1期間における脈波元信号wi(t)のうちから第2期間分の脈波元信号wi(t)を部分的に抽出したM(Mは2以上の整数)個の脈波元信号セグメントを生成する。
なお、各脈波元信号セグメントには、脈波元信号セグメントが、どの計測領域ri(k)の脈波元信号wi(t)から生成された、時間軸上で何番目の脈波元信号セグメントであるかがわかる情報と、抽出元となった時系列の脈波元信号wi(t)の時間軸上の時間の範囲が分かる情報とが付与される。例えば、脈波元信号セグメントp1-1は、第1計測領域の脈波元信号wi(t)に対して生成された複数の脈波元信号セグメントのうち、時間軸上で1番目の脈波元信号セグメント、言い換えれば、一番早い時間帯の脈波元信号セグメントであることを示す。当該脈波元信号セグメントp1-1には、例えば、〇時〇分〇秒~△時△分△秒までの第1計測領域の脈波元信号wi(t)であることが分かる情報が付与されている。
図4のセグメント生成図では、便宜上、第1計測領域及び第3計測領域に対してのM個の脈波元信号セグメントを図示したが、セグメント生成部15は、第2計測領域及び第4計測領域に対しても、それぞれ、M個の脈波元信号セグメントを生成する。すなわち、セグメント生成部15は、第2計測領域に対するM個の脈波元信号セグメント(=p2-1,p2-2,p2-3,p2-4,p2-5,・・・,p2-M)と、第4計測領域に対するM個の脈波元信号セグメント(=p4-1,p4-2,p4-3,p4-4,p4-5,・・・,p4-M)も生成する。
上述したとおり、計測領域ri(k)間の心臓からの距離の差が大きいと、計測領域ri(k)から抽出される輝度信号に位相差が生じる。反対に、計測領域ri(k)間の心臓からの距離の差がほとんどない場合は、計測領域ri(k)から抽出される輝度信号に位相差は生じない。第2計測領域は、第1計測領域とは心臓からの距離の差がほとんどないといえるので、第2計測領域に対するM個の脈波元信号セグメントは、第1計測領域に対するM個の脈波元信号セグメントと同じ内容の信号となる。また、第4計測領域は、第3計測領域とは心臓からの距離の差がほとんどないといえるので、第4計測領域に対するM個の脈波元信号セグメントは、第3計測領域に対するM個の脈波元信号セグメントと同じ内容の信号となる。なお、実施の形態1において、「同じ」とは、完全に一致することに限定されず、許容される範囲内での「略一致」を含む。
セグメント生成部15は、各計測領域ri(k)に対して複数の脈波元信号セグメントを生成すると、生成した脈波元信号セグメントから軌跡行列を生成し、これを記憶部(図示省略)にスタックする。記憶部は、脈波推定装置1が参照可能な場所に備えられている。
図4では、計測領域ri(k)は4つとしているので、セグメント生成部15は、各計測領域ri(k)に対してM個の脈波元信号セグメントを生成すると、M×4行の軌跡行列(=[p1-1,p1-2,p1-3,p1-4,p1-5,・・・,p1-M],・・・,[p4-1,p4-2,p4-3,p4-4,p4-5,・・・,p4-M])をスタックする(図4上、右の図参照)。
なお、ここでは、計測領域ri(k)は4つとしたが、これは一例に過ぎず、計測領域ri(k)はN個設定され得る。セグメント生成部15は、M×N行の軌跡行列(=[p1-1,p1-2,p1-3,p1-4,p1-5,・・・,p1-M],・・・,[pN-1,pN-2,pN-3,pN-4,pN-5,・・・,pN-M])をスタックする。
セグメント生成部15は、軌跡行列をスタックすると、その旨を脈波推定部16に通知する。
脈波推定部16は、セグメント生成部15から軌跡行列をスタックした旨が通知されると、計測領域ri(k)毎に生成された複数の脈波元信号セグメントに基づいて、被験者の脈波を推定する。
詳細には、まず、信号分離部161が、複数の脈波元信号セグメントに基づいて複数の信号成分(以下「主成分」という。)を示す信号(以下「分離信号」という。)を生成する。具体的には、信号分離部161は、PCA又はICA等、一般的な信号分離技術を用いて、複数の主成分を分析し、分析した複数の主成分を示す分離信号を生成する。PCA又はICA等、一般的な信号分離技術を用いた信号成分の分析を行うことで、信号分離部161は、複数の脈波元信号セグメントから、脈波成分らしい成分とノイズ成分らしい成分とを分離する。
なお、信号分離部161は、全ての計測領域ri(k)に対応する複数の脈波元信号セグメントに基づいて、複数の主成分を示す分離信号を生成する。
ここで、図5は、実施の形態1において、信号分離部161が、複数の脈波元信号セグメントに基づいて主成分を分析し、分析した主成分を示す分離信号を生成するまでの流れについて説明するための図である。
ここでは、計測領域ri(k)として、図4に示すような、第1計測領域、第2計測領域、第3計測領域、及び、第4計測領域の、4つの計測領域ri(k)が設定されているとする。
図5において図上左側に示す、第1計測領域、第2計測領域、第3計測領域、及び、第4計測領域毎に複数の脈波元信号セグメントが生成されM×4行の軌跡行列がスタックされるまでの処理の流れは、セグメント生成部15によって行われる処理の流れであり、図4を用いて説明済みであるため、重複した説明を省略する。
信号分離部161は、セグメント生成部15がスタックしたM×4行の軌跡行列に対し、PCA又はICA等、公知の一般的な信号分離技術を用いて、主成分の分析を行う。その結果、信号分離部161は、C(正の整数)個の主成分を分析し、分析したC個の主成分を示す分離信号を生成する。なお、一般的な信号分離技術では、できるだけ多くの情報を持つ主成分から順に生成される。すなわち、第1主成分c1、第2主成分c2、第3主成分c3、・・・、第C主成分cCは、情報量の多い順番となっている。
図6は、実施の形態1において、信号分離部161が生成する、主成分を示す分離信号の詳細の一例について説明するための図である。
なお、図6は、図5に示す分離信号(=[c1,c2,c3,c4,c5,・・・,cC])、言い換えれば、図4に示す第1計測領域、第2計測領域、第3計測領域、及び、第4計測領域毎に生成された複数の脈波元信号セグメントに基づいて、信号分離部161が生成した分離信号(=[c1,c2,c3,c4,c5,・・・,cC])の詳細としている。
各分離信号は、その分離信号が示す主成分が含んでいる情報量が分析された元となった、複数の脈波元信号セグメントの軌跡行列を含んでいる。図6に示す例でいうと、第1主成分c1~第C主成分cCを示す分離信号(=[c1,c2,c3,c4,c5,・・・,cC])は、第1計測領域の脈波元信号wi(t)から生成された脈波元信号セグメント(=p1-1,p1-2,p1-3,p1-4,p1-5,・・・,p1-M)、第2計測領域の脈波元信号wi(t)から生成された脈波元信号セグメント(=p2-1,p2-2,p2-3,p2-4,p2-5,・・・,p2-M)、第3計測領域の脈波元信号wi(t)から生成された脈波元信号セグメント(=p3-1,p3-2,p3-3,p3-4,p3-5,・・・,p3-M)、及び、第4計測領域の脈波元信号wi(t)から生成された脈波元信号セグメント(=p4-1,p4-2,p4-3,p4-4,p4-5,・・・,p4-M)に基づいて生成された分離信号である。よって、第1主成分c1~第C主成分cCを示す分離信号は、それぞれ、M×4行の軌跡行列(=[p1-1,p1-2,p1-3,p1-4,p1-5,・・・,p1-M],・・・,[p4-1,p4-2,p4-3,p4-4,p4-5,・・・,p4-M])を含んでいる。
また、各分離信号(=[c1,c2,c3,c4,c5,・・・,cC])には、射影係数が付与されている。射影係数は、主成分の情報量に応じて付与される係数であり、公知の一般的な信号分離技術を用いた主成分の分析の過程で付与される。
射影係数は、分離信号毎に、各計測領域ri(k)における各脈波元信号セグメントに対して付与される。例えば、図6に示す例でいうと、第1主成分c1に対しては、第1計測領域におけるM個の脈波元信号セグメントにそれぞれ対応する射影係数と、第2計測領域におけるM個の脈波元信号セグメントにそれぞれ対応する射影係数と、第3計測領域におけるM個の脈波元信号セグメントにそれぞれ対応する射影係数と、第4計測領域におけるM個の脈波元信号セグメントにそれぞれ対応する射影係数とが付与されている。
例えば、図6において、第1主成分c1を示す分離信号に付与されている射影係数(q1,1-1)は、第1主成分c1の、第1計測領域における時間軸上で1番目の脈波元信号セグメントに対応する射影係数であることを示している。また、例えば、図6において、第1主成分c1を示す分離信号に付与されている射影係数(q1,4-M)は、第1主成分c1の、第4計測領域における時間軸上でM番目の脈波元信号セグメントに対応する射影係数であることを示している。また、例えば、図6において、第C主成分cCを示す分離信号に付与されている射影係数(qC,1-1)は、第C主成分cCの、第1計測領域における時間軸上で1番目の脈波元信号セグメントに対応する射影係数であることを示している。
信号分離部161は、生成した複数の分離信号、詳細には、生成した複数の主成分を示す複数の分離信号に関する分離信号情報Sep(t)を、復元部162に出力する。
分離信号情報Sep(t)は、脈波元信号情報W(t)に基づいて生成された複数(M×N個)の脈波元信号セグメントから生成されたC個の分離信号を含む。
復元部162は、信号分離部161から出力された分離信号情報Sep(t)に基づいて、計測領域ri(k)毎の脈波元信号wi(t)を復元する。
上述のとおり、分離信号情報Sep(t)に含まれている各分離信号には、各計測領域ri(k)の各脈波元信号wi(t)に基づいて生成された複数の脈波元信号セグメントが含まれているので、復元部162は、分離信号情報Sep(t)に含まれている複数の分離信号から計測領域ri(k)毎の脈波元信号wi(t)を復元できる。
復元部162は、計測領域ri(k)毎の脈波元信号wi(t)を復元すると、復元した計測領域ri(k)毎の脈波元信号wi(t)を示す復元後脈波元信号情報RW(t)を生成する。
復元後脈波元信号情報RW(t)は、復元された計測領域ri(k)毎の脈波元信号wi(t)(以下「復元後脈波元信号」という。)を含む。
復元部162は、生成した復元後脈波元信号情報RW(t)を、推定部163に出力する。
推定部163は、復元部162から出力された復元後脈波元信号情報RW(t)に基づき、被験者の脈波を推定する。
推定部163は、推定した脈波を示す脈波情報である脈波推定結果P(t)を出力部17に出力する。
脈波情報は、例えば、推定部163が推定した被験者の脈波の時系列データであってもよいし、被験者の脈拍数であってもよいし、被験者の脈拍間隔であってもよい。ここでは、説明を簡便にするため、脈波情報は、被験者の脈拍数(1分間当たりのはく数)とする。
推定部163による被験者の脈波の推定方法について、具体的に説明する。
推定部163は、例えば、各計測領域ri(k)の復元後脈波元信号のS/N比を求める。推定部163は、各計測領域ri(k)の復元後脈波元信号に対して求めたS/N比に基づく重み付けをした上で、各計測領域ri(k)に対応する復元後脈波元信号を合算した合成脈波信号情報D(t)を算出する。すなわち、推定部163は、全ての計測領域ri(k)に対して1つの合成脈波信号情報D(t)を算出する。S/N比に基づく重み付けが行われているため、合成脈波信号情報D(t)は、ノイズ成分が除去された、脈波成分らしい信号になっていると想定される。
そして、推定部163は、合成脈波信号情報D(t)に対し、フーリエ変換を行い、所定の周波数範囲内での、周波数パワースペクトルにおけるピーク周波数を脈拍数として算出する。所定の周波数範囲は、人の心拍数の範囲を考慮して設定される。
出力部17は、脈波推定部16から出力された脈波推定結果P(t)を、例えば、状態推定装置に出力する。
なお、出力部17の機能は脈波推定部16に備えられていてもよい。
実施の形態1に係る脈波推定装置1の動作について説明する。
図7は、実施の形態1に係る脈波推定装置1の動作について説明するためのフローチャートである。
脈波推定装置1は、例えば、車両の電源がオンにされると、車両の電源がオフにされるまで、図7のフローチャートで示すような処理を繰り返す。
撮像画像取得部11は、撮像装置3から、被験者を撮像した撮像画像を取得する(ステップST1)。
撮像画像取得部11は、取得した撮像画像を、肌領域検出部12に出力する。
肌領域検出部12は、ステップST1にて撮像画像取得部11が取得した撮像画像に含まれるフレームIm(k)から、被験者の肌領域を検出する(ステップST2)。
肌領域検出部12は、生成した肌領域情報S(k)を、計測領域設定部13に出力する。
計測領域設定部13は、ステップST1にて撮像画像取得部11が取得した撮像画像のフレームIm(k)と、ステップST2にて肌領域検出部12が出力した肌領域情報S(k)とに基づき、フレームIm(k)上の、肌領域情報S(k)で示される肌領域に対応する画像領域に、第1期間における時系列の輝度変化を示す脈波元信号wi(t)を抽出するための複数の計測領域ri(k)を設定する(ステップST3)。
計測領域設定部13は、生成した計測領域情報R(k)を、脈波元信号抽出部14に出力する。
脈波元信号抽出部14は、ステップST1にて撮像画像取得部11が取得した撮像画像のフレームIm(k)と、ステップST3にて計測領域設定部13から出力された計測領域情報R(k)とに基づき、フレームIm(k)上の、計測領域情報R(k)で示される複数の計測領域ri(k)の各々から、第1期間における輝度変化を示す脈波元信号wi(t)を抽出する(ステップST4)。
脈波元信号抽出部14は、各計測領域ri(k)における脈波元信号wi(t)を示す脈波元信号情報W(t)を生成する。
脈波元信号抽出部14は、生成した脈波元信号情報W(t)を、セグメント生成部15に出力する。
セグメント生成部15は、ステップST4にて脈波元信号抽出部14から出力された脈波元信号情報W(t)に基づき、計測領域ri(k)毎に、セグメント生成用条件に従って、第1期間における脈波元信号wi(t)のうちから、第2期間分の脈波元信号wi(t)を部分的に抽出した信号である脈波元信号セグメントを複数生成する(ステップST5)。
セグメント生成部15は、各計測領域ri(k)に対して複数の脈波元信号セグメントを生成すると、生成した脈波元信号セグメントから軌跡行列を生成し、これを記憶部にスタックする。
セグメント生成部15は、軌跡行列をスタックすると、その旨を脈波推定部16に通知する。
脈波推定部16は、ステップST5にてセグメント生成部15から軌跡行列をスタックした旨が通知されると、計測領域ri(k)毎に生成された複数の脈波元信号セグメントに基づいて、被験者の脈波を推定する脈波推定処理を実施する(ステップST6)。
脈波推定部16は、推定した脈波を示す脈波情報である脈波推定結果P(t)を出力部17に出力する。
出力部17は、脈波推定部16から出力された脈波推定結果P(t)を、例えば、状態推定装置に出力する。
図8は、図7のステップST6における、脈波推定部16による脈波推定処理の詳細を説明するためのフローチャートである。
信号分離部161は、複数の脈波元信号セグメントに基づいて複数の主成分を示す分離信号を生成する(ステップST11)。
信号分離部161は、生成した複数の分離信号、詳細には、生成した複数の主成分を示す分離信号に関する分離信号情報Sep(t)を、復元部162に出力する。
復元部162は、ステップST11にて信号分離部161から出力された分離信号情報Sep(t)に基づいて、計測領域ri(k)毎の脈波元信号wi(t)を復元する(ステップST12)。
復元部162は、復元後脈波元信号情報RW(t)を、推定部163に出力する。
推定部163は、ステップST12にて復元部162から出力された復元後脈波元信号情報RW(t)に基づき、被験者の脈波を推定する(ステップST13)。
推定部163は、推定した脈波を示す脈波情報である脈波推定結果P(t)を出力部17に出力する。
出力部17は、脈波推定部16から出力された脈波推定結果P(t)を、例えば、状態推定装置に出力する。
このように、実施の形態1に係る脈波推定装置1は、被験者が撮像された撮像画像から検出した撮像画像上の肌領域に対応する領域に複数の計測領域ri(k)を設定し、計測領域ri(k)毎に、当該計測領域ri(k)における、1回の脈波推定を行う期間である第1期間の輝度変化に基づき脈波元信号wi(t)を抽出する。脈波推定装置1は、計測領域ri(k)毎に、当該計測領域ri(k)から抽出した脈波元信号wi(t)に基づき、セグメント生成用条件に従って、第1期間における脈波元信号wi(t)のうちから第2期間分の脈波元信号wi(t)を部分的に抽出した脈波元信号セグメントを複数生成して、複数の脈波元信号セグメントに基づいて被験者の脈波を推定する。
脈波推定装置1は、第1期間の脈波元信号wi(t)に基づいて第1期間よりも短い第2期間分の脈波元信号wi(t)を部分的に抽出した脈波元信号セグメントを複数生成することで、脈波元信号wi(t)を、位相が揃った対がある状態とできる。そして、脈波推定装置1は、位相が揃った対がある状態とした脈波元信号wi(t)、言い換えれば、複数の脈波元信号セグメントに基づいて被験者の脈波を推定するので、複数の脈波元信号wi(t)に対するICA又はPCA等の公知の一般的な信号分離技術を用いた脈波成分の分離を失敗しないようにでき、その結果、被験者の脈波を推定できる。このように、脈波推定装置1は、複数の計測領域ri(k)から抽出された輝度信号に位相差が生じていても、当該輝度信号に基づく被験者の脈波の推定を行うことができる。
図9A,図9Bは、実施の形態1に係る脈波推定装置1のハードウェア構成の一例を示す図である。
実施の形態1において、撮像画像取得部11と、肌領域検出部12と、計測領域設定部13と、脈波元信号抽出部14と、セグメント生成部15と、脈波推定部16と、出力部17の機能は、処理回路101により実現される。すなわち、脈波推定装置1は、第1期間に取得された撮像画像における被験者の肌領域に対して設定された複数の計測領域ri(k)の輝度変化を示す脈波元信号wi(t)を部分的に抽出した複数の脈波元信号セグメントを生成し、独立成分分析又は主成分分析等の技術を用いて脈波元信号セグメントから脈波成分を分離し、分離した脈波成分から被験者の脈波を推定する制御を行うための処理回路101を備える。
処理回路101は、図9Aに示すように専用のハードウェアであっても、図9Bに示すようにメモリに格納されるプログラムを実行するプロセッサ104であってもよい。
処理回路101が専用のハードウェアである場合、処理回路101は、例えば、単一回路、複合回路、プログラム化したプロセッサ、並列プログラム化したプロセッサ、ASIC(Application Specific Integrated Circuit)、FPGA(Field-Programmable Gate Array)、又はこれらを組み合わせたものが該当する。
処理回路がプロセッサ104の場合、撮像画像取得部11と、肌領域検出部12と、計測領域設定部13と、脈波元信号抽出部14と、セグメント生成部15と、脈波推定部16と、出力部17の機能は、ソフトウェア、ファームウェア、又は、ソフトウェアとファームウェアとの組み合わせにより実現される。ソフトウェア又はファームウェアは、プログラムとして記述され、メモリ105に記憶される。プロセッサ104は、メモリ105に記憶されたプログラムを読み出して実行することにより、撮像画像取得部11と、肌領域検出部12と、計測領域設定部13と、脈波元信号抽出部14と、セグメント生成部15と、脈波推定部16と、出力部17の機能を実行する。すなわち、脈波推定装置1は、プロセッサ104により実行されるときに、上述の図7のステップST1~ステップST6が結果的に実行されることになるプログラムを格納するためのメモリ105を備える。また、メモリ105に記憶されたプログラムは、撮像画像取得部11と、肌領域検出部12と、計測領域設定部13と、脈波元信号抽出部14と、セグメント生成部15と、脈波推定部16と、出力部17の処理の手順又は方法をコンピュータに実行させるものであるともいえる。ここで、メモリ105とは、例えば、RAM、ROM(Read Only Memory)、フラッシュメモリ、EPROM(Erasable Programmable Read Only Memory)、EEPROM(Electrically Erasable Programmable Read-Only Memory)等の、不揮発性もしくは揮発性の半導体メモリ、磁気ディスク、フレキシブルディスク、光ディスク、コンパクトディスク、ミニディスク、DVD(Digital Versatile Disc)等が該当する。
なお、撮像画像取得部11と、肌領域検出部12と、計測領域設定部13と、脈波元信号抽出部14と、セグメント生成部15と、脈波推定部16と、出力部17の機能について、一部を専用のハードウェアで実現し、一部をソフトウェア又はファームウェアで実現するようにしてもよい。例えば、撮像画像取得部11と出力部17については専用のハードウェアとしての処理回路101でその機能を実現し、肌領域検出部12と、計測領域設定部13と、脈波元信号抽出部14と、セグメント生成部15と、脈波推定部16についてはプロセッサ104がメモリ105に格納されたプログラムを読み出して実行することによってその機能を実現することが可能である。
図示しない記憶部は、例えば、メモリ105で構成される。
また、脈波推定装置1は、撮像装置3等の装置と、有線通信又は無線通信を行う入力インタフェース装置102及び出力インタフェース装置103を備える。
なお、以上の実施の形態1では、被験者は車両のドライバとしたが、これは一例に過ぎない。被験者は、車両のドライバ以外の乗員としてもよい。
また、以上の実施の形態1では、脈波推定装置1は車載装置とし、撮像画像取得部11と、肌領域検出部12と、計測領域設定部13と、脈波元信号抽出部14と、セグメント生成部15と、脈波推定部16と、出力部17は、車載装置に備えられていた。
これに限らず、撮像画像取得部11と、肌領域検出部12と、計測領域設定部13と、脈波元信号抽出部14と、セグメント生成部15と、脈波推定部16と、出力部17のうち、一部が車両の車載装置に搭載され、その他が当該車載装置とネットワークを介して接続されるサーバに備えられて、車載装置とサーバとでシステムを構成してもよい。
また、撮像画像取得部11と、肌領域検出部12と、計測領域設定部13と、脈波元信号抽出部14と、セグメント生成部15と、脈波推定部16と、出力部17が全部サーバに備えられてもよい。
また、以上の実施の形態1に係る脈波推定装置1は、車両に搭載される車載装置に限らず、例えば、家電機器に適用することもできる。また、被験者は、車両の乗員に限らず、様々な人とできる。
具体例を挙げると、脈波推定装置1は、住居においてリビングに設置されているテレビに搭載されてもよい。この場合、被験者は、住居の住人等のユーザである。脈波推定装置1は、テレビに搭載されている撮像装置が撮像した撮像画像に基づき、ユーザの脈波を推定する。
以上のように、実施の形態1に係る脈波推定装置1は、人(被験者)を撮像した撮像画像を取得する撮像画像取得部11と、撮像画像から人(被験者)の肌領域を検出する肌領域検出部12と、撮像画像上の肌領域に対応する領域に、第1期間における時系列の輝度変化を示す脈波元信号wi(t)を抽出するための複数の計測領域ri(k)を設定する計測領域設定部13と、計測領域ri(k)毎に、当該計測領域ri(k)における第1期間の輝度変化に基づき、脈波元信号wi(t)を抽出する脈波元信号抽出部14と、計測領域ri(k)毎に、計測領域ri(k)から抽出された脈波元信号wi(t)に基づき、セグメント生成用条件に従って、第1期間における脈波元信号wi(t)のうちから第2期間分の脈波元信号wi(t)を部分的に抽出した脈波元信号セグメントを複数生成するセグメント生成部15と、計測領域ri(k)毎に生成された複数の脈波元信号セグメントに基づいて人(被験者)の脈波を推定する脈波推定部16とを備えるように構成した。そのため、脈波推定装置1は、複数の計測領域ri(k)から抽出された輝度信号に位相差が生じていても、当該輝度信号に基づく人の脈波の推定を行うことができる。
実施の形態2.
実施の形態1では、脈波元信号セグメントの生成に用いられる第2期間の長さは、一律としていた。
実施の形態2では、脈波元信号セグメントの生成に用いられる第2期間の長さを調整する実施の形態について説明する。
なお、以下の実施の形態2でも、実施の形態1同様、脈波推定装置は車両に搭載されており、被験者は車両のドライバであることを想定する。
図10は、実施の形態2に係る脈波推定装置1aの構成例を示す図である。
実施の形態2に係る脈波推定装置1aの構成について、実施の形態1にて図1を用いて説明した脈波推定装置1と同じ構成には、同じ符号を付して重複した説明を省略する。
実施の形態2に係る脈波推定装置1aは、実施の形態1に係る脈波推定装置1とは、パラメータ設定部18を備えた点が異なる。
パラメータ設定部18は、脈波推定部16が推定した被験者の脈波に基づいて、第2期間の長さを示す情報を少なくとも含むセグメントパラメータを設定する。
詳細には、パラメータ設定部18は、脈波推定部16が推定した被験者の脈波に基づいて、第2期間が被験者の脈波の1周期分の時間となるよう第2期間の長さを算出し、算出した第2期間の長さを示す情報を含むセグメントパラメータを設定する。
なお、第2期間と被験者の脈波の1周期分の時間とが同じでなくてもよく、パラメータ設定部18は、第2期間が、被験者の脈波の1周期分の時間よりも長くなるよう、第2期間を算出していればよい。
なお、パラメータ設定部18は、第2期間の長さを示す情報の他に、例えば、第2期間の部分的な重なりの大きさに関する情報をセグメントパラメータとして設定する。パラメータ設定部18は、処理負荷における観点から、脈波元信号セグメントの長さに応じて脈波元信号セグメント同士の重なりの大きさを可変に設定することができる。
パラメータ設定部18は、設定したセグメントパラメータをセグメント生成部15に出力する。
実施の形態2では、推定部163は、推定した脈波を示す脈波情報である脈波推定結果P(t)を、出力部17及びパラメータ設定部18に出力する。
また、実施の形態2では、セグメント生成部15は、セグメントパラメータに基づいて、パラメータ設定部18が設定した第2期間を用いて、脈波元信号セグメントを生成する。
具体的には、セグメント生成部15は、セグメントパラメータに基づいて、パラメータ設定部18が設定した第2期間の長さを、脈波元信号セグメントの生成に用いる第2期間の長さに設定した上で、計測領域ri(k)毎に、セグメント生成用条件に従って、第1期間における脈波元信号wi(t)のうちから第2期間分の脈波元信号wi(t)を部分的に抽出した脈波元信号セグメントを複数生成する。
なお、パラメータ設定部18が設定した第2期間の長さの情報は、パラメータ設定部18がセグメントパラメータを設定した以降の、セグメント生成部15による脈波元信号セグメントの生成で用いられることになる。よって、脈波推定装置1aによる被験者の脈波推定の開始直後等、セグメント生成部15が脈波元信号セグメントを生成する際に、パラメータ設定部18からセグメントパラメータを得られていない場合もあり得る。この場合、セグメント生成部15は、例えば、管理者等によって予め設定され、セグメント生成部15が保持している、第2期間の初期値を用いて、脈波元信号セグメントを生成すればよい。
以降、パラメータ設定部18がセグメントパラメータ設定のための情報、言い換えれば、脈波推定結果を得られていない場合は、パラメータ設定部18は、過去に設定済みのセグメントパラメータのうち、直近で設定したセグメントパラメータを継続して設定する、または、第2の期間を初期値にリセットする。
実施の形態2に係る脈波推定装置1aの動作について説明する。
図11は、実施の形態2に係る脈波推定装置1aの動作について説明するためのフローチャートである。
脈波推定装置1aは、例えば、車両の電源がオンにされると、車両の電源がオフにされるまで、図11のフローチャートで示すような処理を繰り返す。
図11において、ステップST21~ステップST24、及び、ステップST28~ステップST29の具体的な動作は、それぞれ、実施の形態1にて説明済みの、図7のステップST1~ステップST6の具体的な動作と同様であるため、重複した説明を省略する。
セグメント生成部15は、ステップST24にて脈波元信号抽出部14から脈波元信号情報W(t)が出力されると、パラメータ設定部18によってセグメントパラメータが設定済みか、言い換えれば、パラメータ設定部18からセグメントパラメータが出力されたかを判定する(ステップST25)。
セグメント生成部15によってセグメントパラメータが設定済みであると判定した場合(ステップST25の“YES”の場合)、セグメント生成部15は、セグメントパラメータに基づいて、パラメータ設定部18が設定した第2期間の長さを、脈波元信号セグメントの生成に用いる第2期間の長さに設定する(ステップST26)。
セグメント生成部15によってセグメントパラメータが設定済みではないと判定した場合(ステップST25の“NO”の場合)、セグメント生成部15は、第2期間に初期値を設定する(ステップST27)。
ステップST29にて脈波推定部16が被験者の脈波を推定すると、パラメータ設定部18は、脈波推定部16が推定した被験者の脈波に基づいて、第2期間の長さを示す情報を含むセグメントパラメータを設定する(ステップST30)。
このように、脈波推定装置1aは、脈波推定部16が推定した被験者の脈波に基づいて第2期間を算出し、当該第2期間の長さを示す情報を含むセグメントパラメータを設定すると、設定したセグメントパラメータに従って第2期間を設定する。そして、脈波推定装置1aは、セグメントパラメータに従って設定した第2期間を用いて、第1期間における脈波元信号wi(t)のうちから第2期間分の脈波元信号wi(t)を部分的に抽出した脈波元信号セグメントを複数生成する。
脈波の推定にあたっては、繰り返しあらわれる被験者の脈波成分を捉える必要がある。しかし、被験者の脈波の周期は、被験者の状態、又は、被験者がどの人か等によって変わってくる。例えば、同じ被験者であっても当該被験者の状態に変化が発生した場合、又は、被験者の変更があった場合、脈波推定装置1aが推定しようとする被験者の脈波の1周期分の時間が変わる。例えば、被験者の脈拍数が60bpm(beat per minitues)であれば被験者の脈波の1周期分の時間は1秒となるし、被験者の脈拍数が100bpmであれば被験者の脈波の1周期分の時間は0.6秒となる。
実施の形態2に係る脈波推定装置1aは、上述のとおり、被験者の脈波の推定のための脈波元信号セグメントの生成に用いられる第2期間の長さを、推定済みの被験者の脈波の周期を考慮した長さに調整可能とする。これにより、脈波推定装置1aは、被験者の脈波の周期を考慮せずに設定された第2期間を用いて生成された脈波元信号セグメントから被験者の脈波を推定する場合よりも、精度よく被験者の脈波を推定することができる。
なお、以上の実施の形態2では、脈波推定装置1aが被験者の脈波の推定を開始すると、第1期間を数回繰り返す程度のある程度の期間、被験者の脈波を推定し続け、パラメータ設定部18は、1つ前の第1期間にて推定部163が推定した被験者の脈波に基づいて第2期間を算出することを想定しているが、これは一例に過ぎない。例えば、脈波推定装置1aが被験者の脈波の推定を開始するよりも前に脈波推定装置1aが推定していた過去の被験者の脈波推定結果P(t)が記憶部に蓄積されているようにし、パラメータ設定部18は、記憶部に蓄積されている脈波推定結果P(t)に基づいて第2期間を算出可能としてもよい。
また、例えば、被験者が、被験者の平均的な脈波に関する情報を記憶部に登録することを可能とし、パラメータ設定部18は、記憶部に登録された被験者の平均的な脈波に関する情報に基づいて第2期間を算出可能としてもよい。
例えば、パラメータ設定部18は、記憶部を参照して得られる脈波推定結果P(t)又は被験者の平均的な脈波と、推定部163が推定した被験者の脈波とから、第2期間を算出してもよい。
実施の形態2に係る脈波推定装置1aのハードウェア構成は、実施の形態1において図9A及び図9Bを用いて説明した脈波推定装置1のハードウェア構成と同様であるため、図示を省略する。
実施の形態2において、撮像画像取得部11と、肌領域検出部12と、計測領域設定部13と、脈波元信号抽出部14と、セグメント生成部15と、脈波推定部16と、出力部17と、パラメータ設定部18の機能は、処理回路101により実現される。すなわち、脈波推定装置1aは、第1期間に取得された撮像画像における被験者の肌領域に対して設定された複数の計測領域ri(k)の輝度変化を示す脈波元信号wi(t)を部分的に抽出した複数の脈波元信号セグメントを生成し、独立成分分析又は主成分分析等の技術を用いて脈波元信号セグメントから脈波成分を分離し、分離した脈波成分から被験者の脈波を推定する制御を行うための処理回路101を備える。
処理回路101は、メモリ105に記憶されたプログラムを読み出して実行することにより、撮像画像取得部11と、肌領域検出部12と、計測領域設定部13と、脈波元信号抽出部14と、セグメント生成部15と、脈波推定部16と、出力部17と、パラメータ設定部18の機能を実行する。すなわち、脈波推定装置1aは、処理回路101により実行されるときに、上述の図11のステップST21~ステップST30が結果的に実行されることになるプログラムを格納するためのメモリ105を備える。また、メモリ105に記憶されたプログラムは、撮像画像取得部11と、肌領域検出部12と、計測領域設定部13と、脈波元信号抽出部14と、セグメント生成部15と、脈波推定部16と、出力部17と、パラメータ設定部18の処理の手順又は方法をコンピュータに実行させるものであるともいえる。
図示しない記憶部は、例えば、メモリ105で構成される。
また、脈波推定装置1aは、撮像装置3等の装置と、有線通信又は無線通信を行う入力インタフェース装置102及び出力インタフェース装置103を備える。
なお、以上の実施の形態2では、被験者は車両のドライバとしたが、これは一例に過ぎない。被験者は、車両のドライバ以外の乗員としてもよい。
また、以上の実施の形態2では、脈波推定装置1aは車載装置とし、撮像画像取得部11と、肌領域検出部12と、計測領域設定部13と、脈波元信号抽出部14と、セグメント生成部15と、脈波推定部16と、出力部17と、パラメータ設定部18は、車載装置に備えられていた。
これに限らず、撮像画像取得部11と、肌領域検出部12と、計測領域設定部13と、脈波元信号抽出部14と、セグメント生成部15と、脈波推定部16と、出力部17と、パラメータ設定部18のうち、一部が車両の車載装置に搭載され、その他が当該車載装置とネットワークを介して接続されるサーバに備えられて、車載装置とサーバとでシステムを構成してもよい。
また、撮像画像取得部11と、肌領域検出部12と、計測領域設定部13と、脈波元信号抽出部14と、セグメント生成部15と、脈波推定部16と、出力部17と、パラメータ設定部18が全部サーバに備えられてもよい。
また、以上の実施の形態2に係る脈波推定装置1aは、車両に搭載される車載装置に限らず、例えば、家電機器に適用することもできる。また、被験者は、車両の乗員に限らず、様々な人とできる。
以上のように、実施の形態2によれば、脈波推定装置1aは、実施の形態1に係る脈波推定装置1の構成に加え、脈波推定部16が推定した人(被験者)の脈波に基づいて第2期間を算出し、当該第2期間の長さを示す情報を含むセグメントパラメータを設定するパラメータ設定部18を備え、セグメント生成部15は、セグメントパラメータに従って第2期間を設定するように構成した。そのため、脈波推定装置1aは、人の脈波の周期を考慮せずに設定された第2期間を用いて生成された脈波元信号セグメントから人の脈波を推定する場合よりも精度よく人の脈波を推定することができる。
詳細には、脈波推定装置1aにおいて、パラメータ設定部18は、第2期間が、脈波推定部16が推定した人(被験者)の脈波の1周期分の時間となるよう、第2期間を算出し、当該第2期間の長さを示す情報を含むセグメントパラメータを設定する。そして、セグメント生成部15は、セグメントパラメータに従って第2期間を設定する。そのため、脈波推定装置1aは、人の脈波の周期を考慮せずに設定された第2期間を用いて生成された脈波元信号セグメントから人の脈波を推定する場合よりも精度よく人の脈波を推定することができる。
実施の形態3.
実施の形態1では、脈波推定装置は、生成した複数の脈波元信号セグメントをそのまま、被験者の脈波の推定に用いるようにしていた。
実施の形態3では、複数の脈波元信号セグメントに重み付けを行った上で、被験者の脈波の推定を行う実施の形態について説明する。
なお、以下の実施の形態3でも、実施の形態1同様、脈波推定装置は車両に搭載されており、被験者は車両のドライバであることを想定する。
図12は、実施の形態3に係る脈波推定装置1bの構成例を示す図である。
実施の形態3に係る脈波推定装置1bの構成について、実施の形態1にて図1を用いて説明した脈波推定装置1と同じ構成には、同じ符号を付して重複した説明を省略する。
実施の形態3に係る脈波推定装置1bは、実施の形態1に係る脈波推定装置1とは、重み係数算出部19を備えた点が異なる。
重み係数算出部19は、セグメント生成部15が各計測領域ri(k)に対して生成した複数の脈波元信号セグメントそれぞれに対する重み係数(以下「セグメント重み」という。)を算出する。
詳細には、重み係数算出部19は、脈波元信号セグメントの抽出元となった脈波元信号wi(t)における信号の変動の大きさに基づいて、複数の脈波元信号セグメントそれぞれに対するセグメント重みを算出する。
なお、実施の形態3では、セグメント生成部15は、生成した、各計測領域ri(k)の複数の脈波元信号セグメントの情報と、脈波元信号抽出部14が生成した脈波元信号情報W(t)を、重み係数算出部19に出力する。
例えば、重み係数算出部19は、脈波元信号セグメントの抽出元となった第1期間の時系列の脈波元信号wi(t)について、予め設定された閾値(以下「変動判定用閾値」という。)以上の変動があったか否かを判定する。脈波元信号wi(t)について、変動判定用閾値以上の変動があったと判定した場合、重み係数算出部19は、第1期間の時系列の脈波元信号wi(t)のうち、当該変動があった部分の脈波元信号wi(t)を抽出元とする脈波元信号セグメントに対して、セグメント重み「0」を算出する。脈波元信号wi(t)のうち、変動判定用閾値以上の変動があった部分の信号は、ノイズが多く含まれている信号であるといえる。重み係数算出部19は、上記変動があった部分以外の部分の脈波元信号wi(t)を抽出元とする脈波元信号セグメントに対しては、セグメント重み「1」を設定する。
一方、重み係数算出部19は、脈波元信号セグメントの抽出元となった第1期間の時系列の脈波元信号wi(t)について、変動判定用閾値以上の変動がなかったと判定した場合、当該変動がない第1期間の時系列の脈波元信号wi(t)を抽出元とする全ての脈波元信号セグメントに対して、セグメント重み「1」を算出する。
重み係数算出部19は、セグメント生成部15が各計測領域ri(k)に対して生成した複数の脈波元信号セグメントそれぞれについて算出したセグメント重みに関する情報(以下「セグメント重み情報」という。)を、脈波推定部16に出力する。
セグメント重み情報は、計測領域ri(k)を特定可能な情報と、脈波元信号セグメントを特定可能な情報と、当該脈波元信号セグメントのセグメント重みとが対応付けられた情報である。
重み係数算出部19が算出するセグメント重みは、脈波推定部16が、被験者の脈波を推定する際に、セグメント生成部15によって生成された脈波元信号セグメントを使用すべきか否かを判定する指標となる。
脈波推定部16は、セグメント重み「0」が付与されている脈波元信号セグメントは被験者の脈波の推定に用いないようにする。詳細には、脈波推定部16の信号分離部161は、セグメント重み「0」が付与されている脈波元信号セグメントについては破棄し、残った複数の脈波元信号セグメントに基づいて、PCA又はICA等、一般的な信号分離技術を用いて、複数の主成分を分析し、分析した複数の主成分を示す分離信号を生成する。
このように、実施の形態3では、脈波推定部16は、脈波元信号セグメントとセグメント重みとに基づいて被験者の脈波を推定する。
ここで、図13は、実施の形態3において、脈波推定装置1bが被験者の脈波の推定に用いる脈波元信号セグメントについて説明するための図である。
図13は、複数の計測領域ri(k)のうちのある計測領域ri(k)から抽出された、第1期間の時系列の脈波元信号wi(t)で示される輝度値を時間軸で示す図としている。
図13において、第1期間の時系列の脈波元信号wi(t)のうち、点線で囲った部分の脈波元信号wi(t)は、信号の変動が大きい。
重み係数算出部19は、ある計測領域ri(k)に対してセグメント生成部15が生成した複数の脈波元信号セグメントのうち、点線で囲った部分の脈波元信号wi(t)を抽出元とする脈波元信号セグメントに対するセグメント重みを「0」と算出する。
重み係数算出部19は、ある計測領域ri(k)に対してセグメント生成部15が生成した複数の脈波元信号セグメントのうち、点線で囲った部分以外の脈波元信号wi(t)を抽出元とする脈波元信号セグメントに対するセグメント重みは「1」と算出する。
その結果、脈波推定部16は、セグメント重みが「0」の、点線で囲った部分の脈波元信号wi(t)を抽出元とする脈波元信号セグメントは被験者の脈波の推定に用いない。
実施の形態3に係る脈波推定装置1bの動作について説明する。
図14は、実施の形態3に係る脈波推定装置1bの動作について説明するためのフローチャートである。
脈波推定装置1bは、例えば、車両の電源がオンにされると、車両の電源がオフにされるまで、図14のフローチャートで示すような処理を繰り返す。
図14において、ステップST31~ステップST35の具体的な動作は、それぞれ、実施の形態1にて説明済みの、図7のステップST1~ステップST5の具体的な動作と同様であるため、重複した説明を省略する。
重み係数算出部19は、ステップST35にてセグメント生成部15が生成した複数の脈波元信号セグメントそれぞれに対するセグメント重みを算出する(ステップST36)。
詳細には、重み係数算出部19は、脈波元信号セグメントの抽出元となった脈波元信号wi(t)における信号の変動の大きさに基づいて、複数の脈波元信号セグメントそれぞれに対するセグメント重みを算出する。
重み係数算出部19は、セグメント重み情報を、脈波推定部16に出力する。
脈波推定部16は、ステップST35にてセグメント生成部15から軌跡行列をスタックした旨が通知されると、計測領域ri(k)毎に生成された複数の脈波元信号セグメントに基づいて、被験者の脈波を推定する脈波推定処理を実施する。その際、脈波推定部16は、重み係数算出部19から出力されたセグメント重み情報に基づき、セグメント重み「0」が付与されている脈波元信号セグメントは、被験者の脈波の推定に用いないようにする(ステップST37)。なお、脈波推定部16は、軌跡行列をスタックした旨の通知を、例えば、重み係数算出部19を介して受け取ればよい。
詳細には、信号分離部161は、分離信号を生成する際(図8のステップST11参照)、セグメント重みが「0」の脈波元信号セグメントについては破棄し、残った複数の脈波元信号セグメントに基づいて、PCA又はICA等、一般的な信号分離技術を用いて、複数の主成分を分析し、分析した複数の主成分を示す分離信号を生成する。
このように、脈波推定装置1bは、複数の脈波元信号セグメントそれぞれに対するセグメント重みを算出し、脈波元信号セグメントとセグメント重みとに基づいて被験者の脈波を推定する。詳細には、脈波推定装置1bは、脈波元信号セグメントの抽出元となった脈波元信号wi(t)における信号の変動の大きさに基づいて、複数の脈波元信号セグメントそれぞれに対するセグメント重みを算出する。
これにより、脈波推定装置1bは、複数の計測領域ri(k)から抽出される脈波元信号wi(t)がノイズ成分を多く含む信号である場合に、これを除いて被験者の脈波を推定することができる。そのため、脈波推定装置1bは、複数の計測領域ri(k)から抽出される脈波元信号wi(t)がノイズ成分を多く含む信号であるか否かを考慮しない場合よりも精度よく被験者の脈波を推定することができる。
実施の形態3に係る脈波推定装置1bのハードウェア構成は、実施の形態1において図9A及び図9Bを用いて説明した脈波推定装置1のハードウェア構成と同様であるため、図示を省略する。
実施の形態3において、撮像画像取得部11と、肌領域検出部12と、計測領域設定部13と、脈波元信号抽出部14と、セグメント生成部15と、脈波推定部16と、出力部17と、重み係数算出部19の機能は、処理回路101により実現される。すなわち、脈波推定装置1bは、第1期間に取得された撮像画像における被験者の肌領域に対して設定された複数の計測領域ri(k)の輝度変化を示す脈波元信号wi(t)を部分的に抽出した複数の脈波元信号セグメントを生成し、独立成分分析又は主成分分析等の技術を用いて脈波元信号セグメントから脈波成分を分離し、分離した脈波成分から被験者の脈波を推定する制御を行うための処理回路101を備える。
処理回路101は、メモリ105に記憶されたプログラムを読み出して実行することにより、撮像画像取得部11と、肌領域検出部12と、計測領域設定部13と、脈波元信号抽出部14と、セグメント生成部15と、脈波推定部16と、出力部17と、重み係数算出部19の機能を実行する。すなわち、脈波推定装置1bは、処理回路101により実行されるときに、上述の図14のステップST31~ステップST37が結果的に実行されることになるプログラムを格納するためのメモリ105を備える。また、メモリ105に記憶されたプログラムは、撮像画像取得部11と、肌領域検出部12と、計測領域設定部13と、脈波元信号抽出部14と、セグメント生成部15と、脈波推定部16と、出力部17と、重み係数算出部19の処理の手順又は方法をコンピュータに実行させるものであるともいえる。
図示しない記憶部は、例えば、メモリ105で構成される。
また、脈波推定装置1bは、撮像装置3等の装置と、有線通信又は無線通信を行う入力インタフェース装置102及び出力インタフェース装置103を備える。
なお、以上の実施の形態3では、被験者は車両のドライバとしたが、これは一例に過ぎない。被験者は、車両のドライバ以外の乗員としてもよい。
また、以上の実施の形態3では、脈波推定装置1bは車載装置とし、撮像画像取得部11と、肌領域検出部12と、計測領域設定部13と、脈波元信号抽出部14と、セグメント生成部15と、脈波推定部16と、出力部17と、重み係数算出部19は、車載装置に備えられていた。
これに限らず、撮像画像取得部11と、肌領域検出部12と、計測領域設定部13と、脈波元信号抽出部14と、セグメント生成部15と、脈波推定部16と、出力部17と、重み係数算出部19のうち、一部が車両の車載装置に搭載され、その他が当該車載装置とネットワークを介して接続されるサーバに備えられて、車載装置とサーバとでシステムを構成してもよい。
また、撮像画像取得部11と、肌領域検出部12と、計測領域設定部13と、脈波元信号抽出部14と、セグメント生成部15と、脈波推定部16と、出力部17と、重み係数算出部19が全部サーバに備えられてもよい。
また、以上の実施の形態3に係る脈波推定装置1bは、車両に搭載される車載装置に限らず、例えば、家電機器に適用することもできる。また、被験者は、車両の乗員に限らず、様々な人とできる。
以上のように、実施の形態3によれば、脈波推定装置1bは、実施の形態1に係る脈波推定装置1の構成に加え、複数の脈波元信号セグメントそれぞれに対する重み係数(セグメント重み)を算出する重み係数算出部19を備え、脈波推定部16は、脈波元信号セグメントと重み係数(セグメント重み)とに基づいて人(被験者)の脈波を推定するように構成した。そのため、脈波推定装置1bは、複数の計測領域ri(k)から抽出される脈波元信号wi(t)がノイズ成分を多く含む信号であるか否かを考慮しない場合よりも精度よく人の脈波を推定することができる。
詳細には、脈波推定装置1bにおいて、重み係数算出部19は、脈波元信号セグメントの抽出元となった脈波元信号wi(t)における信号の変動の大きさに基づいて、複数の脈波元信号セグメントそれぞれに対する重み係数(セグメント重み)を算出する。そのため、脈波推定装置1bは、複数の計測領域ri(k)から抽出される脈波元信号wi(t)がノイズ成分を多く含む信号であるか否かを考慮しない場合よりも精度よく人の脈波を推定することができる。
以上の実施の形態1~3において、脈波推定装置1,1a,1bは、公知の一般的な信号分離技術を用いて推定した複数の主成分を示す複数の分離信号に対して重み係数(以下「成分重み」という。)を設定し、複数の分離信号と設定した分離信号毎の成分重みとに基づいて計測領域ri(k)毎の脈波元信号wi(t)を復元する機能を有してもよい。
図15は、実施の形態1~3において、脈波推定装置1,1a,1bが、公知の一般的な信号分離技術を用いて推定した複数の主成分を示す複数の分離信号に対して成分重みを設定し、複数の分離信号と設定した分離信号毎の成分重みとに基づいて計測領域ri(k)毎の脈波元信号wi(t)を復元する機能を有するようにした場合の、脈波推定部16aの構成例を示す図である。
脈波推定装置1,1a,1bは、上記機能を有する場合、以上の実施の形態1~3において図1、図10、又は、図12を用いて説明した脈波推定装置1,1a,1bの構成例において、脈波推定部16に代えて、図15に示すような脈波推定部16aを備えるようにする。
脈波推定部16aの復元部162は、信号分離部161から出力された分離信号毎の成分重みを設定する成分重み設定部1621を備える。
復元部162は、信号分離部161から出力された複数の分離信号と、成分重み設定部1621が設定した分離信号毎の成分重みとに基づいて計測領域ri(k)毎の脈波元信号wi(t)を復元する。
推定部163は、復元部162が複数の分離信号と分離信号毎の成分重みとに基づいて復元した生成した脈波元信号wi(t)に基づいて、被験者の脈波を推定する。
成分重み設定部1621が成分重みを設定する方法例について、いくつか説明する。
成分重み設定部1621は、例えば、複数の分離信号間の周波数特性の類似性に基づいて分離信号毎の成分重みを設定する。
詳細には、成分重み設定部1621は、まず、各分離信号に対し高速フーリエ変換等を行い、各分離信号の周波数パワースペクトルにおけるピーク周波数を算出する。
次に、成分重み設定部1621は、複数の主成分を示す複数の分離信号について、隣り合う分離信号のペアを作り、隣り合う分離信号のピーク周波数の差分(以下「ピーク差分」という。)を算出する。なお、「隣り合う主成分」とは、含む情報量が多い順に分離信号を並べた場合に前後の順番となる分離信号のことを意味する。そして、成分重み設定部1621は、算出したピーク差分が予め設定された閾値(以下「ピーク差分判定用閾値」という。)よりも大きいか否かを判定する。成分重み設定部1621は、ピーク差分がピーク差分判定用閾値よりも大きい場合、当該ピーク差分が算出される対象となった分離信号の成分重みを「0」とし、当該ピーク差分がピーク差分判定用閾値以下であれば成分重みを「1」とする。
成分重みが「0」である場合、分離信号間の周波数特性の類似性は低いといえ、成分重みが「1」である場合、分離信号間の周波数特性の類似性は高いといえる。脈波成分は、一定の周期で繰り返しあらわれる特性を有していることから、周波数特性の類似性が高いということは、当該周波数特性を持つ分離信号は、脈波成分を多く含む、言い換えれば、脈波成分らしい、分離信号であると想定される。成分重み設定部1621は、脈波成分らしい分離信号に大きい成分重みを付与することで、推定部163が、脈波成分らしい分離信号に基づいて被験者の脈波を推定できるようにする。
具体例を挙げると、例えば、信号分離部161から出力された複数の分離信号が、実施の形態1において図5及び図6を用いて説明したような、第1主成分c1、・・・、第C主成分cCを示すC個の分離信号であったとする。ここで、第1主成分c1を示す分離信号を第1分離信号、第2主成分c2を示す分離信号を第2分離信号、第3主成分c3を示す分離信号を第3分離信号、第4主成分c4を示す分離信号を第4分離信号、第5主成分c5を示す分離信号を第5分離信号、・・・、第(C-1)主成分c(C-1)を示す分離信号を第(C-1)分離信号、第C主成分cCを示す信号を第C分離信号とする。
この場合、成分重み設定部1621は、第1分離信号と第2分離信号のペアを作り、第1分離信号のピーク周波数と第2分離信号のピーク周波数とのピーク差分を算出し、算出したピーク差分がピーク差分判定用閾値よりも大きいか否かを判定する。成分重み設定部1621は、ピーク差分がピーク差分判定用閾値よりも大きい場合、第1分離信号及び第2分離信号の成分重みをともに「0」とし、ピーク差分がピーク差分判定用閾値以下である場合、第1分離信号及び第2分離信号の成分重みをともに「1」とする。
また、成分重み設定部1621は、第3分離信号と第4分離信号のペアを作り、第3分離信号のピーク周波数と第4分離信号のピーク周波数とのピーク差分を算出し、算出したピーク差分がピーク差分判定用閾値よりも大きいか否かを判定する。成分重み設定部1621は、ピーク差分がピーク差分判定用閾値よりも大きい場合、第3分離信号及び第4分離信号の成分重みをともに「0」とし、ピーク差分がピーク差分判定用閾値以下である場合、第3分離信号及び第4分離信号の成分重みをともに「1」とする。
成分重み設定部1621は、第5分離信号及び第6分離信号のペア、第7分離信号及び第8分離信号のペア、・・・・第(C-1)分離信号及び第C分離信号のペアに対しても、上述したような処理を行い、全ての分離信号に対して、成分重みを設定する。
復元部162は、信号分離部161から出力された複数の分離信号のうち、成分重み設定部1621が成分重み「0」を設定した分離信号については破棄し、成分重み設定部1621が成分重み「1」を設定した分離信号のみに基づいて、計測領域ri(k)毎の脈波元信号wi(t)を復元する。
そして、推定部163は、復元部162が、成分重み「1」の分離信号のみに基づいて復元した脈波元信号wi(t)に基づいて、被験者の脈波を推定する。推定部163は、脈波成分らしい分離信号に基づいて被験者の脈波を推定できるので、被験者の脈波の推定精度を向上させることができる。
なお、上述の具体例では、成分重み設定部1621は、隣り合う分離信号のペアを作り、隣り合う分離信号のピーク周波数のピーク差分を算出したが、これは一例に過ぎない。例えば、成分重み設定部1621は、全ペアで差分を算出し、重み付け平均値を成分重みとしてもよい。
例えば、成分重み設定部1621は、C個の分離信号のうち、ある分離信号(基準分離信号とする)について、その他の(C-1)個の分離信号とのピーク周波数の差分をそれぞれ算出し、算出した(C-1)個の差分に応じた当該差分の重み付け平均値を、基準分離信号の差分値とする。そして、成分重み設定部1621は、基準分離信号の差分値が閾値よりも大きければ基準分離信号に対する成分重みは「0」、閾値以下であれば基準分離信号に対する成分重みは「1」とする。成分重み設定部1621は、以上のような処理を全ての分離信号を基準分離信号にして行う。成分重み設定部1621は、重み付け平均値の大きさに応じた値を成分重みとしてもよい。
成分重み設定部1621は、例えば、複数の分離信号が生成される際に当該分離信号に付与される射影係数に基づき複数の分離信号間の射影係数の相関係数を算出し、相関係数に基づいて分離信号毎の成分重みを設定してもよい。
詳細には、成分重み設定部1621は、まず、各分離信号に対し、計測領域ri(k)毎に、当該計測領域ri(k)に対応する複数の脈波元信号セグメントに付与されている射影係数を時系列的に表現した情報(以下「射影係数時系列情報」という。)を生成する。成分重み設定部1621は、分離信号毎に、計測領域ri(k)の数(N個)の分だけ、射影係数時系列情報を生成することになる。すなわち、分離信号がC個とすると、成分重み設定部1621は、C×N個の射影係数時系列情報を生成することになる。
次に、成分重み設定部1621は、分離信号毎に、生成した射影係数時系列情報の相関関係を判定し、相関係数を算出する。具体的には、成分重み設定部1621は、ある分離信号において、生成されたN個の射影係数時系列情報について、全通りのペアを作り、射影係数時系列情報のペア毎に、相関係数をそれぞれ算出する。なお、相関係数は、射影係数時系列情報の位相の一致度合いを示す。成分重み設定部1621は、ペア毎に算出した相関係数の平均値を、その分離信号の成分重みとする。
ここでは、脈波推定装置1,1a,1bは、位相が揃っている信号成分は脈波成分らしい、という前提を置き、計測領域ri(k)間で射影係数の時系列変化が類似していれば、言い換えれば、計測領域ri(k)間で射影係数時系列情報の位相が揃っていれば、各計測領域ri(k)の各脈波元信号セグメントに対してそのような射影係数が付与された分離信号が、脈波成分を多く含んだ脈波成分らしい分離信号であると想定する。成分重み設定部1621は、脈波成分らしい分離信号に大きい重み係数を付与することで、推定部163が、脈波成分らしい分離信号に基づいて被験者の脈波を推定できるようにする。
具体例を挙げると、例えば、信号分離部161から出力された複数の分離信号が、実施の形態1において図5及び図6を用いて説明したような、第1主成分c1、・・・、第C主成分cCを示すC個の分離信号であったとする。ここで、第1主成分c1を示す分離信号を第1分離信号、第2主成分c2を示す分離信号を第2分離信号、第3主成分c3を示す分離信号を第3分離信号、第4主成分c4を示す分離信号を第4分離信号、第5主成分c5を示す分離信号を第5分離信号、・・・、第(C-1)主成分c(C-1)を示す分離信号を第(C-1)分離信号、第C主成分cCを示す分離信号を第C分離信号とする。
この場合、成分重み設定部1621は、まず、各分離信号に対し、計測領域ri(k)(第1計測領域、第2計測領域、第3計測領域、及び、第4計測領域)毎に射影係数時系列情報を生成する。
ここで、図16は、成分重み設定部1621が生成する射影係数時系列情報の一例のイメージを示す図である。
図16は、一例として、成分重み設定部1621が第1分離信号について生成した射影係数時系列情報としている。成分重み設定部1621は、第1分離信号について、第1計測領域、第2計測領域、第3計測領域、及び、第4計測領域それぞれの射影係数時系列情報を生成する。
なお、図16では、一例として、第1分離信号について生成された射影係数時系列情報を示しているが、成分重み設定部1621は、第2分離信号~第C分離信号についても、計測領域ri(k)毎の射影係数時系列情報を生成する。
次に、成分重み設定部1621は、例えば、まず第1分離信号において、第1計測領域の射影係数時系列情報(図16にて1601で示す)、第2計測領域の射影係数時系列情報(図16にて1602で示す)、第3計測領域の射影係数時系列情報(図16にて1603で示す)、及び、第4計測領域の射影係数時系列情報(図16にて1604で示す)について、全通りのペアを作る。
ここでは、成分重み設定部1621は、第1計測領域の射影係数時系列情報と第2計測領域の射影係数時系列情報のペア(第1ペアとする)、第1計測領域の射影係数時系列情報と第3計測領域の射影係数時系列情報のペア(第2ペアとする)、第1計測領域の射影係数時系列情報と第4計測領域の射影係数時系列情報のペア(第3ペアとする)、第2計測領域の射影係数時系列情報と第3計測領域の射影係数時系列情報のペア(第4ペアとする)、第2計測領域の射影係数時系列情報と第4計測領域の射影係数時系列情報のペア(第5ペアとする)、及び、第3計測領域の射影係数時系列情報と第4計測領域の射影係数時系列情報のペア(第6ペアとする)を作る。
そして、成分重み設定部1621は、第1ペアの相関係数、第2ペアの相関係数、第3ペアの相関係数、第4ペアの相関係数、第5ペアの相関係数、及び、第6ペアの相関係数を、算出する。成分重み設定部1621は、算出した、第1ペアの相関係数、第2ペアの相関係数、第3ペアの相関係数、第4ペアの相関係数、第5ペアの相関係数、及び、第5ペアの相関係数の平均値を、第1主成分c1を示す第1分離信号の成分重みとする。
成分重み設定部1621は、第2分離信号~第C分離信号についても、同様に、第1計測領域の射影係数時系列情報、第2計測領域の射影係数時系列情報、第3計測領域の射影係数時系列情報、第4計測領域の射影係数時系列情報の全通りのペアを作り、作ったペア毎に相関関係を判定して相関係数を算出する。そして、成分重み設定部1621は、算出したペア毎の相関係数の平均値を、成分重みとする。
復元部162は、信号分離部161から出力された複数の分離信号について、成分重み設定部1621が設定した成分重みに応じた重み付けを行って、計測領域ri(k)毎の脈波元信号wi(t)を復元する。
例えば、復元部162は、(第1分離信号の成分重み×[p1-1,p1-2,・・・,p1-M]+第2分離信号の成分重み×[p1-1,p1-2,・・・,p1-M]+第3分離信号の成分重み×[p1-1,p1-2,・・・,p1-M]+・・・+第C分離信号の成分重み×[p1-1,p1-2,・・・,p1-M])を、復元された第1計測領域の脈波元信号(t)とする。
そして、推定部163は、復元部162が、成分重みに応じた重み付けを行って復元した脈波元信号wi(t)に基づいて、被験者の脈波を推定する。推定部163は、脈波成分らしい分離信号に基づいて被験者の脈波を推定できるので、被験者の脈波の推定精度を向上させることができる。
なお、上述の具体例では、成分重み設定部1621は、分離信号毎に、射影係数時系列情報の全通りのペアを作るものとしたが、これは一例に過ぎない。成分重み設定部1621は、例えば、複数の射影係数時系列情報のうち、2つの射影係数時系列情報でペアを作ってもよい。上述の具体例でいうと、成分重み設定部1621は、例えば、第1計測領域の射影係数時系列情報と第2計測領域の射影係数時系列情報のペア(第7ペアとする)、第3計測領域の射影係数時系列情報と第4計測領域の射影係数時系列情報のペア(第8ペアとする)の、2組のペアを作ってもよい。この場合、成分重み設定部1621は、第7ペアの相関係数と第8ペアの相関係数を算出し、算出した、第6ペアの相関係数と第7ペアの相関係数の平均値を、第1主成分c1を示す第1分離信号の成分重みとする。
また、上述の具体例では、成分重み設定部1621は、算出した相関係数の平均値を分離信号の成分重みとしたが、これは一例に過ぎない。成分重み設定部1621は、例えば、算出した相関係数の分散値を分離信号の成分重みとしてもよい。
以上の実施の形態1~3において、脈波推定装置1,1a,1bが、公知の一般的な信号分離技術を用いて推定した複数の主成分を示す複数の分離信号に対して成分重みを設定し、複数の分離信号と設定した分離信号毎の成分重みとに基づいて計測領域ri(k)毎の脈波元信号wi(t)を復元する機能を有するようにした場合の、脈波推定部16aの動作について、図17を用いて説明する。
実施の形態1~3において、脈波推定装置1,1a,1bが、公知の一般的な信号分離技術を用いて推定した複数の主成分を示す複数の分離信号に対して成分重みを設定し、複数の分離信号と設定した分離信号毎の成分重みとに基づいて計測領域ri(k)毎の脈波元信号wi(t)を復元する機能を有するようにした場合、実施の形態1~3で説明した、図7のステップST6、図11のステップST29、及び、図15のステップST37の脈波推定処理の詳細は、図17のフローチャートで示すような処理となる。
なお、図17のステップST11、ステップST13の具体的な動作は、それぞれ、説明済みの図8のステップST11、ステップST13の具体的な動作と同様であるため、重複した説明を省略する。
脈波推定部16aの成分重み設定部1621は、ステップST11にて信号分離部161から出力された分離信号毎の成分重みを設定する(ステップST12-1)。
復元部162は、ステップST1にて信号分離部161から出力された複数の分離信号と、ステップST12-1にて成分重み設定部1621が設定した分離信号毎の成分重みとに基づいて計測領域ri(k)毎の脈波元信号wi(t)を復元する(ステップST12-2)。
なお、ステップST13において、推定部163は、復元部162が複数の分離信号と分離信号毎の成分重みとに基づいて復元した生成した脈波元信号wi(t)に基づいて、被験者の脈波を推定することになる。
実施の形態1に係る脈波推定装置1、実施の形態2に係る脈波推定装置1a、又は、実施の形態3に係る脈波推定装置1bにおいて、復元部162aが、分離信号毎の重み係数(成分重み)を設定する成分重み設定部1621を備え、復元部162aは、複数の分離信号と分離信号毎の重み係数(成分重み)とに基づいて計測領域ri(k)毎の脈波元信号wi(t)を復元することで、脈波推定装置1,1a,1bは、脈波成分らしい分離信号に基づいて被験者の脈波を推定できるので、被験者の脈波の推定精度を向上させることができる。
なお、各実施の形態の自由な組み合わせ、あるいは各実施の形態の任意の構成要素の変形、もしくは各実施の形態において任意の構成要素の省略が可能である。
以下、本開示の諸態様を付記としてまとめて記載する。
(付記1)
人を撮像した撮像画像を取得する撮像画像取得部と、
前記撮像画像から前記人の肌領域を検出する肌領域検出部と、
前記撮像画像上の前記肌領域に対応する領域に、第1期間における時系列の輝度変化を示す脈波元信号を抽出するための複数の計測領域を設定する計測領域設定部と、
前記計測領域毎に、当該計測領域における前記第1期間の前記輝度変化に基づき、前記脈波元信号を抽出する脈波元信号抽出部と、
前記計測領域毎に、当該計測領域から抽出された前記脈波元信号に基づき、セグメント生成用条件に従って、前記第1期間における前記脈波元信号のうちから第2期間分の前記脈波元信号を部分的に抽出した信号である脈波元信号セグメントを複数生成するセグメント生成部と、
前記計測領域毎に生成された複数の前記脈波元信号セグメントに基づいて前記人の脈波を推定する脈波推定部
とを備えた脈波推定装置。
(付記2)
前記セグメント生成用条件は、
前記第2期間は前記第1期間よりも短い期間であること、
ある計測領域における複数の前記脈波元信号セグメントについて、ある脈波元信号セグメントは他の脈波元信号セグメントと時間軸上で互いに完全に一致しない信号であること、
ある計測領域における複数の前記脈波元信号セグメントについて、ある脈波元信号セグメントは他の脈波元信号セグメントと時間軸上で部分的に重なる信号であること、
各計測領域において、ある脈波元信号セグメントが他の脈波元信号セグメントと時間軸上で部分的に重なる長さは同じであること、
及び、各計測領域における複数の前記脈波元信号セグメントの時間軸上の長さは互いに同じであること
を含むことを特徴とする付記1記載の脈波推定装置。
(付記3)
前記脈波推定部が推定した前記人の前記脈波に基づいて前記第2期間を算出し、当該第2期間の長さを示す情報を少なくとも含むセグメントパラメータを設定するパラメータ設定部を備え、
前記セグメント生成部は、前記セグメントパラメータに従って前記第2期間を設定する
ことを特徴とする付記1または付記2記載の脈波推定装置。
(付記4)
前記パラメータ設定部は、前記第2期間が、前記脈波推定部が推定した前記人の前記脈波の1周期分の時間となるよう、前記第2期間を算出する
ことを特徴とする付記3記載の脈波推定装置。
(付記5)
複数の前記脈波元信号セグメントそれぞれに対する重み係数を算出する重み係数算出部を備え、
前記脈波推定部は、前記脈波元信号セグメントと前記重み係数とに基づいて前記人の前記脈波を推定する
ことを特徴とする付記1から付記4のうちのいずれか1つ記載の脈波推定装置。
(付記6)
前記重み係数算出部は、前記脈波元信号セグメントの抽出元となった前記脈波元信号における信号の変動の大きさに基づいて、複数の前記脈波元信号セグメントそれぞれに対する前記重み係数を算出する
ことを特徴とする付記5記載の脈波推定装置。
(付記7)
前記脈波推定部は、
複数の前記脈波元信号セグメントに基づいて複数の信号成分を示す分離信号を生成する信号分離部と、
複数の前記分離信号に基づいて前記計測領域毎の前記脈波元信号を復元する復元部と、
復元された前記計測領域毎の前記脈波元信号に基づき、前記人の前記脈波を推定する推定部とを備える
ことを特徴とする付記1から付記6のうちのいずれか1つ記載の脈波推定装置。
(付記8)
前記復元部は、
前記分離信号毎の重み係数を設定する成分重み設定部を備え、
複数の前記分離信号と前記分離信号毎の前記重み係数とに基づいて前記計測領域毎の前記脈波元信号を復元する
ことを特徴とする付記7記載の脈波推定装置。
(付記9)
前記成分重み設定部は、
複数の前記分離信号間の周波数特性の類似性に基づいて前記分離信号毎の前記重み係数を設定する
ことを特徴とする付記8記載の脈波推定装置。
(付記10)
前記成分重み設定部は、
複数の前記分離信号が生成される際に当該分離信号に付与される射影係数に基づき複数の前記分離信号間の前記射影係数の相関係数を算出し、前記相関係数に基づいて前記分離信号毎の前記重み係数を設定する
ことを特徴とする付記8記載の脈波推定装置。
(付記11)
撮像画像取得部が、人を撮像した撮像画像を取得するステップと、
肌領域検出部が、前記撮像画像から前記人の肌領域を検出するステップと、
計測領域設定部が、前記撮像画像上の前記肌領域に対応する領域に、第1期間における時系列の輝度変化を示す脈波元信号を抽出するための複数の計測領域を設定するステップと、
脈波元信号抽出部が、前記計測領域毎に、当該計測領域における前記第1期間の前記輝度変化に基づき、前記脈波元信号を抽出するステップと、
セグメント生成部が、前記計測領域毎に、当該計測領域から抽出された前記脈波元信号に基づき、セグメント生成用条件に従って、前記第1期間における前記脈波元信号のうちから第2期間分の前記脈波元信号を部分的に抽出した信号である脈波元信号セグメントを複数生成するステップと、
脈波推定部が、前記計測領域毎に生成された複数の前記脈波元信号セグメントに基づいて前記人の脈波を推定するステップ
とを備えた脈波推定方法。
本開示に係る脈波推定装置は、複数の計測領域から抽出された輝度信号に位相差が生じていても、当該輝度信号に基づく人の脈波の推定を行うことができる。
1,1a,1b 脈波推定装置、11 撮像画像取得部、12 肌領域検出部、13 計測領域設定部、14 脈波元信号抽出部、15 セグメント生成部、16,16a 脈波推定部、161 信号分離部、162,162a 復元部、1621 成分重み設定部、163 推定部、17 出力部、18 パラメータ設定部、19 重み係数算出部、3 撮像装置、101 処理回路、102 入力インタフェース装置、103 出力インタフェース装置、104 プロセッサ、105 メモリ。

Claims (12)

  1. 人を撮像した撮像画像を取得する撮像画像取得部と、
    前記撮像画像から前記人の肌領域を検出する肌領域検出部と、
    前記撮像画像上の前記肌領域に対応する領域に、第1期間における時系列の輝度変化を示す脈波元信号を抽出するための複数の計測領域を設定する計測領域設定部と、
    前記計測領域毎に、当該計測領域における前記第1期間の前記輝度変化に基づき、前記脈波元信号を抽出する脈波元信号抽出部と、
    前記計測領域毎に、当該計測領域から抽出された前記脈波元信号に基づき、セグメント生成用条件に従って、前記第1期間における前記脈波元信号のうちから第2期間分の前記脈波元信号を部分的に抽出した信号である脈波元信号セグメントを複数生成するセグメント生成部と、
    前記計測領域毎に生成された複数の前記脈波元信号セグメントに基づいて前記人の脈波を推定する脈波推定部と、
    前記脈波推定部が推定した前記人の前記脈波に基づいて前記第2期間を算出し、当該第2期間の長さを示す情報を少なくとも含むセグメントパラメータを設定するパラメータ設定部を備え、
    前記セグメント生成部は、前記セグメントパラメータに従って前記第2期間を設定する
    ことを特徴とする脈波推定装置。
  2. 前記パラメータ設定部は、前記第2期間が、前記脈波推定部が推定した前記人の前記脈波の1周期分の時間となるよう、前記第2期間を算出する
    ことを特徴とする請求項記載の脈波推定装置。
  3. 人を撮像した撮像画像を取得する撮像画像取得部と、
    前記撮像画像から前記人の肌領域を検出する肌領域検出部と、
    前記撮像画像上の前記肌領域に対応する領域に、第1期間における時系列の輝度変化を示す脈波元信号を抽出するための複数の計測領域を設定する計測領域設定部と、
    前記計測領域毎に、当該計測領域における前記第1期間の前記輝度変化に基づき、前記脈波元信号を抽出する脈波元信号抽出部と、
    前記計測領域毎に、当該計測領域から抽出された前記脈波元信号に基づき、セグメント生成用条件に従って、前記第1期間における前記脈波元信号のうちから第2期間分の前記脈波元信号を部分的に抽出した信号である脈波元信号セグメントを複数生成するセグメント生成部と、
    前記計測領域毎に生成された複数の前記脈波元信号セグメントに基づいて前記人の脈波を推定する脈波推定部と、
    複数の前記脈波元信号セグメントそれぞれに対する重み係数を算出する重み係数算出部を備え、
    前記脈波推定部は、前記脈波元信号セグメントと前記重み係数とに基づいて前記人の前記脈波を推定する
    ことを特徴とする脈波推定装置。
  4. 前記重み係数算出部は、前記脈波元信号セグメントの抽出元となった前記脈波元信号における信号の変動の大きさに基づいて、複数の前記脈波元信号セグメントそれぞれに対する前記重み係数を算出する
    ことを特徴とする請求項記載の脈波推定装置。
  5. 人を撮像した撮像画像を取得する撮像画像取得部と、
    前記撮像画像から前記人の肌領域を検出する肌領域検出部と、
    前記撮像画像上の前記肌領域に対応する領域に、第1期間における時系列の輝度変化を示す脈波元信号を抽出するための複数の計測領域を設定する計測領域設定部と、
    前記計測領域毎に、当該計測領域における前記第1期間の前記輝度変化に基づき、前記脈波元信号を抽出する脈波元信号抽出部と、
    前記計測領域毎に、当該計測領域から抽出された前記脈波元信号に基づき、セグメント生成用条件に従って、前記第1期間における前記脈波元信号のうちから第2期間分の前記脈波元信号を部分的に抽出した信号である脈波元信号セグメントを複数生成するセグメント生成部と、
    前記計測領域毎に生成された複数の前記脈波元信号セグメントに基づいて前記人の脈波を推定する脈波推定部とを備え、
    前記脈波推定部は、
    複数の前記脈波元信号セグメントに基づいて複数の信号成分を示す分離信号を生成する信号分離部と、
    複数の前記分離信号に基づいて前記計測領域毎の前記脈波元信号を復元する復元部と、
    復元された前記計測領域毎の前記脈波元信号に基づき、前記人の前記脈波を推定する推定部とを備える
    ことを特徴とする脈波推定装置。
  6. 前記復元部は、
    前記分離信号毎の重み係数を設定する成分重み設定部を備え、
    複数の前記分離信号と前記分離信号毎の前記重み係数とに基づいて前記計測領域毎の前記脈波元信号を復元する
    ことを特徴とする請求項記載の脈波推定装置。
  7. 前記成分重み設定部は、
    複数の前記分離信号間の周波数特性の類似性に基づいて前記分離信号毎の前記重み係数を設定する
    ことを特徴とする請求項記載の脈波推定装置。
  8. 前記成分重み設定部は、
    複数の前記分離信号が生成される際に当該分離信号に付与される射影係数に基づき複数の前記分離信号間の前記射影係数の相関係数を算出し、前記相関係数に基づいて前記分離信号毎の前記重み係数を設定する
    ことを特徴とする請求項記載の脈波推定装置。
  9. 前記セグメント生成用条件は、
    前記第2期間は前記第1期間よりも短い期間であること、
    ある計測領域における複数の前記脈波元信号セグメントについて、ある脈波元信号セグメントは他の脈波元信号セグメントと時間軸上で互いに完全に一致しない信号であること、
    ある計測領域における複数の前記脈波元信号セグメントについて、ある脈波元信号セグメントは他の脈波元信号セグメントと時間軸上で部分的に重なる信号であること、
    各計測領域において、ある脈波元信号セグメントが他の脈波元信号セグメントと時間軸上で部分的に重なる長さは同じであること、
    及び、各計測領域における複数の前記脈波元信号セグメントの時間軸上の長さは互いに同じであること
    を含むことを特徴とする請求項1から請求項8のうちのいずれか1項記載の脈波推定装置。
  10. 撮像画像取得部が、人を撮像した撮像画像を取得するステップと、
    肌領域検出部が、前記撮像画像から前記人の肌領域を検出するステップと、
    計測領域設定部が、前記撮像画像上の前記肌領域に対応する領域に、第1期間における時系列の輝度変化を示す脈波元信号を抽出するための複数の計測領域を設定するステップと、
    脈波元信号抽出部が、前記計測領域毎に、当該計測領域における前記第1期間の前記輝度変化に基づき、前記脈波元信号を抽出するステップと、
    セグメント生成部が、前記計測領域毎に、当該計測領域から抽出された前記脈波元信号に基づき、セグメント生成用条件に従って、前記第1期間における前記脈波元信号のうちから第2期間分の前記脈波元信号を部分的に抽出した信号である脈波元信号セグメントを複数生成するステップと、
    脈波推定部が、前記計測領域毎に生成された複数の前記脈波元信号セグメントに基づいて前記人の脈波を推定するステップと、
    パラメータ設定部が、前記脈波推定部が推定した前記人の前記脈波に基づいて前記第2期間を算出し、当該第2期間の長さを示す情報を少なくとも含むセグメントパラメータを設定するステップを備え、
    前記セグメント生成部は、前記セグメントパラメータに従って前記第2期間を設定する
    ことを特徴とする脈波推定方法。
  11. 撮像画像取得部が、人を撮像した撮像画像を取得するステップと、
    肌領域検出部が、前記撮像画像から前記人の肌領域を検出するステップと、
    計測領域設定部が、前記撮像画像上の前記肌領域に対応する領域に、第1期間における時系列の輝度変化を示す脈波元信号を抽出するための複数の計測領域を設定するステップと、
    脈波元信号抽出部が、前記計測領域毎に、当該計測領域における前記第1期間の前記輝度変化に基づき、前記脈波元信号を抽出するステップと、
    セグメント生成部が、前記計測領域毎に、当該計測領域から抽出された前記脈波元信号に基づき、セグメント生成用条件に従って、前記第1期間における前記脈波元信号のうちから第2期間分の前記脈波元信号を部分的に抽出した信号である脈波元信号セグメントを複数生成するステップと、
    脈波推定部が、前記計測領域毎に生成された複数の前記脈波元信号セグメントに基づいて前記人の脈波を推定するステップと、
    重み係数算出部が、複数の前記脈波元信号セグメントそれぞれに対する重み係数を算出するステップを備え、
    前記脈波推定部は、前記脈波元信号セグメントと前記重み係数とに基づいて前記人の前記脈波を推定する
    ことを特徴とする脈波推定方法。
  12. 撮像画像取得部が、人を撮像した撮像画像を取得するステップと、
    肌領域検出部が、前記撮像画像から前記人の肌領域を検出するステップと、
    計測領域設定部が、前記撮像画像上の前記肌領域に対応する領域に、第1期間における時系列の輝度変化を示す脈波元信号を抽出するための複数の計測領域を設定するステップと、
    脈波元信号抽出部が、前記計測領域毎に、当該計測領域における前記第1期間の前記輝度変化に基づき、前記脈波元信号を抽出するステップと、
    セグメント生成部が、前記計測領域毎に、当該計測領域から抽出された前記脈波元信号に基づき、セグメント生成用条件に従って、前記第1期間における前記脈波元信号のうちから第2期間分の前記脈波元信号を部分的に抽出した信号である脈波元信号セグメントを複数生成するステップと、
    脈波推定部が、前記計測領域毎に生成された複数の前記脈波元信号セグメントに基づいて前記人の脈波を推定するステップとを備え、
    前記脈波推定部が前記人の前記脈波を推定するステップにおいて、
    信号分離部が、複数の前記脈波元信号セグメントに基づいて複数の信号成分を示す分離信号を生成するステップと、
    復元部が、複数の前記分離信号に基づいて前記計測領域毎の前記脈波元信号を復元するステップと、
    推定部が、復元された前記計測領域毎の前記脈波元信号に基づき、前記人の前記脈波を推定するステップとを備える
    ことを特徴とする脈波推定方法。
JP2024519158A 2022-05-06 2022-05-06 脈波推定装置及び脈波推定方法 Active JP7542779B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2022/019552 WO2023214457A1 (ja) 2022-05-06 2022-05-06 脈波推定装置及び脈波推定方法

Publications (3)

Publication Number Publication Date
JPWO2023214457A1 JPWO2023214457A1 (ja) 2023-11-09
JPWO2023214457A5 JPWO2023214457A5 (ja) 2024-06-21
JP7542779B2 true JP7542779B2 (ja) 2024-08-30

Family

ID=88646399

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2024519158A Active JP7542779B2 (ja) 2022-05-06 2022-05-06 脈波推定装置及び脈波推定方法

Country Status (3)

Country Link
JP (1) JP7542779B2 (ja)
DE (1) DE112022006677T5 (ja)
WO (1) WO2023214457A1 (ja)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019116996A1 (ja) 2017-12-15 2019-06-20 シャープ株式会社 血圧測定装置、および、血圧測定方法
JP2019170967A (ja) 2018-03-29 2019-10-10 パナソニックIpマネジメント株式会社 生体信号検知装置及び生体信号検知方法
WO2020054122A1 (ja) 2018-09-10 2020-03-19 三菱電機株式会社 情報処理装置、プログラム及び情報処理方法

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6521845B2 (ja) 2015-11-22 2019-05-29 国立大学法人埼玉大学 心拍に連動する周期的変動の計測装置及び計測方法
JP6730899B2 (ja) * 2016-09-27 2020-07-29 京セラ株式会社 電子装置、制御方法及びプログラム

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019116996A1 (ja) 2017-12-15 2019-06-20 シャープ株式会社 血圧測定装置、および、血圧測定方法
JP2019170967A (ja) 2018-03-29 2019-10-10 パナソニックIpマネジメント株式会社 生体信号検知装置及び生体信号検知方法
WO2020054122A1 (ja) 2018-09-10 2020-03-19 三菱電機株式会社 情報処理装置、プログラム及び情報処理方法

Also Published As

Publication number Publication date
DE112022006677T5 (de) 2025-02-20
WO2023214457A1 (ja) 2023-11-09
JPWO2023214457A1 (ja) 2023-11-09

Similar Documents

Publication Publication Date Title
Hernandez-Ortega et al. Time analysis of pulse-based face anti-spoofing in visible and NIR
US9795306B2 (en) Method of estimating blood pressure based on image
JP6727469B1 (ja) 情報処理装置、プログラム及び情報処理方法
JP6248780B2 (ja) 脈波検出装置、脈波検出方法及び脈波検出プログラム
JPWO2016006027A1 (ja) 脈波検出方法、脈波検出プログラム及び脈波検出装置
JP6737261B2 (ja) バイタルサイン測定装置、バイタルサイン測定方法、及び、バイタルサイン測定プログラム
JP7099542B2 (ja) 脈拍推定装置、脈拍推定方法、及びプログラム
KR101788803B1 (ko) 심전도를 이용한 개인 식별 정보 생성방법 및 그 개인 식별 정보를 이용한 개인 식별 방법
KR102468648B1 (ko) 영상에 대한 원격 광용적맥파신호를 이용하여 사람의 심박수를 산출하는 방법
JPWO2018078857A1 (ja) 視線推定装置、視線推定方法及びプログラム記録媒体
JP2014186547A (ja) 移動物体追跡システム、方法及びプログラム
JP6020015B2 (ja) 脈波検出装置、脈波検出プログラム及び脈波検出方法
JP7542779B2 (ja) 脈波推定装置及び脈波推定方法
JP7561966B2 (ja) 脈波検出装置及び脈波検出方法
JP2008242833A (ja) 3次元の人の顔の表面データを再構築するための装置及びプログラム
US20240420290A1 (en) Face Alignment and Normalization For Enhanced Vision-Based Vitals Monitoring
US20240282147A1 (en) Action recognition method, action recognition device, and non-transitory computer readable recording medium
US20230128766A1 (en) Multimodal contactless vital sign monitoring
JP7514521B2 (ja) 心拍測定システム、心拍測定方法、及び心拍測定プログラム
JP7615302B2 (ja) 脈波検出装置及び脈波検出方法
WO2025017760A1 (ja) 脈波推定装置および脈波推定方法
Vatanparvar et al. Enhanced Contactless Heart Rate Monitoring Using Camera with Motion Artifact Removal During Physical Activities
JPWO2020255645A1 (ja) 3次元データ更新装置、顔向き推定装置、3次元データ更新方法およびプログラム
CN114639134A (zh) 用于人脸识别的方法和装置
JP2025004276A (ja) 脈波推定装置及び脈波推定方法

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20240423

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20240423

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20240423

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240723

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240820

R150 Certificate of patent or registration of utility model

Ref document number: 7542779

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

点击 这是indexloc提供的php浏览器服务,不要输入任何密码和下载