+

WO2018167844A1 - ヘッドアップディスプレイ装置とその画像表示方法 - Google Patents

ヘッドアップディスプレイ装置とその画像表示方法 Download PDF

Info

Publication number
WO2018167844A1
WO2018167844A1 PCT/JP2017/010206 JP2017010206W WO2018167844A1 WO 2018167844 A1 WO2018167844 A1 WO 2018167844A1 JP 2017010206 W JP2017010206 W JP 2017010206W WO 2018167844 A1 WO2018167844 A1 WO 2018167844A1
Authority
WO
WIPO (PCT)
Prior art keywords
display
vehicle
display device
space
image
Prior art date
Application number
PCT/JP2017/010206
Other languages
English (en)
French (fr)
Inventor
望 下田
裕司 藤田
Original Assignee
マクセル株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by マクセル株式会社 filed Critical マクセル株式会社
Priority to PCT/JP2017/010206 priority Critical patent/WO2018167844A1/ja
Publication of WO2018167844A1 publication Critical patent/WO2018167844A1/ja

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • B60K35/20Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor
    • B60K35/21Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor using visual output, e.g. blinking lights or matrix displays
    • B60K35/211Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor using visual output, e.g. blinking lights or matrix displays producing three-dimensional [3D] effects, e.g. stereoscopic images
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • B60K35/10Input arrangements, i.e. from user to vehicle, associated with vehicle functions or specially adapted therefor
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • B60K35/20Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor
    • B60K35/21Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor using visual output, e.g. blinking lights or matrix displays
    • B60K35/23Head-up displays [HUD]
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • B60K35/20Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor
    • B60K35/26Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor using acoustic output

Definitions

  • the present invention relates to a technology for a head-up display device, and more particularly to a technology effective when applied to a head-up display device capable of mapping and displaying a destination guidance object on a road using AR (Augmented Reality). is there.
  • HUD head-up display
  • Patent Document 1 when displaying a distance scale on a HUD, the travel point information that the host vehicle is currently traveling from the map data of the navigation device, and the host vehicle Information on the planned travel point where the vehicle will travel, and based on this information, obtain the inclination angle of the road on which the vehicle travels, and use the correction coefficient according to the inclination angle to display the distance scale from the ground. It is described that the image is corrected and displayed.
  • HUD projects the image on a windshield or combiner to make the video image recognized by the driver as a virtual image outside the vehicle.
  • a so-called AR function that makes it possible to show information related to an object or the like to the driver by displaying a virtual image superimposed on an actual scenery (space) outside the vehicle seen through a windshield or combiner.
  • AR-HUD a HUD that realizes
  • a method and an apparatus capable of superimposing and displaying a virtual image in conformity with an actual space according to the traveling state of the vehicle, for example, a destination guidance object
  • An excellent head-up display device capable of natural display suitable for the foreground situation and an image display method therefor are provided, particularly when an object is displayed three-dimensionally in a display space as indicated by arrows).
  • a head-up display device projects a display object image onto a windshield or combiner of a vehicle, thereby providing a virtual image of the display object in a space in front of the vehicle to a driver.
  • a head-up display device that displays various vehicle information that can be detected by the vehicle, and based on the vehicle information acquired by the vehicle information acquisition unit, in the space
  • a control unit that controls display of the display object; and an image display device that forms the display object based on an instruction from the control unit.
  • the vehicle information acquisition unit includes a front space of the vehicle. Spatial depth input means for inputting the depth information, and the control unit, based on the spatial depth information,
  • a head-up display apparatus having a function of controlling a part of display of the display object to be displayed on the serial space.
  • the image display method of the head-up display device includes various types of vehicles that can be detected by the vehicle, including vehicle front image input means for inputting depth information of the front space of the vehicle.
  • vehicle information acquisition unit that acquires information
  • control unit that controls display of a display object based on the vehicle information acquired by the vehicle information acquisition unit, and the display object that is formed based on an instruction from the control unit
  • a head-up display device that displays a virtual image superimposed on the scenery ahead of the vehicle by projecting the display object onto a windshield or combiner of the vehicle
  • An image display method according to claim 1, wherein a display of a part of the display object to be displayed in the space is input to the vehicle front image.
  • An image display method of control based on the depth information of the space from the stage.
  • a natural display suitable for the foreground situation can be obtained even when an object is displayed three-dimensionally in the display space, such as a destination guidance object indicating the traveling direction of the vehicle. And an image display method therefor are provided.
  • a drawing buffer for example, a color buffer
  • FIG. 13 and FIG. 14 show a display video change / generation process to be method 2 and an explanatory diagram thereof.
  • this method 2 comparison is made for each pixel, and if there is a hidden pixel, the color information of the corresponding pixel in the drawing buffer is set to “0” and deleted.
  • FIG. 19 shows the contents of the display video change / generation process when this function extension 3 is combined with the above method 1. That is, the foreground depth map is converted into the Z buffer format (spatial Z buffer), and then the drawing-required area is initialized. The subsequent processing is the same as in the above-described method 1, and is described in detail here. Do not do.
  • the front lane is recognized by the camera, and the own vehicle traveling scheduled area is directly obtained. Or you may acquire the own vehicle travel plan area
  • the object displayed as a virtual image is more suitable for the space in which the virtual image is displayed.
  • a depth (depth) on the display screen such as a destination guidance object (arrow) indicating the traveling direction of the vehicle.
  • a destination guidance object (arrow) indicating the traveling direction of the vehicle.
  • Display distance adjustment mechanism an embodiment provided with a mechanism for displaying an object displayed by the head-up display device by adjusting the display distance will be described.
  • the outline of the head-up display device is the same as described above, and a description thereof will be omitted. Only the characteristic points will be described below.
  • the movable diffuser is used as the mechanism for displaying the object by adjusting the display distance.
  • the present invention is not limited to this example.
  • films with multiple mirrors, movable lenses, dimming mirrors, movable optical filters, comb optical filters, etc. Is available.
  • the present invention made by the present inventor has been specifically described based on the embodiments.
  • the present invention is not limited to the above-described embodiments, and various modifications can be made without departing from the scope of the invention. Needless to say.
  • the above-described embodiment has been described in detail for easy understanding of the present invention, and is not necessarily limited to the one having all the configurations described.

Landscapes

  • Engineering & Computer Science (AREA)
  • Chemical & Material Sciences (AREA)
  • Combustion & Propulsion (AREA)
  • Transportation (AREA)
  • Mechanical Engineering (AREA)
  • Instrument Panels (AREA)
  • Controls And Circuits For Display Device (AREA)

Abstract

表示オブジェクトを立体的に表示する場合でも空間内の状況に適合した自然な表示が可能な優れたヘッドアップディスプレイ装置とその画像表示方法を提供する。車両の前方に表示オブジェクトの画像を投射することで、運転者に対して前記車両の前方の空間に前記表示オブジェクトの虚像を表示するヘッドアップディスプレイ装置であって、前記車両が検知することができる各種の車両情報を取得する車両情報取得部と、前記車両情報取得部が取得した前記車両情報に基づいて、前記空間における前記表示オブジェクトの表示を制御する制御部と、前記制御部からの指示に基づいて前記表示オブジェクトを形成する画像表示装置とを有しており、前記車両情報取得部は、前記車両の前方空間の深度情報を入力する空間深度入力手段を含んでおり、前記制御部は、前記空間の深度情報に基づいて、前記空間内に表示する前記表示オブジェクトの一部の表示を制御する機能を有するヘッドアップディスプレイ装置。

Description

ヘッドアップディスプレイ装置とその画像表示方法
 本発明は、ヘッドアップディスプレイ装置の技術に関し、特に、AR(Augmented Reality:拡張現実)を利用して行先案内オブジェクトを道路にマッピング表示可能なヘッドアップディスプレイ装置に適用して有効な技術に関するものである。
 自動車等の車両において、通常は、車速やエンジン回転数などの情報は、ダッシュボード内の計器盤(インパネ)に表示される。また、カーナビゲーションなどの画面は、ダッシュボードに組み込まれ、もしくは、ダッシュボード上に設置されたディスプレイに表示される。運転者がこれらの情報を視認する場合に視線を大きく移動させることが必要となることから、視線の移動量を低減させる技術として、車速等の情報や車両の進行方向の指示等の情報のフロントガラス(ウィンドシールド)に虚像として投射して表示するヘッドアップディスプレイ(Head Up Display、以下では「HUD」と記載する場合がある)が知られている。
 例えば、特開2007-55365号公報(特許文献1)には、HUDに距離スケールを表示する際に、ナビゲーション装置の地図データから、自車両が現在走行している走行地点情報と、自車両が走行するであろう走行予定地点情報とを取得し、これに基づいて自車両が走行する道路の傾斜角度を取得して、傾斜角度に応じた補正係数を用いて距離スケールの地面からの表示高さを補正して表示することが記載されている。
 また、特開2006-7867号公報(特許文献2)には、検出した右左折、加減速などの走行状況に応じて、生成した画像の表示位置を、例えば、左折を検出した場合には左の方向にシフトし、右折を検出した場合には右の方向にシフトする、などのように制御することが記載されている。
特開2007-55365号公報 特開2006-7867号公報
 HUDは、画像をウィンドシールドまたはコンバイナに投射することで、当該映像を車外における虚像として運転者に認識させるものである。これに対し、ウィンドシールドまたはコンバイナ越しに見える車外の実際の風景(空間)に虚像を重畳させるように表示することで、対象物等に係る情報を運転者に示すことを可能とするいわゆるAR機能を実現するHUD(以下では「AR-HUD」と記載する場合がある)が知られている。このようなAR-HUDにおいても、車両の走行状況等に応じて表示映像の視認性や適切性等を維持するための調整を行う必要がある。
 この点、例えば、上記の特許文献1や2に記載されたような技術を用いることで、車両が走行状況に応じて、表示映像(虚像)の視認性や適切性に与える影響を低減・解消させることが可能である。一方で、これらの技術では、HUDにおける虚像の表示領域内に表示される映像を対象として、その表示位置や表示内容等を走行状況に応じて調整するものである。しかしながら、上記の従来技術では、行先案内などのオブジェクトを道路に重畳して表示する場合、以下の実施の形態においても詳述するような不自然な表示が生じてしまうという課題があった。
 そこで本発明では、車両の走行状況に応じて虚像を実際の空間に適合させて重畳して表示することを可能とする方法と装置であって、例えば、車両の進行方向を示す行先案内オブジェクト(矢印)のように、特に、表示空間内にオブジェクトを立体的に表示する場合においても、前景の状況に適合した自然な表示が可能な優れたヘッドアップディスプレイ装置とそのための画像表示方法を提供することを目的とする。なお、本発明の前記ならびにその他の目的と新規な特徴は、本明細書の記述および添付図面から明らかになるであろう。
 本願において開示される発明のうち、代表的なものの概要を簡単に説明すれば、以下のとおりである。
 本発明の代表的な実施の形態によるヘッドアップディスプレイ装置は、車両のウィンドシールドまたはコンバイナに表示オブジェクトの画像を投射することで、運転者に対して前記車両の前方の空間に前記表示オブジェクトの虚像を表示するヘッドアップディスプレイ装置であって、前記車両が検知することができる各種の車両情報を取得する車両情報取得部と、前記車両情報取得部が取得した前記車両情報に基づいて、前記空間における前記表示オブジェクトの表示を制御する制御部と、前記制御部からの指示に基づいて前記表示オブジェクトを形成する画像表示装置と、を有しており、前記車両情報取得部は、前記車両の前方空間の深度情報を入力する空間深度入力手段を含んでおり、前記制御部は、前記空間の深度情報に基づいて、前記空間内に表示する前記表示オブジェクトの一部の表示を制御する機能を有するヘッドアップディスプレイ装置である。
 また、本発明の代表的な実施の形態によるヘッドアップディスプレイ装置の画像表示方法は、車両の前方空間の深度情報を入力する車両前方映像入力手段を含め、車両が検知することができる各種の車両情報を取得する車両情報取得部と、前記車両情報取得部が取得した前記車両情報に基づいて表示オブジェクトの表示を制御する制御部と、前記制御部からの指示に基づいて前記表示オブジェクトを形成する映像表示装置とを有しており、前記車両のウィンドシールドまたはコンバイナに前記表示オブジェクトを投射することで、運転者に対して前記車両の前方の風景に重畳させて虚像を表示するヘッドアップディスプレイ装置の画像表示方法であって、前記空間内に表示する前記表示オブジェクトの一部の表示を、前記車両前方映像入力手段からの前記空間の深度情報に基づいて制御する画像表示方法である。
 本願において開示される発明のうち、代表的なものによって得られる効果を簡単に説明すれば以下のとおりである。即ち、本発明の代表的な実施の形態によれば、車両の進行方向を示す行先案内オブジェクトなど、表示空間内にオブジェクトを立体的に表示する場合においても、前景の状況に適合した自然な表示が可能な優れたヘッドアップディスプレイ装置とそのための画像表示方法を提供される。
本発明の一実施の形態におけるヘッドアップディスプレイ装置の動作概念の例について概要を示した図である。 本発明の一実施の形態であるヘッドアップディスプレイ装置の全体の構成例について概要を示した機能ブロック図である。 本発明の一実施の形態における車両情報の取得に係るハードウェア構成の例について概要を示した図である。 本発明の一実施の形態におけるヘッドアップディスプレイ装置の構成例について詳細を示した機能ブロック図である。 本発明の一実施の形態における初期動作の例について概要を示したフローチャートである。 本発明の一実施の形態における通常動作の例について概要を示したフローチャートである。 本発明の一実施の形態における明るさレベル調整処理の例について概要を示したフローチャートである。 (a)、(b)は、本発明の一実施の形態において、障害物を考慮しない表示と障害物を考慮した表示を説明する図である。 (a)、(b)、(c)は、3D空間における視点から得られるZバッファについて示す図である。 本発明の一実施の形態において実際に視差マップから深度を計算した深度マップの一例を示す図である。 本発明の一実施の形態における方式1の表示映像変更・生成処理の詳細を示したフローチャートである。 本発明の一実施の形態における方式1の表示映像変更・生成処理を示した説明図である。 本発明の一実施の形態における方式2の表示映像変更・生成処理の詳細を示したフローチャートである。 本発明の一実施の形態における方式2の表示映像変更・生成処理の詳細を示した説明図である。 (a)、(b)は、本発明の描画用Zバッファおよび空間Zバッファを利用した画像表示処理の結果を示す図である。 本発明の一実施の形態における機能拡張1(音声との連動)の内容を示した説明図である。 (a)、(b)は、本発明の一実施の形態における機能拡張2(深度マップのON/OFF機能)の内容を示した説明図である。 本発明の一実施の形態における機能拡張3(オブジェクトを隠す領域/隠さない領域の定義機能)の内容を示した説明図である。 本発明の一実施の形態における機能拡張3を上記の方式1と組み合わせる場合の表示映像変更・生成処理を示した説明図である。 本発明の一実施の形態における機能拡張3を上記の方式2と組み合わせる場合の表示映像変更・生成処理を示した説明図である。 本発明の一実施の形態における機能拡張5(輝度変更機能)の内容を示した説明図である。 本発明の一実施の形態における機能拡張6(色度変更機能)の内容を示した説明図である。 本発明の一実施の形態における描画必須領域の変形例の内容を示した説明図である。 本発明の他の実施の形態における表示距離調整の動作概念について示した図である。 本発明の他の実施の形態における表示距離調整に係るハードウェア構成の例について示した図である。
 以下、本発明の実施の形態を図面に基づいて詳細に説明する。なお、実施の形態を説明するための全図において、同一部には原則として同一の符号を付し、その繰り返しの説明は省略する。一方で、ある図において符号を付して説明した部位について、他の図の説明の際に再度の図示はしないが同一の符号を付して言及する場合がある。
 (実施例1)
 本発明になる画像の表示方法の説明に先立ち、まず、本発明が適用されるヘッドアップディスプレイ装置の概要について以下に説明する。
 図1は、本発明の一実施の形態(実施例1)であるヘッドアップディスプレイ装置の動作概念の例について概要を示した図である。本実施の形態のAR-HUD1では、プロジェクタやLCD(Liquid Crystal Display)などからなる映像表示装置30に表示された映像を、ミラー51やミラー52(例えば、自由曲面ミラーや光軸非対称の形状を有するミラー等)により反射させて、車両2のウィンドシールド3に投射する。
 運転者5は、ウィンドシールド3に投射された映像を見ることで、透明のウィンドシールド3を通してその前方に虚像として上記映像を視認する。本実施の形態では、ミラー52の角度を調整することで、映像をウィンドシールド3に投射する位置を調整することにより、運転者5が見る虚像の表示位置を上下方向に調整することが可能である。そして、虚像を車外の風景(道路や建物、人等)に重畳させるようにその表示位置や表示距離を調整することで、AR機能を実現する。
 ここで、被投射部材はウィンドシールド3に限られず、映像が投射される部材であれば、コンバイナなど他の部材とすることができる。また、映像表示装置30は、例えば、バックライトを有するプロジェクタやLCD(Liquid Crystal Display)等により構成される。自発光型のVFD(Vacuum Fluorescent Display)等であってもよい。
 図2は、本発明の一実施の形態であるヘッドアップディスプレイ装置の全体の構成例についての概要を示した機能ブロック図である。車両2に搭載されたAR-HUD1は、例えば、車両情報取得部10、制御部20、映像表示装置30、表示距離調整機構40、ミラー駆動部50、ミラー52、およびスピーカ60からなる。なお、図2の例では、車両2の形状を乗用車のように表示しているが、特にこれに限られず、車両一般に適宜適用することができる。
 車両情報取得部10は、車両2の各部に設置された後述するような各種のセンサ等の情報取得デバイスからなり、車両2で生じた各種イベントを検知したり、所定の間隔で走行状況に係る各種パラメータの値を検知・取得したりすることで車両情報4を取得して出力する。車両情報4には、図示するように、例えば、車両2の速度情報やギア情報、ハンドル操舵角情報、ランプ点灯情報、外光情報、距離情報、赤外線情報、エンジンON/OFF情報、カメラ映像情報(車内/車外)、加速度ジャイロ情報、GPS(Global Positioning System)情報、ナビゲーション情報、車車間通信情報、および路車間通信情報などが含まれ得る。
 制御部20は、AR-HUD1の動作を制御する機能を有し、例えば、CPU(Central Processing Unit)とこれにより実行されるソフトウェアにより実装される。マイコンやFPGA(Field Programmable Gate Array)などのハードウェアにより実装されていてもよい。制御部20は、図2にも示したように、車両情報取得部10から取得した車両情報4等に基づいて、虚像として表示する映像を映像表示装置30を駆動して形成し、これをミラー52等によって適宜反射させることでウィンドシールド3に投射する。そして、後述するような手法により、虚像の表示領域の表示位置を調整したり、虚像の表示距離を調整したり等の制御を行う。
 映像表示装置30は、上述したように、例えば、プロジェクタやLCDにより構成されるデバイスであり、制御部20からの指示に基づいて虚像を表示するための映像を形成してこれを投射したり表示したりする。表示距離調整機構40は、制御部20からの指示に基づいて、表示される虚像の運転者5からの距離を調整するための機構である。
 ミラー駆動部50は、制御部20からの指示に基づいてミラー52の角度を調整し、虚像の表示領域の位置を上下方向に調整する。虚像の表示領域の位置の調整については後述する。スピーカ60は、AR-HUD1に係る音声出力を行う。例えば、ナビゲーションシステムの音声案内や、AR機能によって運転者5に警告等を通知する際の音声出力等を行うことができる。
 図3は、本実施の形態のヘッドアップディスプレイ装置における車両情報4の取得に係るハードウェア構成の例について概要を示した図である。ここでは主に車両情報取得部10および制御部20の一部のハードウェア構成について示す。車両情報4の取得は、例えば、ECU(Electronic Control Unit)21の制御の下、ECU21に接続された各種のセンサ等の情報取得デバイスにより行われる。
 これらの情報取得デバイスとして、例えば、車速センサ101、シフトポジションセンサ102、ハンドル操舵角センサ103、ヘッドライトセンサ104、照度センサ105、色度センサ106、測距センサ107、赤外線センサ108、エンジン始動センサ109、加速度センサ110、ジャイロセンサ111、温度センサ112、路車間通信用無線受信機113、車車間通信用無線受信機114、カメラ(車内)115、カメラ(車外)116、GPS受信機117、およびVICS(Vehicle Information and Communication System:道路交通情報通信システム、登録商標(以下同様))受信機118などの各デバイスを有する。必ずしもこれら全てのデバイスを備えている必要はなく、また、他の種類のデバイスを備えていてもよい。備えているデバイスによって取得できる車両情報4を適宜用いることができる。
 車速センサ101は、車両2の速度情報を取得する。シフトポジションセンサ102は、車両2の現在のギア情報を取得する。ハンドル操舵角センサ103は、ハンドル操舵角情報を取得する。ヘッドライトセンサ104は、ヘッドライトのON/OFFに係るランプ点灯情報を取得する。照度センサ105および色度センサ106は、外光情報を取得する。測距センサ107は、車両2と外部の物体との間の距離情報を取得する。赤外線センサ108は、車両2の近距離における物体の有無や距離等に係る赤外線情報を取得する。エンジン始動センサ109は、エンジンON/OFF情報を検知する。
 加速度センサ110およびジャイロセンサ111は、車両2の姿勢や挙動の情報として、加速度や角速度からなる加速度ジャイロ情報を取得する。温度センサ112は車内外の温度情報を取得する。路車間通信用無線受信機113および車車間通信用無線受信機114は、それぞれ、車両2と道路や標識、信号等との間の路車間通信により受信した路車間通信情報、および車両2と周辺の他の車両との間の車車間通信により受信した車車間通信情報を取得する。
 カメラ(車内)115およびカメラ(車外)116は、それぞれ、車内および車外の状況の動画像を撮影してカメラ映像情報(車内/車外)を取得する。カメラ(車内)115では、例えば、運転者5の姿勢や、眼の位置、動き等を撮影する。得られた動画像を解析することにより、例えば、運転者5の疲労状況や視線の位置などを把握することが可能である。また、カメラ(車外)116では、車両2の前方や後方等の周囲の状況を撮影する。得られた動画像を解析することにより、例えば、周辺の他の車両や人等の移動物の有無、建物や地形、路面状況(雨や積雪、凍結、凹凸等)などを把握することが可能である。
 GPS受信機117およびVICS受信機118は、それぞれ、GPS信号を受信して得られるGPS情報およびVICS信号を受信して得られるVICS情報を取得する。これらの情報を取得して利用するカーナビゲーションシステムの一部として実装されていてもよい。
 図4は、本実施の形態のヘッドアップディスプレイ装置の構成例について詳細を示した機能ブロック図である。図4の例では、映像表示装置30がプロジェクタである場合を示しており、映像表示装置30は、例えば、光源31、照明光学系32、および表示素子33などの各部を有する。光源31は、投射用の照明光を発生する部材であり、例えば、高圧水銀ランプやキセノンランプ、LED(Light Emitting Diode)光源、レーザー光源等を用いることができる。照明光学系32は、光源31で発生した照明光を集光し、より均一化して表示素子33に照射する光学系である。表示素子33は、投射する映像を生成する素子であり、例えば、透過型液晶パネル、反射型液晶パネル、DMD(Digital Micromirror Device)パネル等を用いることができる。
 制御部20は、より詳細には、ECU21、音声出力部22、不揮発性メモリ23、メモリ24、光源調整部25、歪み補正部26、表示素子駆動部27、表示距離調整部28、およびミラー調整部29などの各部を有する。ECU21は、図3に示したように、車両情報取得部10を介して車両情報4を取得すると共に、取得した情報を必要に応じて不揮発性メモリ23やメモリ24に記録、格納したり読み出したりする。不揮発性メモリ23には、各種制御のための設定値やパラメータなどの設定情報が格納されていてもよい。また、ECU21は、専用のプログラムを実行させる等により、AR-HUD1として表示する虚像に係る映像データを生成する。
 音声出力部22は、必要に応じてスピーカ60を介して音声情報を出力する。光源調整部25は、映像表示装置30の光源31の発光量を調整する。光源31が複数ある場合にはそれぞれ個別に制御するようにしてもよい。歪み補正部26は、ECU21が生成した映像について、映像表示装置30によって車両2のウィンドシールド3に投射した場合に、ウィンドシールド3の曲率によって生じる映像の歪みを画像処理により補正する。表示素子駆動部27は、歪み補正部26による補正後の映像データに応じた駆動信号を表示素子33に対して送り、投射する映像を生成させる。
 ミラー調整部29は、虚像の表示領域自体の位置を調整する必要がある場合に、ミラー駆動部50を介してミラー52の角度を変更し、虚像の表示領域を上下に移動させる。
 <ヘッドアップディスプレイ装置における処理動作>
 図5は、本実施の形態のヘッドアップディスプレイ装置の初期動作の例について概要を示したフローチャートである。停止中の車両2においてイグニッションスイッチがONされることでAR-HUD1の電源がONされると(S01)、AR-HUD1は、制御部20からの指示に基づいて、まず、車両情報取得部10により車両情報を取得する(S02)。そして、制御部20は、車両情報4のうち、照度センサ105や色度センサ106等により取得した外光情報に基づいて好適な明るさレベルを算出し(S03)、光源調整部25により光源31の発光量を制御して、算出した明るさレベルとなるように設定する(S04)。例えば、外光が明るい場合には明るさレベルを高くし、暗い場合には明るさレベルを低く設定する。
 その後、ECU21により、虚像として表示する映像(例えば、初期画像)を決定、生成し(S05)、生成した映像に対して歪み補正部26により歪みを補正する処理を実施した後(S06)、表示素子駆動部27により表示素子33を駆動・制御して、投射する映像を形成させる(S07)。これにより、映像がウィンドシールド3に投射され、運転者5は虚像を視認することができるようになる。
 AR-HUD1全体で、上述した一連の初期動作も含む各部の起動・始動が完了すると、HUD-ON信号が出力されるが、制御部20ではこの信号を受けたか否かを判定する(S08)。受けていなければ、更にHUD-ON信号を一定時間待ち受け(S09)、ステップS11でHUD-ON信号を受けたと判定されるまで、HUD-ON信号の待ち受け処理(S09)を繰り返す。ステップS11でHUD-ON信号を受けたと判定された場合は、後述するAR-HUD1の通常動作を開始し(S10)、一連の初期動作を終了する。
 図6は、本実施の形態のヘッドアップディスプレイ装置の通常動作の例について概要を示したフローチャートである。通常動作においても、基本的な処理の流れは上述の図5に示した初期動作と概ね同様である。まず、AR-HUD1は、制御部20からの指示に基づいて、車両情報取得部10により車両情報を取得する(S21)。そして、制御部20は、車両情報4のうち、照度センサ105や色度センサ106等により取得した外光情報に基づいて明るさレベル調整処理を行う(S22)。
 図7は、本実施の形態のヘッドアップディスプレイ装置の明るさレベル調整処理の例について概要を示したフローチャートである。明るさレベル調整処理を開始すると、まず、取得した外光情報に基づいて好適な明るさレベルを算出する(S221)。そして、現状設定されている明るさレベルと比較することにより、明るさレベルの変更の要否を判定する(S222)。変更が不要である場合にはそのまま明るさレベル調整処理を終了する。一方、変更が必要である場合には、光源調整部25により光源31の発光量を制御して、変更後の明るさレベルとなるように設定し(S223)、明るさレベル調整処理を終了する。なお、ステップS222において、ステップS221で算出した好適な明るさレベルと、現状設定されている明るさレベルとの間に差分がある場合でも、差分が所定の閾値以上である場合にのみ明るさレベルの変更が必要であると判定するようにしてもよい。
 図6に戻り、その後、ECU21により、ステップS21で取得した最新の車両情報4に基づいて、虚像として表示する映像を現状のものから必要に応じて変更し、変更後の映像を決定、生成する(S23)。なお、車両情報4に基づいて表示内容を変更するパターンは、取得した車両情報4の内容やそれらの組み合わせ等に応じて多数のものがあり得る。例えば、速度情報が変化したことにより、常時表示されている速度表示の数値を変更する場合や、ナビゲーション情報に基づいて案内の矢印図形を表示/消去したり、矢印の形状や表示位置等を変更したりする場合など、様々なパターンがあり得る。
 その後、本実施の形態では、車両2の走行状況に応じて視認性や表示内容の適切性等を維持するための調整・補正処理を行う。まず、虚像の表示領域自体の位置を調整する必要がある場合に、ミラー駆動部50を介してミラー52の角度を変更し、虚像の表示領域を上下に移動させるミラー調整処理を行う(S24)。その後更に、車両2の振動に対して表示領域内における映像の表示位置を補正する振動補正処理を行う(S25)。
 その後、調整・補正した映像に対して歪み補正部26により歪みを補正する処理を実施した後(S26)、表示素子駆動部27により表示素子33を駆動・制御して投射する映像を形成させる(S27)。
 上述した一連の通常動作を実行している際に、車両2の停止等に伴って電源OFF等がなされると、AR-HUD1に対してHUD-OFF信号が出力されるが、制御部20ではこの信号を受けたか否かを判定する(S28)。HUD-OFF信号を受けていなければ、ステップS21に戻って、HUD-OFF信号を受けるまで一連の通常動作を繰り返す。HUD-OFF信号を受けたと判定された場合は、一連の通常動作を終了する。
 以上に説明したように、上述した構成になるヘッドアップディスプレイ装置では、図2に示す制御部20を構成するECU21において実行される各種の演算処理で使用される情報を格納するメモリ領域の一部を構成する描画バッファ(例えば、カラーバッファ)によれば、虚像を前方の風景(以下、「描画空間」または「空間」)に適切に重畳させてAR機能を実現することが可能となる。
 <深度情報を応用した描画制御>
 一方、上述したヘッドアップディスプレイ装置では、描画されて表示されるオブジェクト(以下、「描画対象」または「表示オブジェクト」とも言う)によっては、虚像をより現実性(リアリティー)をもって自然に表示するため、当該オブジェクトを立体的(3次元的)に表現することが行われる場合がある(3D表現)。その際、例えば、図8(a)にも示すように、描画対象(本例では、行先案内の矢印)を、その手前に建物等の障害物が存在するにもかかわらずそのまま表示した場合には、当該描画対象が空間内の障害物上に表示されることとなる(図中の破線の矩形内に示される矢印に注目)。即ち、この例では、建物と建物の間の道を右に曲がることを示そうとしているが、実際には図示するように、右に曲がる地点よりも手前の建物に矢印が重なって表示されてしまう。このような描画対象は、本来、建物により隠されるべきであるが、障害物上に表示された場合、建物が存在するにもかかわらず右曲りを指示するものとなってしまい、不自然で、運転者の距離感を喪失させてしまうという危険をも生じかねない。
 そこで、本発明では、上述した課題を解消すべく、図8(b)にも示すように、障害物の方が手前にある場合は、障害物によって隠れるべき描画対象は表示しない、または、その表示を抑制するなどの制御可能な映像の表示方法を提供するものである。これによれば、より自然でリアルなオブジェクトの描画が実現され、運転者は距離感を正しく把握することができる。以下、これを実現する方法について詳細に述べる。
 [表示オブジェクトの深度(描画用Zバッファ)]
 以下に詳述する実施の形態では、上記の描画対象の深度を示す情報としては、その一例として、表示オブジェクトである描画対象を3D表現(変換)する際などに用いられ、画素毎に深度情報を持つZバッファ(描画用Zバッファ)を利用することができる。なお、以下には、当該描画用Zバッファを利用して描画を抑止(抑制制御)する場合について述べる。
 [前景距離情報(深度マップまたは空間Zバッファ)の取得]
 一方、その一部に上記表示オブジェクトが虚像として表示される空間である車両の前景(以下、単に「空間」とも言う)に存在する障害物と自車までの距離(以下、「深度」と記載する)については、上記図3に示した測距センサ106やカメラ(車外)115を利用し、あるいは、その他のステレオカメラ、更には、カラー開口撮像技術(例えば、https://www.toshiba.co.jp/rdc/detail/1606_01.htmを参照)、赤外線を用いた深度センサ、LiDARなどを用いることにより取得することができる。なお、ステレオカメラを使用する場合、二つの視点から撮影した画像には、被写体の遠近に応じてズレ(以下、「視差」と表記する)がある。この視差の量と深度との間には反比例の関係があるため、視差から深度を求めることが可能となる。なお、視差を画像化したものを視差マップ(disparity map)と呼ぶ。
 本発明では、これらの前景の距離情報(深度マップ)についても、上記の描画用Zバッファと同様の形式に変換して用い、そして、画素毎に深度情報を持つこのZバッファ形式に変換した前景距離情報(深度マップ)は、以下「空間Zバッファ」とも呼ぶ。
 そして、本発明の画像表示方法では、矢印である行先案内などの描画対象を投射映像の生成素子である表示素子33(上記図4を参照)に描画する際には、上記描画用Zバッファに加え、必要に応じて、前景距離情報(深度マップ)を格納した上記空間Zバッファをも参照して表示オブジェクトの描画を行う。
 その際、新規の描画対象である表示オブジェクトが前回描画の表示オブジェクトより手前にあるか否かを、描画用Zバッファを参照して判断し、その結果、手前にあれば描画し、他方、後方にあればその描画を行わない。加えて、本発明では、当該描画対象が前景にある障害物より手前にあるか否かを判断し、その結果、前景の深度情報を格納するメモリ領域であり、画素毎に深度情報を持つ上記空間Zバッファを参照して、障害物が手前にあると判定された場合には、当該表示オブジェクトの表示を制御する。具体的には、描画は行わず、または、その色や表現を変える等の抑制処理を行う。
 ここで、図9には、一般的に、3D空間における視点により得られるZバッファについて示す。なお、Zバッファでは、手前にある描画対象である表示オブジェクト(ここでは立方体)を描画するピクセルほど、その値は小さく、例えば、この図では明るく示され、値が大きい程より深い位置に存在することを意味する。例えば、図9(a)や(b)に示すように、図の左右の描画済みの2つの描画対象の間に新たに描画対象を描画する場合には、新規オブジェクトの描画後のZバッファは図9(c)に示すようになる。即ち、図の中央部に新たに描画された表示オブジェクトは、図の左上の描画済みの表示オブジェクト(描画対象)と重なる部分では、より明るく(即ち、値が小さく)、そして、図の右下の描画済みの表示オブジェクトと重なる部分では、より暗く(即ち、値が大きく)なる。換言すれば、新規表示オブジェクト描画後のZバッファでは、手前にあるピクセルほどその値が小さく(明るく)表示され、一方、新規表示オブジェクトの方が手前にある場合には、新規表示オブジェクトの深度が保存され、他方、旧表示オブジェクトの方が手前にある場合には、深度の更新は行われない。
 なお、上述した空間Zバッファも、上記と同様の原理により得ることが可能であり、このようにして実際に視差マップから深度を計算した例(以下、「深度マップ(depth map)」と呼ぶ)を図10に示す。なお、視差マップを求める方法としては、ブロックマッチング法やセミグローバルブロックマッチング法などがある。
 続いて、上述したZバッファ(深度情報)(具体的には、描画用Zバッファおよび空間Zバッファ)を利用して表示オブジェクの映像を変更・生成する表示映像変更・生成処理について以下に説明する。
 [方式1]
 図11および図12には、方式1になる表示映像変更・生成処理とその説明図が示されている。
 まず、図11に示すフローにおいて表示映像変更・生成処理が開始すると、前景の深度マップ設定が選択、即ち、「ON(オン)」となっているか否かを判定する(ステップS31)。その結果、前景の深度マップ設定が行われていない(「No」)場合には、図12にも示す描画用バッファ(例えば、カラーバッファ)に対して全ての画像の描画が完了したか否かを判定する(ステップS32)。より具体的には、描画用Zバッファから描画対象ピクセルのZ値を取得して(ステップS33)、描画のZ値と比較する(ステップS34)。その結果「Yes」場合には、描画対象ピクセルを描画バッファ(カラーバッファ)に描画し(ステップS35)、他方、「No」場合には、描画しない。そして、これらの工程を全描画が完了するまで繰り返す。なお、これにより、複数の表示オブジェクト間での不自然な重なりが解消される。
 一方、前景深度マップ設定が行われている(「Yes」)場合には、上述したように、ステレオカメラ等によって車両の前方を撮影することにより得られる深度マップ等から距離情報を取得する(ステップS36)。その後、Zバッファ形式に変換して(空間Zバッファ)、その内容を描画用Zバッファの描画必須領域に初期値として登録する(ステップS37)。即ち、図12にも示すように、ステレオカメラ等で撮影された前景から求めた深度マップを、Zバッファ形式に(前景の空間Zバッファ)変換して、それを描画用Zバッファに設定する。
 その後、描画バッファ(カラーバッファ)への映像の全ての描画が完了したか否かを判定する(ステップS38)。その結果「Yes」の場合には、当該処理を終了するが、他方、「No」の場合には、設定した空間用Zバッファから描画対象ピクセルのZ値を取得し(ステップS39)、当該取得したZバッファの値を描画対象ピクセルのZ値(描画のZ値)と比較する(ステップS40)。
 その結果、描画のZ値<Zバッファの値、即ち、「Yes」の場合には、描画対象は前傾の障害物の手前に位置するものとして、ピクセルをそのまま描画バッファ(カラーバッファ)に描画し(ステップS41)、他方、「No」の場合には、描画対象は前景の障害物によって隠れているものとして抑制処理して描画する(ステップS42)。この抑制処理の一例として、例えば、その輝度を変更する場合には、各色の値(RGB)を下げ、色度を変更する場合には、色度を変更して、ピクセルを描画バッファ(カラーバッファ)に描画する。あるいは、ピクセルを描画バッファ(カラーバッファ)に描画しないことも考えられる。かかる処理によれば、図12の下方にも示すように描画バッファ(カラーバッファ)への描画が完了し、その内容がヘッドアップディスプレイ装置に表示される。
 [方式2]
 図13および図14には、方式2になる表示映像変更・生成処理とその説明図が示されている。なお、この方式2では、ピクセル毎に比較し、隠れるピクセルがあれば、描画バッファの該当するピクセルのカラー情報を「0」にして削除する。
 まず、図13に示すフローにおいて表示映像変更・生成処理が開始すると、描画バッファ(カラーバッファ)への映像の全ての描画が完了したか否かを判定する(ステップS41)。その結果「No」場合には、描画用Zバッファから描画対象ピクセルのZ値を取得し(ステップS42)、描画のZ値<描画用Zバッファの値であるか否かを判定し(ステップS43)、「Yes」場合にのみ、描画対象ピクセルを描画バッファ(カラーバッファ)に描画し(ステップS44)、同様の工程を、全描画について完了するまで実行する。
 その後、深度マップ設定が「ON(オン)」であるか否かを判定し(ステップS45)、その結果「No」場合には、処理を終了する。
 一方、深度マップ設定が行われている(「Yes」)場合、上述した距離情報を取得し(ステップS46)、Zバッファ形式に変換して前景の空間Zバッファとする(ステップS47)。その後、上記と同様に、比較処理を行う(ステップS48)。この比較処理では、ピクセル毎に、描画用Zバッファの値と、空間Zバッファである深度マップから導出したZ値とを比較し、描画用Zバッファの値の方が大きければ(空間ZバッファのZ値<描画用Zバッファの値)、当該ピクセルについて、上記と同様の抑制処理を実行する。具体的には、当該ピクセルを削除し、または、各色の値(RGB)を下げてその輝度を変更する。あるいは、色度を変更する場合には、色度を変更する。これにより、描画対象が前景の障害物によって隠れているものとしての処理を行い、その結果、図14の下部にも示すように、行先案内オブジェクトである矢印の一部が削除されて描画バッファ(カラーバッファ)への描画が完了し、その内容がヘッドアップディスプレイ装置に表示されることとなる。
 なお、画像の描画については、上記図2や図3にも示した制御部20やECU21により、上記のZバッファをサポートしている3D描画ライブラリ(例えば、「OpenGL」等)を用いることにより行う。
 上述した描画用Zバッファおよび空間Zバッファを利用した画像表示処理の結果の一例を図15により示す。図からも明らかなように、運転者に歩行者への注意を喚起するための半リング状の表示オブジェクトを前景上に表示する場合、通常であれば、半リング状の表示オブジェクトの全体がそのまま表示される。そのため、その手前に位置するガードレール上にも表示されてしまい(図15(a)の破線部を参照)、運転者に違和感を与える。これに対し、上述した深度情報を応用した描画抑止によれば、図15(b)のように、表示オブジェクトの手前に障害物(本例では、ガードレール)が存在しており、表示オブジェクトの一部がガードレールにより隠されるべき場合には、当該隠されるべき部分を削除して(または、その輝度や色度を変更して)表示する。このことにより、ヘッドアップディスプレイ装置による表示オブジェクトを、よりリアリティーを伴った自然な表示を行うことが可能となり、運転者が不自然さを覚えて距離感を失ってしまうなどのことから解消される。
 続いて、上記に詳細に述べた表示映像変更・生成処理の機能拡張の詳細にについて、以下に説明する。
 [機能拡張1(音声との連動)]
 オブジェクトが隠れたときには、音声による通知と連動させる(音声との連動による補完情報の発生)。
 これは、図16にも示すように、曲がり角等において、人や車などの障害物が自車両の前方に存在した場合、描画したオブジェクトの大部分が隠れてしまう場合であり、このような現象が発生した場合、曲がり角で曲がるタイミングを逸してしまうおそれがある。そこで、オブジェクトが隠れてしまう場合には、必ず、音声による通知を行う。図の例では、「150m先を右折です」とのアナウンスが行われる。更には、常に、音声との連動はONとしおき、表示オブジェクトが隠れてしまう場合には、音声出力のタイミングを(隠れないときに比べて)早め、または、音声出力の頻度を上げることも可能である。なお、この機能は、上記図3にも示したカメラ(車外)115からの映像情報を用いて、図2の制御部20によりスピーカ60を駆動することにより実現可能であることは、当業者であれば明らかであろう。
 [機能拡張2(深度マップのON/OFF機能)]
 図17(a)に示すように、前方の車両によっては、描画した表示オブジェクトの大部分が隠れてしまう場合がある。このような場合には、前景から導出した深度マップにON/OFF機能を持たせる(ON/OFF機能の追加)。このことにより、距離が遠いときは隠しておき、近づいたら描画した表示オブジェクト表示する、即ち、イベントまでの距離に応じた制御へ変更することが好適である。このことによれば、図17(b)に示すように、前方の車両の存在にも関わらず、表示オブジェクトを表示するようにすることも可能であり、更には、上述した音声との連動を行うことも可能であろう。
 なお、実現手法としては、深度マップのON/OFFを、曲がり角などイベントまで距離(時間)があるときは「ON」としておき、近づいたら深度マップを「OFF」(強制表示)とする。もしくは、設定画面等により、運転手が自由にON/OFFできるようにしてもよい。また、深度マップを「OFF」とした場合の処理としては、上述した方式1の場合には、ステレオカメラから導出した前景の深度マップ(空間Zバッファ)を描画用Zバッファの初期値にしなければよく、方式2の場合には、ステレオカメラから導出した前景の深度マップ(空間Zバッファ)と描画用Zバッファとの比較を行わないようにすればよい。
 [機能拡張3(オブジェクトを隠す領域/隠さない領域の定義機能)]
 この機能拡張3は、前景と重なるときに表示オブジェクトを隠す領域/隠さない領域を定義するものであり、例えば、前方撮影カメラで前方車を検知した場合には、その部分は強制的に描画する領域とするものである。
 例えば、図18に示すように、車などの障害物が前方に存在した場合、描画した表示オブジェクトの大部分が隠れてしまう現象が発生する。その場合、表示オブジェクトを隠す領域、隠さず表示する領域(以下、「描画必須領域」と言う:図の灰色部分)を定義しておき、その表示のON/OFFを領域毎に設定できるようにする。例えば、表示オブジェクトの何%以上は必ず表示するなどとしても良く、または、75%表示されている場合には、そのまま、あるいは、50%しか表示されていない場合には、75%表示されるように一部の主要なオブジェクトを表示するなどとしてもよい。他方、上述した描画必須領域である図の中央の灰色部分以外の領域は、前景と重なったときには表示オブジェクトを隠す領域となる。
 この機能拡張3を上記の方式1と組み合わせる場合の表示映像変更・生成処理の内容を図19に示す。即ち、前景の深度マップをZバッファの形式(空間Zバッファ)に変換した後、描画必須領域を初期化するものであり、その後の処理は、上述した方式1と同様であり、ここでは詳述は行わない。
 また、この機能拡張3を上記の方式2と組み合わせる場合の表示映像変更・生成処理の内容を図20に示す。即ち、深度マップをZバッファの形式(前景の空間Zバッファ)に変換した後、描画必須領域を初期化する。その後の処理は、上記の方式2と同様であり、ここでは詳述は行わない。
 [機能拡張5(輝度変更機能)]
 これは、前景に隠れるオブジェクトの輝度を変更する機能であり、図21にも示すように、車や人などの障害物が前方に存在した場合にも、描画した表示オブジェクトの大部分が隠れてしまう現象が発生するが、この隠れた部分は、その輝度を下げて描画するものである。
 [機能拡張6(色度変更機能)]
 これは、前景に隠れるオブジェクトの色度を変更する機能であり、図22にも示すように、車や人などが前方に存在した場合、描画した表示オブジェクトの大部分が隠れてしまう現象が発生するが、この隠れた部分は、当該オブジェクトの色度を変えて描画するものである。なお、この機能は、前述の輝度調整と組み合わせてもよい。更には、色度を変える範囲を限定してもよい。
 上述した機能拡張5(輝度変更機能)や機能拡張6(色度変更機能)の実現手法としては、輝度、色度変更のON/OFFは、設定画面等で運転手が自由にON/OFFできるようにしてもよく、もしくは、曲がり角などイベントまで距離(時間)があるときはONとし、近づいたらOFFとするようなON/OFFの自動制御をしてもよい。また、ONの場合の処理としては、上記の方式2の場合では、前景の深度マップである空間Zバッファと描画用Zバッファとの比較において、表示オブジェクトの方が奥にあった場合には、そのピクセルの輝度を例えば50%に落とす(輝度を変更する場合)、もしくは、色度を変更する(色度を変更する場合)ことが行われる。他方、方式1の場合には、表示オブジェクトと障害物の重なりが無い場合、もしくは、奥にあるものから手前にあるものの順に描画する場合には、上記と同じであり、表示オブジェクトと障害物の重なりがあり、かつ、奥にある表示オブジェクトを後で描画する場合には、これらの拡張機能は適用しない。
 [描画必須領域の変形例]
 上述したように、人や車などの障害物が前方に存在し、その結果、描画した表示オブジェクトの大部分が隠れてしまう現象が発生する場合において、表示オブジェクトを隠さずに表示する領域である「描画必須領域」を、上述した前景用の空間Zバッファを使用しないで実現する変形例について、以下に説明する。
 図23にも示すように、カメラで前方の車線を認識し、直接、自車走行予定領域を求める。あるいは、カーナビなどの地図情報から、自車走行予定領域を取得してもよい。なお、上記領域では描画必須とし、描画予定オブジェクトの3D座標が当該描画必須領域内にある場合には、描画しない。他方、描画必須領域の外にある場合には、上記の方式1もしくは2を用いて描画する。
 上記に詳細に述べたように、本発明になる深度情報を応用した描画抑止機能を備えた画像の表示方法によれば、虚像として表示するオブジェクトを、虚像が表示される空間に対してより適合して表示することが可能であり、例えば、車両の進行方向を示す行先案内オブジェクト(矢印)のように、特に、表示画面上に奥行(深度)を持って表示されるオブジェクトを表示する場合においても、道路に対して自然な表示を行うことが可能であり、優れたヘッドアップディスプレイ装置が実現される。
 (実施例2)
 以上に詳述した実施例では、ヘッドアップディスプレイ装置により表示するオブジェクトは、立体画像として変換された後にカラーバッファ上に描画され、虚像として表示されるものとして説明した。しかしながら、本発明は、更に、表示距離調整機構を備えたヘッドアップディスプレイ装置により、表示される表示オブジェクトを、その表示距離を調整して表示する場合においても、上記も同様に適用することができる。
 [表示距離調整機構]
 以下には、ヘッドアップディスプレイ装置により表示されるオブジェクトを、その表示距離を調整して表示する機構を備えた実施例について説明する。なお、ヘッドアップディスプレイ装置の概要については上記と同様であり、その説明を省略すると共に、以下にはその特徴点についてのみ述べる。
 図24は、本実施例2のヘッドアップディスプレイ装置における可動式拡散板を用いた表示距離調整の例について概要を示した図である。この例では、プロジェクタ30aから投射された画像は、可動式拡散板(可動式ディフューザ)41cで結像した後、レンズ42aを介してミラー52に入射される。
 なお、可動式拡散板41cは、図25にも示すように、更に、拡散板制御部201を備えた表示距離調整部28や拡散制御機構401を備えた表示距離調整機構40により制御されて回転させることができる。プロジェクタ30aから投射された映像に基づく虚像の表示位置は、可動式拡散板41cとレンズ42aとの傾きに応じて決定される。よって、可動式拡散板41cを回転させることで、焦点距離を変えて虚像の表示距離を変化させることができる。具体的には、可動式拡散板41cをレンズ42aに近い位置に傾ければ虚像の表示距離を近くすることができる。逆に、可動式拡散板41cをレンズ42aから遠い位置に傾ければ虚像の表示距離を遠くすることができる。例えば、表示オブジェクトは、その深度を格納した描画用ZバッファのZ値に基づいた距離に設定して表示される。その際、更に、前景の距離情報(深度マップ)を格納した上記空間Zバッファをも参照して表示オブジェクトの描画を行うことによれば、その距離をも可変して表示可能な、より優れた虚像による表示オブジェクトの表示を実現することが可能となる。
 その際、上述した深度情報を応用した描画抑止を行う画像表示方法をも加えて実行することによれば、表示オブジェクトが前景の障害物等に重なって表示されることのない、より優れた画像表示が可能となる。
 なお、上記の例では、オブジェクトをその表示距離を調整して表示する機構として、可動式拡散板を用いた例について述べたが、本発明はこれに限定されることなく、例えば、機能性液晶フィルムを用いたもの、ミラーを複数枚配置するもの、可動式レンズを用いたもの、調光ミラーを用いたもの、可動式光学フィルタを用いたもの、くし状光学フィルタを用いたものなどについても利用可能である。
 上記に詳細に述べたように、本発明になる深度情報を応用した描画抑止機能を備えた映像の表示方法によれば、虚像として表示するオブジェクトを、虚像が表示される空間に対してより適合して違和感なく自然に表示することが可能であり、例えば、矢印等の車両の進行方向を示す行先案内オブジェクトのように、特に、表示画面上に奥行(深度)を持って表示されるオブジェクトを表示する場合、道路に最適に表示することが可能な、優れたヘッドアップディスプレイ装置が実現される。
 以上、本発明者によってなされた発明を実施の形態に基づき具体的に説明したが、本発明は上記の実施の形態に限定されるものではなく、その要旨を逸脱しない範囲で種々変更可能であることはいうまでもない。例えば、上記の実施の形態は本発明を分かりやすく説明するために詳細に説明したものであり、必ずしも説明した全ての構成を備えるものに限定されるものではない。また、上記の実施の形態の構成の一部について、他の構成の追加・削除・置換をすることが可能である。
1…AR-HUD、2…車両、3…ウィンドシールド、4…車両情報、5…運転者、6…表示領域、10…車両情報取得部、20…制御部、21…ECU、22…音声出力部、23…不揮発性メモリ、24…メモリ、25…光源調整部、26…歪み補正部、27…表示素子駆動部、28…表示距離調整部、29…ミラー調整部、30…映像表示装置、30a…プロジェクタ、30b…LCD、31…光源、32…照明光学系、33…表示素子、
40…表示距離調整機構、41c…可動式拡散板、42a…レンズ、52…ミラー、60…スピーカ、107…測距センサ、108…赤外線センサ、116…カメラ(車外)、117…GPS受信機。

Claims (10)

  1.  車両の前方に表示オブジェクトの画像を投射することで、運転者に対して前記車両の前方の空間に前記表示オブジェクトの虚像を表示するヘッドアップディスプレイ装置であって、
     前記車両が検知することができる各種の車両情報を取得する車両情報取得部と、
     前記車両情報取得部が取得した前記車両情報に基づいて、前記空間における前記表示オブジェクトの表示を制御する制御部と、
     前記制御部からの指示に基づいて前記表示オブジェクトを形成する画像表示装置と、
    を有しており、
     前記車両情報取得部は、前記車両の前方空間の深度情報を入力する空間深度入力手段を含んでおり、
     前記制御部は、前記空間の深度情報に基づいて、前記空間内に表示する前記表示オブジェクトの一部の表示を制御する機能を有する、ヘッドアップディスプレイ装置。
  2.  請求項1に記載のヘッドアップディスプレイ装置において、
     前記制御部は、前記表示オブジェクトを立体的に表示する機能を有しており、かつ、当該表示オブジェクトを立体的に表示する場合の深度情報を、前記空間深度入力手段から入力する前記空間の深度情報と比較して、前記表示オブジェクトの一部の表示を制御する、ヘッドアップディスプレイ装置。
  3.  請求項2に記載のヘッドアップディスプレイ装置において、
     前記画像表示装置は、複数のピクセルからなる表示素子を備えており、
     前記表示オブジェクトを立体的に表示する深度情報は、前記表示素子の各ピクセルに対応した当該表示オブジェクトの深度情報を含んでおり、
     前記車両前方の空間の深度情報は、前記表示素子の各ピクセルに対応した当該車両前方空間の深度情報を含んでおり、
     前記制御部は、所定の演算処理を行う演算処理部と共に、前記表示オブジェクトの画像を描画するメモリ領域と、前記表示オブジェクトの深度情報を格納するメモリ領域と前記車両前方空間の深度情報を格納するメモリ領域とを含んでいる、ヘッドアップディスプレイ装置。
  4.  請求項2に記載のヘッドアップディスプレイ装置において、
     更に、前記制御部が前記表示オブジェクトの一部の表示を制御する際に補完情報を音声により発生する手段を備えている、ヘッドアップディスプレイ装置。
  5.  請求項2に記載のヘッドアップディスプレイ装置において、
     記制御部による前記表示オブジェクトの一部の表示の制御は、前記表示オブジェクトの一部の削除、輝度の低下、色度の変更の少なくとも1つを含んでいる、ヘッドアップディスプレイ装置。
  6.  請求項1に記載のヘッドアップディスプレイ装置において、
     前記画像表示装置における前記表示オブジェクトの一部の表示を制御する領域は、予め設定可能である、ヘッドアップディスプレイ装置。
  7.  請求項1に記載のヘッドアップディスプレイ装置において、前記画像表示装置は、前記空間深度入力手段からの前記空間の深度情報に拘わらず前記表示オブジェクトの一部を表示する描画必須領域を含んでいる、ヘッドアップディスプレイ装置。
  8.  車両の前方空間の深度情報を入力する車両前方映像入力手段を含め、車両が検知することができる各種の車両情報を取得する車両情報取得部と、前記車両情報取得部が取得した前記車両情報に基づいて表示オブジェクトの表示を制御する制御部と、前記制御部からの指示に基づいて前記表示オブジェクトを形成する映像表示装置とを有しており、前記車両のウィンドシールドに前記表示オブジェクトを投射することで、運転者に対して前記車両の前方の風景に重畳させて虚像を表示するヘッドアップディスプレイ装置の画像表示方法であって、
     前記空間内に表示する前記表示オブジェクトの一部の表示を、前記車両前方映像入力手段からの前記空間の深度情報に基づいて制御する、画像表示方法。
  9.  請求項8に記載のヘッドアップディスプレイ装置の画像表示方法において、
     前記表示オブジェクトは前記空間内に立体的に表示されており、かつ、当該表示オブジェクトを立体的に表示する場合の深度情報を、前記空間深度入力手段から入力する前記空間の深度情報と比較して、前記表示オブジェクトの一部の表示を制御する、画像表示方法。
  10.  請求項9に記載のヘッドアップディスプレイ装置の画像表示方法において、
     前記表示オブジェクトの一部の表示の制御は、当該表示オブジェクトの一部の削除、輝度の変更、色度の変更の少なくとも1つを含む抑制制御を行う、画像表示方法。
PCT/JP2017/010206 2017-03-14 2017-03-14 ヘッドアップディスプレイ装置とその画像表示方法 WO2018167844A1 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
PCT/JP2017/010206 WO2018167844A1 (ja) 2017-03-14 2017-03-14 ヘッドアップディスプレイ装置とその画像表示方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2017/010206 WO2018167844A1 (ja) 2017-03-14 2017-03-14 ヘッドアップディスプレイ装置とその画像表示方法

Publications (1)

Publication Number Publication Date
WO2018167844A1 true WO2018167844A1 (ja) 2018-09-20

Family

ID=63521899

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2017/010206 WO2018167844A1 (ja) 2017-03-14 2017-03-14 ヘッドアップディスプレイ装置とその画像表示方法

Country Status (1)

Country Link
WO (1) WO2018167844A1 (ja)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110021187A (zh) * 2019-04-19 2019-07-16 青岛智慧城市产业发展有限公司 一种基于ar眼镜、5g网络和智慧停车场的快速停取车辆的方法
WO2020059441A1 (ja) * 2018-09-21 2020-03-26 株式会社デンソー 表示制御装置、表示制御プログラム、およびコンピュータ読み出し可能持続的記録媒体
JP2020050328A (ja) * 2018-09-21 2020-04-02 株式会社デンソー 表示制御装置及び表示制御プログラム
JP2020066360A (ja) * 2018-10-25 2020-04-30 パイオニア株式会社 表示制御装置、表示制御方法及び表示制御用プログラム
CN113165513A (zh) * 2018-11-30 2021-07-23 株式会社小糸制作所 平视显示器、车辆用显示系统以及车辆用显示方法
WO2021251115A1 (ja) * 2020-06-08 2021-12-16 パナソニックIpマネジメント株式会社 表示システム

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0546161A (ja) * 1991-08-12 1993-02-26 Casio Comput Co Ltd 仮想現実表示装置
JP2005069799A (ja) * 2003-08-22 2005-03-17 Denso Corp 車両用ナビゲーションシステム
JP2009193135A (ja) * 2008-02-12 2009-08-27 Xanavi Informatics Corp 車載モニタ装置
WO2012176288A1 (ja) * 2011-06-22 2012-12-27 パイオニア株式会社 ヘッドアップディスプレイ及び制御方法
JP2015128956A (ja) * 2014-01-08 2015-07-16 パイオニア株式会社 ヘッドアップディスプレイ、制御方法、プログラム、及び記憶媒体
JP2016118851A (ja) * 2014-12-19 2016-06-30 アイシン・エィ・ダブリュ株式会社 虚像表示装置

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0546161A (ja) * 1991-08-12 1993-02-26 Casio Comput Co Ltd 仮想現実表示装置
JP2005069799A (ja) * 2003-08-22 2005-03-17 Denso Corp 車両用ナビゲーションシステム
JP2009193135A (ja) * 2008-02-12 2009-08-27 Xanavi Informatics Corp 車載モニタ装置
WO2012176288A1 (ja) * 2011-06-22 2012-12-27 パイオニア株式会社 ヘッドアップディスプレイ及び制御方法
JP2015128956A (ja) * 2014-01-08 2015-07-16 パイオニア株式会社 ヘッドアップディスプレイ、制御方法、プログラム、及び記憶媒体
JP2016118851A (ja) * 2014-12-19 2016-06-30 アイシン・エィ・ダブリュ株式会社 虚像表示装置

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020059441A1 (ja) * 2018-09-21 2020-03-26 株式会社デンソー 表示制御装置、表示制御プログラム、およびコンピュータ読み出し可能持続的記録媒体
JP2020050328A (ja) * 2018-09-21 2020-04-02 株式会社デンソー 表示制御装置及び表示制御プログラム
JP7040485B2 (ja) 2018-09-21 2022-03-23 株式会社デンソー 表示制御装置及び表示制御プログラム
JP2020066360A (ja) * 2018-10-25 2020-04-30 パイオニア株式会社 表示制御装置、表示制御方法及び表示制御用プログラム
CN113165513A (zh) * 2018-11-30 2021-07-23 株式会社小糸制作所 平视显示器、车辆用显示系统以及车辆用显示方法
CN110021187A (zh) * 2019-04-19 2019-07-16 青岛智慧城市产业发展有限公司 一种基于ar眼镜、5g网络和智慧停车场的快速停取车辆的方法
WO2021251115A1 (ja) * 2020-06-08 2021-12-16 パナソニックIpマネジメント株式会社 表示システム
US11982817B2 (en) 2020-06-08 2024-05-14 Panasonic Intellectual Property Management Co., Ltd. Display system

Similar Documents

Publication Publication Date Title
JP6707666B2 (ja) ヘッドアップディスプレイ装置
CN108473054B (zh) 平视显示器装置
CN108473055B (zh) 平视显示器装置
JP6409337B2 (ja) 表示装置
WO2018167844A1 (ja) ヘッドアップディスプレイ装置とその画像表示方法
US10551619B2 (en) Information processing system and information display apparatus
CN109643021B (zh) 平视显示装置
JP2019217790A (ja) ヘッドアップディスプレイ装置
WO2015029598A1 (ja) ヘッドアップディスプレイ装置
JPWO2017094427A1 (ja) ヘッドアップディスプレイ
JP2005184225A (ja) 車両用表示装置
WO2018003650A1 (ja) ヘッドアップディスプレイ
WO2019123975A1 (ja) 表示制御ユニット及びヘッドアップディスプレイ装置
JP6872441B2 (ja) ヘッドアップディスプレイ装置
JP2018159738A (ja) 虚像表示装置
JP6102628B2 (ja) ヘッドアップディスプレイ装置
WO2021131529A1 (ja) ヘッドアップディスプレイ装置
JP2018138986A (ja) ヘッドアップディスプレイ装置
JP2018125629A (ja) ヘッドアップディスプレイ装置
JP2023110188A (ja) 表示装置、制御方法、およびプログラム
JP2018205401A (ja) ヘッドアップディスプレイ装置
JP2019055676A (ja) 車両用表示装置

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 17901309

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 17901309

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: JP

点击 这是indexloc提供的php浏览器服务,不要输入任何密码和下载