JP2000032467A - Image processor, image processing method, and provision medium - Google Patents
Image processor, image processing method, and provision mediumInfo
- Publication number
- JP2000032467A JP2000032467A JP19400498A JP19400498A JP2000032467A JP 2000032467 A JP2000032467 A JP 2000032467A JP 19400498 A JP19400498 A JP 19400498A JP 19400498 A JP19400498 A JP 19400498A JP 2000032467 A JP2000032467 A JP 2000032467A
- Authority
- JP
- Japan
- Prior art keywords
- motion vector
- image information
- pixels
- image
- image data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
- 238000003672 processing method Methods 0.000 title description 4
- 239000013598 vector Substances 0.000 claims abstract description 179
- 238000001514 detection method Methods 0.000 claims abstract description 50
- 238000006243 chemical reaction Methods 0.000 claims abstract description 40
- 238000000034 method Methods 0.000 claims description 19
- 238000012545 processing Methods 0.000 claims description 13
- 230000015654 memory Effects 0.000 abstract description 29
- 238000004364 calculation method Methods 0.000 abstract description 12
- 238000010586 diagram Methods 0.000 description 27
- 230000005540 biological transmission Effects 0.000 description 13
- 238000000605 extraction Methods 0.000 description 6
- 238000013139 quantization Methods 0.000 description 6
- 230000006870 function Effects 0.000 description 5
- 230000006835 compression Effects 0.000 description 3
- 238000007906 compression Methods 0.000 description 3
- 230000002457 bidirectional effect Effects 0.000 description 2
- 230000007423 decrease Effects 0.000 description 2
- 230000007704 transition Effects 0.000 description 2
- 101100366710 Arabidopsis thaliana SSL12 gene Proteins 0.000 description 1
- 101100366711 Arabidopsis thaliana SSL13 gene Proteins 0.000 description 1
- 101100122750 Caenorhabditis elegans gop-2 gene Proteins 0.000 description 1
- 101000946275 Homo sapiens Protein CLEC16A Proteins 0.000 description 1
- 102100037812 Medium-wave-sensitive opsin 1 Human genes 0.000 description 1
- 101100366561 Panax ginseng SS11 gene Proteins 0.000 description 1
- 101100366563 Panax ginseng SS13 gene Proteins 0.000 description 1
- 102100034718 Protein CLEC16A Human genes 0.000 description 1
- 238000004422 calculation algorithm Methods 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 238000004590 computer program Methods 0.000 description 1
- 230000001934 delay Effects 0.000 description 1
- 238000003780 insertion Methods 0.000 description 1
- 230000037431 insertion Effects 0.000 description 1
- 230000007257 malfunction Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000007781 pre-processing Methods 0.000 description 1
- 238000011160 research Methods 0.000 description 1
Landscapes
- Compression Or Coding Systems Of Tv Signals (AREA)
Abstract
Description
【0001】[0001]
【発明の属する技術分野】本発明は画像処理装置および
方法、並びに提供媒体に関し、特に、動き検出回路を共
用することにより、動き検出に必要な計算量を減少し、
回路規模を小さくすることができるようにした画像処理
装置および方法、並びに提供媒体に関する。BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention relates to an image processing apparatus and method, and a providing medium, and more particularly, to reducing the amount of calculation required for motion detection by sharing a motion detection circuit.
The present invention relates to an image processing apparatus and method capable of reducing a circuit scale, and a providing medium.
【0002】[0002]
【従来の技術】画像データを光ディスクや磁気テープ等
にデジタル的に記録する場合、または画像データを所定
の伝送媒体を介して伝送する場合、画像データを符号化
し、圧縮して、データ量を減少することが行われてい
る。2. Description of the Related Art When digitally recording image data on an optical disk, a magnetic tape, or the like, or transmitting image data via a predetermined transmission medium, the image data is encoded and compressed to reduce the data amount. That is being done.
【0003】例えば、MPEG(Moving Picture Coding Exp
erts Group)方式の圧縮方法では、I(Intra)ピクチャ、P
(Predictive)ピクチャ、またはB(Bidrectionally-predi
ctiv)ピクチャのうちのいずれかの予測モードで各フレ
ームの画像を予測し、予測誤差を符号化して伝送するよ
うにしている。基本的には、予測誤差のみが伝送される
ため、各フレームの画像データをそのまま伝送する場合
に比べて、データ量を圧縮することができる。For example, MPEG (Moving Picture Coding Exp)
(erts Group) compression method, I (Intra) picture, P
(Predictive) picture, or B (Bidrectionally-predi
ctiv) The picture of each frame is predicted in any of the prediction modes of the pictures, and the prediction error is encoded and transmitted. Basically, since only the prediction error is transmitted, the data amount can be compressed as compared with the case where the image data of each frame is transmitted as it is.
【0004】例えば、図9に示すように、フレームF0
からフレームF14までの15個のフレームをグループ
オブピクチャ(GOP)として、圧縮処理のための1単位と
する。図9の“I",“P",“B"で表されるフレームは、そ
れぞれIピクチャ、Pピクチャ、Bピクチャで符号化さ
れるフレームを表している。[0004] For example, as shown in FIG.
To fifteen frames to a group of pictures (GOP) as one unit for compression processing. The frames represented by “I”, “P”, and “B” in FIG. 9 represent frames encoded by I pictures, P pictures, and B pictures, respectively.
【0005】Iピクチャのフレームとしては、その画像
情報がそのまま符号化され、伝送される。この符号化の
ことをイントラ符号化という。[0005] As an I-picture frame, its image information is coded and transmitted as it is. This coding is called intra coding.
【0006】また、Pピクチャのフレームとしては、基
本的には、図9(A)に示すように、それよりも過去に
あるIピクチャまたはPピクチャのフレームを予測画像
として演算された予測誤差信号が符号化され、伝送す
る。この符号化のことを順方向予測符号化という。As shown in FIG. 9A, a P-picture frame is basically a prediction error signal calculated using a past I-picture or P-picture frame as a prediction image. Are encoded and transmitted. This coding is called forward prediction coding.
【0007】さらに、Bピクチャのフレームとしては、
基本的には、図9(B)に示すように、時間的に過去お
よび未来にある参照フレームの両方を予測画像として演
算された予測残差信号が符号化される。この符号化のこ
とを双方向符号化という。Further, as a frame of a B picture,
Basically, as shown in FIG. 9 (B), a prediction residual signal calculated using both reference frames in the past and the future as predicted images is encoded. This encoding is called bidirectional encoding.
【0008】図10は、従来の画像符号化装置の構成例
を示すブロック図である。図10の画像符号化装置は、
動き検出回路101と符号化回路102から構成されて
いる。FIG. 10 is a block diagram showing a configuration example of a conventional image encoding device. The image encoding device in FIG.
It comprises a motion detection circuit 101 and an encoding circuit 102.
【0009】動き検出回路101中のフレームメモリ群
111は、入力された画像データを記憶する。動きベク
トル検出器112は、フレームメモリ群111に記憶さ
れている画像データとピクチャタイプ、例えば、Iピク
チャ、Pピクチャ、またはBピクチャなどの指定を示す
データに基づいて、入力された画像データの動きベクト
ルを検出する。A frame memory group 111 in the motion detecting circuit 101 stores the input image data. The motion vector detector 112 calculates the motion of the input image data based on the image data stored in the frame memory group 111 and data indicating a picture type, for example, designation of an I picture, a P picture, or a B picture. Find the vector.
【0010】動きベクトルは、マクロブロックとよばれ
る画素データ毎に検出される。マクロブロックは、16×
16個の画素(ドット)に対応する輝度信号により構成さ
れている。この輝度信号は、さらに8×8ドットを単位と
するブロックY1乃至Y4に区分される。そして、この
16×16ドットの輝度信号は、8×8ドットのCb信号と8
×8ドットのCr信号に対応している。ラスタスキャン
で入力された画素データは、ブロックスキャンに変換さ
れ、動きベクトルとともに、符号化回路102中の予測
符号化器113に出力される。A motion vector is detected for each pixel data called a macro block. Macro block is 16 ×
It is composed of luminance signals corresponding to 16 pixels (dots). This luminance signal is further divided into blocks Y1 to Y4 in units of 8 × 8 dots. And this
A 16 × 16 dot luminance signal is composed of an 8 × 8 dot Cb signal and an 8 × 8 dot Cb signal.
It corresponds to a × 8 dot Cr signal. The pixel data input by the raster scan is converted into a block scan, and output to the prediction encoder 113 in the encoding circuit 102 together with the motion vector.
【0011】予測符号化器113は、予測画像データを
記憶するフレームメモリ群119と、動きベクトル検出
器112から供給される動きベクトルに基づいて、参照
ブロックの予測モードを決定し、決定した予測モードに
基づいて、ブロック単位でフレーム内予測、前方予測、
後方予測、または両方向予測の切り換えを行う。A prediction encoder 113 determines a prediction mode of a reference block based on a frame memory group 119 for storing predicted image data and a motion vector supplied from the motion vector detector 112, and determines the determined prediction mode. , Forward prediction,
Switching between backward prediction and bidirectional prediction is performed.
【0012】DCT器114は、予測符号化器113から
の予測誤差を、例えば、DCT(Discrete Cosine Transfor
m)(離散余弦変換)してDCT係数データを生成する。The DCT unit 114 converts the prediction error from the prediction encoder 113 into, for example, a DCT (Discrete Cosine Transform
m) (Discrete cosine transform) to generate DCT coefficient data.
【0013】量子化器115は、量子化スケール設定器
122から送られる情報に基づいてDCT器114からの
係数データを量子化し、量子化データを生成する。The quantizer 115 quantizes the coefficient data from the DCT unit 114 based on information sent from the quantization scale setting unit 122 to generate quantized data.
【0014】VLC(Variable Length Code)器(可変長符
号化器)116は、量子化器115からの量子化データ
を可変長符号化して、可変長符号データを生成し、送信
バッファ121に出力する。A VLC (Variable Length Code) unit (variable length encoder) 116 performs variable length coding on the quantized data from the quantizer 115 to generate variable length code data and outputs it to the transmission buffer 121. .
【0015】量子化スケール設定器122は、送信バッ
ファ121の送信データ量を一定に保つように、量子化
スケールの値を決定し、量子化器115に出力する。The quantization scale setting unit 122 determines a quantization scale value so as to keep the transmission data amount of the transmission buffer 121 constant, and outputs the value to the quantization unit 115.
【0016】逆量子化器117は、量子化器115で量
子化された係数データを逆量子化する。IDCT(Inverse D
iscrete Cosine Transform)器118は、逆量子化され
た係数データを逆DCT処理し、誤差信号に戻す。加算器
123は、IDCT器118から入力された誤差信号に、動
き補償器120から入力された予測信号を加算し、局部
的に復号する。複合された画像データは、動き補償予測
の参照画像として用いられるため、フレームメモリ群1
19に蓄積される。The inverse quantizer 117 inversely quantizes the coefficient data quantized by the quantizer 115. IDCT (Inverse D
An iscrete cosine transform unit 118 performs an inverse DCT process on the inversely quantized coefficient data to return an error signal. The adder 123 adds the prediction signal input from the motion compensator 120 to the error signal input from the IDCT unit 118, and locally decodes the error signal. Since the combined image data is used as a reference image for motion compensation prediction, the frame memory group 1
19 is stored.
【0017】図10の動き検出回路101の一般的な検
出手法として、全探索手法(フルリサーチ)がある。こ
の全探索手法は、参照フレーム中のサーチ範囲内のすべ
ての画素について、くまなく探索する手法である。ま
た、図10の動き検出回路101の検出方法には、特開
平9-182080号公報に開示されている階層サーチと呼ばれ
る方法もある。この方法を用いることにより、動き検出
に必要とされる計算量をフルサーチ手法を用いるより減
少することができ、また、回路規模も小さくすることが
できる。As a general detection method of the motion detection circuit 101 in FIG. 10, there is a full search method (full research). This full search method is a method for searching all the pixels within the search range in the reference frame. As a detection method of the motion detection circuit 101 in FIG. 10, there is a method called a hierarchical search disclosed in Japanese Patent Application Laid-Open No. Hei 9-82080. By using this method, the amount of calculation required for motion detection can be reduced compared to using the full search method, and the circuit size can be reduced.
【0018】また、図10の画像符号化装置では、発生
符号量が増加した場合において、量子化器115の量子
化ステップを大きくしてDCT係数値を減少していたた
め、DCT空間での解像度が低下するという問題があ
り、それを解決するために、符号化する画像データの画
素数を変換し、マクロブロックを削減することにより、
良好な画質を保ったまま画像データの符号化を行う装置
がある。In the image coding apparatus of FIG. 10, when the generated code amount increases, the DCT coefficient value is reduced by increasing the quantization step of the quantizer 115, so that the resolution in the DCT space is reduced. In order to solve the problem, the number of pixels of the image data to be encoded is converted, and by reducing the number of macro blocks,
There is a device that encodes image data while maintaining good image quality.
【0019】図11は、本出願人が特願平10-121531号
として先に提案した画像符号化装置の構成例を示すブロ
ック図である。図11の画像符号化装置は、入力する画
像データの特徴量に応じて、画像データの画素数を変換
するものである。FIG. 11 is a block diagram showing an example of the configuration of an image coding apparatus proposed earlier by the present applicant as Japanese Patent Application No. 10-121531. The image coding apparatus of FIG. 11 converts the number of pixels of image data according to the feature amount of input image data.
【0020】動き検出回路131は、図10の動き検出
回路101と同様の機能を有しており、端子130から
入力された画像データから動きベクトルと差分信号を検
出する。検出された動きベクトルと差分信号は、画素数
決定回路132に供給される。The motion detecting circuit 131 has a function similar to that of the motion detecting circuit 101 shown in FIG. 10, and detects a motion vector and a difference signal from the image data input from the terminal 130. The detected motion vector and the difference signal are supplied to the pixel number determination circuit 132.
【0021】また、画素数決定回路132は、供給され
た動きベクトルと差分信号から符号化する画像データの
画素数を決定し、画素数を変換するかどうかの信号を切
り替え器134に出力するとともに、変換する画素数を
示す画素数情報を画素数変換回路135に出力する。The pixel number determination circuit 132 determines the number of pixels of the image data to be encoded from the supplied motion vector and the difference signal, and outputs a signal indicating whether or not to convert the number of pixels to the switch 134. , And outputs pixel number information indicating the number of pixels to be converted to the pixel number conversion circuit 135.
【0022】画素数決定回路132は、供給された動き
ベクトルと差分信号から、例えばフレーム中の動きベク
トルの絶対値和や差分信号の大きさ等を、ある特定のし
きい値と比較することにより画像データの画素数を変換
するか否かを決定する。The pixel number determination circuit 132 compares the supplied motion vector and the difference signal with, for example, the sum of the absolute value of the motion vector in the frame, the magnitude of the difference signal, etc., with a specific threshold value. It is determined whether to convert the number of pixels of the image data.
【0023】図12は、フレームF0乃至フレームF1
4の動きベクトルの絶対値和の推移を説明する図であ
る。図12の例では、画素数決定回路132は、フレー
ムF9以降のフレームの絶対値和が、しきい値よりも大
きくなっているので、フレームF9において画素数の変
換を決定する。FIG. 12 shows frames F0 to F1.
FIG. 14 is a diagram for explaining the transition of the sum of absolute values of the motion vector No. 4; In the example of FIG. 12, the pixel number determination circuit 132 determines the conversion of the number of pixels in the frame F9 because the sum of absolute values of the frames after the frame F9 is larger than the threshold value.
【0024】遅延回路133は、端子130から入力さ
れた画像データを、動き検出回路131と画素数決定回
路132が符号化する画素数を決定するまでの間、出力
を遅延し、画素数決定回路132から供給される信号の
時刻と出力する画像データの時刻を合わせる。The delay circuit 133 delays the output of the image data input from the terminal 130 until the motion detection circuit 131 and the pixel number determination circuit 132 determine the number of pixels to be encoded. The time of the signal supplied from 132 and the time of the image data to be output are adjusted.
【0025】切り替え器134は、画素数決定回路13
2からの信号が画素数の変換を示す信号であれば、画像
データの出力を画素数変換回路135側に切り替え、画
素数の変換をしないことを示す信号であれば、動き検出
回路137側に切り替える。The switching unit 134 is a circuit for determining the number of pixels 13
If the signal from 2 is a signal indicating the conversion of the number of pixels, the output of the image data is switched to the pixel number conversion circuit 135 side. Switch.
【0026】画素数変換回路135は、切り替え器13
4から入力される信号により画素数を変換する。図13
は、画素数変換回路135における画素数の変換処理を
説明する図である。画素数変換回路135は、入力され
た(水平N画素×垂直M画素)の画素数の原画像データ
から、画素数決定回路132が決定した画素数、例えば
(水平n画素×垂直m画素)の画素数の画像データに変
換する。The pixel number conversion circuit 135 includes a switch 13
The number of pixels is converted according to the signal input from No. 4. FIG.
FIG. 8 is a diagram for explaining a pixel number conversion process in the pixel number conversion circuit 135. The pixel number conversion circuit 135 calculates the number of pixels determined by the pixel number determination circuit 132, for example, (horizontal n pixels × vertical m pixels) from the input (horizontal N pixels × vertical M pixels) original image data. It is converted into image data of the number of pixels.
【0027】マクロブロックは、16画素×16画素の矩形
の領域であるので、画素数変換前の原画像のマクロブロ
ックの数は、(N/16)×(M/16)個となるのに対して、画素
数変換後のマクロブロックの数は、(n/16)×(m/16)個と
なる。即ち、画素数変換回路135で、画像データの画
素数を変換することにより、マクロブロックの数を(n×
m)/(N×M)倍に削減することができる。また、動きベク
トルの符号量はマクロブロックにほぼ比例するため、動
きベクトルの符号化量を(n×m)/(N×M)倍に削減するこ
とができる。Since the macroblock is a rectangular area of 16 pixels × 16 pixels, the number of macroblocks of the original image before pixel number conversion is (N / 16) × (M / 16). On the other hand, the number of macroblocks after pixel number conversion is (n / 16) × (m / 16). That is, the number of macroblocks is converted to (n ×
m) / (N × M) times. Further, since the coding amount of the motion vector is almost proportional to the macroblock, the coding amount of the motion vector can be reduced to (n × m) / (N × M) times.
【0028】図12の例の場合、画素数決定回路132
は、フレームF9において、画像データの画素数の変換
の決定を行う。動き検出回路137は、選択された画像
信号の動き検出を行い、動きベクトルと画像データを符
号化回路136に出力する。In the case of the example shown in FIG.
Determines the conversion of the number of pixels of the image data in the frame F9. The motion detection circuit 137 detects the motion of the selected image signal, and outputs a motion vector and image data to the encoding circuit 136.
【0029】符号化回路136は、図12の例のよう
に、フレームF9で画素数の切り替えがおきた場合、図
14に示すように、フレームF8までは水平N画素×垂
直M画素の画像データとして符号化し、フレームF9以
降では、水平n画素×垂直m画素の画素データとして符
号化する。When the number of pixels is switched in the frame F9 as in the example of FIG. 12, the encoding circuit 136 outputs image data of horizontal N pixels × vertical M pixels up to the frame F8 as shown in FIG. After the frame F9, the pixel data is encoded as pixel data of horizontal n pixels × vertical m pixels.
【0030】符号化回路136は、動きベクトルの符号
量の削減分をDCT係数の符号量の増加分に振り替え
る。このため、量子化ステップ値を低減でき、DCT空
間での解像度の低下を抑制することができている。The encoding circuit 136 transfers the reduced amount of the motion vector code to the increased amount of the DCT coefficient code. For this reason, the quantization step value can be reduced, and a decrease in resolution in the DCT space can be suppressed.
【0031】図15は、本出願人が特願平10-137676号
として先に提案した画像符号化装置の構成例を示すブロ
ック図である。図15の画像符号化装置は、1つの入力
信号に対して、複数の画素数の画像データを並列に符号
化し、出力段階で選択するものである。FIG. 15 is a block diagram showing an example of the configuration of an image coding apparatus proposed earlier by the present applicant as Japanese Patent Application No. 10-137676. The image encoding apparatus of FIG. 15 encodes image data of a plurality of pixels in parallel with respect to one input signal, and selects the image data at an output stage.
【0032】端子150から入力された原画像データ
は、動き検出回路151に供給されるとともに、画素数
変換回路154に供給される。The original image data input from the terminal 150 is supplied to the motion detection circuit 151 and to the pixel number conversion circuit 154.
【0033】動き検出回路151は、図10の動き検出
回路101と同様の機能を有しており、供給された画像
データから動きベクトルを検出し、符号化回路152に
出力する。符号化回路152も図10の符号化回路10
2と同様の機能を有しており、入力された画像データを
符号化する。そして、符号化回路152は、符号化した
画像データを同期遅延回路153に出力する。The motion detection circuit 151 has the same function as the motion detection circuit 101 in FIG. 10, detects a motion vector from the supplied image data, and outputs the motion vector to the encoding circuit 152. The encoding circuit 152 is also the encoding circuit 10 of FIG.
2 has the same function as that of the first embodiment, and encodes input image data. Then, the encoding circuit 152 outputs the encoded image data to the synchronization delay circuit 153.
【0034】画素数変換回路154は、入力された原画
像データの画素数を変換し、動き検出回路155に出力
すると共に、ビットストリームを終了することを意味す
るシーケンスエンドコードとシーケンスヘッダはビット
ストリームを開始することを意味するシーケンスヘッダ
を符号化回路156に出力する。The pixel number conversion circuit 154 converts the number of pixels of the input original image data, outputs the converted pixel number to the motion detection circuit 155, and outputs a sequence end code and a sequence header indicating the end of the bit stream. Is output to the encoding circuit 156, which means that.
【0035】動き検出回路155は、画素数を変換され
た画像データの動きベクトルを検出し、符号化回路15
6に出力する。The motion detection circuit 155 detects a motion vector of the image data whose pixel number has been converted, and
6 is output.
【0036】符号化回路156は、図10の符号化回路
102と同様の機能を有しており、入力された画像デー
タをビットストリームの切り替えが行いやすいように符
号化する。例えば、MPEGの場合、符号化回路156は、
前処理として予めすべてのGOPの前に画素数変換回路1
54から入力されたシーケンスヘッダを書き込むと共
に、さらにシーケンスエンドコードを挿入しやすくする
ために、GOPの終わりにシーケンスヘッダと同じ大きさ
のビット数で全て「0」でなるシーケンスエンドコード
を書き込んでおく。このように、画素数を変換したと
き、そこにシーケンスとしての境界を明確に設け、画素
数変換前のフレームを参照画像として画素数変換後のフ
レーム画像を符号化するような誤動作を防止し、ビット
ストリームの切り替えをスムーズに行って符号化する。
そして、符号化回路156は、符号化したビットストリ
ームを同期遅延回路157に出力する。The encoding circuit 156 has a function similar to that of the encoding circuit 102 shown in FIG. 10, and encodes input image data so that a bit stream can be easily switched. For example, in the case of MPEG, the encoding circuit 156
Pixel number conversion circuit 1 before all GOPs as pre-processing
At the end of the GOP, a sequence end code consisting of all "0" is written at the end of the GOP, in addition to writing the sequence header input from 54 and further facilitating insertion of the sequence end code. . In this way, when the number of pixels is converted, a boundary as a sequence is clearly provided there, and a malfunction such as encoding a frame image after the number of pixels conversion using a frame before the number of pixels conversion as a reference image, Bit stream switching is performed smoothly for encoding.
Then, the encoding circuit 156 outputs the encoded bit stream to the synchronization delay circuit 157.
【0037】同期遅延回路153,157は、互いに同
期信号を送りながら、入力されたビットストリームの中
の同期信号を検出し、新たに同期信号が受信されるま
で、ビットストリームの遅延を行い、符号化されている
画像データの時刻合わせを行う。MPEGの場合、例えば同
期遅延回路153,157は、シーケンスヘッダを探
し、新たなシーケンスが来るまで、ビットストリームを
遅延する。The synchronization delay circuits 153 and 157 detect the synchronization signal in the input bit stream while transmitting the synchronization signal to each other, and delay the bit stream until a new synchronization signal is received. The time of the converted image data is adjusted. In the case of MPEG, for example, the synchronization delay circuits 153 and 157 search for a sequence header and delay the bit stream until a new sequence comes.
【0038】特徴量抽出回路159は、符号化回路15
2,156から入力された符号化に関する情報に基づい
て、特徴量を抽出し、同期遅延回路153,157から
入力される同期信号に合わせて、特徴量を画素数判断回
路160に出力する。例えば、特徴量抽出回路159
は、符号化回路152,156からS/N比(信号対雑音
比)などを受信し、GOPの中の平均S/N比を計算して、特
徴量として画素数判断回路160に出力する。The feature quantity extraction circuit 159
A feature amount is extracted based on the information on the encoding input from the second and 156, and the feature amount is output to the pixel number determination circuit 160 in accordance with the synchronization signal input from the synchronization delay circuits 153 and 157. For example, the feature amount extraction circuit 159
Receives the S / N ratio (signal-to-noise ratio) and the like from the encoding circuits 152 and 156, calculates the average S / N ratio in the GOP, and outputs it to the pixel number determination circuit 160 as a feature amount.
【0039】画素数判断回路160は、特徴量抽出回路
159から入力される特徴量をもとに、選択するビット
ストリームを決定し、切り替え信号をビットストリーム
切り替え回路158に出力する。例えば、画素数判断回
路160は、特徴量抽出回路159から平均S/N比を特
徴量として受信し、平均S/N比が一番よいビットストリ
ームを選択するように、切り替え信号をビットストリー
ム切り替え回路158に出力する。The pixel number determining circuit 160 determines a bit stream to be selected based on the feature amount input from the feature amount extracting circuit 159, and outputs a switching signal to the bit stream switching circuit 158. For example, the pixel number determination circuit 160 receives the average S / N ratio as the feature amount from the feature amount extraction circuit 159, and switches the switching signal so as to select the bit stream having the best average S / N ratio. Output to the circuit 158.
【0040】ビットストリーム切り替え回路158から
入力されたビットストリームは、送信バッファ159に
一旦貯められた後、送信される。送信バッファ159
は、バッファの占有率などの情報をビットストリーム切
り替え回路158にフィードバックする。The bit stream input from the bit stream switching circuit 158 is temporarily stored in the transmission buffer 159 and then transmitted. Transmission buffer 159
Feeds back information such as the buffer occupancy to the bit stream switching circuit 158.
【0041】ビットストリーム切り替え回路158は、
送信バッファ159からのフィードバック情報をもと
に、送信バッファ159の占有率が一定となるように、
ビットストリームを調整して送り出す。例えばMPEGの場
合、ビットストリーム切り替え回路158は、図16の
GOP1の終わりにシーケンスコードを挿入し、送信バッ
ファ159が破綻をきたさないように調整し、図16の
GOP2を出力する。The bit stream switching circuit 158 includes:
Based on the feedback information from the transmission buffer 159, the transmission buffer 159 is occupied at a constant rate.
Adjust and send out the bitstream. For example, in the case of MPEG, the bit stream switching circuit 158
A sequence code is inserted at the end of GOP1 and adjusted so that the transmission buffer 159 does not break down.
Output GOP2.
【0042】このように、複数の画素数の画像データを
符号化し、出力段階でビットストリームを選択すること
により、良好な画質の符号化データを出力できる。As described above, by encoding image data having a plurality of pixels and selecting a bit stream at the output stage, encoded data having good image quality can be output.
【0043】[0043]
【発明が解決しようとする課題】しかしながら、図11
または図15の画像符号化装置のように、画像データの
画素数の変換を行う画像符号化装置では、複数の動き検
出回路を有する必要があり、異なった画素数の画像デー
タごとに動き検出を行わなければならず、動き検出に必
要な計算量も多くなり、回路規模も大きくなる課題があ
った。However, FIG.
Alternatively, an image encoding device that converts the number of pixels of image data as in the image encoding device of FIG. 15 needs to have a plurality of motion detection circuits, and performs motion detection for each image data having a different number of pixels. This has to be performed, the amount of calculation required for motion detection increases, and the circuit scale increases.
【0044】本発明はこのような状況に鑑みてなされた
ものであり、動き検出に要する計算量を減少し、回路規
模を小さくすることができるようにする。The present invention has been made in view of such a situation, and it is possible to reduce the amount of calculation required for motion detection and reduce the circuit scale.
【0045】[0045]
【課題を解決するための手段】請求項1に記載の画像処
理装置は、入力された第1の画像情報の画素数を変換す
る画素数変換手段と、前記画素数変換手段により変換さ
れた画素数を有する第2の画像情報の動きベクトルを検
出する第1の動きベクトル検出手段と、前記第1の動き
ベクトル検出手段により検出された前記第2の画像情報
の動きベクトルに基づき、前記第1の画像情報の動きベ
クトルを検出する第2の動きベクトル検出手段と、前記
第1の画像情報および前記第1の画像情報の動きベクト
ル、または前記第2の画像情報および前記第2の画像情
報の動きベクトルを符号化する符号化手段と、前記符号
化手段により符号化された符号化情報を出力する出力手
段とを備えることを特徴とする。An image processing apparatus according to claim 1, wherein a pixel number conversion means for converting the number of pixels of the input first image information, and a pixel converted by the pixel number conversion means. First motion vector detection means for detecting a motion vector of second image information having a number, and the first motion vector detection means based on the motion vector of the second image information detected by the first motion vector detection means. A second motion vector detecting means for detecting a motion vector of the first image information, and a motion vector of the first image information and the first image information, or the second image information and the second image information. It is characterized by comprising encoding means for encoding a motion vector, and output means for outputting encoded information encoded by the encoding means.
【0046】請求項3に記載の画像処理方法は、入力さ
れた第1の画像情報の画素数を変換する画素数変換ステ
ップと、前記画素数変換ステップで変換された画素数を
有する第2の画像情報の動きベクトルを検出する第1の
動きベクトル検出ステップと、前記第1の動きベクトル
検出ステップで検出された前記第2の画像情報の動きベ
クトルに基づき、前記第1の画像情報の動きベクトルを
検出する第2の動きベクトル検出ステップと、前記第1
の画像情報および前記第1の画像情報の動きベクトル、
または前記第2の画像情報および前記第2の画像情報の
動きベクトルを符号化する符号化ステップと、前記符号
化ステップで符号化された符号化情報を出力する出力ス
テップとを含むことを特徴とする。According to a third aspect of the present invention, in the image processing method, a pixel number converting step of converting the number of pixels of the input first image information, and a second step having the number of pixels converted in the pixel number converting step are performed. A first motion vector detecting step of detecting a motion vector of the image information; and a motion vector of the first image information based on the motion vector of the second image information detected in the first motion vector detecting step. A second motion vector detecting step of detecting
Image information and a motion vector of the first image information,
Or an encoding step of encoding the second image information and a motion vector of the second image information, and an output step of outputting the encoded information encoded in the encoding step. I do.
【0047】請求項4に記載の記録媒体は、入力された
第1の画像情報の画素数を変換する画素数変換ステップ
と、前記画素数変換ステップで変換された画素数を有す
る第2の画像情報の動きベクトルを検出する第1の動き
ベクトル検出ステップと、前記第1の動きベクトル検出
ステップで検出された前記第2の画像情報の動きベクト
ルに基づき、前記第1の画像情報の動きベクトルを検出
する第2の動きベクトル検出ステップと、前記第1の画
像情報および前記第1の画像情報の動きベクトル、また
は前記第2の画像情報及び前記第2の画像情報の動きベ
クトルを符号化する符号化ステップと、前記符号化ステ
ップで符号化された符号化情報を出力する出力ステップ
とを含む処理を画像処理装置に実行させるコンピュータ
に読み取り可能なプログラムを提供することを特徴とす
る。The recording medium according to claim 4, wherein a pixel number conversion step for converting the number of pixels of the input first image information, and a second image having the number of pixels converted in the pixel number conversion step A first motion vector detecting step of detecting a motion vector of information; and a motion vector of the first image information based on a motion vector of the second image information detected in the first motion vector detecting step. A second motion vector detecting step of detecting, and a code for coding the motion vector of the first image information and the first image information, or the motion vector of the second image information and the motion vector of the second image information Computer-readable program that causes an image processing apparatus to execute a process including an encoding step and an output step of outputting encoded information encoded in the encoding step. And providing the program.
【0048】請求項1に記載の画像処理装置、請求項3
に記載の画像処理方法、および請求項4に記載の提供媒
体においては、入力された第1の画像情報の画素数が変
換され、変換された画素数を有する第2の画像情報の動
きベクトルが検出され、検出された第2の画像情報の動
きベクトルに基づき、第1の画像情報の動きベクトルが
検出される。An image processing apparatus according to claim 1,
In the image processing method described in (1) and the providing medium described in (4), the number of pixels of the input first image information is converted, and the motion vector of the second image information having the converted number of pixels is The detected motion vector of the first image information is detected based on the detected motion vector of the second image information.
【0049】[0049]
【発明の実施の形態】以下に本発明の実施の形態を説明
するが、特許請求の範囲に記載の発明の各手段と以下の
実施の形態との対応関係を明らかにするために、各手段
の後の括弧内に、対応する実施の形態(但し一例)を付
加して本発明の特徴を記述すると、次のようになる。但
し勿論この記載は、各手段を記載したものに限定するこ
とを意味するものではない。DESCRIPTION OF THE PREFERRED EMBODIMENTS Embodiments of the present invention will be described below. In order to clarify the correspondence between each means of the invention described in the claims and the following embodiments, each means is described. When the features of the present invention are described by adding the corresponding embodiment (however, an example) in parentheses after the parentheses, the result is as follows. However, of course, this description does not mean that each means is limited to those described.
【0050】請求項1に記載の画像処理装置は、入力さ
れた第1の画像情報の画素数を変換する画素数変換手段
(例えば、図2の画素数変換器21)と、前記画素数変
換手段により変換された画素数を有する第2の画像情報
の動きベクトルを検出する第1の動きベクトル検出手段
(例えば、図2の動きベクトル検出器24)と、前記第
1の動きベクトル検出手段により検出された前記第2の
画像情報の動きベクトルに基づき、前記第1の画像情報
の動きベクトルを検出する第2の動きベクトル検出手段
(例えば、図2の動きベクトル検出器25)と、前記第
1の画像情報および前記第1の画像情報の動きベクト
ル、または前記第2の画像情報および前記第2の画像情
報の動きベクトルを符号化する符号化手段(例えば、図
1の符号化回路16)と、前記符号化手段により符号化
された符号化情報を出力する出力手段(例えば、図1の
符号化回路16)とを備えることを特徴とする。The image processing apparatus according to the first aspect includes a pixel number conversion means (for example, the pixel number converter 21 in FIG. 2) for converting the number of pixels of the input first image information, and the pixel number conversion means. First motion vector detecting means (for example, the motion vector detector 24 in FIG. 2) for detecting a motion vector of the second image information having the number of pixels converted by the means, and the first motion vector detecting means. A second motion vector detecting means (for example, a motion vector detector 25 in FIG. 2) for detecting a motion vector of the first image information based on the detected motion vector of the second image information; Encoding means for encoding the first image information and the motion vector of the first image information, or the second image information and the motion vector of the second image information (for example, the encoding circuit 16 of FIG. 1) If, and an outputting means for outputting a coded information (e.g., the encoding circuit 16 of FIG. 1) by the encoding means.
【0051】図1は、本発明の画像処理装置を適用した
画像符号化装置の構成例を示すブロック図である。FIG. 1 is a block diagram showing a configuration example of an image coding apparatus to which the image processing apparatus of the present invention is applied.
【0052】動き検出回路12は、端子11から入力さ
れた原画像データの画素数を変換し、動きベクトルを計
算して、異なる2つの画素数の画像データと、それらに
対応する2つの動きベクトルを同時に出力するようにな
されている。The motion detection circuit 12 converts the number of pixels of the original image data input from the terminal 11, calculates a motion vector, and sets image data having two different numbers of pixels and two corresponding motion vectors. Are output at the same time.
【0053】画素数決定回路13は、動き検出回路12
から供給された情報、例えば、フレーム中の動きベクト
ルの絶対値和や差分信号の大きさなどをある特定のしき
い値と比較することにより、画素数の変換を決定し、決
定した情報を切り替え信号としてスイッチ14,15に
出力するようになされている。The pixel number determination circuit 13 is
Information, such as the sum of the absolute value of the motion vector in the frame or the magnitude of the difference signal, is compared with a specific threshold value, thereby determining the conversion of the number of pixels and switching the determined information. The signals are output to the switches 14 and 15 as signals.
【0054】スイッチ14,15は、画素数決定回路1
3から供給された切り替え信号に基づいて、接点14
A,14B,15A,15Bを切り替えるようになされ
ている。The switches 14 and 15 are connected to the pixel number determination circuit 1
3 based on the switching signal supplied from
A, 14B, 15A, and 15B are switched.
【0055】符号化回路16は、スイッチ14から入力
された画像データと、スイッチ15から入力された動き
ベクトルを符号化してビットストリームを出力するよう
になされている。The encoding circuit 16 encodes the image data input from the switch 14 and the motion vector input from the switch 15 and outputs a bit stream.
【0056】図2は、動き検出回路12の構成例を示す
ブロック図である。動き検出回路12は、端子11から
入力された原画像データを画素数変換器21に出力する
とともに、フレームメモリ群23に出力するようになさ
れている。FIG. 2 is a block diagram showing a configuration example of the motion detection circuit 12. The motion detection circuit 12 outputs the original image data input from the terminal 11 to the pixel number converter 21 and to the frame memory group 23.
【0057】画素数変換器21は、端子11から入力さ
れた原画像データの画素数を変換し、縮小画像データを
生成し、生成した縮小画像データをフレームメモリ群2
2に出力するようになされている。フレームメモリ群2
2は、入力された縮小画像データを保存するようになさ
れている。The pixel number converter 21 converts the number of pixels of the original image data input from the terminal 11, generates reduced image data, and stores the generated reduced image data in the frame memory group 2.
2 is output. Frame memory group 2
Reference numeral 2 stores the input reduced image data.
【0058】動きベクトル検出器24は、フレームメモ
リ群22に保存されている縮小画像データから動きベク
トルを検出し、検出した動きベクトルをベクトルメモリ
26に出力するようになされている。ベクトルメモリ2
6は、入力された動きベクトルを記憶するようになされ
ている。The motion vector detector 24 detects a motion vector from the reduced image data stored in the frame memory group 22 and outputs the detected motion vector to the vector memory 26. Vector memory 2
Numeral 6 stores the input motion vector.
【0059】フレームメモリ群23は、端子11から入
力された原画像データを保存するようになされている。
動きベクトル検出器25は、ベクトルメモリ26に記録
されている縮小画像データ上の動きベクトルから原画像
データ上の動きベクトルを検出するようになされてい
る。The frame memory group 23 stores the original image data input from the terminal 11.
The motion vector detector 25 detects a motion vector on the original image data from a motion vector on the reduced image data recorded in the vector memory 26.
【0060】次に、本実施の形態の画像符号化装置の動
作について説明する。端子11から入力された原画像デ
ータは、動き検出回路12に入力される。動き検出回路
12に入力された原画像データは、画素数変換器21に
出力されるとともに、フレームメモリ群23に出力され
る。Next, the operation of the image coding apparatus according to the present embodiment will be described. The original image data input from the terminal 11 is input to the motion detection circuit 12. The original image data input to the motion detection circuit 12 is output to the pixel number converter 21 and also to the frame memory group 23.
【0061】画素数変換器21は、端子11から入力さ
れた原画像データの画素数を変換し、縮小画像データを
生成する。そして、画素数変換器21は、生成した縮小
画像データをフレームメモリ群22に出力する。フレー
ムメモリ群22は、入力された縮小画像データを保存す
る。The pixel number converter 21 converts the number of pixels of the original image data input from the terminal 11 to generate reduced image data. Then, the pixel number converter 21 outputs the generated reduced image data to the frame memory group 22. The frame memory group 22 stores the input reduced image data.
【0062】動きベクトル検出器24は、フレームメモ
リ群22に保存されている縮小画像データから動きベク
トルを検出し、検出した動きベクトルをベクトルメモリ
26に出力する。ベクトルメモリ26は、入力された動
きベクトルを記憶する。The motion vector detector 24 detects a motion vector from the reduced image data stored in the frame memory group 22 and outputs the detected motion vector to the vector memory 26. The vector memory 26 stores the input motion vector.
【0063】一方、動きベクトル検出器25は、ベクト
ルメモリ26に記憶されている縮小画像データ上の動き
ベクトルから、原画像データ上の動きベクトルを演算に
より求める。ここで実行される処理について、以下に詳
細に説明する。On the other hand, the motion vector detector 25 calculates the motion vector on the original image data from the motion vector on the reduced image data stored in the vector memory 26 by calculation. The processing executed here will be described in detail below.
【0064】図3は、原画像を縮小して縮小画像を生成
した際の縮小率と動きベクトルの関係を説明する図であ
る。図3に示すように、原画像の画素数を変換し、画像
を縮小していくと、その動き量も縮小率に比例して減少
することがわかる。FIG. 3 is a diagram for explaining the relationship between a reduction ratio and a motion vector when a reduced image is generated by reducing an original image. As shown in FIG. 3, when the number of pixels of the original image is converted and the image is reduced, the amount of motion also decreases in proportion to the reduction ratio.
【0065】つまり、図4に示すように、水平画素数N
×垂直画素数Mの原画像(図4(A))を、水平画素数
n×垂直画素数mの縮小画像(図4(B))に変換した
場合、原画像上のサーチ範囲Aに対応する縮小画像上の
領域はサーチ範囲Bに対応することになる。サーチ範囲
Bは、原画像上のサーチ範囲Aと比較して、(n×m)/(N
×M)の大きさとなっている。したがって、同じ動き検出
アルゴリズムで検索した場合、サーチ範囲Bで動き検出
を行うと、サーチ範囲Aで動き検出を行うよりも動き検
出に要する計算量を少なくすることができる。That is, as shown in FIG.
When the original image having the number of vertical pixels M (FIG. 4A) is converted into a reduced image having the number of horizontal pixels n × the number of vertical pixels m (FIG. 4B), it corresponds to the search range A on the original image. The area on the reduced image that corresponds to the search range B. The search range B is (n × m) / (N
× M). Therefore, when the search is performed using the same motion detection algorithm, when the motion is detected in the search range B, the amount of calculation required for the motion detection can be smaller than when the motion is detected in the search range A.
【0066】そこで、図3に示すように、原画像上の動
きベクトルと縮小画像上の動きベクトルとは、縮小率に
ほぼ比例するので、原画像上の動きベクトルを探索する
場合は、動き検出に要する計算量を削減するため、動き
ベクトル検出器24において、図5(B)に示すよう
に、先ず縮小画像上のサーチ範囲B内で動きベクトルMV
Bの検出を行い、動きベクトル検出器25において、図
5(A)に示すように、圧縮率に応じて動きベクトルMV
Aを計算し、動きベクトルMVAの指す周辺のサーチ範囲C
(サーチ範囲Aより狭い)を探索する。Therefore, as shown in FIG. 3, the motion vector on the original image and the motion vector on the reduced image are almost proportional to the reduction ratio. In order to reduce the amount of calculation required for the motion vector MV, as shown in FIG.
B , and the motion vector detector 25 detects the motion vector MV according to the compression ratio as shown in FIG.
A is calculated, and the search range C around the motion vector MV A is indicated.
(Narrower than the search range A).
【0067】そして、動き検出回路12は、同時刻にお
いて、2つの異なる画素数の画像上の動きベクトルの計
算を終えると、動きベクトルと画像データを出力する。
即ち、図2に示すように、フレームメモリ群22は画素
数が縮小された縮小画像データを出力し、ベクトルメモ
リ26は縮小画像データ上の動きベクトルMVBを出力
し、フレームメモリ群23は原画像データを出力し、動
きベクトル25は原画像データ上の動きベクトルMVAを
出力する。When the motion detection circuit 12 completes the calculation of the motion vector on the image having two different numbers of pixels at the same time, it outputs the motion vector and the image data.
That is, as shown in FIG. 2, a frame memory group 22 to output the reduced image data in which the number of pixels is reduced, vector memory 26 outputs a motion vector MV B of the reduced image data, a frame memory group 23 is the original outputs the image data, the motion vector 25 to output the motion vector MV a on the original image data.
【0068】画素数決定回路13は、動き検出回路12
から供給された縮小画像データ、縮小画像データ上の動
きベクトルMVB、原画像データ、および原画像データ上
の動きベクトルMVAから得られる情報、例えば、フレー
ム中の動きベクトルの絶対値和や差分信号の大きさなど
をある特定のしきい値と比較することにより、画素数を
変換するか否かを決定する。そして、画素数決定回路1
3は、画素数を変換する場合(例えば、動きベクトルの
絶対値和が大きい場合)、スイッチ14とスイッチ15
を、それぞれ接点14Aと15Aに切り替えさせ、縮小
画像データと動きベクトルMVBを選択出力させ、画素数
を変換しない場合(例えば、動きベクトルの絶対値和が
小さい場合)、スイッチ14とスイッチ15を、それぞ
れ接点14Bと15Bに切り替えさせ、原画像データと
動きベクトルMVAを選択、出力させる。The pixel number determination circuit 13 is
Reduced image data supplied from the motion vector MV B of the reduced image data, the original image data, and information obtained from the motion vector MV A on the original image data, for example, the absolute value sum or the difference of the motion vectors in the frame By comparing the magnitude of the signal or the like with a specific threshold value, it is determined whether to convert the number of pixels. Then, the pixel number determination circuit 1
3 indicates a case where the number of pixels is converted (for example, a case where the sum of absolute values of the motion vectors is large).
And let switched to the contact point 14A and 15A, respectively, the reduced image data and the motion vector MV B by selectively output, if you do not convert the number of pixels (e.g., when the absolute value sum of the motion vector is small), the switch 14 and the switch 15 , let switched to the contact point 14B and 15B, respectively, selects the original image data and the motion vector MV a, to output.
【0069】符号化回路16は、スイッチ14から入力
された画像データと、スイッチ15から入力された動き
ベクトルを符号化してビットストリームを出力する。The encoding circuit 16 encodes the image data input from the switch 14 and the motion vector input from the switch 15, and outputs a bit stream.
【0070】以上のように、図1の実施の形態の画像符
号化装置によれば、図5に示すように、縮小画像上で検
出した動きベクトルMVBをもとに、原画像上の動きベク
トルMVAを検出する際、図4(B)のサーチ範囲Bと図
5(A)のサーチ範囲Cを探索するようにしたので、図
4(A)のサーチ範囲Aを探索する場合よりも計算量を
少なくすることができる。[0070] As described above, according to the image coding apparatus of the embodiment of FIG. 1, as shown in FIG. 5, on the basis of the motion vector MV B detected on the reduced image, the motion of the original image when detecting the vector MV a, since so as to search the search range C of the search range B and the diagram of FIG 4 (B) 5 (a) , than when searching the search range a shown in FIG. 4 (a) The amount of calculation can be reduced.
【0071】また、動きベクトル検出器25は、動きベ
クトル検出器24により検出され、ベクトルメモリ26
に記憶されている縮小画像上の動きベクトルMVBを利用
することにより、原画像上の動きベクトルMVAを求める
ようにしたので、計算量を減少することができるととも
に、回路規模を小さくすることができる。The motion vector detector 25 detects the motion vector from the motion vector
The motion vector MV A on the original image is obtained by using the motion vector MV B on the reduced image stored in, so that the calculation amount can be reduced and the circuit size can be reduced. Can be.
【0072】以上においては、異なる2つの画素数の動
きベクトルを検出するようにしたが、画素数変換器2
1、フレームメモリ群22、動きベクトル検出器24、
およびベクトルメモリ26の数を増加することにより、
さらに異なった複数の画素数の画像データ上の動きベク
トルを検出することもできる。In the above description, a motion vector having two different numbers of pixels is detected.
1, frame memory group 22, motion vector detector 24,
And by increasing the number of vector memories 26,
Further, it is possible to detect a motion vector on image data having a plurality of different numbers of pixels.
【0073】図6は、本発明を適用した画像符号化装置
の他の構成例を示すブロック図である。図1の画像符号
化装置では、異なる画素数の画素データを選択した後に
符号化するようにしたが、図6の画像符号化装置では、
2つの異なる画素数の画像データを並列に符号化し、出
力段階で選択する。FIG. 6 is a block diagram showing another example of the configuration of an image coding apparatus to which the present invention is applied. In the image encoding device of FIG. 1, pixel data having a different number of pixels is selected and then encoded. However, in the image encoding device of FIG. 6,
Image data of two different numbers of pixels are encoded in parallel and selected at the output stage.
【0074】動き検出回路61は、図2の動き検出回路
12と同様に構成され、縮小画像データ、縮小画像デー
タ上の動きベクトル、原画像データ、および原画像デー
タ上の動きベクトルを出力する。動き検出回路61から
出力された縮小画像データおよび縮小画像データ上の動
きベクトルは符号化回路62に出力され、原画像データ
および原画像データ上の動きベクトルは符号化回路63
に出力される。The motion detection circuit 61 is configured similarly to the motion detection circuit 12 of FIG. 2, and outputs reduced image data, a motion vector on the reduced image data, original image data, and a motion vector on the original image data. The reduced image data and the motion vector on the reduced image data output from the motion detection circuit 61 are output to the encoding circuit 62, and the original image data and the motion vector on the original image data are encoded by the encoding circuit 63.
Is output to
【0075】符号化回路62,63は、図10の符号化
回路102と同様の機能を有しており、ビットストリー
ムの切り替えが行いやすいように符号化する。The encoding circuits 62 and 63 have the same function as the encoding circuit 102 in FIG. 10, and perform encoding so that the bit stream can be easily switched.
【0076】同期遅延回路65,66は、互いに同期信
号を送りながら、符号化回路62,63から供給される
ビットストリーム中の同期符号を検出し、新たに同期信
号が来るまで、ビットストリームの遅延を行い、符号化
されている画像データの時刻合わせを行う。MPEGの場
合、例えば同期遅延回路65,66は、シーケンスヘッ
ダを探し、新たなシーケンスヘッダが来るまで、ビット
ストリームを遅延する。The synchronization delay circuits 65 and 66 detect the synchronization code in the bit stream supplied from the encoding circuits 62 and 63 while transmitting the synchronization signal to each other, and delay the bit stream until a new synchronization signal comes. To perform time adjustment of the encoded image data. In the case of MPEG, for example, the synchronization delay circuits 65 and 66 search for a sequence header and delay the bit stream until a new sequence header comes.
【0077】特徴量抽出回路64は、符号化回路62,
63から符号化に関する情報を受信し、特徴量を抽出
し、抽出した特徴量を画素数判断回路67に出力する。
例えば、特徴量抽出回路64は、符号化回路62,63
からS/N比などを受信し、GOPの中の平均S/N比を計算
し、平均S/N比を特徴量として画素数判断回路67に出
力するようにしてもよい。The feature quantity extraction circuit 64 includes an encoding circuit 62,
The information about the encoding is received from 63, the feature amount is extracted, and the extracted feature amount is output to the pixel number determination circuit 67.
For example, the feature quantity extraction circuit 64 includes the encoding circuits 62 and 63
May be received, the average S / N ratio in the GOP is calculated, and the average S / N ratio is output to the pixel number determination circuit 67 as a feature amount.
【0078】画素数判断回路67は、供給された特徴量
に基づき選択するビットストリームを決定し、ビットス
トリーム切り替え回路68に切り替え信号を出力する。
ビットストリーム切り替え回路68は、切り替え信号に
対応して、ビットストリームを選択し、出力する。The pixel number determination circuit 67 determines a bit stream to be selected based on the supplied characteristic amount, and outputs a switching signal to the bit stream switching circuit 68.
The bit stream switching circuit 68 selects and outputs a bit stream according to the switching signal.
【0079】送信バッファ69は、供給されたビットス
トリームを蓄えた後、送信するとともに、ビットストリ
ーム切り替え回路68にバッファの占有率などの情報を
フィードバックする。The transmission buffer 69 stores the supplied bit stream, transmits it, and feeds back information such as the occupancy of the buffer to the bit stream switching circuit 68.
【0080】ビットストリーム切り替え回路68は、送
信バッファ69からのフィードバック情報をもとに送信
バッファ69の占有率が一定になるようにビットストリ
ームを調整し、出力する。The bit stream switching circuit 68 adjusts the bit stream based on the feedback information from the transmission buffer 69 so that the occupancy of the transmission buffer 69 becomes constant, and outputs the adjusted bit stream.
【0081】以上のように、図6の実施の形態の画像符
号化装置は、図15に示した画像符号化装置と基本的に
同様の構成とされ、図15における動き検出回路15
1,155と画素数変換回路154が、動き検出回路6
1とされている点が異なっている。この装置によれば、
動き検出回路61において、動き検出回路12における
場合と同様に、2つの異なる画素数の画像データと動き
ベクトルが演算され、それらが符号化され、出力段階で
ビットストリームとして選択される。従って、良好な画
質を有する画像の符号化データを出力することができ
る。As described above, the image coding apparatus of the embodiment shown in FIG. 6 has basically the same configuration as the image coding apparatus shown in FIG.
1, 155 and the pixel number conversion circuit 154
1 is different. According to this device,
As in the case of the motion detection circuit 12, the motion detection circuit 61 calculates image data and motion vectors of two different numbers of pixels, encodes them, and selects them as a bit stream at the output stage. Therefore, encoded data of an image having good image quality can be output.
【0082】図6の実施の形態の画像符号化装置におい
ては、2種類の画素数の画像データを符号化し、出力段
階で選択するようにしたが、動き検出回路61で、より
多くの画素数の画像データに対応させて画素数変換を行
い、符号化回路62、同期遅延回路65に対応するより
多くの回路を設け、より多くの異なる画素数の画像デー
タの符号化を行い、出力段階で選択するようにしてもよ
い。In the image encoding apparatus of the embodiment shown in FIG. 6, two types of image data are encoded and selected at the output stage. The number of pixels is converted in accordance with the image data of, and more circuits corresponding to the encoding circuit 62 and the synchronization delay circuit 65 are provided, and the image data of more different numbers of pixels are encoded. You may make it select.
【0083】図1および図6の画像符号化装置におい
て、動き検出回路12,61の代わりに、図7の動き検
出回路を用いれば、画素数の異なる画像上で検出された
動きベクトルを用いて、画素数の異なる画像の動きベク
トルを求めることができる。In the image coding apparatus shown in FIGS. 1 and 6, if the motion detection circuit shown in FIG. 7 is used instead of the motion detection circuits 12 and 61, the motion vectors detected on the images having different numbers of pixels are used. , Motion vectors of images having different numbers of pixels can be obtained.
【0084】すなわち、画素数変換回路71は、入力さ
れた原画像データの画素数を変換する。動き検出回路7
2は、画素数の変換された画像上の動きベクトルを計算
する。動きベクトル換算回路73は、計算された動きベ
クトルを画像上の動きベクトルとして求める。That is, the pixel number conversion circuit 71 converts the number of pixels of the input original image data. Motion detection circuit 7
2 calculates a motion vector on the image whose number of pixels has been converted. The motion vector conversion circuit 73 obtains the calculated motion vector as a motion vector on an image.
【0085】図8は原画像(水平N画素×垂直M画素)
と縮小画像(水平n画素×垂直m画素)の動きベクトル
の関係を説明する図である。縮小画像上の動きベクトル
MVBを(N×M)/(n×m)倍にすると、原画上の動きベクトル
MVAとなるため、縮小画像上で計算した動きベクトルMVB
を動きベクトル換算回路73で動きベクトル換算回路7
3で(N×M)/(n×m)倍にすることにより、原画像上の動
きベクトルMVAを求めることができる。FIG. 8 shows an original image (N horizontal pixels × M vertical pixels).
FIG. 7 is a diagram illustrating a relationship between motion vectors of a reduced image (n horizontal pixels × m vertical pixels). Motion vector on reduced image
When MV B is multiplied by (N × M) / (n × m), the motion vector on the original picture
MV A , the motion vector MV B calculated on the reduced image
In the motion vector conversion circuit 73
By the (N × M) / (n × m) multiplied by 3, it is possible to obtain a motion vector MV A on the original image.
【0086】以上においては、縮小画像上の動きベクト
ルから原画像上の動きベクトルを換算するようにした
が、同様に異なる画像上で計算された動きベクトルから
換算するようにしてもよい。In the above description, the motion vector on the original image is converted from the motion vector on the reduced image. Alternatively, the motion vector calculated on a different image may be converted.
【0087】なお、上記したような処理を行うコンピュ
ータプログラムをユーザに提供する提供媒体としては、
磁気ディスク、CD-ROM、固体メモリなどの記録媒体の
他、ネットワーク、衛星などの通信媒体を利用すること
ができる。Note that as a providing medium for providing a user with a computer program for performing the above-described processing,
In addition to recording media such as magnetic disks, CD-ROMs, and solid-state memories, communication media such as networks and satellites can be used.
【0088】[0088]
【発明の効果】以上のように、請求項1に記載の画像処
理装置、請求項3に記載の画像処理方法、および請求項
4に記載の記録媒体によれば、入力された第1の画像情
報の画素数を変換し、変換された画素数を有する第2の
画像情報の動きベクトルを検出し、検出された第2の画
像情報の動きベクトルに基づき、第1の画像情報の動き
ベクトルを検出するようにしたので、動きベクトルの検
出を共用することができ、動きベクトルの検出に要する
計算量を削減できるとともに、回路規模を小さくするこ
とができる。As described above, according to the image processing apparatus of the first aspect, the image processing method of the third aspect, and the recording medium of the fourth aspect, the first image input The number of pixels of the information is converted, a motion vector of the second image information having the converted number of pixels is detected, and a motion vector of the first image information is calculated based on the detected motion vector of the second image information. Since the detection is performed, the detection of the motion vector can be shared, the calculation amount required for detecting the motion vector can be reduced, and the circuit scale can be reduced.
【図1】本発明を適用した画像符号化装置の構成例を示
すブロック図である。FIG. 1 is a block diagram illustrating a configuration example of an image encoding device to which the present invention has been applied.
【図2】図1の動き検出回路の構成例を示すブロック図
である。FIG. 2 is a block diagram illustrating a configuration example of a motion detection circuit in FIG. 1;
【図3】縮小画像の縮小率と動きベクトルとの関係を説
明する図である。FIG. 3 is a diagram illustrating a relationship between a reduction ratio of a reduced image and a motion vector.
【図4】動きベクトルの検出処理を説明する図である。FIG. 4 is a diagram illustrating a process of detecting a motion vector.
【図5】動きベクトルの検出処理を説明する他の図であ
る。FIG. 5 is another diagram illustrating a motion vector detection process.
【図6】本発明を適用した画像符号化装置の他の構成例
を示すブロック図である。FIG. 6 is a block diagram illustrating another configuration example of an image encoding device to which the present invention has been applied.
【図7】動き検出回路の他の構成例を示すブロック図で
ある。FIG. 7 is a block diagram illustrating another configuration example of the motion detection circuit.
【図8】動きベクトルの換算処理を説明する図である。FIG. 8 is a diagram illustrating a motion vector conversion process.
【図9】予測符号化について説明した図である。FIG. 9 is a diagram illustrating predictive coding.
【図10】従来の画像符号化装置の構成例を示すブロッ
ク図である。FIG. 10 is a block diagram illustrating a configuration example of a conventional image encoding device.
【図11】従来の画像符号化装置の他の構成例を示すブ
ロック図である。FIG. 11 is a block diagram illustrating another configuration example of a conventional image encoding device.
【図12】動きベクトルの絶対値和の推移について説明
する図である。FIG. 12 is a diagram illustrating a transition of a sum of absolute values of a motion vector.
【図13】画素数変換処理について説明する図である。FIG. 13 is a diagram illustrating a pixel number conversion process.
【図14】画素数変換と動きベクトルの関係を説明する
図である。FIG. 14 is a diagram illustrating the relationship between pixel number conversion and a motion vector.
【図15】従来の画像符号化装置のさらに他の構成例を
示すブロック図である。FIG. 15 is a block diagram showing still another example of the configuration of a conventional image encoding device.
【図16】ビットストリームの切り替え処理を説明する
図である。FIG. 16 is a diagram illustrating a bit stream switching process.
11,11 端子, 12,61,72 動き検出回
路, 13 画素数決定回路, 14,15 スイッ
チ, 16,62,63 符号化回路, 21 画素数
変換器, 22,23 フレームメモリ群, 24,2
5 動きベクトル検出器, 26 ベクトルメモリ,
64 特徴量抽出回路, 65,66 同期遅延回路,
67 画素数判断回路, 68 ビットストリーム,
69 送信バッファ, 71 画素数変換回路, 7
3 動きベクトル換算回路11, 11 terminal, 12, 61, 72 motion detection circuit, 13 pixel number determination circuit, 14, 15 switch, 16, 62, 63 encoding circuit, 21 pixel number converter, 22, 23 frame memory group, 24, 2
5 motion vector detector, 26 vector memory,
64 feature extraction circuit, 65, 66 synchronization delay circuit,
67 pixel number judgment circuit, 68 bit stream,
69 transmission buffer, 71 pixel number conversion circuit, 7
3 Motion vector conversion circuit
───────────────────────────────────────────────────── フロントページの続き (72)発明者 藤代 茂夫 東京都品川区北品川6丁目7番35号 ソニ ー株式会社内 (72)発明者 村上 芳弘 東京都品川区北品川6丁目7番35号 ソニ ー株式会社内 Fターム(参考) 5C059 KK15 KK19 LB04 MA00 MA05 NN02 NN11 NN28 PP05 PP06 PP07 RC16 RC31 RC37 SS11 SS13 SS20 UA02 UA39 ──────────────────────────────────────────────────続 き Continued on the front page (72) Inventor Shigeo Fujishiro 6-35, Kita-Shinagawa, Shinagawa-ku, Tokyo Inside Sony Corporation (72) Inventor Yoshihiro Murakami 6-35, Kita-Shinagawa, Shinagawa-ku, Tokyo Sony Corporation F term (reference) 5C059 KK15 KK19 LB04 MA00 MA05 NN02 NN11 NN28 PP05 PP06 PP07 RC16 RC31 RC37 SS11 SS13 SS20 UA02 UA39
Claims (4)
換する画素数変換手段と、 前記画素数変換手段により変換された画素数を有する第
2の画像情報の動きベクトルを検出する第1の動きベク
トル検出手段と、 前記第1の動きベクトル検出手段により検出された前記
第2の画像情報の動きベクトルに基づき、前記第1の画
像情報の動きベクトルを検出する第2の動きベクトル検
出手段と、 前記第1の画像情報および前記第1の画像情報の動きベ
クトル、または前記第2の画像情報および前記第2の画
像情報の動きベクトルを符号化する符号化手段と、 前記符号化手段により符号化された符号化情報を出力す
る出力手段とを備えることを特徴とする画像処理装置。1. A pixel number conversion means for converting the number of pixels of input first image information, and a second image information detecting means for detecting a motion vector of second image information having the number of pixels converted by the pixel number conversion means. A second motion vector detecting means for detecting a motion vector of the first image information based on a motion vector of the second image information detected by the first motion vector detecting means. Means for coding the first image information and the motion vector of the first image information, or the second image information and the motion vector of the second image information; and the coding means. And an output unit for outputting encoded information encoded according to (1).
記第1の画像情報の画素数から前記第2の画像情報の画
素数への変換率を用いて、前記第2の画像情報の動きベ
クトルから前記第1の画像情報の動きベクトルを換算す
ることを特徴とする請求項1に記載の画像処理装置。2. The method according to claim 1, wherein the second motion vector detecting means uses a conversion rate from the number of pixels of the first image information to the number of pixels of the second image information to calculate the motion of the second image information. The image processing apparatus according to claim 1, wherein a motion vector of the first image information is converted from a vector.
換する画素数変換ステップと、 前記画素数変換ステップで変換された画素数を有する第
2の画像情報の動きベクトルを検出する第1の動きベク
トル検出ステップと、 前記第1の動きベクトル検出ステップで検出された前記
第2の画像情報の動きベクトルに基づき、前記第1の画
像情報の動きベクトルを検出する第2の動きベクトル検
出ステップと、 前記第1の画像情報および前記第1の画像情報の動きベ
クトル、または前記第2の画像情報および前記第2の画
像情報の動きベクトルを符号化する符号化ステップと、 前記符号化ステップで符号化された符号化情報を出力す
る出力ステップとを含むことを特徴とする画像処理方
法。3. A pixel number conversion step of converting the number of pixels of the input first image information, and a second step of detecting a motion vector of the second image information having the number of pixels converted in the pixel number conversion step. A second motion vector detection step of detecting a motion vector of the first image information based on a motion vector of the second image information detected in the first motion vector detection step. Encoding a motion vector of the first image information and the first image information or a motion vector of the second image information and the second image information; and the encoding step. An output step of outputting the encoded information encoded in step (a).
換する画素数変換ステップと、 前記画素数変換ステップで変換された画素数を有する第
2の画像情報の動きベクトルを検出する第1の動きベク
トル検出ステップと、 前記第1の動きベクトル検出ステップで検出された前記
第2の画像情報の動きベクトルに基づき、前記第1の画
像情報の動きベクトルを検出する第2の動きベクトル検
出ステップと、 前記第1の画像情報および前記第1の画像情報の動きベ
クトル、または前記第2の画像情報および前記第2の画
像情報の動きベクトルを符号化する符号化ステップと、 前記符号化ステップで符号化された符号化情報を出力す
る出力ステップとを含む処理を画像処理装置に実行させ
るコンピュータに読み取り可能なプログラムを提供する
ことを特徴とする提供媒体。4. A pixel number conversion step of converting the number of pixels of the input first image information, and a second step of detecting a motion vector of the second image information having the number of pixels converted in the pixel number conversion step. A second motion vector detection step of detecting a motion vector of the first image information based on a motion vector of the second image information detected in the first motion vector detection step. Encoding a motion vector of the first image information and the first image information or a motion vector of the second image information and the second image information; and the encoding step. And a computer-readable program for causing an image processing apparatus to execute a process including an output step of outputting encoded information encoded by the computer. Providing medium characterized.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP19400498A JP2000032467A (en) | 1998-07-09 | 1998-07-09 | Image processor, image processing method, and provision medium |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP19400498A JP2000032467A (en) | 1998-07-09 | 1998-07-09 | Image processor, image processing method, and provision medium |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2000032467A true JP2000032467A (en) | 2000-01-28 |
Family
ID=16317378
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP19400498A Withdrawn JP2000032467A (en) | 1998-07-09 | 1998-07-09 | Image processor, image processing method, and provision medium |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2000032467A (en) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR100653760B1 (en) | 2003-07-18 | 2006-12-05 | 캐논 가부시끼가이샤 | Signal processing apparatus and control method therefor, program and recording medium |
US7664182B2 (en) | 2001-08-31 | 2010-02-16 | Panasonic Corporation | Picture coding and decoding apparatuses and methods performing variable length coding and decoding on a slice header stream and arithmetic coding and decoding on a slice data stream |
JP2014230031A (en) * | 2013-05-21 | 2014-12-08 | 日本放送協会 | Image encoding device and image encoding program |
-
1998
- 1998-07-09 JP JP19400498A patent/JP2000032467A/en not_active Withdrawn
Cited By (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9602844B2 (en) | 2001-08-31 | 2017-03-21 | Panasonic Intellectual Property Corporation Of America | Picture coding and decoding apparatuses and methods performing variable length coding and decoding on a slice header stream and arithmetic coding and decoding on a slice data stream |
US10015524B2 (en) | 2001-08-31 | 2018-07-03 | Panasonic Intellectual Property Corporation Of America | Picture coding and decoding apparatuses and methods performing variable length coding and decoding on a slice header stream and arithmetic coding and decoding on a slice data stream |
US8040954B2 (en) | 2001-08-31 | 2011-10-18 | Panasonic Corporation | Picture coding and decoding apparatuses and methods performing variable length coding and decoding on a slice header stream and arithmetic coding and decoding on a slice data stream |
US8699579B2 (en) | 2001-08-31 | 2014-04-15 | Panasonic Corporation | Picture coding and decoding apparatuses and methods performing variable length coding and decoding on a slice header stream and arithmetic coding and decoding on a slice data stream |
US10602194B2 (en) | 2001-08-31 | 2020-03-24 | Panasonic Intellectual Property Corporation Of America | Picture coding apparatus that codes on a macroblock basis by performing a signal conversion process |
US9325988B2 (en) | 2001-08-31 | 2016-04-26 | Panasonic Intellectual Property Corporation Of America | Picture coding and decoding apparatuses and methods performing variable length coding and decoding on a slice header stream and arithmetic coding and decoding on a slice data stream |
US9986265B2 (en) | 2001-08-31 | 2018-05-29 | Panasonic Intellectual Property Corporation Of America | Picture coding and decoding apparatuses and methods performing variable length coding and decoding on a slice header stream and arithmetic coding and decoding on a slice data stream |
US10595051B2 (en) | 2001-08-31 | 2020-03-17 | Panasonic Intellectual Property Corporation Of America | Picture coding apparatus that codes on a macroblock basis by performing a signal conversion process |
US7664182B2 (en) | 2001-08-31 | 2010-02-16 | Panasonic Corporation | Picture coding and decoding apparatuses and methods performing variable length coding and decoding on a slice header stream and arithmetic coding and decoding on a slice data stream |
US9986264B2 (en) | 2001-08-31 | 2018-05-29 | Panasonic Intellectual Property Corporation Of America | Picture coding method, picture decoding method and apparatuses thereof |
US9826255B2 (en) | 2001-08-31 | 2017-11-21 | Panasonic Intellectual Property Corporation Of America | Picture coding method, picture decoding method and apparatuses thereof |
US10405006B2 (en) | 2001-08-31 | 2019-09-03 | Panasonic Intellectual Property Corporation Of America | Picture coding and decoding method and apparatuses with variable length code on a header and arithmetic decoding on a frame |
KR100653760B1 (en) | 2003-07-18 | 2006-12-05 | 캐논 가부시끼가이샤 | Signal processing apparatus and control method therefor, program and recording medium |
JP2014230031A (en) * | 2013-05-21 | 2014-12-08 | 日本放送協会 | Image encoding device and image encoding program |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR100495716B1 (en) | Apparatus and method for encoding images and medium in which image encoding program has been recorded | |
JP3268306B2 (en) | Image coding method | |
EP1065883B1 (en) | Image predictive decoding method | |
JPH11317951A (en) | Data encoding device/method and data transmitting method | |
JP3599942B2 (en) | Moving picture coding method and moving picture coding apparatus | |
JP2003348597A (en) | Device and method for encoding image | |
JP2001128179A (en) | Device and method for encoding moving picture | |
JPH10304381A (en) | Video encoding apparatus and method | |
KR100364748B1 (en) | Apparatus for transcoding video | |
US7751474B2 (en) | Image encoding device and image encoding method | |
JP3240024B2 (en) | Image processing method | |
WO2000001158A1 (en) | Encoder and encoding method | |
JP3428332B2 (en) | Image encoding method and apparatus, and image transmission method | |
JP4224662B2 (en) | Image encoding apparatus and method, image decoding apparatus and method, and image processing apparatus | |
JP2000032467A (en) | Image processor, image processing method, and provision medium | |
JP4359273B2 (en) | Coding mode selection method | |
JP2512165B2 (en) | Video signal encoder | |
JP4422629B2 (en) | Moving picture encoding apparatus, decoding apparatus, moving picture recording apparatus, and moving picture reproduction apparatus | |
JP4353928B2 (en) | Data compression method, recording method, and transmission method | |
JP4359274B2 (en) | Video compression encoding device | |
JP3652889B2 (en) | Video encoding method, video encoding device, recording medium, and video communication system | |
JPH11298902A (en) | Image coder and image coding method therefor | |
JPH10145792A (en) | Image encoding device and method | |
JP3311312B2 (en) | Encoding control method, encoding control device, and recording medium recording encoding control program | |
JPH06105299A (en) | Video compression device |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A300 | Withdrawal of application because of no request for examination |
Free format text: JAPANESE INTERMEDIATE CODE: A300 Effective date: 20051004 |