KR101580594B1 - Method for line extraction of high resolution satellite images using regular grid-based hough transform - Google Patents
Method for line extraction of high resolution satellite images using regular grid-based hough transform Download PDFInfo
- Publication number
- KR101580594B1 KR101580594B1 KR1020150095905A KR20150095905A KR101580594B1 KR 101580594 B1 KR101580594 B1 KR 101580594B1 KR 1020150095905 A KR1020150095905 A KR 1020150095905A KR 20150095905 A KR20150095905 A KR 20150095905A KR 101580594 B1 KR101580594 B1 KR 101580594B1
- Authority
- KR
- South Korea
- Prior art keywords
- grid
- image
- linear
- regular
- edge
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Classifications
-
- G06T7/0095—
Landscapes
- Image Processing (AREA)
- Image Analysis (AREA)
Abstract
본 발명은 효율적인 연산이 가능한 정규격자 기반의 허프 변환 기법을 적용하여 원영상의 에지(edge) 정보에 대한 누락 없이 선형을 추출할 수 있는 정규격자 기반 허프변환을 이용한 고해상도 위성영상의 선형 추출 방법에 관한 것이다.
본 발명에 따른 정규격자 기반 허프변환을 이용한 고해상도 위성영상의 선형 추출 방법은, 영상이미지로부터 선형을 추출하는 방법에 있어서, 위성으로부터 선형 추출 대상영역의 이미지를 획득하는 이미지 획득단계(S110)와, 상기 이미지에서 가로방향과 세로방향으로 각각 정해진 화소수에 의해 형성되는 정규격자를 생성하는 정규격자 생성단계(S121)와, 상기 이미지에서 에지 정보를 추출하는 에지 추출단계(S122)와, 상기 이미지로부터 추출된 에지가 속한 정규격자의 위치에 따라 에지에 고유한 레이블 값을 부여하는 정규격자기반 레이블링단계(S130)와, 동일한 레이블 값을 갖는 에지를 대상을 허프 변환을 수행하여 선형을 추출하는 허프 변환단계(S140)와, 인접한 정규격자의 선형들과 공선조건(co-linearity)의 비교를 통해 선형을 연결시키는 선형 연결단계(S150)를 포함하는 것을 특징으로 한다.The present invention relates to a linear extraction method of a high resolution satellite image using a regular grid-based Hough transform, which can extract linearity without missing an edge information of an original image by applying a normal grid-based Hough transform technique capable of efficient computation .
A method of linearly extracting a linear image from an image, the method comprising: an image obtaining step (S110) of obtaining an image of a linear region to be extracted from a satellite; A regular grid generation step (S121) of generating a regular grid formed by the predetermined number of pixels in the horizontal direction and the vertical direction in the image, an edge extraction step (S122) of extracting edge information from the image, A normal grid-based labeling step (S130) of assigning a unique label value to an edge according to a position of a regular grid to which the extracted edge belongs; a normal grid-based labeling step (S130) of performing a Huff transform Step S140 is a linear connection that connects the linearities by comparing the co-linearity with the linearities of the adjacent regular grids, (Step S150).
Description
본 발명은 고해상도 위성영상을 이용하여 건물, 도로 등 주요 도심 객체들의 선형을 추출하는 고해상도 위성영상의 선형 추출 방법에 관한 것으로서, 더욱 상세하게는 효율적인 연산이 가능한 정규격자 기반의 허프 변환(Hough transform) 기법을 적용하여 원영상의 에지(edge) 정보에 대한 누락 없이 선형을 추출할 수 있는 정규격자 기반 허프변환을 이용한 고해상도 위성영상의 선형 추출 방법에 관한 것이다.[0001] The present invention relates to a linear extraction method for high resolution satellite images that extracts the linearity of major urban objects such as buildings and roads using high resolution satellite images, and more particularly, to a Hough transform based on a regular grid, The present invention relates to a linear extraction method of high resolution satellite images using a regular grid-based Hough transform capable of extracting linearity without omission of edge information of an original image.
최근 지구 관측 위성이 각국에서 다양하게 발사되고 공간분해능이 증가함에 따라 고해상도 위성영상의 처리 기법 또한 크게 발전하고 있다. In recent years, as satellite observations have been launched in various countries and spatial resolution has increased, processing techniques for high resolution satellite images have also been greatly improved.
기존의 화소기반(pixel-based) 영상 처리 기법은 노이즈나 도심지 내 군소 객체에 영향을 받기 때문에 목표로 하는 객체의 정확한 추출이 어렵다는 한계점이 존재한다. Since pixel-based image processing techniques are affected by noise or small objects in urban areas, it is difficult to accurately extract target objects.
반면, 객체기반(object-based) 영상 처리 기법은 단일 화소가 아닌 객체 자체의 인식을 가능하게 함에 따라 영상 분할, 특징 추출(feature extraction) 등 다양한 객체 기반 영상 처리 기법들이 개발 되고 있다.On the other hand, object-based image processing techniques enable recognition of an object itself rather than a single pixel, and various object-based image processing techniques such as image segmentation and feature extraction have been developed.
선형 추출 기법은 원격탐사 분야에서 다양한 목적으로 사용되는 대표적인 특징 추출 기법 중 하나이다. 선형 추출 기법은 건물과 도로 등의 경계를 탐지하기 위한 방법으로 많이 활용되고 있으며 다시기(multi-temporal) 또는 이종 센서의 영상을 정합(registration)하기 위한 공액(conjugate) 요소 추출에도 이용되고 있다. The linear extraction technique is one of the representative feature extraction techniques used for various purposes in the remote sensing field. The linear extraction technique is widely used as a method for detecting boundaries between buildings and roads and is also used for conjugate element extraction for registration of images of multi-temporal or heterogeneous sensors.
대표적인 선형 추출 기법으로는 허프 변환이 있으며 허프 변환은 영상 자체의 잡음에 영향을 덜 받는 장점이 있다.A typical linear extraction technique is Huff transform, and Huff transform is less affected by the noise of the image itself.
그러나, 상기 허프 변환 선형 추출 기법은 높은 연산 비용이 가장 큰 문제점이며 항공사진이나 위성영상과 같은 큰 크기의 원격탐사 영상에 대한 적용이 어렵다. 기존 연구들은 원격탐사 영상에 허프 변환을 적용하기 위하여 변환 대상 영역의 반복적인 탐색이나 인접 선형과의 연결을 위한 부가적인 처리를 수행하였으며, 이는 기존의 높은 연산 비용 문제를 심화시킨다는 단점이 된다.However, the Hough transform linear extraction technique has the greatest computational cost and is difficult to apply to large-scale remote sensing images such as aerial photographs or satellite images. Conventional studies have performed additional processing for repeated search of the area to be transformed or connection to the adjacent line in order to apply the Hough transform to the remote sensing image, which is a disadvantage that the existing high computational cost problem is exacerbated.
한편, 하기의 선행기술문헌에는 '항공라이다자료를 이용한 건물외곽선 자동 추출 방법'에 관한 특허와 ‘위성 영상정보를 이용한 선형 지형지물 추출에서의 GDPA와 Hough 변환 처리결과 비교연구'에 관한 논문이 있다.Meanwhile, the following prior art documents include a patent on the automatic extraction method of building outline using airline data and a comparative study on the results of GDPA and Hough transformation processing in linear feature extraction using satellite image information have.
상기 논문은 전체 영상에 일괄적으로 변수를 적용하여 선형을 추출함으로써 지역을 대표하는 선형을 균등하게 추출하지 못한다는 점과 추출된 선형들간의 사후 연결을 고려하지 못하는 단점이 있다.The paper has the disadvantage that it can not extract the linearity representing the region by extracting the linearity by applying the variables to the entire image at a time, and does not consider post-connection between the extracted linearity.
본 발명은 상기와 같은 문제점을 해결하기 위해 발명된 것으로서, 변환 영역의 크기와 위치에 대한 반복적인 최적화 과정이나 선형 연결을 위한 복잡한 인접 선형 탐색과정을 제거함으로써 효율적인 연산을 수행하여 선형을 추출할 수 있는 정규격자 기반 허프변환을 이용한 고해상도 위성영상의 선형 추출 방법을 제공하는 데 목적이 있다.SUMMARY OF THE INVENTION The present invention has been made to solve the above problems, and it is an object of the present invention to provide a method and apparatus for efficiently extracting a linear shape by eliminating a repeated optimization process for the size and position of a transform region, And a method of linearly extracting high resolution satellite images using a regular grid-based Hough transform.
본 발명의 다른 목적은 원영상의 에지 정보와 유사도가 높도록 선형을 추출하여 영상 내 객체에서 누락되는 선형을 최소화할 수 있는 정규격자 기반 허프변환을 이용한 고해상도 위성영상의 선형 추출 방법을 제공하는 것이다.Another object of the present invention is to provide a linear extraction method of a high-resolution satellite image using a normal grid-based Hough transform capable of extracting a line having a high degree of similarity with edge information of an original image and minimizing a missing line in an object in the image .
상기와 같은 목적을 달성하기 위한 본 발명에 따른 정규격자 기반 허프변환을 이용한 고해상도 위성영상의 선형 추출 방법은, 영상이미지로부터 선형을 추출하는 방법에 있어서, 위성으로부터 선형 추출 대상영역의 이미지를 획득하는 이미지 획득단계와, 상기 이미지에서 가로방향과 세로방향으로 각각 정해진 화소수에 의해 형성되는 정규격자를 생성하는 정규격자 생성단계와, 상기 영상이미지에서 에지 정보를 추출하는 에지 추출단계와, 상기 이미지로부터 추출된 에지가 속한 정규격자의 위치에 따라 에지에 고유한 레이블 값을 부여하는 정규격자기반 레이블링단계와, 동일한 레이블 값을 갖는 에지를 대상을 허프 변환을 수행하여, 각 정규격자 내에서 선형을 추출하는 허프 변환단계와, 상기 정규격자들 중에서 어느 하나의 정규격자의 선형과 상기 정규격자와 인접한 정규 격자 선형들의 공선조건(co-linearity) 충족 여부를 분석하여 선형을 연결시키는 선형 연결단계를 포함하는 것을 특징으로 한다.According to another aspect of the present invention, there is provided a method of extracting a linear shape from a video image, the method including: obtaining an image of a linear region to be extracted from a satellite; A regular grid generating step of generating a regular grid formed by the predetermined number of pixels in the horizontal direction and the vertical direction in the image; an edge extracting step of extracting edge information from the image; A regular grid-based labeling step of assigning a unique label value to an edge according to the position of the normal grid to which the extracted edge belongs; and performing a Hough transformation on an edge having the same label value to extract a linear shape in each regular grid A Hough transformation step of transforming the normal grid into a linear matrix of one of the normal grids, The regular grid, and And a linear linking step of linking linear lines by analyzing whether the adjacent regular lattice linear shapes meet the co-linearity.
상기 정규격자 생성단계는, 상기 영상이미지에서 가로방향과 세로방향으로 각각 정해진 화소수로 정규격자 배열(array)을 생성하고, 상기 정규격자의 위치에 따라 고유한 레이블 값을 부여하는 것을 특징으로 한다.The regular grid generation step is characterized by generating a regular grid array with a predetermined number of pixels in the horizontal direction and the vertical direction in the video image and assigning a unique label value according to the position of the regular grid .
상기 에지 추출단계에서는 캐니(Canny) 연산자를 이용하여, 에지를 추출하는 것을 특징으로 한다.In the edge extracting step, an edge is extracted using a Canny operator.
상기 허프 변환단계는, 동일한 레이블 값을 갖는 에지에 대하여 허프 변환을 수행하고, 허프 변환 공간에서 최대 누적점을 찾아 해당 레이블 격자의 대표 선형을 추출하는 것을 특징으로 한다.The Huff transform step performs Hough transform on an edge having the same label value, finds a maximum accumulation point in the Huff transform space, and extracts a representative linear shape of the corresponding label grid.
상기 선형 연결단계에서는, 상기 허프 변환 단계에서 추출된 어느 하나의 격자 선형을 포함한 정규격자와 이를 둘러싼 대응 가능 격자들의 선형들에 대하여, 적어도 하나 이상의 선형 쌍이 서로 정해진 각도 차이 이내이면서, 양 끝점 사이의 가장 짧은 거리가 상기 정규격자 크기 대비 정해진 비율 이내이면, 인접한 2개의 정규격자에서 추출한 에지의 선형을 서로 통합하는 것을 특징으로 한다.In the linear linking step, at least one linear pair of the normal grid including one of the grid lines extracted in the Hough transform step and corresponding linearities of the corresponding grids surrounding the regular grid is within an angle difference determined by each other, And the linearity of the edge extracted from the adjacent two regular grids is integrated with each other if the shortest distance is within a predetermined ratio to the normal grating size.
상기 선형연결단계에서 인접한 2개의 정규격자에서 추출한 선형을 통합하는 조건은, 인접한 2개의 정규격자에서 추출한 선형이 서로 10도 이내이면서, 두 선형 양 끝점 사이의 가장 짧은 거리가 상기 정규격자 크기 대비 1/3이내인 것을 특징으로 한다.The conditions for integrating the linearities extracted from the adjacent two normal grids in the linear connection step are that the linearities extracted from the adjacent two regular grids are within 10 degrees of each other and the shortest distance between the two linear end points is 1 / 3. ≪ / RTI >
상기와 같은 구성을 갖는 본 발명에 따른 정규격자 기반 허프변환을 이용한 고해상도 위성영상의 선형 추출 방법에 따르면, 반복적인 최적화 과정이나 선형 연결을 위한 인접 선형 탐색과정이 생략되어 기존 기법에 비해 연산 속도가 향상된다.According to the method of linearly extracting high-resolution satellite images using the regular grid-based Hough transform according to the present invention having the above-described configuration, it is possible to reduce the computation speed .
또한, 원영상 에지와의 유사도가 높아 고해상도 위성영상을 활용한 객체 추출, 공액 요소 추출 등 다양한 활용 분야의 단서(cue) 제공을 위한 기본 선형 추출 알고리즘으로 활용할 수 있다.Also, it can be used as a basic linear extraction algorithm for providing cues of various application fields such as object extraction and conjugate element extraction using high resolution satellite images because of high similarity with the original image edge.
도 1은 본 발명에 따른 정규격자 기반 허프변환을 이용한 고해상도 위성영상의 선형 추출 방법을 도시한 순서도.
도 2는 본 발명에 따른 정규격자 기반 허프변환을 이용한 고해상도 위성영상의 선형 추출 방법에서 격자 인접 정보를 활용한 선형 연결의 개념도.
도 3은 본 발명에 따른 정규격자 기반 허프변환을 이용한 고해상도 위성영상의 선형 추출 방법을 검증하기 위해 Worldview-2 위성으로 건물 지역을 촬영한 이미지.
도 4a는 도 3의 이미지를 본 발명에 따른 정규격자 기반 허프변환을 이용한 고해상도 위성영상의 선형 추출 방법으로 선형 추출한 이미지.
도 4b는 도 3의 이미지를 표준 허프 변환을 이용한 선형 추출 방법으로 선형 추출한 이미지.
도 5는 본 발명에 따른 정규격자 기반 허프변환을 이용한 고해상도 위성영상의 선형 추출 방법을 검증하기 위해 Geoeye 위성으로 도로 지역을 촬영한 이미지.
도 6a는 도 5의 이미지를 본 발명에 따른 정규격자 기반 허프변환을 이용한 고해상도 위성영상의 선형 추출 방법으로 선형 추출한 이미지.
도 6b는 도 5의 이미지를 표준 허프 변환을 이용한 선형 추출 방법으로 선형 추출한 이미지.BRIEF DESCRIPTION OF THE DRAWINGS FIG. 1 is a flowchart illustrating a method of linearly extracting high resolution satellite images using regular grid-based Hough transform according to the present invention.
FIG. 2 is a conceptual diagram of a linear connection using grid neighbor information in a linear extraction method of high resolution satellite images using regular grid-based Hough transform according to the present invention.
FIG. 3 is an image of a building area photographed by Worldview-2 satellite in order to verify a linear extraction method of a high resolution satellite image using a regular grid-based Hough transform according to the present invention.
FIG. 4A is an image obtained by linearly extracting the image of FIG. 3 by a linear extraction method of a high resolution satellite image using a normal grid-based Hough transform according to the present invention.
FIG. 4B is an image obtained by linearly extracting the image of FIG. 3 by a linear extraction method using standard Hough transform. FIG.
FIG. 5 is an image of a road region taken by a Geoeye satellite in order to verify a linear extraction method of a high resolution satellite image using a regular grid-based Hough transform according to the present invention.
FIG. 6A is an image obtained by linearly extracting the image of FIG. 5 by a linear extraction method of a high resolution satellite image using a normal grid-based Hough transform according to the present invention.
FIG. 6B is an image obtained by linearly extracting the image of FIG. 5 using a linear extraction method using standard Hough transform. FIG.
이하, 첨부된 도면을 참조로 하여, 본 발명에 따른 정규격자 기반 허프 변환을 이용한 고해상도 위성영상의 선형 추출 방법에 대하여 설명하면 다음과 같다.Hereinafter, a method of linearly extracting a high-resolution satellite image using the normal grid-based Hough transform according to the present invention will be described with reference to the accompanying drawings.
도 1에 도시된 바와 같이, 본 발명에 따른 정규격자 기반 허프변환을 이용한 고해상도 위성영상의 선형 추출 방법은, 위성으로부터 선형 추출 대상영역의 이미지를 획득하는 이미지 획득단계(S110)와, 상기 이미지에서 가로방향과 세로방향으로 각각 정해진 화소수에 의해 형성되는 정규격자를 생성하는 정규격자 생성단계(S121)와, 상기 이미지에서 에지 정보를 추출하는 에지 추출단계(S122)와, 상기 이미지로부터 추출된 에지가 속한 정규격자의 위치에 따라 에지에 레이블 값을 부여하는 정규격자기반 레이블링단계(S130)와, 동일한 레이블 값을 갖는 에지를 대상을 허프 변환하는 허프 변환단계(S140)와, 인접한 정규격자의 선형을 미리 정해진 공선조건에 따라 서로 연결시키는 선형 연결단계(S150)를 포함한다.As shown in FIG. 1, a method of linearly extracting a high resolution satellite image using a regular grid-based Hough transform according to the present invention includes an image obtaining step (S110) of obtaining an image of a linear region to be extracted from a satellite, A regular grid generating step (S121) of generating a normal grid formed by the predetermined number of pixels in the horizontal direction and the vertical direction, an edge extracting step (S122) of extracting edge information from the image, A normal grid-based labeling step (S130) of assigning a label value to an edge according to a position of a normal grid to which the target grid point belongs; a Huff transform step (S140) of Hough transforming an edge having the same label value; (S150), which are connected to each other according to predetermined collinear conditions.
이미지 획득단계(S110)에서는 위성으로부터 대상영역을 촬영한 고해상도 이미지를 입력받는다. 상기 영상이미지는 지상 객체의 선형을 추출하기 위해 대상영역을 촬영한 고해상도 이미지가 된다.In the image acquiring step (S110), a high-resolution image obtained by photographing a target area from a satellite is input. The image is a high-resolution image obtained by photographing a target area in order to extract a linear shape of a ground object.
정규격자 생성단계(S121)는 상기 이미지에서 일정한 크기로 정규격자 배열(array)을 생성한다.The regular grid generation step S121 generates a regular grid array with a constant size in the image.
상기 개별 정규격자들의 크기 합은 입력 이미지의 크기와 동일하도록 정규격자들을 생성한다.The sum of the sizes of the individual regular grids is made equal to the size of the input image.
또한, 미리 정해진 개수만큼의 화소들이 하나의 정규격자를 형성한다. 예컨대, 상기 정규격자는 상기 이미지에서 가로, 세로 각 10개의 화소, 즉 10×10 크기로 형성될 수 있다. 일반적으로 고해상도 이미지에서 10화소는 5~10m 크기에 해당하며 이는 일반적으로 고해상도 이미지에서 관심 객체(건물, 도로 등)들을 탐지하기 위해 충분히 작은 크기이다.In addition, a predetermined number of pixels form one regular grid. For example, the regular grid may be formed with 10 pixels in a horizontal direction and a vertical direction in a size of 10 × 10 pixels. Generally, in a high resolution image, 10 pixels corresponds to a size of 5 to 10 meters, which is usually small enough to detect objects of interest (buildings, roads, etc.) in a high resolution image.
이와 같이, 정규격자를 사용하면, 탐지하려는 객체의 스케일에 따라 정규격자의 크기를 유동적으로 변환 할 수 있다. 즉, 상기 영상 이미지의 스케일을 고려하여 정규격자의 크기를 다르게 생성할 수 있다.Thus, by using a regular grid, the size of the regular grid can be fluidly converted according to the scale of the object to be detected. That is, the size of the normal grid can be generated differently considering the scale of the image.
한편, 상기와 같이, 입력된 이미지의 크기와 동일하도록 복수의 정규격자가 생성되면, 상기 이미지를 구성하는 각 정규격자는 고유한 레이블 값을 갖도록 설정된다. 상기 레이블값은 좌측으로부터 우측으로 갈수록 순차적으로 증가하고, 상단으로부터 하단으로 갈수록 순차적으로 증가한다. 예컨대, 100×100 개의 정규격자가 생성되었다면 첫 번째 행은 1, 2, 3, …, 100의 레이블을 갖고, 두 번째 행은 101, 102, 103, …, 200의 레이블을 가지며, 이와 같은 방식으로 마지막 행은 9901, 9902, 9903, …, 10000의 레이블을 갖는다. 정규격자의 레이블 부여방법은 상기 예시에 국한되지 않으며, 각각의 개별 정규격자에 대하여 고유한 레이블을 갖도록 변경할 수 있다.On the other hand, when a plurality of regular grids are generated so as to be equal to the size of the input image, each normal grid constituting the image is set to have a unique label value. The label value increases sequentially from left to right, and sequentially increases from the top to the bottom. For example, if 100 × 100 regular grids are generated, the first row is 1, 2, 3, ... , 100, and the second row has labels 101, 102, 103, ... , 200 labels, and in this way the last row is labeled 9901, 9902, 9903, ... , ≪ / RTI > 10000. The method of labeling the regular grid is not limited to the above example, and can be changed to have a unique label for each individual regular grid.
에지 추출단계(S122)에서는 상기 이미지에서 선형추출에 사용되는 에지정보를 생성한다.In the edge extracting step S122, edge information used for linear extraction in the image is generated.
이를 위해, 상기 에지 추출단계(S122)에서는 에지 추출 연산자 중 하나인 캐니 연산자를 이용한다.To this end, in the edge extraction step S122, a canny operator, which is one of the edge extraction operators, is used.
상기 캐니 연산자는 식 (1)과 같이 x, y축의 밝기값 변화량(G)을 기준으로 에지의 강도(m)와 방향(o)을 결정한다.The Canny operator determines the intensity (m) and the direction (o) of the edge based on the amount of change G of brightness values of the x and y axes as shown in equation (1).
식(1) : Equation (1):
정규격자기반 레이블링단계(S130)에서는 추출된 캐니 에지가 속한 정규격자의 위치에 따라 서로 다른 레이블 값을 에지에 부여한다. 상기 정규격자 생성단계에서 개별 정규격자들마다 독립적으로 부여된 레이블을 바탕으로, 상기 에지추출단계에서 생성된 에지의 위치가 어느 격자에 속하는지에 따라 해당 레이블이 에지에 부여된다.In the regular grid-based labeling step (S130), different label values are assigned to the edges according to the position of the regular grid to which the extracted cane edge belongs. The label is given to the edge according to which lattice the position of the edge generated in the edge extracting step belongs to, based on the label assigned independently for each regular grid in the regular grid generation step.
허프 변환단계(S140)는, 상기 에지들 중에서 동일한 레이블 값을 갖는 에지를 대상으로 허프 변환을 수행한다. 상기 허프 변환은 이진(binary) 에지에서 직선 성분을 검출하기 위한 이미지 처리 기법중 하나로서, 상기 허프 변환을 수행하면, 각 정규격자들 내에서 선형이 추출된다.The Hough transform step S140 performs a Hough transform on an edge having the same label value among the edges. The Hough transform is one of image processing techniques for detecting a linear component at a binary edge. When the Hough transform is performed, a linear shape is extracted in each regular grid.
상기 허프 변환단계(S140)에서, 허프 변환은 선을 이루는 에지 화소의 x, y 좌표를 식 (2)와 같이 원점에서의 거리(ρ)와 x축과 선형의 법선 방향이 이루는 각도(θ)로 매개화 한다. 각각의 에지 화소에 대하여 연결 가능한 선형 집합은 ρ-θ 평면에서 사인(sine) 형태의 곡선이 되고, 누적된 사인 곡선의 최대 누적점(peak)이 해당 레이블 값의 대표 선형이 된다.In the Hough transform step S140, the Hough transform is performed such that the x and y coordinates of the edge pixels constituting the line are calculated by an angle (?) Formed by the distance (?) At the origin and the normal line direction of the x- Lt; / RTI > The connectable linear set for each edge pixel is a sine curve in the p-θ plane, and the peak of the cumulative sine curve is the representative line of the corresponding label value.
식 (2) : Equation (2):
(단, θ : x, y평면에서 원점과 선형을 수직으로 연결하는 선분이 x축과 이루는 각도, ρ : 원점과 선형사이의 수직거리)(Where θ is the angle formed by the line connecting the origin and the line vertically to the x axis in the x, y plane, and ρ is the vertical distance between the origin and the line)
선형 연결단계(S150)에서는 추출된 각 정규격자별 선형들을 인접한 정규격자의 선형들과 비교하고 공선조건을 만족시킬 경우 연결하여 갱신시킨다.In the linear connection step (S150), the extracted linear shapes of the regular grids are compared with the linear shapes of the adjacent regular grids, and when the collinear conditions are satisfied, they are connected and updated.
즉, 상기 선형 연결단계(S150)에서는 임의의 격자 선형을 기준으로 이를 둘러싼 대응 가능 격자들의 선형들에 대하여, 적어도 하나 이상의 선형 쌍이 공선 조건을 만족하면, 인접한 2개의 정규격자에서 추출한 선형을 서로 통합한다.That is, in the linear connection step S150, if at least one linear pair satisfies a collinear condition with respect to the linearities of the corresponding available lattices surrounding the arbitrary lattice linear form, the linearities extracted from the adjacent two normal lattices are integrated do.
인접 격자는 격자의 위치에 따라 9가지 종류로 나눌 수 있는데, 상기 인접 격자의 종류를 나누는 기준은 인접 격자의 수와 방향이 된다. 상기 인접 격자는, 중심 정규격자의 위치에 따라, 좌상단 모서리, 우상단 모서리, 좌하단 모서리, 우하단 모서리, 상단 행, 하단 행, 좌측 열, 우측 열, 그리고 그 외 대부분을 차지하는 나머지 경우로 나눌 수 있다.The adjacent grid can be classified into nine kinds according to the position of the grid, and the criterion for dividing the type of the adjacent grid is the number and direction of the adjacent grid. The adjacent grid can be divided into upper left corner, upper right corner, lower left corner, lower right corner, upper row, lower row, left column, right column, and the remaining cases occupying most of the other, depending on the position of the center regular grid have.
이때, 어느 하나의 격자에 대하여 인접하는 인접 격자의 수는 적게는 3개에서 많게는 8개까지 존재하며 기준 격자와 대응가능한 선형쌍 중 조건을 만족하는 선형을 연결한다.At this time, the number of adjacent lattices adjacent to one of the grids exists from 3 to 8, and connects the linear lattice satisfying the condition of the linear pair corresponding to the reference lattice.
상기 선형 연결단계(S150)에서 격자 인접 정보를 활용한 선형 연결의 개념도는 도 2와 같다. 상기 선형 연결단계(S150)에서 중심 격자와 인접한 격자들의 모든 대응 쌍에 대하여 특정 2개의 선형이 공선 조건을 만족하면 2개의 선형을 서로 통합한다.FIG. 2 is a conceptual diagram of a linear connection using the grid adjacent information in the linear connection step (S150). In the linear connection step (S150), if two specific linear matrices satisfy the collinear condition for all the corresponding pairs of gratings adjacent to the center grating, two linear matrices are integrated with each other.
상기 공선 조건에 대하여, 인접 격자 선형간의 각도 차이가 정해진 각도이하 이면서, 양끝점 사이의 거리 중 가장 짧은 거리가 격자 크기에 비하여 정해진 비율이하이면 두 선형은 통합된다. 상기 각도차의 기준은 10도, 양끝점 사이의 거리가 격자크기에 대비하는 비율은 1/3이 될 수 있다. 이때, 두 선형을 통합하기 위한 각도, 거리 조건은 필요에 따라 변경하여 적용할 수 있다.For the collinear condition, if the angular difference between the adjacent lattice line shapes is less than the predetermined angle and the shortest distance among the two end points is less than the predetermined ratio in comparison with the lattice size, the two linear types are integrated. The reference of the angle difference may be 10 degrees, and the ratio of the distance between the both end points to the grid size may be 1/3. At this time, the angle and distance conditions for integrating the two linear shapes can be changed as needed.
선형의 통합은 두 선형의 회귀선을 이용하며 최외곽점의 회귀선에 대한 수직 투영을 통해 좌표가 갱신되고 선형이 연결된다. 선형이 연결된 경우, 해당 격자쌍의 선형은 갱신 선형으로 대체 된다. 이와 같은 선형 연결 작업을 모든 격자에 대하여 수행한다.The integration of the linearity uses two linear regression lines, the coordinates are updated through the vertical projection to the regression line of the outermost point, and the linear is connected. When a linear is connected, the linearity of the corresponding grid pair is replaced by the update linear. This linear linking operation is performed for all grids.
상기와 같은 본 발명에 따른 정규격자 기반 허프변환을 이용한 고해상도 위성영상의 선형 추출 방법은, 정규격자를 이용한 단방향의 간단한 바텀 업(bottom-up) 구조를 가지므로, 변환 영역을 최적화하기 위한 반복적인 탑 다운(top-down) 연산 구조가 없으며 사전 정의된 인접 격자 정보를 활용하므로 모든 인접 선형의 거리 및 방향을 계산할 필요가 없어, 연산 속도가 증가한다.Since the linear extraction method of the high resolution satellite image using the regular grid-based Hough transform according to the present invention has a simple unidirectional bottom-up structure using the regular grid, Since there is no top-down operation structure and utilizes predefined adjacent grid information, it is not necessary to calculate the distance and direction of all adjacent linearities, and the operation speed increases.
도 3에는 고해상도 영상이미지 촬영용 위성인 Worldview-2로 촬영한 건물지역의 이미지가 도시되어 있다. 이를 본 발명에 따른 정규격자 기반 허프변환을 이용한 고해상도 위성영상의 선형 추출 방법에 의하면, 도 4a와 같은 이미지를 얻을 수 있고, 표준 허프 변환(standard Hough transform)을 수행하면 도 4b와 같은 이미지를 얻을 수 있다.FIG. 3 shows an image of a building area photographed by Worldview-2, which is a satellite for shooting a high-resolution image. According to the method for linearly extracting high resolution satellite images using the normal grid-based Hough transform according to the present invention, an image as shown in FIG. 4A can be obtained, and an image as shown in FIG. 4B can be obtained by performing a standard Hough transform .
상기 표준 허프 변환은, 상기 에지 추출단계(S122)에서 생성된 에지에 대하여 일반적인 레이블링을 적용하고 허프 변환을 수행한 것으로, 충분한 누적점 개수를 선택하여 선형을 추출한 후 중복 선형을 제거하였다. 이 때 누적점의 개수는 4가 될 수 있다. In the standard Huff transformation, general labeling is applied to edges generated in the edge extraction step (S122) and Huff transformation is performed. A sufficient number of accumulation points is selected to extract a linear shape and then a redundant linear shape is removed. At this time, the number of accumulation points can be four.
한편, 도 5에는 또 다른 고해상도 영상이미지 촬영용 위성인 Geoeye로 도로 지역을 촬영한 영상이 도시되어 있다. 마찬가지로, 이를 본 발명에 따른 정규격자 기반 허프변환을 이용한 고해상도 위성영상의 선형 추출 방법에 의하면, 도 6a와 같은 이미지를 얻을 수 있고, 표준 허프 변환을 수행하면 도 6b와 같은 이미지를 얻을 수 있다. Meanwhile, FIG. 5 shows an image of a road area photographed by Geoeye, which is another satellite for photographing high-resolution images. Similarly, according to the method of linearly extracting a high resolution satellite image using the normal grid-based Hough transform according to the present invention, an image as shown in FIG. 6A can be obtained and an image as shown in FIG. 6B can be obtained by performing standard Hough transform.
본 발명에 따른 정규격자 기반 허프변환을 이용한 고해상도 위성영상의 선형 추출 방법을 적용한 도 4a와 도 6a의 이미지는 그렇지 않은 이미지에 비해, 연산속도가 빠르게 나타났다. 즉, 도 3, 도 5의 이미지에 각각 본 발명에 따른 정규격자 기반 허프 변환을 적용하면 도 4a, 도 6a의 이미지를 얻는데, 이때 소요되는 처리시간은 각각 0.650초, 1.707초 이다. 한편, 동일한 하드웨어 환경에서 도 3, 도 5의 이미지에 각각 표준 허프 변환을 적용하여 도 4b, 도 6b의 이미지로 처리하는데 각각 1.053초, 2.919초의 처리시간이 소요된다. 상기 영상 처리 시간은 하드웨어 구축환경에 따라 달라질 수 있지만, 동일한 하드웨어 환경에서 본 발명에 따른 정규격자 기반 허프 변환이 표준 허프 변환에 비하여 처리속도가 빠름을 알 수 있다. 본 발명의 정규격자 기반 허프 변환 기법은 Worldview-2 건물 지역, Geoeye 도로 지역에서 표준 허프 변환에 비해 연산속도가 각각 62%, 71% 빠르게 나타났다.The images of FIG. 4A and FIG. 6A using the linear extraction method of the high resolution satellite image using the normal grid-based Hough transform according to the present invention showed a faster calculation speed than the images not having the linear image. That is, when the normal grid-based Hough transform according to the present invention is applied to the images of FIGS. 3 and 5, the images of FIGS. 4A and 6A are obtained, and the processing time is 0.650 seconds and 1.707 seconds, respectively. On the other hand, in the same hardware environment, standard Hough transform is applied to the images of FIG. 3 and FIG. 5, respectively, and the processing time of 1.053 seconds and 2.919 seconds is required to process the images of FIGS. 4B and 6B, respectively. The image processing time may vary depending on the hardware construction environment, but it can be seen that the normal grid-based Hough transform according to the present invention is faster than standard Hough transform in the same hardware environment. The normal grid-based Hough transform scheme of the present invention showed 62% and 71% faster computation speeds than standard Huff transforms in the Worldview-2 building area and Geoeye road area, respectively.
아울러, 원 이미지의 에지정보인 도 4와 도 6의 흰색 화소와 유사도가 높고, 건물의 단축(minor axis)과 커브 형태의 도로에서 누락없이 선형을 추출하는 장점이 있다. 반면, 표준 허프 변환의 경우, 도 4b와 도 6b에서 붉은색 타원으로 표시된 부분과 같이 건물의 단축, 커브 형태의 도로에서 많은 누락이 발생한다. In addition, there is an advantage in that the degree of similarity to the white pixels in FIG. 4 and FIG. 6, which is the edge information of the original image, is high and linearity is extracted without missing in the road of the minor axis and curve of the building. On the other hand, in the case of the standard Hough transform, as shown in the red ellipses in FIGS. 4B and 6B, many shortcomings occur in the short-axis and curved roads of buildings.
S110 : 이미지 획득단계
S121 : 정규격자 생성단계
S122 : 에지 추출단계
S130 : 정규격자기반 레이블링단계
S140 :허프 변환단계
S150 : 선형 연결단계S110: Image acquisition step
S121: regular grid generation step
S122: edge extraction step
S130: Regular grid-based labeling step
S140: Hough conversion step
S150: linear connection step
Claims (6)
위성으로부터 선형 추출 대상영역의 이미지를 획득하는 이미지 획득단계와,
상기 이미지에서 가로방향과 세로방향으로 각각 정해진 화소수에 의해 형성되는 정규격자를 생성하는 정규격자 생성단계와,
상기 영상이미지에서 에지 정보를 추출하는 에지 추출단계와,
상기 이미지로부터 추출된 에지가 속한 정규격자의 위치에 따라 에지에 고유한 레이블 값을 부여하는 정규격자기반 레이블링단계와,
동일한 레이블 값을 갖는 에지를 대상으로 허프 변환을 수행하여, 각 정규격자 내에서 선형을 추출하는 허프 변환단계와,
상기 정규격자들 중에서 어느 하나의 정규격자의 선형과 상기 정규격자와 인접한 정규격자의 선형들에 대한 공선조건(co-linearity) 충족 여부를 분석하여 선형을 서로 연결시키는 선형 연결단계를 포함하는 것을 특징으로 하는 정규격자 기반 허프변환을 이용한 고해상도 위성영상의 선형 추출 방법.A method for extracting a linear shape from a video image,
An image obtaining step of obtaining an image of a linear extraction subject area from a satellite,
A normal grid generating step of generating a regular grid formed by the predetermined number of pixels in the horizontal direction and the vertical direction in the image,
An edge extraction step of extracting edge information from the image;
A normal grid-based labeling step of assigning a unique label value to an edge according to a position of a normal grid to which an edge extracted from the image belongs;
A Hough transform step of performing Hough transform on an edge having the same label value to extract a linear shape in each normal lattice,
And a linear linking step of linking the linear shapes by analyzing whether the linearity of any of the normal grids and the linear shapes of the regular grids adjacent to the regular grating satisfy the co-linearity of the regular grids. A method for linear extraction of high - resolution satellite images using regular grid - based Hough transform.
상기 정규격자 생성단계는,
상기 영상이미지에서 가로방향과 세로방향으로 각각 정해진 화소수로 정규격자 배열(array)을 생성하고,
상기 정규격자 생성단계에서 생성된 상기 정규격자의 위치에 따라 고유한 레이블 값을 부여하는 것을 특징으로 하는 정규격자 기반 허프변환을 이용한 고해상도 위성영상의 선형 추출 방법.The method according to claim 1,
Wherein the normal grid generation step comprises:
A regular grid array is formed by the predetermined number of pixels in the horizontal direction and the vertical direction in the image,
And a unique label value is assigned according to the position of the regular grid generated in the regular grid generation step.
상기 에지 추출단계에서는 캐니(Canny) 연산자를 이용하여, 에지를 추출하는 것을 특징으로 하는 정규격자 기반 허프변환을 이용한 고해상도 위성영상의 선형 추출 방법.The method according to claim 1,
And extracting an edge using the Canny operator in the edge extraction step. 2. The method of claim 1, wherein the edge extraction is performed using a Canny operator.
상기 허프 변환단계는,
동일한 정규격자 레이블 값을 갖는 에지에 대하여 허프 변환을 수행하고, 허프 변환 공간에서 최대 누적점을 찾아 해당 레이블 격자의 대표 선형을 추출하는 것을 특징으로 하는 정규격자 기반 허프변환을 이용한 고해상도 위성영상의 선형 추출 방법.The method according to claim 1,
Wherein the Huff transform step comprises:
Wherein the Huff transform is performed on an edge having the same regular grid label value, and a representative accumulation point of the corresponding label grid is extracted by finding a maximum accumulation point in the Huff transform space. Extraction method.
상기 선형 연결단계에서는,
상기 허프 변환 단계에서 추출된 어느 하나의 격자 선형을 포함한 정규격자와 이를 둘러싼 대응 가능 격자들의 선형들에 대하여,
적어도 하나 이상의 선형 쌍이 서로 정해진 각도 차이 이내이면서, 양 끝점 사이의 가장 짧은 거리가 상기 정규격자 생성단계에서 생성된 상기 정규격자 크기 대비 정해진 비율 이내이면,
상기 정규격자 생성단계에서 생성되고 인접한 2개의 정규격자에서 추출한 선형을 서로 통합하는 것을 특징으로 하는 정규격자 기반 허프변환을 이용한 고해상도 위성영상의 선형 추출 방법.The method according to claim 1,
In the linear connection step,
For a normal grid including any one of the grid lines extracted in the Hough transform step and linearities of corresponding grids surrounding the normal grid,
If at least one linear pair is within a predetermined angle difference and the shortest distance between both end points is within a predetermined ratio with respect to the normal grid size generated in the normal grid generation step,
And the linearities extracted from the two adjacent regular grids generated in the regular grid generation step are integrated with each other. The linear extraction method of high resolution satellite images using the regular grid-based Hough transform.
상기 선형 연결단계에서 인접한 2개의 정규격자에서 추출한 선형을 통합하는 조건은,
인접한 2개의 정규격자에서 추출한 선형이 서로 10도 이내이면서, 양 끝점 사이의 가장 짧은 거리가 상기 정규격자 크기 대비 1/3이내인 것을 특징으로 하는 정규격자 기반 허프변환을 이용한 고해상도 위성영상의 선형 추출 방법.6. The method of claim 5,
The conditions for integrating the linearities extracted from the adjacent two normal grids in the linear connection step are as follows.
The linear extraction of the high-resolution satellite image using the regular grid-based Hough transform is characterized in that the linearities extracted from the adjacent two regular grids are within 10 degrees of each other and the shortest distance between the two end points is within 1/3 of the normal grid size. Way.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020150095905A KR101580594B1 (en) | 2015-07-06 | 2015-07-06 | Method for line extraction of high resolution satellite images using regular grid-based hough transform |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020150095905A KR101580594B1 (en) | 2015-07-06 | 2015-07-06 | Method for line extraction of high resolution satellite images using regular grid-based hough transform |
Publications (1)
Publication Number | Publication Date |
---|---|
KR101580594B1 true KR101580594B1 (en) | 2015-12-28 |
Family
ID=55085104
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020150095905A Expired - Fee Related KR101580594B1 (en) | 2015-07-06 | 2015-07-06 | Method for line extraction of high resolution satellite images using regular grid-based hough transform |
Country Status (1)
Country | Link |
---|---|
KR (1) | KR101580594B1 (en) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108492260A (en) * | 2018-02-07 | 2018-09-04 | 长安大学 | The Gelolgical lineament extracting method of Hough transformation is coupled based on Tensor Voting |
KR20190053708A (en) | 2017-11-10 | 2019-05-20 | 한국해양과학기술원 | Method of detecting noise area in marine target area |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004234333A (en) * | 2003-01-30 | 2004-08-19 | Nippon Hoso Kyokai <Nhk> | Image deformation information generation method and apparatus and program thereof |
JP2008011135A (en) * | 2006-06-29 | 2008-01-17 | Fuji Xerox Co Ltd | Image processing apparatus and image processing program |
KR100963651B1 (en) | 2009-03-12 | 2010-06-15 | 세종대학교산학협력단 | Method of automatic extraction of building boundaries using airborne lidar |
KR20130128162A (en) * | 2012-05-16 | 2013-11-26 | (주)베라시스 | Apparatus and method for detecting curve traffic lane using rio division |
-
2015
- 2015-07-06 KR KR1020150095905A patent/KR101580594B1/en not_active Expired - Fee Related
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004234333A (en) * | 2003-01-30 | 2004-08-19 | Nippon Hoso Kyokai <Nhk> | Image deformation information generation method and apparatus and program thereof |
JP2008011135A (en) * | 2006-06-29 | 2008-01-17 | Fuji Xerox Co Ltd | Image processing apparatus and image processing program |
KR100963651B1 (en) | 2009-03-12 | 2010-06-15 | 세종대학교산학협력단 | Method of automatic extraction of building boundaries using airborne lidar |
KR20130128162A (en) * | 2012-05-16 | 2013-11-26 | (주)베라시스 | Apparatus and method for detecting curve traffic lane using rio division |
Non-Patent Citations (1)
Title |
---|
Korean Journal of Remote Sensing, Vol.20, No.4, 2004, pp261~274 |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20190053708A (en) | 2017-11-10 | 2019-05-20 | 한국해양과학기술원 | Method of detecting noise area in marine target area |
CN108492260A (en) * | 2018-02-07 | 2018-09-04 | 长安大学 | The Gelolgical lineament extracting method of Hough transformation is coupled based on Tensor Voting |
WO2019153746A1 (en) * | 2018-02-07 | 2019-08-15 | 长安大学 | Geological linear body extraction method based on tensor voting coupled with hough transform |
US11430128B2 (en) | 2018-02-07 | 2022-08-30 | Chang'an University | Geological linear body extraction method based on tensor voting coupled with Hough transformation |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Leichtle et al. | Unsupervised change detection in VHR remote sensing imagery–an object-based clustering approach in a dynamic urban environment | |
US11244197B2 (en) | Fast and robust multimodal remote sensing image matching method and system | |
Ye et al. | A local descriptor based registration method for multispectral remote sensing images with non-linear intensity differences | |
Bansal et al. | Geo-localization of street views with aerial image databases | |
KR20130114944A (en) | Method for recognizimg parking mark for vehicle | |
US20120155745A1 (en) | Apparatus and method for extracting correspondences between aerial images | |
CN103077377A (en) | Direction field distribution-based fingerprint correction method | |
CN103218787A (en) | Multi-source heterogeneous remote-sensing image control point automatic collecting method | |
CN103727930A (en) | Edge-matching-based relative pose calibration method of laser range finder and camera | |
Yuan et al. | Combining maps and street level images for building height and facade estimation | |
CN102842044A (en) | Method for detecting variation of remote-sensing image of high-resolution visible light | |
Wang et al. | Extraction of earthquake-induced collapsed buildings using very high-resolution imagery and airborne lidar data | |
Parmehr et al. | Mapping urban tree canopy cover using fused airborne lidar and satellite imagery data | |
Xia et al. | A table method for coded target decoding with application to 3-D reconstruction of soil specimens during triaxial testing | |
KR101580594B1 (en) | Method for line extraction of high resolution satellite images using regular grid-based hough transform | |
Liu et al. | Grid: Guided refinement for detector-free multimodal image matching | |
CN103733225A (en) | Characteristic point coordination system, characteristic point coordination method, and recording medium | |
Hussnain et al. | Automatic feature detection, description and matching from mobile laser scanning data and aerial imagery | |
CN112232272A (en) | Pedestrian identification method based on fusion of laser and visual image sensor | |
Chen et al. | Building change detection based on 3D reconstruction | |
JP2012248004A (en) | Image processing system, image recognition device and method | |
KR101284252B1 (en) | Curvature Field-based Corner Detection | |
CN105930813B (en) | A method of detection composes a piece of writing this under any natural scene | |
Recky et al. | Window detection in complex facades | |
Lenc et al. | Towards Historical Map Analysis Using Deep Learning Techniques |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PA0109 | Patent application |
St.27 status event code: A-0-1-A10-A12-nap-PA0109 |
|
PA0201 | Request for examination |
St.27 status event code: A-1-2-D10-D11-exm-PA0201 |
|
PA0302 | Request for accelerated examination |
St.27 status event code: A-1-2-D10-D17-exm-PA0302 St.27 status event code: A-1-2-D10-D16-exm-PA0302 |
|
D13-X000 | Search requested |
St.27 status event code: A-1-2-D10-D13-srh-X000 |
|
D14-X000 | Search report completed |
St.27 status event code: A-1-2-D10-D14-srh-X000 |
|
PE0902 | Notice of grounds for rejection |
St.27 status event code: A-1-2-D10-D21-exm-PE0902 |
|
P11-X000 | Amendment of application requested |
St.27 status event code: A-2-2-P10-P11-nap-X000 |
|
P13-X000 | Application amended |
St.27 status event code: A-2-2-P10-P13-nap-X000 |
|
E701 | Decision to grant or registration of patent right | ||
PE0701 | Decision of registration |
St.27 status event code: A-1-2-D10-D22-exm-PE0701 |
|
GRNT | Written decision to grant | ||
PR0701 | Registration of establishment |
St.27 status event code: A-2-4-F10-F11-exm-PR0701 |
|
PR1002 | Payment of registration fee |
St.27 status event code: A-2-2-U10-U11-oth-PR1002 Fee payment year number: 1 |
|
PG1601 | Publication of registration |
St.27 status event code: A-4-4-Q10-Q13-nap-PG1601 |
|
P22-X000 | Classification modified |
St.27 status event code: A-4-4-P10-P22-nap-X000 |
|
P22-X000 | Classification modified |
St.27 status event code: A-4-4-P10-P22-nap-X000 |
|
FPAY | Annual fee payment |
Payment date: 20181204 Year of fee payment: 4 |
|
PR1001 | Payment of annual fee |
St.27 status event code: A-4-4-U10-U11-oth-PR1001 Fee payment year number: 4 |
|
PR1001 | Payment of annual fee |
St.27 status event code: A-4-4-U10-U11-oth-PR1001 Fee payment year number: 5 |
|
PR1001 | Payment of annual fee |
St.27 status event code: A-4-4-U10-U11-oth-PR1001 Fee payment year number: 6 |
|
PC1903 | Unpaid annual fee |
St.27 status event code: A-4-4-U10-U13-oth-PC1903 Not in force date: 20211222 Payment event data comment text: Termination Category : DEFAULT_OF_REGISTRATION_FEE |
|
PC1903 | Unpaid annual fee |
St.27 status event code: N-4-6-H10-H13-oth-PC1903 Ip right cessation event data comment text: Termination Category : DEFAULT_OF_REGISTRATION_FEE Not in force date: 20211222 |