+

RU2365995C2 - System and method of recording two-dimensional images - Google Patents

System and method of recording two-dimensional images Download PDF

Info

Publication number
RU2365995C2
RU2365995C2 RU2005102210/09A RU2005102210A RU2365995C2 RU 2365995 C2 RU2365995 C2 RU 2365995C2 RU 2005102210/09 A RU2005102210/09 A RU 2005102210/09A RU 2005102210 A RU2005102210 A RU 2005102210A RU 2365995 C2 RU2365995 C2 RU 2365995C2
Authority
RU
Russia
Prior art keywords
face
dimensional
images
quality
image
Prior art date
Application number
RU2005102210/09A
Other languages
Russian (ru)
Other versions
RU2005102210A (en
Inventor
Ванг Джин МУН (KR)
Ванг Джин МУН
Александр Борисович МУРЫНИН (RU)
Александр Борисович Мурынин
Владимир Владимирович ЛОБАНЦОВ (RU)
Владимир Владимирович ЛОБАНЦОВ
Андрей Александрович ДЕСЯТЧИКОВ (RU)
Андрей Александрович ДЕСЯТЧИКОВ
Виктор Дмитриевич Кузнецов (RU)
Виктор Дмитриевич Кузнецов
Юнг Джин ЛИ (KR)
Юнг Джин ЛИ
Хае Кванг ЯНГ (KR)
Хае Кванг ЯНГ
Original Assignee
Самсунг Электроникс Ко., Лтд.
Корпорация С1
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Самсунг Электроникс Ко., Лтд., Корпорация С1 filed Critical Самсунг Электроникс Ко., Лтд.
Priority to RU2005102210/09A priority Critical patent/RU2365995C2/en
Publication of RU2005102210A publication Critical patent/RU2005102210A/en
Application granted granted Critical
Publication of RU2365995C2 publication Critical patent/RU2365995C2/en

Links

Images

Landscapes

  • Image Processing (AREA)
  • Collating Specific Patterns (AREA)

Abstract

FIELD: information technology.
SUBSTANCE: invention relates to biometric systems and methods of identifying people from face features and, particularly to systems and methods of recording biometric data of faces. The technical outcome is achieved due to that, the system for recording two-dimensional face images contains a PIN number reading unit, PIN number decoding unit, memory unit, display, unit for reading face images, processor module, interconnected with the given units and is connected through one of its outputs to an additional lighting unit. The unit for reading face images, made in form of a device for reading three-dimensional images, unit for analysing quality of three-dimensional face images, unit for generating two-dimensional face images and unit for compressing two-dimensional face images are interconnected with the processor module. The system works in accordance with the proposed method.
EFFECT: increased certainty of quantitative evaluation of quality of two-dimensional face images.
14 cl, 12 dwg

Description

Изобретение относится к биометрическим системам и способам распознавания людей по чертам лица и, в частности, к системам и способам регистрации биометрических данных лица. Оно может использоваться в составе любой биометрической системы распознавания двухмерных изображений лица.The invention relates to biometric systems and methods for recognizing people by facial features and, in particular, to systems and methods for recording biometric face data. It can be used as part of any biometric recognition system for two-dimensional face images.

Известно, что в последние годы был достигнут заметный прогресс в разработке технологий автоматического биометрического распознавания высококачественных двухмерных лицевых изображений. Так, например, большинство авторитетных испытаний технологий распознавания лица от различных производителей продемонстрировали высокую эффективность применения автоматического биометрического распознавания качественных двухмерных изображений лица:It is known that in recent years significant progress has been made in the development of technologies for automatic biometric recognition of high-quality two-dimensional facial images. For example, most authoritative tests of face recognition technologies from various manufacturers have demonstrated the high efficiency of using automatic biometric recognition of high-quality two-dimensional face images:

- FRVT2000 и FRVT2002 правительственными организациями США, Великобритании, Канады и Австралии (http://www.frvt.org/FRVT2000/default.htm и http://www.frvt.org/FRVT2002/default.htm) [1];- FRVT2000 and FRVT2002 by governmental organizations of the USA, Great Britain, Canada and Australia (http://www.frvt.org/FRVT2000/default.htm and http://www.frvt.org/FRVT2002/default.htm) [1];

- тестирование правительством Германии- testing by the German government

(http://www.bsi.bund.de/english/fachthem/BioFace/BioFaceIIReport.pdf) [2];(http://www.bsi.bund.de/english/fachthem/BioFace/BioFaceIIReport.pdf) [2];

- тестирование Департаментом Обороны США «DoD Counterdrug Technology Development Program Office's scenario evaluation, Face Recognition at a Chokepoint» (http://www.dodcounterdrug.com/facialrecognition/DLs/ChokePoint Results. Edf) [3];- testing by the US Department of Defense “DoD Counterdrug Technology Development Program Office's scenario evaluation, Face Recognition at a Chokepoint” (http://www.dodcounterdrug.com/facialrecognition/DLs/ChokePoint Results. Edf) [3];

- тестирование CESG 2001 Национальной Физической Лабораторией по заказу Правительства Великобритании (www.cesg.gov.uk/technology/biometrics) [4];- testing of CESG 2001 by the National Physical Laboratory commissioned by the UK Government (www.cesg.gov.uk/technology/biometrics) [4];

- тестирование Personnel/Visitor Identification at DoD Labs & Technology Centers 2002 исследовательской лабораторией Армии США- testing of Personnel / Visitor Identification at DoD Labs & Technology Centers 2002 by the US Army Research Laboratory

(http://archive.aclu.org/issues/privacy/FINAL_1_Final_Steve_King.pdf) [5];(http://archive.aclu.org/issues/privacy/FINAL_1_Final_Steve_King.pdf) [5];

- промежуточные результаты реализации крупнобюджетного проекта Human Identification at a Distance Управления Перспективных Исследований МО США, в рамках которого для военных целей создается мультибиометрическая система скрытного распознавания человека на большом (до 150 м) расстоянии (www.darpa.mil/iao/hid.htm) [6];- interim results of the implementation of the large-budget project Human Identification at a Distance of the Office of Advanced Research of the United States Department of Defense, in the framework of which a multi-biometric system for covert recognition of a person at a large (up to 150 m) distance is created for military purposes (www.darpa.mil/iao/hid.htm) [6];

- тестирования авторитетной американской биометрической консалтинговой компании International Biometric Group (www.ibgweb.com) [7].- testing of the reputable American biometric consulting company International Biometric Group (www.ibgweb.com) [7].

По этим причинам были разработаны международные и национальные стандарты, которые прямо или косвенно вводят количественную метрику качества электронных двухмерных изображений лица:For these reasons, international and national standards have been developed that directly or indirectly introduce a quantitative quality metric for electronic two-dimensional face images:

- ANSI/INCITS 358-2002 - Information technology - BioAPI Specification [8];- ANSI / INCITS 358-2002 - Information technology - BioAPI Specification [8];

- NISTIR 6529-A-2004 - Common Biometric Exchange Format Framework (CBEFF) [9];- NISTIR 6529-A-2004 - Common Biometric Exchange Format Framework (CBEFF) [9]

- ANSI/NIST-ITL 1-2000 - Standard Data Format for the Interchange of Fingerprint, Facial, & Scar mark & Tattoo (SMT) Information [10];- ANSI / NIST-ITL 1-2000 - Standard Data Format for the Interchange of Fingerprint, Facial, & Scar mark & Tattoo (SMT) Information [10];

- ANSI/INCITS 379 - Information Technology - Iris Image Interchange Format [11];- ANSI / INCITS 379 - Information Technology - Iris Image Interchange Format [11];

- ANSI/INCITS 385-2004 - Information Technology - Face Recognition Format for Data Interchange [12];- ANSI / INCITS 385-2004 - Information Technology - Face Recognition Format for Data Interchange [12];

- ISO/IEC 10918 - Information technology - Digital Compression and coding of continuous-tone still images (JPEG) [13];- ISO / IEC 10918 - Information technology - Digital Compression and coding of continuous-tone still images (JPEG) [13];

- ISO/IEC 15444 - Information technology - JPEG 2000 Image Coding System [14];- ISO / IEC 15444 - Information technology - JPEG 2000 Image Coding System [14];

- NISTIR 6529-A-2004 - Common Biometric Exchange Format Framework (CBEFF) [15];- NISTIR 6529-A-2004 - Common Biometric Exchange Format Framework (CBEFF) [15];

- ICAO, Facial Image Standard (http://www.icao.int/mrtd/download/documents/Annex D - Facial Image.pdf; http://www.icao.int/mrtd/download/documents/Annex A - Photograph Guidelines.pdf; http://www.icao.int/mrtd/download/documents/Annex В - Facial Image Size Study.no 1.pdf;- ICAO, Facial Image Standard (http://www.icao.int/mrtd/download/documents/Annex D - Facial Image.pdf; http://www.icao.int/mrtd/download/documents/Annex A - Photograph Guidelines.pdf; http://www.icao.int/mrtd/download/documents/Annex B - Facial Image Size Study.no 1.pdf;

http://www.icao.int/mrtd/download/documents/Annex С - Facial Image Size Study. no2. pdf) [16];http://www.icao.int/mrtd/download/documents/Annex C - Facial Image Size Study. no2. pdf) [16];

- NIST, Image Group, Best Practice Recommendation Version 2 for capturing mugshots and facial images- NIST, Image Group, Best Practice Recommendation Version 2 for capturing mugshots and facial images

(http://www.itl.nist.gov/iad/894.03/face/bpr_mug3.htm1) [17];(http://www.itl.nist.gov/iad/894.03/face/bpr_mug3.htm1) [17];

- U.S. Department of State, Bureau of Consular Affairs, Guidelines for Producing High Quality Photographs for U.S. Travel Documents (http://www.travel.state.gov/passport/pptphotos/index.htm1) [18];- U.S. Department of State, Bureau of Consular Affairs, Guidelines for Producing High Quality Photographs for U.S. Travel Documents (http://www.travel.state.gov/passport/pptphotos/index.htm1) [18];

- Project 1603, ANSI/INCITS 395, Information Technology, Signature/Sign Image Based Interchange Format for Data Interchange (currently under development) [19];- Project 1603, ANSI / INCITS 395, Information Technology, Signature / Sign Image Based Interchange Format for Data Interchange (currently under development) [19];

- ANSI/INCITS (M1-03-0351), Information Technology, Biometric Performance Testing and Reporting Standard (currently under development) [20];- ANSI / INCITS (M1-03-0351), Information Technology, Biometric Performance Testing and Reporting Standard (currently under development) [20];

- Project ISO/IEC CD 19794-5, Biometric Data Interchange Formats - Part 5: Face Image Data (находится в стадии разработки) [21];- Project ISO / IEC CD 19794-5, Biometric Data Interchange Formats - Part 5: Face Image Data (under development) [21];

- Project INCITS 1672-D (M1/04-0608), Biometric Sample Quality Standard (находится в стадии разработки; http://www.incits.org/tc_home/m1htm/docs/m1040608.PDF) [22];- Project INCITS 1672-D (M1 / 04-0608), Biometric Sample Quality Standard (under development; http://www.incits.org/tc_home/m1htm/docs/m1040608.PDF) [22];

- Project INCITS 1703-D (M1/04-0697), Information technology, Conformance Testing Methodology for ANSI INCITS 358-2002, BioAPI Specification (находится в стадии разработки) [23].- Project INCITS 1703-D (M1 / 04-0697), Information technology, Conformance Testing Methodology for ANSI INCITS 358-2002, BioAPI Specification (under development) [23].

Кроме этого, стандарт BioAPI (версия v1.1, раздел 2.1.46) [24] определяет структуру и дает рекомендации по количественной субъективной оценке параметров качества двухмерных изображений лица.In addition, the BioAPI standard (version v1.1, section 2.1.46) [24] defines the structure and gives recommendations for a quantitative subjective assessment of the quality parameters of two-dimensional facial images.

Некоторые другие стандарты (например, разрабатываемый Стандарт Качества Биометрических Данных или Biometric Sample Quality Standard;Some other standards (for example, the emerging Biometric Data Quality Standard or Biometric Sample Quality Standard;

http://www.incits.org/tc_home/m1htm/docs/m1040608.PDF) [25] будут определять методологию для вычисления объективных количественных оценок качества двухмерных изображений лица, включая выражения и интерпретации для использования в различных приложениях биометрической технологии распознавания лица:http://www.incits.org/tc_home/m1htm/docs/m1040608.PDF) [25] will determine a methodology for calculating objective quantitative assessments of the quality of two-dimensional face images, including expressions and interpretations for use in various applications of biometric face recognition technology:

- совместимость различных баз данных изображений лица;- compatibility of various face image databases;

- тестирование и совершенствование технологии распознавания лица;- testing and improving face recognition technology;

- контроль качества в реальном времени при регистрации изображения лица для улучшения операционной эффективности и производительности, чтобы точно принимать решения при биометрическом распознавании: предоставлять доступ, не предоставлять доступ, повторно захватывать биометрические данные, отказывать в регистрации и т.п.;- real-time quality control when registering a face image to improve operational efficiency and productivity in order to accurately make decisions in biometric recognition: provide access, do not provide access, re-capture biometric data, refuse registration, etc .;

- контроль качества в реальном времени при администрировании баз данных лицевых изображений для улучшения операционной эффективности и производительности, чтобы точно принимать решения при биометрическом распознавании: предоставлять доступ, не предоставлять доступ, повторно захватывать биометрические данные, отказывать в регистрации и т.п.;- real-time quality control when administering facial image databases to improve operational efficiency and productivity in order to accurately make decisions in biometric recognition: provide access, do not provide access, re-capture biometric data, refuse registration, etc .;

- использование в различных приложениях распознавания лица;- use in various face recognition applications;

- использование в системах экспертного анализа;- use in expert analysis systems;

- использование в приложениях сопоставление один-к-одному (1-to-1);- use in applications one-to-one matching (1-to-1);

- использование в приложениях сопоставление один-к-немногим (1-to-few);- use in applications one-to-few matching (1-to-few);

- использование в приложениях сопоставление один-ко-многим (1-to-many);- use in applications one-to-many matching (1-to-many);

- использование в приложениях сопоставления с сигнальным списком;- use in applications of comparison with the signal list;

- использование при администрировании баз данных двухмерных лицевых изображений.- the use of two-dimensional facial images for database administration.

Далее приводится дополнительная информация по некоторым вышеупомянутым стандартам и форматам хранения биометрических данных в памяти и их обмена между различными биометрическими системами:The following is additional information on some of the aforementioned standards and formats for storing biometric data in memory and their exchange between different biometric systems:

- формат распознавания лица с обменом данных - M1 (www.incits.org/tc_home/m1.htm) [26] и ISO SC37 (www.jtcl.org) [27]. Гарантирует, что зарегистрированные изображения лица будут удовлетворять стандартам качества, необходимым как для автоматического распознавания лица, так и для экспертных исследований. Способствует использованию лицевых данных в приложениях, имеющих ограниченный объем памяти (например, паспорта, визы, водительские удостоверения и т.п.), и обеспечивает обмен данными между системами распознавания лица от различных производителей;- face recognition format with data exchange - M1 (www.incits.org/tc_home/m1.htm) [26] and ISO SC37 (www.jtcl.org) [27]. It guarantees that registered face images will meet the quality standards necessary for both automatic face recognition and expert research. Promotes the use of personal data in applications with a limited amount of memory (for example, passports, visas, driver's licenses, etc.), and provides data exchange between face recognition systems from various manufacturers;

- биометрический программный интерфейс -BioAPI: ANSI/INCITS 358-2002 (www.bioapi.org) [28]. Определяет интерфейс взаимодействия биометрических программных приложений. Открытый стандарт, согласованный в биометрическом сообществе;- biometric programming interface -BioAPI: ANSI / INCITS 358-2002 (www.bioapi.org) [28]. Defines the interaction interface of biometric software applications. An open standard agreed upon in the biometric community;

- формат обмена биометрическими данными - CBEFF (www.nist.gov/cbeff) [29]. Определяет структуру данных для создания файлов с биометрической информацией, которая способствует совместимости различных биометрических компонент и систем. Состоит из стандартного заголовка (biometric specific memory block -BSMB) и опциональной цифровой подписи;- The format for the exchange of biometric data is CBEFF (www.nist.gov/cbeff) [29]. Defines the data structure for creating files with biometric information, which contributes to the compatibility of various biometric components and systems. Consists of a standard header (biometric specific memory block -BSMB) and an optional digital signature;

- стандарт обработки и передачи биометрических данных - ANSI Х9.84-2002 (www.x9.org) [30]. Определяет основу обработки данных и предъявляет требования к способам криптографической защиты биометрических данных перед их передачей через добавление дополнительных элементов безопасности, которые не предусмотрены в интерфейсе BioAPI. Совместим с BioAPI и CBEFF;- The standard for processing and transmitting biometric data is ANSI X9.84-2002 (www.x9.org) [30]. It defines the basis for data processing and makes demands on the methods of cryptographic protection of biometric data before transferring them by adding additional security elements that are not provided in the BioAPI interface. Compatible with BioAPI and CBEFF;

- атрибутивный Сертификат -Х.509 Attribute Certificate (www.nist.gov) [31]. Часть Инфрастуктуры Открытых Ключей (PKI structure). Требует хранения биометрического шаблона как атрибут информации в пределах фиксированного числа байт в Открытом Ключе;- Attribute Certificate -X.509 Attribute Certificate (www.nist.gov) [31]. Part of the Public Key Infrastructure (PKI structure). It requires storing a biometric template as an attribute of information within a fixed number of bytes in the Open Key;

- стандарты биометрических машиночитаемых проездных документов ICAO MRTD (www.icao.int/mrtd/download/technical.cfm) [32].- ICAO MRTD standards for biometric machine-readable travel documents (www.icao.int/mrtd/download/technical.cfm) [32].

С другой стороны, в течение многих лет правительственные органы во многих странах формировали различные электронные базы данных двухмерных изображений лиц (например, системы учета паспортов, виз, водительских удостоверений и т.п.), используя в лучшем случае минимальные требования к качеству фотоизображений, необходимые для проведения визуального анализа оператором.On the other hand, over the years, government agencies in many countries have compiled various electronic databases of two-dimensional images of persons (for example, registration systems for passports, visas, driver's licenses, etc.) using, at best, the minimum quality requirements for photo images needed for visual analysis by the operator.

Поэтому в настоящее время имеется множество баз данных, содержащих низкокачественные двухмерные изображения лиц, нуждающиеся в повторной регистрации (перерегистрации).Therefore, currently there are many databases containing low-quality two-dimensional images of persons in need of re-registration (re-registration).

Кроме этого, во многих странах разрабатываются и внедряются новые национальные программы идентификации граждан, связанные с созданием крупномасштабных баз данных качественных двухмерных изображений лиц для повышения уровня общественной безопасности (выявления террористов и других преступников, предотвращения фальсификаций с удостоверениями личности и проездными билетами, обеспечения санкционированного доступа в зоны и системы безопасности и др.):In addition, in many countries, new national citizen identification programs are being developed and implemented related to the creation of large-scale databases of high-quality two-dimensional images of persons to improve public safety (identifying terrorists and other criminals, preventing fraud with identity cards and travel tickets, providing authorized access to security zones and systems, etc.):

- программа США US-VISIT (www.dhs.gov) [33] биометрического контроля всех въезжающих в страну граждан;- US program US-VISIT (www.dhs.gov) [33] biometric monitoring of all citizens entering the country;

- программа ЕС (http://europa.eu.int/eur-lex/en/com/pdf/2003/com2003_0558en01.pdf) [34] по внедрению биометрических данных в визы и разрешения пребывания;- EU program (http://europa.eu.int/eur-lex/en/com/pdf/2003/com2003_0558en01.pdf) [34] on the implementation of biometric data in visas and residence permits;

- программа Международной Организации Гражданской Авиации ICAO (www.icao.int) [35] по внедрению биометрических данных в машиночитаемые проездные документы;- The ICAO International Civil Aviation Organization program (www.icao.int) [35] for incorporating biometric data into machine-readable travel documents;

- программа Правительства Великобритании по внедрению электронных удостоверений личности с биометрическими данными (www.homeoffice.gov.uk) [36];- The UK Government program for the implementation of electronic identity cards with biometric data (www.homeoffice.gov.uk) [36];

- и др.- and etc.

Следовательно, рынку сейчас нужен такой способ регистрации двухмерных изображений лица, который обеспечил бы объективную количественную оценку качества двухмерных изображений лица в автоматическом режиме, приближенном к реальному времени.Therefore, the market now needs a way of registering two-dimensional face images that would provide an objective quantitative assessment of the quality of two-dimensional face images in an automatic mode close to real time.

Различные процедуры регистрации и распознавания биометрических данных, например, описываются в следующих изобретениях:Various procedures for recording and recognizing biometric data, for example, are described in the following inventions:

- United States Patent 5457747 October 10, 1995 [37]. Система персональных биометрических карт;- United States Patent 5457747 October 10, 1995 [37]. System of personal biometric cards;

- United States Patent 6107935 August 22, 2000 [38]. Система биометрического распознавания пользователей с целью организации контроля доступа;- United States Patent 6107935 August 22, 2000 [38]. User biometric recognition system for the purpose of access control;

- United States Patent 6246751 June 12, 2001 [39]. Способ предоставления сервиса авторизованным пользователям с использованием распознавания зарегистрированных биометрических данных;- United States Patent 6246751 June 12, 2001 [39]. A method of providing a service to authorized users using recognition of registered biometric data;

- United States Patent 6421453 July 16, 2002 [40]. Способ контроля доступа с использованием распознавания преднамеренных жестов;- United States Patent 6421453 July 16, 2002 [40]. A method of access control using the recognition of intentional gestures;

- United States Patent 6735695 May 11, 2004 [41]. Способ организации контроля доступа с помощью регистрации и распознавания биометрических данных.- United States Patent 6735695 May 11, 2004 [41]. A method of organizing access control using registration and recognition of biometric data.

Различные процедуры регистрации и распознавания данных лица, например, описываются в следующих изобретениях:Various procedures for registering and recognizing face data, for example, are described in the following inventions:

- United States Patent 6111517 August 29, 2000 [42]. Способ непрерывного контроля доступа в защищенную зону с помощью распознавания лица;- United States Patent 6111517 August 29, 2000 [42]. A way to continuously control access to a protected area using face recognition;

- United States Patent 6724919 April 20, 2004 [43]. Способ верификации лица пользователя компьютерной системы с возможностью непрерывного сканирования лица во время работы пользователя за компьютером;- United States Patent 6724919 April 20, 2004 [43]. A method for verifying the face of a user of a computer system with the ability to continuously scan a face while a user is working at a computer;

- United States Patent 4449189 May 15, 1984 [44]. Способ идентификации человека по речи и чертам лица одновременно;- United States Patent 4449189 May 15, 1984 [44]. A method for identifying a person by speech and facial features at the same time;

- United States Patent 5412738 May 2, 1995 [45]. Система распознавания (идентификации и верификации) человека с использованием статических и динамических данных голоса и лица;- United States Patent 5412738 May 2, 1995 [45]. Recognition system (identification and verification) of a person using static and dynamic voice and face data;

- Russian Federation 95115528/09 September 8, 1995 [46]. Способ распознавания человека с использованием персонального PIN номера, алгоритмов распознавания лица и дополнительной физиологической характеристики;- Russian Federation 95115528/09 September 8, 1995 [46]. A method for recognizing a person using a personal PIN number, face recognition algorithms and additional physiological characteristics;

- Russian Federation 96115857/09 August 6, 1996 [47]. Способ распознавания человека по изображению лица с использованием зеркала для позиционирования головы относительно устройства сканирования;- Russian Federation 96115857/09 August 6, 1996 [47]. A method for recognizing a person from a face image using a mirror to position the head relative to the scanning device;

- United States Patent 6219640 April 17, 2001 [48]. Способ верификации человека по голосу с использованием анализа аудио- и видеоданных одновременно;- United States Patent 6219640 April 17, 2001 [48]. A method of verifying a person by voice using analysis of audio and video data simultaneously;

- United States Patent 6219639 April 17, 2001 [49]. Способ распознавания человека по двум признакам, один из которых является форма губ;- United States Patent 6219639 April 17, 2001 [49]. A method for recognizing a person by two signs, one of which is the shape of the lips;

- United States Patent 6504944 January 7, 2003 [50]. Устройства распознавания изображения с использованием 3D считывателей и способов распознавания рта и губ говорящего человека;- United States Patent 6504944 January 7, 2003 [50]. Image recognition devices using 3D readers and methods for recognizing the mouth and lips of a talking person;

- United States Patent 6567775 May 20, 2003 [51]. Способ идентификации говорящего человека с использованием аудио- и видеоданных.- United States Patent 6567775 May 20, 2003 [51]. A method for identifying a talking person using audio and video data.

Различные способы контроля качества данных лица с использованием способов предварительного анализа, снижения шума и контроля местоположения человека, например, описываются в следующих изобретениях:Various methods for controlling the quality of facial data using methods of preliminary analysis, noise reduction, and human location control, for example, are described in the following inventions:

- United States Patent 6005610 December 21, 1999 [52]. Аудиовизуальный способ определения местонахождения и слежения за, по крайней мере, одним объектом;- United States Patent 6005610 December 21, 1999 [52]. Audiovisual way of determining the location and tracking of at least one object;

- United States Patent 6707921 March 16, 2004 [53]. Способ фильтрации шума в речи человека с помощью анализа позиции и перемещений рта.- United States Patent 6707921 March 16, 2004 [53]. A method of filtering noise in human speech by analyzing the position and movement of the mouth.

Различные способы восстановления данных лица с использованием анализа аудиовизуальной информации, например, описываются в следующих изобретениях:Various methods for recovering facial data using an analysis of audiovisual information, for example, are described in the following inventions:

- United States Patent 4757541 July 12, 1988 [54]. Устройство распознавания речи с использованием формы губ;- United States Patent 4757541 July 12, 1988 [54]. Speech recognition device using lip shape;

- United States Patent 4913539 April 3, 1990 [55]. Устройство анимации губ в соответствии с произносимыми звуками;- United States Patent 4913539 April 3, 1990 [55]. Lip animation device in accordance with the pronounced sounds;

- United States Patent 5608839 March 4, 1997 [56]. Способ синхронизации аудио- и видеоданных человека;- United States Patent 5608839 March 4, 1997 [56]. A method of synchronizing audio and video data of a person;

- United States Patent 6014625 January 11, 2000 [57]. Способ для определения параметров движения губ с использованием аудио- и видеосигналов;- United States Patent 6014625 January 11, 2000 [57]. A method for determining lip movement parameters using audio and video signals;

- United States Patent 6243683 June 5, 2001 [58]. Способ контроля процесса распознавания речи с помощью анализа видеоизображения;- United States Patent 6243683 June 5, 2001 [58]. A method for controlling the process of speech recognition using video analysis;

- United States Patent 6449595 September 10, 2002 [59]. Способ восстановления изображения лица в соответствии с речевым сигналом с использованием аудиовизуальных данных;- United States Patent 6449595 September 10, 2002 [59]. A method of restoring a face image in accordance with a speech signal using audio-visual data;

- United States Patent 6594629 July 15, 2003 [60]. Способ детектирования речи с использованием распознавания речи и анализа связанных аудио- и видеоданных;- United States Patent 6594629 July 15, 2003 [60]. A method for detecting speech using speech recognition and analysis of related audio and video data;

- United States Patent 6633844 October 14, 2003 [61]. Способ распознавания речи через анализ аудио- и видеоданных одновременно.- United States Patent 6633844 October 14, 2003 [61]. A method of speech recognition through the analysis of audio and video data simultaneously.

Различные способы регистрации данных лица, например, описываются в следующих изобретениях:Various methods for registering face data, for example, are described in the following inventions:

- United States Patent 6072891 June 6, 2000 [62]. Способ регистрации биометрических данных с предварительной проверкой качества;- United States Patent 6072891 June 6, 2000 [62]. A method for recording biometric data with preliminary quality control;

- United States Patent 5978494 November 2, 1999 [63]. Способ отбора лучшего изображения регистрации для персональной идентификации.- United States Patent 5978494 November 2, 1999 [63]. A method for selecting the best registration image for personal identification.

Различные способы анализа трехмерных и двухмерных изображений лица, например, описываются в следующих изобретениях:Various methods for analyzing three-dimensional and two-dimensional face images, for example, are described in the following inventions:

- United States Patent 6026188 February 15, 2000 [64]. Способ распознавания трехмерных объектов через генерирование повернутого двухмерного изображения объекта из набора двухмерных зарегистрированных изображений;- United States Patent 6026188 February 15, 2000 [64]. A method for recognizing three-dimensional objects by generating a rotated two-dimensional image of an object from a set of two-dimensional registered images;

- United States Patent 6535839 March 18, 2003 [65]. Способ вычисления местоположения и ориентации объекта в трехмерном пространстве;- United States Patent 6535839 March 18, 2003 [65]. A method for calculating the location and orientation of an object in three-dimensional space;

- United States Patent 6580821 June 17, 2003 [66]. Способ для объединения компьютерных моделей двух поверхностей в трехмерном пространстве.- United States Patent 6580821 June 17, 2003 [66]. A method for combining computer models of two surfaces in three-dimensional space.

Известен пример сторонней системы регистрации (источник: DoD Counterdrug Technology Development Program Office; программа тестирования: "Face Recognition at a Chokepoint. Scenario Evaluation Results") [67], в которой используются блок считывания двухмерных видеоизображений и блок дополнительного освещения, выполненный в виде двух первичных источников света, двух рассеивающих зонтов, установленных на штативах, и одного экрана. Однако она обладает существенными недостатками, поскольку с ее помощью нельзя достоверно оценивать качество и черты лица.A well-known example of a third-party registration system (source: DoD Counterdrug Technology Development Program Office; testing program: "Face Recognition at a Chokepoint. Scenario Evaluation Results") [67], which uses a block for reading two-dimensional video images and an additional lighting unit made in the form of two primary light sources, two diffusing umbrellas mounted on tripods, and one screen. However, it has significant drawbacks, since it cannot be used to reliably assess the quality and facial features.

Наиболее близким к заявленному изобретению является способ распознавания трехмерных объектов через генерирование двухмерного изображения объекта из преобразованной трехмерной модели (United States Patent 6,002,782 December 14, 1999) [68], который решает проблему не оценки качества, а согласования ракурса через генерирование двухмерного изображения лица нужного ракурса из зарегистрированного трехмерного изображения лица для последующего сопоставления с двухмерным изображением лица человека, находящегося в поле зрения считывателя двухмерных изображений. Данный способ выбран в качестве прототипа заявленного изобретения.Closest to the claimed invention is a method for recognizing three-dimensional objects by generating a two-dimensional image of an object from a transformed three-dimensional model (United States Patent 6,002,782 December 14, 1999) [68], which solves the problem of not assessing quality, but matching the angle by generating a two-dimensional image of the face of the desired angle from a registered three-dimensional image of a face for subsequent comparison with a two-dimensional image of the face of a person in the field of view of the reader of two-dimensional images. This method is selected as a prototype of the claimed invention.

Однако, к сожалению, вышеупомянутые устройства и изобретения, в том числе и способ прототипа, не содержат описания приемлемого способа регистрации и достоверной количественной оценки качества и черт двухмерных изображений лица человека и, как следствие, имеют существенные ограничения в применении.However, unfortunately, the above devices and inventions, including the prototype method, do not contain a description of an acceptable registration method and reliable quantitative assessment of the quality and features of two-dimensional images of a person’s face and, as a result, have significant limitations in use.

Большинство из них решают задачу взаимной привязки двух изображений одного и того же субъекта, зарегистрированных различными считывателями, либо одним и тем считывателем, но в разное время. Чтобы осуществить сравнение двух таких изображений, необходимо выполнить взаимную привязку этих изображений и таким образом скорректировать относительные пространственные сдвиги, различия в усилении видеосигнала, смещения, вызванные поворотами, а также геометрические и яркостные искажения каждого изображения.Most of them solve the problem of interlinking two images of the same subject registered by different readers, or by the same reader, but at different times. In order to compare two such images, it is necessary to interconnect these images and thus correct relative spatial shifts, differences in video signal amplification, displacements caused by rotations, as well as geometric and brightness distortions of each image.

Как правило, патентами предлагаются способы и/или устройства и/или системы, использующие 3D изображения лица, решающие проблему корректировки пространственных поворотов.Typically, patents provide methods and / or devices and / or systems using 3D facial images that solve the problem of adjusting spatial rotations.

В заявляемой системе блок анализа качества трехмерных изображений лица является системой понимания изображений, представленных массивами чисел, которые в простейшем виде могут просто сообщать с каким-то уровнем достоверности (вероятности) о том, что на изображении имеется заданный или какой-либо неожиданный объект, характеризующий количественно качество и черты лица. Эта задача в системе решается с помощью стандартной системы распознавания двухмерных образов, блок-схема которой приводится на Фиг.10.In the claimed system, the block for analyzing the quality of three-dimensional face images is a system for understanding images represented by arrays of numbers, which in their simplest form can simply report with some level of reliability (probability) that the image has a given or some unexpected object that characterizes quantify quality and facial features. This problem in the system is solved using a standard system for recognizing two-dimensional images, a block diagram of which is shown in FIG. 10.

Однако в случае регистрации изображений лица задача выбора лучшего двухмерного изображения и количественная оценка его качества до сих пор решалась через экспертный анализ двухмерных изображений и требовала непосредственного участия эксперта-оператора, который субъективно оценивал качество изображения, сравнивая его с другими изображениями, входящими в рассматриваемую группу.However, in the case of registering facial images, the task of choosing the best two-dimensional image and quantifying its quality has so far been solved through expert analysis of two-dimensional images and required the direct participation of an expert operator who subjectively assessed the image quality by comparing it with other images included in the group under consideration.

При этом использовались методы словесного описания, в которых, как правило, описываются:In this case, methods of verbal description were used, which, as a rule, describe:

- общие анатомические черты лица субъекта регистрации (сверху вниз): лоб, брови, уши, глаза, нос, губы, щеки, морщины и подбородок;- general anatomical facial features of the subject of registration (top to bottom): forehead, eyebrows, ears, eyes, nose, lips, cheeks, wrinkles and chin;

- характерные для субъекта регистрации черты - то есть особые приметы: татуировки, шрамы, отсутствия частей лица;- features characteristic of the subject of registration - that is, special signs: tattoos, scars, lack of parts of the face;

- сопутствующие характеристики: прическа, одежда, предметы туалета, драгоценности;- related characteristics: hairstyle, clothes, toilet articles, jewelry;

- динамические характеристики: мимика.- dynamic characteristics: facial expressions.

Обычно все черты лица количественно описываются с использованием трехуровневой градационной шкалы (например, узкий, нормальный, широкий), либо пятиуровневой (очень узкий, узкий, нормальный, широкий, очень широкий) с указанием известных названий (например, горбатый нос и т.п.).Typically, all facial features are quantitatively described using a three-level gradation scale (for example, narrow, normal, wide), or five-level (very narrow, narrow, normal, wide, very wide) with known names (for example, a humpback nose, etc. )

Распространенной шкалой оценок эксперта являлась шкала погрешностей, измеряющая в баллах степень искажений деталей лица от "незаметных" до "крайне нежелательных" и позволяющая получать средний балл достоверности. К числу недостатков метода балльных оценок относят, прежде всего, возможную нелинейность шкалы по разным деталям лица и необходимость привлечения не менее двенадцати экспертов для получения достоверного результата.A common expert rating scale was the error scale, which measures the degree of distortion of face details from “invisible” to “extremely undesirable” and allows you to get an average confidence score. The disadvantages of the method of scoring include, first of all, the possible non-linearity of the scale for different parts of the face and the need to attract at least twelve experts to obtain a reliable result.

С другой стороны, в случае большого набора параметров качества лица зрительная система эксперта-оператора просто не способна воспринимать информацию обо всех деталях лица, поскольку известно, что восприятие информации человеком составляет около 50 движений в секунду, а обычные видеосистемы могут ежесекундно генерировать около 50 миллионов движений.On the other hand, in the case of a large set of face quality parameters, the visual system of the expert operator is simply not able to perceive information about all the details of the face, since it is known that the perception of information by a person is about 50 movements per second, and conventional video systems can generate about 50 million movements every second .

Причина также заключается в том, что имеющиеся до изобретения методы автоматического выделения деталей лица и классификации параметров качества могут с низкой точностью оценивать качество лишь двухмерных изображений лица, полученных при выполнении жестких требований к определенному масштабу и местоположению лица относительно съемочной установки, освещению, ракурсу, мимики и т.п., что в реальных системах не может быть выполнено.The reason also lies in the fact that the methods available prior to the invention for automatically extracting face details and classifying quality parameters can only evaluate with low accuracy the quality of only two-dimensional face images obtained by fulfilling strict requirements for a specific scale and location of the face with respect to the film set, lighting, foreshortening, facial expressions etc., which in real systems cannot be performed.

Таким образом, задача, на решение которой направлено заявляемое изобретение, заключается в создании надежного и быстрого способа выделения деталей (черт) лица и количественной оценки их качества с указанием уровня достоверности.Thus, the problem to which the claimed invention is directed is to create a reliable and quick way to highlight the details (features) of a person and quantify their quality with an indication of the level of reliability.

Следовательно, необходим такой способ регистрация биометрических данных лица, который будет в режиме реального времени обеспечивать регистрацию и достоверную количественную оценку качества двухмерных изображений лица человека в соответствии с требованиями соответствующих биометрических стандартов. Новый способ должен также обеспечить низкий уровень ошибок, вызванных недопониманием оператором требований процедуры регистрации и, как следствие, неправильным их выполнением.Therefore, such a method for registering biometric face data is necessary, which will provide real-time registration and reliable quantitative assessment of the quality of two-dimensional images of a person’s face in accordance with the requirements of relevant biometric standards. The new method should also ensure a low level of errors caused by the operator’s misunderstanding of the requirements of the registration procedure and, as a consequence, their incorrect execution.

Технический результат достигается за счет разработки способа регистрации и достоверной количественной оценки качества двухмерных (2D) изображений лица человека (способ СРДОК), согласно которому используется трехмерная (3D) модель лица, построенная с использованием соответствующего считывателя 3D изображений.The technical result is achieved through the development of a registration method and reliable quantitative assessment of the quality of two-dimensional (2D) images of a person’s face (SRDOK method), according to which a three-dimensional (3D) model of a face constructed using an appropriate 3D image reader is used.

Далее мы более подробно рассмотрим основные преимущества нового способа регистрации СРДОК:Next, we will consider in more detail the main advantages of the new registration method of the SRDOK:

- (а) Участие оператора в процессе регистрации и количественной оценке качества двухмерных изображений лица человека минимально и ограничено инструктированием субъекта о процедуре регистрации и требованиях к позиционированию лица перед считывателем трехмерных изображений.- (a) The operator’s participation in the registration process and quantitative assessment of the quality of two-dimensional images of a person’s face is minimal and limited by instructing the subject on the registration procedure and the requirements for positioning the face in front of the reader of three-dimensional images.

Таким образом, новый способ регистрации может работать в полуавтоматическом режиме и характеризуется низким уровнем ошибок оператора в количественной оценке качества 2D изображений лица, обусловленных "человеческим фактором".Thus, the new registration method can operate in a semi-automatic mode and is characterized by a low level of operator errors in quantifying the quality of 2D face images caused by the "human factor".

Кроме того, благодаря новому способу СРДОК регистрацию может осуществлять оператор, обладающий низкой квалификацией, что существенно снижает стоимость эксплуатации и открывает более широкие возможности для использования системы.In addition, thanks to the new SRDOK method, a low-skilled operator can register, which significantly reduces the cost of operation and opens up wider possibilities for using the system.

Способ СРДОК значительно сокращает продолжительность и количество итераций регистрации и в целом способствует повышению качества зарегистрированных 2D изображений лица;The SRDOK method significantly reduces the duration and number of registration iterations and, in general, improves the quality of registered 2D face images;

- (b) точная автоматическая количественная оценка качества 2D изображений лица человека осуществляется блоком анализа качества 3D изображений лица и блоком формирования 2D изображений лица из набора трехмерных изображений лица и их количественных оценок качества.- (b) accurate automatic quantitative assessment of the quality of 2D images of a person’s face is carried out by a block for analyzing the quality of 3D face images and a block for generating 2D face images from a set of three-dimensional face images and their quantitative quality estimates.

Это позволяет в автоматическом режиме обеспечить анализ и достоверную количественную оценку качества 2D изображений лица и обеспечить регистрацию наиболее полной информации о чертах лица;This allows you to automatically provide analysis and reliable quantitative assessment of the quality of 2D facial images and ensure the registration of the most complete information about facial features;

- (с) высокое качество регистрационных 2D изображений лица человека достигается за счет возможности использования считывателя 3D изображений;- (c) high quality registration 2D images of a person’s face is achieved due to the possibility of using a reader of 3D images;

- (d) имеющаяся возможность применения блока дополнительного освещения позволяет добиваться регистрации качественных видеоизображений черт лица сравнительно вне зависимости от месторасположения системы регистрации и влияния большинства внешних источников света;- (d) the existing possibility of using an additional lighting unit allows one to achieve the registration of high-quality video images of facial features relatively regardless of the location of the registration system and the influence of most external light sources;

- (е) регистрация биометрических 2D изображений лица происходит в строгом соответствии с требованиями, предъявляемыми к качеству. Параметры качества 2D изображений лица могут достоверно количественно оцениваться и, как следствие, обеспечивают гибкие критерии принятия решения о регистрации или перерегистрации 2D изображений лица в соответствии с требованиями соответствующих стандартов. Это дает возможность проводить регистрацию биометрических данных лица единого формата, включая общепринятые стандарты регистрации и хранения биометрических двухмерных изображений лица человека на электронных носителях информации. Такая функциональность нового способа регистрации СРДОК обеспечивает совместимость регистрационных данных с большинством сторонних систем распознавания человека и повышает ее спрос на рынке;- (f) the registration of biometric 2D face images occurs in strict accordance with the requirements for quality. The quality parameters of 2D facial images can be reliably quantified and, as a result, provide flexible criteria for deciding on the registration or re-registration of 2D facial images in accordance with the requirements of relevant standards. This makes it possible to register biometric face data of a single format, including generally accepted standards for registering and storing biometric two-dimensional images of a person’s face on electronic information carriers. This functionality of the new registration method SRDOK ensures the compatibility of registration data with most third-party human recognition systems and increases its demand in the market;

- (f) новый способ регистрации СРДОК обнаруживает отклонения в качестве зарегистрированных 2D изображений лица человека, вызванные различным поведением самого субъекта регистрации (вариации в позиционировании головы субъекта перед считывающими устройствами, повороты головы во время регистрации и др.), различными условиями среды регистрации (вариации в освещении, присутствие посторонних объектов в кадре и др.) и общей неисправностью системы регистрации;- (f) a new registration method for SRDOK detects deviations in the quality of recorded 2D images of a person’s face caused by different behavior of the registration subject (variations in the positioning of the subject’s head in front of reading devices, turns of the head during registration, etc.), various conditions of the recording medium (variations in lighting, the presence of foreign objects in the frame, etc.) and the general malfunction of the registration system;

- (g) в случаях, когда субъект регистрации из-за физических недостатков или возраста (ребенок, старик) не может самостоятельно зарегистрироваться, то регистрация 2D изображений лица происходит с помощью оператора с более широкими полномочиями и при этом достоверная количественная оценка качества регистрационных данных производится по-прежнему в автоматическом режиме (без участия оператора);- (g) in cases where the registration subject, due to physical disabilities or age (child, old man), cannot register on his own, the registration of 2D face images is carried out with the help of an operator with wider authority, and a reliable quantitative assessment of the quality of registration data is carried out still in automatic mode (without operator intervention);

- (h) новый способ регистрации 2D изображений лица может использовать видеоданные, за счет чего повышается точность и достоверность количественных оценок качества;- (h) a new method for registering 2D facial images can use video data, thereby increasing the accuracy and reliability of quantitative quality assessments;

- (i) новый способ регистрации 2D изображений лица позволяет снизить влияние шумов за счет применения разнонаправленных стереосчитывателей 3D изображений лица (например, нескольких стереовидеокамер);- (i) a new method for registering 2D face images allows to reduce the effect of noise due to the use of multidirectional stereo readers of 3D face images (for example, several stereo video cameras);

- (k) новый способ регистрации СРДОК позволяет восстанавливать и/или повышать качество двухмерных изображений лица за счет анализа соответствующих связанных данных трехмерных изображений лица, полученных от независимых видеоканалов считывания данных лица;- (k) a new registration method for SRDOK allows you to restore and / or improve the quality of two-dimensional face images by analyzing the corresponding associated data of three-dimensional face images obtained from independent video channels for reading face data;

- (l) новый способ регистрации СРДОК позволяет создавать системы регистрации трехмерных и двухмерных изображений лица одновременно с низкой стоимостью;- (l) a new registration method for SRDOK allows creating systems for recording three-dimensional and two-dimensional face images simultaneously with low cost;

- (m) новый способ регистрации СРДОК позволяет регистрировать 2D видеоданные человека при его естественном поведении;- (m) a new method for recording SRDOK allows you to register 2D video data of a person with his natural behavior;

- (n) новый способ регистрации СРДОК обеспечивает предварительную в режиме реального времени проверку качества и полноты считанных 3D видеоданных;- (n) a new method for registering SRDOK provides a preliminary in real time check of the quality and completeness of the read 3D video data;

- (о) новый способ регистрации СРДОК может быть воплощен в любой стандартной компьютерной системе, содержащей, по крайней мере, средства считывания стереоизображений, дисплей, блок управления и память с возможностью программной реализации набора инструкций;- (o) a new method for registering SRDOK can be implemented in any standard computer system that contains at least stereo image readers, a display, a control unit and a memory with the possibility of software implementation of a set of instructions;

- (р) новый способ регистрации СРДОК обеспечивает максимальную точность последующего распознавания человека по двухмерному изображению лица в различных приложениях и даже в сравнительно неблагоприятных условиях среды распознавания: плохое освещение, отсутствие освещения и т.п.- (p) a new method for registering SRDOK ensures maximum accuracy of subsequent recognition of a person from a two-dimensional image of a face in various applications and even in relatively unfavorable conditions of the recognition environment: poor lighting, lack of lighting, etc.

На основании вышесказанного можно утверждать, что новый способ СРДОК регистрации и количественной оценки качества двухмерных изображений лица человека с помощью сканирования и анализа трехмерных изображений имеет чрезвычайно широкие возможности для использования в составе большинства биометрических систем.Based on the foregoing, it can be argued that the new method for recording and quantifying the quality of two-dimensional images of a person’s face using scanning and analysis of three-dimensional images has extremely wide possibilities for use in most biometric systems.

Заявляемый способ состоит из операций считывания трехмерных изображений лица, выделения и количественной оценки качества лица и его деталей с заданным уровнем достоверности, последующего формирования двухмерных изображений лица и их количественных оценок качества из трехмерных изображений лица и их количественных оценок качества соответственно, окончательного сжатия двухмерных изображений лица и записи в память в качестве эталонных.The inventive method consists of the operations of reading three-dimensional images of the face, the selection and quantitative assessment of the quality of the face and its details with a given level of reliability, the subsequent formation of two-dimensional images of the face and their quantitative assessments of quality from three-dimensional images of the face and their quantitative assessments of quality, respectively, the final compression of two-dimensional images of the face and memory records as reference.

Поэтапно способ можно представить следующим образом:A stepwise method can be represented as follows:

- Субъект регистрации предъявляет свой PIN номер блоку считывания PIN номера, который затем считывается блоком считывания PIN номера и декодируется блоком декодирования PIN номера, отображается на дисплее и проверяется процессором на присутствие в списках разрешенных PIN номеров и на отсутствие в списках запрещенных PIN номеров, которые хранятся в блоке памяти.- The subject of registration presents his PIN number to the PIN number reader, which is then read by the PIN number reader and decoded by the PIN number decoding unit, displayed on the display and checked by the processor for presence in the lists of authorized PIN numbers and for the absence of prohibited PIN numbers in the lists that are stored in the memory block.

После успешной проверки процессорным блоком процессорный блок включает блок дополнительного освещения, трехмерное изображения лица считывается блоком считывания трехмерных изображений лица, проверяется блоком анализа качества трехмерных изображений лица на соответствие заданным допустимым количественным оценкам параметров качества трехмерных изображений лица, после успешной проверки преобразуется блоком формирования двухмерных изображений лица и их количественных оценок качества из трехмерных изображений лица и их количественных оценок качества в набор двухмерных изображений с соответствующими количественными оценками параметров качества двухмерных изображений лица, сжимается блоком сжатия двухмерных изображений лица и записывается процессорным блоком в блок памяти в качестве зарегистрированных эталонных двухмерных изображений лица вместе с атрибутами качества.After a successful check by the processor unit, the processor unit includes an additional lighting unit, three-dimensional face images are read by the three-dimensional face image reader, checked by the three-dimensional face image quality analysis unit for compliance with specified acceptable quantitative estimates of the three-dimensional face image quality parameters, and after successful verification, it is converted by the two-dimensional face image generation unit and their quantitative assessments of quality from three-dimensional images of the face and their number GOVERNMENTAL quality assessments set of two-dimensional images from the respective quantitative estimates of quality parameters dimensional facial images, the face is compressed two-dimensional image compression unit and the processing unit is written into the memory unit as a reference for the two-dimensional face images with quality attributes.

В противоположность существующим способам и системам, известным из уровня техники, новый способ регистрации и количественной оценки качества двухмерных изображений лица человека обеспечивает следующие основные преимущества:In contrast to existing methods and systems known from the prior art, a new method for recording and quantifying the quality of two-dimensional images of a person’s face provides the following main advantages:

- может работать с минимальным участием оператора, контролирующего процесс регистрации;- can work with minimal participation of the operator controlling the registration process;

- снижает вероятность в повторной регистрации за счет более строгих требований в точном позиционировании лица перед считывателем трехмерных изображений;- reduces the likelihood of re-registration due to more stringent requirements in the exact positioning of the face in front of the reader of three-dimensional images;

- исключает возможность регистрации с использованием предъявленной фотографии лица в натуральную величину;- excludes the possibility of registration using the submitted photograph of a person in full size;

- точно измеряет геометрические размеры деталей лица;- accurately measures the geometric dimensions of face details;

- точно измеряет расстояние до лица;- accurately measures the distance to the face;

- точно определяет ориентацию головы в пространстве;- accurately determines the orientation of the head in space;

- точно измеряет форму (рельеф) поверхности лица;- accurately measures the shape (relief) of the surface of the face;

- обеспечивает высокое качество регистрационных данных за счет использования более качественных двухмерных изображений лица, формируемых из трехмерных изображений лица, созданных с помощью блока считывания трехмерных изображений лица;- provides high quality registration data through the use of higher-quality two-dimensional face images formed from three-dimensional face images created using a three-dimensional face image reader;

- обеспечивает регистрацию биометрических данных, удовлетворяющих заданным стандартам;- provides registration of biometric data that meets specified standards;

- обеспечивает достоверную количественную оценку качества двухмерных изображений лица.- provides a reliable quantitative assessment of the quality of two-dimensional face images.

Сущность изобретения поясняется на примере его воплощения в соответствующей системе, которая сопровождается поясняющими рисунками.The invention is illustrated by the example of its embodiment in the corresponding system, which is accompanied by explanatory drawings.

Поставленная задача решается тем, что в системе (Фиг.1), содержащей блок 1 считывания PIN номера (например, бесконтактный считыватель смарт-карт), блок 2 декодирования PIN номера (например, декодер данных на основе технологии PKI), блок 4 памяти, дисплей 5 (например, компьютерный монитор), блок 6 считывания изображений лица, процессорный блок 3 (например, цифровой сигнальный процессор), взаимосвязанный с указанными блоками и одним из выходов подключенный к блоку 7 дополнительного освещения (например, два первичных источника света, три вторичных - два рассеивающего зонта и фоновый экран), блок 6 считывания изображений лица выполнен в виде считывателя трехмерных изображений (например, стереовидеокамеры), при этом дополнительно введены блок 8 анализа качества и черт трехмерных изображений лица, блок 9 формирования двухмерных изображений и блок 10 сжатия двухмерных изображений лица, взаимосвязанные с процессорным блоком 3.The problem is solved in that in the system (FIG. 1) comprising a PIN number reader 1 (for example, a contactless smart card reader), PIN number decoding unit 2 (for example, a data decoder based on PKI technology), a memory unit 4, a display 5 (for example, a computer monitor), a face image reading unit 6, a processor unit 3 (for example, a digital signal processor) interconnected with said units and connected to an additional lighting unit 7 for one of the outputs (for example, two primary light sources, three secondary - two ra screening umbrella and background screen), the face image reading unit 6 is made in the form of a three-dimensional image reader (for example, a stereo video camera), while an additional unit for analyzing the quality and features of three-dimensional face images, a two-dimensional image forming unit 9, and a two-dimensional face image compression unit 10 are additionally introduced interconnected with the processor unit 3.

Работает система следующим образом (Фиг.2):The system operates as follows (Figure 2):

- при регистрации субъект предъявляет персональный номер PIN блоку считывания номера PIN;- upon registration, the subject presents a personal PIN number to the PIN number reading unit;

- предъявленный PIN номер считывают с помощью блока считывания PIN номера и декодируют с помощью блока декодирования PIN номера, отображая номер на дисплее;- the presented PIN number is read using the PIN number reader and decoded using the PIN number decoding unit, displaying the number on the display;

- декодированный PIN номер проверяют с помощью процессора на присутствие в списках разрешенных PIN номеров и на отсутствие в списках запрещенных PIN номеров, которые хранят в блоке памяти;- the decoded PIN number is checked by the processor for presence in the lists of allowed PIN numbers and for the absence in the lists of prohibited PIN numbers that are stored in the memory unit;

- после успешной проверки процессорным блоком PIN номера включают с помощью процессорного блока блок дополнительного освещения;- after a successful verification by the processor unit, the PIN numbers include the additional lighting unit using the processor unit;

- трехмерное изображения лица считывают с помощью блока считывания трехмерных изображений;- three-dimensional images of the face are read using a three-dimensional image reading unit;

- с помощью блока анализа качества трехмерных изображений лица вычисляют количественные оценки качества и черт считанного трехмерного изображения лица и проверяют на соответствие заданным ограничениям на количественные оценки параметров качества и черт трехмерных изображений лица, хранящихся в блоке памяти;- using the block for analyzing the quality of three-dimensional face images, quantitative assessments of the quality and features of the read three-dimensional face image are calculated and checked for compliance with the specified restrictions on quantitative estimates of the quality parameters and features of three-dimensional face images stored in the memory unit;

- после успешной проверки считанного трехмерного изображения лица блоком анализа качества трехмерных изображений лица его преобразуют с помощью блока формирования двухмерных изображений из трехмерного изображения в набор двухмерных изображений. При этом с помощью блока формирования двухмерных изображений лица определяют количественные параметры качества и черт лица каждого полученного двухмерного изображения лица с использованием количественных оценок параметров качества и черт лица трехмерных изображений лица;- after a successful verification of the read three-dimensional image of the face by the block of analysis of the quality of three-dimensional images of the face, it is converted using the block forming two-dimensional images from a three-dimensional image into a set of two-dimensional images. Moreover, using the block for generating two-dimensional face images, quantitative parameters of quality and facial features of each obtained two-dimensional face image are determined using quantitative estimates of the quality parameters and facial features of three-dimensional face images;

- таким образом, сформированное двухмерное изображение лица сжимают далее блоком сжатия двухмерных изображений лица и записывают вместе с количественными оценками качества и черт лица с помощью процессорного блока в блок памяти в качестве зарегистрированных эталонных двухмерных изображений лица.- thus, the generated two-dimensional image of the face is compressed further by the compression unit of two-dimensional images of the face and recorded together with quantitative assessments of quality and facial features using the processor unit in the memory unit as registered reference two-dimensional images of the face.

Решению поставленной задачи способствуют также частные существенные признаки изобретения.Partial essential features of the invention also contribute to the solution of the problem.

Блок считывания PIN номера выполнен с возможностью считывания в автоматическом режиме PIN номера, включая виртуальные PIN номера (то, что знает субъект регистрации), введенные вручную с клавиатуры, и физические персональные смарт-карты (то, что имеет субъект регистрации), предъявленные субъектом регистрации.The PIN number reader is capable of automatically reading PIN numbers, including virtual PIN numbers (what the registration subject knows) entered manually from the keyboard and physical personal smart cards (what the registration subject has) presented by the registration subject .

На Фиг.3 изображена новая система регистрации, которая показана сбоку (вид А) и сзади (вид В).Figure 3 shows a new registration system, which is shown from the side (view A) and rear (view B).

Субъект регистрации (17 и 28) позиционируется перед дисплеем (12 и 24) в кресле (18 и 29) с регулируемой высотой.The subject of registration (17 and 28) is positioned in front of the display (12 and 24) in an armchair (18 and 29) with adjustable height.

Дисплей (12 и 24) выполнен в виде компьютерного монитора, установленного на штативе (11 и 19).The display (12 and 24) is made in the form of a computer monitor mounted on a tripod (11 and 19).

Кроме дисплея на штативе (11 и 19) установлен блок считывания трехмерных изображений лица, представленный в виде стереовидеокамеры (13 и 23), закрепленной на кронштейне (22) с возможностью регулирования высоты и направления считывания.In addition to the display on a tripod (11 and 19), a three-dimensional face image reader is installed, presented in the form of a stereo video camera (13 and 23), mounted on an arm (22) with the ability to adjust the height and direction of reading.

Блок дополнительного освещения выполнен в виде двух источников света (16 и 27), двух рассеивающих зонтов (15 и 26), установленных на отдельных штативах, и одного фонового экрана, расположенного сзади субъекта регистрации.The additional lighting unit is made in the form of two light sources (16 and 27), two scattering umbrellas (15 and 26) mounted on separate tripods, and one background screen located behind the subject of registration.

Компьютерный модуль (20) включает следующие блоки системы регистрации:Computer module (20) includes the following blocks of the registration system:

- блок 1 (Фиг.1) считывания PIN номера (виртуальный PIN номер вводится через клавиатуру оператором);- block 1 (Figure 1) read PIN numbers (virtual PIN number is entered through the keyboard by the operator);

- блок 2 (Фиг.1) декодирования PIN номера;- block 2 (Figure 1) decoding PIN numbers;

- процессорный блок 3 (Фиг.1), реализованный на материнской плате;- processor unit 3 (Figure 1), implemented on the motherboard;

- блок 4 (Фиг.1) памяти (винчестер);- block 4 (Figure 1) memory (hard drive);

- блок 8 (Фиг.1) анализа качества трехмерных изображений лица (программный модуль);- block 8 (Figure 1) analysis of the quality of three-dimensional images of the face (software module);

- блок 9 (Фиг.1) формирования двухмерных изображений и оценок качества и черт лица (программный модуль);- block 9 (Figure 1) of the formation of two-dimensional images and assessments of quality and facial features (software module);

- блок 10 (Фиг.1) сжатия двухмерных изображений лица (программный модуль).- block 10 (Figure 1) compression of two-dimensional images of the face (software module).

В качестве считывателя трехмерных изображений лица система может содержать стереовидеокамеру (Фиг.4; 36 и 42) модели STH-MDCS/-C Stereo Head (производитель: Videre Design; веб-сайт: www.videredesign.com), которая снабжена двумя независимыми видеоканалами (30 и 31) для формирования стереопары и светодиодным индикатором (32) для удобства работы.As a reader of three-dimensional facial images, the system may include a stereo video camera (Figs. 4; 36 and 42) of the STH-MDCS / -C Stereo Head model (manufacturer: Videre Design; website: www.videredesign.com), which is equipped with two independent video channels (30 and 31) for forming a stereo pair and LED indicator (32) for easy operation.

Видеокамера располагается рядом с дисплеем (33 и 39) и закрепляется специальным винтом (37 и 43) на прозрачной подставке (38 и 44) с возможностью регулирования расстояния до субъекта регистрации.The video camera is located next to the display (33 and 39) and is fixed with a special screw (37 and 43) on a transparent stand (38 and 44) with the ability to adjust the distance to the subject of registration.

На дисплее (33 и 39) отображаются визуальные команды (35 и 41), в соответствии с которыми осуществляется регистрация субъекта.The display (33 and 39) displays visual commands (35 and 41), in accordance with which the subject is registered.

Для определения необходимого положения лица относительно стереокамеры (Фиг.5) в набор визуальных команд, выводимых на дисплей, входят соответствующие визуальные команды для позиционирования головы субъекта регистрации перед дисплеем, согласно которым субъект регистрации может видеть на дисплее стереопару - два видеоизображения своего лица.To determine the required position of the face relative to the stereo camera (Figure 5), the set of visual commands displayed on the display includes the corresponding visual commands for positioning the head of the registration subject in front of the display, according to which the registration subject can see a stereo pair on the display - two video images of his face.

При этом на левом видеоизображении отображаются визуальные команды позиционирования головы:At the same time, visual commands for positioning the head are displayed on the left video image:

- красная рамка для центрирования головы в кадре;- red frame for centering the head in the frame;

- две голубые прямые для позиционирования глаз.- two blue lines for positioning the eyes.

Позиция головы субъекта перед дисплеем считается правильной, когда лицо располагается в центре красной рамки и при этом две голубые прямые попадают на центры или между центрами глаз.The position of the subject’s head in front of the display is considered correct when the face is located in the center of the red frame and the two blue lines fall on the centers or between the centers of the eyes.

На Фиг.6 показана базовая схема установки некоторых модулей системы регистрации:Figure 6 shows the basic installation diagram of some modules of the registration system:

- дисплея для отображения визуальных команд позиционирования головы (45);- a display for displaying visual commands for positioning the head (45);

- стереовидеокамеры (46);- stereo video cameras (46);

- стереомикрофона (47)- stereo microphone (47)

- места целевого позиционирования (кресла) субъекта регистрации (48);- places of target positioning (chair) of the registration subject (48);

- фонового экрана с определенной текстурой и отражательными характеристиками (49; относится к блоку дополнительного освещения);- a background screen with a certain texture and reflective characteristics (49; refers to the additional lighting unit);

- источников дополнительного освещения с рассеивающими зонтами (50; относятся к блоку дополнительного освещения): левого (51) и правого (52).- sources of additional lighting with scattering umbrellas (50; refer to the additional lighting unit): left (51) and right (52).

В новой системе регистрации блок анализа качества трехмерных изображений лица является системой понимания изображений, представленных массивами чисел, которые в простейшем виде могут просто сообщать с каким-то уровнем достоверности (вероятностью) о том, что на изображении имеется заданный или какой-либо неожиданный объект, характеризующий количественно качество/черты лица.In the new registration system, the block for analyzing the quality of three-dimensional face images is a system for understanding images represented by arrays of numbers, which in their simplest form can simply report with some level of certainty (probability) that the image has a given or some unexpected object, quantifying quality / facial features.

Эта задача в системе решается с помощью стандартной системы распознавания двухмерных образов, блок-схема которой приводится на Фиг.7. Двухмерное изображение (54) из пространства двухмерных образов (53) анализируется блоком выделения признаков (55) с использованием данных из пространства признаков (56). Результатом этого анализа является выделение двухмерных признаков (57), которые затем могут быть отнесены к определенному классу (60) классификатором (59) с использованием данных из пространства классов (58).This problem in the system is solved using a standard system for recognizing two-dimensional images, a block diagram of which is shown in Fig.7. A two-dimensional image (54) from the space of two-dimensional images (53) is analyzed by the feature extraction unit (55) using data from the feature space (56). The result of this analysis is the identification of two-dimensional features (57), which can then be assigned to a specific class (60) by the classifier (59) using data from the class space (58).

Применение в системе стереокамеры, имеющей два независимых видеоканала, обеспечивает высокую эффективность и достоверность результатов работы блока анализа качества трехмерных изображений лица, блока формирования двухмерных изображений лица и оценок их качества и блока сжатия двухмерных изображений лица.The use of a stereo camera in the system, which has two independent video channels, ensures high efficiency and reliability of the results of the unit for analyzing the quality of three-dimensional face images, the unit for generating two-dimensional face images and estimates of their quality and the unit for compressing two-dimensional face images.

Система позволяет количественно оценивать следующие параметры качества и черты лица двухмерного и/или трехмерного изображения лица, характеризующие:The system allows to quantitatively evaluate the following quality parameters and facial features of a two-dimensional and / or three-dimensional face image, characterizing:

- анатомические черты лица: тип расы; лба; глаз, бровей; носа; губ; рта; щек; подбородка; ушей и др.;- anatomical features: type of race; forehead; eyebrow; nose lips the mouth; cheeks; chin; ears, etc .;

- характерные для субъекта регистрации черты лица: особые приметы; шрамы; морщины; отсутствие частей лица; наличие косоглазия и др.- facial features characteristic of the subject of registration: special signs; scars wrinkles; lack of parts of the face; the presence of strabismus, etc.

- специфические условия регистрации лица: видимость радужки и зрачка; присутствие очков; степени прозрачности линз очков; помех из-за отражений света на линзах очков; оправы, закрывающей некоторые черты лица; помех из-за волос, закрывающих черты лица; углы отклонения лица от фронтального положения; видимость плеч; равномерность рассеивания света на лице; наличие теней на лице или в глазницах; наличие ложных изображений из-за неправильного освещения; задний фон; уровня сфокусированности на каждом участке лица; контраст деталей лица; яркость, цветовой тон и насыщенность цвета; присутствие не натуральных цветов; присутствие оптических искажений черт лица через обнаружение аномальных размеров лица, глаз, бровей, носа, губ, рта и подбородка; присутствие посторонних предметов, закрывающих некоторые детали лица, и др.;- specific conditions for registering a person: visibility of the iris and pupil; the presence of points; the degree of transparency of the lenses of glasses; interference due to reflections of light on the lenses of glasses; a frame covering some facial features; interference due to hair covering facial features; angles of deviation of the face from the frontal position; shoulder visibility; uniformity of light scattering on the face; the presence of shadows on the face or in the orbits; the presence of false images due to improper lighting; the background; level of focus on each part of the face; contrast of details of the face; brightness, hue and color saturation; the presence of non-natural colors; the presence of optical distortion of facial features through the detection of abnormal sizes of the face, eyes, eyebrows, nose, lips, mouth and chin; the presence of foreign objects covering some details of the face, etc .;

- кратковременные физические свойства лица: цвет глаз; тип прически; цвет волос; присутствие и цвет бороды и/или усов; наличие открытого рта; улыбки с закрытым или открытым ртом; наличие поднятых бровей и степени нахмуренности; направление взгляда; наличие приметных участков кожи лица (например, татуировки); полнота деталей лица на изображении: присутствие лба, глаз, бровей, носа, губ, рта, щек, подбородка, ушей, плеч и др., и др.- short-term physical properties of the face: eye color; type of hairstyle; hair color; the presence and color of the beard and / or mustache; the presence of an open mouth; smiles with a closed or open mouth; the presence of raised eyebrows and the degree of frowning; line of sight; presence of noticeable areas of facial skin (for example, tattoos); completeness of the details of the face in the image: the presence of the forehead, eyes, eyebrows, nose, lips, mouth, cheeks, chin, ears, shoulders, etc., etc.

Для съемки в системе используется стереокамера, состоящая из двух видеокамер, блок дополнительного освещения, включающий два первичных источника света, рассеивающие зонты и фоновый экран определенной текстуры.For shooting in the system, a stereo camera is used, consisting of two video cameras, an additional lighting unit, including two primary light sources, diffusing umbrellas and a background screen of a certain texture.

Такая компоновка позволяет получать следующие свойства изображений лица: фон на изображении существенно отличается от объекта съемки (лицо и фигура человека); контраст получается значительным даже при достаточно интенсивном освещении.This arrangement allows you to obtain the following properties of facial images: the background in the image is significantly different from the subject (face and figure of a person); the contrast is significant even with fairly intense lighting.

Наличие двух независимых видеоканалов, производимых двухмерные видеоизображения лица с разных ракурсов, позволяет эффективно выделять и оценивать вышеупомянутые черты лица на изображении.The presence of two independent video channels, produced two-dimensional video images of faces from different angles, allows you to effectively select and evaluate the above facial features in the image.

При этом могут использоваться следующие признаки (см. У.Претт "Цифровая обработка изображений", М.: Мир, 1992г.) [69]:In this case, the following features can be used (see W. Prett "Digital image processing", M .: Mir, 1992) [69]:

- яркостные;- brightness;

- гистограммные;- bar graphs;

- пространственно-спектральные;- spatial spectral;

- контурные;- contour;

- линейного и нелинейного контрастирования;- linear and nonlinear contrasting;

- аппроксимации перепадов яркости;- approximation of brightness differences;

- статистического обнаружения перепадов;- statistical detection of differences;

- цветовых контуров;- color contours;

- пятен и линий;- spots and lines;

- текстурные;- textural;

- синтеза текстур,- synthesis of textures,

и следующие способы символического описания изображений:and the following methods of symbolic description of images:

- определение геометрических соотношений и связности между элементами;- determination of geometric relationships and connectivity between elements;

- их сжатие и уточнение для сведения к областям меньших размеров;- their compression and refinement to reduce to smaller areas;

- описание линий и формы через аппроксимацию и машинный анализ метрических, топологических и аналитических характеристик;- description of lines and shapes through approximation and machine analysis of metric, topological and analytical characteristics;

- сегментация по яркости с помощью порогового ограничения, наращивания областей;- segmentation by brightness with the help of a threshold restriction, increasing areas;

- контурная сегментация: аппроксимация кривых, прослеживание контуров, соединение точек перепадов;- contour segmentation: approximation of curves, tracing of contours, connecting differential points;

- текстурная сегментация;- texture segmentation;

- сегментация формы;- form segmentation;

- и др.- and etc.

Далее мы подробно рассмотрим выделение головы на изображении с помощью методов сегментации по яркости.Next, we will consider in detail the allocation of the head in the image using the methods of segmentation by brightness.

Изображения от левой и правой камеры обозначим как функции яркости от координат на плоскости:The images from the left and right cameras are designated as functions of brightness from coordinates on the plane:

ВL(xL, yL) и BR(xR,yR),BL (x L , y L ) and BR (x R , y R ),

где xL и yL и xR и уR - дискретные координаты на левом и правом изображении соответственно.where x L and y L and x R and R are discrete coordinates on the left and right images, respectively.

Изображения в системе получаются в условиях нормальной стереосъемки, т.е. когда отсутствует у-диспаратность (разность координат изображений одной и той же точки по оси OY практически равна нулю).Images in the system are obtained under normal stereo shooting conditions, i.e. when there is no y-disparity (the difference in the coordinates of the images of the same point along the OY axis is practically zero).

При этом диспаратность съемки определяется х-диспаратностью.In this case, the disparity of shooting is determined by x-disparity.

В системе стереокамера характеризуется следующими свойствами:In a system, a stereo camera is characterized by the following properties:

- фокальные плоскости видеокамер совпадают (т.е. параллельны их оптические оси);- the focal planes of the cameras coincide (i.e., their optical axes are parallel);

- видеокамеры одинаково ориентированы относительно оптических осей (т.е. могут быть переведены одна в другую плоскопараллельным переносом);- video cameras are equally oriented relative to the optical axes (i.e., can be transferred one into another by plane-parallel transfer);

- проекция линии, соединяющей видеокамеры, на изображениях, полученных от видеокамер, параллельна оси ОХ этих изображений.- the projection of the line connecting the cameras on the images received from the cameras is parallel to the OX axis of these images.

Камеры разнесены на расстояние В, называемое стереобазисом (или просто базисом).The cameras are spaced apart by distance B, called a stereo base (or simply a basis).

Работа системы основывается на ряде априорных сведений о деталях человеческого лица как объектов съемки и количественных параметров их качества, позволяющих использовать отличительные для данного изобретения методы поиска деталей лица и оценок их качества. К ним относятся прежде всего физические ограничения на размер, полученные с помощью многократных измерений, а также тот факт, что ряд деталей лица имеет формы, близкие к геометрическим фигурам (например, изображение лица в анфас, глазницы, глаза, зрачки, линзы очков и др. имеют формы, близкие к эллиптической). В общем случае знания о сцене изображения лица могут варьироваться от очень простой (например, отыскиваемый объект должен быть ярче фона) до очень сложных сцен (например, известна упорядоченная структура отношений между всеми частями лица). Например, две большие эллиптические области в области глаз могут интерпретироваться как очки.The operation of the system is based on a number of a priori information about the details of the human face as objects of shooting and quantitative parameters of their quality, which make it possible to use distinctive methods for searching for details of the face and assessments of their quality. These include, first of all, physical restrictions on the size obtained by repeated measurements, as well as the fact that a number of details of the face have shapes close to geometric shapes (for example, a full-face image, eye sockets, eyes, pupils, eyeglass lenses, etc. . have shapes close to elliptic). In general, knowledge about the scene of a face image can vary from very simple (for example, the object being searched should be brighter than the background) to very complex scenes (for example, the ordered structure of relations between all parts of the face is known). For example, two large elliptical areas in the eye area can be interpreted as glasses.

В общем случае процедура выделения и количественная оценка качества деталей лица включает независимое выделение различных деталей на отдельных изображениях и последующую корректировку с применением совместного анализа областей деталей лица, полученных на разных изображениях стереопары одновременно. Кроме этого, полученные количественные оценки качества деталей лица сопровождаются вычисления уровня достоверности полученных оценок.In the general case, the selection procedure and quantitative assessment of the quality of face parts include the independent selection of various parts on individual images and subsequent adjustment using a joint analysis of the areas of face details obtained on different images of the stereo pair at the same time. In addition, the obtained quantitative assessments of the quality of the details of the face are accompanied by calculations of the level of reliability of the estimates obtained.

Рассмотрим сначала процедуру выделения деталей лица на примере выделения области лица на отдельном изображении.Let us first consider the procedure for highlighting face details using the example of highlighting a face area in a separate image.

Считается, что каждой области какой-либо детали лица можно поставить в соответствие связанную область, все точки которой будут иметь яркость, превышающую некоторое пороговое значение, и которая будет удовлетворять заданным критериям яркости, формы и размера.It is believed that each area of any part of the face can be associated with a related area, all points of which will have a brightness exceeding a certain threshold value, and which will satisfy the specified criteria of brightness, shape and size.

Главной задачей выделения и оценки качества является как можно точное определение границ связанной области.The main task of identifying and assessing quality is to accurately determine the boundaries of the associated area.

В случае выделения лица необходимо на изображении найти, как правило, самый яркий объект (Фиг.8). Однако фильтрация по яркости может приводить и к ошибкам: лицо - часть связанной области (Фиг.8а); лицо - несколько связанных областей (Фиг.8б), лицо - не самый крупный яркий объект (Фиг.8в).In the case of highlighting the face, it is necessary to find, as a rule, the brightest object in the image (Fig. 8). However, filtering by brightness can lead to errors: the face is part of the associated area (Figa); the face is several connected areas (Fig. 8b), the face is not the largest bright object (Fig. 8c).

Поэтому для эффективного определения местоположения некоторых деталей лица используется их близость по форме и расположению к определенным геометрическим фигурам и областям.Therefore, to effectively determine the location of some parts of the face, their proximity in shape and location to certain geometric shapes and areas is used.

Все полученные ранее связанные области сортируются по размерам. Далее, при выделении лица, начиная с самой большой, производится процедура поиска эллиптической части до тех пор, пока она не завершится успехом либо не останется значительных по размерам связанных областей (в некоторых случаях, не менее 10% от размера максимальной области).All previously related areas received are sorted by size. Further, when selecting a face, starting with the largest one, the elliptical part is searched until it is successful or there are no significant areas of connected areas (in some cases, at least 10% of the size of the maximum area).

Алгоритм поиска эллиптической части связанной области работает сверху вниз (Фиг.9).The search algorithm for the elliptical part of the connected area works from top to bottom (Fig.9).

Для каждого значения у строится эллипс, аппроксимирующий просканированную часть вероятной области лица.For each value of y, an ellipse is constructed that approximates the scanned part of the probable area of the face.

Для каждого эллипса вычисляется числовая характеристика эллиптичности области по следующей формуле:For each ellipse, the numerical characteristic of the ellipticity of the region is calculated by the following formula:

Q=(So/Se) {1-(Pc/Pe)},Q = (S o / S e ) {1- (P c / P e )},

где So - площадь части области, заключенной в эллипс; Se - площадь эллипса; Рс - длина границы эллипса, пересекающаяся с областью; Ре - периметр эллипса (Фиг.10).where S o is the area of the part of the region enclosed in an ellipse; S e is the area of the ellipse; P with - the length of the boundary of the ellipse intersecting with the region; P e - the perimeter of the ellipse (Figure 10).

Если эллиптичность Q рассматриваемой области превысит определенный порог QT, то тогда она будет считаться приближением области лица.If the ellipticity Q of the region under consideration exceeds a certain threshold Q T , then it will be considered an approximation of the face region.

Отдельно отметим, что в качестве Q могут использоваться и другие экстремальные функционалы.We note separately that other extremal functionals can also be used as Q.

Однако отдельные участки лица могут быть слабо освещены или иметь низкое альбедо. В этом случае они могут не попасть в эллиптическую часть связанной области. Например, на Фиг.8 (в) в связанную область не попали брови и область глаз. Кроме этого, изображение лица может быть разбито на несколько областей (Фиг.8, б).However, certain parts of the face may be dimly lit or have a low albedo. In this case, they may not fall into the elliptical part of the bound region. For example, in FIG. 8 (c), the eyebrows and eye region did not fall into the associated region. In addition, the image of the face can be divided into several areas (Fig.8, b).

Для решения этих и других проблем используются методы одновременной "синхронизации" эллиптических областей в двух видеоканалах стереоизображения, т.е. оценивается корреляция областей по двум каналам. В этом случае предпочтение отдается соответственно тем областям, которые были выделены корректно в двух каналах одновременно.To solve these and other problems, methods of simultaneous "synchronization" of elliptical regions in two stereo image channels are used, i.e. the correlation of regions over two channels is estimated. In this case, preference is given respectively to those areas that were correctly selected in two channels simultaneously.

Далее два канала стереоизображения используются для достоверной оценки размеров деталей лица. Это особенно важно, если учесть, что значения большинства параметров качества деталей лица вычисляются с использованием их физических размеров (размеры очков, оправы, лица, прически, бороды, усов и т.п.).Next, two stereo image channels are used to reliably estimate the size of face details. This is especially important when you consider that the values of most of the quality parameters of face parts are calculated using their physical dimensions (sizes of glasses, frames, faces, hairstyles, beards, mustaches, etc.).

Физические размеры снимаемых объектов можно измерить с помощью одной видеокамеры, оптические параметры которой известны, т.е. определено расстояние до объекта съемки, фокусное расстояние камеры и т.п.The physical dimensions of captured objects can be measured using a single camera, the optical parameters of which are known, i.e. determined distance to the subject, focal length of the camera, etc.

Однако в реальных условиях возможны сильные вариации в расстоянии съемки и, следовательно, в ширине кадра в предметной плоскости.However, in real conditions, strong variations are possible in the shooting distance and, therefore, in the frame width in the subject plane.

С использованием второй камеры стереосистемы системы можно косвенно измерить расстояние или ширину кадра по изменению ракурса из-за изменения точки наблюдения.Using the second camera of the system’s stereo system, it is possible to indirectly measure the distance or frame width from a change in angle due to a change in the observation point.

С использованием заданной базы стереоустановки В (расстояние между оптическими осями видеокамер) можно задать некоторое стандартное расстояние L0 и, измерив на нем стандартную диспаратность Δх0 и ширину кадра F0, можно вычислить относительный масштаб изображений S (Фиг.11).Using the specified stereo base B (the distance between the optical axes of the cameras), you can set some standard distance L 0 and by measuring the standard disparity Δx 0 and the frame width F 0 on it , you can calculate the relative image scale S (Fig. 11).

Если измерены стандартная Δх0 и текущая Δх диспаратность, то тогда масштаб изображений, определенный как S=F/F0=L0/L, вычисляется по формуле:If the standard Δx 0 and current Δx disparity are measured, then the image scale, defined as S = F / F0 = L0 / L, is calculated by the formula:

Figure 00000001
Figure 00000001

База стереоустановки В измеряется в миллиметрах, а Δх0 и Δх переводятся из пикселей в физические единицы по формуле:The stereo base B is measured in millimeters, and Δx 0 and Δx are converted from pixels to physical units by the formula:

Figure 00000002
Figure 00000002

где Δxp - стандартная диспаратность в пикселях, a Fp - ширина кадра в пикселях.where Δx p is the standard disparity in pixels, and F p is the frame width in pixels.

Для объектов в левом и правом каналах проверяются ограничения на максимальные и минимальные ширину и высоту заданных объектов. При нарушении хотя бы одного ограничения производится корректировка порога яркости: увеличивается для отсечения лишних деталей при нарушении ограничения на минимальный размер и уменьшается для захвата большей области при нарушении ограничения на минимальный размер. То есть при увеличении порога в связные области попадает меньше точек, а при уменьшении - больше.For objects in the left and right channels, restrictions on the maximum and minimum width and height of the specified objects are checked. If at least one restriction is violated, the brightness threshold is adjusted: increases to cut off excess parts when the minimum size restriction is violated and decreases to capture a larger area when the minimum size restriction is violated. That is, with an increase in the threshold, fewer points fall into the connected areas, and with a decrease, more.

Таким образом, порог настраивается итеративно, пока полученные области не будут удовлетворять физическим ограничениям.Thus, the threshold is iteratively tuned until the resulting regions satisfy physical constraints.

Изложенная выше работа системы выделения деталей лица и количественной оценки качества с помощью методов сегментации по яркости и последующей оценки размера деталей лица на предъявленных стереоизображениях показывает отличные результаты.The above work of the system for extracting face details and quantifying the quality using segmentation methods by brightness and subsequent estimation of the size of face details in the presented stereo images shows excellent results.

Ее основным преимуществом является высокое быстродействие и работа в режиме реального времени, т.е. система при достаточной надежности может обрабатывать видеосигналы, а не отдельные изображения.Its main advantage is high speed and real-time operation, i.e. the system with sufficient reliability can process video signals, rather than individual images.

Эффективность и корректность работы системы зависит от точности юстировки стереоустановки.Efficiency and correctness of the system operation depends on the accuracy of stereo adjustment.

Достоверность количественной оценки параметров качества будет зависеть от продолжительности сеанса регистрации или, другими словами, от количества независимых стереопар изображений, в которых область выделена корректно и прошла проверку физических размеров.The reliability of the quantitative assessment of the quality parameters will depend on the duration of the registration session or, in other words, on the number of independent stereo pairs of images in which the area is correctly selected and the physical dimensions have been verified.

Оценим количество попыток, необходимых для получения достоверных данных.We estimate the number of attempts required to obtain reliable data.

Если в серии из n попыток системой будут получены m наступления событий корректного выделения и проверки размеров области в обоих видеоканалах, то частота составит p=m/n.If in a series of n attempts the system will receive m occurrences of events of correctly selecting and checking the size of the region in both video channels, then the frequency will be p = m / n.

При этом вероятность обнаружения заданной детали лица определенного человека составит р≈р.In this case, the probability of detecting a given face detail of a certain person will be p≈p .

Оценим наименьшее число независимых попыток выделения и проверки размеров области в обоих видеоканалах, необходимые для того, чтобы с вероятностью не меньшей β частота р отклонялась от вероятности p не больше чем на α.Let us estimate the smallest number of independent attempts to isolate and verify the size of the region in both video channels, necessary so that with a probability of at least β the frequency p deviates from the probability p by no more than α.

В общем случае n определяется из неравенства:In the general case, n is determined from the inequality:

Figure 00000003
Figure 00000003

Вероятность в левой части неравенства мы заменяем приближенно интегралом Муавра - Лапласа.We replace the probability in the left-hand side of the inequality with the approximate Moavre – Laplace integral.

В результате для определения n получаем неравенство:As a result, to determine n, we obtain the inequality:

Figure 00000004
Figure 00000004

где Ф {х} - интеграл Лапласа.where Φ {x} is the Laplace integral.

Для худшего случая, когда р=1-р=0,5, при n=400 и α=0,05, имеем;For the worst case, when p = 1-p = 0.5, for n = 400 and α = 0.05, we have;

Figure 00000005
Figure 00000005

Это значит, что с вероятностью 95% отличие полученного результата от реального не превышает 5% при условии проведения не менее 400 попыток выделения и проверки размеров области в обоих видеоканалах.This means that with a 95% probability, the difference between the obtained result and the real one does not exceed 5% provided that at least 400 attempts are made to isolate and verify the size of the region in both video channels.

Для стереовидеокамеры системы скорость обрабатываемого видеопотока каждого канала составляет 15 кадров в секунду. То есть что для получения количественных оценок качества с указанной достоверностью необходимо обработать не менее 400 кадров или определить продолжительность регистрации на уровне 30 секунд.For a stereo video camera of the system, the speed of the processed video stream of each channel is 15 frames per second. That is, to obtain quantitative assessments of quality with the specified reliability, it is necessary to process at least 400 frames or determine the duration of registration at the level of 30 seconds.

Система позволяет увеличить быстродействие до 30 кадров в секунду. В этом случае для заданной достоверности продолжительность регистрации составит 15 секунд.The system allows you to increase performance up to 30 frames per second. In this case, for a given reliability, the registration duration will be 15 seconds.

Аналогично выделению лица для эффективного определения местоположения некоторых других деталей лица также используется их близость по форме к определенным геометрическим фигурам и областям, а также информация о вероятном местоположении на изображении с привязкой к некоторым опорным точка (например, центрам глаз), необходимая для корректировки относительных пространственных сдвигов, различия в смещении, вызванные поворотом, а также геометрические искажения яркости каждой области изображения.Similar to face extraction, to effectively determine the location of some other details of the face, they also use their proximity in shape to certain geometric shapes and areas, as well as information about the likely location in the image with reference to some reference points (for example, eye centers), necessary to adjust relative spatial shifts, differences in displacement caused by rotation, as well as geometric distortion of the brightness of each area of the image.

Как уже указывалось выше, кроме выделения таких признаков, как яркость, в изображении также выделяются координаты контурных точек, параметры текстуры и т.п. Контурные точки группируются в связанные области: отрезки линий или замкнутые кривые. Кроме этого, элементы с одинаковой текстурой также могут объединяться в связанные области элементов изображения.As already mentioned above, in addition to highlighting such signs as brightness, the coordinates of contour points, texture parameters, etc. are also highlighted in the image. Contour points are grouped into related areas: line segments or closed curves. In addition, elements with the same texture can also be combined into related areas of image elements.

С помощью новой системы можно не только выделять и оценивать достоверность присутствия лица на изображении, но и обнаруживать и количественно оценивать следующие детали лица: физические размеры и тип лица (например, расу), лба, глаз (например, миндалевидные средние), бровей (например, дугообразные средние по длине и по отношению у глазам), носа (например, средний, кончик носа опущенный), губ (например, высота верхней губы средняя), рта (средний), щек, подбородка (высота, расстояние между нижней каймой губы и кончиком подбородка, средняя), ушей, особые приметы, шрамы, морщины, отсутствие частей лица, наличие косоглазия, видимость радужки и зрачка; тип прически; присутствие очков; прозрачность линз очков; видимость плеч; присутствие бороды и/или усов; наличие открытого рта; улыбки с закрытым или открытым ртом; наличие поднятых бровей и степени нахмуренности; направление взгляда; наличие косоглазия; наличие приметных участков кожи лица (например, татуировки); полноту деталей лица на изображении: присутствие лба, глаз, бровей, носа, губ, рта, щек, подбородка, ушей, плеч; текстуру заднего фона; и др.Using the new system, it is possible not only to isolate and evaluate the reliability of the presence of a face in the image, but also to detect and quantify the following face details: physical dimensions and type of face (for example, race), forehead, eyes (for example, amygdala), eyebrows (for example , arched averages in length and in relation to the eyes), nose (for example, middle, nose tip down), lips (for example, upper lip height middle), mouth (middle), cheeks, chin (height, distance between the lower border of the lip and tip of chin, middle), ears, oso signs, scars, wrinkles, lack of parts of the face, strabismus, visibility of the iris and pupil; type of hairstyle; the presence of points; eyeglass lens transparency; shoulder visibility; the presence of a beard and / or mustache; the presence of an open mouth; smiles with a closed or open mouth; the presence of raised eyebrows and the degree of frowning; line of sight; the presence of strabismus; presence of noticeable areas of facial skin (for example, tattoos); the completeness of the details of the face in the image: the presence of the forehead, eyes, eyebrows, nose, lips, mouth, cheeks, chin, ears, shoulders; Background texture and etc.

Кроме этого, аналогичный анализ появления недопустимых связанных областей, контурных линий, отрезков и параметров текстуры позволяет оценивать случайные аномальные детали лица: присутствие оправы, закрывающей некоторые черты лица; наличие отражений света на линзах очков; помех из-за волос, закрывающих черты лица; равномерность рассеивания света на лице; наличие теней на лице или в глазницах; наличие ложных изображений из-за неправильного освещения; плохой уровень фокуса на каждом участке лица; контраст деталей лица; присутствие оптических искажений черт лица через обнаружение аномальных размеров лица, глаз, бровей, носа, губ, рта и подбородка; присутствие посторонних предметов, закрывающих некоторые детали лица; наличие аномальных участков кожи лица и др.In addition, a similar analysis of the appearance of unacceptable connected areas, contour lines, segments and texture parameters allows us to evaluate random abnormal details of the face: the presence of a frame that covers some facial features; the presence of light reflections on the lenses of glasses; interference due to hair covering facial features; uniformity of light scattering on the face; the presence of shadows on the face or in the orbits; the presence of false images due to improper lighting; poor focus on every part of the face; contrast of details of the face; the presence of optical distortion of facial features through the detection of abnormal sizes of the face, eyes, eyebrows, nose, lips, mouth and chin; the presence of foreign objects covering some details of the face; the presence of abnormal areas of facial skin, etc.

Достоверность всех оценок также обеспечивается также за счет согласованности выделенных областей на изображениях, полученных от нескольких независимых источников (в нашем случае, это видеоканалы стереокамеры).The reliability of all estimates is also ensured by the consistency of the selected areas in the images obtained from several independent sources (in our case, these are stereo camera video channels).

Оценка яркости, цветового тона и насыщенности цвета кожи, волос прически, бороды и/или усов, присутствие не натуральных (ложных) цветов на коже лица, глазах и волосах проводится при использовании информации о преобразовании координат цвета исходного изображения лица, полученной с помощью цветовых характеристик фонового экрана (цвет, текстура), согласованной в двух видеоканалах стереокамеры одновременно.Assessment of the brightness, color tone and saturation of the color of the skin, hair of a hairstyle, beard and / or mustache, the presence of non-natural (false) colors on the skin of the face, eyes and hair is carried out using information on the conversion of color coordinates of the original image of the face obtained using color characteristics background screen (color, texture), matched in two video channels of the stereo camera simultaneously.

При оценке углов отклонения лица от фронтального положения (пространственной ориентации головы) также используются согласованные данные, полученные от двух видеоканалов стереокамеры одновременно:When evaluating the angles of deviation of the face from the frontal position (spatial orientation of the head), consistent data obtained from two video channels of the stereo camera simultaneously are also used:

- на изображении лица вышеупомянутыми методами обработки моноизображений находятся ключевые точки, такие как центры глаз или зрачков, центр губ и т.п.- key points, such as the centers of the eyes or pupils, the center of the lips, etc., are located on the face image using the aforementioned mono image processing methods.

- далее для уточнения вычисляется пространственное положение точек с помощью всех каналов стереоизображения одновременно;- further, for clarification, the spatial position of the points is calculated using all stereo image channels simultaneously;

- положение головы считается фронтальным, если треугольник, образуемый в пространстве точками центров глаз и губ (опорный треугольник), лежит в плоскости, параллельной плоскости изображения, а ось симметрии направлена вертикально.- the head position is considered to be frontal if the triangle formed in space by the points of the centers of the eyes and lips (supporting triangle) lies in a plane parallel to the image plane, and the axis of symmetry is directed vertically.

Плоскость в трехмерном пространстве задается уравнением:A plane in three-dimensional space is given by the equation:

Figure 00000006
Figure 00000006

коэффициенты которого вычисляются по координатам вершин треугольника, лежащего в этой плоскости;whose coefficients are calculated by the coordinates of the vertices of a triangle lying in this plane;

- углы пространственной ориентации головы определяются углами пространственной ориентации опорного треугольника.- the angles of the spatial orientation of the head are determined by the angles of the spatial orientation of the supporting triangle.

Наклон (тангаж - φ) и поворот (рысканье - ψ) лица вычисляются из уравнения плоскости опорного треугольника по следующим формулам:The slope (pitch - φ) and rotation (yaw - ψ) of the face are calculated from the equation of the plane of the supporting triangle according to the following formulas:

Figure 00000007
Figure 00000007

Figure 00000008
Figure 00000008

Боковой наклон (крен - χ) лица вычисляется по наклону оси глаз:The lateral tilt (roll - χ) of the face is calculated by the tilt of the axis of the eyes:

Figure 00000009
Figure 00000009

либо по наклону оси симметрии опорного треугольника.or along the slope of the axis of symmetry of the reference triangle.

Другие характерные точки лица, чье пространственное положение может быть определено, используются для уточнения этих углов.Other characteristic points of the face whose spatial position can be determined are used to refine these angles.

Задача отбора лучшего двухмерного изображения лица также решается с помощью использования согласованных данных, полученных от двух видеоканалов стереокамеры одновременно.The task of selecting the best two-dimensional face image is also solved by using consistent data received from two video channels of the stereo camera simultaneously.

Действительно, определенный кратковременный статический двухмерный результат визуализации лица, отобранный оператором в качестве эталонного, может и не являться лучшим, поскольку, как уже отмечалось выше, он может содержать ложные детали (помехи), обусловленные варьирующимися от измерения к измерению условиями регистрации лица.Indeed, a certain short-term static two-dimensional result of face visualization, selected by the operator as a reference, may not be the best, because, as noted above, it may contain false details (interference) due to the conditions of face registration varying from measurement to measurement.

Все полученные оценки параметров качества трехмерных изображений лица могут использоваться для отбора эталонных трехмерных изображений, которые будут удовлетворять заданным ограничениям в соответствии с определенными стандартами, описывающими: формат хранения лицевых данных, передачу информации о чертах лица, текстуре и цвете заднего фона, требования на проведение фотосъемки, другие атрибуты цифрового изображения лица.All obtained estimates of the quality parameters of three-dimensional images of a face can be used to select reference three-dimensional images that will satisfy the specified restrictions in accordance with certain standards that describe: the format for storing facial data, transferring information about facial features, texture and background color, requirements for taking photographs , other attributes of a digital face image.

Блок формирования двухмерных изображений лица отбирает среди набора трехмерных изображений лица такое изображение, количественные параметры качества которого будут находиться вблизи среднего арифметического из всех аналогичных параметров качества соответствующих изображений, согласованных в двух видеоканалах стереокамеры одновременно.The unit for generating two-dimensional face images selects from the set of three-dimensional face images such an image, the quantitative quality parameters of which will be close to the arithmetic average of all similar quality parameters of the corresponding images, coordinated in two video channels of the stereo camera simultaneously.

Также при помощи блока формирования двухмерных изображений лица определяют количественные параметры качества и черт лица каждого полученного двухмерного изображения лица с использованием количественных оценок параметров качества и черт лица трехмерных изображений лица.Also, using the block for generating two-dimensional face images, quantitative parameters of quality and facial features of each obtained two-dimensional face image are determined using quantitative estimates of the quality parameters and facial features of three-dimensional face images.

В качестве двухмерных изображений лица в системе могут использоваться стереопары.Stereopairs can be used as two-dimensional face images in the system.

В заключение хотелось бы отметить, что достоинства предложенного способа регистрации двухмерных изображений лица и достоверной количественной оценки качества и черт лица перед известными проявляются в том, что данное техническое решение не требует большого количества считывателей изображений лица, характеризуется легкими и понятными для субъекта требованиями к регистрации, минимизирует продолжительность регистрации, доводя ее практически до режима реального времени, исключает влияние помех, обусловленных различными условиями регистрации, не подвержено ошибкам, обладает повышенным ресурсом, обеспечивает регистрацию адекватных двухмерных изображений лица и количественную оценку качества и черт лица с заданным уровнем достоверности, хорошо согласуется с существующими и разрабатываемыми стандартами.In conclusion, I would like to note that the advantages of the proposed method for registering two-dimensional face images and a reliable quantitative assessment of the quality and facial features over the known ones are manifested in the fact that this technical solution does not require a large number of face image readers, is characterized by registration requirements that are easy and understandable for the subject, minimizes the duration of registration, bringing it almost to the real time mode, eliminates the influence of interference caused by various conditions of stration is not error-prone, has increased resources to ensure adequate registration of two-dimensional images of the face and a quantitative assessment of the quality and features of a person with a given level of confidence is consistent with existing and emerging standards.

Хотя указанный выше вариант выполнения изобретения был изложен с целью иллюстрации настоящего изобретения, специалистам ясно, что возможны разные модификации, добавления и замены, не выходящие из объема и смысла настоящего изобретения, раскрытого в прилагаемой формуле изобретения.Although the above embodiment of the invention has been set forth to illustrate the present invention, it is clear to those skilled in the art that various modifications, additions and substitutions are possible without departing from the scope and meaning of the present invention disclosed in the attached claims.

Предлагаемый способ и система поясняются чертежами 1-11, на которых иллюстрируется также возможный внешний вид системы:The proposed method and system is illustrated by drawings 1-11, which also illustrates the possible appearance of the system:

- Фиг.1 - состав системы регистрации и количественной оценки качества двухмерных изображений лица человека;- Figure 1 - composition of the registration system and quantitative assessment of the quality of two-dimensional images of a person's face;

- Фиг.2 - краткая блок схема работы системы регистрации и количественной оценки качества двухмерных изображений лица человека;- Figure 2 is a brief block diagram of the operation of the registration system and quantitative assessment of the quality of two-dimensional images of a person's face;

- Фиг.3 - вид А. Система регистрации. Вид сбоку;- Figure 3 - view A. Registration system. Side view;

- Фиг.3A - вид В. Система регистрации. Вид сбоку сзади;- Fig. 3A is a view B. Registration system. Rear side view;

- Фиг.4 - стереокамера, установленная рядом с дисплеем;- Figure 4 - stereo camera installed next to the display;

- Фиг.5 - позиционирование лица при стереосъемке;- Figure 5 - positioning of the face during stereo shooting;

- Фиг.6 - схема установки системы регистрации;- Fig.6 is a diagram of the installation of the registration system;

- Фиг.7 - блок-схема стандартной системы распознавания образов;- Fig.7 is a block diagram of a standard pattern recognition system;

- Фиг.8 - связанные области выделения лица (фильтрация по порогу яркости, черный цвет - максимальная связанная область);- Fig. 8 - related areas of the face selection (filtering according to the brightness threshold, black color - maximum associated area);

- Фиг.9 - поиск эллиптической части через пошаговое построение эллипсов от верхней границы;- Fig.9 - search for the elliptical part through the step-by-step construction of ellipses from the upper boundary;

- Фиг.10 - оценка эллиптичности связанной области;- Figure 10 - assessment of the ellipticity of the associated area;

- Фиг.11 - геометрические параметры стереосъемки.- 11 - the geometric parameters of stereo.

Claims (14)

1. Система регистрации и количественной оценки параметров качества и черт лица двумерных изображений лица, которая содержит:
блок считывания PIN номера, связанный с блоком декодирования PIN номера;
блок памяти, хранящий списки разрешенных и запрещенных PIN номеров, а также сжатые двумерные изображения лица с информацией о качестве изображений;
дисплей;
блок считывания изображений лица, выполненный в виде считывателя трехмерных изображений, связанный с блоком анализа качества трехмерных изображений лица, причем блок анализа качества трехмерных изображений лица осуществляет количественную оценку качества и черт трехмерного изображения лица и проверку на соответствие заданным ограничениям;
блок формирования двумерных изображений лица, связанный с блоком анализа качества трехмерных изображений лица, причем блок формирования двумерных изображений лица осуществляет преобразование набора трехмерных изображений в набор двумерных изображений, а также определяет количественные параметры качества и черт лица для каждого двумерного изображения с использованием количественных оценок трехмерных изображений лица;
блок сжатия двумерных изображений, связанный с блоком памяти;
блок дополнительного освещения;
процессорный блок, осуществляющий проверку PIN номера, запись в блок памяти сжатых двумерных изображений лица и включение блока дополнительного освещения, взаимосвязанный со всеми вышеперечисленными блоками.
1. A system for recording and quantifying quality parameters and facial features of two-dimensional facial images, which contains:
a PIN number reading unit associated with a PIN number decoding unit;
a memory unit that stores lists of allowed and prohibited PIN numbers, as well as compressed two-dimensional face images with information about image quality;
display;
a face image reading unit in the form of a three-dimensional image reader coupled to a three-dimensional face image quality analysis unit, the three-dimensional face image quality analysis unit quantifying the quality and features of the three-dimensional face image and checking for compliance with predetermined restrictions;
a block for generating two-dimensional face images associated with a block for analyzing the quality of three-dimensional face images, the block for generating two-dimensional face images converts a set of three-dimensional images into a set of two-dimensional images, and also determines quantitative parameters of quality and facial features for each two-dimensional image using quantitative estimates of three-dimensional images persons;
a two-dimensional image compression unit associated with a memory unit;
additional lighting unit;
a processor unit performing PIN number verification, recording in the memory block of compressed two-dimensional face images and the inclusion of an additional lighting unit, interconnected with all of the above blocks.
2. Система по п.1, отличающаяся тем, что в качестве блока считывания трехмерных изображений лица система содержит стереокамеру.2. The system according to claim 1, characterized in that the system comprises a stereo camera as a block for reading three-dimensional face images. 3. Система по п.1, отличающаяся тем, что в качестве считывателя трехмерных изображений лица система содержит стереовидеокамеру с изменяемым базисом.3. The system according to claim 1, characterized in that, as a reader of three-dimensional images of the face, the system comprises a stereo video camera with a variable basis. 4. Система по п.1, отличающаяся тем, что в качестве блока считывания PIN номера система содержит бесконтактный радиочастотный считыватель.4. The system according to claim 1, characterized in that, as a PIN number reading unit, the system comprises a contactless radio frequency reader. 5. Система по п.1, отличающаяся тем, что в качестве блока считывания PIN номера система содержит бесконтактный считыватель смарт-карт.5. The system according to claim 1, characterized in that the system comprises a contactless smart card reader as a PIN number reader. 6. Система по п.1, отличающаяся тем, что в качестве блок декодирования PIN номера система содержит декодер данных на основе технологии PKI.6. The system according to claim 1, characterized in that, as a block for decoding a PIN number, the system comprises a data decoder based on PKI technology. 7. Система по п.1, отличающаяся тем, что в качестве дисплея система содержит компьютерный монитор.7. The system according to claim 1, characterized in that as the display system contains a computer monitor. 8. Система по п.1, отличающаяся тем, что в качестве процессорного блока система содержит цифровой сигнальный процессор.8. The system according to claim 1, characterized in that as a processor unit, the system comprises a digital signal processor. 9. Система по п.1, отличающаяся тем, что в качестве блока дополнительного освещения система содержит два первичных источника света и три вторичных, включая два рассеивающих зонта и один фоновый экран.9. The system according to claim 1, characterized in that, as an additional lighting unit, the system contains two primary light sources and three secondary, including two diffusing umbrellas and one background screen. 10. Способ регистрации двухмерных изображений лица, состоящий из следующих действий:
а) задают допустимый диапазон количественных параметров качества и черт лица в блоке анализа качества трехмерных изображений лица;
b) проводят позиционирование головы субъекта регистрации перед блоком считывания изображений;
c) сканируют при помощи блока считывания изображений лица набор А трехмерных изображений лица различного качества;
d) оценивают при помощи блока анализа качества трехмерных изображений лица, количественные параметры качества и черт лица каждого трехмерного изображения лица из набора А;
e) создают из набора А второй набор В трехмерных изображений лица, имеющих количественные оценки параметров качества и черт лица в пределах заданного допустимого диапазона;
f) создают при помощи блока формирования двухмерных изображений лица третий набор С двухмерных изображений лица, сформированный из второго набора В трехмерных изображений лица;
g) определяют при помощи блока формирования двухмерных изображений лица количественные параметры качества и черт лица каждого полученного двухмерного изображения лица из третьего набора С с использованием количественных оценок параметров качества и черт лица трехмерных изображений лица из набора В;
h) сжимают каждое двухмерное изображение лица из третьего набора С и сохраняют в блоке памяти вместе с определенными количественными оценками параметров качества и черт лица для данного изображения в качестве зарегистрированного эталонного двухмерного изображения лица.
10. A method for registering two-dimensional images of a face, consisting of the following:
a) set the acceptable range of quantitative parameters of quality and facial features in the block of analysis of the quality of three-dimensional facial images;
b) positioning the head of the subject of registration in front of the image reading unit;
c) scan using a face image reader a set A of three-dimensional face images of various quality;
d) evaluate with the help of a block for analyzing the quality of three-dimensional face images, quantitative parameters of quality and facial features of each three-dimensional face image from set A;
e) create from set A a second set B of three-dimensional face images having quantitative estimates of quality parameters and facial features within a given acceptable range;
f) using the block for generating two-dimensional face images, a third set C of two-dimensional face images formed from the second set B of three-dimensional face images is created;
g) using the block for generating two-dimensional face images, quantitative parameters of quality and facial features of each obtained two-dimensional face image from the third set C are determined using quantitative estimates of the quality parameters and facial features of three-dimensional face images from set B;
h) compress each two-dimensional image of the face from the third set C and save it in the memory unit together with certain quantitative estimates of the quality parameters and facial features for a given image as a registered reference two-dimensional image of the face.
11. Способ по п.10, отличающийся тем, что оценивают параметры качества и черт лица, при этом включают оценку присутствия, позиции, размера и типа лица.11. The method according to claim 10, characterized in that they assess the quality parameters and facial features, while including assessing the presence, position, size and type of face. 12. Способ по п.10, отличающийся тем, что оценивают параметры качества и черт лица, при этом включают оценку полноты деталей лица на изображении.12. The method according to claim 10, characterized in that assess the quality parameters and facial features, while including assessing the completeness of the details of the face in the image. 13. Способ по п.10, отличающийся тем, что оценивают параметры качества и черт лица, при этом включают оценки: типа расы; -присутствия, позиции, размера и типа лба; присутствия, позиции, размера и типа глаз; присутствия, позиции, размера и типа бровей; присутствия, позиции, размера и типа носа; присутствия, позиции, размера и типа губ; присутствия, позиции, размера и типа рта; присутствия, позиции, размера и типа щек; присутствия, позиции, размера и типа подбородка; присутствия, позиции, размера и типа ушей; характерных для субъекта регистрации особых примет; характерных для субъекта регистрации шрамов; характерных для субъекта регистрации морщин; характерного для субъекта регистрации отсутствия некоторых частей лица; характерного для субъекта регистрации косоглазия и других патологий; видимости радужки и зрачка из-за специфических условий регистрации лица; присутствия очков; степени прозрачности линз очков; помех из-за отражений света на линзах очков; оправы, закрывающей некоторые черты лица; помех из-за волос, закрывающих черты лица; углов отклонения лица от фронтального положения; видимости плеч; равномерности рассеивания света на лице; наличия теней на лице или в глазницах; наличия ложных изображений из-за неправильного освещения; заднего фона; уровня сфокусированности на каждом участке лица; контраста деталей лица; яркости, цветового тона и насыщенности цвета; присутствия ненатуральных цветов; присутствия оптических искажений черт лица; присутствия посторонних предметов, закрывающих некоторые детали лица; оценку цвета глаз; типа прически; цвета волос; присутствия бороды и/или усов; цвета бороды и/или усов; наличия открытого рта; улыбки с закрытым ртом и/или открытым ртом; наличия поднятых бровей; степени нахмуренности; направления взгляда; наличия приметных участков кожи лица (например, татуировки).13. The method according to claim 10, characterized in that assess the quality parameters and facial features, while including estimates: type of race; - the presence, position, size and type of forehead; the presence, position, size and type of eyes; the presence, position, size and type of eyebrows; the presence, position, size and type of nose; presence, position, size and type of lips; the presence, position, size and type of mouth; the presence, position, size and type of cheeks; presence, position, size and type of chin; the presence, position, size and type of ears; specific features of the registration subject; characteristic of the subject of registration of scars; wrinkles characteristic of the subject of registration; characteristic of the subject of registration of the absence of certain parts of the face; strabismus and other pathologies characteristic of the subject of registration; visibility of the iris and pupil due to the specific registration conditions of the face; the presence of points; the degree of transparency of the lenses of glasses; interference due to reflections of light on the lenses of glasses; a frame covering some facial features; interference due to hair covering facial features; angles of deviation of the face from the frontal position; shoulder visibility; uniformity of light scattering on the face; the presence of shadows on the face or in the orbits; the presence of false images due to improper lighting; background; level of focus on each part of the face; Contrast details of the face; brightness, hue and color saturation; the presence of unnatural flowers; the presence of optical distortion of facial features; the presence of foreign objects covering some parts of the face; assessment of eye color; type of hairstyle; hair color; the presence of a beard and / or mustache; the colors of the beard and / or mustache; the presence of an open mouth; smiles with a closed mouth and / or open mouth; the presence of raised eyebrows; degree of frowning; line of sight; the presence of noticeable areas of facial skin (for example, tattoos). 14. Способ по п.10, отличающийся тем, что изображения сканируют при помощи стереокамеры. 14. The method according to claim 10, characterized in that the images are scanned using a stereo camera.
RU2005102210/09A 2005-01-31 2005-01-31 System and method of recording two-dimensional images RU2365995C2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
RU2005102210/09A RU2365995C2 (en) 2005-01-31 2005-01-31 System and method of recording two-dimensional images

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
RU2005102210/09A RU2365995C2 (en) 2005-01-31 2005-01-31 System and method of recording two-dimensional images

Publications (2)

Publication Number Publication Date
RU2005102210A RU2005102210A (en) 2006-07-10
RU2365995C2 true RU2365995C2 (en) 2009-08-27

Family

ID=36830370

Family Applications (1)

Application Number Title Priority Date Filing Date
RU2005102210/09A RU2365995C2 (en) 2005-01-31 2005-01-31 System and method of recording two-dimensional images

Country Status (1)

Country Link
RU (1) RU2365995C2 (en)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2014058406A1 (en) * 2012-10-12 2014-04-17 Golovatskyy Dmytriy Vasilyevich Method for identifying an individual
RU2600532C2 (en) * 2015-03-20 2016-10-20 Роман Владимирович Лыгин Method of converting 3d models using parallel information processing
RU2711050C2 (en) * 2015-09-11 2020-01-14 Айверифай Инк. Image and attribute quality, image enhancement and identification of features for identification by vessels and faces and combining information on eye vessels with information on faces and / or parts of faces for biometric systems
RU2823903C1 (en) * 2023-10-30 2024-07-30 Самсунг Электроникс Ко., Лтд. Methods of registering and updating biometric template of user using information on orientation of face of user and corresponding computer devices and data media

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8103061B2 (en) * 2006-10-02 2012-01-24 Johnson & Johnson Consumer Companies, Inc. Method and apparatus for identifying facial regions

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
RU2093890C1 (en) * 1995-09-08 1997-10-20 Серебренников Олег Александрович Method for person recognition and device which implements said method
RU2175148C1 (en) * 2000-04-04 2001-10-20 Свириденко Андрей Владимирович Method for recognizing person identity
US6463426B1 (en) * 1997-10-27 2002-10-08 Massachusetts Institute Of Technology Information search and retrieval system
US20030123713A1 (en) * 2001-12-17 2003-07-03 Geng Z. Jason Face recognition system and method
US20040223631A1 (en) * 2003-05-07 2004-11-11 Roman Waupotitsch Face recognition based on obtaining two dimensional information from three-dimensional face shapes

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
RU2093890C1 (en) * 1995-09-08 1997-10-20 Серебренников Олег Александрович Method for person recognition and device which implements said method
US6463426B1 (en) * 1997-10-27 2002-10-08 Massachusetts Institute Of Technology Information search and retrieval system
RU2175148C1 (en) * 2000-04-04 2001-10-20 Свириденко Андрей Владимирович Method for recognizing person identity
US20030123713A1 (en) * 2001-12-17 2003-07-03 Geng Z. Jason Face recognition system and method
US20040223631A1 (en) * 2003-05-07 2004-11-11 Roman Waupotitsch Face recognition based on obtaining two dimensional information from three-dimensional face shapes

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2014058406A1 (en) * 2012-10-12 2014-04-17 Golovatskyy Dmytriy Vasilyevich Method for identifying an individual
RU2600532C2 (en) * 2015-03-20 2016-10-20 Роман Владимирович Лыгин Method of converting 3d models using parallel information processing
RU2711050C2 (en) * 2015-09-11 2020-01-14 Айверифай Инк. Image and attribute quality, image enhancement and identification of features for identification by vessels and faces and combining information on eye vessels with information on faces and / or parts of faces for biometric systems
RU2823903C1 (en) * 2023-10-30 2024-07-30 Самсунг Электроникс Ко., Лтд. Methods of registering and updating biometric template of user using information on orientation of face of user and corresponding computer devices and data media

Also Published As

Publication number Publication date
RU2005102210A (en) 2006-07-10

Similar Documents

Publication Publication Date Title
US11288504B2 (en) Iris liveness detection for mobile devices
CN108427503B (en) Human eye tracking method and human eye tracking device
KR101569268B1 (en) Acquisition System and Method of Iris image for iris recognition by using facial component distance
WO2019218621A1 (en) Detection method for living being, device, electronic apparatus, and storage medium
US10380421B2 (en) Iris recognition via plenoptic imaging
CN105046219B (en) A kind of face identification system
US8369625B2 (en) Method for grouping 3D models to classify constitution
KR101710478B1 (en) Mobile electric document system of multiple biometric
WO2021036436A1 (en) Facial recognition method and apparatus
CN108470169A (en) Face identification system and method
KR102554391B1 (en) Iris recognition based user authentication apparatus and method thereof
CN109952594A (en) Image processing method, device, terminal and storage medium
US20200355945A1 (en) Equipment to obtain 3d image data of a face and automatic method for customized modeling and manufacturing of eyeglass frames
RU2370817C2 (en) System and method for object tracking
CN113556471A (en) Certificate photo generation method, system and computer readable storage medium
WO2002009024A1 (en) Identity systems
Bastias et al. A method for 3D iris reconstruction from multiple 2D near-infrared images
Arbab‐Zavar et al. On forensic use of biometrics
RU2365995C2 (en) System and method of recording two-dimensional images
RU2005100267A (en) METHOD AND SYSTEM OF AUTOMATIC VERIFICATION OF THE PRESENCE OF A LIVING FACE OF A HUMAN IN BIOMETRIC SECURITY SYSTEMS
Szczodrak et al. Evaluation of face detection algorithms for the bank client identity verification
KR20090132838A (en) Photographing device
Szczodrak et al. Face detection algorithms evaluation for the bank client verification
Berueco et al. Age Estimation Using Support Vector Machine–Sequential Minimal Optimization
Pflug Ear recognition: Biometric identification using 2-and 3-dimensional images of human ears

Legal Events

Date Code Title Description
FZ9A Application not withdrawn (correction of the notice of withdrawal)

Effective date: 20061128

FA92 Acknowledgement of application withdrawn (lack of supplementary materials submitted)

Effective date: 20080328

FZ9A Application not withdrawn (correction of the notice of withdrawal)

Effective date: 20090209

FZ9A Application not withdrawn (correction of the notice of withdrawal)

Effective date: 20090209

MM4A The patent is invalid due to non-payment of fees

Effective date: 20120201

NF4A Reinstatement of patent

Effective date: 20140520

PC41 Official registration of the transfer of exclusive right

Effective date: 20140805

MM4A The patent is invalid due to non-payment of fees

Effective date: 20190201

点击 这是indexloc提供的php浏览器服务,不要输入任何密码和下载