KR102131830B1 - Mobile terminal and controlling method thereof - Google Patents

Mobile terminal and controlling method thereof Download PDF

Info

Publication number
KR102131830B1
KR102131830B1 KR1020140029485A KR20140029485A KR102131830B1 KR 102131830 B1 KR102131830 B1 KR 102131830B1 KR 1020140029485 A KR1020140029485 A KR 1020140029485A KR 20140029485 A KR20140029485 A KR 20140029485A KR 102131830 B1 KR102131830 B1 KR 102131830B1
Authority
KR
South Korea
Prior art keywords
user authentication
mobile terminal
face
user
camera
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
KR1020140029485A
Other languages
Korean (ko)
Other versions
KR20150107098A (en
Inventor
이원희
Original Assignee
엘지전자 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 엘지전자 주식회사 filed Critical 엘지전자 주식회사
Priority to KR1020140029485A priority Critical patent/KR102131830B1/en
Priority to EP15761314.2A priority patent/EP3118761B1/en
Priority to PCT/KR2015/001816 priority patent/WO2015137645A1/en
Priority to US15/121,356 priority patent/US10162955B2/en
Publication of KR20150107098A publication Critical patent/KR20150107098A/en
Application granted granted Critical
Publication of KR102131830B1 publication Critical patent/KR102131830B1/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/30Authentication, i.e. establishing the identity or authorisation of security principals
    • G06F21/31User authentication
    • G06F21/32User authentication using biometric data, e.g. fingerprints, iris scans or voiceprints
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M1/00Substation equipment, e.g. for use by subscribers
    • H04M1/66Substation equipment, e.g. for use by subscribers with means for preventing unauthorised or fraudulent calling
    • H04M1/667Preventing unauthorised calls from a telephone set
    • H04M1/67Preventing unauthorised calls from a telephone set by electronic means
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M2250/00Details of telephonic subscriber devices
    • H04M2250/52Details of telephonic subscriber devices including functional features of a camera

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Security & Cryptography (AREA)
  • Theoretical Computer Science (AREA)
  • Signal Processing (AREA)
  • Computer Hardware Design (AREA)
  • Software Systems (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Telephone Function (AREA)

Abstract

본 발명에 따르면, 카메라와 상기 카메라를 통해 입력되는 이미지를 디스플레이하는 디스플레이부 및 상기 카메라를 통해 제 1 사용자 인증에 필요한 얼굴 요소들을 포함하는 제 1 얼굴 이미지가 입력되면, 상기 제 1 얼굴 이미지를 기초로 상기 제 1 사용자 인증을 행하고, 상기 제 1 사용자 인증에 필요한 얼굴 요소들 중 일부가 결여된 제 2 얼굴 이미지가 입력되면, 상기 제 2 얼굴 이미지로부터 도출해 낼 수 있는 얼굴 요소들 중 적어도 하나를 이용하여 제 2 사용자 인증을 행하는 제어부를 포함하는 것을 특징으로 하는 이동 단말기를 제공할 수 있다.
또한, 본 발명에 따르면, 카메라를 통해 제 1 사용자 인증에 필요한 얼굴 요소들을 포함하는 제 1 얼굴 이미지 및 상기 제 1 사용자 인증에 필요한 얼굴 요소들 중 일부가 결여된 제 2 얼굴 이미지 중 어느 하나에 대한 입력을 수신하는 단계와 상기 카메라를 통해 입력되는 이미지를 디스플레이하는 단계 및
상기 제 1 얼굴 이미지가 입력된 경우, 상기 제 1 얼굴 이미지를 기초로 상기 제 1 사용자 인증을 수행하고, 상기 제 2 얼굴 이미지가 입력된 경우, 상기 제 2 얼굴 이미지로부터 도출해 낼 수 있는 얼굴 요소들 중 적어도 하나를 이용하여 제 2 사용자 인증을 수행하는 단계를 포함하는 이동 단말기의 제어 방법을 제공할 수 있다.
According to the present invention, when a first face image including a camera and a display unit for displaying an image input through the camera and face elements necessary for first user authentication is input through the camera, the first face image is based on When the first user authentication is performed, and a second face image lacking some of the face elements required for the first user authentication is input, at least one of the face elements that can be derived from the second face image is used. It can provide a mobile terminal comprising a control unit for performing a second user authentication.
In addition, according to the present invention, through the camera for any one of the first face image including the face elements necessary for the first user authentication and the second face image lacking some of the face elements required for the first user authentication Receiving an input and displaying an image input through the camera; and
When the first face image is input, the first user authentication is performed based on the first face image, and when the second face image is input, face elements that can be derived from the second face image It may provide a control method of a mobile terminal including the step of performing a second user authentication using at least one of.

Figure R1020140029485
Figure R1020140029485

Description

이동 단말기 및 이의 제어 방법{MOBILE TERMINAL AND CONTROLLING METHOD THEREOF}Mobile terminal and its control method {MOBILE TERMINAL AND CONTROLLING METHOD THEREOF}

본 발명은 카메라를 통해 사용자 인증을 행할 수 있는 이동 단말기 및 이의 제어 방법에 관한 것이다. The present invention relates to a mobile terminal capable of user authentication through a camera and a control method thereof.

단말기는 이동 가능여부에 따라 이동 단말기(mobile/portable terminal) 및 고정 단말기(stationary terminal)으로 나뉠 수 있다. 다시 이동 단말기는 사용자의 직접 휴대 가능 여부에 따라 휴대(형) 단말기(handheld terminal) 및 거치형 단말기(vehicle mount terminal)로 나뉠 수 있다. Terminals can be divided into mobile terminals (mobile/portable terminals) and stationary terminals according to their mobility. Again, the mobile terminal may be divided into a handheld terminal and a vehicle mount terminal according to whether the user can directly carry it.

이와 같은 단말기(terminal)는 기능이 다양화됨에 따라 예를 들어, 사진이나 동영상의 촬영, 음악이나 동영상 파일의 재생, 게임, 방송의 수신 등의 복합적인 기능들을 갖춘 멀티미디어 기기(Multimedia player) 형태로 구현되고 있다. As the functions of the terminal are diversified, for example, in the form of a multimedia player equipped with complex functions such as taking a picture or a video, playing music or a video file, receiving a game, or broadcasting, etc. Is being implemented.

특히, 이동 단말기의 기능이 다양화됨에 따라, 상품의 구매, 각종 신용 결제 및 보안이 요구되는 사이트 접속 등 사용자의 개인 정보를 이용한 인증 기능 역시 이동 단말기를 통해 수행되고 있다. 그러나, 이와 같이 개인 정보를 입력하여 사용자 인증을 행하는 경우, 사용자 개인 정보가 유출되는 등 보안상의 문제가 발생할 수 있으며, 각종 인증서에 패스워드를 일일이 입력해야 하는 불편이 발생할 수 있다.In particular, as the functions of the mobile terminal are diversified, an authentication function using the user's personal information such as purchase of products, various credit payments, and access to a site requiring security is also performed through the mobile terminal. However, when user authentication is performed by inputting personal information as described above, security problems such as leakage of user personal information may occur, and inconveniences such as password entry into various certificates may occur.

상술한 이동 단말기의 기능 지지 및 증대를 위해, 이동 단말기의 구조적인 부분 및/또는 소프트웨어적인 부분을 개량하는 것이 고려될 수 있다.In order to support and increase the functions of the aforementioned mobile terminal, it may be considered to improve the structural portion and/or software portion of the mobile terminal.

사용상의 편의와 보안상의 안전성을 위하여, 이동 단말기에 대하여 사용자의 지문, 홍채, 얼굴 등 고유의 신체 요소를 이용한 사용자 인증 방식의 적용이 시도되고 있다. 이를 위해 이동 단말기에 사용자 신체 요소에 대한 인식 모듈이 하드웨어 적으로 부가되고, 이를 운용하기 위한 소프트웨어의 개량이 시도되고 있다. For convenience of use and security of safety, application of a user authentication method using a unique body element such as a user's fingerprint, iris, and face has been attempted for a mobile terminal. To this end, a recognition module for a user's body element is added in hardware to a mobile terminal, and attempts have been made to improve software for operating it.

그러나, 이와 같은 사용자 인증 방식이 적용되더라도, 사용 환경에 따라 인식률이 일정치 않은 문제점이 있다. 또한, 인식률을 높이기 위하여 사용자 신체를 이동 단말기에 소정 범위 내로 근접해야 하는 경우, 사용자는 개인 성향에 따라 거부감을 느낄 수도 있다. However, even if such a user authentication method is applied, there is a problem in that the recognition rate is not constant according to the use environment. In addition, in order to increase the recognition rate, when the user's body needs to be brought into close proximity to the mobile terminal within a predetermined range, the user may feel a sense of rejection according to personal preference.

본 발명은 전술한 필요성을 충족하기 위해 제안되는 것으로서, 사용자의 신체 요소를 이용하여 사용자 인증을 행할 수 있는 이동 단말기 및 그 제어 방법을 제공하는 것을 그 목적으로 한다.An object of the present invention is to provide a mobile terminal capable of performing user authentication using a user's body element, and a control method thereof, as proposed to meet the above-mentioned needs.

보다 구체적으로, 사용자 인증을 시도하는 사용자와 이동 단말기 사이의 거리에 따라 서로 다른 인증 방식을 수행할 수 있는 이동 단말기를 제공하는 것을 목적으로 한다. More specifically, an object of the present invention is to provide a mobile terminal capable of performing different authentication methods according to a distance between a user attempting user authentication and a mobile terminal.

또한, 본 발명은, 적외선 발광부를 구비하여, 적외선 발광부를 통해 적외선이 방출되면, 카메라를 통해 사용자의 홍채를 인식할 수 있는 이동 단말기를 제공하는 것을 목적으로 한다. In addition, an object of the present invention is to provide a mobile terminal equipped with an infrared light emitting unit and capable of recognizing a user's iris through a camera when infrared light is emitted through the infrared light emitting unit.

본 발명에서 이루고자 하는 기술적 과제들은 이상에서 언급한 기술적 과제들로 제한되지 않으며, 언급하지 않은 또 다른 기술적 과제들은 아래의 기재로부터 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.The technical problems to be achieved in the present invention are not limited to the technical problems mentioned above, and other technical problems not mentioned will be clearly understood by a person having ordinary knowledge in the technical field to which the present invention belongs from the following description. Will be able to.

상기 목적을 달성하기 위해 본 발명은 카메라, 상기 카메라를 통해 입력되는 이미지를 디스플레이하는 디스플레이부 및 상기 카메라를 통해 제 1 사용자 인증에 필요한 얼굴 요소들을 포함하는 제 1 얼굴 이미지가 입력되면, 상기 제 1 얼굴 이미지를 기초로 상기 제 1 사용자 인증을 행하고, 상기 제 1 사용자 인증에 필요한 얼굴 요소들 중 일부가 결여된 제 2 얼굴 이미지가 입력되면, 상기 제 2 얼굴 이미지로부터 도출해 낼 수 있는 얼굴 요소들 중 적어도 하나를 이용하여 제 2 사용자 인증을 행하는 제어부를 포함하는 것을 특징으로 하는 이동 단말기를 제공할 수 있다.In order to achieve the above object, the present invention provides a first face image including a camera, a display unit displaying an image input through the camera, and face elements required for first user authentication through the camera. When the first user authentication is performed based on the face image and a second face image lacking some of the face elements required for the first user authentication is input, among the face elements that can be derived from the second face image And a control unit for performing second user authentication using at least one.

또한, 본 발명은 카메라를 통해 제 1 사용자 인증에 필요한 얼굴 요소들을 포함하는 제 1 얼굴 이미지 및 상기 제 1 사용자 인증에 필요한 얼굴 요소들 중 일부가 결여된 제 2 얼굴 이미지 중 어느 하나에 대한 입력을 수신하는 단계와 상기 카메라를 통해 입력되는 이미지를 디스플레이하는 단계 및 상기 제 1 얼굴 이미지가 입력된 경우, 상기 제 1 얼굴 이미지를 기초로 상기 제 1 사용자 인증을 수행하고, 상기 제 2 얼굴 이미지가 입력된 경우, 상기 제 2 얼굴 이미지로부터 도출해 낼 수 있는 얼굴 요소들 중 적어도 하나를 이용하여 제 2 사용자 인증을 수행하는 단계를 포함하는 이동 단말기의 제어 방법을 제공할 수 있다. In addition, the present invention may input an input to any one of a first face image including face elements required for first user authentication and a second face image lacking some of the face elements required for first user authentication through a camera. Receiving, displaying an image input through the camera, and when the first face image is input, performs the first user authentication based on the first face image, and inputs the second face image If it is possible, it may provide a control method of a mobile terminal including performing a second user authentication using at least one of the face elements that can be derived from the second face image.

본 발명에서 얻을 수 있는 기술적 해결 수단은 이상에서 언급한 해결 수단들로 제한되지 않으며, 언급하지 않은 또 다른 해결 수단들은 아래의 기재로부터 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다. The technical solutions that can be obtained in the present invention are not limited to the above-mentioned solutions, and other solutions that are not mentioned are clearly understood by those skilled in the art from the following description. Will be understandable.

본 발명에 따른 이동 단말기 및 그 제어 방법의 효과에 대해 설명하면 다음과 같다.The effects of the mobile terminal and its control method according to the present invention are as follows.

본 발명의 실시예들 중 적어도 하나에 의하면, 본 발명의 이동 단말기는 사용자 인증을 위하여 사용자의 패스워드를 이용할 필요가 없으므로 개인 정보의 유출 위험이 없으며, 사용자가 일일이 패스워드를 기억하고 입력해야 하는 수고를 덜 수 있다. According to at least one of the embodiments of the present invention, the mobile terminal of the present invention does not need to use the user's password for user authentication, so there is no risk of leakage of personal information, and the user has to manually remember and enter the password. Less.

또한, 본 발명의 실시예 중 적어도 하나에 따르면, 사용자가 이동 단말기를 통하여 사용자 인증을 행하는 거리에 따라, 서로 다른 인증 방식이 수행되므로 사용상의 편의성이 극대화된다. 구체적으로, 이동 단말기와 사용자의 거리에 따라 인식되는 사용자 신체 요소가 상이할 수 있는데, 본 발명에 따르면, 이동 단말기가 인식하는 사용자 신체 요소에 상응하는 인증 방식에 따라 사용자 인증 방식이 수행될 수 있다. 따라서, 사용자로서는 사용자 신체 요소에 대한 인식률을 높이기 위하여 이동 단말기를 근접시키거나, 미리 사용자 인증 방식을 따로 설정해야 하지 않아도 된다. In addition, according to at least one of the embodiments of the present invention, different user authentication methods are performed according to a distance at which a user performs user authentication through a mobile terminal, thereby maximizing convenience in use. Specifically, a user body element recognized according to a distance between the mobile terminal and the user may be different. According to the present invention, a user authentication method may be performed according to an authentication method corresponding to a user body element recognized by the mobile terminal. . Therefore, as a user, it is not necessary to set the user authentication method in advance or to move the mobile terminal close to increase the recognition rate of the user's body elements.

또한, 본 발명의 실시예들 중 적어도 하나에 의하면, 본 발명의 이동 단말기는 적외선 발광부를 더 구비하여, 이를 통해 기존의 카메라로 사용자의 홍채를 인식할 수 있도록 함으로써, 추가적으로 홍채 인식을 위한 카메라를 구비하는 경우 발생하는 비용을 절약할 수 있다. In addition, according to at least one of the embodiments of the present invention, the mobile terminal of the present invention further includes an infrared light emitting unit, thereby allowing the user to recognize the iris of the user through an existing camera, thereby additionally providing a camera for iris recognition. When equipped, it is possible to save costs.

본 발명에서 얻을 수 있는 효과는 이상에서 언급한 효과들로 제한되지 않으며, 언급하지 않은 또 다른 효과들은 아래의 기재로부터 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.The effects obtainable in the present invention are not limited to the above-mentioned effects, and other effects not mentioned can be clearly understood by those skilled in the art from the following description. will be.

도 1은 본 발명과 관련된 이동 단말기를 설명하기 위한 블록도.
도 2 및 도3은 본 발명과 관련된 이동 단말기의 일 예를 서로 다른 방향에서 바라본 개념도.
도 4는 본 발명의 실시예에 따른 이동 단말기의 동작 흐름도.
도 5는 본 발명의 실시예에 따른 이동 단말기에 적용되는 사용자 얼굴을 이용한 사용자 인증 방식을 설명하기 위한 예시도.
도 6은 본 발명의 실시예에 따른 이동 단말기에 적용되는 사용자 얼굴 중 일부를 이용한 사용자 인증 방식을 설명하기 위한 예시도.
도 7은 본 발명의 실시예에 따른 이동 단말기의 적외선 발광부를 설명하기 위한 예시도.
도 8은 본 발명의 실시예에 따른 이동 단말기의 카메라가 인식하는 빛의 파장을 설명하기 위한 예시도.
도 9는 본 발명의 실시예에 따른 이동 단말기의 카메라에 구비되는 적외선 패스 필터를 설명하기 위한 그래프.
도 10은 본 발명의 실시예에 따른 이동 단말기에 적용되는 사용자로부터 선택된 일부를 이용한 사용자 인증 방식을 설명하기 위한 예시도.
도 11은 본 발명의 실시예에 따른 사용자로부터 선택된 사용자 얼굴의 일부를 사용자 인증에 이용하는 경우를 설명하기 위한 예시도.
도 12는 본 발명의 실시예에 따른 사용자 인증 방식을 이용하여, 이동 단말기의 터치스크린 잠금 상태를 해제시키는 경우를 설명하기 위한 예시도,
도 13은 본 발명의 실시예에 따른 이동 단말기의 사용자 인증이 요구되는 경우, 카메라 활성화 및 사용자 인증 수행을 설명하기 위한 예시도.
도 14는 본 발명의 실시예에 따른 제 1 사용자 인증 방식에 따른 인증 결과 디스플레이부에 디스플레이되는 제 1 정보를 설명하기 위한 예시도.
도 15는 본 발명의 실시예에 따른 제 2 사용자 인증 방식에 따른 인증 결과 디스플레이부에 디스플레이되는 제 2 정보를 설명하기 위한 예시도.
1 is a block diagram illustrating a mobile terminal related to the present invention.
2 and 3 are conceptual views of an example of a mobile terminal related to the present invention viewed from different directions.
4 is an operation flowchart of a mobile terminal according to an embodiment of the present invention.
5 is an exemplary view for explaining a user authentication method using a user face applied to a mobile terminal according to an embodiment of the present invention.
6 is an exemplary view for explaining a user authentication method using a part of a user's face applied to a mobile terminal according to an embodiment of the present invention.
7 is an exemplary view for explaining an infrared light emitting unit of a mobile terminal according to an embodiment of the present invention.
8 is an exemplary view for explaining a wavelength of light recognized by a camera of a mobile terminal according to an embodiment of the present invention.
9 is a graph for explaining an infrared pass filter provided in the camera of a mobile terminal according to an embodiment of the present invention.
10 is an exemplary view for explaining a user authentication method using a part selected from a user applied to a mobile terminal according to an embodiment of the present invention.
11 is an exemplary view for explaining a case in which a part of a user's face selected from a user according to an embodiment of the present invention is used for user authentication.
12 is an exemplary view for explaining a case of releasing a touch screen lock state of a mobile terminal using a user authentication method according to an embodiment of the present invention;
13 is an exemplary view for explaining camera activation and performing user authentication when user authentication of a mobile terminal according to an embodiment of the present invention is required.
14 is an exemplary view for explaining first information displayed on a display unit of an authentication result according to a first user authentication method according to an embodiment of the present invention.
15 is an exemplary view for explaining the second information displayed on the display of the authentication result according to the second user authentication method according to an embodiment of the present invention.

이하, 첨부된 도면을 참조하여 본 명세서에 개시된 실시 예를 상세히 설명하되, 도면 부호에 관계없이 동일하거나 유사한 구성요소는 동일한 참조 번호를 부여하고 이에 대한 중복되는 설명은 생략하기로 한다. 이하의 설명에서 사용되는 구성요소에 대한 접미사 "모듈" 및 "부"는 명세서 작성의 용이함만이 고려되어 부여되거나 혼용되는 것으로서, 그 자체로 서로 구별되는 의미 또는 역할을 갖는 것은 아니다. 또한, 본 명세서에 개시된 실시 예를 설명함에 있어서 관련된 공지 기술에 대한 구체적인 설명이 본 명세서에 개시된 실시 예의 요지를 흐릴 수 있다고 판단되는 경우 그 상세한 설명을 생략한다. 또한, 첨부된 도면은 본 명세서에 개시된 실시 예를 쉽게 이해할 수 있도록 하기 위한 것일 뿐, 첨부된 도면에 의해 본 명세서에 개시된 기술적 사상이 제한되지 않으며, 본 발명의 사상 및 기술 범위에 포함되는 모든 변경, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다. Hereinafter, exemplary embodiments disclosed in the present specification will be described in detail with reference to the accompanying drawings, but the same or similar elements are assigned the same reference numbers regardless of the reference numerals, and overlapping descriptions thereof will be omitted. The suffixes "modules" and "parts" for components used in the following description are given or mixed only considering the ease of writing the specification, and do not have meanings or roles that are distinguished from each other. In addition, in describing the embodiments disclosed in this specification, detailed descriptions of related well-known technologies are omitted when it is determined that they may obscure the gist of the embodiments disclosed herein. In addition, the accompanying drawings are only for easy understanding of the embodiments disclosed in the present specification, and the technical spirit disclosed in the specification is not limited by the accompanying drawings, and all modifications included in the spirit and technical scope of the present invention , It should be understood to include equivalents or substitutes.

제1, 제2 등과 같이 서수를 포함하는 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 상기 구성요소들은 상기 용어들에 의해 한정되지는 않는다. 상기 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다.Terms including ordinal numbers such as first and second may be used to describe various components, but the components are not limited by the terms. The terms are used only for the purpose of distinguishing one component from other components.

단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. Singular expressions include plural expressions unless the context clearly indicates otherwise.

본 명세서에서 설명되는 이동 단말기에는 휴대폰, 스마트 폰(smart phone), 노트북 컴퓨터(laptop computer), 디지털방송용 단말기, PDA(personal digital assistants), PMP(portable multimedia player), 네비게이션, 슬레이트 PC(slate PC), 태블릿 PC(tablet PC), 울트라북(ultrabook), 웨어러블 디바이스(wearable device, 예를 들어, 워치형 단말기 (smartwatch), 글래스형 단말기 (smart glass), HMD(head mounted display)) 등이 포함될 수 있다. Mobile terminals described herein include mobile phones, smart phones, laptop computers, digital broadcasting terminals, personal digital assistants (PDAs), portable multimedia players (PMPs), navigation, and slate PCs. , Tablet PC (tablet PC), ultrabook (ultrabook), wearable device (wearable device, for example, a watch-type terminal (smartwatch), glass-type terminal (smart glass), HMD (head mounted display), etc. may be included have.

그러나, 본 명세서에 기재된 실시 예에 따른 구성은 이동 단말기에만 적용 가능한 경우를 제외하면, 디지털 TV, 데스크탑 컴퓨터, 디지털 사이니지 등과 같은 고정 단말기에도 적용될 수도 있음을 본 기술분야의 당업자라면 쉽게 알 수 있을 것이다.However, the configuration according to the embodiment described in the present specification can be easily recognized by those skilled in the art that it may be applied to a fixed terminal such as a digital TV, a desktop computer, and a digital signage, except when applicable only to a mobile terminal. will be.

도 1는 본 발명과 관련된 이동 단말기를 설명하기 위한 블록도이고, 도 2 및 3는 본 발명과 관련된 이동 단말기의 일 예를 서로 다른 방향에서 바라본 개념도이다.1 is a block diagram illustrating a mobile terminal related to the present invention, and FIGS. 2 and 3 are conceptual views of an example of a mobile terminal related to the present invention viewed from different directions.

상기 이동 단말기(100)는 무선 통신부(110), 입력부(120), 감지부(140), 출력부(150), 인터페이스부(160), 메모리(170), 제어부(180) 및 전원 공급부(190) 등을 포함할 수 있다. 도 1에 도시된 구성요소들은 이동 단말기를 구현하는데 있어서 필수적인 것은 아니어서, 본 명세서 상에서 설명되는 이동 단말기는 위에서 열거된 구성요소들 보다 많거나, 또는 적은 구성요소들을 가질 수 있다. The mobile terminal 100 includes a wireless communication unit 110, an input unit 120, a detection unit 140, an output unit 150, an interface unit 160, a memory 170, a control unit 180, and a power supply unit 190 ) And the like. The components shown in FIG. 1 are not essential for implementing a mobile terminal, so the mobile terminal described herein may have more or fewer components than those listed above.

보다 구체적으로, 상기 구성요소들 중 무선 통신부(110)는, 이동 단말기(100)와 무선 통신 시스템 사이, 이동 단말기(100)와 다른 이동 단말기(100) 사이, 또는 이동 단말기(100)와 다른 이동 단말기(100, 또는 외부서버)가 위치한 네트워크 사이의 무선 통신을 가능하게 하는 하나 이상의 모듈을 포함할 수 있다.More specifically, among the above components, the wireless communication unit 110 moves between the mobile terminal 100 and the wireless communication system, between the mobile terminal 100 and another mobile terminal 100, or different from the mobile terminal 100. The terminal 100, or an external server, may include one or more modules that enable wireless communication between networks.

이러한 무선 통신부(110)는, 방송 수신 모듈(111), 이동통신 모듈(112), 무선 인터넷 모듈(113), 근거리 통신 모듈(114), 위치정보 모듈(115) 중 적어도 하나를 포함할 수 있다.The wireless communication unit 110 may include at least one of a broadcast receiving module 111, a mobile communication module 112, a wireless Internet module 113, a short-range communication module 114, and a location information module 115. .

입력부(120)는, 영상 신호 입력을 위한 카메라(121) 또는 영상 입력부, 오디오 신호 입력을 위한 마이크로폰(microphone, 122), 또는 오디오 입력부, 사용자로부터 정보를 입력받기 위한 사용자 입력부(123, 예를 들어, 터치키(touch key), 푸시키(mechanical key) 등)를 포함할 수 있다. 입력부(120)에서 수집한 음성 데이터나 이미지 데이터는 분석되어 사용자의 제어명령으로 처리될 수 있다.The input unit 120 may include a camera 121 for inputting a video signal or a video input unit, a microphone for inputting an audio signal (microphone 122), or an audio input unit, a user input unit 123 for receiving information from a user, for example , A touch key, a mechanical key, and the like. The voice data or image data collected by the input unit 120 may be analyzed and processed by a user's control command.

센싱부(140)는 이동 단말기 내 정보, 이동 단말기를 둘러싼 주변 환경 정보 및 사용자 정보 중 적어도 하나를 센싱하기 위한 하나 이상의 센서를 포함할 수 있다. 예를 들어, 센싱부(140)는 근접센서(141, proximity sensor), 조도 센서(142, illumination sensor), 터치 센서(touch sensor), 가속도 센서(acceleration sensor), 자기 센서(magnetic sensor), 중력 센서(G-sensor), 자이로스코프 센서(gyroscope sensor), 모션 센서(motion sensor), RGB 센서, 적외선 센서(IR 센서: infrared sensor), 지문인식 센서(finger scan sensor), 초음파 센서(ultrasonic sensor), 광 센서(optical sensor, 예를 들어, 카메라(121 참조), 마이크로폰(microphone, 122 참조), 배터리 게이지(battery gage), 환경 센서(예를 들어, 기압계, 습도계, 온도계, 방사능 감지 센서, 열 감지 센서, 가스 감지 센서 등), 화학 센서(예를 들어, 전자 코, 헬스케어 센서, 생체 인식 센서 등) 중 적어도 하나를 포함할 수 있다. 한편, 본 명세서에 개시된 이동 단말기는, 이러한 센서들 중 적어도 둘 이상의 센서에서 센싱되는 정보들을 조합하여 활용할 수 있다.The sensing unit 140 may include one or more sensors for sensing at least one of information in the mobile terminal, surrounding environment information surrounding the mobile terminal, and user information. For example, the sensing unit 140 includes a proximity sensor 141, an illumination sensor 142, a touch sensor, an acceleration sensor, a magnetic sensor, and gravity G-sensor, gyroscope sensor, motion sensor, RGB sensor, infrared sensor (IR sensor), fingerprint scan sensor, ultrasonic sensor , Optical sensor (e.g. camera (see 121)), microphone (see 122), battery gage, environmental sensor (e.g. barometer, hygrometer, thermometer, radioactivity sensor, heat Detection sensors, gas detection sensors, etc.), chemical sensors (eg, electronic nose, health care sensors, biometric sensors, etc.), on the other hand, the mobile terminal disclosed herein, such sensors, these sensors Among them, information sensed by at least two or more sensors may be used in combination.

출력부(150)는 시각, 청각 또는 촉각 등과 관련된 출력을 발생시키기 위한 것으로, 디스플레이부(151), 음향 출력부(152), 햅팁 모듈(153), 광 출력부(154) 중 적어도 하나를 포함할 수 있다. 디스플레이부(151)는 터치 센서와 상호 레이어 구조를 이루거나 일체형으로 형성됨으로써, 터치 스크린을 구현할 수 있다. 이러한 터치 스크린은, 이동 단말기(100)와 사용자 사이의 입력 인터페이스를 제공하는 사용자 입력부(123)로써 기능함과 동시에, 이동 단말기(100)와 사용자 사이의 출력 인터페이스를 제공할 수 있다.The output unit 150 is for generating output related to vision, hearing, or tactile sense, and includes at least one of a display unit 151, an audio output unit 152, a hap tip module 153, and an optical output unit 154 can do. The display unit 151 may form a mutual layer structure with the touch sensor or may be integrally formed, thereby realizing a touch screen. The touch screen may function as a user input unit 123 that provides an input interface between the mobile terminal 100 and a user, and at the same time, provide an output interface between the mobile terminal 100 and the user.

인터페이스부(160)는 이동 단말기(100)에 연결되는 다양한 종류의 외부 기기와의 통로 역할을 수행한다. 이러한 인터페이스부(160)는, 유/무선 헤드셋 포트(port), 외부 충전기 포트(port), 유/무선 데이터 포트(port), 메모리 카드(memory card) 포트, 식별 모듈이 구비된 장치를 연결하는 포트(port), 오디오 I/O(Input/Output) 포트(port), 비디오 I/O(Input/Output) 포트(port), 이어폰 포트(port) 중 적어도 하나를 포함할 수 있다. 이동 단말기(100)에서는, 상기 인터페이스부(160)에 외부 기기가 연결되는 것에 대응하여, 연결된 외부 기기와 관련된 적절할 제어를 수행할 수 있다.The interface unit 160 serves as a passage with various types of external devices connected to the mobile terminal 100. The interface unit 160 connects a device equipped with a wired/wireless headset port, an external charger port, a wired/wireless data port, a memory card port, and an identification module. It may include at least one of a port, an audio input/output (I/O) port, a video input/output (I/O) port, and an earphone port. In the mobile terminal 100, in response to an external device being connected to the interface unit 160, appropriate control related to the connected external device may be performed.

메모리(170)는 이동 단말기(100)에서 구동되는 다수의 응용 프로그램(application program 또는 애플리케이션(application)), 이동 단말기(100)의 동작을 위한 데이터들, 명령어들을 저장할 수 있다. 이러한 응용 프로그램 중 적어도 일부는, 무선 통신을 통해 외부 서버로부터 다운로드 될 수 있다. 또한 이러한 응용 프로그램 중 다른 적어도 일부는, 이동 단말기(100)의 기본적인 기능(예를 들어, 전화 착신, 발신 기능, 메시지 수신, 발신 기능)을 위하여 출고 당시부터 이동 단말기(100)상에 존재할 수 있다. 한편, 응용 프로그램은, 메모리(170)에 저장되고, 이동 단말기(100) 상에 설치되어, 제어부(180)에 의하여 상기 이동 단말기의 동작(또는 기능)을 수행하도록 구동될 수 있다.The memory 170 may store a number of application programs (application programs) driven in the mobile terminal 100, data for operating the mobile terminal 100, and instructions. At least some of these applications can be downloaded from external servers via wireless communication. In addition, at least some other of these application programs may exist on the mobile terminal 100 from the time of shipment for basic functions of the mobile terminal 100 (for example, an incoming call, a calling function, a message reception, and a calling function). . Meanwhile, the application program may be stored in the memory 170 and installed on the mobile terminal 100 to be driven by the controller 180 to perform an operation (or function) of the mobile terminal.

제어부(180)는 상기 응용 프로그램과 관련된 동작 외에도, 통상적으로 이동 단말기(100)의 전반적인 동작을 제어한다. 제어부(180)는 위에서 살펴본 구성요소들을 통해 입력 또는 출력되는 신호, 데이터, 정보 등을 처리하거나 메모리(170)에 저장된 응용 프로그램을 구동함으로써, 사용자에게 적절한 정보 또는 기능을 제공 또는 처리할 수 있다.The controller 180 controls the overall operation of the mobile terminal 100 in addition to the operations related to the application program. The controller 180 may provide or process appropriate information or functions to the user by processing signals, data, information, etc. input or output through the above-described components or by driving an application program stored in the memory 170.

또한, 제어부(180)는 메모리(170)에 저장된 응용 프로그램을 구동하기 위하여, 도 1와 함께 살펴본 구성요소들 중 적어도 일부를 제어할 수 있다. 나아가, 제어부(180)는 상기 응용 프로그램의 구동을 위하여, 이동 단말기(100)에 포함된 구성요소들 중 적어도 둘 이상을 서로 조합하여 동작시킬 수 있다.In addition, the controller 180 may control at least some of the components discussed with reference to FIG. 1 to drive an application program stored in the memory 170. Furthermore, the controller 180 may operate by combining at least two or more of the components included in the mobile terminal 100 to operate the application program.

전원공급부(190)는 제어부(180)의 제어 하에서, 외부의 전원, 내부의 전원을 인가 받아 이동 단말기(100)에 포함된 각 구성요소들에 전원을 공급한다. 이러한 전원공급부(190)는 배터리를 포함하며, 상기 배터리는 내장형 배터리 또는 교체가능한 형태의 배터리가 될 수 있다.Under the control of the controller 180, the power supply unit 190 receives external power and internal power to supply power to each component included in the mobile terminal 100. The power supply unit 190 includes a battery, and the battery may be a built-in battery or a replaceable battery.

상기 각 구성요소들 중 적어도 일부는, 이하에서 설명되는 다양한 실시 예들에 따른 이동 단말기의 동작, 제어, 또는 제어방법을 구현하기 위하여 서로 협력하여 동작할 수 있다. 또한, 상기 이동 단말기의 동작, 제어, 또는 제어방법은 상기 메모리(170)에 저장된 적어도 하나의 응용 프로그램의 구동에 의하여 이동 단말기 상에서 구현될 수 있다. At least some of the components may operate in cooperation with each other to implement an operation, control, or control method of a mobile terminal according to various embodiments described below. Also, the operation, control, or control method of the mobile terminal may be implemented on the mobile terminal by driving at least one application program stored in the memory 170.

이하에서는, 위에서 살펴본 이동 단말기(100)를 통하여 구현되는 다양한 실시 예들을 살펴보기에 앞서, 위에서 열거된 구성요소들에 대하여 도 1를 참조하여 보다 구체적으로 살펴본다.Hereinafter, before looking at various embodiments implemented through the mobile terminal 100 described above, the components listed above will be described in more detail with reference to FIG. 1.

먼저, 무선 통신부(110)에 대하여 살펴보면, 무선 통신부(110)의 방송 수신 모듈(111)은 방송 채널을 통하여 외부의 방송 관리 서버로부터 방송 신호 및/또는 방송 관련된 정보를 수신한다. 상기 방송 채널은 위성 채널, 지상파 채널을 포함할 수 있다. 적어도 두 개의 방송 채널들에 대한 동시 방송 수신 또는 방송 채널 스위칭을 위해 둘 이상의 상기 방송 수신 모듈이 상기 이동단말기(100)에 제공될 수 있다.First, referring to the wireless communication unit 110, the broadcast reception module 111 of the wireless communication unit 110 receives a broadcast signal and/or broadcast-related information from an external broadcast management server through a broadcast channel. The broadcast channel may include a satellite channel and a terrestrial channel. Two or more broadcast reception modules may be provided to the mobile terminal 100 for simultaneous broadcast reception or switching of broadcast channels for at least two broadcast channels.

이동통신 모듈(112)은, 이동통신을 위한 기술표준들 또는 통신방식(예를 들어, GSM(Global System for Mobile communication), CDMA(Code Division Multi Access), WCDMA(Wideband CDMA), HSDPA(High Speed Downlink Packet Access), LTE(Long Term Evolution) 등)에 따라 구축된 이동 통신망 상에서 기지국, 외부의 단말, 서버 중 적어도 하나와 무선 신호를 송수신한다.The mobile communication module 112 includes technical standards or communication methods for mobile communication (eg, Global System for Mobile Communication (GSM), Code Division Multi Access (CDMA), Wideband CDMA (WCDMA), High Speed for HSDPA) Downlink Packet Access (LTE, Long Term Evolution (LTE), etc.) transmits and receives wireless signals to and from at least one of a base station, an external terminal, and a server on a mobile communication network.

상기 무선 신호는, 음성 호 신호, 화상 통화 호 신호 또는 문자/멀티미디어 메시지 송수신에 따른 다양한 형태의 데이터를 포함할 수 있다. The wireless signal may include various types of data according to transmission and reception of a voice call signal, a video call signal, or a text/multimedia message.

무선 인터넷 모듈(113)은 무선 인터넷 접속을 위한 모듈을 말하는 것으로, 이동 단말기(100)에 내장되거나 외장될 수 있다. 무선 인터넷 모듈(113)은 무선 인터넷 기술들에 따른 통신망에서 무선 신호를 송수신하도록 이루어진다.The wireless Internet module 113 refers to a module for wireless Internet access, and may be built in or external to the mobile terminal 100. The wireless Internet module 113 is configured to transmit and receive wireless signals in a communication network according to wireless Internet technologies.

무선 인터넷 기술로는, 예를 들어 WLAN(Wireless LAN), WiFi(Wireless Fidelity) Direct, DLNA(Digital Living Network Alliance), Wibro(Wireless broadband), Wimax(World Interoperability for Microwave Access), HSDPA(High Speed Downlink Packet Access), LTE(Long Term Evolution) 등이 있으며, 상기 무선 인터넷 모듈(113)은 상기에서 나열되지 않은 인터넷 기술까지 포함한 범위에서 적어도 하나의 무선 인터넷 기술에 따라 데이터를 송수신하게 된다.Wireless Internet technologies include, for example, WLAN (Wireless LAN), WiFi (Wireless Fidelity) Direct, DLNA (Digital Living Network Alliance), Wibro (Wireless broadband), Wimax (World Interoperability for Microwave Access), HSDPA (High Speed Downlink) Packet Access), LTE (Long Term Evolution), and the like, and the wireless Internet module 113 transmits and receives data according to at least one wireless Internet technology in a range including Internet technologies not listed above.

Wibro, HSDPA, GSM, CDMA, WCDMA, LTE 등에 의한 무선인터넷 접속은 이동통신망을 통해 이루어진다는 관점에서 본다면, 상기 이동통신망을 통해 무선인터넷 접속을 수행하는 상기 무선 인터넷 모듈(113)은 상기 이동통신 모듈(112)의 일종으로 이해될 수도 있다.In view of the wireless Internet access by Wibro, HSDPA, GSM, CDMA, WCDMA, LTE, etc., through the mobile communication network, the wireless Internet module 113 performing wireless Internet access through the mobile communication network is the mobile communication module It may be understood as a kind of (112).

근거리 통신 모듈(114)은 근거리 통신(Short range communication)을 위한 것으로서, 블루투스(Bluetooth™), RFID(Radio Frequency Identification), 적외선 통신(Infrared Data Association; IrDA), UWB(Ultra Wideband), ZigBee, NFC(Near Field Communication), Wi-Fi(Wireless-Fidelity), Wi-Fi Direct 기술 중 적어도 하나를 이용하여, 근거리 통신을 지원할 수 있다. 이러한, 근거리 통신 모듈(114)은, 근거리 무선 개인 통신망(Wireless Personal Area Networks)을 통해 이동 단말기(100)와 무선 통신 시스템 사이, 이동 단말기(100)와 다른 이동 단말기(100) 사이, 또는 이동 단말기(100)와 다른 이동 단말기(100, 또는 외부서버)가 위치한 네트워크 사이의 무선 통신을 지원할 수 있다.The short-range communication module 114 is for short-range communication, Bluetooth™, Radio Frequency Identification (RFID), Infrared Data Association (IrDA), Ultra Wideband (UWB), ZigBee, NFC (Near Field Communication), by using at least one of Wi-Fi (Wireless-Fidelity), Wi-Fi Direct technology, it can support short-range communication. The short-range communication module 114 may be provided between the mobile terminal 100 and the wireless communication system, between the mobile terminal 100 and another mobile terminal 100, or through a mobile personal area networks. It is possible to support wireless communication between the (100) and another mobile terminal (100, or an external server) network.

여기에서, 다른 이동 단말기(100)는 본 발명에 따른 이동 단말기(100)와 데이터를 상호 교환하는 것이 가능한(또는 연동 가능한) 웨어러블 디바이스(wearable device, 예를 들어, 스마트워치(smartwatch), 스마트 글래스(smart glass), HMD(head mounted display))가 될 수 있다. 근거리 통신 모듈(114)은, 이동 단말기(100) 주변에, 상기 이동 단말기(100)와 통신 가능한 웨어러블 디바이스를 감지(또는 인식)할 수 있다. 나아가, 제어부(180)는 상기 감지된 웨어러블 디바이스가 본 발명에 따른 이동 단말기(100)와 통신하도록 인증된 디바이스인 경우, 이동 단말기(100)에서 처리되는 데이터의 적어도 일부를, 상기 근거리 통신 모듈(114)을 통해 웨어러블 디바이스로 전송할 수 있다. 따라서, 웨어러블 디바이스의 사용자는, 이동 단말기(100)에서 처리되는 데이터를, 웨어러블 디바이스를 통해 이용할 수 있다. 예를 들어, 이에 따르면 사용자는, 이동 단말기(100)에 전화가 수신된 경우, 웨어러블 디바이스를 통해 전화 통화를 수행하거나, 이동 단말기(100)에 메시지가 수신된 경우, 웨어러블 디바이스를 통해 상기 수신된 메시지를 확인하는 것이 가능하다.Here, the other mobile terminal 100 is a wearable device (for example, a smart watch), smart glasses capable of exchanging data (or interoperable) with the mobile terminal 100 according to the present invention. (smart glass), HMD (head mounted display). The short-range communication module 114 may detect (or recognize) a wearable device capable of communicating with the mobile terminal 100 around the mobile terminal 100. Furthermore, when the sensed wearable device is a device authenticated to communicate with the mobile terminal 100 according to the present invention, the controller 180 may include at least a portion of data processed by the mobile terminal 100, and the short-range communication module ( 114) to the wearable device. Accordingly, a user of the wearable device can use data processed by the mobile terminal 100 through the wearable device. For example, according to this, the user performs a phone call through the wearable device when a call is received by the mobile terminal 100 or, when a message is received by the mobile terminal 100, the received message through the wearable device It is possible to check the message.

위치정보 모듈(115)은 이동 단말기의 위치(또는 현재 위치)를 획득하기 위한 모듈로서, 그의 대표적인 예로는 GPS(Global Positioning System) 모듈 또는 WiFi(Wireless Fidelity) 모듈이 있다. 예를 들어, 이동 단말기는 GPS모듈을 활용하면, GPS 위성에서 보내는 신호를 이용하여 이동 단말기의 위치를 획득할 수 있다. 다른 예로서, 이동 단말기는 Wi-Fi모듈을 활용하면, Wi-Fi모듈과 무선신호를 송신 또는 수신하는 무선 AP(Wireless Access Point)의 정보에 기반하여, 이동 단말기의 위치를 획득할 수 있다. The location information module 115 is a module for acquiring a location (or current location) of a mobile terminal, and typical examples thereof include a Global Positioning System (GPS) module or a Wireless Fidelity (WiFi) module. For example, if the mobile terminal utilizes a GPS module, the location of the mobile terminal can be obtained using a signal sent from a GPS satellite. As another example, when the mobile terminal utilizes the Wi-Fi module, the location of the mobile terminal may be obtained based on information of a Wi-Fi module and a wireless access point (AP) that transmits or receives a wireless signal.

다음으로, 입력부(120)에 대하여 보다 구체적으로 살펴보면, 입력부(120)는 영상 정보(또는 신호), 오디오 정보(또는 신호), 또는 사용자로부터 입력되는 정보의 입력을 위한 것으로서, 영상 정보의 입력을 위하여, 이동 단말기(100) 는 하나 또는 복수의 카메라(121)를 구비할 수 있다. 카메라(121)는 화상 통화모드 또는 촬영 모드에서 이미지 센서에 의해 얻어지는 정지영상 또는 동영상 등의 화상 프레임을 처리한다. 처리된 화상 프레임은 디스플레이부(151)에 표시될 수 있다. 한편, 이동 단말기(100)에 구비되는 복수의 카메라(121)는 매트릭스 구조를 이루도록 배치될 수 있으며, 이와 같이 매트릭스 구조를 이루는 카메라(121)를 통하여, 이동 단말기(100)에는 다양한 각도 또는 초점을 갖는 복수의 영상정보가 입력될 수 있다. 또한, 복수의 카메라(121)는 입체영상을 구현하기 위한 좌 영상 및 우 영상을 획득하도록, 스트레오 구조로 배치될 수 있다.Next, looking at the input unit 120 in more detail, the input unit 120 is for input of image information (or signals), audio information (or signals), or information input from a user, and inputs image information. To this end, the mobile terminal 100 may include one or a plurality of cameras 121. The camera 121 processes image frames such as still images or moving pictures obtained by an image sensor in a video call mode or a shooting mode. The processed image frame may be displayed on the display unit 151. Meanwhile, the plurality of cameras 121 provided in the mobile terminal 100 may be arranged to form a matrix structure, and through the camera 121 forming the matrix structure, various angles or focuses may be applied to the mobile terminal 100. A plurality of image information may be input. In addition, the plurality of cameras 121 may be arranged in a stereo structure to acquire left and right images for realizing a stereoscopic image.

마이크로폰(122)은 외부의 음향 신호를 전기적인 음성 데이터로 처리한다. 처리된 음성 데이터는 이동 단말기(100)에서 수행 중인 기능(또는 실행 중인 응용 프로그램)에 따라 다양하게 활용될 수 있다. 한편, 마이크(122)에는 외부의 음향 신호를 입력 받는 과정에서 발생되는 잡음(noise)을 제거하기 위한 다양한 잡음 제거 알고리즘이 구현될 수 있다.The microphone 122 processes external sound signals as electrical voice data. The processed voice data may be used in various ways according to a function (or a running application program) being performed by the mobile terminal 100. Meanwhile, various noise cancellation algorithms for removing noise generated in the process of receiving an external sound signal may be implemented in the microphone 122.

사용자 입력부(123)는 사용자로부터 정보를 입력받기 위한 것으로서, 사용자 입력부(123)를 통해 정보가 입력되면, 제어부(180)는 입력된 정보에 대응되도록 이동 단말기(100)의 동작을 제어할 수 있다. 이러한, 사용자 입력부(123)는 기계식 (mechanical) 입력수단(또는, 메커니컬 키, 예를 들어, 이동 단말기(100)의 전·후면 또는 측면에 위치하는 버튼, 돔 스위치 (dome switch), 조그 휠, 조그 스위치 등) 및 터치식 입력수단을 포함할 수 있다. 일 예로서, 터치식 입력수단은, 소프트웨어적인 처리를 통해 터치스크린에 표시되는 가상 키(virtual key), 소프트 키(soft key) 또는 비주얼 키(visual key)로 이루어지거나, 상기 터치스크린 이외의 부분에 배치되는 터치 키(touch key)로 이루어질 수 있다. 한편, 상기 가상키 또는 비주얼 키는, 다양한 형태를 가지면서 터치스크린 상에 표시되는 것이 가능하며, 예를 들어, 그래픽(graphic), 텍스트(text), 아이콘(icon), 비디오(video) 또는 이들의 조합으로 이루어질 수 있다. The user input unit 123 is for receiving information from a user. When information is input through the user input unit 123, the controller 180 may control the operation of the mobile terminal 100 to correspond to the input information. . The user input unit 123 is a mechanical input means (or a mechanical key, for example, a button located on the front, rear or side of the mobile terminal 100, a dome switch, a jog wheel, Jog switch, etc.) and a touch input means. As an example, the touch-type input means is made of a virtual key, a soft key or a visual key displayed on the touch screen through software processing, or a part other than the touch screen It may be made of a touch key (touch key) disposed on. Meanwhile, the virtual key or the visual key may be displayed on the touch screen while having various forms, for example, a graphic, text, icon, video, or the like. It can be made of a combination of.

한편, 센싱부(140)는 이동 단말기 내 정보, 이동 단말기를 둘러싼 주변 환경 정보 및 사용자 정보 중 적어도 하나를 센싱하고, 이에 대응하는 센싱 신호를 발생시킨다. 제어부(180)는 이러한 센싱 신호에 기초하여, 이동 단말기(100)의 구동 또는 동작을 제어하거나, 이동 단말기(100)에 설치된 응용 프로그램과 관련된 데이터 처리, 기능 또는 동작을 수행 할 수 있다. 센싱부(140)에 포함될 수 있는 다양한 센서 중 대표적인 센서들의 대하여, 보다 구체적으로 살펴본다.Meanwhile, the sensing unit 140 senses at least one of information in the mobile terminal, surrounding environment information surrounding the mobile terminal, and user information, and generates a sensing signal corresponding thereto. The controller 180 may control driving or operation of the mobile terminal 100 based on the sensing signal, or perform data processing, function, or operation related to an application program installed in the mobile terminal 100. The representative sensors among various sensors that may be included in the sensing unit 140 will be described in more detail.

먼저, 근접 센서(141)는 소정의 검출면에 접근하는 물체, 혹은 근방에 존재하는 물체의 유무를 전자계의 힘 또는 적외선을 이용하여 기계적 접촉이 없이 검출하는 센서를 말한다. 이러한 근접 센서(141)는 위에서 살펴본 터치 스크린에 의해 감싸지는 이동 단말기의 내부 영역 또는 상기 터치 스크린의 근처에 근접 센서(141)가 배치될 수 있다. 근접 센서(141)는 접촉식 센서보다는 그 수명이 길며 그 활용도 또한 높다.First, the proximity sensor 141 refers to a sensor that detects the presence or absence of an object approaching a predetermined detection surface or an object in the vicinity using mechanical force or infrared light without mechanical contact. The proximity sensor 141 may be provided with the proximity sensor 141 in the inner region of the mobile terminal or the proximity of the touch screen surrounded by the touch screen as described above. The proximity sensor 141 has a longer lifespan and a higher utilization than the contact sensor.

근접 센서(141)의 예로는 투과형 광전 센서, 직접 반사형 광전 센서, 미러 반사형 광전 센서, 고주파 발진형 근접 센서, 정전 용량형 근접 센서, 자기형 근접 센서, 적외선 근접 센서 등이 있다. 터치 스크린이 정전식인 경우에, 근접 센서(141)는 전도성을 갖는 물체의 근접에 따른 전계의 변화로 상기 물체의 근접을 검출하도록 구성될 수 있다. 이 경우 터치 스크린(또는 터치 센서) 자체가 근접 센서로 분류될 수 있다. Examples of the proximity sensor 141 include a transmission type photoelectric sensor, a direct reflection type photoelectric sensor, a mirror reflection type photoelectric sensor, a high frequency oscillation type proximity sensor, a capacitive type proximity sensor, a magnetic type proximity sensor, and an infrared proximity sensor. When the touch screen is capacitive, the proximity sensor 141 may be configured to detect the proximity of the object with a change in electric field according to the proximity of the conductive object. In this case, the touch screen (or touch sensor) itself may be classified as a proximity sensor.

한편, 설명의 편의를 위해, 터치 스크린 상에 물체가 접촉되지 않으면서 근접되어 상기 물체가 상기 터치 스크린 상에 위치함이 인식되도록 하는 행위를 "근접 터치(proximity touch)"라고 명명하고, 상기 터치 스크린 상에 물체가 실제로 접촉되는 행위를 "접촉 터치(contact touch)"라고 명명한다. 상기 터치 스크린 상에서 물체가 근접 터치 되는 위치라 함은, 상기 물체가 근접 터치될 때 상기 물체가 상기 터치 스크린에 대해 수직으로 대응되는 위치를 의미한다. 상기 근접 센서(141)는, 근접 터치와, 근접 터치 패턴(예를 들어, 근접 터치 거리, 근접 터치 방향, 근접 터치 속도, 근접 터치 시간, 근접 터치 위치, 근접 터치 이동 상태 등)을 감지할 수 있다. 한편, 제어부(180)는 위와 같이, 근접 센서(141)를 통해 감지된 근접 터치 동작 및 근접 터치 패턴에 상응하는 데이터(또는 정보)를 처리하며, 나아가, 처리된 데이터에 대응하는 시각적인 정보를 터치 스크린상에 출력시킬 수 있다. 나아가, 제어부(180)는, 터치 스크린 상의 동일한 지점에 대한 터치가, 근접 터치인지 또는 접촉 터치인지에 따라, 서로 다른 동작 또는 데이터(또는 정보)가 처리되도록 이동 단말기(100)를 제어할 수 있다.On the other hand, for convenience of description, the act of allowing the object to be recognized as being located on the touch screen without being touched on the touch screen is called "proximity touch", and the touch The act of actually touching an object on the screen is called "contact touch". The location where an object is touched close on the touch screen refers to a location where the object is perpendicular to the touch screen when the object is touched close. The proximity sensor 141 may detect a proximity touch and a proximity touch pattern (eg, proximity touch distance, proximity touch direction, proximity touch speed, proximity touch time, proximity touch position, proximity touch movement state, etc.). have. Meanwhile, as described above, the controller 180 processes data (or information) corresponding to the proximity touch operation and the proximity touch pattern detected through the proximity sensor 141, and further, visual information corresponding to the processed data. It can be output on the touch screen. Furthermore, the controller 180 may control the mobile terminal 100 such that different operations or data (or information) are processed according to whether a touch on the same point on the touch screen is a proximity touch or a touch touch. .

터치 센서는 저항막 방식, 정전용량 방식, 적외선 방식, 초음파 방식, 자기장 방식 등 여러가지 터치방식 중 적어도 하나를 이용하여 터치 스크린(또는 디스플레이부(151))에 가해지는 터치(또는 터치입력)을 감지한다.The touch sensor detects a touch (or touch input) applied to the touch screen (or display unit 151) using at least one of various touch methods such as a resistive film method, a capacitive method, an infrared method, an ultrasonic method, and a magnetic field method. do.

일 예로서, 터치 센서는, 터치 스크린의 특정 부위에 가해진 압력 또는 특정 부위에 발생하는 정전 용량 등의 변화를 전기적인 입력신호로 변환하도록 구성될 수 있다. 터치 센서는, 터치 스크린 상에 터치를 가하는 터치 대상체가 터치 센서 상에 터치 되는 위치, 면적, 터치 시의 압력 등을 검출할 수 있도록 구성될 수 있다. 여기에서, 터치 대상체는 상기 터치 센서에 터치를 인가하는 물체로서, 예를 들어, 손가락, 터치펜 또는 스타일러스 펜(Stylus pen), 포인터 등이 될 수 있다. As an example, the touch sensor may be configured to convert a change in pressure applied to a specific part of the touch screen or capacitance generated in the specific part into an electrical input signal. The touch sensor may be configured to detect a position, area, pressure when a touch object is touched on the touch screen, and the like. Here, the touch object is an object that applies a touch to the touch sensor, and may be, for example, a finger, a touch pen or a stylus pen, a pointer, and the like.

이와 같이, 터치 센서에 대한 터치 입력이 있는 경우, 그에 대응하는 신호(들)는 터치 제어기로 보내진다. 터치 제어기는 그 신호(들)를 처리한 다음 대응하는 데이터를 제어부(180)로 전송한다. 이로써, 제어부(180)는 디스플레이부(151)의 어느 영역이 터치 되었는지 여부 등을 알 수 있게 된다. 여기에서, 터치 제어기는, 제어부(180)와 별도의 구성요소일 수 있고, 제어부(180) 자체일 수 있다. As such, when there is a touch input to the touch sensor, the signal(s) corresponding to the touch is sent to the touch controller. The touch controller processes the signal(s) and then transmits corresponding data to the controller 180. Accordingly, the control unit 180 can know which area of the display unit 151 has been touched, and the like. Here, the touch controller may be a separate component from the controller 180, or may be the controller 180 itself.

한편, 제어부(180)는, 터치 스크린(또는 터치 스크린 이외에 구비된 터치키)을 터치하는, 터치 대상체의 종류에 따라 서로 다른 제어를 수행하거나, 동일한 제어를 수 행할 수 있다. 터치 대상체의 종류에 따라 서로 다른 제어를 수행할지 또는 동일한 제어를 수행할 지는, 현재 이동 단말기(100)의 동작상태 또는 실행 중인 응용 프로그램에 따라 결정될 수 있다. Meanwhile, the controller 180 may perform different controls or perform the same control according to the type of the touch object that touches the touch screen (or a touch key provided in addition to the touch screen). Whether to perform different control or the same control according to the type of the touch object, it may be determined according to the current operating state of the mobile terminal 100 or the running application program.

한편, 위에서 살펴본 터치 센서 및 근접 센서는 독립적으로 또는 조합되어, 터치 스크린에 대한 숏(또는 탭) 터치(short touch), 롱 터치(long touch), 멀티 터치(multi touch), 드래그 터치(drag touch), 플리크 터치(flick touch), 핀치-인 터치(pinch-in touch), 핀치-아웃 터치(pinch-out 터치), 스와이프(swype) 터치, 호버링(hovering) 터치 등과 같은, 다양한 방식의 터치를 센싱할 수 있다.On the other hand, the touch sensors and proximity sensors described above can be independently or in combination, such as short (or tap) touch on the touch screen, long touch, multi touch, drag touch ), flick touch, pinch-in touch, pinch-out touch, swipe touch, hovering touch, etc. You can sense the touch.

초음파 센서는 초음파를 이용하여, 감지대상의 위치정보를 인식할 수 있다. 한편 제어부(180)는 광 센서와 복수의 초음파 센서로부터 감지되는 정보를 통해, 파동 발생원의 위치를 산출하는 것이 가능하다. 파동 발생원의 위치는, 광이 초음파보다 매우 빠른 성질, 즉, 광이 광 센서에 도달하는 시간이 초음파가 초음파 센서에 도달하는 시간보다 매우 빠름을 이용하여, 산출될 수 있다. 보다 구체적으로 광을 기준 신호로 초음파가 도달하는 시간과의 시간차를 이용하여 파동 발생원의 위치가 산출될 수 있다.The ultrasonic sensor may recognize location information of a sensing target using ultrasonic waves. Meanwhile, the control unit 180 may calculate the position of the wave generating source through information sensed by the optical sensor and the plurality of ultrasonic sensors. The position of the wave generator can be calculated by using a property in which light is much faster than ultrasonic waves, that is, a time when light reaches the optical sensor is much faster than a time when ultrasonic waves reach the ultrasonic sensor. More specifically, the position of the wave generating source may be calculated by using a time difference from the time at which ultrasonic waves reach the light as a reference signal.

한편, 입력부(120)의 구성으로 살펴본, 카메라(121)는 카메라 센서의 일종으로, 이러한 카메라 센서는, 카메라(121), 포토 센서 및 레이저 센서 중 적어도 하나를 포함한다.On the other hand, the camera 121, which is considered as the configuration of the input unit 120, is a type of camera sensor, and the camera sensor includes at least one of a camera 121, a photo sensor, and a laser sensor.

카메라(121)와 레이저 센서는 서로 조합되어, 3차원 입체영상에 대한 감지대상의 터치를 감지할 수 있다. 포토 센서는 디스플레이 소자에 적층될 수 있는데, 이러한 포토 센서는 터치 스크린에 근접한 감지대상의 움직임을 스캐닝하도록 이루어진다. 보다 구체적으로, 포토 센서는 행/열에 Photo Diode와 TR(Transistor)를 실장하여 Photo Diode에 인가되는 빛의 양에 따라 변화되는 전기적 신호를 이용하여 포토 센서 위에 올려지는 내용물을 스캔한다. 즉, 포토 센서는 빛의 변화량에 따른 감지대상의 좌표 계산을 수행하며, 이를 통하여 감지대상의 위치정보가 획득될 수 있다.The camera 121 and the laser sensor may be combined with each other to detect a touch of a sensing target for a 3D stereoscopic image. The photo sensor may be stacked on a display element, which is configured to scan the movement of the sensing object close to the touch screen. More specifically, the photo sensor mounts photo diodes and TRs (transistors) in rows/columns to scan the contents placed on the photo sensor using electrical signals that change according to the amount of light applied to the photo diode. That is, the photo sensor performs coordinate calculation of the sensing target according to the amount of change of light, and through this, location information of the sensing target may be obtained.

디스플레이부(151)는 이동 단말기(100)에서 처리되는 정보를 표시(출력)한다. 예를 들어, 디스플레이부(151)는 이동 단말기(100)에서 구동되는 응용 프로그램의 실행화면 정보, 또는 이러한 실행화면 정보에 따른 UI(User Interface), GUI(Graphic User Interface) 정보를 표시할 수 있다. The display unit 151 displays (outputs) information processed by the mobile terminal 100. For example, the display unit 151 may display execution screen information of an application program driven by the mobile terminal 100, or user interface (UI) or graphical user interface (GUI) information according to the execution screen information. .

또한, 상기 디스플레이부(151)는 입체영상을 표시하는 입체 디스플레이부로서 구성될 수 있다.In addition, the display unit 151 may be configured as a stereoscopic display unit for displaying a stereoscopic image.

상기 입체 디스플레이부에는 스테레오스코픽 방식(안경 방식), 오토 스테레오스코픽 방식(무안경 방식), 프로젝션 방식(홀로그래픽 방식) 등의 3차원 디스플레이 방식이 적용될 수 있다. A three-dimensional display method such as a stereoscopic method (glasses method), an auto stereoscopic method (glasses-free method), or a projection method (holographic method) may be applied to the stereoscopic display unit.

음향 출력부(152)는 호신호 수신, 통화모드 또는 녹음 모드, 음성인식 모드, 방송수신 모드 등에서 무선 통신부(110)로부터 수신되거나 메모리(170)에 저장된 오디오 데이터를 출력할 수 있다. 음향 출력부(152)는 이동 단말기(100)에서 수행되는 기능(예를 들어, 호신호 수신음, 메시지 수신음 등)과 관련된 음향 신호를 출력하기도 한다. 이러한 음향 출력부(152)에는 리시버(receiver), 스피커(speaker), 버저(buzzer) 등이 포함될 수 있다.The audio output unit 152 may output audio data received from the wireless communication unit 110 or stored in the memory 170 in a call signal reception, call mode or recording mode, voice recognition mode, broadcast reception mode, or the like. The sound output unit 152 may also output sound signals related to functions (for example, call signal reception sound, message reception sound, etc.) performed by the mobile terminal 100. The sound output unit 152 may include a receiver, a speaker, a buzzer, and the like.

햅틱 모듈(haptic module)(153)은 사용자가 느낄 수 있는 다양한 촉각 효과를 발생시킨다. 햅틱 모듈(153)이 발생시키는 촉각 효과의 대표적인 예로는 진동이 될 수 있다. 햅택 모듈(153)에서 발생하는 진동의 세기와 패턴 등은 사용자의 선택 또는 제어부의 설정에 의해 제어될 수 있다. 예를 들어, 상기 햅틱 모듈(153)은 서로 다른 진동을 합성하여 출력하거나 순차적으로 출력할 수도 있다.The haptic module 153 generates various tactile effects that the user can feel. A typical example of the tactile effect generated by the haptic module 153 may be vibration. The intensity and pattern of vibration generated in the haptic module 153 may be controlled by a user's selection or setting of a control unit. For example, the haptic module 153 may synthesize different vibrations and output them sequentially or sequentially.

햅틱 모듈(153)은, 진동 외에도, 접촉 피부면에 대해 수직 운동하는 핀 배열, 분사구나 흡입구를 통한 공기의 분사력이나 흡입력, 피부 표면에 대한 스침, 전극(eletrode)의 접촉, 정전기력 등의 자극에 의한 효과와, 흡열이나 발열 가능한 소자를 이용한 냉온감 재현에 의한 효과 등 다양한 촉각 효과를 발생시킬 수 있다.In addition to vibration, the haptic module 153 is suitable for stimulation of pin arrangements that vertically move to the contact skin surface, spray or suction power of air through a spray or intake, grazing on the skin surface, contact of an electrode, and electrostatic force. Various tactile effects can be generated, such as the effect of the product and the effect of reproducing the feeling of cold and warm using an element capable of absorbing heat or generating heat.

햅틱 모듈(153)은 직접적인 접촉을 통해 촉각 효과를 전달할 수 있을 뿐만 아니라, 사용자가 손가락이나 팔 등의 근 감각을 통해 촉각 효과를 느낄 수 있도록 구현할 수도 있다. 햅틱 모듈(153)은 이동 단말기(100)의 구성 태양에 따라 2개 이상이 구비될 수 있다.The haptic module 153 may not only deliver a tactile effect through direct contact, but may also be implemented so that the user can feel the tactile effect through muscle sensations such as fingers or arms. Two or more haptic modules 153 may be provided according to a configuration aspect of the mobile terminal 100.

광출력부(154)는 이동 단말기(100)의 광원의 빛을 이용하여 이벤트 발생을 알리기 위한 신호를 출력한다. 이동 단말기(100)에서 발생 되는 이벤트의 예로는 메세지 수신, 호 신호 수신, 부재중 전화, 알람, 일정 알림, 이메일 수신, 어플리케이션을 통한 정보 수신 등이 될 수 있다.The light output unit 154 outputs a signal for notifying the occurrence of an event using the light of the light source of the mobile terminal 100. Examples of events occurring in the mobile terminal 100 may include receiving messages, receiving call signals, missed calls, alarms, schedule notifications, receiving emails, and receiving information through applications.

광출력부(154)가 출력하는 신호는 이동 단말기가 전면이나 후면으로 단색이나 복수색의 빛을 발광함에 따라 구현된다. 상기 신호 출력은 이동 단말기가 사용자의 이벤트 확인을 감지함에 의하여 종료될 수 있다.The signal output by the light output unit 154 is implemented as the mobile terminal emits light of a single color or a plurality of colors to the front or rear. The signal output may be terminated by the mobile terminal detecting the user's event confirmation.

인터페이스부(160)는 이동 단말기(100)에 연결되는 모든 외부 기기와의 통로 역할을 한다. 인터페이스부(160)는 외부 기기로부터 데이터를 전송받거나, 전원을 공급받아 이동 단말기(100) 내부의 각 구성요소에 전달하거나, 이동 단말기(100) 내부의 데이터가 외부 기기로 전송되도록 한다. 예를 들어, 유/무선 헤드셋 포트(port), 외부 충전기 포트(port), 유/무선 데이터 포트(port), 메모리 카드(memory card) 포트(port), 식별 모듈이 구비된 장치를 연결하는 포트(port), 오디오 I/O(Input/Output) 포트(port), 비디오 I/O(Input/Output) 포트(port), 이어폰 포트(port) 등이 인터페이스부(160)에 포함될 수 있다.The interface unit 160 serves as a passage with all external devices connected to the mobile terminal 100. The interface unit 160 receives data from an external device, receives power, transfers it to each component inside the mobile terminal 100, or allows data inside the mobile terminal 100 to be transmitted to the external device. For example, a wired/wireless headset port, an external charger port, a wired/wireless data port, a memory card port, a port for connecting a device equipped with an identification module (port), an audio input/output (I/O) port, a video input/output (I/O) port, an earphone port, and the like may be included in the interface unit 160.

한편, 식별 모듈은 이동 단말기(100)의 사용 권한을 인증하기 위한 각종 정보를 저장한 칩으로서, 사용자 인증 모듈(user identify module; UIM), 가입자 인증 모듈(subscriber identity module; SIM), 범용 사용자 인증 모듈(universal subscriber identity module; USIM) 등을 포함할 수 있다. 식별 모듈이 구비된 장치(이하 '식별 장치')는, 스마트 카드(smart card) 형식으로 제작될 수 있다. 따라서 식별 장치는 상기 인터페이스부(160)를 통하여 단말기(100)와 연결될 수 있다.On the other hand, the identification module is a chip that stores various information for authenticating the usage rights of the mobile terminal 100, a user identification module (UIM), a subscriber identity module (SIM), universal user authentication It may include a module (universal subscriber identity module; USIM). The device provided with the identification module (hereinafter referred to as an'identification device') may be manufactured in a smart card format. Accordingly, the identification device may be connected to the terminal 100 through the interface unit 160.

또한, 상기 인터페이스부(160)는 이동 단말기(100)가 외부 크래들(cradle)과 연결될 때 상기 크래들로부터의 전원이 상기 이동 단말기(100)에 공급되는 통로가 되거나, 사용자에 의해 상기 크래들에서 입력되는 각종 명령 신호가 상기 이동 단말기(100)로 전달되는 통로가 될 수 있다. 상기 크래들로부터 입력되는 각종 명령 신호 또는 상기 전원은 상기 이동 단말기(100)가 상기 크래들에 정확히 장착되었음을 인지하기 위한 신호로 동작될 수 있다.In addition, when the mobile terminal 100 is connected to an external cradle, the interface unit 160 becomes a passage through which power from the cradle is supplied to the mobile terminal 100 or is input by the user from the cradle. Various command signals may be passages to the mobile terminal 100. Various command signals or power inputted from the cradle may be operated as signals for recognizing that the mobile terminal 100 is correctly mounted on the cradle.

메모리(170)는 제어부(180)의 동작을 위한 프로그램을 저장할 수 있고, 입/출력되는 데이터들(예를 들어, 폰북, 메시지, 정지영상, 동영상 등)을 임시 저장할 수도 있다. 상기 메모리(170)는 상기 터치 스크린 상의 터치 입력시 출력되는 다양한 패턴의 진동 및 음향에 관한 데이터를 저장할 수 있다.The memory 170 may store a program for the operation of the controller 180 and temporarily store input/output data (eg, a phone book, a message, a still image, a video, etc.). The memory 170 may store data related to various patterns of vibration and sound output when a touch is input on the touch screen.

메모리(170)는 플래시 메모리 타입(flash memory type), 하드디스크 타입(hard disk type), 멀티미디어 카드 마이크로 타입(multimedia card micro type), 카드 타입의 메모리(예를 들어 SD 또는 XD 메모리 등), 램(random access memory; RAM), SRAM(static random access memory), 롬(read-only memory; ROM), EEPROM(electrically erasable programmable read-only memory), PROM(programmable read-only memory), 자기 메모리, 자기 디스크 및 광디스크 중 적어도 하나의 타입의 저장매체를 포함할 수 있다. 이동 단말기(100)는 인터넷(internet)상에서 상기 메모리(170)의 저장 기능을 수행하는 웹 스토리지(web storage)와 관련되어 동작될 수도 있다.The memory 170 is a flash memory type, a hard disk type, a multimedia card micro type, a card type memory (for example, SD or XD memory, etc.), RAM. (random access memory; RAM), static random access memory (SRAM), read-only memory (ROM), electrically erasable programmable read-only memory (EEPROM), programmable read-only memory (PROM), magnetic memory, magnetic It may include a storage medium of at least one type of a disc and an optical disc. The mobile terminal 100 may be operated in connection with a web storage performing a storage function of the memory 170 on the Internet.

한편, 앞서 살펴본 것과 같이, 제어부(180)는 응용 프로그램과 관련된 동작과, 통상적으로 이동 단말기(100)의 전반적인 동작을 제어한다. 예를 들어, 제어부(180)는 상기 이동 단말기의 상태가 설정된 조건을 만족하면, 애플리케이션들에 대한 사용자의 제어 명령의 입력을 제한하는 잠금 상태를 실행하거나, 해제할 수 있다. Meanwhile, as described above, the controller 180 controls the operation related to the application program and the overall operation of the mobile terminal 100 in general. For example, if the state of the mobile terminal satisfies a set condition, the controller 180 may execute or release a lock state that limits the input of a user's control command to applications.

또한, 제어부(180)는 음성 통화, 데이터 통신, 화상 통화 등과 관련된 제어 및 처리를 수행하거나, 터치 스크린 상에서 행해지는 필기 입력 또는 그림 그리기 입력을 각각 문자 및 이미지로 인식할 수 있는 패턴 인식 처리를 행할 수 있다. 나아가 제어부(180)는 이하에서 설명되는 다양한 실시 예들을 본 발명에 따른 이동 단말기(100) 상에서 구현하기 위하여, 위에서 살펴본 구성요소들을 중 어느 하나 또는 복수를 조합하여 제어할 수 있다.In addition, the controller 180 performs control and processing related to voice calls, data communication, video calls, etc., or performs pattern recognition processing capable of recognizing handwriting input or picture drawing input performed on a touch screen as text and images, respectively. Can. Furthermore, in order to implement various embodiments described below on the mobile terminal 100 according to the present invention, the controller 180 may control any one or a combination of the above-described components.

전원 공급부(190)는 제어부(180)의 제어에 의해 외부의 전원, 내부의 전원을 인가 받아 각 구성요소들의 동작에 필요한 전원을 공급한다. 전원공급부(190)는 배터리를 포함하며, 배터리는 충전 가능하도록 이루어지는 내장형 배터리가 될 수 있으며, 충전 등을 위하여 단말기 바디에 착탈 가능하게 결합될 수 있다.The power supply unit 190 receives external power and internal power under the control of the controller 180 and supplies power required for the operation of each component. The power supply unit 190 includes a battery, and the battery may be a built-in battery made to be rechargeable, and may be detachably coupled to a terminal body for charging and the like.

또한, 전원공급부(190)는 연결포트를 구비할 수 있으며, 연결포트는 배터리의 충전을 위하여 전원을 공급하는 외부 충전기가 전기적으로 연결되는 인터페이스(160)의 일 예로서 구성될 수 있다.In addition, the power supply unit 190 may include a connection port, and the connection port may be configured as an example of an interface 160 to which an external charger that supplies power for charging the battery is electrically connected.

다른 예로서, 전원공급부(190)는 상기 연결포트를 이용하지 않고 무선방식으로 배터리를 충전하도록 이루어질 수 있다. 이 경우에, 전원공급부(190)는 외부의 무선 전력 전송장치로부터 자기 유도 현상에 기초한 유도 결합(Inductive Coupling) 방식이나 전자기적 공진 현상에 기초한 공진 결합(Magnetic Resonance Coupling) 방식 중 하나 이상을 이용하여 전력을 전달받을 수 있다.As another example, the power supply unit 190 may be configured to charge the battery wirelessly without using the connection port. In this case, the power supply unit 190 uses one or more of an inductive coupling method based on a magnetic induction phenomenon from an external wireless power transmission device or a magnetic resonance coupling method based on an electromagnetic resonance phenomenon. Power can be delivered.

한편, 이하에서 다양한 실시 예는 예를 들어, 소프트웨어, 하드웨어 또는 이들의 조합된 것을 이용하여 컴퓨터 또는 이와 유사한 장치로 읽을 수 있는 기록매체 내에서 구현될 수 있다. Meanwhile, various embodiments below may be implemented in a recording medium readable by a computer or a similar device using, for example, software, hardware, or a combination thereof.

도 2 및 3을 참조하면, 개시된 이동 단말기(100)는 바 형태의 단말기 바디를 구비하고 있다. 다만, 본 발명은 여기에 한정되지 않고 와치 타입, 클립 타입, 글래스 타입 또는 2 이상의 바디들이 상대 이동 가능하게 결합되는 폴더 타입, 플립 타입, 슬라이드 타입, 스윙 타입, 스위블 타입 등 다양한 구조에 적용될 수 있다. 2 and 3, the disclosed mobile terminal 100 has a bar-shaped terminal body. However, the present invention is not limited to this, and may be applied to various structures such as a watch type, a clip type, a glass type, or a folder type, a flip type, a slide type, a swing type, a swivel type to which two or more bodies are movably coupled. .

나아가, 본 발명에 따른 이동 단말기(100)는 디스플레이부(151)가 터치스크린인 경우, 더욱 용이하게 실시될 수 있으므로, 이하에서는 디스플레이부(151)가 터치스크린인 것으로 가정한다.Furthermore, since the mobile terminal 100 according to the present invention can be more easily implemented when the display unit 151 is a touch screen, it is assumed hereafter that the display unit 151 is a touch screen.

본 명세서에서, 제 1 얼굴 이미지란. 이동 단말기(100)의 카메라(121)에 입력되는 인물의 얼굴 이미지를 의미하며, 특히, 제 1 얼굴 이미지는 후술할 제 2 얼굴 이미지 대비 얼굴 인식을 위한 얼굴 요소 전반이 포함된 이미지를 의미한다. 제 1 얼굴 이미지는 인물의 얼굴 윤곽, 눈썹, 양 눈 또는 한쪽 눈, 코 및 입 등의 얼굴 요소를 포함할 수 있다. 또한, 제 1 얼굴 이미지는 얼굴 요소로 인물의 귀, 턱 등 다른 요소를 추가적으로 포함하는 이미지 일 수도 있다. In this specification, the first face image. The face image of the person input to the camera 121 of the mobile terminal 100 means, in particular, the first face image means an image including the entire face element for face recognition compared to the second face image to be described later. The first face image may include facial elements of a person's face, eyebrows, both eyes or one eye, nose and mouth. Also, the first face image may be an image that additionally includes other elements such as a person's ear and chin as face elements.

제어부(180)는 상기 카메라(121)를 통해 인식되는 제 1 얼굴 이미지를 기초로 이동 단말기(100)의 사용자 인증을 행할 수 있으며, 제 1 얼굴 이미지를 기초로 수행되는 사용자 인증을 제 1 사용자 인증이라고 한다. The controller 180 may perform user authentication of the mobile terminal 100 based on the first face image recognized through the camera 121, and the first user authentication may be performed based on the first face image. It is said.

즉, 제어부(180)는 인물의 제 1 얼굴 이미지가 카메라(121)를 통해 입력되면, 인물의 얼굴을 배경과 구별하여 인식하고, 제 1 얼굴 이미지 상의 얼굴 요소를 통해 얼굴 이미지에 해당하는 인물이 사용자인지 판단할 수 있다. 이때, 제어부(180)는 사용자 또는 제조자의 설정에 따라 미리 설정된 얼굴 요소를 기초로 제 1 사용자 인증을 수행할 수 있다. That is, when the first face image of the person is input through the camera 121, the controller 180 recognizes the face of the person by distinguishing it from the background, and the person corresponding to the face image through the face element on the first face image You can determine if you are a user. At this time, the controller 180 may perform the first user authentication based on a preset face element according to a user or manufacturer setting.

즉, 제어부(180)는 상술한 얼굴 요소 전부를 사용자 인증을 위한 인자로 이용하는 것이 아니라, 미리 설정된 얼굴 요소를 기초로 제 1 사용자 인증을 수행할 수 있다. 예를 들어, 사용자가 제 1 사용자 인증을 수행하기 위한 인자로 제 1 얼굴 이미지 상의 얼굴 요소 중 양 눈, 코 등을 설정한 경우, 제어부(180)는 제 1 얼굴 이미지 상의 양 눈의 모양, 각 눈 사이의 거리, 코의 모양 및 코와 양 눈 사이의 거리 등을 인식하여 제 1 사용자 인증을 수행할 수 있다. 다만, 제 1 사용자 인증은 얼굴 인식을 통해 이뤄지므로, 제 1 사용자 인증을 위하여 미리 설정된 얼굴 요소는 복수개인 것으로 가정하도록 한다. That is, the controller 180 may not use all of the above-described face elements as a factor for user authentication, but may perform first user authentication based on a preset face element. For example, when the user sets both eyes and nose among the face elements on the first face image as a factor for performing the first user authentication, the controller 180 may control the shape of each eye on the first face image, each The first user authentication may be performed by recognizing the distance between the eyes, the shape of the nose, and the distance between the nose and both eyes. However, since the first user authentication is performed through face recognition, it is assumed that there are a plurality of preset face elements for the first user authentication.

특히, 사용자 인증에 있어 인식률 및 정확도를 향상시키기 위하여, 경우에 따라 사용자는 제 1 얼굴 이미지 상의 얼굴 요소 전부를 제 1 사용자 인증을 위한 인자로 설정할 수도 있다.In particular, in order to improve recognition rate and accuracy in user authentication, in some cases, the user may set all face elements on the first face image as a factor for first user authentication.

본 명세서에서, 제 2 얼굴 이미지란. 제 1 사용자 인증에 필요한 얼굴 요소들 중 일부가 결여된 이미지를 의미한다. 특히, 제 2 얼굴 이미지는 카메라(121)를 통해 입력되는 얼굴의 일부 이미지일 수 있으며, 제 1 얼굴 이미지 상의 얼굴 요소 중 일부를 포함할 수도 있다. 또한, 제 2 얼굴 이미지는 제 1 사용자 인증을 위하여 미리 설정된 얼굴 요소들 중 일부가 결여된 이미지일 수도 있다. In the present specification, the second face image. It means an image that lacks some of the face elements necessary for the first user authentication. In particular, the second face image may be a partial image of a face input through the camera 121, or may include some of the face elements on the first face image. Also, the second face image may be an image that lacks some of the face elements preset for the first user authentication.

즉, 제 1 얼굴 이미지에 포함된 얼굴 요소 중 미리 설정된 복수개의 얼굴 요소는 제 1 사용자 인증에 이용되는데, 만약, 입력되는 이미지가 복수개의 얼굴 요소 중 일부가 결여된 경우, 제어부(180)는 입력되는 이미지를 제 2 얼굴 이미지로 인식할 수 있다. That is, among the face elements included in the first face image, a plurality of preset face elements are used for first user authentication. If the input image lacks some of the plurality of face elements, the controller 180 inputs The image can be recognized as a second face image.

예를 들어, 제 1 얼굴 이미지 상에 얼굴 요소로 인물의 양 눈, 코 및 입이 포함되어 있고, 제 1 사용자 인증을 위한 인자로 미리 설정된 얼굴 요소가 양 눈과 코인 경우를 가정하도록 한다. 이때, 사용자의 얼굴과 이동 단말기(100)의 카메라(12!) 사이의 거리가 가까우면, 제 1 얼굴 이미지 중 일부가 카메라(121)를 통해 입력될 수 있다. For example, it is assumed that both eyes, nose, and mouth of a person are included as face elements on the first face image, and that the face elements preset as the factors for the first user authentication are both eyes and nose. At this time, if the distance between the user's face and the camera 12! of the mobile terminal 100 is close, some of the first face images may be input through the camera 121.

특히, 이때, 입력되는 일부 이미지는 제 1 얼굴 이미지 상의 얼굴 요소 중, 입과 한쪽 눈이 제외된 이미지일 수 있다. 즉, 제 1 사용자 인증을 위한 얼굴 요소는 양 눈과 코인데, 양 눈의 얼굴 요소 중 일부가 결여된 한쪽 눈과 코가 포함된 얼굴 이미지가 본 발명의 제 2 얼굴 이미지일 수 있다. 또는, 상기 예에서 코를 제외하고 양 눈 또는 한쪽 눈만 포함된 얼굴 이미지가 본 발명의 제 2 얼굴 이미지일 수도 있다. 또는, 상기 예에서 양 눈이 제외되고, 코만 포함된 이미지가 본 발명의 제 2 이미지일수도 있다. In particular, at this time, some of the input images may be images in which the mouth and one eye are excluded among the face elements on the first face image. That is, the face elements for the first user authentication are both eyes and nose, and a face image including one eye and nose lacking some of the face elements of both eyes may be the second face image of the present invention. Alternatively, in the above example, the face image including both eyes or one eye except the nose may be the second face image of the present invention. Alternatively, in the above example, an image in which both eyes are excluded and only the nose is included may be the second image of the present invention.

이와 같은 제 2 얼굴 이미지가 입력되면, 제어부(180)는 제 2 얼굴 이미지로부터 도출해 낼 수 있는 얼굴 요소들 중 적어도 하나를 이용하여 제 2 사용자 인증을 행할 수 있다. 즉, 상기 예에서, 제 2 얼굴 이미지에 얼굴 요소 한쪽 눈과 코가 포함된 경우, 제어부(180)는 이 중에서 한쪽 눈 및 코 중 적어도 하나를 이용하여 사용자 인증을 수행할 수 있다. When the second face image is input, the controller 180 can perform the second user authentication using at least one of the face elements that can be derived from the second face image. That is, in the above example, when the second face image includes one eye and nose of the face element, the controller 180 may perform user authentication using at least one of the one eye and nose.

만약, 제어부(180)가 한쪽 눈만을 이용하여 사용자 인증을 행하는 경우, 제어부(180)는 한쪽 눈의 홍채를 인식하여 사용자 인증을 행할 수도 있다. 즉, 제어부(180)는 입력된 이미지 상의 얼굴 요소로 홍채를 인식하여, 저장된 홍채의 패턴과 비교함으로써 사용자 인증을 수행할 수 있다. 이와 같이 제 2 얼굴 이미지를 이용하여 제어부(180)가 수행하는 사용자 인증을 제 2 사용자 인증이라고 한다.If the controller 180 performs user authentication using only one eye, the controller 180 may recognize the iris of one eye and perform user authentication. That is, the controller 180 may recognize the iris as a face element on the input image and compare the stored iris pattern to perform user authentication. The user authentication performed by the controller 180 using the second face image as described above is referred to as second user authentication.

상기와 같이, 카메라(121)를 통해 입력된 제 2 얼굴 이미지 상에 제 1 사용자 인증을 위한 얼굴 요소 중 일부가 결여된 경우에, 제 1 사용자 인증을 위한 얼굴 요소 중 결여된 일부 요소를 제외한 나머지 제 2 얼굴 이미지 상의 얼굴 요소 전부를 이용하여 사용자 인증을 수행할 것인지, 특정 얼굴 요소만을 이용하여 사용자 인증을 수행할 것인지는 사용자 또는 제조자의 설정에 따라 결정될 수 있다. As described above, when some of the face elements for the first user authentication are missing on the second face image input through the camera 121, the remaining elements other than the missing one of the face elements for the first user authentication are excluded. Whether to perform user authentication using all face elements on the second face image or user authentication using only specific face elements may be determined according to a user or manufacturer's setting.

또한, 특정 얼굴 요소만을 이용하여 사용자 인증을 수행하는 경우, 인식된 얼굴 요소 중 어떤 얼굴 요소를 특정하거나, 우선적으로 이용하여 사용자 인증을 수행할 것인지 여부 역시 사용자 또는 제조자의 설정에 따라 결정될 수 있다. In addition, when performing user authentication using only a specific face element, it may also be determined according to a user or a manufacturer's setting whether to recognize a face element among the recognized face elements or to perform user authentication preferentially.

한편, 제 2 얼굴 이미지가 제 1 사용자 인증을 위한 얼굴 요소 중 일부가 결여된 이미지인 경우를 설명하였으나, 경우에 따라 제 1 사용자 인증을 위한 얼굴 요소 중 전부가 결여된 이미지도 제 2 얼굴 이미지가 될 수 있다.On the other hand, the case where the second face image is an image in which some of the face elements for the first user authentication are lacking is described, but in some cases, the image in which all of the face elements for the first user authentication is missing also has the second face image. Can be.

상기 예에서 카메라(121)를 통해 입력되는 얼굴 이미지가 사용자의 입만을 얼굴 요소로 포함하는 경우에, 제 2 얼굴 이미지는 얼굴 요소 중 입을 포함하는 이미지이며, 제어부(180)는 얼굴 요소 입을 이용하여 제 2 사용자 인증을 수행할 수도 있다. In the above example, when the face image input through the camera 121 includes only the user's mouth as a face element, the second face image is an image including the mouth among the face elements, and the controller 180 uses the face element mouth Second user authentication may be performed.

이하, 도 4 내지 도 15를 참조하여, 본 발명에 대하여 구체적으로 설명하도록 한다.Hereinafter, the present invention will be described in detail with reference to FIGS. 4 to 15.

도 4는 본 발명의 실시예에 따른 이동 단말기의 동작 흐름도이다. 또한, 도 5는 본 발명의 실시예에 따른 이동 단말기에 적용되는 사용자 얼굴을 이용한 사용자 인증 방식을 설명하기 위한 예시도이고, 도 6은 본 발명의 실시예에 따른 이동 단말기에 적용되는 사용자 얼굴 중 일부를 이용한 사용자 인증 방식을 설명하기 위한 예시도이다.4 is an operation flowchart of a mobile terminal according to an embodiment of the present invention. In addition, FIG. 5 is an exemplary view for explaining a user authentication method using a user face applied to a mobile terminal according to an embodiment of the present invention, and FIG. 6 is one of user faces applied to a mobile terminal according to an embodiment of the present invention It is an example for explaining the user authentication method using a part.

도 4를 참조하면, 제어부(180)는 사용자 인증을 위하여 카메라(121)가 활성화 되도록 제어할 수 있다(401). 사용자 인증을 위하여, 제어부(180)가 카메라(121)를 활성화시키는 경우의 예시는 도 12 및 도 13에 대한 설명에서 후술하도록 한다. Referring to FIG. 4, the controller 180 may control the camera 121 to be activated for user authentication (401). For user authentication, an example when the controller 180 activates the camera 121 will be described later in the description of FIGS. 12 and 13.

도 5의 (a)에서, 사용자(500)가 이동 단말기(100)를 소정의 거리에서 파지하고 있는 경우가 도시되었다. 상기 소정의 거리에서 활성화된 카메라(121)를 통해 사용자의 얼굴 이미지가 입력되면, 제어부(180)는 입력된 얼굴 이미지를 배경 이미지와 구분하여, 입력된 얼굴 이미지가 제 1 얼굴 이미지에 해당하는지 판단할 수 있다(403). 즉, 제어부(180)는 카메라(121)를 통해 입력된 얼굴 이미지 상의 얼굴 요소를 인식할 수 있으며, 입력된 얼굴 이미지가 제 1 사용자 인증을 위한 얼굴 요소를 포함하고 있는지 판단할 수 있다. 이때, 제어부(180)는 입력되는 제 1 얼굴 이미지(505)가 디스플레이부(151)를 통해 디스플레이되도록 제어할 수 있다. In (a) of FIG. 5, a case is illustrated in which the user 500 is holding the mobile terminal 100 at a predetermined distance. When a user's face image is input through the camera 121 activated at the predetermined distance, the controller 180 distinguishes the input face image from the background image, and determines whether the input face image corresponds to the first face image It can be done (403). That is, the controller 180 may recognize a face element on the face image input through the camera 121 and determine whether the input face image includes a face element for first user authentication. In this case, the controller 180 may control the input first face image 505 to be displayed through the display unit 151.

도 5의 (b)를 참조하면, 제어부(180)는 제 1 얼굴 이미지(505)를 기초로 제 1 사용자 인증을 수행할 수 있다(405).Referring to (b) of FIG. 5, the controller 180 may perform the first user authentication based on the first face image 505 (405).

구체적으로, 제어부(180)는 제 1 얼굴 이미지(505) 상의 얼굴 요소 중, 미리 설정된 얼굴 요소를 제 1 사용자 인증을 위한 인자로서 추출하고, 추출된 인자가 미리 등록된 사용자의 얼굴 요소에 대응되는지 판단할 수 있다. 제어부(180)는 제 1 얼굴 이미지(505) 중, 미리 설정된 제 1 사용자 인증을 위한 얼굴 요소가 포함된 영역(515)을 결정할 수 있으며, 영역(515)을 중심으로 카메라(121)의 초점이 조절되도록 제어할 수도 있다. 상기 초점 조절에 의해 사용자 인증을 위한 제어부(180)의 얼굴 인식 수행에 있어서 인식률을 높일 수 있다. Specifically, the controller 180 extracts a preset face element from among face elements on the first face image 505 as a factor for first user authentication, and whether the extracted factor corresponds to a face element of a previously registered user. I can judge. The controller 180 may determine an area 515 including a face element for pre-set first user authentication among the first face images 505, and the focus of the camera 121 may be focused on the area 515. It can also be controlled to be adjusted. By adjusting the focus, the recognition rate may be increased in the face recognition performed by the controller 180 for user authentication.

예를 들어, 양 눈, 코 및 입이 제1 사용자 인증을 위한 얼굴 요소로 미리 설정된 경우, 제어부(180)는 양 눈, 코 및 입이 모두 포함된 영역(515)을 확정하고, 영역(515) 상의 얼굴 요소 각각의 모양, 위치 및 얼굴 요소 사이의 거리 등을 인식할 수 있다. 상기 인식 결과를 바탕으로, 제어부(180)는 입력된 제 1 얼굴 이미지가 미리 등록된 사용자 얼굴 요소에 대응하는지 판단할 수 있다. For example, when both eyes, nose, and mouth are preset as face elements for the first user authentication, the controller 180 determines the region 515 including both eyes, nose, and mouth, and the region 515 ) Can recognize the shape, position, and distance between the face elements of each face element on the image. Based on the recognition result, the controller 180 may determine whether the input first face image corresponds to a pre-registered user face element.

상기 판단 결과, 추출된 인자가 미리 등록된 사용자의 얼굴 요소에 대응되는 경우, 제어부(180)는 제 1 사용자 인증이 수행되도록 제어할 수 있다. 제 1 사용자 인증이 완료된 경우, 제어부(180)의 이동 단말기(100)의 가능 실행 및 이동 단말기(100)를 통해 수행되는 각종 어플리케이션의 실행에 대하여 도 12 및 도 13에 대한 설명에서 후술하도록 한다. As a result of the determination, when the extracted factor corresponds to the face element of the user registered in advance, the controller 180 may control the first user authentication to be performed. When the first user authentication is completed, the possible execution of the mobile terminal 100 of the control unit 180 and the execution of various applications performed through the mobile terminal 100 will be described later in the description of FIGS. 12 and 13.

한편, 상기 단계(403)에서, 입력된 얼굴 이미지가 제 1 얼굴 이미지가 아닌 경우에 대하여 설명하도록 한다. Meanwhile, in step 403, a case in which the input face image is not the first face image will be described.

도 6의 (a)에서, 사용자(500)가 이동 단말기(100)를 소정의 거리에서 파지하고 있는 경우가 도시되었다. 특히, 도 6의 (a)에서 이동 단말기(100)와 사용자(500)의 거리는 도 5의 (a)에서의 거리보다 가까운 경우가 도시되었다.In (a) of FIG. 6, a case is illustrated in which the user 500 is holding the mobile terminal 100 at a predetermined distance. In particular, in FIG. 6(a), a case in which the distance between the mobile terminal 100 and the user 500 is closer than the distance in FIG. 5(a) is illustrated.

이와 같은 경우, 활성화된 카메라(121)를 통해 도 5의 (b)와 같은 제 1 얼굴 이미지가 아닌 제 2 얼굴 이미지가 입력될 수 있다. 즉, 이동 단말기(100)와 사용자(500)의 거리가 가까운 경우, 카메라(121)를 통해 제 1 사용자 인증에 필요한 얼굴 요소들 중 일부가 결여된 제 2 얼굴 이미지가 입력될 수 있다. In such a case, a second face image other than the first face image as shown in FIG. 5B may be input through the activated camera 121. That is, when the distance between the mobile terminal 100 and the user 500 is close, a second face image lacking some of the face elements required for first user authentication may be input through the camera 121.

제어부(180)는 입력된 얼굴 이미지가 제 2 얼굴 이미지에 해당하는지 판단할 수 있다(407). 즉, 제어부(180)는 카메라(121)를 통해 입력된 얼굴 이미지 상의 얼굴 요소를 인식할 수 있으며, 입력된 얼굴 이미지에 제 1 사용자 인증을 위한 얼굴 요소 중 일부가 결여된 것을 인식할 수 있다.The controller 180 may determine whether the input face image corresponds to the second face image (407 ). That is, the controller 180 may recognize a face element on the face image input through the camera 121, and may recognize that the input face image lacks some of the face elements for first user authentication.

예를 들어, 도 5의 예시와 같이 제 1 얼굴 이미지(505) 상의 얼굴 요소 중, 제 1 사용자 인증을 위한 미리 설정된 얼굴 요소가 양 눈, 코 및 입인 경우를 가정하도록 한다. 제어부(180)는 사용자(500)의 얼굴 이미지(605)가 입력되면, 얼굴 요소인 양 눈 중에 한쪽 눈이 포함되지 않은 제 2 얼굴 이미지(605)가 입력되었음을 인식할 수 있다. For example, as illustrated in FIG. 5, it is assumed that among the face elements on the first face image 505, the preset face elements for first user authentication are both eyes, nose, and mouth. When the face image 605 of the user 500 is input, the controller 180 can recognize that a second face image 605 that does not include one eye among both eyes as a face element is input.

이때, 제어부(180)는 입력되는 제 2 얼굴 이미지(605)가 디스플레이부(151)를 통해 디스플레이되도록 제어할 수도 있다. In this case, the controller 180 may control the input second face image 605 to be displayed through the display unit 151.

도 6의 (b)를 참조하면, 제어부(180)는 제 2 얼굴 이미지(605)를 기초로 제 2 사용자 인증을 수행할 수 있다(409). 특히, 상기 예에서, 양 눈 중 한쪽 눈이 제외된 제 2 얼굴 이미지(605)가 입력됨에 따라, 제어부(180)는 제 1 사용자 인증이 불가함을 인식할 수 있다. 이에 따라 입력된 제 2 얼굴 이미지(605)로부터 도출해 낼 수 있는 얼굴 요소 중 적어도 하나를 이용하여 제어부(180)는 제 2 사용자 인증을 수행할 수 있다. Referring to FIG. 6B, the controller 180 may perform second user authentication based on the second face image 605 (409 ). In particular, in the above example, as the second face image 605 from which one eye is excluded is input, the controller 180 may recognize that the first user authentication is impossible. Accordingly, the controller 180 may perform second user authentication using at least one of the face elements that can be derived from the input second face image 605.

제 2 얼굴 이미지(605)로부터 도출해낼 얼굴 요소 중 사용자의 홍채가 제2 사용자 인증을 위한 얼굴 요소로 미리 설정된 경우를 예를 들어 설명하도록 한다. 제어부(180)는 미리 설정된 제 2 사용자 인증을 위한 얼굴 요소가 포함된 영역(610)을 결정할 수 있으며, 영역(610)을 중심으로 카메라(121)의 초점이 조절되도록 제어할 수 있다. 제어부(180)는 카메라(121)를 이용하여, 사용자 홍채를 인식하고 인식된 홍채가 미리 등록된 사용자의 홍채 패턴에 대응되는지 여부를 판단할 수 있다. A case where a user's iris is preset as a face element for second user authentication among face elements to be derived from the second face image 605 will be described as an example. The control unit 180 may determine an area 610 including a face element for pre-set second user authentication, and control the focus of the camera 121 to be adjusted around the area 610. The controller 180 may recognize the user's iris using the camera 121 and determine whether the recognized iris corresponds to the iris pattern of a previously registered user.

상기 판단 결과, 인식된 홍채가 미리 등록된 사용자의 홍채 패턴에 대응되는 경우, 제어부(180)는 제 2 사용자 인증이 수행되도록 제어할 수 있다. 제 2 사용자 인증이 완료된 경우, 제어부(180)의 이동 단말기(100)의 가능 실행 및 이동 단말기(100)를 통해 수행되는 각종 어플리케이션의 실행에 대하여 도 12 및 도 13에 대한 설명에서 후술하도록 한다. As a result of the determination, when the recognized iris corresponds to the iris pattern of the user registered in advance, the controller 180 may control the second user authentication to be performed. When the second user authentication is completed, the possible execution of the mobile terminal 100 of the controller 180 and the execution of various applications performed through the mobile terminal 100 will be described later in the description of FIGS. 12 and 13.

한편, 제 2 얼굴 이미지(606)가 입력되지 않은 경우, 제어부(180)는 사용자 입력을 감지하거나, 사용자 인증에 대한 요청이 감지되면, 카메라(121)가 활성화(401)되도록 제어할 수 있다. Meanwhile, when the second face image 606 is not input, the controller 180 may control the camera 121 to be activated 401 when a user input is detected or a request for user authentication is detected.

이하 도 7 내지 도 9를 참조하여, 홍채 인식을 위한 카메라(121) 동작에 대하여 구체적으로 설명하도록 한다.Hereinafter, an operation of the camera 121 for iris recognition will be described in detail with reference to FIGS. 7 to 9.

도 7은 본 발명의 실시예에 따른 이동 단말기의 적외선 발광부를 설명하기 위한 예시도이다. 또한, 도 8은 본 발명의 실시예에 따른 이동 단말기의 카메라가 인식하는 빛의 파장을 설명하기 위한 예시도이고, 도 9는 본 발명의 실시예에 따른 이동 단말기의 카메라에 구비되는 적외선 패스 필터를 설명하기 위한 그래프이다.7 is an exemplary view for explaining an infrared light emitting unit of a mobile terminal according to an embodiment of the present invention. In addition, FIG. 8 is an exemplary view for explaining a wavelength of light recognized by a camera of a mobile terminal according to an embodiment of the present invention, and FIG. 9 is an infrared pass filter provided in the camera of a mobile terminal according to an embodiment of the present invention It is a graph for explaining.

도 7의 (a)는 사용자(500)의 홍채(510)를 인식하기 위한, 장비의 구성을 설명하기 위한 예시도이다. 도 7의 (a)에서, 홍채(510) 인식을 위한 장비로, 카메라(720) 및 적외선 패스 필터(725) 및 적외선 광원(730)이 도시되었다.7A is an exemplary diagram for explaining the configuration of equipment for recognizing the iris 510 of the user 500. In (a) of FIG. 7, a camera 720 and an infrared pass filter 725 and an infrared light source 730 are illustrated as equipment for iris 510 recognition.

홍채(510) 인식은 적외선 광원에 홍채(510)가 노출되고, 가시광선이 제거되는 경우 인식률이 높아진다. 따라서, 적외선 광원(730)에 홍채(510)가 노출되었을 때, 카메라(720)는 적외선 패스 필터(725)를 통해 가시광선이 제거된 상태에서 홍채(510)의 패턴을 인식하는 것이 일반적이다. 특히, 카메라(720)는 적외선 패스 필터(725)가 물리적으로 결합되므로, 홍채 인식을 위해서는 가시광선을 통과시키는 이동 단말기(100)의 카메라(121) 외에 별도의 카메라(720)가 필요하다. The iris 510 recognition increases when the iris 510 is exposed to the infrared light source and the visible light is removed. Therefore, when the iris 510 is exposed to the infrared light source 730, it is common for the camera 720 to recognize the pattern of the iris 510 while the visible light is removed through the infrared pass filter 725. In particular, since the infrared pass filter 725 is physically coupled to the camera 720, a separate camera 720 is required in addition to the camera 121 of the mobile terminal 100 through which visible light is passed for iris recognition.

그러나, 도 7의 (b)를 참조하여, 가시광선을 통과시키는 카메라(121)를 이용하여 홍채 인식을 가능하게 하는 이동 단말기(100)를 제안하도록 한다.However, referring to FIG. 7B, a mobile terminal 100 capable of iris recognition is proposed using a camera 121 that passes visible light.

도 7의 (b)를 참조하면, 본 발명의 이동 단말기(100)는 카메라(121)와 인접하여 적외선 발광부(735)를 구비할 수 있다. 제어부(180)는 사용자 인증 방식으로 홍채 인식 방식이 이용되는 경우, 적외선 발광부(735)을 통해 적외선이 방출되도록 제어할 수 있다. 제어부(180)는 적외선 발광부(735)를 통해 적외선이 방출되면, 카메라(121)를 통해 상기 사용자의 홍채가 인식되도록 제어할 수 있다.Referring to FIG. 7B, the mobile terminal 100 of the present invention may include an infrared light emitting unit 735 adjacent to the camera 121. When the iris recognition method is used as the user authentication method, the controller 180 can control the infrared light to be emitted through the infrared light emitting unit 735. When the infrared light is emitted through the infrared light emitting unit 735, the controller 180 can control the user's iris to be recognized through the camera 121.

한편, 일반적으로, 카메라(121)는 도 8의 가시광선 영역(800)을 통과시키며, 적외선 영역(810)은 차단하는 필터를 구비할 수 있다. 또한, 도 7의 (a)에 도시된 홍채 인식용 카메라(720) 및 적외선 패스 필터(725)의 경우, 도 8의 적외선 영역(810)은 통과 시키고, 가시광선 영역(800)은 차단한다.Meanwhile, in general, the camera 121 passes through the visible light region 800 of FIG. 8, and the infrared region 810 may include a filter to block. In addition, in the case of the iris recognition camera 720 and the infrared pass filter 725 illustrated in FIG. 7A, the infrared region 810 of FIG. 8 passes through, and the visible ray region 800 is blocked.

도 9의 (a)에 상기 카메라(121)의 일반적인 필터가 예로써 도시되었다. In FIG. 9A, a general filter of the camera 121 is illustrated as an example.

영역(900)은 도 8의 가시광선 영역(800)의 빛을 수용하는 영역에 해당한다. 그러나, 본 발명의 카메라(121)는 도 9의 (b)에 예로써 도시된 바와 같이 영역(910)을 통해 도 8의 적외선 영역(810)을 통과시키도록 개량된 필터를 구비할 수 있다. 카메라(121)는 개량된 필터를 이용하여 가시광선 외에 적외선을 추가적으로 감지할 수 있다.The region 900 corresponds to a region that receives light from the visible light region 800 of FIG. 8. However, the camera 121 of the present invention may include an improved filter to pass the infrared region 810 of FIG. 8 through the region 910 as shown by way of example in FIG. 9B. The camera 121 may additionally sense infrared light in addition to visible light using an improved filter.

이와 같은 개량된 필터를 구비하는 경우, 적외선 발광부(735)를 통해 적외선이 방출되면, 방출된 적외선이 홍채에 반사되고, 반사된 적외선이 카메라(121) 필터의 영역(910)을 통해 통과함에 따라 제어부(180)는 사용자의 홍채를 인식할 수 있다. When such an improved filter is provided, when infrared rays are emitted through the infrared light emitting unit 735, the emitted infrared rays are reflected on the iris, and the reflected infrared rays pass through the region 910 of the camera 121 filter. Accordingly, the controller 180 may recognize the iris of the user.

도 6에서 설명된 바와 같이 사용자가 홍채 인식을 통한 사용자 인증 과정을 수행하는 경우, 사용자와 이동 단말기(100)의 카메라(121)는 가까운 거리에 있게 된다. 따라서, 카메라(121)에 상기 개량된 필터가 적용된 이동 단말기(100)를 이용하면, 영역(900)을 통해 카메라(121)가 가시광선을 통과시키더라도 홍채 인식의 정밀도를 높일 수 있다. 즉, 사용자와 카메라(121)가 가깝게 위치한 상태에서, 제어부(180)가 적외선 발광부(735)를 통해 사용자의 홍채에 인접하여 적외선이 방출되도록 제어함에 따라 홍채 인식에 있어 가시광선의 영향을 최소화할 수 있다.As illustrated in FIG. 6, when a user performs a user authentication process through iris recognition, the user and the camera 121 of the mobile terminal 100 are at a close distance. Accordingly, if the mobile terminal 100 to which the improved filter is applied is applied to the camera 121, even if the camera 121 passes visible light through the region 900, the accuracy of iris recognition can be increased. That is, as the user and the camera 121 are located close to each other, the control unit 180 controls the emission of infrared rays adjacent to the iris of the user through the infrared light emitting unit 735 to minimize the influence of visible light in iris recognition. Can.

한편, 카메라(121)는 가시광선을 통과시키므로 여전히 가시광선에 노출된 피사체에 대한 촬영이 가능하다.Meanwhile, since the camera 121 passes visible light, it is still possible to photograph a subject exposed to the visible light.

도 10은 본 발명의 실시예에 따른 이동 단말기에 적용되는 사용자로부터 선택된 일부를 이용한 사용자 인증 방식을 설명하기 위한 예시도이고, 도 11은 본 발명의 실시예에 따른 사용자로부터 선택된 사용자 얼굴의 일부를 사용자 인증에 이용하는 경우를 설명하기 위한 예시도이다. 10 is an exemplary view for explaining a user authentication method using a part selected from a user applied to a mobile terminal according to an embodiment of the present invention, and FIG. 11 is a part of a user's face selected from a user according to an embodiment of the present invention This is an example for explaining a case used for user authentication.

도 5에 대한 설명에서 상술한 바와 같이 카메라(121)를 통해 제 1 얼굴 이미지(505)가 입력된 경우, 제어부(180)는 디스플레이부(151)를 통해, 제 1 얼굴 이미지(505)가 디스플레이되도록 제어할 수 있다. 도 5에서 제 1 얼굴 이미지가 입력되면, 제어부(180)가 제 1 사용자 인증이 수행되는 경우를 설명하였다. 그러나, 제 1 얼굴 이미지가 입력된 경우에도, 경우에 따라 제어부(180)는 제 1 사용자 인증을 수행하지 않을 수도 있다.When the first face image 505 is input through the camera 121 as described above in the description of FIG. 5, the controller 180 displays the first face image 505 through the display unit 151. It can be controlled as much as possible. When the first face image is input in FIG. 5, the case in which the controller 180 performs first user authentication has been described. However, even when the first face image is input, in some cases, the controller 180 may not perform the first user authentication.

사용자 또는 제조자의 설정에 따라 제어부(180)는 사용자에게 제 1 얼굴 이미지 입력에 따른 사용자 인증 절차 진행을 알리는 알림 창이 디스플레이되도록 제어할 수도 있다. 또한, 제어부(180)는 상기 알림 창에서 제 1 사용자 인증 절차 진행 여부를 사용자가 결정하도록 하는 사용자 인터페이스가 제공되도록 제어할 수도 있다. 상기 사용자 인터페이스를 통해, 사용자는 제 1 얼굴 이미지가 입력되었더라도, 이동 단말기(100)를 통해 제 1 사용자 인증을 수행하지 않을 수 있다. According to the setting of the user or the manufacturer, the controller 180 may control to display a notification window informing the user of the user authentication procedure according to the input of the first face image. In addition, the controller 180 may control the user to provide a user interface that allows the user to determine whether to proceed with the first user authentication procedure in the notification window. Through the user interface, the user may not perform the first user authentication through the mobile terminal 100 even if the first face image is input.

또는, 제 1 얼굴 이미지가 입력된 이후, 제어부(180)는 사용자가 사용자 인증 방식으로 제 1 사용자 인증 및 제 2 사용자 인증 중 적어도 하나를 선택하도록 하는 선택 창이 디스플레이되도록 제어할 수도 있다. Alternatively, after the first face image is input, the controller 180 may control to display a selection window that allows the user to select at least one of first user authentication and second user authentication as a user authentication method.

예를 들어, 상기 선택 창은 제어부(180)가 제 1 사용자 인증을 수행하도록 하는 제 1 메뉴, 제어부(180)가 제 2 사용자 인증을 수행하도록 하는 제 2 메뉴, 제어부(180)가 제 1 및 제 2 사용자 인증을 모두 수행하도록 하는 제 3 메뉴를 포함할 수 있다. 이때, 사용자로부터 제 3 메뉴가 선택된 경우, 제어부(180)는 제 1 사용자 인증이 완료된 후, 제 2 사용자 인증을 수행할 수 있다.For example, the selection window may include a first menu that allows the controller 180 to perform first user authentication, a second menu that causes the controller 180 to perform second user authentication, and a first controller to control unit 180. It may include a third menu to perform all of the second user authentication. At this time, when the third menu is selected from the user, the controller 180 can perform the second user authentication after the first user authentication is completed.

이때, 사용자로부터 제 2 또는 제 3 메뉴가 선택된 경우, 제어부(180)는 제 1 얼굴 이미지가 입력되었더라도, 제 1 사용자 인증을 수행하지 않을 수 있다.At this time, when the second or third menu is selected by the user, even if the first face image is input, the controller 180 may not perform the first user authentication.

이와 같이 제 1 사용자 인증을 수행하지 않는 경우, 제 1 얼굴 이미지(505)로부터 도출되는 얼굴 요소들 중 적어도 하나를 선택할 수 있다. 이 경우, 제어부(180)는 상기 선택된 얼굴 요소만을 기초로 제 2 사용자 인증을 수행할 수 있다. 도 10의 (a)에서 사용자의 터치제스처(1000)에 의해 제 1 얼굴 이미지(505) 상의 얼굴 요소 중 홍채가 선택되는 경우가 예로써 도시되었다.When the first user authentication is not performed as described above, at least one of the face elements derived from the first face image 505 may be selected. In this case, the controller 180 can perform the second user authentication based only on the selected face element. In FIG. 10A, an example in which an iris is selected among face elements on the first face image 505 by the user's touch gesture 1000 is illustrated.

이 경우, 제어부(180)는 선택된 홍채를 도 6에서 설명된 바와 같이 제 2 얼굴 이미지가 입력된 경우에 미리 설정된 제 2 사용자 인증을 위한 제 2 얼굴 이미지 상의 얼굴 요소로 취급할 수 있다. 즉, 카메라(121)에 제 1 얼굴 이미지가 입력되었고, 제 1 얼굴 이미지 상의 양 눈, 코, 입이 제 1 사용자 인증을 위한 얼굴 요소로 미리 설정된 경우에 사용자로부터 특정 얼굴 요소가 선택되면, 제어부(180)는 선택된 얼굴 요소(홍채) 외의 얼굴 요소는 결여된 이미지가 입력된 것으로 취급할 수 있다. 이에 따라, 제어부(180)는 도 6에서 설명된 제 2 사용자 인증을 수행할 수 있다. In this case, the controller 180 may treat the selected iris as a face element on the second face image for pre-set second user authentication when the second face image is input as described in FIG. 6. That is, when a first face image is input to the camera 121 and both eyes, nose, and mouth on the first face image are preset as face elements for first user authentication, when a specific face element is selected from the user, the controller 180, face elements other than the selected face element (iris) may be treated as an input image lacking. Accordingly, the controller 180 may perform the second user authentication described in FIG. 6.

상기 얼굴 요소를 선택하는 사용자의 터치제스처(1000)는 터치 입력, 탭 입력, 핀치 아웃 입력 등 다양한 종류일 수 있다. 또한, 특정 얼굴 요소가 포함된 영역을 설정하는 드래그 입력 역시 터치제스처(1000)에 포함될 수 있다. The user's touch gesture 1000 for selecting the face element may be various types such as a touch input, a tap input, and a pinch-out input. Also, a drag input for setting an area including a specific face element may also be included in the touch gesture 1000.

특히, 상기 드래그 입력(1000)에 의해 제 1 얼굴 이미지(505) 상의 얼굴 요소 중 눈썹 및 눈이 포함된 영역(1100)이 설정된 경우가 도 11의 (a)에 예로써 도시되었다. 또한, 드래그 입력(1000)에 의해 제 1 얼굴 이미지(505) 상의 얼굴 요소 중 입이 포함된 영역(1110)이 설정된 경우가 도 11의 (b)에 예로써 도시되었다. 제어부(180)는 도 11의 (a) 또는 도 11의 (b)에서 사용자의 드래그 입력(1000)으로 설정된 영역(1100, 1110)에 포함된 얼굴 요소를 기초로 제 2 사용자 인증을 수행할 수 있다. Particularly, a case in which a region 1100 including an eyebrow and an eye is set among face elements on a first face image 505 by the drag input 1000 is illustrated as an example in FIG. 11A. In addition, a case in which a region 1110 including a mouth is set among face elements on the first face image 505 by the drag input 1000 is illustrated as an example in FIG. 11B. The controller 180 may perform the second user authentication based on the face elements included in the areas 1100 and 1110 set as the user's drag input 1000 in FIG. 11A or 11B. have.

도 10의 (b)를 참조하면, 제어부(180)는 선택된 얼굴 요소에 대한 사용자 확인을 위하여, 선택된 얼굴 요소(1010)가 확대되어 디스플레이되도록 제어할 수도 있다. 또한, 제어부(180)는 카메라(121)가 선택된 얼굴 요소(1010)에 초점이 맞춰지도록 제어할 수도 있다. 또한, 제어부(180)는 사용자 터치제스처(1000)가 입력되면, 카메라(121)의 초점이 조절되도록 제어할 수 있으며, 도 10의 (b)에서 터치제스처(1000)의 예시로 상하 방향의 드래그 입력(1020)이 도시되었다. Referring to (b) of FIG. 10, the controller 180 may control the selected face element 1010 to be enlarged and displayed for user identification of the selected face element. Also, the controller 180 may control the camera 121 to focus on the selected face element 1010. In addition, when the user touch gesture 1000 is input, the controller 180 can control the focus of the camera 121 to be adjusted, and in the example of the touch gesture 1000 in FIG. 10B, drag in the vertical direction. Input 1020 is shown.

상기 도 10에서 설명된 실시예는 제 1 얼굴 이미지(505)가 입력되고 제어부(180)가 사용자 인증을 시도하였으나, 제 1 사용자 인증에 실패한 경우에 적용될 수 있다. The embodiment described in FIG. 10 may be applied when the first face image 505 is input and the controller 180 attempts user authentication, but the first user authentication fails.

또는 제 1 얼굴 이미지(505)가 입력되었으나, 사용자로부터 상기 예의 제 1 메뉴가 선택되지 않은 경우에도 적용될 수 있다. 즉, 제 1 얼굴 이미지가 입력되었으나, 사용자 입력에 따라 제어부(180)가 제 2 사용자 인증을 수행하는 경우에 적용될 수도 있다. 또는, 이동 단말기(100)에 설정되거나, 사용자에 의해 선택된 사용자 인증 방식이 제 1 사용자 인증 및 제 2 사용자 인증을 모두 요구하는 경우에도 적용될 수 있다. Alternatively, although the first face image 505 is input, it may be applied even when the first menu of the example is not selected by the user. That is, although the first face image is input, it may be applied when the controller 180 performs the second user authentication according to the user input. Alternatively, the user authentication method set in the mobile terminal 100 or selected by the user may also be applied when both the first user authentication and the second user authentication are requested.

도 12는 본 발명의 실시예에 따른 사용자 인증 방식을 이용하여, 이동 단말기의 터치스크린 잠금 상태를 해제시키는 경우를 설명하기 위한 예시도이다,12 is an exemplary view for explaining a case of releasing a touch screen lock state of a mobile terminal using a user authentication method according to an embodiment of the present invention,

여기에서 디스플레이부(151)의 잠금 상태란 디스플레이부(151)에 대한 오 조작 또는 오 터치를 방지하기 위해 터치제스처가 입력이 되지 않거나, 일부 사전 설정된 터치제스처만이 제한적으로 입력되는 상태를 의미한다. Here, the locked state of the display unit 151 means a state in which a touch gesture is not input or only some preset touch gestures are limitedly input in order to prevent an erroneous operation or a false touch on the display unit 151. .

제어부(180)는 디스플레이부(151)가 잠금 상태일 때, 상술한 제 1 사용자 인증 또는 제 2 사용자 인증을 통해 잠금 상태가 해제되도록 제어할 수 있다, 이를 위해, 제어부(180)는 제 1 얼굴 이미지 또는 제 2 얼굴 이미지를 입력 받기 위하여 카메라(121)가 활성화 되도록 제어할 수 있다. 상기 카메라(121)의 활성화는 사용자로부터 특정 키 입력을 수신하거나, 디스플레이부(151)에 터치제스처를 수신함에 따라 이뤄질 수 있다. 또한, 제어부(180)는 센싱부(140)를 통해 이동 단말기(100)의 움직임이 감지됨에 따라 카메라(121)가 활성화 되도록 제어할 수 있다. 예를 들어, 사용자가 제 1 얼굴 이미지 또는 제 2 얼굴 이미지 입력을 위해 이동 단말기(100)를 사용자의 얼굴로 이동시키는 경우, 제어부(180)는 센싱부(140)를 통해 상기 이동을 감지하고, 카메라(121)가 활성화 되도록 제어할 수 있다. 이때, 제어부(180)는 상기 사용자 인증을 위한 그래픽 인터페이스가 디스플레이부(151)를 통해 디스플레이되도록 제어할 수도 있다. When the display unit 151 is locked, the controller 180 may control the unlocked state to be released through the first user authentication or the second user authentication described above. To this end, the controller 180 may include a first face The camera 121 may be controlled to be activated in order to receive an image or a second face image. Activation of the camera 121 may be achieved by receiving a specific key input from a user or by receiving a touch gesture on the display unit 151. In addition, the controller 180 may control the camera 121 to be activated as the movement of the mobile terminal 100 is sensed through the sensing unit 140. For example, when the user moves the mobile terminal 100 to the user's face to input the first face image or the second face image, the controller 180 detects the movement through the sensing unit 140, The camera 121 can be controlled to be activated. In this case, the control unit 180 may control the graphic interface for user authentication to be displayed through the display unit 151.

또한, 디스플레이부(151)의 잠금 해제란, 상기 터치스크린(151) 상에 터치제스처가 입력 되면, 제어부(180)가 상기 입력된 터치제스처에 대응하는 명령을 실행할 수 있는 상태를 의미한다. 상기 제 1 사용자 인증 또는 제 2 사용자 인증을 통해 디스플레이부(151)의 잠금 상태가 해제되면, 제어부(180)는 터치스크린(151) 상에 표시되는 하나 이상의 페이지를 가지는 홈 스크린(Home Screen)화면, 다양한 앱 아이콘들이 디스플레이된 메뉴 화면 및 특정 어플리케이션의 실행 화면 중 적어도 하나가 잠금 해제 화면으로서 디스플레이되도록 제어할 수 있다. 또한, 제어부(180)는 디스플레이부(151)가 잠기기 전에 디스플레이 중이던 정보가 존재하는 경우, 잠금 해제 후 디스플레이부(151)가 잠기기 전에 디스플레이 중이던 정보가 디스플레이되도록 제어할 수도 있다.In addition, the unlocking of the display unit 151 means a state in which when the touch gesture is input on the touch screen 151, the controller 180 can execute a command corresponding to the input touch gesture. When the locked state of the display unit 151 is released through the first user authentication or the second user authentication, the controller 180 displays a home screen screen having one or more pages displayed on the touch screen 151. In addition, at least one of a menu screen on which various app icons are displayed and an execution screen of a specific application may be controlled to be displayed as a lock release screen. In addition, when information that was being displayed before the display unit 151 was locked exists, the controller 180 may control to display information that was being displayed before the display unit 151 is locked after unlocking.

도 12의 (a)를 참조하면, 제어부(180)는 디스플레이부(151)가 잠금 상태(1200)인 경우, 이를 알리는 그래픽이 디스플레이되도록 제어할 수 있다.Referring to (a) of FIG. 12, when the display unit 151 is in the locked state 1200, the controller 180 can control a graphic to be displayed.

제어부(180)는 상술한 카메라(121) 활성화를 위한 사용자 입력 또는 이동 단말기(100)의 움직임을 감지함에 따라, 카메라(121)가 활성화되도록 제어할 수 있다. 또한, 제어부(180)는, 디스플레이부(151)가 잠긴 상태에서, 제 1 또는 제 2 사용자 인증을 통해 정당한 사용자인 것이 확인되면, 상기 디스플레이부의 잠금이 해제되도록 제어할 수 있다.The controller 180 may control the camera 121 to be activated as the user input for activating the camera 121 or the movement of the mobile terminal 100 is detected. In addition, when the display unit 151 is locked, when the controller 180 determines that the user is a legitimate user through first or second user authentication, the controller 180 may control the display unit to be unlocked.

도 12의 (b)에서 활성화된 카메라(121)를 통해 제 2 얼굴 이미지(605)가 입력되고, 얼굴 요소 중 홍채를 기초로 제2 사용자 인증을 수행하는 경우가 예로써 도시되었다. The case where the second face image 605 is input through the camera 121 activated in FIG. 12B and the second user authentication is performed based on the iris among the face elements is illustrated as an example.

도 12의 (c)를 참조하면, 제어부(180)는 제 2 사용자 인증을 통하여, 디스플레이부(151)의 잠금 상태가 해제되도록 제어할 수 있다. 도 12의 (c)에서 잠금 해제 화면의 예로써 홈 스크린 화면(1210)이 도시되었다. 제어부(180)는 디스플레이부(151)의 잠금 해제 상태에서 사용자로부터 이동 단말기(100)를 조작하기 위한 터치제스처를 수신할 수 있다. Referring to (c) of FIG. 12, the controller 180 may control to unlock the display unit 151 through the second user authentication. In (c) of FIG. 12, the home screen screen 1210 is illustrated as an example of the unlock screen. The controller 180 may receive a touch gesture for operating the mobile terminal 100 from the user in the unlocked state of the display unit 151.

상기, 입력되는 얼굴 이미지, 사용자 인증에 이용되는 얼굴 요소 및 인증 방식은 예시에 불과하며, 제어부(180)는 입력되는 얼굴 이미지에 따라 얼굴 인식을 이용하는 제 1 사용자 인증을 수행할 수도 있다.The input face image, the face element used for user authentication, and the authentication method are only examples, and the controller 180 may perform first user authentication using face recognition according to the input face image.

도 13은 본 발명의 실시예에 따른 이동 단말기의 사용자 인증이 요구되는 경우, 카메라 활성화 및 사용자 인증 수행을 설명하기 위한 예시도이다. 이때, 사용자가 이동 단말기(100)를 통해 특정 어플리케이션(1300)을 실행시키고 있는 경우를 가정하도록 한다. 13 is an exemplary diagram for explaining camera activation and performing user authentication when user authentication of a mobile terminal according to an embodiment of the present invention is required. In this case, it is assumed that the user is running the specific application 1300 through the mobile terminal 100.

도 13의 (a)를 참조하면, 특정 어플리케이션(1300)을 실행하는데 있어서 사용자 인증이 요구되는 경우, 제어부(180)는 제 1 또는 제 2 사용자 인증을 수행할 수 있도록 카메라(121)가 활성화되도록 제어할 수 있다.Referring to (a) of FIG. 13, when user authentication is required to execute a specific application 1300, the controller 180 enables the camera 121 to be activated to perform the first or second user authentication. Can be controlled.

도 13의 (b)에서 활성화된 카메라(121)를 통해 제 2 얼굴 이미지(605)가 입력되고, 얼굴 요소 중 홍채를 기초로 제2 사용자 인증을 수행하는 경우가 예로써 도시되었다. The case where the second face image 605 is input through the camera 121 activated in FIG. 13B and the second user authentication is performed based on the iris among the face elements is illustrated as an example.

도 13의 (c)를 참조하면, 제어부(180)는 제 2 사용자 인증을 통하여, 특정 어플리케이션(1300)의 사용자 인증이 완료된 화면(1310)이 디스플레이되도록 제어할 수 있다. 본 실시예는 특정 웹사이트의 로그인, 인터넷 쇼핑의 결제, 인터넷 뱅킹 서비스 등에 광범위하게 적용될 수 있다.Referring to (c) of FIG. 13, the controller 180 may control the screen 1310 of the user authentication of the specific application 1300 to be displayed through the second user authentication. This embodiment can be widely applied to login of a specific website, payment of internet shopping, internet banking service, and the like.

도 14는 본 발명의 실시예에 따른 제 1 사용자 인증 방식에 따른 인증 결과 디스플레이부에 디스플레이되는 제 1 정보를 설명하기 위한 예시도이고, 도 15는 본 발명의 실시예에 따른 제 2 사용자 인증 방식에 따른 인증 결과 디스플레이부에 디스플레이되는 제 2 정보를 설명하기 위한 예시도이다.14 is an exemplary view for explaining first information displayed on a display unit of an authentication result according to a first user authentication method according to an embodiment of the present invention, and FIG. 15 is a second user authentication method according to an embodiment of the present invention It is an exemplary view for explaining the second information displayed on the display unit as a result of authentication according to.

여기에서 제 1 정보란 이동 단말기(100)를 통해 디스플레이될 수 있는 모든 대상을 의미한다. 사진, 동영상, 특정 웹 페이지, 홈 스크린 화면, 어플리케이션 리스트 및 특정 어플리케이션의 실행 화면 등이 제 1 정보에 포함될 수 있다. 제 1 정보는 이동 단말기(100)에 저장되어 있거나, 외부로부터 수신될 수도 있다. Here, the first information means all objects that can be displayed through the mobile terminal 100. The first information may include a photo, a video, a specific web page, a home screen screen, an application list, and an execution screen of a specific application. The first information may be stored in the mobile terminal 100 or may be received from the outside.

제어부(180)는 제 1 사용자 인증이 행해진 경우, 디스플레이부(151)를 통해 제 1 정보가 디스플레이되도록 제어할 수 있다.When the first user authentication is performed, the controller 180 can control the first information to be displayed through the display unit 151.

도 14의 (a)를 참조하면, 카메라(121)를 통해 제 1 얼굴 이미지(505)가 입력된 경우, 제어부(180)는 이를 디스플레이하고, 제 1 사용자 인증이 수행되도록 제어할 수 있다. 도 14의 (b)를 참조하면, 제어부(180)는 상기 제 1 사용자 인증에 따라 제 1 정보가 디스플레이되도록 제어할 수 있으며, 여기에서 제 1 정보의 예시로 음악 재생 어플리케이션의 실행 화면(1400)이 도시되었다.Referring to (a) of FIG. 14, when the first face image 505 is input through the camera 121, the controller 180 can display it and control the first user authentication to be performed. Referring to (b) of FIG. 14, the controller 180 may control the first information to be displayed according to the first user authentication, and here, as an example of the first information, an execution screen 1400 of a music playback application It was shown.

즉, 이동 단말기(100)의 디스플레이부(151)가 잠금 상태인 경우, 또는 음악 재생 어플리케이션의 실행에 제 1 사용자 인증이 요구되는 경우, 제어부(180)는 제 1 사용자 인증을 수행하여, 음악 재생 어플리케이션의 실행 화면이 디스플레이되도록 제어할 수 있다. That is, when the display unit 151 of the mobile terminal 100 is locked, or when the first user authentication is required to execute the music playback application, the controller 180 performs the first user authentication to play music The execution screen of the application can be controlled to be displayed.

한편, 제 2 정보란, 제 1 정보와 구별하기 위한 개념으로 제 1 정보와 다른 정보를 의미한다. 제어부(180)는 제 2 사용자 인증이 행해진 경우, 디스플레이부(151)를 통해 제 2 정보가 디스플레이되도록 제어할 수 있다.Meanwhile, the second information is a concept for distinguishing from the first information and means different information from the first information. When the second user authentication is performed, the controller 180 can control the second information to be displayed through the display unit 151.

도 15의 (a)를 참조하면, 카메라(121)를 통해 제 2 얼굴 이미지(605)가 입력된 경우, 제어부(180)는 이를 디스플레이하고, 제 2 사용자 인증이 수행되도록 제어할 수 있다. 도 15의 (b)를 참조하면, 제어부(180)는 상기 제 2 사용자 인증에 따라 제 2 정보가 디스플레이되도록 제어할 수 있으며, 여기에서 제 2 정보의 예시로 지도 어플리케이션의 실행 화면(1500)이 도시되었다.Referring to (a) of FIG. 15, when the second face image 605 is input through the camera 121, the controller 180 can display it and control the second user authentication to be performed. Referring to (b) of FIG. 15, the controller 180 may control the second information to be displayed according to the second user authentication, where the execution screen 1500 of the map application is an example of the second information. It was shown.

즉, 이동 단말기(100)의 디스플레이부(151)가 잠금 상태인 경우, 또는 지도 어플리케이션의 실행에 제 2 사용자 인증이 요구되는 경우, 제어부(180)는 제 2 사용자 인증을 수행하여, 지도 어플리케이션의 실행 화면이 디스플레이되도록 제어할 수 있다. That is, when the display unit 151 of the mobile terminal 100 is locked, or when the second user authentication is required to execute the map application, the controller 180 performs the second user authentication, thereby The execution screen can be controlled to be displayed.

사용자 또는 제조자의 설정에 따라 디스플레이부(151)의 잠금 해제가 제 1 사용자 인증으로 행해지는 경우, 또는 제 2 사용자 인증으로 행해지는 경우 제어부(180)가 디스플레이하는 제 1 정보 또는 제 2 정보의 종류가 결정될 수 있다. 마찬가지로, 제 1 사용자 인증 또는 제 2 사용자 인증에 의해 실행이 허용되도록 하는 특정 어플리케이션이 각각 사용자 또는 제조자의 설정에 따라 결정될 수 있다. The type of the first information or the second information displayed by the controller 180 when the unlocking of the display unit 151 is performed by the first user authentication or the second user authentication according to the user's or manufacturer's setting. Can be determined. Likewise, specific applications that allow execution by first user authentication or second user authentication may be determined according to the user or manufacturer settings, respectively.

본 발명은 본 발명의 정신 및 필수적 특징을 벗어나지 않는 범위에서 다른 특정한 형태로 구체화될 수 있음은 당업자에게 자명하다. It will be apparent to those skilled in the art that the present invention may be embodied in other specific forms without departing from the spirit and essential features of the present invention.

전술한 본 발명은, 프로그램이 기록된 매체에 컴퓨터가 읽을 수 있는 코드로서 구현하는 것이 가능하다. 컴퓨터가 읽을 수 있는 매체는, 컴퓨터 시스템에 의하여 읽혀질 수 있는 데이터가 저장되는 모든 종류의 기록장치를 포함한다. 컴퓨터가 읽을 수 있는 매체의 예로는, ROM, RAM, CD-ROM, 자기 테이프, 플로피 디스크, 광 데이터 저장 장치 등이 있으며, 또한 캐리어 웨이브(예를 들어, 인터넷을 통한 전송)의 형태로 구현되는 것도 포함한다. 또한, 상기 컴퓨터는 단말기의 제어부(180)를 포함할 수도 있다.The above-described present invention can be embodied as computer readable codes on a medium on which a program is recorded. The computer-readable medium includes all types of recording devices in which data that can be read by a computer system are stored. Examples of computer-readable media include ROM, RAM, CD-ROM, magnetic tapes, floppy disks, optical data storage devices, etc., which are also implemented in the form of carrier waves (eg, transmission over the Internet). It also includes. In addition, the computer may include a control unit 180 of the terminal.

따라서, 상기의 상세한 설명은 모든 면에서 제한적으로 해석되어서는 아니되고 예시적인 것으로 고려되어야 한다. 본 발명의 범위는 첨부된 청구항의 합리적 해석에 의해 결정되어야 하고, 본 발명의 등가적 범위 내에서의 모든 변경은 본 발명의 범위에 포함된다.Accordingly, the above detailed description should not be construed as limiting in all respects, but should be considered illustrative. The scope of the invention should be determined by rational interpretation of the appended claims, and all changes within the equivalent scope of the invention are included in the scope of the invention.

100: 이동단말기
121: 카메라
140: 센싱부
151: 디스플레이부
180: 제어부
100: mobile terminal
121: camera
140: sensing unit
151: display unit
180: control unit

Claims (11)

카메라;
상기 카메라를 통해 입력되는 이미지를 디스플레이하는 디스플레이부; 및
제 1 사용자 인증에 필요한 얼굴 요소들을 포함하는 제 1 얼굴 이미지가 상기 카메라를 통해 수신되면, 상기 얼굴 요소들을 기초로 상기 제 1 사용자 인증을 수행하고, 상기 얼굴 요소들 중 일부가 결여된 적어도 하나의 얼굴 요소를 포함한 제 2 얼굴 이미지가 상기 카메라를 통해 수신되면, 상기 제 2 얼굴 이미지 내에 포함된 적어도 하나의 얼굴 요소를 기초로 제 2 사용자 인증을 수행하는 제어부;를 포함하고,
상기 제어부는,
상기 제 1 사용자 인증 또는 상기 제 2 사용자 인증을 수행하기 전에, 상기 디스플레이부의 잠금 상태를 나타내는 잠금 화면이 디스플레이되도록 제어하고,
상기 수행된 제 1 사용자 인증에 대한 응답으로, 상기 디스플레이부의 잠금 상태를 해제하여 상기 제 1 사용자 인증에 해당하는 제 1 어플리케이션의 실행 화면이 디스플레이되도록 제어하며,
상기 수행된 제 2 사용자 인증에 대한 응답으로, 상기 디스플레이부의 잠금 상태를 해제하여 상기 제 2 사용자 인증에 해당하는 제 2 어플리케이션의 실행 화면이 디스플레이되도록 제어하는 것을 특징으로 하는 이동 단말기.
camera;
A display unit that displays an image input through the camera; And
When a first face image including face elements necessary for first user authentication is received through the camera, the first user authentication is performed based on the face elements, and at least one of the face elements lacking is performed. Includes a control unit for performing a second user authentication based on at least one face element included in the second face image when a second face image including a face element is received through the camera.
The control unit,
Before performing the first user authentication or the second user authentication, control to display a lock screen indicating a locked state of the display unit,
In response to the performed first user authentication, release the lock state of the display unit to control the execution screen of the first application corresponding to the first user authentication to be displayed,
And in response to the performed second user authentication, release the lock state of the display unit to control the execution screen of the second application corresponding to the second user authentication to be displayed.
제 1 항에 있어서, 상기 제어부는,
상기 제 1 얼굴 이미지 내의 얼굴 요소들 중 적어도 하나가 선택되면, 상기 선택된 얼굴 요소만을 기초로 상기 제 2 사용자 인증을 수행하는 것을 특징으로 하는 이동 단말기.
The method of claim 1, wherein the control unit,
And when at least one of the face elements in the first face image is selected, the second user authentication is performed based on only the selected face element.
제 2 항에 있어서, 상기 제어부는,
상기 선택된 얼굴 요소가 확대 표시되도록 제어하는 것을 특징으로 하는 이동 단말기.
According to claim 2, The control unit,
And controlling the selected face element to be enlarged and displayed.
제 2 항에 있어서, 상기 제어부는,
상기 선택된 얼굴 요소에 상기 카메라의 초점이 맞춰지도록 제어하는 것을 특징으로 하는 이동 단말기.
According to claim 2, The control unit,
And controlling the camera to focus on the selected face element.
삭제delete 제 1 항에 있어서, 상기 제어부는,
특정 어플리케이션을 실행하는데 사용자 인증이 요구되는 경우,
상기 제 1 또는 제 2 사용자 인증을 수행할 수 있도록 상기 카메라가 활성화되도록 제어하는 것을 특징으로 하는 이동 단말기.
The method of claim 1, wherein the control unit,
When user authentication is required to run a specific application,
And controlling the camera to be activated so that the first or second user authentication can be performed.
삭제delete 제 1 항에 있어서,
상기 제 1 사용자 인증은, 제 1 얼굴 이미지 내의 얼굴 요소 중 적어도 두 개의 얼굴 요소들에 대한 인식을 통하여 수행되며,
상기 제 2 사용자 인증은, 홍채 인식을 통해 수행되는 것을 특징으로 하는 이동 단말기.
According to claim 1,
The first user authentication is performed through recognition of at least two face elements among face elements in the first face image,
The second user authentication is performed through iris recognition, characterized in that the mobile terminal.
제 8 항에 있어서,
상기 이동 단말기는, 적외선 발광부를 더 포함하며,
상기 제어부는, 상기 적외선 발광부를 통해 적외선이 방출되면, 상기 카메라를 통해 상기 사용자의 홍채가 인식되도록 제어하는 것을 특징으로 하는 이동 단말기.
The method of claim 8,
The mobile terminal further includes an infrared light emitting unit,
The control unit, when the infrared light is emitted through the infrared light emitting unit, the mobile terminal characterized in that the iris of the user is controlled through the camera.
삭제delete 삭제delete
KR1020140029485A 2014-03-13 2014-03-13 Mobile terminal and controlling method thereof Active KR102131830B1 (en)

Priority Applications (4)

Application Number Priority Date Filing Date Title
KR1020140029485A KR102131830B1 (en) 2014-03-13 2014-03-13 Mobile terminal and controlling method thereof
EP15761314.2A EP3118761B1 (en) 2014-03-13 2015-02-25 Mobile terminal and method for controlling same
PCT/KR2015/001816 WO2015137645A1 (en) 2014-03-13 2015-02-25 Mobile terminal and method for controlling same
US15/121,356 US10162955B2 (en) 2014-03-13 2015-02-25 Mobile terminal and method for controlling same

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020140029485A KR102131830B1 (en) 2014-03-13 2014-03-13 Mobile terminal and controlling method thereof

Publications (2)

Publication Number Publication Date
KR20150107098A KR20150107098A (en) 2015-09-23
KR102131830B1 true KR102131830B1 (en) 2020-07-09

Family

ID=54245666

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020140029485A Active KR102131830B1 (en) 2014-03-13 2014-03-13 Mobile terminal and controlling method thereof

Country Status (1)

Country Link
KR (1) KR102131830B1 (en)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102721387B1 (en) 2017-02-27 2024-10-25 삼성전자주식회사 Electronic device for authenticating based on biometric data and operating method thereof
KR102299847B1 (en) * 2017-06-26 2021-09-08 삼성전자주식회사 Face verifying method and apparatus

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20120242820A1 (en) * 2007-09-01 2012-09-27 Eyelock, Inc. Mobile identity platform
JP2013125340A (en) * 2011-12-13 2013-06-24 Fujitsu Ltd User detecting apparatus, user detecting method, and user detecting program

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20120242820A1 (en) * 2007-09-01 2012-09-27 Eyelock, Inc. Mobile identity platform
JP2013125340A (en) * 2011-12-13 2013-06-24 Fujitsu Ltd User detecting apparatus, user detecting method, and user detecting program

Also Published As

Publication number Publication date
KR20150107098A (en) 2015-09-23

Similar Documents

Publication Publication Date Title
US10162955B2 (en) Mobile terminal and method for controlling same
KR101688168B1 (en) Mobile terminal and method for controlling the same
KR102351500B1 (en) Mobile terminal and method for controlling the same
KR102365393B1 (en) Mobile terminal and method for controlling the same
KR101781909B1 (en) Mobile terminal and method for controlling the same
US9692868B2 (en) Mobile terminal and control method for the mobile terminal
US10795508B2 (en) Mobile terminal and method for controlling the same
KR102224480B1 (en) Mobile terminal and controlling method thereof
US20190392422A1 (en) Mobile terminal and control method therefor
US20180189468A1 (en) Mobile terminal and method for controlling same
EP3510436B1 (en) Head mounted display and method for controlling the same
KR20180068127A (en) Mobile terminal and method for controlling the same
KR20210016726A (en) Smart door
KR102135378B1 (en) Mobile terminal and method for controlling the same
US9557912B2 (en) Display device and controlling method thereof
KR102468118B1 (en) Electronic device and method for controlling the same
KR20170058756A (en) Tethering type head mounted display and method for controlling the same
KR102486275B1 (en) Mobile terminal and method for controlling the same
KR102130801B1 (en) Apparatus for detecting wrist step and method thereof
KR102210631B1 (en) Mobile terminal and controlling method thereof
KR20210040759A (en) Mobile terminal
KR102131830B1 (en) Mobile terminal and controlling method thereof
KR20170082036A (en) Mobile terminal
KR102241579B1 (en) Watch type terminal
KR102261141B1 (en) Electronic Device And Method Of Controlling The Same

Legal Events

Date Code Title Description
PA0109 Patent application

Patent event code: PA01091R01D

Comment text: Patent Application

Patent event date: 20140313

PG1501 Laying open of application
A201 Request for examination
PA0201 Request for examination

Patent event code: PA02012R01D

Patent event date: 20190107

Comment text: Request for Examination of Application

Patent event code: PA02011R01I

Patent event date: 20140313

Comment text: Patent Application

E902 Notification of reason for refusal
PE0902 Notice of grounds for rejection

Comment text: Notification of reason for refusal

Patent event date: 20191011

Patent event code: PE09021S01D

E701 Decision to grant or registration of patent right
PE0701 Decision of registration

Patent event code: PE07011S01D

Comment text: Decision to Grant Registration

Patent event date: 20200407

GRNT Written decision to grant
PR0701 Registration of establishment

Comment text: Registration of Establishment

Patent event date: 20200702

Patent event code: PR07011E01D

PR1002 Payment of registration fee

Payment date: 20200703

End annual number: 3

Start annual number: 1

PG1601 Publication of registration
PR1001 Payment of annual fee

Payment date: 20250610

Start annual number: 6

End annual number: 6