KR102813847B1

KR102813847B1 - Method, apparatus and program to estimate uncertainty based on test-time mixup augmentation

Info

Publication number: KR102813847B1
Application number: KR1020210129581A
Authority: KR
Inventors: 홍헬렌; 이한상; 이해일
Original assignee: 서울여자대학교 산학협력단; 한국과학기술원
Priority date: 2021-09-30
Filing date: 2021-09-30
Publication date: 2025-05-28
Anticipated expiration: 2041-09-30
Also published as: KR20230046516A

Abstract

테스트 시간 혼합 증강(Test-Time Mixup Augmentation) 방식을 이용하여 불확실성을 추정할 수 있는 방법, 장치 및 프로그램에 관한 것으로, 테스트 데이터와 학습 데이터를 획득하는 단계, 상기 테스트 데이터와 상기 테스트 데이터와 같은 클래스 또는 다른 클래스에 속하는 적어도 하나의 학습 데이터가 서로 중첩되도록 혼합하여 증강 테스트 데이터를 생성하는 단계, 상기 증강 테스트 데이터를 뉴럴 네트워크 모델에 입력하여 예측 데이터를 생성하는 단계, 및 상기 예측 데이터에 대한 불확실성을 추정하는 단계를 포함하는 것을 특징으로 한다.A method, device and program for estimating uncertainty using a Test-Time Mixup Augmentation method are provided, comprising: a step of obtaining test data and training data; a step of generating augmented test data by mixing the test data and at least one training data belonging to the same class as or a different class from the test data so as to overlap each other; a step of inputting the augmented test data into a neural network model to generate prediction data; and a step of estimating uncertainty for the prediction data.

Description

METHOD, APPARATUS AND PROGRAM TO ESTIMATE UNCERTAINTY BASED ON TEST-TIME MIXUP AUGMENTATION

본 발명은 불확실성 추정 방법에 관한 것으로, 보다 구체적으로 테스트 시간 혼합 증강(Test-Time Mixup Augmentation) 방식을 이용하여 불확실성을 추정할 수 있는 방법, 장치 및 프로그램에 관한 것이다.The present invention relates to an uncertainty estimation method, and more specifically, to a method, device, and program capable of estimating uncertainty using a test-time mixup augmentation method.

일반적으로, 딥러닝 모델을 학습시키는 경우, 데이터가 부족하는 문제가 발생하면 데이터 증강(augmentation)을 사용할 수 있다.In general, when training a deep learning model, if there is a problem of insufficient data, data augmentation can be used.

데이터 증강을 위해서는, 데이터 셋을 회전, 반전, 뒤집기, 늘이기, 줄이기 및 노이즈 등과 같이 다양한 방법을 사용하여 부풀릴 수 있다.For data augmentation, the dataset can be inflated using various methods such as rotating, inverting, flipping, stretching, shrinking, and adding noise.

이러한 다양한 방법 중 TTA(Test-Time Augmentation) 방식은, 테스트 셋으로 모델을 테스트하거나 모델을 실제 운영할 때 데이터 증강을 수행하는 방식이다.Among these various methods, the Test-Time Augmentation (TTA) method is a method of performing data augmentation when testing a model with a test set or when actually operating the model.

일 예로, TTA 방식은, 원본 입력 이미지를 증강하여 다수의 이미지를 만든 다음, 이들을 학습된 모델에 각각 입력하고, 모델에서 나온 결과를 모두 평균화하여 최종 결과를 도출할 수 있다.For example, the TTA method can create multiple images by augmenting the original input image, then inputting each of these images into a learned model, and then averaging all the results from the model to derive the final result.

이처럼, TTA 방식은, 원본 이미지 한장만을 모델에 입력하여 결과를 예측하는 것이 아니라 원본 이미지를 증강한 다양한 관점의 이미지들을 모델에 입력하여 최종 결과를 도출함으로써, 불확실성이 높은 이미지 데이터에 대해 오차율을 최소화하여 예측 성능을 개선시킬 수 있다.In this way, the TTA method can improve prediction performance by minimizing the error rate for image data with high uncertainty by inputting various viewpoints of the original image into the model to derive the final result rather than inputting only one original image into the model to predict the result.

하지만, TTA 방식을 이용하여 불확실성을 추정할 경우, OoD(Out-of-Distribution) 데이터에 대한 반응에서 불확실성에 덜 민감한 문제가 있었다.However, when estimating uncertainty using the TTA method, there was a problem that it was less sensitive to uncertainty in response to OoD (Out-of-Distribution) data.

따라서, 향후, 불확실성 추정에 대한 정확도를 높일 수 있는 불확실성 추정 방법의 개발이 요구되고 있다.Therefore, in the future, the development of an uncertainty estimation method that can improve the accuracy of uncertainty estimation is required.

대한민국 등록특허 10-2200212호 (2021. 01. 08)Republic of Korea Patent No. 10-2200212 (January 8, 2021)

상술한 바와 같은 문제점을 해결하기 위한 본 발명의 일 목적은, 서로 다른 클래스의 데이터를 혼합한 테스트 시간 혼합 증강 방식으로 불확실성을 추정함으로써, 불확실성 추정에 대한 정확도를 높일 수 있는 불확실성 추정 방법, 장치 및 프로그램을 제공하는 것이다.One object of the present invention to solve the above-described problems is to provide an uncertainty estimation method, device, and program capable of increasing the accuracy of uncertainty estimation by estimating uncertainty in a test time mixed augmentation manner that mixes data of different classes.

본 발명이 해결하고자 하는 과제들은 이상에서 언급된 과제로 제한되지 않으며, 언급되지 않은 또 다른 과제들은 아래의 기재로부터 통상의 기술자에게 명확하게 이해될 수 있을 것이다.The problems to be solved by the present invention are not limited to the problems mentioned above, and other problems not mentioned will be clearly understood by those skilled in the art from the description below.

상술한 과제를 해결하기 위한 본 발명의 일 실시예에 따른 불확실성 추정 방법은, 테스트 데이터와 학습 데이터를 획득하는 단계, 상기 테스트 데이터와 상기 테스트 데이터와 같은 클래스 또는 다른 클래스에 속하는 적어도 하나의 학습 데이터가 서로 중첩되도록 혼합하여 증강 테스트 데이터를 생성하는 단계, 상기 증강 테스트 데이터를 뉴럴 네트워크 모델에 입력하여 예측 데이터를 생성하는 단계, 및 상기 예측 데이터에 대한 불확실성을 추정하는 단계를 포함하는 것을 특징으로 한다.According to one embodiment of the present invention for solving the above-described problem, a method for estimating uncertainty comprises the steps of acquiring test data and learning data, generating augmented test data by mixing the test data and at least one learning data belonging to the same class as or different from the test data so as to overlap each other, generating prediction data by inputting the augmented test data into a neural network model, and estimating uncertainty for the prediction data.

실시 예에 있어서, 테스트 데이터와 학습 데이터를 획득하는 단계는, 제1 클래스의 테스트 데이터를 한 개 획득하면 상기 제1 클래스와 다른 제2 클래스 내지 제N 클래스에 속하는 다수의 학습 데이터를 획득하는 것을 특징으로 한다.In an embodiment, the step of acquiring test data and training data is characterized in that when one test data of a first class is acquired, a plurality of training data belonging to a second class to an Nth class different from the first class is acquired.

실시 예에 있어서, 상기 제2 클래스 내지 제N 클래스에 속하는 다수의 학습 데이터를 획득하는 단계는, 각 클래스마다 적어도 하나의 학습 데이터를 획득하는 것을 특징으로 한다.In the embodiment, the step of acquiring a plurality of learning data belonging to the second class to the Nth class is characterized by acquiring at least one learning data for each class.

실시 예에 있어서, 상기 테스트 데이터와 학습 데이터를 획득하는 단계는, 제1 클래스의 테스트 데이터를 한 개 획득하면 상기 제1 클래스의 학습 데이터와 상기 제1 클래스와 다른 제2 클래스 내지 제N 클래스에 속하는 다수의 학습 데이터를 획득하는 것을 특징으로 한다.In the embodiment, the step of acquiring the test data and the training data is characterized in that when one test data of the first class is acquired, training data of the first class and a plurality of training data belonging to a second class to an Nth class different from the first class are acquired.

실시 예에 있어서, 상기 테스트 데이터와 학습 데이터를 획득하는 단계는, 제1 클래스의 테스트 데이터를 한 개 획득하면 상기 제1 클래스와 다른 특정 클래스에 속하는 학습 데이터를 획득하는 것을 특징으로 한다.In the embodiment, the step of acquiring the test data and the training data is characterized in that when one test data of the first class is acquired, training data belonging to a specific class different from the first class is acquired.

실시 예에 있어서, 상기 테스트 데이터 및 학습 데이터의 클래스는, 신체의 특정 병변에 대한 다수의 질병 클래스로 분류되는 것을 특징으로 한다.In an embodiment, the classes of the test data and the training data are characterized in that they are classified into multiple disease classes for specific lesions of the body.

실시 예에 있어서, 상기 증강 테스트 데이터를 생성하는 단계는, 제1 클래스의 테스트 데이터 한 개와 제2 클래스 내지 제N 클래스에 속하는 다수의 학습 데이터가 획득되면, 상기 제1 클래스의 테스트 데이터 한 개와 상기 제2 클래스 내지 제N 클래스에 속하는 학습 데이터 한 개를 중첩되도록 혼합하여 증강 테스트 데이터를 생성하고, 상기 제2 클래스 내지 제N 클래스에 속하는 모든 학습 데이터가 상기 테스트 데이터와의 혼합이 완료되면 상기 증강 테스트 데이터 생성을 종료하는 것을 특징으로 한다.In an embodiment, the step of generating the augmented test data is characterized in that, when one piece of test data of a first class and a plurality of pieces of learning data belonging to a second class to an Nth class are acquired, one piece of test data of the first class and one piece of learning data belonging to the second class to an Nth class are mixed so as to overlap to generate the augmented test data, and when all learning data belonging to the second class to the Nth class are completely mixed with the test data, the generation of the augmented test data is terminated.

실시 예에 있어서, 상기 증강 테스트 데이터를 생성하는 단계는, 제1 클래스의 테스트 데이터 한 개와 상기 제1 클래스에 속하는 학습 데이터를 포함한 제2 클래스 내지 제N 클래스에 속하는 다수의 학습 데이터가 획득되면, 상기 제1 클래스의 테스트 데이터 한 개와 상기 제1 클래스에 속하는 학습 데이터 한개를 중첩되도록 혼합하여 제1 증강 테스트 데이터를 생성하고, 상기 제1 클래스의 테스트 데이터 한 개와 상기 제2 클래스 내지 제N 클래스에 속하는 학습 데이터 한 개를 중첩되도록 혼합하여 제2 증강 테스트 데이터를 생성하며, 상기 제2 클래스 내지 제N 클래스에 속하는 모든 학습 데이터가 상기 테스트 데이터와의 혼합이 완료되면 상기 증강 테스트 데이터 생성을 종료하는 것을 특징으로 한다.In an embodiment, the step of generating the augmented test data is characterized in that, when one piece of test data of a first class and a plurality of pieces of learning data belonging to a second class to an Nth class including learning data belonging to the first class are acquired, one piece of test data of the first class and one piece of learning data belonging to the first class are mixed so as to overlap to generate first augmented test data, one piece of test data of the first class and one piece of learning data belonging to the second class to the Nth class are mixed so as to overlap to generate second augmented test data, and when all learning data belonging to the second class to the Nth class are completely mixed with the test data, the generation of the augmented test data is terminated.

실시 예에 있어서, 상기 증강 테스트 데이터를 생성하는 단계는, 제1 클래스의 테스트 데이터 한 개와 상기 제1 클래스와 다른 특정 클래스에 속하는 학습 데이터가 획득되면, 상기 제1 클래스의 테스트 데이터 한 개와 상기 특정 클래스에 속하는 학습 데이터 한 개를 중첩되도록 혼합하여 증강 테스트 데이터를 생성하고, 상기 특정 클래스에 속하는 모든 학습 데이터가 상기 테스트 데이터와의 혼합이 완료되면 상기 증강 테스트 데이터 생성을 종료하는 것을 특징으로 한다.In an embodiment, the step of generating the augmented test data is characterized in that, when one piece of test data of a first class and one piece of learning data belonging to a specific class different from the first class are acquired, the one piece of test data of the first class and one piece of learning data belonging to the specific class are mixed so as to overlap to generate the augmented test data, and when all learning data belonging to the specific class are completely mixed with the test data, the generation of the augmented test data is terminated.

실시 예에 있어서, 상기 증강 테스트 데이터를 생성하는 단계는, 상기 테스트 데이터의 이미지 및 라벨과 상기 학습 데이터의 이미지 및 라벨을 모두 중첩되도록 혼합하여 상기 증강 테스트 데이터를 생성하는 것을 특징으로 한다.In an embodiment, the step of generating the augmented test data is characterized in that the augmented test data is generated by mixing images and labels of the test data and images and labels of the learning data so as to overlap each other.

실시 예에 있어서, 상기 증강 테스트 데이터를 생성하는 단계는, 상기 획득한 학습 데이터 중에 상기 테스트 데이터를 변형하여 미리 증강된 학습 데이터가 포함되면 상기 미리 증강된 학습 데이터와 상기 테스트 데이터를 서로 중첩되도록 혼합하여 증강 테스트 데이터를 생성하는 것을 특징으로 한다.In an embodiment, the step of generating the augmented test data is characterized in that, if the acquired learning data includes pre-augmented learning data by modifying the test data, the pre-augmented learning data and the test data are mixed so as to overlap each other to generate the augmented test data.

실시 예에 있어서, 상기 예측 데이터에 대한 불확실성을 추정하는 단계는, 상기 예측 데이터에 대한 클래스 히스토그램을 생성하여 불확실성을 추정하고, 클래스들간의 거리를 확인하여 유사도를 판단하는 것을 특징으로 한다.In the embodiment, the step of estimating uncertainty for the prediction data is characterized by generating a class histogram for the prediction data to estimate uncertainty and checking the distance between classes to determine similarity.

실시 예에 있어서, 상기 예측 데이터에 대한 불확실성을 추정하는 단계는, 상기 추정한 불확실성 값이 낮을수록 상기 예측 데이터의 정확도가 증가하고, 상기 추정한 불확실성 값이 높을수록 상기 예측 데이터의 정확도가 감소하는 것으로 판단하는 것을 특징으로 한다.In an embodiment, the step of estimating uncertainty for the prediction data is characterized in that the accuracy of the prediction data increases as the estimated uncertainty value decreases, and the accuracy of the prediction data decreases as the estimated uncertainty value increases.

본 발명의 일 실시 예에 따른 컴퓨터 판독가능 저장 매체 저장된 컴퓨터 프로그램으로서, 상기 컴퓨터 프로그램은 하나 이상의 프로세서에서 실행되는 경우, 불확실성 추정을 위한 이하의 동작들을 수행하도록 하며, 상기 동작들은, 테스트 데이터와 학습 데이터를 획득하는 동작, 상기 테스트 데이터와 상기 테스트 데이터와 같은 클래스 또는 다른 클래스에 속하는 적어도 하나의 학습 데이터가 서로 중첩되도록 혼합하여 증강 테스트 데이터를 생성하는 동작, 상기 증강 테스트 데이터를 뉴럴 네트워크 모델에 입력하여 예측 데이터를 생성하는 동작, 및 상기 예측 데이터에 대한 불확실성을 추정하는 동작을 포함하는 것을 특징으로 한다.According to one embodiment of the present invention, a computer program stored in a computer-readable storage medium, wherein the computer program, when executed on one or more processors, performs the following operations for uncertainty estimation, characterized in that the operations include: an operation of acquiring test data and learning data, an operation of generating augmented test data by mixing the test data and at least one learning data belonging to the same class as or a different class from the test data so as to overlap each other, an operation of inputting the augmented test data into a neural network model to generate prediction data, and an operation of estimating uncertainty for the prediction data.

본 발명의 일 실시 예에 따른 불확실성 추정 방법을 제공하기 위한 컴퓨팅 장치는, 하나 이상의 코어를 포함하는 프로세서 및 메모리를 포함하고, 상기 프로세서는, 테스트 데이터와 학습 데이터를 획득하고, 상기 테스트 데이터와 상기 테스트 데이터와 같은 클래스 또는 다른 클래스에 속하는 적어도 하나의 학습 데이터가 서로 중첩되도록 혼합하여 증강 테스트 데이터를 생성하며, 상기 증강 테스트 데이터를 뉴럴 네트워크 모델에 입력하여 예측 데이터를 생성하고, 그리고 상기 예측 데이터에 대한 불확실성을 추정하는 것을 특징으로 한다.A computing device for providing an uncertainty estimation method according to one embodiment of the present invention comprises a processor including one or more cores and a memory, wherein the processor obtains test data and learning data, mixes the test data and at least one learning data belonging to the same class as or different from the test data so as to overlap each other to generate augmented test data, inputs the augmented test data into a neural network model to generate prediction data, and estimates uncertainty for the prediction data.

본 발명의 일 실시 예에 따른 불확실성 추정을 위한 사용자 단말은, 하나 이상의 코어를 포함하는 프로세서, 메모리, 및 사용자 인터페이스를 제공하는 출력부를 포함하고, 상기 사용자 인터페이스는, 테스트 데이터와 상기 테스트 데이터와 같은 클래스 또는 다른 클래스에 속하는 적어도 하나의 학습 데이터를 중첩하여 혼합한 증강 테스트 데이터에 대한 응답으로, 불확실성 추정 결과 정보를 표시하고, 그리고 상기 불확실성 추정 결과 정보는, 상기 테스트 데이터와 학습 데이터를 획득하고, 상기 테스트 데이터와 상기 테스트 데이터와 같은 클래스 또는 다른 클래스에 속하는 적어도 하나의 학습 데이터가 서로 중첩되도록 혼합하여 증강 테스트 데이터를 생성하며, 상기 증강 테스트 데이터를 뉴럴 네트워크 모델에 입력하여 예측 데이터를 생성하고, 상기 예측 데이터에 대한 불확실성을 추정하여 생성되는 것을 특징으로 한다.According to an embodiment of the present invention, a user terminal for uncertainty estimation includes a processor including one or more cores, a memory, and an output unit providing a user interface, wherein the user interface displays uncertainty estimation result information in response to augmented test data in which test data and at least one learning data belonging to the same class as or a different class of the test data are overlapped and mixed, and the uncertainty estimation result information is characterized in that it is generated by acquiring the test data and the learning data, generating augmented test data by mixing the test data and at least one learning data belonging to the same class as or a different class of the test data so as to overlap each other, inputting the augmented test data into a neural network model to generate prediction data, and estimating uncertainty for the prediction data.

실시 예에 있어서, 상기 불확실성 추정 결과 정보는, 불확실성 학습에 의한 특정 클래스에 대한 다른 클래스의 유사도, 불확실성 추정에 대한 정확도, 테스트 데이터에 대한 불확실성 분포도를 포함하는 것을 특징으로 한다.In an embodiment, the uncertainty estimation result information is characterized by including the similarity of another class to a specific class through uncertainty learning, the accuracy of uncertainty estimation, and the uncertainty distribution for test data.

실시 예에 있어서, 상기 사용자 인터페이스는, 사용자 입력에 대한 응답으로, 상기 불확실성 추정 결과 정보를 표시하고, 그리고 상기 불확실성 추정 결과 정보는, 상기 테스트 데이터와 학습 데이터를 획득하고, 상기 테스트 데이터와 상기 테스트 데이터와 같은 클래스 또는 다른 클래스에 속하는 적어도 하나의 학습 데이터가 서로 중첩되도록 혼합하여 증강 테스트 데이터를 생성하며, 상기 증강 테스트 데이터를 뉴럴 네트워크 모델에 입력하여 예측 데이터를 생성하고, 상기 예측 데이터에 대한 불확실성을 추정하여 생성되는 것을 특징으로 한다.In an embodiment, the user interface displays the uncertainty estimation result information in response to a user input, and the uncertainty estimation result information is generated by obtaining the test data and the learning data, mixing the test data and at least one learning data belonging to the same class as or a different class of the test data so as to overlap each other to generate augmented test data, inputting the augmented test data into a neural network model to generate prediction data, and estimating uncertainty for the prediction data.

상술한 과제를 해결하기 위한 본 발명의 다른 실시 예에 따른 설골 움직임 추적 방법을 제공하는 컴퓨터 프로그램은, 하드웨어인 컴퓨터와 결합되어 상술한 방법 중 어느 하나의 방법을 수행하기 위해 매체에 저장된다.A computer program providing a method for tracking hyoid bone movement according to another embodiment of the present invention for solving the above-described problem is stored in a medium to perform one of the above-described methods by being combined with a computer as hardware.

이 외에도, 본 발명을 구현하기 위한 다른 방법, 다른 시스템 및 상기 방법을 실행하기 위한 컴퓨터 프로그램을 기록하는 컴퓨터 판독 가능한 기록 매체가 더 제공될 수 있다.In addition, other methods for implementing the present invention, other systems, and computer-readable recording media recording a computer program for executing the method may be further provided.

상기와 같이 본 발명에 따르면, 서로 다른 클래스의 데이터를 혼합한 테스트 시간 혼합 증강 방식으로 불확실성을 추정함으로써, 불확실성 추정에 대한 정확도를 높일 수 있다.As described above, according to the present invention, by estimating uncertainty in a test time mixed augmentation method that mixes data of different classes, the accuracy of uncertainty estimation can be increased.

본 발명의 효과들은 이상에서 언급된 효과로 제한되지 않으며, 언급되지 않은 또 다른 효과들은 아래의 기재로부터 통상의 기술자에게 명확하게 이해될 수 있을 것이다.The effects of the present invention are not limited to the effects mentioned above, and other effects not mentioned will be clearly understood by those skilled in the art from the description below.

도 1은, 본 발명의 일 실시예에 따라, 불확실성 추정 방법을 제공하기 위한 동작을 수행하는 컴퓨팅 장치의 블록 구성도를 도시한 도면이다.
도 2 및 도 3은, 본 발명의 일 실시예에 따라, 네트워크 함수를 나타낸 개략도이다.
도 4는, 본 발명의 일 실시예에 따라, TTA와 TTMA의 불확실성 추정에 대한 정확도를 비교 설명하기 위한 도면이다.
도 5는, 본 발명의 일 실시예에 따라, 정답 샘플과 오답 샘플의 불확실성 분포도를 비교 설명하기 위한 도면이다.
도 6은, 본 발명의 일 실시예에 따라, 불확실성 학습을 통해 특정 클래스에 대한 다른 클래스의 유사도를 설명하기 위한 도면이다.
도 7은, 본 발명의 일 실시예에 따라, 혼합 가중치 알파값에 상응하는 불확실성 추정에 대한 정확도를 비교 설명하기 위한 도면이다.FIG. 1 is a block diagram illustrating a computing device that performs operations for providing an uncertainty estimation method according to one embodiment of the present invention.
FIGS. 2 and 3 are schematic diagrams showing network functions according to one embodiment of the present invention.
FIG. 4 is a diagram for comparing and explaining the accuracy of uncertainty estimation of TTA and TTMA according to one embodiment of the present invention.
FIG. 5 is a diagram for comparing and explaining uncertainty distributions of correct and incorrect samples according to one embodiment of the present invention.
FIG. 6 is a diagram for explaining the similarity of another class to a specific class through uncertainty learning according to one embodiment of the present invention.
FIG. 7 is a diagram for comparing and explaining the accuracy of uncertainty estimation corresponding to a mixed weight alpha value according to one embodiment of the present invention.

본 발명의 이점 및 특징, 그리고 그것들을 달성하는 방법은 첨부되는 도면과 함께 상세하게 후술되어 있는 실시예들을 참조하면 명확해질 것이다. 그러나, 본 발명은 이하에서 개시되는 실시예들에 제한되는 것이 아니라 서로 다른 다양한 형태로 구현될 수 있으며, 단지 본 실시예들은 본 발명의 개시가 완전하도록 하고, 본 발명이 속하는 기술 분야의 통상의 기술자에게 본 발명의 범주를 완전하게 알려주기 위해 제공되는 것이며, 본 발명은 청구항의 범주에 의해 정의될 뿐이다.The advantages and features of the present invention, and the methods for achieving them, will become clear with reference to the embodiments described in detail below together with the accompanying drawings. However, the present invention is not limited to the embodiments disclosed below, but may be implemented in various different forms, and the present embodiments are provided only to make the disclosure of the present invention complete and to fully inform a person skilled in the art of the scope of the present invention, and the present invention is defined only by the scope of the claims.

본 명세서에서 사용된 용어는 실시예들을 설명하기 위한 것이며 본 발명을 제한하고자 하는 것은 아니다. 본 명세서에서, 단수형은 문구에서 특별히 언급하지 않는 한 복수형도 포함한다. 명세서에서 사용되는 "포함한다(comprises)" 및/또는 "포함하는(comprising)"은 언급된 구성요소 외에 하나 이상의 다른 구성요소의 존재 또는 추가를 배제하지 않는다. 명세서 전체에 걸쳐 동일한 도면 부호는 동일한 구성 요소를 지칭하며, "및/또는"은 언급된 구성요소들의 각각 및 하나 이상의 모든 조합을 포함한다. 비록 "제1", "제2" 등이 다양한 구성요소들을 서술하기 위해서 사용되나, 이들 구성요소들은 이들 용어에 의해 제한되지 않음은 물론이다. 이들 용어들은 단지 하나의 구성요소를 다른 구성요소와 구별하기 위하여 사용하는 것이다. 따라서, 이하에서 언급되는 제1 구성요소는 본 발명의 기술적 사상 내에서 제2 구성요소일 수도 있음은 물론이다.The terminology used herein is for the purpose of describing embodiments only and is not intended to limit the present invention. In this specification, the singular also includes the plural unless specifically stated otherwise in the phrase. The terms "comprises" and/or "comprising" as used in the specification do not exclude the presence or addition of one or more other components in addition to the mentioned components. Like reference numerals refer to like components throughout the specification, and "and/or" includes each and every combination of one or more of the mentioned components. Although "first", "second", etc. are used to describe various components, it is to be understood that these components are not limited by these terms. These terms are merely used to distinguish one component from another. Therefore, it should be understood that a first component mentioned below may also be a second component within the technical spirit of the present invention.

다른 정의가 없다면, 본 명세서에서 사용되는 모든 용어(기술 및 과학적 용어를 포함)는 본 발명이 속하는 기술분야의 통상의 기술자에게 공통적으로 이해될 수 있는 의미로 사용될 수 있을 것이다. 또한, 일반적으로 사용되는 사전에 정의되어 있는 용어들은 명백하게 특별히 정의되어 있지 않는 한 이상적으로 또는 과도하게 해석되지 않는다.Unless otherwise defined, all terms (including technical and scientific terms) used in this specification may be used with the meaning commonly understood by those skilled in the art to which the present invention belongs. In addition, terms defined in commonly used dictionaries shall not be ideally or excessively interpreted unless explicitly specifically defined.

이하, 첨부된 도면을 참조하여 본 발명의 실시예를 상세하게 설명한다.Hereinafter, embodiments of the present invention will be described in detail with reference to the attached drawings.

설명에 앞서 본 명세서에서 사용하는 용어의 의미를 간략히 설명한다. 그렇지만 용어의 설명은 본 명세서의 이해를 돕기 위한 것이므로, 명시적으로 본 발명을 한정하는 사항으로 기재하지 않은 경우에 본 발명의 기술적 사상을 한정하는 의미로 사용하는 것이 아님을 주의해야 한다.Before the explanation, the meaning of terms used in this specification will be briefly explained. However, since the explanation of terms is intended to help the understanding of this specification, it should be noted that they are not used to limit the technical idea of the present invention unless explicitly stated to limit the present invention.

본 명세서에서 신경망, 인공 신경망, 네트워크 함수는 종종 상호 교환 가능하게 사용될 수 있다.In this specification, the terms neural network, artificial neural network, and network function are often used interchangeably.

본 발명의 상세한 설명 및 청구항들에 걸쳐 이용된 "영상" 또는 "영상 데이터"라는 용어는 이산적 영상 요소들(예컨대, 2차원 영상에 있어서는 픽셀)로 구성된 다차원 데이터를 지칭하며, 달리 말하자면, (예컨대, 비디오 화면에 표시된) 눈으로 볼 수 있는 대상 또는 (예컨대, CT, MRI 검출기 등의 픽셀 출력에 대응되는 파일과 같은) 그 대상의 디지털 표현물을 지칭하는 용어이다.The terms “image” or “image data,” as used throughout the detailed description and claims of the present invention, refer to multidimensional data comprised of discrete image elements (e.g., pixels in a two-dimensional image), or in other words, a viewable object (e.g., displayed on a video screen) or a digital representation of that object (e.g., a file corresponding to the pixel output of a CT, MRI, etc. detector).

예를 들어 "이미지" 또는 "영상"은 전산화 단층 촬영(CT; computed tomography), 자기 공명 영상(MRI; magnetic resonance imaging), 설골 영상, 초음파 또는 본 발명의 기술분야에서 공지된 임의의 다른 의료 영상 시스템의 의하여 수집된 피검체(subject)의 의료 영상일 수 있다. 영상이 반드시 의료적 맥락에서 제공되어야 하는 것은 아니고 비의료적 맥락에서 제공될 수도 있는 바, 예를 들어 보안 검색용 X선 촬영 등이 있을 수 있다.For example, an "image" or "video" may be a medical image of a subject collected by computed tomography (CT), magnetic resonance imaging (MRI), hyoid imaging, ultrasound, or any other medical imaging system known in the art. The image need not necessarily be provided in a medical context and may be provided in a non-medical context, such as an X-ray for security screening.

본 발명의 상세한 설명 및 청구항들에 걸쳐 'DICOM(Digital Imaging and Communications in Medicine; 의료용 디지털 영상 및 통신)' 표준은 의료용 기기에서 디지털 영상 표현과 통신에 이용되는 여러 가지 표준을 총칭하는 용어인 바, DICOM 표준은 미국 방사선 의학회(ACR)와 미국 전기 공업회(NEMA)에서 구성한 연합 위원회에서 발표한다.Throughout the detailed description and claims of the present invention, the 'DICOM (Digital Imaging and Communications in Medicine)' standard is a general term for various standards used for digital image representation and communication in medical devices, and the DICOM standard is announced by a joint committee formed by the American College of Radiology (ACR) and the National Electrical Manufacturers Association (NEMA).

또한, 본 발명의 상세한 설명 및 청구항들에 걸쳐 '의료영상 저장 전송 시스템(PACS; Picture Archiving and Communication System)'은 DICOM 표준에 맞게 저장, 가공, 전송하는 시스템을 지칭하는 용어이며, X선, CT, MRI와 같은 디지털 의료영상 장비를 이용하여 획득된 의료영상 이미지는 DICOM 형식으로 저장되고 네트워크를 통하여 병원 내외의 단말로 전송이 가능하며, 이에는 판독 결과 및 진료 기록이 추가될 수 있다.In addition, throughout the detailed description and claims of the present invention, the term 'Picture Archiving and Communication System (PACS)' refers to a system that stores, processes, and transmits in accordance with the DICOM standard, and medical image images acquired using digital medical imaging equipment such as X-rays, CTs, and MRIs are stored in DICOM format and can be transmitted to terminals inside and outside the hospital via a network, to which interpretation results and medical records can be added.

또한, 본 명세서에 걸쳐, 뉴럴 네트워크(neural network), 신경망 네트워크, 네트워크 함수는, 동일한 의미로 사용될 수 있다. 뉴럴 네트워크는, 일반적으로 “노드”라 지칭될 수 있는 상호 연결된 계산 단위들의 집합으로 구성될 수 있다. 이러한 “노드”들은, “뉴런(neuron)”들로 지칭될 수도 있다. 뉴럴 네트워크는, 적어도 둘 이상의 노드들을 포함하여 구성된다. 뉴럴 네트워크들을 구성하는 노드(또는 뉴런)들은 하나 이상의 “링크”에 의해 상호 연결될 수 있다.Also, throughout this specification, the terms neural network, neural network, and network function may be used interchangeably. A neural network may be composed of a set of interconnected computational units, which may generally be referred to as “nodes.” These “nodes” may also be referred to as “neurons.” A neural network is composed of at least two or more nodes. The nodes (or neurons) constituting the neural networks may be interconnected by one or more “links.”

도 1은, 본 발명의 일 실시예에 따라, 불확실성 추정 방법을 제공하기 위한 동작을 수행하는 컴퓨팅 장치의 블록 구성도를 도시한 도면이다.FIG. 1 is a block diagram illustrating a computing device that performs operations for providing an uncertainty estimation method according to one embodiment of the present invention.

도 1에 도시된 컴퓨팅 장치(100)의 구성은 간략화하여 나타낸 예시일 뿐이다. 본 발명의 일 실시예에서 컴퓨팅 장치(100)는 컴퓨팅 장치(100)의 컴퓨팅 환경을 수행하기 위한 다른 구성들이 포함될 수 있고, 개시된 구성들 중 일부만이 컴퓨팅 장치(100)를 구성할 수도 있다.The configuration of the computing device (100) illustrated in FIG. 1 is only a simplified example. In one embodiment of the present invention, the computing device (100) may include other configurations for performing a computing environment of the computing device (100), and only some of the disclosed configurations may constitute the computing device (100).

컴퓨팅 장치(100)는, 프로세서(110), 메모리(130), 네트워크부(150)를 포함할 수 있다.The computing device (100) may include a processor (110), memory (130), and network unit (150).

본 발명에서, 프로세서(110)는, 테스트 시간 혼합 증강(Test-Time Mixup Augmentation) 방식을 이용하여 불확실성을 추정할 수 있는 방법에 관한 것으로, 테스트 데이터와 학습 데이터를 획득하고, 테스트 데이터와 테스트 데이터와 같은 클래스 또는 다른 클래스에 속하는 적어도 하나의 학습 데이터가 서로 중첩되도록 혼합하여 증강 테스트 데이터를 생성하며, 증강 테스트 데이터를 뉴럴 네트워크 모델에 입력하여 예측 데이터를 생성하고, 예측 데이터에 대한 불확실성을 추정할 수 있다.In the present invention, a processor (110) relates to a method for estimating uncertainty using a test-time mixup augmentation method, wherein test data and learning data are acquired, test data and at least one learning data belonging to the same class as the test data or a different class are mixed so that they overlap with each other to generate augmented test data, and prediction data is generated by inputting the augmented test data into a neural network model, and uncertainty for the prediction data can be estimated.

여기서, 테스트 데이터 및 학습 데이터는, 영상 데이터, 음성 데이터 및 시계열 데이터 중 적어도 하나를 포함할 수 있다. 즉, 의료업에 종사하는 자 또는 진단을 위한 장치 등이 데이터 내에 질병의 존재 유무를 판단할 수 있는 임의의 형태의 데이터가 의료 데이터에 포함될 수 있다. 영상 데이터는 환자의 환부를 검사 장비를 통해 촬영 또는 측정하여 전기 신호화 한 후 출력되는 모든 영상 데이터를 포함한다. 영상 데이터는, 의료 영상 촬영기기로부터 시간에 따라 연속하여 촬영된 동영상에서 동영상의 각 프레임을 구성하는 영상 데이터를 포함할 수 있다. 예를 들어, 초음파 검사 영상 데이터, MRI 장치에 의한 영상 데이터, CT 단층 촬영 영상 데이터, X-ray 촬영 영상 데이터 등을 포함한다. 나아가, 음성 데이터를 전기 신호로 변환하여 그래프 형태의 이미지로 출력하거나 시계열 데이터를 그래프 등의 시각화 된 자료로 나타낸 경우, 해당 이미지 또는 자료는, 상기 영상 데이터에 포함될 수 있다. 일 예로, 의료 데이터는, CT 영상을 포함할 수 있다. 의료 데이터에 관한 전술한 예시는, 일 예시에 불과할 뿐, 본 개시를 제한하지 않는다.Here, the test data and the learning data may include at least one of image data, voice data, and time series data. That is, any type of data that can be used by a person engaged in the medical industry or a diagnostic device to determine the presence or absence of a disease in the data may be included in the medical data. The image data includes all image data that is output after photographing or measuring a patient's affected area with an examination device and converting it into an electrical signal. The image data may include image data that constitutes each frame of a video in a video continuously photographed over time from a medical imaging device. For example, it includes ultrasound examination image data, image data by an MRI device, CT tomography image data, X-ray image data, etc. In addition, when voice data is converted into an electrical signal and output as an image in the form of a graph or time series data is expressed as visualized data such as a graph, the corresponding image or data may be included in the image data. As an example, the medical data may include a CT image. The above-described examples of medical data are merely examples and do not limit the present disclosure.

다음, 프로세서(110)는, 일 실시예로서, 테스트 데이터와 학습 데이터를 획득할 때, 제1 클래스의 테스트 데이터를 한 개 획득하면 제1 클래스와 다른 제2 클래스 내지 제N 클래스에 속하는 다수의 학습 데이터를 획득할 수 있다.Next, the processor (110), as an example, when acquiring test data and learning data, can acquire a plurality of learning data belonging to a second class to an Nth class different from the first class by acquiring one test data of the first class.

여기서, 프로세서(110)는, 제2 클래스 내지 제N 클래스에 속하는 다수의 학습 데이터를 획득할 때, 각 클래스마다 적어도 하나의 학습 데이터를 획득할 수 있다.Here, when the processor (110) acquires a plurality of learning data belonging to the second class to the Nth class, it can acquire at least one learning data for each class.

일 예로, 각 클래스에서 획득한 학습 데이터의 개수는, 서로 동일한 개수일 수 있다.For example, the number of learning data acquired from each class may be the same.

다른 일 예로, 각 클래스에서 획득한 학습 데이터의 개수는, 불균일한 개수일 수도 있다.As another example, the number of training data obtained from each class may be non-uniform.

이어, 프로세서(110)는, 다른 실시예로서, 테스트 데이터와 학습 데이터를 획득할 때, 제1 클래스의 테스트 데이터를 한 개 획득하면 제1 클래스의 학습 데이터와 제1 클래스와 다른 제2 클래스 내지 제N 클래스에 속하는 다수의 학습 데이터를 획득할 수도 있다.Next, as another embodiment, when acquiring test data and learning data, the processor (110) may acquire one test data of the first class, acquire learning data of the first class, and a plurality of learning data belonging to a second class to an Nth class different from the first class.

여기서, 제1 클래스의 학습 데이터는, 제1 클래스의 테스트 데이터와 다른 하나의 데이터일 수 있다.Here, the training data of the first class may be different data from the test data of the first class.

경우에 따라, 제1 클래스의 학습 데이터는, 제1 클래스의 테스트 데이터와 다른 다수의 데이터일 수도 있다.In some cases, the training data of the first class may be multiple data different from the test data of the first class.

또한, 프로세서(110)는, 제2 클래스 내지 제N 클래스에 속하는 다수의 학습 데이터를 획득할 때, 각 클래스마다 적어도 하나의 학습 데이터를 획득할 수 있다.In addition, when the processor (110) acquires a plurality of learning data belonging to the second class to the Nth class, it can acquire at least one learning data for each class.

여기서, 각 클래스에서 획득한 학습 데이터의 개수는, 서로 동일한 개수일 수 있다.Here, the number of learning data obtained from each class may be the same.

경우에 따라, 각 클래스에서 획득한 학습 데이터의 개수는, 불균일한 개수일 수도 있다.In some cases, the number of training data obtained from each class may be uneven.

다음, 프로세서(110)는, 또 다른 실시예로서, 테스트 데이터와 학습 데이터를 획득할 때, 제1 클래스의 테스트 데이터를 한 개 획득하면 제1 클래스와 다른 특정 클래스에 속하는 학습 데이터를 획득할 수도 있다.Next, the processor (110), as another embodiment, when acquiring test data and learning data, may acquire learning data belonging to a specific class other than the first class by acquiring one test data of the first class.

여기서, 프로세서(110)는, 특정 클래스에 속하는 학습 데이터를 획득할 때, 특정 클래스에 속하는 다수의 학습 데이터를 획득할 수 있다.Here, when the processor (110) acquires learning data belonging to a specific class, it can acquire a plurality of learning data belonging to the specific class.

경우에 따라, 프로세서(110)는, 특정 클래스에 속하는 학습 데이터를 획득할 때, 특정 클래스에 속하는 하나의 학습 데이터를 획득할 수 있다.In some cases, when the processor (110) obtains learning data belonging to a specific class, it may obtain one learning data belonging to a specific class.

본 발명에서, 테스트 데이터 및 학습 데이터의 클래스는, 신체의 특정 병변에 대한 다수의 질병 클래스로 분류될 수 있는데, 이는 일 실시예일 뿐, 이에 한정되지는 않는다.In the present invention, the classes of test data and learning data can be classified into multiple disease classes for specific lesions of the body, but this is only an example and is not limited thereto.

그리고, 프로세서(110)는, 증강 테스트 데이터를 생성할 때, 제1 클래스의 테스트 데이터 한 개와 제2 클래스 내지 제N 클래스에 속하는 다수의 학습 데이터가 획득되면, 제1 클래스의 테스트 데이터 한 개와 제2 클래스 내지 제N 클래스에 속하는 학습 데이터 한 개를 중첩되도록 혼합하여 증강 테스트 데이터를 생성하고, 제2 클래스 내지 제N 클래스에 속하는 모든 학습 데이터가 테스트 데이터와의 혼합이 완료되면 증강 테스트 데이터 생성을 종료할 수 있다.And, when the processor (110) generates augmented test data, if one test data of the first class and a plurality of learning data belonging to the second class to the Nth class are acquired, the processor may generate augmented test data by overlapping one test data of the first class and one learning data belonging to the second class to the Nth class, and when all learning data belonging to the second class to the Nth class are completely mixed with the test data, the generation of the augmented test data may be terminated.

경우에 따라, 프로세서(110)는, 증강 테스트 데이터를 생성할 때, 제1 클래스의 테스트 데이터 한 개와 제1 클래스에 속하는 학습 데이터를 포함한 제2 클래스 내지 제N 클래스에 속하는 다수의 학습 데이터가 획득되면, 제1 클래스의 테스트 데이터 한 개와 제1 클래스에 속하는 학습 데이터 한개를 중첩되도록 혼합하여 제1 증강 테스트 데이터를 생성하고, 제1 클래스의 테스트 데이터 한 개와 제2 클래스 내지 제N 클래스에 속하는 학습 데이터 한 개를 중첩되도록 혼합하여 제2 증강 테스트 데이터를 생성하며, 제2 클래스 내지 제N 클래스에 속하는 모든 학습 데이터가 테스트 데이터와의 혼합이 완료되면 증강 테스트 데이터 생성을 종료할 수 있다.In some cases, when generating augmented test data, the processor (110) may obtain one piece of test data of a first class and a plurality of pieces of learning data belonging to a second class to an Nth class including learning data belonging to the first class, and may generate first augmented test data by overlapping and mixing one piece of test data of the first class and one piece of learning data belonging to the first class, and may generate second augmented test data by overlapping and mixing one piece of test data of the first class and one piece of learning data belonging to the second class to the Nth class, and may terminate the generation of augmented test data when mixing of all learning data belonging to the second class to the Nth class with the test data is completed.

다른 경우로서, 프로세서(110)는, 증강 테스트 데이터를 생성할 때, 제1 클래스의 테스트 데이터 한 개와 제1 클래스와 다른 특정 클래스에 속하는 학습 데이터가 획득되면, 제1 클래스의 테스트 데이터 한 개와 특정 클래스에 속하는 학습 데이터 한 개를 중첩되도록 혼합하여 증강 테스트 데이터를 생성하고, 특정 클래스에 속하는 모든 학습 데이터가 테스트 데이터와의 혼합이 완료되면 증강 테스트 데이터 생성을 종료할 수 있다.In another case, when generating augmented test data, if one piece of test data of a first class and one piece of learning data belonging to a specific class different from the first class are acquired, the processor (110) may generate augmented test data by overlapping and mixing one piece of test data of the first class and one piece of learning data belonging to the specific class, and may end the generation of augmented test data when all learning data belonging to the specific class are completely mixed with the test data.

또한, 프로세서(110)는, 증강 테스트 데이터를 생성할 때, 테스트 데이터의 이미지 및 라벨과 학습 데이터의 이미지 및 라벨을 모두 중첩되도록 혼합하여 증강 테스트 데이터를 생성할 수 있다.Additionally, when generating augmented test data, the processor (110) may generate augmented test data by mixing images and labels of the test data and images and labels of the learning data so that they overlap.

이어, 프로세서(110)는, 증강 테스트 데이터를 생성할 때, 획득한 학습 데이터 중에 테스트 데이터를 변형하여 미리 증강된 학습 데이터가 포함되면 미리 증강된 학습 데이터와 테스트 데이터를 서로 중첩되도록 혼합하여 증강 테스트 데이터를 생성할 수 있다.Next, when generating augmented test data, the processor (110) may transform the test data among the acquired learning data, and if the augmented learning data is included, the augmented test data may be generated by mixing the augmented learning data and the test data so that they overlap each other.

여기서, 테스트 데이터의 변형은, 데이터 셋을 회전, 반전, 뒤집기, 늘이기, 줄이기 및 노이즈 등과 같이 다양한 변형을 통해 증강을 수행하는 것을 포함할 수 있는데, 이는 일 실시예일 뿐, 이에 한정되지는 않는다.Here, the transformation of the test data may include performing augmentation through various transformations such as rotating, inverting, flipping, stretching, shrinking, and noise on the data set, but this is only an example and is not limited thereto.

다음, 프로세서(110)는, 예측 데이터에 대한 불확실성을 추정할 때, 예측 데이터에 대한 클래스 히스토그램을 생성하여 불확실성을 추정하고, 클래스들간의 거리를 확인하여 유사도를 판단할 수 있다.Next, the processor (110) can estimate uncertainty for prediction data by generating a class histogram for the prediction data, and determine similarity by checking the distance between classes.

여기서, 프로세서(110)는, 예측 데이터에 대한 불확실성을 추정할 때, 추정한 불확실성 값이 낮을수록 예측 데이터의 정확도가 증가하고, 추정한 불확실성 값이 높을수록 예측 데이터의 정확도가 감소하는 것으로 판단할 수 있다.Here, the processor (110) can determine that when estimating uncertainty for prediction data, the accuracy of the prediction data increases as the estimated uncertainty value decreases, and the accuracy of the prediction data decreases as the estimated uncertainty value increases.

그리고, 프로세서(110)는, 예측 데이터에 대한 불확실성을 추정할 때, 예측 데이터에 대한 불확실성을 추정하고, 불확실성 추정 결과 정보를 생성할 수 있다.And, when estimating uncertainty for prediction data, the processor (110) can estimate uncertainty for the prediction data and generate uncertainty estimation result information.

여기서, 불확실성 추정 결과 정보는, 불확실성 학습에 의한 특정 클래스에 대한 다른 클래스의 유사도, 불확실성 추정에 대한 정확도, 테스트 데이터에 대한 불확실성 분포도를 포함할 수 있는데, 이는 일 실시예일 뿐, 이에 한정되지는 않는다.Here, the uncertainty estimation result information may include the similarity of other classes to a specific class through uncertainty learning, the accuracy of uncertainty estimation, and the uncertainty distribution for test data, but this is only an example and is not limited thereto.

또한, 전술한 뉴럴 네트워크 모델은, 딥 뉴럴 네트워크일 수 있다. 본 명세서에 걸쳐, 신경망, 네트워크 함수, 뉴럴 네트워크(neural network)는 동일한 의미로 사용될 수 있다. 딥 뉴럴 네트워크(DNN: deep neural network, 심층신경망)는, 입력 레이어와 출력 레이어 외에 복수의 히든 레이어를 포함하는 신경망을 의미할 수 있다. 딥 뉴럴 네트워크를 이용하면 데이터의 잠재적인 구조(latent structures)를 파악할 수 있다. 즉, 사진, 글, 비디오, 음성, 음악의 잠재적인 구조(예를 들어, 어떤 물체가 사진에 있는지, 글의 내용과 감정이 무엇인지, 음성의 내용과 감정이 무엇인지 등)를 파악할 수 있다. 딥 뉴럴 네트워크는 컨벌루셔널 뉴럴 네트워크 (CNN: convolutional neural network), 리커런트 뉴럴 네트워크(RNN: recurrent neural network), 제한 볼츠만 머신(RBM: restricted boltzmann machine), 심층 신뢰 네트워크(DBN: deep belief network), Q 네트워크, U 네트워크, 샴 네트워크 등을 포함할 수 있다.In addition, the neural network model described above may be a deep neural network. Throughout this specification, the terms neural network, network function, and neural network may be used interchangeably. A deep neural network (DNN) may refer to a neural network that includes multiple hidden layers in addition to an input layer and an output layer. Using a deep neural network, latent structures of data can be identified. That is, latent structures of photos, text, videos, voices, and music (e.g., what objects are in the photo, what the content and emotion of the text are, what the content and emotion of the voice are, etc.) can be identified. A deep neural network may include a convolutional neural network (CNN), a recurrent neural network (RNN), a restricted Boltzmann machine (RBM), a deep belief network (DBN), a Q network, a U network, a Siamese network, etc.

컨벌루셔널 뉴럴 네트워크는, 딥 뉴럴 네트워크의 일종으로서, 컨벌루셔널 레이어를 포함하는 신경망을 포함한다. 컨벌루셔널 뉴럴 네트워크는, 최소한의 전처리(preprocess)를 사용하도록 설계된 다계층 퍼셉트론(multilayer perceptrons)의 한 종류이다. CNN은, 하나 또는 여러 개의 컨벌루셔널 레이어와 이와 결합된 인공 신경망 계층들로 구성될 수 있다. CNN은, 가중치와 풀링 레이어(pooling layer)들을 추가로 활용할 수 있다. 이러한 구조 덕분에 CNN은, 2차원 구조의 입력 데이터를 충분히 활용할 수 있다. 컨벌루셔널 뉴럴 네트워크는, 이미지에서 오브젝트를 인식하기 위하여 사용될 수 있다. 컨벌루셔널 뉴럴 네트워크는, 이미지 데이터를 차원을 가진 행렬로 나타내어 처리할 수 있다. 예를 들어 RGB(red-green-blue)로 인코딩 된 이미지 데이터의 경우, R, G, B 색상별로 각각 2차원(예를 들어, 2 차원 이미지 인 경우) 행렬로 나타내 질 수 있다. 즉, 이미지 데이터의 각 픽셀의 색상 값이 행렬의 성분이 될 수 있으며 행렬의 크기는 이미지의 크기와 같을 수 있다. 따라서, 이미지 데이터는, 3개의 2차원 행렬로(3차원의 데이터 어레이)로 나타내질 수 있다.A convolutional neural network is a type of deep neural network that includes a neural network that includes a convolutional layer. A convolutional neural network is a type of multilayer perceptron designed to use minimal preprocessing. A CNN can be composed of one or more convolutional layers and artificial neural network layers combined with them. A CNN can additionally utilize weight and pooling layers. Thanks to this structure, a CNN can sufficiently utilize two-dimensional structured input data. A convolutional neural network can be used to recognize objects in images. A convolutional neural network can process image data by representing it as a matrix with dimensions. For example, in the case of image data encoded in RGB (red-green-blue), each of the R, G, and B colors can be represented as a two-dimensional (for example, in the case of a two-dimensional image) matrix. That is, the color value of each pixel of the image data can be an element of a matrix, and the size of the matrix can be the same as the size of the image. Therefore, the image data can be represented as three two-dimensional matrices (three-dimensional data array).

컨벌루셔널 뉴럴 네트워크에서, 컨벌루셔널 필터를 이동해가며 컨벌루셔널 필터와 이미지의 각 위치에서의 행렬 성분끼리 곱하는 것으로 컨벌루셔널 과정(컨벌루셔널 레이어의 입출력)을 수행할 수 있다. 컨벌루셔널 필터는, n*n 형태의 행렬로 구성될 수 있다. 컨벌루셔널 필터는, 일반적으로 이미지의 전체 픽셀의 수보다 작은 고정된 형태의 필터로 구성될 수 있다. 즉, m*m 이미지를 컨벌루셔널 레이어(예를 들어, 컨벌루셔널 필터의 사이즈가 n*n인 컨벌루셔널 레이어)입력시키는 경우, 이미지의 각 픽셀을 포함하는 n*n 픽셀을 나타내는 행렬이 컨벌루셔널 필터와 성분 곱 (즉, 행렬의 각 성분끼리의 곱) 될 수 있다. 컨벌루셔널 필터와의 곱에 의하여 이 미지에서 컨벌루셔널 필터와 매칭되는 성분이 추출될 수 있다. 예를 들어, 이미지에서 상하 직선 성분을 추출하기 위한 3*3 컨벌루셔널 필터는 [[0,1,0], [0,1,0], [0,1,0]] 와 같이 구성될 수 있다. 이미지에서 상하 직선 성분을 추출하기 위한 3*3 컨벌루셔널 필터가 입력 이미지에 적용되면 이미지에서 컨벌루셔널 필터와 매칭되는 상하 직선 성분이 추출되어 출력될 수 있다. 컨벌루셔널 레이어는 이미지를 나타낸 각각의 채널에 대한 각각의 행렬(즉, R, G, B 코딩 이미지의 경우, R, G, B 색상)에 컨벌루셔널 필터를 적용할 수 있다. 컨벌루셔널 레이어는 입력 이미지에 컨벌루셔널 필터를 적용하여 입력 이미지에서 컨벌루셔널 필터와 매칭되는 피쳐를 추출할 수 있다. 컨벌루셔널 필터의 필터 값(즉, 행렬의 각 성분의 값)은 컨벌루셔널 뉴럴 네트워크의 학습 과정에서 역전파에 의하여 업데이트 될 수 있다.In a convolutional neural network, a convolutional process (input and output of a convolutional layer) can be performed by moving a convolutional filter and multiplying the matrix components at each location of the convolutional filter and the image. The convolutional filter can be composed of a matrix in the form of an n*n matrix. The convolutional filter can generally be composed of a fixed-shape filter that is smaller than the total number of pixels of the image. That is, when an m*m image is input to a convolutional layer (for example, a convolutional layer whose convolutional filter has a size of n*n), a matrix representing n*n pixels including each pixel of the image can be component-multiplied (i.e., multiplied between each component of the matrix) with the convolutional filter. By multiplying with the convolutional filter, a component matching the convolutional filter can be extracted from the image. For example, a 3*3 convolutional filter for extracting upper and lower straight line components from an image can be configured as [[0,1,0], [0,1,0], [0,1,0]]. When a 3*3 convolutional filter for extracting upper and lower straight line components from an image is applied to an input image, upper and lower straight line components matching the convolutional filter from the image can be extracted and output. The convolutional layer can apply a convolutional filter to each matrix for each channel representing the image (i.e., R, G, B colors in the case of an R, G, B coded image). The convolutional layer can extract features matching the convolutional filter from the input image by applying the convolutional filter to the input image. The filter value of the convolutional filter (i.e., the value of each component of the matrix) can be updated by backpropagation during the learning process of the convolutional neural network.

컨벌루셔널 레이어의 출력에는, 서브샘플링 레이어가 연결되어 컨벌루셔널 레이어의 출력을 단순화하여 메모리 사용량과 연산량을 줄일 수 있다. 예를 들어, 2*2 맥스 풀링 필터를 가지는 풀링 레이어에 컨벌루셔널 레이어의 출력을 입력시키는 경우, 이미지의 각 픽셀에서 2*2 패치마다 각 패치에 포함되는 최대값을 출력하여 이미지를 압축할 수 있다. 전술한 풀링은 패치에서 최소값을 출력하거나, 패치의 평균값을 출력하는 방식일 수도 있으며 임의의 풀링 방식이 본 발명에 포함될 수 있다.The output of the convolutional layer can be connected to a subsampling layer to simplify the output of the convolutional layer, thereby reducing memory usage and computational amount. For example, when the output of the convolutional layer is input to a pooling layer having a 2*2 max pooling filter, the image can be compressed by outputting the maximum value included in each patch for each 2*2 patch from each pixel of the image. The above-described pooling may be a method of outputting the minimum value from the patch or the average value of the patch, and any pooling method may be included in the present invention.

컨벌루셔널 뉴럴 네트워크는, 하나 이상의 컨벌루셔널 레이어, 서브 샘플링 레이어를 포함할 수 있다. 컨벌루셔널 뉴럴 네트워크는 컨벌루셔널 과정과 서브샘플링 과정(예를 들어, 전술한 맥스 풀링 등)을 반복적으로 수행하여 이미지에서 피쳐를 추출할 수 있다. 반복적인 컨벌루션널 과정과 서브샘플링 과정을 통해 뉴럴 네트워크는 이미지의 글로벌 피쳐를 추출할 수 있다.A convolutional neural network may include one or more convolutional layers and sub-sampling layers. A convolutional neural network can extract features from an image by repeatedly performing a convolutional process and a sub-sampling process (e.g., the aforementioned max pooling). Through repeated convolutional processes and sub-sampling processes, the neural network can extract global features of an image.

컨벌루셔널 레이어 또는 서브샘플링 레이어의 출력은 풀 커넥티드 레이어(fully connected layer)에 입력될 수 있다. 풀 커넥티드 레이어는 하나의 레이어에 있는 모든 뉴런과 이웃한 레이어에 있는 모든 뉴런이 연결되는 레이어이다. 풀 커넥티드 레이어는 뉴럴 네트워크에서 각 레이어의 모든 노드가 다른 레이어의 모든 노드에 연결된 구조를 의미할 수 있다.The output of a convolutional layer or a subsampling layer can be input to a fully connected layer. A fully connected layer is a layer in which all neurons in one layer are connected to all neurons in the neighboring layer. A fully connected layer can mean a structure in a neural network in which all nodes in each layer are connected to all nodes in other layers.

본 발명의 일 실시예에 따르면, 프로세서(110)는, 하나 이상의 코어로 구성될 수 있으며, 컴퓨팅 장치의 중앙 처리 장치(CPU: central processing unit), 범용 그래픽 처리 장치 (GPGPU: general purpose graphics processing unit), 텐서 처리 장치(TPU: tensor processing unit) 등의 데이터 분석, 딥러닝을 위한 프로세서를 포함할 수 있다. 프로세서(110)는, 메모리(130)에 저장된 컴퓨터 프로그램을 판독하여 본 발명의 일 실시예에 따른 기계 학습을 위한 데이터 처리를 수행할 수 있다. 본 발명의 일실시예에 따라 프로세서(110)는, 신경망의 학습을 위한 연산을 수행할 수 있다. 프로세서(110)는, 딥러닝(DL: deep learning)에서 학습을 위한 입력 데이터의 처리, 입력 데이터에서의 피처 추출, 오차 계산, 역전파(backpropagation)를 이용한 신경망의 가중치 업데이트 등의 신경망의 학습을 위한 계산을 수행할 수 있다. 프로세서(110)의 CPU, GPGPU, 및 TPU 중 적어도 하나가 네트워크 함수의 학습을 처리할 수 있다. 예를 들어, CPU 와 GPGPU가 함께 네트워크 함수의 학습, 네트워크 함수를 이용한 데이터 분류를 처리할 수 있다. 또한, 본 발명의 일 실시예에서 복수의 컴퓨팅 장치의 프로세서를 함께 사용하여 네트워크 함수의 학습, 네트워크 함수를 이용한 데이터 분류를 처리할 수 있다. 또한, 본 발명의 일 실시예에 따른 컴퓨팅 장치에서 수행되는 컴퓨터 프로그램은, CPU, GPGPU 또는 TPU 실행가능 프로그램일 수 있다.According to one embodiment of the present invention, the processor (110) may be composed of one or more cores, and may include a processor for data analysis and deep learning, such as a central processing unit (CPU), a general purpose graphics processing unit (GPGPU), and a tensor processing unit (TPU) of a computing device. The processor (110) may read a computer program stored in the memory (130) and perform data processing for machine learning according to one embodiment of the present invention. According to one embodiment of the present invention, the processor (110) may perform operations for learning a neural network. The processor (110) may perform calculations for learning a neural network, such as processing input data for learning in deep learning (DL), extracting features from input data, calculating errors, and updating weights of a neural network using backpropagation. At least one of the CPU, GPGPU, and TPU of the processor (110) may process learning of a network function. For example, CPU and GPGPU can be used together to process learning of network functions and data classification using network functions. In addition, in one embodiment of the present invention, processors of multiple computing devices can be used together to process learning of network functions and data classification using network functions. In addition, a computer program executed in a computing device according to one embodiment of the present invention can be a CPU, GPGPU or TPU executable program.

본 발명의 일 실시예에 따르면, 메모리(130)는, 불확실성 추정 방법을 제공하기 위한 컴퓨터 프로그램을 저장할 수 있으며, 저장된 컴퓨터 프로그램은 프로세서(120)에 의하여 판독되어 구동될 수 있다. 메모리(130)는, 프로세서(110)가 생성하거나 결정한 임의의 형태의 정보 및 네트워크부(150)가 수신한 임의의 형태의 정보를 저장할 수 있다.According to one embodiment of the present invention, the memory (130) can store a computer program for providing an uncertainty estimation method, and the stored computer program can be read and operated by the processor (120). The memory (130) can store any form of information generated or determined by the processor (110) and any form of information received by the network unit (150).

본 발명의 일 실시예에 따르면, 메모리(130)는, 플래시 메모리 타입(flash memory type), 하드디스크 타입(hard disk type), 멀티미디어 카드 마이크로 타입(multimedia card micro type), 카드 타입의 메모리(예를 들어 SD 또는 XD 메모리 등), 램(Random Access Memory, RAM), SRAM(Static Random Access Memory), 롬(Read-Only Memory, ROM), EEPROM(Electrically Erasable Programmable Read-Only Memory), PROM(Programmable Read-Only Memory), 자기 메모리, 자기 디스크, 광디스크 중 적어도 하나의 타입의 저장매체를 포함할 수 있다. 컴퓨팅 장치(100)는 인터넷(internet) 상에서 상기 메모리(130)의 저장 기능을 수행하는 웹 스토리지(web storage)와 관련되어 동작할 수도 있다. 전술한 메모리에 대한 기재는 예시일 뿐, 이에 제한되지 않는다.According to one embodiment of the present invention, the memory (130) may include at least one type of storage medium among a flash memory type, a hard disk type, a multimedia card micro type, a card type memory (for example, an SD or XD memory, etc.), a Random Access Memory (RAM), a Static Random Access Memory (SRAM), a Read-Only Memory (ROM), an Electrically Erasable Programmable Read-Only Memory (EEPROM), a Programmable Read-Only Memory (PROM), a magnetic memory, a magnetic disk, and an optical disk. The computing device (100) may also operate in relation to web storage that performs the storage function of the memory (130) on the Internet. The description of the above-described memory is merely an example and is not limited thereto.

본 발명의 일 실시예에 따른 네트워크부(150)는, 불확실성 추정 결과 정보 등을 다른 컴퓨팅 장치, 서버 등과 송수신할 수 있다. 또한, 네트워크부(150)는, 복수의 컴퓨팅 장치 사이의 통신을 가능하게 하여 복수의 컴퓨팅 장치 각각에서 불확실성 추정 또는 모델의 학습을 위한 동작들이 분산 수행되도록 할 수 있다. 네트워크부(150)는, 복수의 컴퓨팅 장치 사이의 통신을 가능하게 하여 불확실성 추정 또는 네트워크 함수를 사용한 모델 학습을 위한 연산을 분산 처리하도록 할 수 있다.The network unit (150) according to one embodiment of the present invention can transmit and receive uncertainty estimation result information, etc., to and from other computing devices, servers, etc. In addition, the network unit (150) can enable communication between a plurality of computing devices so that operations for uncertainty estimation or model learning can be distributedly performed on each of the plurality of computing devices. The network unit (150) can enable communication between a plurality of computing devices so that operations for uncertainty estimation or model learning using network functions can be distributedly processed.

본 발명의 일 실시예에 따른 네트워크부(150)는, 근거리(단거리), 원거리, 유선 및 무선 등과 같은 현재 사용 및 구현되는 임의의 형태의 유무선 통신 기술에 기반하여 동작할 수 있으며, 다른 네트워크들에서도 사용될 수 있다.The network unit (150) according to one embodiment of the present invention can operate based on any form of wired and wireless communication technology currently in use and implemented, such as short-distance (short-distance), long-distance, wired, and wireless, and can also be used in other networks.

본 발명의 컴퓨팅 장치(100)는, 출력부 및 입력부를 더 포함할 수도 있다.The computing device (100) of the present invention may further include an output unit and an input unit.

본 발명의 일 실시예에 따른 출력부는, 불확실성 추정 결과를 제공하기 위한 사용자 인터페이스(UI, user interface)를 표시할 수 있다. 출력부는, 프로세서(110)가 생성하거나 결정한 임의의 형태의 정보 및 네트워크부(150)가 수신한 임의의 형태의 정보를 출력할 수 있다.An output unit according to one embodiment of the present invention may display a user interface (UI) for providing an uncertainty estimation result. The output unit may output any form of information generated or determined by the processor (110) and any form of information received by the network unit (150).

본 발명의 일 실시예에서, 출력부는, 액정 디스플레이(liquid crystal display, LCD), 박막 트랜지스터 액정 디스플레이(thin film transistor-liquid crystal display, TFT LCD), 유기 발광 다이오드(organic light-emitting diode, OLED), 플렉시블 디스플레이(flexible display), 3차원 디스플레이(3D display) 중에서 적어도 하나를 포함할 수 있다. 이들 중 일부 디스플레이 모듈은, 그를 통해 외부를 볼 수 있도록 투명형 또는 광 투과형으로 구성될 수 있다. 이는 투명 디스플레이 모듈이라 지칭될 수 있는데, 상기 투명 디스플레이 모듈의 대표적인 예로는 TOLED(Transparent OLED) 등이 있다.In one embodiment of the present invention, the output unit may include at least one of a liquid crystal display (LCD), a thin film transistor-liquid crystal display (TFT LCD), an organic light-emitting diode (OLED), a flexible display, and a three-dimensional display (3D display). Some of these display modules may be configured as transparent or light-transmitting so that the outside may be viewed therethrough. This may be referred to as a transparent display module, and representative examples of the transparent display modules include TOLED (Transparent OLED).

본 발명의 일 실시예에 따른 입력부는, 사용자 입력을 수신할 수 있다. 입력부는, 사용자 입력을 수신받기 위한 사용자 인터페이스 상의 키 및/또는 버튼들, 또는 물리적인 키 및/또는 버튼들을 구비할 수 있다. 입력부를 통한 사용자 입력에 따라 본 발명의 실시예들에 따른 디스플레이를 제어하기 위한 컴퓨터 프로그램이 실행될 수 있다.An input unit according to one embodiment of the present invention can receive a user input. The input unit can have keys and/or buttons on a user interface for receiving a user input, or physical keys and/or buttons. A computer program for controlling a display according to embodiments of the present invention can be executed according to a user input through the input unit.

본 발명의 실시예들에 따른 입력부는, 사용자의 버튼 조작 또는 터치 입력을 감지하여 신호를 수신하거나, 카메라 또는 마이크로폰을 통하여 사용자 등의 음성 또는 동작을 수신하여 이를 입력 신호로 변환할 수도 있다. 이를 위해 음성 인식(Speech Recognition) 기술 또는 동작 인식(Motion Recognition) 기술들이 사용될 수 있다.The input unit according to embodiments of the present invention may detect a user's button operation or touch input to receive a signal, or may receive a user's voice or motion through a camera or microphone and convert it into an input signal. For this purpose, speech recognition technology or motion recognition technology may be used.

본 발명의 실시예들에 따른 입력부는, 컴퓨팅 장치(100)와 연결된 외부 입력 장비로서 구현될 수도 있다. 예를 들어, 입력 장비는 사용자 입력을 수신하기 위한 터치 패드, 터치 펜, 키보드 또는 마우스 중 적어도 하나일 수 있으나, 이는 예시일 뿐이며 이에 제한되는 것은 아니다.The input unit according to embodiments of the present invention may be implemented as an external input device connected to the computing device (100). For example, the input device may be at least one of a touch pad, a touch pen, a keyboard, or a mouse for receiving user input, but this is only an example and is not limited thereto.

본 발명의 일 실시예에 따른 입력부는, 사용자 터치 입력을 인식할 수 있다. 본 발명의 일 실시예에 따른 입력부는, 출력부와 동일한 구성일 수도 있다. 입력부는, 사용자의 선택 입력을 수신하도록 구현되는 터치 스크린으로 구성될 수 있다. 터치 스크린은, 접촉식 정전용량 방식, 적외선 광 감지 방식, 표면 초음파(SAW) 방식, 압전 방식, 저항막 방식 중 어느 하나의 방식이 사용될 수 있다. 전술한 터치 스크린에 대한 자세한 기재는, 본 발명의 일 실시예에 따른 예시일 뿐이며, 다양한 터치 스크린 패널이 컴퓨팅 장치(100)에 채용될 수 있다. 터치 스크린으로 구성된 입력부는, 터치 센서를 포함할 수 있다. 터치 센서는, 입력부의 특정 부위에 가해진 압력 또는 입력부의 특정 부위에 발생하는 정전 용량 등의 변화를 전기적인 입력신호로 변환하도록 구성될 수 있다. 터치 센서는, 터치 되는 위치 및 면적뿐만 아니라, 터치 시의 압력까지도 검출할 수 있도록 구성될 수 있다. 터치 센서에 대한 터치입력이 있는 경우, 그에 대응하는 신호(들)는 터치 제어기로 보내진다. 터치 제어기는, 그 신호(들)를 처리한 다음 대응하는 데이터를 프로세서(110)로 전송할 수 있다. 이로써, 프로세서(110)는 입력부의 어느 영역이 터치 되었는지 여부 등을 인식할 수 있게 된다.The input unit according to one embodiment of the present invention can recognize a user touch input. The input unit according to one embodiment of the present invention may have the same configuration as the output unit. The input unit may be configured as a touch screen implemented to receive a user's selection input. The touch screen may use any one of a contact-type electrostatic capacitance method, an infrared light detection method, a surface-acoustic (SAW) method, a piezoelectric method, and a resistive film method. The detailed description of the touch screen described above is only an example according to one embodiment of the present invention, and various touch screen panels may be employed in the computing device (100). The input unit configured as a touch screen may include a touch sensor. The touch sensor may be configured to convert a change in pressure applied to a specific portion of the input unit or electrostatic capacitance generated in a specific portion of the input unit into an electrical input signal. The touch sensor may be configured to detect not only the position and area of the touch, but also the pressure at the time of the touch. When there is a touch input to the touch sensor, a corresponding signal(s) is sent to the touch controller. The touch controller can process the signal(s) and then transmit corresponding data to the processor (110). As a result, the processor (110) can recognize which area of the input unit has been touched, etc.

본 발명의 일 실시예에서, 서버는, 서버의 서버 환경을 수행하기 위한 다른 구성들이 포함될 수도 있다. 서버는 임의의 형태의 장치는 모두 포함할 수 있다. 서버는, 디지털 기기로서, 랩탑 컴퓨터, 노트북 컴퓨터, 데스크톱 컴퓨터, 웹 패드, 이동 전화기와 같이 프로세서를 탑재하고 메모리를 구비한 연산 능력을 갖춘 디지털 기기일 수 있다.In one embodiment of the present invention, the server may include other components for performing the server environment of the server. The server may include any type of device. The server may be a digital device having a processor and a memory, such as a laptop computer, a notebook computer, a desktop computer, a web pad, or a mobile phone.

본 발명의 일 실시예에 따른 불확실성 추정 결과를 표시하는 사용자 인터페이스를 사용자 단말로 제공하기 위한 동작을 수행하는 서버(미도시)는, 네트워크부, 프로세서 및 메모리를 포함할 수 있다.A server (not shown) that performs an operation for providing a user interface displaying an uncertainty estimation result according to one embodiment of the present invention to a user terminal may include a network unit, a processor, and a memory.

서버는, 본 발명의 실시예들에 따른 사용자 인터페이스를 생성할 수 있다. 서버는, 클라이언트(예를 들어, 사용자 단말)에게 네트워크를 통해 정보를 제공하는 컴퓨팅 시스템일 수 있다. 서버는, 생성한 사용자 인터페이스를 사용자 단말로 전송할 수 있다. 이러한 경우, 사용자 단말은, 서버에 액세스할 수 있는 임의의 형태의 컴퓨팅 장치(100)일 수 있다. 서버의 프로세서는, 네트워크부를 통해 사용자 단말로 사용자 인터페이스를 전송할 수 있다. 본 발명의 실시예들에 따른 서버는 예를 들어, 클라우드 서버일 수 있다. 서버는 서비스를 처리하는 웹 서버일 수 있다. 전술한 서버의 종류는 예시일 뿐이며 이에 제한되지 않는다.The server can generate a user interface according to embodiments of the present invention. The server can be a computing system that provides information to a client (e.g., a user terminal) through a network. The server can transmit the generated user interface to the user terminal. In this case, the user terminal can be any type of computing device (100) that can access the server. The processor of the server can transmit the user interface to the user terminal through a network. The server according to embodiments of the present invention can be, for example, a cloud server. The server can be a web server that processes a service. The types of servers described above are merely examples and are not limited thereto.

따라서, 본 발명은, 서로 다른 클래스의 데이터를 혼합한 테스트 시간 혼합 증강 방식으로 불확실성을 추정함으로써, 불확실성 추정에 대한 정확도를 높일 수 있다.Therefore, the present invention can increase the accuracy of uncertainty estimation by estimating uncertainty in a test-time mixed augmentation manner that mixes data of different classes.

도 2 및 도 3은, 본 발명의 일 실시예에 따라, 네트워크 함수를 나타낸 개략도이다.FIGS. 2 and 3 are schematic diagrams showing network functions according to one embodiment of the present invention.

도 2에 도시된 바와 같이, 본 발명은, 시간 혼합 증강(Test-Time Mixup Augmentation) 방식을 이용하여 불확실성을 추정하기 위한 테스트 데이터와 학습 데이터를 획득할 수 있다.As illustrated in FIG. 2, the present invention can obtain test data and learning data for estimating uncertainty by using a test-time mixup augmentation method.

여기서, 본 발명은, 제1 클래스의 테스트 데이터를 한 개 획득하면 제1 클래스와 다른 제2 클래스 내지 제N 클래스에 속하는 다수의 학습 데이터를 획득할 수 있다.Here, the present invention can obtain a plurality of training data belonging to a second class to an Nth class different from the first class by obtaining one test data of the first class.

이때, 본 발명은, 제2 클래스 내지 제N 클래스에 속하는 다수의 학습 데이터를 획득할 때, 각 클래스마다 적어도 하나의 학습 데이터를 획득할 수 있다.At this time, the present invention can acquire at least one learning data for each class when acquiring a plurality of learning data belonging to the second class to the Nth class.

일 예로, 각 클래스에서 획득한 학습 데이터의 개수는, 서로 동일한 개수일 수도 있고, 서로 동일한 개수가 아니라 불균일한 개수일 수도 있다.For example, the number of training data acquired from each class may be the same, or it may be an uneven number.

경우에 따라, 본 발명은, 제1 클래스의 테스트 데이터를 한 개 획득하면 테스트 데이터와 동일한 제1 클래스에 속하는 학습 데이터와 제1 클래스와 다른 제2 클래스 내지 제N 클래스에 속하는 다수의 학습 데이터를 획득할 수도 있다.In some cases, the present invention may obtain, when obtaining one test data of the first class, training data belonging to the same first class as the test data and a plurality of training data belonging to a second class to an Nth class different from the first class.

여기서, 제1 클래스의 학습 데이터는, 제1 클래스의 테스트 데이터와 다른 하나의 데이터일 수도 있고, 제1 클래스의 테스트 데이터와 다른 다수의 데이터일 수도 있다.Here, the training data of the first class may be one data different from the test data of the first class, or may be multiple data different from the test data of the first class.

또한, 본 발명은, 제2 클래스 내지 제N 클래스에 속하는 다수의 학습 데이터를 획득할 때, 각 클래스마다 적어도 하나의 학습 데이터를 획득할 수 있다.In addition, the present invention can acquire at least one learning data for each class when acquiring a plurality of learning data belonging to the second class to the Nth class.

여기서, 각 클래스에서 획득한 학습 데이터의 개수는, 서로 동일한 개수일 수도 있고, 서로 동일한 개수가 아니라 불균일한 개수일 수도 있다.Here, the number of learning data acquired from each class may be the same or may be an uneven number.

이어, 본 발명은, 테스트 데이터와 테스트 데이터와 같은 클래스 또는 다른 클래스에 속하는 적어도 하나의 학습 데이터가 서로 중첩되도록 혼합하여 증강 테스트 데이터를 생성할 수 있다.Next, the present invention can generate augmented test data by mixing test data and at least one learning data belonging to the same class as the test data or a different class so as to overlap each other.

여기서, 본 발명은, 제1 클래스의 테스트 데이터 한 개와 제2 클래스 내지 제N 클래스에 속하는 다수의 학습 데이터가 획득되면, 제1 클래스의 테스트 데이터 한 개와 제2 클래스 내지 제N 클래스에 속하는 학습 데이터 한 개를 중첩되도록 혼합하여 증강 테스트 데이터를 생성하고, 제2 클래스 내지 제N 클래스에 속하는 모든 학습 데이터가 테스트 데이터와의 혼합이 완료되면 증강 테스트 데이터 생성을 종료할 수 있다.In this case, when one test data of a first class and a plurality of training data belonging to a second class to an Nth class are acquired, the one test data of the first class and the one training data belonging to the second class to an Nth class are mixed so as to overlap to generate augmented test data, and when all training data belonging to the second class to the Nth class are completely mixed with the test data, the generation of the augmented test data can be terminated.

경우에 따라, 본 발명은, 제1 클래스의 테스트 데이터 한 개와 제1 클래스에 속하는 학습 데이터를 포함한 제2 클래스 내지 제N 클래스에 속하는 다수의 학습 데이터가 획득되면, 제1 클래스의 테스트 데이터 한 개와 제1 클래스에 속하는 학습 데이터 한개를 중첩되도록 혼합하여 제1 증강 테스트 데이터를 생성하고, 제1 클래스의 테스트 데이터 한 개와 제2 클래스 내지 제N 클래스에 속하는 학습 데이터 한 개를 중첩되도록 혼합하여 제2 증강 테스트 데이터를 생성하며, 제2 클래스 내지 제N 클래스에 속하는 모든 학습 데이터가 테스트 데이터와의 혼합이 완료되면 증강 테스트 데이터 생성을 종료할 수 있다.In some cases, the present invention, when one piece of test data of a first class and a plurality of pieces of training data belonging to a second class to an Nth class including training data belonging to the first class are acquired, one piece of test data of the first class and one piece of training data belonging to the first class are mixed so as to overlap to generate first augmented test data, one piece of test data of the first class and one piece of training data belonging to the second class to the Nth class are mixed so as to overlap to generate second augmented test data, and when all training data belonging to the second class to the Nth class are completely mixed with the test data, the generation of the augmented test data can be terminated.

그리고, 본 발명은, 증강 테스트 데이터를 뉴럴 네트워크 모델에 입력하여 예측 데이터를 생성하고, 예측 데이터에 대한 불확실성을 추정할 수 있다.In addition, the present invention can input augmented test data into a neural network model to generate prediction data and estimate uncertainty for the prediction data.

여기서, 본 발명은, 예측 데이터에 대한 클래스 히스토그램을 생성하여 불확실성을 추정하고, 클래스들간의 거리를 확인하여 유사도를 판단할 수 있다.Here, the present invention can estimate uncertainty by generating a class histogram for prediction data and determine similarity by checking the distance between classes.

즉, 본 발명은, 추정한 불확실성 값이 낮을수록 예측 데이터의 정확도가 증가하고, 추정한 불확실성 값이 높을수록 예측 데이터의 정확도가 감소하는 것으로 판단할 수 있다.That is, the present invention can determine that the accuracy of prediction data increases as the estimated uncertainty value decreases, and the accuracy of prediction data decreases as the estimated uncertainty value increases.

경우에 따라, 본 발명은, 예측 데이터에 대한 불확실성을 추정하고, 불확실성 추정 결과 정보를 생성할 수도 있다.In some cases, the present invention may estimate uncertainty for prediction data and generate uncertainty estimation result information.

도 3에 도시된 바와 같이, 본 발명은, 테스트 데이터와 학습 데이터를 획득할 때, 제1 클래스의 테스트 데이터를 한 개 획득하면 제1 클래스와 다른 특정 클래스에 속하는 학습 데이터를 획득할 수도 있다.As illustrated in FIG. 3, when acquiring test data and learning data, the present invention can acquire learning data belonging to a specific class other than the first class by acquiring one test data of the first class.

여기서, 본 발명은, 특정 클래스에 속하는 다수의 학습 데이터를 획득할 수도 있고, 특정 클래스에 속하는 하나의 학습 데이터를 획득할 수도 있다.Here, the present invention may obtain a plurality of learning data belonging to a specific class, or may obtain one learning data belonging to a specific class.

본 발명은, 제1 클래스의 테스트 데이터 한 개와 제1 클래스와 다른 특정 클래스에 속하는 학습 데이터가 획득되면, 제1 클래스의 테스트 데이터 한 개와 특정 클래스에 속하는 학습 데이터 한 개를 중첩되도록 혼합하여 증강 테스트 데이터를 생성하고, 특정 클래스에 속하는 모든 학습 데이터가 테스트 데이터와의 혼합이 완료되면 증강 테스트 데이터 생성을 종료할 수 있다.In the present invention, when one piece of test data of a first class and one piece of training data belonging to a specific class different from the first class are acquired, one piece of test data of the first class and one piece of training data belonging to the specific class are mixed so as to overlap to generate augmented test data, and when all training data belonging to the specific class are completely mixed with the test data, the generation of the augmented test data can be terminated.

따라서, 본 발명은, 불확실성 학습을 통해 특정 클래스에 대한 다른 클래스의 유사도를 판단할 수 있다.Therefore, the present invention can determine the similarity of another class to a specific class through uncertainty learning.

즉, 본 발명은, 클래스들간의 거리를 확인하여 유사도를 판단할 수 있다.That is, the present invention can determine similarity by checking the distance between classes.

본 발명은, 추정한 불확실성 값이 낮을수록 예측 데이터의 정확도가 증가하고, 추정한 불확실성 값이 높을수록 예측 데이터의 정확도가 감소하는 것으로 판단할 수 있다.The present invention can determine that the accuracy of prediction data increases as the estimated uncertainty value decreases, and the accuracy of prediction data decreases as the estimated uncertainty value increases.

본 명세서에 걸쳐, 연산 모델, 신경망, 네트워크 함수, 뉴럴 네트워크(neural network)는 상호 교환 가능한 의미로 사용될 수 있다. 신경망은 일반적으로 노드라 지칭될 수 있는 상호 연결된 계산 단위들의 집합으로 구성될 수 있다. 이러한 노드들은 뉴런(neuron)들로 지칭될 수도 있다. 신경망은 적어도 하나 이상의 노드들을 포함하여 구성된다. 신경망들을 구성하는 노드(또는 뉴런)들은 하나 이상의 링크에 의해 상호 연결될 수 있다.Throughout this specification, the terms computational model, neural network, network function, and neural network may be used interchangeably. A neural network may be composed of a set of interconnected computational units, which may generally be referred to as nodes. These nodes may also be referred to as neurons. A neural network is composed of at least one node. The nodes (or neurons) constituting the neural networks may be interconnected by one or more links.

신경망 내에서, 링크를 통해 연결된 하나 이상의 노드들은 상대적으로 입력 노드 및 출력 노드의 관계를 형성할 수 있다. 입력 노드 및 출력 노드의 개념은 상대적인 것으로서, 하나의 노드에 대하여 출력 노드 관계에 있는 임의의 노드는 다른 노드와의 관계에서 입력 노드 관계에 있을 수 있으며, 그 역도 성립할 수 있다. 상술한 바와 같이, 입력 노드 대 출력 노드 관계는 링크를 중심으로 생성될 수 있다. 하나의 입력 노드에 하나 이상의 출력 노드가 링크를 통해 연결될 수 있으며, 그 역도 성립할 수 있다. In a neural network, one or more nodes connected through a link can form a relationship of input node and output node relatively. The concept of input node and output node is relative, and any node in an output node relationship to one node can be in an input node relationship in a relationship to another node, and vice versa. As described above, the input node-to-output node relationship can be created based on a link. One or more output nodes can be connected to one input node through a link, and vice versa.

하나의 링크를 통해 연결된 입력 노드 및 출력 노드 관계에서, 출력 노드의 데이터는 입력 노드에 입력된 데이터에 기초하여 그 값이 결정될 수 있다. 여기서 입력 노드와 출력 노드를 상호 연결하는 링크는 가중치(weight)를 가질 수 있다. 가중치는 가변적일 수 있으며, 신경망이 원하는 기능을 수행하기 위해, 사용자 또는 알고리즘에 의해 가변 될 수 있다. 예를 들어, 하나의 출력 노드에 하나 이상의 입력 노드가 각각의 링크에 의해 상호 연결된 경우, 출력 노드는 상기 출력 노드와 연결된 입력 노드들에 입력된 값들 및 각각의 입력 노드들에 대응하는 링크에 설정된 가중치에 기초하여 출력 노드 값을 결정할 수 있다.In a relationship between input nodes and output nodes connected through a single link, the data of the output node can have its value determined based on the data input to the input node. Here, the link interconnecting the input nodes and the output nodes can have a weight. The weight can be variable and can be varied by a user or an algorithm so that the neural network can perform a desired function. For example, when one or more input nodes are interconnected to one output node through each link, the output node can determine the output node value based on the values input to the input nodes connected to the output node and the weight set for the link corresponding to each input node.

상술한 바와 같이, 신경망은 하나 이상의 노드들이 하나 이상의 링크를 통해 상호 연결되어 신경망 내에서 입력 노드 및 출력 노드 관계를 형성한다. 신경망 내에서 노드들과 링크들의 개수 및 노드들과 링크들 사이의 연관관계, 링크들 각각에 부여된 가중치의 값에 따라, 신경망의 특성이 결정될 수 있다. 예를 들어, 동일한 개수의 노드 및 링크들이 존재하고, 링크들의 가중치 값이 상이한 두 신경망이 존재하는 경우, 두 개의 신경망들은 서로 상이한 것으로 인식될 수 있다.As described above, a neural network is a network in which one or more nodes are interconnected through one or more links to form input node and output node relationships within the neural network. Depending on the number of nodes and links within the neural network, the relationship between the nodes and links, and the weight values assigned to each link, the characteristics of the neural network can be determined. For example, if there are two neural networks with the same number of nodes and links and different weight values for the links, the two neural networks can be recognized as being different from each other.

신경망은 하나 이상의 노드들의 집합으로 구성될 수 있다. 신경망을 구성하는 노드들의 부분 집합은 레이어(layer)를 구성할 수 있다. 신경망을 구성하는 노드들 중 일부는, 최초 입력 노드로부터의 거리들에 기초하여, 하나의 레이어(layer)를 구성할 수 있다. 예를 들어, 최초 입력 노드로부터 거리가 n인 노드들의 집합은, n 레이어를 구성할 수 있다. 최초 입력 노드로부터 거리는, 최초 입력 노드로부터 해당 노드까지 도달하기 위해 거쳐야 하는 링크들의 최소 개수에 의해 정의될 수 있다. 그러나, 이러한 레이어의 정의는 설명을 위한 임의적인 것으로서, 신경망 내에서 레이어의 차수는 상술한 것과 상이한 방법으로 정의될 수 있다. 예를 들어, 노드들의 레이어는 최종 출력 노드로부터 거리에 의해 정의될 수도 있다.A neural network can be composed of a set of one or more nodes. A subset of the nodes constituting the neural network can form a layer. Some of the nodes constituting the neural network can form a layer based on distances from the initial input node. For example, a set of nodes that are n in distance from the initial input node can form an n layer. The distance from the initial input node can be defined by the minimum number of links that must be passed through to reach the node from the initial input node. However, this definition of a layer is arbitrary for the purpose of explanation, and the order of a layer in a neural network can be defined in a different way than described above. For example, a layer of nodes can be defined by the distance from the final output node.

최초 입력 노드는 신경망 내의 노드들 중 다른 노드들과의 관계에서 링크를 거치지 않고 데이터가 직접 입력되는 하나 이상의 노드들을 의미할 수 있다. 또는, 신경망 네트워크 내에서, 링크를 기준으로 한 노드 간의 관계에 있어서, 링크로 연결된 다른 입력 노드들을 가지지 않는 노드들을 의미할 수 있다. 이와 유사하게, 최종 출력 노드는 신경망 내의 노드들 중 다른 노드들과의 관계에서, 출력 노드를 가지지 않는 하나 이상의 노드들을 의미할 수 있다. 또한, 히든 노드는 최초 입력 노드 및 최후 출력 노드가 아닌 신경망을 구성하는 노드들을 의미할 수 있다. The initial input node may refer to one or more nodes to which data is directly input without going through a link in a relationship with other nodes in the neural network. Or, in a neural network, in a relationship between nodes based on a link, it may refer to nodes that do not have other input nodes connected by a link. Similarly, the final output node may refer to one or more nodes that do not have an output node in a relationship with other nodes in the neural network. In addition, a hidden node may refer to nodes that constitute the neural network other than the initial input node and the final output node.

본 발명의 일 실시예에 따른 신경망은 입력 레이어의 노드의 개수가 출력 레이어의 노드의 개수와 동일할 수 있으며, 입력 레이어에서 히든 레이어로 진행됨에 따라 노드의 수가 감소하다가 다시 증가하는 형태의 신경망일 수 있다. 또한, 본 발명의 다른 일 실시예에 따른 신경망은 입력 레이어의 노드의 개수가 출력 레이어의 노드의 개수 보다 적을 수 있으며, 입력 레이어에서 히든 레이어로 진행됨에 따라 노드의 수가 감소하는 형태의 신경망일 수 있다. 또한, 본 발명의 또 다른 일 실시예에 따른 신경망은 입력 레이어의 노드의 개수가 출력 레이어의 노드의 개수보다 많을 수 있으며, 입력 레이어에서 히든 레이어로 진행됨에 따라 노드의 수가 증가하는 형태의 신경망일 수 있다. 본 발명의 또 다른 일 실시예에 따른 신경망은 상술한 신경망들의 조합된 형태의 신경망일 수 있다.According to one embodiment of the present invention, a neural network may be a neural network in which the number of nodes in an input layer may be the same as the number of nodes in an output layer, and the number of nodes decreases and then increases as it progresses from the input layer to the hidden layer. In addition, according to another embodiment of the present invention, a neural network may be a neural network in which the number of nodes in an input layer may be less than the number of nodes in an output layer, and the number of nodes decreases as it progresses from the input layer to the hidden layer. In addition, according to another embodiment of the present invention, a neural network in which the number of nodes in an input layer may be greater than the number of nodes in an output layer, and the number of nodes increases as it progresses from the input layer to the hidden layer. In accordance with another embodiment of the present invention, a neural network may be a neural network in which the above-described neural networks are combined.

딥 뉴럴 네트워크(DNN: deep neural network, 심층신경망)는 입력 레이어와 출력 레이어 외에 복수의 히든 레이어를 포함하는 신경망을 의미할 수 있다. 딥 뉴럴 네트워크를 이용하면 데이터의 잠재적인 구조(latent structures)를 파악할 수 있다. 즉, 사진, 글, 비디오, 음성, 음악의 잠재적인 구조(예를 들어, 어떤 물체가 사진에 있는지, 글의 내용과 감정이 무엇인지, 음성의 내용과 감정이 무엇인지 등)를 파악할 수 있다. 딥 뉴럴 네트워크는 컨볼루션 뉴럴 네트워크(CNN: convolutional neural network), 리커런트 뉴럴 네트워크(RNN: recurrent neural network), 오토 인코더(auto encoder), GAN(Generative Adversarial Networks), 제한 볼츠만 머신(RBM: restricted boltzmann machine), 심층 신뢰 네트워크(DBN: deep belief network), Q 네트워크, U 네트워크, 샴 네트워크, 적대적 생성 네트워크(GAN: Generative Adversarial Network) 등을 포함할 수 있다. 전술한 딥 뉴럴 네트워크의 기재는 예시일 뿐이며 이에 제한되지 않는다. A deep neural network (DNN) may refer to a neural network that includes multiple hidden layers in addition to an input layer and an output layer. Using a deep neural network, one can identify latent structures of data. That is, one can identify latent structures of photos, text, videos, voices, and music (for example, what objects are in photos, what the content and emotion of text are, what the content and emotion of voice are, etc.). A deep neural network may include a convolutional neural network (CNN), a recurrent neural network (RNN), an auto encoder, a generative adversarial network (GAN), a restricted boltzmann machine (RBM), a deep belief network (DBN), a Q network, a U network, a Siamese network, a generative adversarial network (GAN), etc. The description of the above-mentioned deep neural network is only an example and is not limited thereto.

본 발명의 일 실시예에서 네트워크 함수는 오토 인코더(autoencoder)를 포함할 수도 있다. 오토 인코더는 입력 데이터와 유사한 출력 데이터를 출력하기 위한 인공 신경망의 일종일 수 있다. 오토 인코더는 적어도 하나의 히든 레이어를 포함할 수 있으며, 홀수 개의 히든 레이어가 입출력 레이어 사이에 배치될 수 있다. 각각의 레이어의 노드의 수는 입력 레이어의 노드의 수에서 병목 레이어(인코딩)라는 중간 레이어로 축소되었다가, 병목 레이어에서 출력 레이어(입력 레이어와 대칭)로 축소와 대칭되어 확장될 수도 있다. 오토 인코더는 비선형 차원 감소를 수행할 수 있다. 입력 레이어 및 출력 레이어의 수는 입력 데이터의 전처리 이후에 차원과 대응될 수 있다. 오토 인코더 구조에서 인코더에 포함된 히든 레이어의 노드의 수는 입력 레이어에서 멀어질수록 감소하는 구조를 가질 수 있다. 병목 레이어(인코더와 디코더 사이에 위치하는 가장 적은 노드를 가진 레이어)의 노드의 수는 너무 작은 경우 충분한 양의 정보가 전달되지 않을 수 있으므로, 특정 수 이상(예를 들어, 입력 레이어의 절반 이상 등)으로 유지될 수도 있다.In one embodiment of the present invention, the network function may include an autoencoder. The autoencoder may be a type of artificial neural network for outputting output data similar to input data. The autoencoder may include at least one hidden layer, and an odd number of hidden layers may be arranged between input and output layers. The number of nodes in each layer may be reduced from the number of nodes in the input layer to an intermediate layer called a bottleneck layer (encoding), and then may be reduced and expanded symmetrically from the bottleneck layer to the output layer (symmetrical to the input layer). The autoencoder may perform nonlinear dimensionality reduction. The number of input layers and output layers may correspond to the dimension after preprocessing of the input data. In the autoencoder structure, the number of nodes in the hidden layer included in the encoder may have a structure in which the number of nodes decreases as it gets farther away from the input layer. The number of nodes in the bottleneck layer (the layer with the fewest nodes between the encoder and decoder) may be kept above a certain number (e.g., more than half of the input layer), as too few nodes may not transmit enough information.

뉴럴 네트워크는 교사 학습(supervised learning), 비교사 학습(unsupervised learning), 반교사학습(semi supervised learning), 또는 강화학습(reinforcement learning) 중 적어도 하나의 방식으로 학습될 수 있다. 뉴럴 네트워크의 학습은 뉴럴 네트워크가 특정한 동작을 수행하기 위한 지식을 뉴럴 네트워크에 적용하는 과정일 수 있다. A neural network can learn in at least one of supervised learning, unsupervised learning, semi-supervised learning, or reinforcement learning. Learning of a neural network can be a process of applying knowledge to the neural network to perform a specific action.

뉴럴 네트워크는 출력의 오류를 최소화하는 방향으로 학습될 수 있다. 뉴럴 네트워크의 학습에서 반복적으로 학습 데이터를 뉴럴 네트워크에 입력시키고 학습 데이터에 대한 뉴럴 네트워크의 출력과 타겟의 에러를 계산하고, 에러를 줄이기 위한 방향으로 뉴럴 네트워크의 에러를 뉴럴 네트워크의 출력 레이어에서부터 입력 레이어 방향으로 역전파(backpropagation)하여 뉴럴 네트워크의 각 노드의 가중치를 업데이트 하는 과정이다. 교사 학습의 경우 각각의 학습 데이터에 정답이 라벨링되어있는 학습 데이터를 사용하며(즉, 라벨링된 학습 데이터), 비교사 학습의 경우는 각각의 학습 데이터에 정답이 라벨링되어 있지 않을 수 있다. 즉, 예를 들어 데이터 분류에 관한 교사 학습의 경우의 학습 데이터는 학습 데이터 각각에 카테고리가 라벨링 된 데이터 일 수 있다. 라벨링된 학습 데이터가 뉴럴 네트워크에 입력되고, 뉴럴 네트워크의 출력(카테고리)과 학습 데이터의 라벨을 비교함으로써 오류(error)가 계산될 수 있다. 다른 예로, 데이터 분류에 관한 비교사 학습의 경우 입력인 학습 데이터가 뉴럴 네트워크 출력과 비교됨으로써 오류가 계산될 수 있다. 계산된 오류는 뉴럴 네트워크에서 역방향(즉, 출력 레이어에서 입력 레이어 방향)으로 역전파 되며, 역전파에 따라 뉴럴 네트워크의 각 레이어의 각 노드들의 연결 가중치가 업데이트 될 수 있다. 업데이트 되는 각 노드의 연결 가중치는 학습률(learning rate)에 따라 변화량이 결정될 수 있다. 입력 데이터에 대한 뉴럴 네트워크의 계산과 에러의 역전파는 학습 사이클(epoch)을 구성할 수 있다. 학습률은 뉴럴 네트워크의 학습 사이클의 반복 횟수에 따라 상이하게 적용될 수 있다. 예를 들어, 뉴럴 네트워크의 학습 초기에는 높은 학습률을 사용하여 뉴럴 네트워크가 빠르게 일정 수준의 성능을 확보하도록 하여 효율성을 높이고, 학습 후기에는 낮은 학습률을 사용하여 정확도를 높일 수 있다.A neural network can be trained in the direction of minimizing the error of the output. In the training of a neural network, training data is repeatedly input into the neural network, the output of the neural network for the training data and the target error are calculated, and the error of the neural network is backpropagated from the output layer of the neural network to the input layer in the direction of reducing the error, thereby updating the weights of each node of the neural network. In the case of supervised learning, training data in which the correct answer is labeled for each training data is used (i.e., labeled training data), and in the case of unsupervised learning, the correct answer may not be labeled for each training data. That is, for example, in the case of supervised learning for data classification, the training data may be data in which categories are labeled for each training data. Labeled training data is input into the neural network, and the error can be calculated by comparing the output (category) of the neural network with the label of the training data. As another example, in the case of unsupervised learning for data classification, the error can be calculated by comparing the input training data with the output of the neural network. The calculated error is backpropagated in the backward direction (i.e., from the output layer to the input layer) in the neural network, and the connection weights of each node in each layer of the neural network can be updated according to the backpropagation. The amount of change in the connection weights of each node to be updated can be determined according to the learning rate. The calculation of the neural network for the input data and the backpropagation of the error can constitute a learning cycle (epoch). The learning rate can be applied differently depending on the number of repetitions of the learning cycle of the neural network. For example, a high learning rate can be used in the early stage of learning of the neural network so that the neural network can quickly acquire a certain level of performance, thereby increasing efficiency, and a low learning rate can be used in the later stage of learning to increase accuracy.

뉴럴 네트워크의 학습에서 일반적으로 학습 데이터는 실제 데이터(즉, 학습된 뉴럴 네트워크를 이용하여 처리하고자 하는 데이터)의 부분집합일 수 있으며, 따라서, 학습 데이터에 대한 오류는 감소하나 실제 데이터에 대해서는 오류가 증가하는 학습 사이클이 존재할 수 있다. 과적합(overfitting)은 이와 같이 학습 데이터에 과하게 학습하여 실제 데이터에 대한 오류가 증가하는 현상이다. 예를 들어, 노란색 고양이를 보여 고양이를 학습한 뉴럴 네트워크가 노란색 이외의 고양이를 보고는 고양이임을 인식하지 못하는 현상이 과적합의 일종일 수 있다. 과적합은 머신러닝 알고리즘의 오류를 증가시키는 원인으로 작용할 수 있다. 이러한 과적합을 막기 위하여 다양한 최적화 방법이 사용될 수 있다. 과적합을 막기 위해서는 학습 데이터를 증가시키거나, 레귤라이제이션(regularization), 학습의 과정에서 네트워크의 노드 일부를 비활성화하는 드롭아웃(dropout), 배치 정규화 레이어(batch normalization layer)의 활용 등의 방법이 적용될 수 있다.In learning neural networks, learning data can generally be a subset of real data (i.e., data to be processed using the learned neural network), and therefore, there can be a learning cycle in which errors for learning data decrease but errors for real data increase. Overfitting is a phenomenon in which excessive learning on learning data increases errors for real data. For example, a neural network that learned cats by showing yellow cats cannot recognize cats when it sees cats other than yellow, which can be a type of overfitting. Overfitting can act as a cause of increasing errors in machine learning algorithms. Various optimization methods can be used to prevent overfitting. To prevent overfitting, methods such as increasing learning data, regularization, dropout that deactivates some nodes of the network during the learning process, and utilization of batch normalization layers can be applied.

도 4는, 본 발명의 일 실시예에 따라, TTA와 TTMA의 불확실성 추정에 대한 정확도를 비교 설명하기 위한 도면으로서, 기존의 TTA(Test-Time Augmentation) 방식으로 하위 k%의 불확실성을 추정한 테스트 데이터의 정확도와 본 발명의 TTMA(Test-Time Mixup Augmentation) 방식으로 하위 k%의 불확실성을 추정한 테스트 데이터의 정확도를 비교한 그래프이다.FIG. 4 is a graph for comparing and explaining the accuracy of uncertainty estimation of TTA and TTMA according to one embodiment of the present invention, comparing the accuracy of test data estimating lower k% uncertainty using the existing TTA (Test-Time Augmentation) method with the accuracy of test data estimating lower k% uncertainty using the TTMA (Test-Time Mixup Augmentation) method of the present invention.

도 4에 도시된 바와 같이, 본 발명의 TTMA 방식은, 기존의 TTA 방식보다 확신성이 높은 데이터에 대해 정확도가 높은 것을 알 수 있다.As shown in Fig. 4, it can be seen that the TTMA method of the present invention has higher accuracy for data with high certainty than the existing TTA method.

일 예로, 본 발명의 TTMA 방식이 기존의 TTA 방식에 비해 70% 이하의 하위 k%의 불확실성 서브그룹들에서 보다 좋은 정확도를 보여주고 있다.For example, the TTMA method of the present invention shows better accuracy in the lower k% uncertainty subgroups of 70% or less than the existing TTA method.

도 5는, 본 발명의 일 실시예에 따라, 정답 샘플과 오답 샘플의 불확실성 분포도를 비교 설명하기 위한 도면이다.FIG. 5 is a diagram for comparing and explaining uncertainty distributions of correct and incorrect samples according to one embodiment of the present invention.

도 5에 도시된 바와 같이, 본 발명의 TTMA 방식과 기존의 TTA 방식을 통해 정답 샘플과 오답 샘플의 불확실성 분포도를 비교해 보면, 이상적인 상태에서 정답 샘플들은, 낮은 값의 불확실성에 몰려 있고, 오답 샘플들은, 높은 값의 불확실성에 몰려 있으므로 이 두 그룹을 분리할 필요가 있다.As illustrated in FIG. 5, when comparing the uncertainty distributions of correct and incorrect samples through the TTMA method of the present invention and the existing TTA method, in an ideal state, correct samples are concentrated in areas with low uncertainty values, and incorrect samples are concentrated in areas with high uncertainty values, so it is necessary to separate these two groups.

여기서, 기존의 TTA 방식의 경우, 정답 샘플과 오답 샘플이 낮은 값의 불확실성에 몰려 있어 두 그룹의 분리가 어렵지만, 본 발명의 TTMA 방식의 경우, 정답 샘플과 오답 샘플이 넓은 범위의 값으로 불확실성이 분포되어 두 그룹의 분리가 유리한 장점을 가질 수 있다.Here, in the case of the existing TTA method, it is difficult to separate the two groups because the correct and incorrect samples are concentrated in low values of uncertainty, but in the case of the TTMA method of the present invention, the correct and incorrect samples have uncertainties distributed in a wide range of values, so the separation of the two groups can have an advantage.

도 6은, 본 발명의 일 실시예에 따라, 불확실성 학습을 통해 특정 클래스에 대한 다른 클래스의 유사도를 설명하기 위한 도면로서, 피부 병변에 대한 다수의 질병 클래스로 분류한 도면이다.FIG. 6 is a diagram for explaining the similarity of another class to a specific class through uncertainty learning according to one embodiment of the present invention, and is a diagram for classifying skin lesions into multiple disease classes.

도 6에 도시된 바와 같이, 본 발명의 TTMA 방식은, 특정 질병 클래스와 다른 질병 클래스들과의 유사도를 측정하여 낮은 평균값을 갖는 질병 클래스로부터 높은 평균값을 갖는 질병 클래스들을 배열함으로써, 서로 다른 질병 클래스들간의 거리를 통해 유사성을 판단할 수 있으며, 동일한 질병 클래스간에도 유사성을 판단할 수 있다.As illustrated in FIG. 6, the TTMA method of the present invention measures the similarity between a specific disease class and other disease classes and arranges disease classes having a high average value from a disease class having a low average value, thereby determining similarity through the distance between different disease classes, and can also determine similarity between the same disease classes.

도 7은, 본 발명의 일 실시예에 따라, 혼합 가중치 알파값에 상응하는 불확실성 추정에 대한 정확도를 비교 설명하기 위한 도면으로서, 테스트 데이터와 학습 데이터를 혼합할 때, 혼합 가중치 알파값 변화에 따른 불확실성의 변화를 측정한 그래프이다.FIG. 7 is a diagram for comparing and explaining the accuracy of uncertainty estimation corresponding to a mixed weight alpha value according to one embodiment of the present invention, and is a graph measuring the change in uncertainty according to a change in the mixed weight alpha value when mixing test data and learning data.

도 7에 도시된 바와 같이, 본 발명의 TTMA 방식은, 정확도 측면에서, 알파값에 따라 0.4 또는 1인 경우에 높은 정확도를 보이고, ECE(Expected Calibration Error) 측면에서, 0.8인 경우에 좋게 나타나는 것을 알 수 있다.As shown in Fig. 7, the TTMA method of the present invention shows high accuracy in terms of accuracy when the alpha value is 0.4 or 1, and shows good accuracy in terms of ECE (Expected Calibration Error) when it is 0.8.

이와 같이, 본 발명은, 서로 다른 클래스의 데이터를 혼합한 테스트 시간 혼합 증강 방식으로 불확실성을 추정함으로써, 불확실성 추정에 대한 정확도를 높일 수 있다.In this way, the present invention can increase the accuracy of uncertainty estimation by estimating uncertainty in a test-time mixed augmentation manner that mixes data of different classes.

이상에서 전술한 본 발명의 일 실시예에 따른 방법은, 하드웨어인 서버와 결합되어 실행되기 위해 프로그램(또는 어플리케이션)으로 구현되어 매체에 저장될 수 있다.The method according to one embodiment of the present invention described above can be implemented as a program (or application) to be executed in combination with a hardware server and stored in a medium.

상기 전술한 프로그램은, 상기 컴퓨터가 프로그램을 읽어 들여 프로그램으로 구현된 상기 방법들을 실행시키기 위하여, 상기 컴퓨터의 프로세서(CPU)가 상기 컴퓨터의 장치 인터페이스를 통해 읽힐 수 있는 C, C++, JAVA, 기계어 등의 컴퓨터 언어로 코드화된 코드(Code)를 포함할 수 있다. 이러한 코드는 상기 방법들을 실행하는 필요한 기능들을 정의한 함수 등과 관련된 기능적인 코드(Functional Code)를 포함할 수 있고, 상기 기능들을 상기 컴퓨터의 프로세서가 소정의 절차대로 실행시키는데 필요한 실행 절차 관련 제어 코드를 포함할 수 있다. 또한, 이러한 코드는 상기 기능들을 상기 컴퓨터의 프로세서가 실행시키는데 필요한 추가 정보나 미디어가 상기 컴퓨터의 내부 또는 외부 메모리의 어느 위치(주소 번지)에서 참조되어야 하는지에 대한 메모리 참조관련 코드를 더 포함할 수 있다. 또한, 상기 컴퓨터의 프로세서가 상기 기능들을 실행시키기 위하여 원격(Remote)에 있는 어떠한 다른 컴퓨터나 서버 등과 통신이 필요한 경우, 코드는 상기 컴퓨터의 통신 모듈을 이용하여 원격에 있는 어떠한 다른 컴퓨터나 서버 등과 어떻게 통신해야 하는지, 통신 시 어떠한 정보나 미디어를 송수신해야 하는지 등에 대한 통신 관련 코드를 더 포함할 수 있다.The above-described program may include codes coded in a computer language, such as C, C++, JAVA, or machine language, that can be read by the processor (CPU) of the computer through the device interface of the computer, so that the computer reads the program and executes the methods implemented as a program. Such codes may include functional codes related to functions that define functions necessary for executing the methods, and may include control codes related to execution procedures necessary for the processor of the computer to execute the functions according to a predetermined procedure. In addition, such codes may further include memory reference-related codes regarding which location (address address) of the internal or external memory of the computer should be referenced for additional information or media necessary for the processor of the computer to execute the functions. In addition, if the processor of the computer needs to communicate with another computer or server located remotely in order to execute the functions, the code may further include communication-related code regarding how to communicate with another computer or server located remotely using the communication module of the computer, what information or media to send and receive during communication, etc.

상기 저장되는 매체는, 레지스터, 캐쉬, 메모리 등과 같이 짧은 순간 동안 데이터를 저장하는 매체가 아니라 반영구적으로 데이터를 저장하며, 기기에 의해 판독(reading)이 가능한 매체를 의미한다. 구체적으로는, 상기 저장되는 매체의 예로는 ROM, RAM, CD-ROM, 자기 테이프, 플로피디스크, 광 데이터 저장장치 등이 있지만, 이에 제한되지 않는다. 즉, 상기 프로그램은 상기 컴퓨터가 접속할 수 있는 다양한 서버 상의 다양한 기록매체 또는 사용자의 상기 컴퓨터상의 다양한 기록매체에 저장될 수 있다. 또한, 상기 매체는 네트워크로 연결된 컴퓨터 시스템에 분산되어, 분산방식으로 컴퓨터가 읽을 수 있는 코드가 저장될 수 있다.The above storage medium means a medium that stores data semi-permanently and can be read by a device, rather than a medium that stores data for a short period of time, such as a register, cache, or memory. Specifically, examples of the storage medium include, but are not limited to, ROM, RAM, CD-ROM, magnetic tape, floppy disk, or optical data storage device. That is, the program can be stored in various storage media on various servers that the computer can access or in various storage media on the user's computer. In addition, the medium can be distributed to computer systems connected to a network, so that a computer-readable code can be stored in a distributed manner.

본 발명의 실시예와 관련하여 설명된 방법 또는 알고리즘의 단계들은 하드웨어로 직접 구현되거나, 하드웨어에 의해 실행되는 소프트웨어 모듈로 구현되거나, 또는 이들의 결합에 의해 구현될 수 있다. 소프트웨어 모듈은 RAM(Random Access Memory), ROM(Read Only Memory), EPROM(Erasable Programmable ROM), EEPROM(Electrically Erasable Programmable ROM), 플래시 메모리(Flash Memory), 하드 디스크, 착탈형 디스크, CD-ROM, 또는 본 발명이 속하는 기술 분야에서 잘 알려진 임의의 형태의 컴퓨터 판독가능 기록매체에 상주할 수도 있다.The steps of a method or algorithm described in connection with the embodiments of the present invention may be implemented directly in hardware, implemented in a software module executed by hardware, or implemented by a combination of these. The software module may reside in a Random Access Memory (RAM), a Read Only Memory (ROM), an Erasable Programmable ROM (EPROM), an Electrically Erasable Programmable ROM (EEPROM), a Flash Memory, a hard disk, a removable disk, a CD-ROM, or any other form of computer-readable recording medium well known in the art to which the present invention pertains.

이상, 첨부된 도면을 참조로 하여 본 발명의 실시예를 설명하였지만, 본 발명이 속하는 기술분야의 통상의 기술자는 본 발명이 그 기술적 사상이나 필수적인 특징을 변경하지 않고서 다른 구체적인 형태로 실시될 수 있다는 것을 이해할 수 있을 것이다. 그러므로, 이상에서 기술한 실시예들은 모든 면에서 예시적인 것이며, 제한적이 아닌 것으로 이해해야만 한다.Above, while the embodiments of the present invention have been described with reference to the attached drawings, it will be understood by those skilled in the art that the present invention may be implemented in other specific forms without changing the technical idea or essential features thereof. Therefore, it should be understood that the embodiments described above are exemplary in all respects and not restrictive.

Claims

In a method for estimating uncertainty performed by a computing device,
Step of acquiring test data and training data;
A step of generating augmented test data based on the above test data and the above learning data;
A step of inputting the above augmented test data into a neural network model to generate prediction data; and
A step of estimating uncertainty for the above prediction data is included,
In the above acquiring step, if one first test data of the first class related to the first disease and a first learning data for each of the second class to the nth class related to the second disease to the nth disease are acquired (wherein, n is a natural number greater than or equal to 3, and a is a natural number greater than or equal to 1),
The step of generating the augmented test data comprises: mixing one piece of the first test data and a pieces of first learning data for each of the second class to the nth class, overlapping one by one for each class, to generate a*(n-1) pieces of augmented test data;
In the above acquiring step, if one piece of the first test data, b pieces of second learning data belonging to the first class, and a pieces of first learning data for each of the second class to the nth class are acquired (wherein, b is a natural number greater than or equal to 1),
The step of generating the augmented test data comprises: mixing one piece of the first test data and the b pieces of second learning data so that they overlap each other, and mixing one piece of the first test data and a pieces of first learning data for each of the second class to the nth class so that they overlap each other for each class, thereby generating b+a*(n-1) pieces of augmented test data;
In the above acquiring step, if one of the first test data and c third learning data belonging to one of the second class to the nth class are acquired (wherein, c is a natural number greater than or equal to 1),
An uncertainty estimation method, characterized in that the step of generating the augmented test data comprises generating c augmented test data by mixing one piece of the first test data and the c pieces of third learning data so as to overlap each other.

delete

In the first paragraph,
The classes of the above test data and training data are,
An uncertainty estimation method characterized by classifying specific lesions of the body into multiple disease classes.

delete

In the first paragraph,
The step of generating the above augmented test data is:
An uncertainty estimation method characterized in that the image and label of the first test data and the image and label of the acquired learning data are mixed so as to overlap to generate augmented test data.

In the first paragraph,
The step of generating the above augmented test data is:
An uncertainty estimation method characterized in that, if the acquired learning data includes pre-augmented learning data by modifying the first test data, the pre-augmented learning data and the first test data are mixed so as to overlap each other to generate augmented test data.

In the first paragraph,
The step of estimating the uncertainty for the above prediction data is:
An uncertainty estimation method characterized by generating a class histogram for the above prediction data to estimate uncertainty and determining similarity by checking the distance between classes.

In Article 12,
The step of estimating the uncertainty for the above prediction data is:
An uncertainty estimation method characterized in that it is determined that the lower the estimated uncertainty value, the higher the accuracy of the predicted data, and the higher the estimated uncertainty value, the lower the accuracy of the predicted data.

In the first paragraph,
The step of estimating the uncertainty for the above prediction data is:
An uncertainty estimation method characterized by estimating uncertainty for the above prediction data and generating uncertainty estimation result information.

In Article 14,
The above uncertainty estimation result information is:
An uncertainty estimation method characterized by including the similarity of other classes to a specific class by uncertainty learning, the accuracy of uncertainty estimation, and the uncertainty distribution for test data.

A computer program stored on a computer-readable storage medium, wherein the computer program, when executed on one or more processors, causes the computer program to perform the following operations for uncertainty estimation, the operations being:
The action of obtaining test data and training data;
An operation of generating augmented test data based on the above test data and the above learning data;
An operation of inputting the above augmented test data into a neural network model to generate prediction data; and
Including an operation for estimating uncertainty for the above prediction data,
In the above-mentioned acquiring operation, if one first test data of the first class related to the first disease and a first learning data for each of the second class to the n-th class related to the second disease to the n-th disease are acquired (wherein, n is a natural number greater than or equal to 3, and a is a natural number greater than or equal to 1),
The operation of generating the above augmented test data is to generate a*(n-1) augmented test data by mixing one piece of the first test data and a pieces of first learning data for each of the second class to the nth class, overlapping one by one for each class.
In the above acquiring operation, if one piece of the first test data, b pieces of second learning data belonging to the first class, and a pieces of first learning data for each of the second class to the nth class are acquired (wherein, b is a natural number greater than or equal to 1),
The operation of generating the augmented test data comprises: mixing one piece of the first test data and the b pieces of second learning data so as to overlap each other, and mixing one piece of the first test data and a pieces of first learning data for each of the second class to the nth class so as to overlap each other for each class, thereby generating b+a*(n-1) pieces of augmented test data;
In the above acquisition operation, if one piece of the first test data and c pieces of third learning data belonging to one of the second class to the nth class are acquired (wherein, c is a natural number greater than or equal to 1),
A computer program stored in a computer-readable storage medium, characterized in that the operation of generating the augmented test data comprises generating c augmented test data by mixing one piece of the first test data and the c pieces of third learning data so as to overlap each other.

A computing device for providing an uncertainty estimation method,
a processor comprising one or more cores; and
Contains memory,
The above processor,
Obtain test data and training data,
Generate augmented test data based on the above test data and the above learning data,
The above augmented test data is input into a neural network model to generate prediction data, and
Estimate the uncertainty for the above predicted data,
The above processor,
When one first test data of a first class related to a first disease and a first learning data for each of the second class to the n-th class related to a second disease to the n-th disease are acquired (wherein n is a natural number greater than or equal to 3 and a is a natural number greater than or equal to 1), the one first test data and a first learning data for each of the second class to the n-th class are mixed so as to overlap one by one for each class, thereby generating a*(n-1) augmented test data,
In a case where one piece of the first test data, b pieces of second learning data belonging to the first class, and a pieces of first learning data for each of the second class to the n-th class are acquired (wherein, b is a natural number greater than or equal to 1), one piece of the first test data and the b pieces of second learning data are mixed so as to overlap each other, and one piece of the first test data and a pieces of first learning data for each of the second class to the n-th class are mixed so as to overlap each other for each class, thereby generating b+a*(n-1) pieces of augmented test data.
A computing device characterized in that, when one piece of the first test data and c pieces of third learning data belonging to one of the second class to the nth class are acquired (wherein c is a natural number greater than or equal to 1), the one piece of the first test data and the c pieces of third learning data are mixed so as to overlap each other to generate c pieces of augmented test data.

As a user terminal for uncertainty estimation,
A processor comprising one or more cores;
memory; and
Includes an output section that provides a user interface,
The above user interface,
In response to the augmented test data generated based on the test data and the training data, information on the uncertainty estimation results is displayed, and
The above uncertainty estimation result information is:
The above test data and the above learning data are acquired, the augmented test data is generated based on the test data and the learning data, the augmented test data is input into a neural network model to generate prediction data, and the uncertainty for the prediction data is estimated and generated.
When one first test data of a first class related to a first disease and a first learning data for each of the second class to the n-th class related to a second disease to the n-th disease are acquired (wherein n is a natural number greater than or equal to 3 and a is a natural number greater than or equal to 1), the one first test data and a first learning data for each of the second class to the n-th class are mixed so that they overlap one by one for each class, thereby generating a*(n-1) augmented test data.
In the case where one piece of the first test data, b pieces of second learning data belonging to the first class, and a pieces of first learning data for each of the second class to the n-th class are acquired (wherein, b is a natural number greater than or equal to 1), one piece of the first test data and the b pieces of second learning data are mixed so as to overlap each other, and one piece of the first test data and a pieces of first learning data for each of the second class to the n-th class are mixed so as to overlap each other for each class, thereby generating b+a*(n-1) pieces of augmented test data.
A user terminal characterized in that, when one piece of the first test data and c pieces of third learning data belonging to one of the second class to the nth class are acquired (wherein c is a natural number greater than or equal to 1), the one piece of the first test data and the c pieces of third learning data are mixed so as to overlap each other, thereby generating c pieces of augmented test data.

In Article 18,
The above uncertainty estimation result information is:
A user terminal characterized by including the similarity of other classes to a specific class by uncertainty learning, the accuracy for uncertainty estimation, and the uncertainty distribution for test data.

delete