KR101890989B1 - O2O(Online to Offline) Calorie Service Management System for Calorie Measuring and Consumption based Image Recognition using Deep Learning Algorithm - Google Patents
O2O(Online to Offline) Calorie Service Management System for Calorie Measuring and Consumption based Image Recognition using Deep Learning Algorithm Download PDFInfo
- Publication number
- KR101890989B1 KR101890989B1 KR1020160113386A KR20160113386A KR101890989B1 KR 101890989 B1 KR101890989 B1 KR 101890989B1 KR 1020160113386 A KR1020160113386 A KR 1020160113386A KR 20160113386 A KR20160113386 A KR 20160113386A KR 101890989 B1 KR101890989 B1 KR 101890989B1
- Authority
- KR
- South Korea
- Prior art keywords
- exercise
- customer
- calorie
- information
- calories
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
- G06Q50/10—Services
- G06Q50/22—Social work or social welfare, e.g. community support activities or counselling services
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q20/00—Payment architectures, schemes or protocols
- G06Q20/30—Payment architectures, schemes or protocols characterised by the use of specific devices or networks
- G06Q20/32—Payment architectures, schemes or protocols characterised by the use of specific devices or networks using wireless devices
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q20/00—Payment architectures, schemes or protocols
- G06Q20/30—Payment architectures, schemes or protocols characterised by the use of specific devices or networks
- G06Q20/32—Payment architectures, schemes or protocols characterised by the use of specific devices or networks using wireless devices
- G06Q20/322—Aspects of commerce using mobile devices [M-devices]
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q30/00—Commerce
- G06Q30/02—Marketing; Price estimation or determination; Fundraising
- G06Q30/0207—Discounts or incentives, e.g. coupons or rebates
- G06Q30/0224—Discounts or incentives, e.g. coupons or rebates based on user history
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04W—WIRELESS COMMUNICATION NETWORKS
- H04W12/00—Security arrangements; Authentication; Protecting privacy or anonymity
- H04W12/06—Authentication
Landscapes
- Engineering & Computer Science (AREA)
- Business, Economics & Management (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Health & Medical Sciences (AREA)
- Strategic Management (AREA)
- General Health & Medical Sciences (AREA)
- General Business, Economics & Management (AREA)
- Accounting & Taxation (AREA)
- Computational Linguistics (AREA)
- Computer Networks & Wireless Communication (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- Evolutionary Computation (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Data Mining & Analysis (AREA)
- Biophysics (AREA)
- Molecular Biology (AREA)
- Finance (AREA)
- Development Economics (AREA)
- Biomedical Technology (AREA)
- Tourism & Hospitality (AREA)
- Economics (AREA)
- Artificial Intelligence (AREA)
- Marketing (AREA)
- Life Sciences & Earth Sciences (AREA)
- Computer Security & Cryptography (AREA)
- Primary Health Care (AREA)
- Human Resources & Organizations (AREA)
- Child & Adolescent Psychology (AREA)
- Entrepreneurship & Innovation (AREA)
- Signal Processing (AREA)
- Game Theory and Decision Science (AREA)
- Medical Treatment And Welfare Office Work (AREA)
Abstract
본 발명은 스마트폰 애플리케이션을 이용하여 음식에 대한 칼로리 수치를 촬영한 사진만으로 딥러닝의 알고리즘을 이용하여 알려주고, 칼로리를 소모할 수 있는 다양한 정보를 애플리케이션을 통해서 전달하며, 오프라인 상의 이미 네트워크가 조성된 헬스클럽에서 운동을 할 수 있도록 서비스하는 비즈니스 모델에 관한 것으로, 더욱 상세하게는 고객이 섭취하고자 촬영한 사진을 빅데이터를 이용한 딥러닝의 알고리즘을 이용하여 똑같은 종류와 같은 양의 음식을 찾아서 미리 입력한 칼로리의 수치를 보여줌으로써 섭취한 음식의 칼로리를 알려주고, 섭취한 칼로리와 소모한 칼로리를 계산해서 평균 체질량지수를 초과하였을 경우 경고메시지와 함께 칼로리를 소모할 수 있는 다양한 정보 즉, 영상 및 문서자료와 애플리케이션으로 제공되는 캐릭터와 함께 운동하는 프로그램 등을 제공하고, 오프라인 상에서 운동을 원할 경우 고객이 원하는 정보를 스마트폰의 GPS를 통해서 현재 위치에서 가장 가까운 스포츠센터와 헬스클럽의 종목, 위치, 가격 등의 정보를 제공하며, 헬스클럽에서 운동하거나 개인 트레이닝을 받기 원한다면 미리 계약을 통해서 서비스에 등록되고 헬스클럽의 서비스를 제공하는 장소를 고객이 현재 위치에서 가장 가까운 곳과 연결하여 예약을 잡아주고 운동을 할 수 있도록 정보를 제공하는 칼로리 관리시스템이 제공 된다. The present invention uses a smartphone application to notify a user of a calorie-counting image of a food using a deep-running algorithm, transmits calorie-consuming information through an application, The present invention relates to a business model for providing exercise services in a health club. More specifically, the present invention relates to a business model in which a user takes a picture taken by a customer to search for a food of the same kind and amount using a deep learning algorithm using Big Data By showing the calorie value of one calorie, it shows the calories of the food ingested, calculates the calories consumed and the calories consumed, and when the average body mass index is exceeded, the warning message and various information that can consume calories And characters provided by the application If you want to exercise in the off-line, you can use the GPS of your smartphone to provide information about the sport center and health club that are closest to your current location, If you want to exercise in a club or get a personal training, you can use a contract to pre-register the place where the service is provided and provide the service so that the customer can connect with the closest place to where they are, A calorie management system is provided.
Description
본 발명은 스마트폰 애플리케이션을 통한 서비스로 딥러닝의 비지도 학습방법을 이용한 사물인식 알고리즘을 이용하여 고객이 섭취하고자 하는 음식 사진을 찍으면, 각각의 음식 종류와 음식 양을 자동으로 인식하여 미리 입력해 놓은 섭취하고자 하는 각 음식의 칼로리를 보여주고, 애플리케이션을 통해서 미리 입력한 각 고객의 신체에 따라 섭취한 음식이 고객의 평균 체질량지수에서 초과한 칼로리에 대한 정보를 알려준다. 또한, 스마트폰의 애플리케이션 기능 중 ‘만보계’즉, 걸음 수 계산기를 통해서 하루에 걸어서 소비하는 칼로리와 섭취한 음식 칼로리 사이에 칼로리가 초과된 경우 경고 메시지와 함께 초과된 칼로리 소모를 위해서 그에 맞는 칼로리 소모방법을 영상자료 및 데이터자료를 전송해주고, 스마트폰의 GPS를 이용하여 고객과 가장 가까운 위치에 있는 헬스클럽의 위치를 알려주어서 그 헬스클럽에서 운동 가능한 시간에 개인트레이닝 및 운동을 할 수 있도록 예약을 잡고, 운동을 하는 고객의 정보전송하여 그에 맞는 개인트레이닝과 비용지불이 가능할 수 있도록 서비스를 제공하는 네트워크 관리시스템으로 온라인(Online)으로 주문을 받거나 정보를 제공해서 오프라인(Offline)에서 서비스를 제공하거나 문제를 해결해주는 O2O서비스에 관한 칼로리 관리시스템이다.The present invention is a service through a smart phone application. When a customer takes a food photograph to be consumed by using the object recognition algorithm using the non-bio-learning method of deep learning, he automatically recognizes the type of each food and the amount of food It shows the calories of each food you want to eat, and the food you eat according to each customer's body, entered in advance through the application, gives you information about the calories you exceeded in your average body mass index. In addition, among the application functions of the smart phone, 'pedometer', that is, the calorie consumed on foot in the day and the calorie consumed by the foot calorie is exceeded by the calorie warning message and the calorie consumed for the excessive calorie consumption How to send video and data data, using GPS of smartphone to inform the location of the health club which is closest to the customer and make a reservation for the personal training and exercise at the exercise time It is a network management system that provides services to provide personal trainings and payment of expenses by sending information of customers who are holding and exercising, receiving orders online or providing information offline, Calorie management system for O2O service to solve problems It is a system.
현재 사용 중인 음식의 칼로리 제공 애플리케이션의 경우 섭취한 음식의 이름을 입력하면 그에 맞는 고정된 칼로리를 알려주는 방식으로 정확한 음식이 서비스에 없는 경우 찾을 수 없으며, 그 양은 측정하기 어렵고, 또한 빅데이터를 딥러닝의 알고리즘을 통해서 사진을 인식하고 칼로리 제공방식은 없다. 칼로리 소모를 위한 정보를 제공하는 방식도 개인의 신체정보에 맞는 맞춤형 운동정보를 제공하는 것이 아니라 일률적으로 정해진 정보를 순차적 또는 순환적으로 돌아가면서 제공하는 방식을 통해서 정해진 정보만 제공하고 있다. 그리고 요즘 온라인과 오프라인을 연결한 마케팅으로 스마트폰을 이용한 온라인을 통해서 주문을 받거나 정보를 제공한 것을 오프라인을 통해서 물품을 제공하거나 문제를 해결 또는 헬스클럽과 연계하여 운동을 할 수 있게 예약 및 정보를 제공되는 즉, 대표적인 예로 스마트폰으로 음식을 배달하는 서비스인 ‘배달의 민족’이나 스마트폰으로 택시를 요청해서 현실세계에서 탑승하는 ‘카카오택시’와 같은 O2O서비스관련 온라인에서 칼로리를 측정하고 오프라인에서 직접 운동예약 및 정보제공을 통해서 칼로리를 관리하는 서비스는 없다.In the case of the calorie serving application of the currently used food, if the name of the food is inputted, the fixed calorie corresponding to the name of the food is inputted, and it is impossible to find the correct food when the service is not in the service. There is no way to recognize pictures and provide calories through the running algorithm. The method of providing information for consuming calories does not provide customized exercise information corresponding to personal body information, but provides only predetermined information through a method of providing uniformly or cyclically determined information. And nowadays, online and offline marketing is used to make orders and receive information through online using smart phone. We can make reservation and information so that we can provide goods through offline, solve problems or exercise with health club. In other words, a representative example is 'nation of delivery' which is a service to deliver food by smart phone or 'taxi service' by smart phone, so it is possible to measure calorie in O2O service online such as 'Cacao taxi' There is no service to manage calories through direct exercise reservation and information provision.
본 발명의 목적은 스마트폰 애플리케이션으로 제공되는 서비스로 섭취하고자 하는 음식의 사진을 찍으면 데이터회사에서 구입하거나 회사에서 직접 수집한 다량의 빅데이터를 가동하여 딥러닝을 이용한 사물인식방법을 통해서 음식의 이미지를 인식하고 미리 측정하여 입력해 놓은 칼로리를 보여줌으로써 섭취한 음식의 칼로리를 손쉽게 보여주는 사물인식 칼로리 관리시스템 제공한다.It is an object of the present invention to provide a service provided by a smartphone application, in which when a photograph of a food to be taken is taken, a large amount of big data acquired by a data company or collected directly by a company is operated, And a calorie management system that can recognize the calories of the food ingested by showing the calories entered in advance.
본 발명에 의하면 딥러닝을 통해서 섭취한 음식의 사진을 통해서 측정된 칼로리와 스마트폰의 애플리케이션을 이용한 만보기 즉, 걸음 수 계산기 기능을 통해서 걸어서 소모된 칼로리와 직장에서 소비하는 열량 등에 대한 정보입력을 하여 종합적인 칼로리 수치를 계산해서 고객이 하루 동안 소비한 음식 칼로리의 합이 미리 입력해 놓은 소비자의 평균 체질량지수를 초과하였을 경우, 고객의 체질에 맞게 칼로리를 소비할 수 있는 다양한 운동영상 및 정보자료를 애플리케이션 상에 띄어 주고, 고객이 오프라인 상에서 운동을 하고자 할 때 스마트폰의 GPS를 이용하여 고객의 현재 위치와 가장 가까운 운동이 가능한 헬스클럽, 수영장, 공원 등 각종 스포츠센터의 정보를 시스템을 통해 제공할 수 있다. 그리고 현재 고객 위치에서 가장 가까운 헬스클럽에서 운동을 하고자 할 경우 미리 구축해 놓은 네트워크를 통해서 그 헬스클럽에 예약을 잡고, 고객의 정보를 헬스클럽에 제공하여 고객에게 적합한 단계의 개인 트레이닝을 받을 수 있도록 헬스클럽에 정보를 제공하며, 이와 더불어 그에 맞는 비용을 지불할 수 있는 시스템인 온라인에서의 요구를 오프라인과 연결하여 해결해 주는 O2O 서비스를 제공할 수 있다.According to the present invention, calorie measured through photographs of foods consumed through deep running and information on calories consumed on walking and calories consumed in the workplace can be inputted through a pedometer calculator function using a calorie application and a smart phone application When calculating the total calorie value, if the sum of the food calories consumed by the customer for a day exceeds the pre-entered average body mass index of the consumer, various exercise videos and information materials that can consume calories according to the customer's constitution When the customer wants to exercise on the off-line, they can use the GPS of the smartphone to provide information on various sports centers such as health club, swimming pool, park, etc. . And if you want to exercise in the nearest health club, you can make reservations at the health club through a network that has been built in advance, provide your information to the health club, You can provide O2O services that provide information to clubs and, in addition, pay for them online, by linking your online needs offline.
상기와 같은 목적을 달성하기 위한 본 발명의 칼로리 관리시스템은 고객이 스마트폰에 설치한 애플리케이션을 이용하여 딥러닝을 통한 음식의 칼로리 측정과 초과된 칼로리를 오프라인에서 소모할 수 있는 즉, 온라인에서 발생한 요구를 오프라인 스포츠센터나 헬스클럽 등에서 해결해 주는 O2O 비즈니스 모델을 제시하고자 한다.In order to accomplish the above object, the present invention provides a calorie management system in which a calorie of a food through deep-running using an application installed on a smartphone by a customer and consumes excess calories in off-line, I would like to present the O2O business model that solves the needs at offline sports center and health club.
본 발명에 따르면, 고객은 스마트폰의 애플리케이션을 통하여 딥러닝 방식의 칼로리 체크로 하루 동안 관리된 칼로리가 고객의 체질량지수를 초과하였을 경우 경고메시지와 함께 오프라인의 다양한 체육시설에서 관리 받을 수 있도록 정보를 제공해 주고, 헬스클럽과의 네트워크를 통해서 고객이 운동하고 싶은 시간에 가장 가까운 곳에서 고객에게 적합한 개인 트레이닝을 받을 수 있도록 정보를 제공하고 손쉽게 결제할 수 있는 시스템을 제공하여 고객에 맞는 ?춤형 서비스를 휴대가 용이한 스마트폰을 통해서 언제 어디서나 서비스를 이용할 수 있으므로 간편하고 신속하며, 편리하게 제공된다는 장점이 있다. 한편, 스포츠센터는 특별한 마케팅이 필요 없이 주변의 칼로리 소모가 필요한 다양한 사람들을 고객으로 맞이할 수 있고, 네트워크를 통해서 헬스클럽의 활성화를 도울 수 있으며, 비만으로 지불될 수 있는 국가적인 비용을 경감시키는 효과도 있다.According to the present invention, when a calorie controlled by a deep-running type calorie check is applied through a smartphone application, the customer can receive information such as a warning message when the calories managed for a day exceeds the body mass index of the customer, And provides a system that enables customers to receive personal training suitable for their customers in the closest place to the time they want to exercise through a network with the health club. It is convenient, fast, and convenient because it can be used anytime and anywhere through a smart phone that is easy to carry. On the other hand, the sports center can welcome a variety of people who need to consume calories without needing special marketing, can help the health club through the network, and reduce the national cost that can be paid by obesity There is also.
도 1는 본 발명에 따른 스마트폰 애플리케이션을 이용한 딥러닝 알고리즘으로 사물인식과 칼로리 측정 및 사물인식을 이용한 O2O서비스 관리시스템의 비즈니스 모델이 적용되는 전체 환경을 나타내는 구성도이고, 도 2는 본 발명에 따른 스마트폰 애플리케이션을 이용한 딥러닝 알고리즘으로 사물인식과 칼로리 측정 및 사물인식을 이용한 O2O서비스 관리시스템 모델이 적용되는 전체 환경을 나타내는 흐름도를 보여주는 것이다. 본 발명에 따른 서비스는 애플리케이션을 설치한 고객이 스마트폰을 이용하여 하루 동안 섭취한 칼로리와 소비한 칼로리를 측정할 수 있으며, 섭취한 칼로리가 고객의 평균 체질량지수를 넘어섰을 경우 초과된 칼로리를 소모할 수 있는 방법을 온라인과 오프라인을 통해서 뺄 수 있도록 정보를 제공하는 O2O서비스 칼로리 관리시스템이다.FIG. 1 is a diagram showing the overall environment to which a business model of an O2O service management system using object recognition, calorie measurement, and object recognition is applied by a deep learning algorithm using a smartphone application according to the present invention. , Which is a flowchart depicting the overall environment in which the O2O service management system model using object recognition, calorie measurement, and object recognition is applied to a deep running algorithm using a smartphone application. The service according to the present invention enables the customer who installed the application to measure the calories consumed and the calories consumed during the day by using the smartphone and consumes the excess calories when the calories consumed exceeds the average body mass index of the customer It is an O2O service calorie management system that provides information that you can subtract through online and offline methods.
본 발명은 스마트폰을 이용하여 애플리케이션을 설치한 고객이 섭취한 음식의 칼로리를 사진 촬영으로 확인할 수 있는 딥러닝방식과 고객이 입력한 정보에 의한 체질량지수가 섭취한 음식의 칼로리로 인해 평균적인 체질량지수를 초과하였을 경우 다양한 운동을 온라인 또는 오프라인에서 할 수 있도록 정보를 제공하고 연결해 주는 O2O서비스의 칼로리 관리시스템에 관한 것이다. 제1도를 참조하면, 고객이 스마트폰(1)으로 애플리케이션을 설치하여 고객정보를 입력하면, 회사의 서버(2)에 고객의 정보가 저장되고, 고객이 섭취하는 음식의 사진을 찍으면 회사의 서버로 전송되어 회사에서 구입하거나 수집한 빅데이터를 가동하여 딥러닝 알고리즘을 통해서 사진을 판독하면, 그 음식사진에 맞는 미리 지정해 놓은 음식의 칼로리를 고객에게 전송하며, 고객이 섭취한 음식의 칼로리가 평균 체질량지수를 초과하면 회사서버를 통해서 다양한 정보를 제공하고, 오프라인인 스포츠센터나 헬스클럽에서 운동을 하기 위해 정보를 얻으려고 스마트폰의 GPS를 켜면 위성(3)과 연결되어 현재 위치에서 가장 가까운 스포츠센터와 헬스클럽의 위치정보를 회사 서버를 통해서 애플리케이션에 보여주며, 헬스클럽에서 운동을 하거나 개인 트레이닝을 받기 원하는 고객이 애플리케이션(1)을 이용하여 현재 위치에서 가장 가까운 헬스클럽(4)을 선택하여 운동을 하려고 고객의 정보를 제공하여 예약 및 비용을 지불하면, 그 정보가 회사 서버(2)를 통해서 헬스클럽(4)으로 전송되어 예약 일시 및 고객 정보와 비용에 대한 정보가 헬스클럽의 시스템(4)에 뜨고, 헬스클럽의 승인을 통해서 다시 회사 서버를 통해 고객의 스마트폰으로 완료의 메시지가 전송되는 것을 특징으로 관계를 도시한다. The present invention relates to a deep-run method that can confirm the calories of foods consumed by a customer who installs an application using a smartphone, and a method of calculating the average body mass due to the calories of the food consumed by the customer- And an O2O service calorie management system that provides information and connects various sports to be performed on-line or off-line when the index is exceeded. Referring to FIG. 1, when a customer installs an application on a smart phone 1 and inputs customer information, the customer's information is stored in the company's server 2, and when the customer takes a picture of the food consumed, When the big data bought or collected by the company is transmitted to the server and the photograph is read through the deep learning algorithm, the calorie of the food designated in advance for the food photograph is transmitted to the customer, and the calories of the food consumed by the customer When the average body mass index is exceeded, the GPS server of the smartphone is connected to the satellite (3) to provide various information through the company server, and to get information for exercising at an offline sports center or health club, The location information of the sports center and health club is shown to the application through the company server, Receive by any customer using the application (1) the payment of the reservation and the costs to provide customer information try to exercise to select the nearest gym (4) at the current location, the information that the company's servers (2) (4), information on the date and time of reservation, customer information and expenses is displayed on the health club system (4), and the message of completion to the customer's smartphone via the company server again through the approval of the health club And the data is transmitted.
이하, 도면을 참조하여 본 발명을 실시하기 위한 구체적인 구성도의 내용을 설명하면, 다음과 같다.DETAILED DESCRIPTION OF THE PREFERRED EMBODIMENTS Hereinafter, specific configuration diagrams for implementing the present invention will be described with reference to the drawings.
제2도에 도시된 바와 같이, 본 발명에 따라 고객이 스마트폰의 애플리케이션을 설치하여 실행하면, 고객의 정보인 성별, 나이, 키, 몸무게, 좋아하는 운동, 운동 습관 등의 정보를 입력하여 애플리케이션을 실행시키고 그 고객 정보가 회사의 서버로 전송되면 고객에 맞는 평균 체질량지수가 나오고 그 체질량 지수를 기준으로 하루 동안 음식을 섭취하여 몸무게가 올라가면 칼로리 초과, 운동으로 몸무게가 감소되면 칼로리 미달 등으로 분석되기 시작한다. 또한, 고객의 현재 체질량지수가 평균 체질량지수와 비교하여 질량이 초과 되었는지 미달되었는지를 보여주고 초과 되었을 경우 감량해야할 질량을 보여주어 체중을 감량할 수 있도록 일주일, 한 달 등의 일정기간 동안 좋아하는 운동과 운동습관에 맞는 운동 및 식단 조절 스케줄을 작성할 수 있는 서비스를 제공하여 전체적으로 고객이 정한 목표에 따라 체중 감량할 수 있게 도와준다. 고객의 정보가 서버로 전송되면 더 정확한 칼로리 측정을 위해서 스마트폰의 진동기능을 이용한 만보기 기능 즉, 한 걸음 내디딜 때마다 걸음의 숫자를 정확히 측정해 주고 미리 계산하여 입력해 놓은 걸음의 숫자로 얼마만큼의 칼로리를 소모했는지를 알 수 있게 해주는 기능의 사용여부를 묻고 서비스를 사용하면 소비된 칼로리로 등록되며, 업무의 종류와 근무시간 등을 입력하여 업무종류와 시간마다 소모되는 계산된 칼로리를 설정해 두어서 고객이 정보를 입력하면 실시간 소모 칼로리를 보여주고 하루 중 소모되는 칼로리로 등록되어 전체 칼로리 계산 시에 적용되며, 애플리케이션과 연동된 스마트폰 카메라로 음식 사진을 촬영하여 애플리케이션에 올리면 그 이미지가 회사의 서버로 전송되어 빅데이터를 처리하는 딥러닝의 알고리즘을 통해서 일치하는 음식의 사진을 선택하면 미리 다양한 음식의 칼로리 정보를 통해서 입력해 놓은 동일한 종류의 음식과 12단계로 구분하여 놓은 음식양 중 동일한 양의 섭취한 음식 칼로리를 고객의 애플리케이션으로 전송한다. 또한, 고객이 미리 등록한 성별, 나이, 키, 몸무게 등을 바탕으로 미리 측정되어 입력된 그 고객에 맞는 일반인의 평균 체질량지수를 보여주고, 일반인의 평균 체질량지수 또는 고객의 전날 평균 체질량지수 또는 고객의 일주일간의 평균 체질량지수 중 고객이 정한 목표에 따라 선택하여 기준을 정하면 그 기준을 가지고, 하루 동안 섭취한 음식의 칼로리에서 소모한 칼로리를 빼서 그 기준에 맞는 평균 체질량지수를 초과하거나 하루 동안 측정한 종합 칼로리 수치가 기준 체질량 지수를 초과한 경우 경고음과 함께 초과 칼로리에 대한 정보를 메시지로 고객에게 전송한다. 경고메시지와 더불어 초과된 칼로리를 소모할 수 있도록 고객의 성향과 취미 등에 맞는 운동영상, 운동정보를 제공하고, 애플리케이션 내에 있는 캐릭터와 함께 걷거나 뛰는 것을 할 수 있도록 고객이 운동하는 시간에 고객의 설정에 의해서 애플리케이션 상으로 캐릭터가 실시간 운동하는 것을 함께하는 영상과 음향을 전송한다. 또한, 고객이 수영, 테니스, 요가, 탁구 등을 스포츠센터에서 하기 원할 때 스포츠센터를 선택하면 스마트폰의 GPS가 자동으로 켜져서 고객의 현재 위치에서 가장 가까운 곳에서 원하는 종목의 운동을 할 수 있는 스포츠센터의 위치, 운동시간, 비용 등의 정보를 제공한다. 그리고 헬스클럽에서 운동을 하거나 개인트레이닝을 받기를 원할 때 헬스클럽을 선택하면 스마트폰의 GPS가 자동으로 켜져서 고객의 현재 위치에서 가장 가까운 그리고 이미 회사가 제공하는 서비스 이용에 대한 동의를 통해서 고객에게 서비스를 제공하기로 한 헬스클럽의 위치와 개인 트레이너 및 비용의 정보를 볼 수 있다. 헬스클럽에서 운동을 하기 위해 고객이 운동을 원하는 시간과 그리고 선택사항으로 이미 회사서버에 등록되어 있는 고객의 체질량지수, 고객이 선호하는 운동프로그램, 기존의 운동프로그램 등에 대한 정보를 헬스클럽에 제공하는 동의(고객이 원하는 운동 트레이닝을 받을 수 있도록 헬스클럽의 트레이너가 미리 정보를 확인할 수 있도록 고객의 정보제공으로 선택사항), 트레이너 선택과 비용 지불 등을 통해서 헬스클럽에서 승인이 되면 회사를 통해서 승인 메시지가 고객의 애플리케이션에 전송되는 것으로 이루어져 있다. 이하, 본 발명에 따른 딥러닝 알고리즘을 이용한 사물인식을 사용하여 칼로리 측정 및 소비를 위한 O2O 방식의 칼로리 관리시스템의 구성 및 작용에 대해 구체적으로 설명하면, 다음과 같다. 본 발명은 스마트폰 애플리케이션을 이용한 서비스로 섭취하고자 하는 음식의 칼로리를 딥러닝 방식의 사물인식방법인 애플리케이션 상의 사진촬영을 통해서 칼로리를 측정할 수 있는 방식이다. 즉, 기존의 ‘이건 사과’‘이건 고양이’와 같이 데이터 값을 컴퓨터에 입력하여 입력된 결과를 바탕으로 강아지 사진을 판별하는 ‘지도 학습방법’이 아니라 무수히 많은 파일들을 빅데이터화 하여서 컴퓨터 스스로 비슷한 것끼리 군집을 형성하게 만들어 스스로 학습하여 찾아내는 방식인 ‘비지도 학습방법’을 사용하는데, 이 방법을 사용하기 위해서는 인간의 뇌가 패턴을 인식하는 방식을 모사한 ‘인공 신경망’의 알고리즘을 사용한다. 예를 들어, 고양이를 인식하는 알고리즘을 만들기 위해서 고양이가 포함된 수많은 동물 사진 데이터 입력하여 각각의 어떤 행동 및 모형 패턴들이 어떤 것을 기준으로 어떻게 분류하면 되는지를 신경망이 학습하도록 하는 것이다. 이러한 학습을 하면 테이터가 지정된 이름을 갖고 있지 않아도 데이터의 일정한 패턴을 발견하고, 다양한 특징을 추출하여 특징지도를 만들고 이러한 특징추출의 반복과 비슷한 것들을 군집화하는 과정을 통해서 더 정확한 특징과 패턴을 찾아 인간이 사물을 구분하듯 데이터를 분류하게 되어 사진을 보고 이것이 고양이인지 판단할 수 있게 된다. 이러한 과정은 음식사진에도 적용되어 방대한 양의 음식자료를 빅데이터화 하여 고객이 애플리케이션을 통해서 찍은 사진이 어떠한 특징으로 어떻게 매칭되는지 패턴을 만들고 특징을 추출하여 군집화하는 과정의 반복을 통해서 스마트폰으로 촬영된 음식사진만으로 어떠한 음식인지 찾아낼 수 있으며, 미리 측정된 음식과 그 양마다의 정확한 칼로리 수치를 음식 데이터에 입력하여 촬영된 사진의 딥러닝 알고리즘을 통해서 선택되면 같은 음식의 이미지가 얼마만큼의 칼로리를 가지고 있는지 고객에게 전송함으로써 지금 섭취한 음식의 칼로리를 바로 확인할 수 있다. 이렇게 촬영된 음식의 칼로리는 하루단위로 합산되어 고객 본인의 애플리케이션 상에 기록으로 저장되고, 고객은 촬영된 각각의 음식 칼로리와 하루 동안 섭취한 음식의 칼로리 총량을 실시간 확인할 수 있다. 또한, 핸드폰의 진동기능을 이용하여 스마트폰 ‘만보기’즉, 한 걸음 내디딜 때마다 걸음의 숫자를 정확히 측정해 주고 걸음으로 얼마만큼의 칼로리를 소모했는지를 알 수 있는 기능을 고객의 선택에 의하여 사용할 수 있게 하여 걸음으로 소모된 칼로리의 소모량을 실시간 보여주며, 고객 본인이 종사하는 업무의 종류와 근무시간 등을 애플리케이션에 입력하면 업무종류마다 소모되는 시간별 칼로리의 양을 미리 계산된 칼로리를 데이터에 입력하여서 고객이 업무로 하루 동안 소모한 칼로리를 계산하여 소모된 칼로리로 등록되고, 하루 동안 섭취한 칼로리에서 소모한 칼로리를 빼서 현재의 남아있는 칼로리 량을 수치를 계산하여 실시간 보여준다. 또한, 애플리케이션 설치 시에 미리 입력해 놓은 고객의 나이, 키, 몸무게 등의 정보를 가지고 체질량지수를 계산하여 하루 동안 섭취한 칼로리가 평균 체질량지수를 초과하거나 전날 또는 일주일 등 고객의 선택한 기준의 평균 체질량지수를 초과하였을 경우 경고메시지와 함께 알람을 통해서 칼로리의 초과 수치를 보여준다. 평균 체질량지수를 초과하였을 경우 고객이 미리 입력한 운동취향과 체질량지수 그리고 운동프로그램에 맞는 운동영상정보 및 다양한 칼로리 소모정보와 애플리케이션 상의 캐릭터와 함께 칼로리를 소모할 수 있는 걷기, 뛰기 등의 프로그램을 고객이 시간설정과 방법지정을 통해서 실시간으로 동시에 진행할 수 있도록 캐릭터의 영상과 음향을 보여주는 서비스를 제공 한다. 즉, 고객은 캐릭터의 설정으로 걷기나 뛰기 등의 시간과 장소 등을 입력하면 실시간으로 캐릭터가 함께 뛰거나 걷는 영상과 함께 소리를 들을 수 있다. 고객이 오프라인 상에서 수영, 요가, 탁구, 배드민턴, 스쿼시, 테니스 등의 스포츠로 칼로리를 소모하길 원한다면, 스마트폰의 GPS가 자동으로 작동되면서 GPS 기능을 이용하여 현재 위치에서 가장 가까운 운동 가능한 스포츠센터의 위치와 운동가능 시간, 비용 등의 정보와 최단거리 이동구간을 전송한다. 고객이 헬스클럽에서 전문가의 트레이닝을 받기 원한다면, 이미 네트워크를 통해서 서비스에 가입한 헬스클럽과 연계하여, 스마트폰의 GPS로 고객의 현재 위치에서 가장 가까운 운동 가능한 헬스클럽의 위치와 최단거리 이동경로 그리고 가격 및 트레이너 정보 및 운동 가능한 시간을 애플리케이션에서 보여주고, 고객이 헬스클럽에서 운동하거나 개인트레이닝을 받기 위해서 예약을 하고자 하면, 선택적으로 데이터에 기록되어 있는 고객의 체질량지수, 운동성향 등의 정보를 전송함과 동시에 운동 가능한 시간과 트레이너를 선택하고 비용을 지불방식을 정하고 고객이 선택에 의해서 애플리케이션 상으로 지불하거나 오프라인에서 직접 지불하는 방식 등을 정하여 전송하면, 회사의 서버를 통해서 이미 서비스를 제공하기로 계약되고 시스템이 구축된 헬스클럽의 전산시스템에서 고객의 승인요청서가 뜨고, 헬스클럽의 담당자가 예약 내용을 확인하고 이 예약에 대한 승인을 클릭하면 승인메시지가 회사 서버를 통해서 고객의 애플리케이션 화면에 전송됨으로써 서비스가 성사되는 온라인의 스마트폰 애플리케이션에서 오프라인의 스포츠센터나 헬스클럽에서 운동할 수 있도록 연결해 주는 O2O 서비스 칼로리 관리시스템에 관한 것이다.As shown in FIG. 2, when a customer installs and executes an application of a smartphone according to the present invention, information such as sex, age, height, weight, favorite exercise, And when the customer information is sent to the server of the company, the average body mass index corresponding to the customer comes out. Based on the body mass index, the patient consumes the food for one day. When the body weight is increased, the calorie is exceeded. When the body weight is decreased by exercise, . In addition, it shows whether the current BMI of the customer is compared with the average BMI and whether the mass is exceeded or not. If it is exceeded, it shows the mass to be weighted, And a service that allows you to create exercise and diet control schedules tailored to your exercise habits, thus helping you to lose weight in accordance with your overall goals. When the customer's information is sent to the server, it is possible to measure the number of steps every time you take a step, and calculate the number of steps you have entered in advance If you use the service, you will be registered as the calories you consume. You can enter the type of work and the working time to set the calculated calories consumed for each type of work and time. When the customer enters the information, it displays the calories consumed in real time and is registered as the calories consumed in the day. It is applied to the calculation of the total calories. When the food picture is taken with the smartphone camera linked with the application, Through deep-running algorithms that are sent to the server and process big data By selecting a photo from matching of food and the amount of food placed separately into the same kind of food and 12 steps to put calorie information entered through the variety of food in advance sends the same amount of calories ingested food to the customer's application. Also, the average body mass index of a general person who is measured and inputted in advance based on the sex, age, height, weight, etc. registered by the customer in advance is shown, and the average body mass index of the general public or the average body mass index The average body mass index (BMI) of a week is selected according to the target set by the customer, and if the standard is set, the calorie consumed from the food calorie consumed during the day is subtracted, and the average body mass index If the calorie value exceeds the reference body mass index, a warning message and information on the excess calorie are sent to the customer. In addition to the warning message, we provide exercise videos and exercise information tailored to the customer's habits and hobbies so that we can consume excess calories, and we can customize the customer's settings during the exercise time so that we can walk or play with the characters in the application. To transmit video and sound together with the real-time motion of the character on the application. In addition, when the customer wants to do swimming, tennis, yoga, table tennis, etc. at the sports center, the GPS of the smartphone is automatically turned on when the sports center is selected so that the user can exercise in the closest place Location of sports center, exercise time, and cost. When you choose a health club when you want to exercise in a health club or receive personal training, your smartphone's GPS will automatically turn on and allow you to contact your nearest and current customers You can see the location of the health club and the personal trainer and cost information you are willing to provide. In order to exercise in the gym, we provide the gym with information about the time the customer wishes to exercise and, optionally, the customer's body mass index already registered on the company server, the customer's preferred exercise program, Consent (optional for customer's information so that the trainer of the health club can check the information in advance so that the customer can receive the desired exercise training), approval of the health club through approval of the health club through trainer selection and payment, To the customer ' s application. Hereinafter, the configuration and operation of the O2O-type calorie management system for calorie measurement and consumption using object recognition using the deep learning algorithm according to the present invention will be described in detail. The present invention is a method of calorie measurement by photographing an application on a food, which is a method of recognizing a calories of a food to be ingested by a service using a smartphone application. In other words, it is not a 'map learning method' that identifies puppies' pictures based on the results of inputting data values into a computer like the existing 'It's apple' or 'cat' In order to use this method, we use the algorithm of 'artificial neural network' which simulates the pattern of human brain recognizing the pattern. For example, to create an algorithm that recognizes cats, input a large number of animal picture data, including cats, so that the neural network learns how each behavior and model pattern should be categorized based on what. In this learning, even if the data does not have the specified name, it finds a certain pattern of data, extracts various features to make a feature map, clusters similar to the repetition of such feature extraction, As you sort out the objects, you can sort the data so that you can see the pictures and judge if they are cats. This process is also applied to food photographs, and massive quantities of food data are converted into big data, so that customers can create a pattern of how the pictures taken by the application are matched to each other, You can find out what kind of food you are eating with just food photographs. If you select a pre-measured food and the exact calorie value for each amount in the food data and select it through the deep-running algorithm of the photographed picture, You can check the calories of the food you are eating right now by sending it to your customers. The calories of the food taken are summed up on a daily basis and stored as a record on the customer's own application so that the customer can check the calories of each food taken and the total calories of the food taken during the day in real time. In addition, by using the vibration function of the mobile phone, the user can select 'smartphone', that is, measure the number of steps each time a step is taken and know how much calories are consumed by walking The amount of calories consumed by stepping is displayed in real time, and when the type of work and the working time of the customer are inputted into the application, the amount of calories per hour consumed per type of work is inputted into the calorie data The calorie consumed by the customer is calculated by calculating the calories consumed during the day, subtracting the calories consumed from the calories consumed during the day, and calculating the current calorie quantity by displaying the figure in real time. In addition, we calculate the BMI with information such as the customer's age, height, and weight, which we entered at the time of application installation, and the calories consumed during the day exceeded the average body mass index or the average body mass If the index is exceeded, a warning message is displayed and an alarm is displayed to show the excess value of calories. If the average body mass index is exceeded, the customer can enter programs such as exercise tastes, body mass indexes, exercise video information corresponding to the exercise program, and various calorie consumption information, and walking and running programs that can consume calories with application characters It provides a service that shows the video and sound of the character so that it can proceed simultaneously in real time through setting the time and specifying the method. In other words, the customer can input the time and place such as walking or running by the character setting, and the character can hear the sound together with the video running or walking in real time. If a customer wants to consume calories in off-line sports such as swimming, yoga, table tennis, badminton, squash, tennis, etc., the smartphone's GPS will automatically activate and use the GPS feature to locate the nearest sports center And movement time, cost, and the shortest distance movement interval. If a customer wants to be trained by a health club, he or she can use the GPS of the smartphone in conjunction with a health club that has already joined the service via the network, If the application shows price and trainer information and time available for exercise, and the customer wishes to make a reservation to exercise in the gym or to receive personal training, he or she can optionally send information such as body mass index, If you select a time and a trainer that can exercise at the same time, determine the payment method, and pay the application by application or pay offline, you will be able to provide services through the company's server. Contracted and system built When the customer's approval request is displayed in the computer system of the health club, the person in charge of the health club confirms the reservation and clicks the approval for the reservation, the approval message is transmitted to the customer's application screen through the company server, O2O service calorie management system that allows you to work in an offline sports center or health club in your smartphone application.
1: 고객 스마트폰, 2: 회사서버 및 빅데이터, 3: 위성, 4: 헬스클럽 1: customer smartphone, 2: company server and big data, 3: satellite, 4: health club
Claims (1)
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| KR1020160113386A KR101890989B1 (en) | 2016-09-02 | 2016-09-02 | O2O(Online to Offline) Calorie Service Management System for Calorie Measuring and Consumption based Image Recognition using Deep Learning Algorithm |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| KR1020160113386A KR101890989B1 (en) | 2016-09-02 | 2016-09-02 | O2O(Online to Offline) Calorie Service Management System for Calorie Measuring and Consumption based Image Recognition using Deep Learning Algorithm |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| KR20180026252A KR20180026252A (en) | 2018-03-12 |
| KR101890989B1 true KR101890989B1 (en) | 2018-09-28 |
Family
ID=61729139
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| KR1020160113386A Active KR101890989B1 (en) | 2016-09-02 | 2016-09-02 | O2O(Online to Offline) Calorie Service Management System for Calorie Measuring and Consumption based Image Recognition using Deep Learning Algorithm |
Country Status (1)
| Country | Link |
|---|---|
| KR (1) | KR101890989B1 (en) |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| KR20210104360A (en) | 2020-02-17 | 2021-08-25 | 엔에이치엔 주식회사 | Method and system for providing image recognition based artificial intelligence service |
Families Citing this family (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| KR102247695B1 (en) * | 2018-06-04 | 2021-05-03 | 서울대학교산학협력단 | Food diary device using mobile |
| KR102019202B1 (en) * | 2018-12-10 | 2019-09-06 | (주)에스피코리아 | A method of operating a computing device to provide a personalized exercise video service based on a personal health record |
| CN109784850B (en) * | 2019-01-08 | 2021-09-17 | 腾讯科技(深圳)有限公司 | Prompt information processing method and device, computer equipment and storage medium |
| KR102327670B1 (en) * | 2019-10-15 | 2021-11-17 | 손종희 | Electronic receipt-based artificial calorie calculation apparatus and method |
| KR20250079786A (en) | 2023-11-27 | 2025-06-04 | 황지영 | Computing device and calorie measurement system for measuring calories |
Family Cites Families (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| KR20060119476A (en) * | 2005-05-20 | 2006-11-24 | 에스케이 텔레콤주식회사 | Method and apparatus for providing advertisement using LBS and system including the apparatus |
| KR101067465B1 (en) * | 2009-08-13 | 2011-09-27 | 주식회사 루덴스플랜 | Health care mobile terminal with location information function and health care method using same |
| KR101427901B1 (en) * | 2012-04-30 | 2014-09-24 | (주)인밸류넷 | Management system for sports centers and members using internet |
| KR20150117070A (en) * | 2014-04-09 | 2015-10-19 | (주)메이벨솔루션 | Apparatus and service method to promote character based on health care |
| KR101562364B1 (en) * | 2014-12-29 | 2015-10-23 | 재단법인 아산사회복지재단 | Automatic calorie caculation method using food image and feeding behavior managing system using thereof |
-
2016
- 2016-09-02 KR KR1020160113386A patent/KR101890989B1/en active Active
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| KR20210104360A (en) | 2020-02-17 | 2021-08-25 | 엔에이치엔 주식회사 | Method and system for providing image recognition based artificial intelligence service |
Also Published As
| Publication number | Publication date |
|---|---|
| KR20180026252A (en) | 2018-03-12 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| KR101890989B1 (en) | O2O(Online to Offline) Calorie Service Management System for Calorie Measuring and Consumption based Image Recognition using Deep Learning Algorithm | |
| KR102116968B1 (en) | Method for smart coaching based on artificial intelligence | |
| US20230116428A1 (en) | Wellness and discovery systems and methods | |
| US10492519B2 (en) | Customizing nutritional supplement shake recommendations | |
| RU2607953C2 (en) | Capturing of optical data on exercises in addition to calculation of assessment of health | |
| TWI650713B (en) | Customized training advice | |
| KR102054134B1 (en) | Method and system for exercise coaching based on exercise machine | |
| KR101871388B1 (en) | Method for managing fitness center | |
| US20080086318A1 (en) | Lifestyle companion system | |
| CN103182174A (en) | Collection and display of athletic information | |
| KR20180004928A (en) | Method and apparatus and computer readable record media for service for physical training | |
| CN109416820A (en) | User satisfaction is automatically determined and is responded | |
| JP7514483B2 (en) | Systems and methods for delivering personalized exercise prescriptions - Patents.com | |
| KR20160000124A (en) | Monitoring exercise treatment and management system to provide for effectual exercise program and method of the same | |
| JP6021223B2 (en) | Matching server | |
| US20220108325A1 (en) | Wear-based replacement for athletic equipment | |
| KR101730548B1 (en) | Server-client based an exercise machine rental/sale and user's information of exercise management system | |
| KR20160059802A (en) | Smart fitness system | |
| CN110809489B (en) | Information processing apparatus, information processing method, and storage medium | |
| US20180225367A1 (en) | System and Method for Activity Classification | |
| KR101667014B1 (en) | Apparatus for exercise training management | |
| KR102454758B1 (en) | Method and apparatus for providing exercise informaion | |
| US20180249948A1 (en) | Providing activity information in relation to interactive user behavior | |
| KR20140129559A (en) | A Nutrition Counseling System providing practicable personalized solution | |
| WO2017166720A1 (en) | Data processing method and device, and treadmill |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A201 | Request for examination | ||
| PA0109 | Patent application |
Patent event code: PA01091R01D Comment text: Patent Application Patent event date: 20160902 |
|
| PA0201 | Request for examination | ||
| E902 | Notification of reason for refusal | ||
| PE0902 | Notice of grounds for rejection |
Comment text: Notification of reason for refusal Patent event date: 20171207 Patent event code: PE09021S01D |
|
| PG1501 | Laying open of application | ||
| E701 | Decision to grant or registration of patent right | ||
| PE0701 | Decision of registration |
Patent event code: PE07011S01D Comment text: Decision to Grant Registration Patent event date: 20180809 |
|
| GRNT | Written decision to grant | ||
| PR0701 | Registration of establishment |
Comment text: Registration of Establishment Patent event date: 20180816 Patent event code: PR07011E01D |
|
| PR1002 | Payment of registration fee |
Payment date: 20180816 End annual number: 3 Start annual number: 1 |
|
| PG1601 | Publication of registration | ||
| PR1001 | Payment of annual fee |
Payment date: 20210609 Start annual number: 4 End annual number: 4 |
|
| PR1001 | Payment of annual fee |
Payment date: 20220519 Start annual number: 5 End annual number: 5 |
|
| PR1001 | Payment of annual fee |
Payment date: 20240605 Start annual number: 7 End annual number: 7 |
|
| PR1001 | Payment of annual fee |
Payment date: 20250520 Start annual number: 8 End annual number: 8 |