KR20230135815A - Harmful content filtering system and method using artificial intelligence - Google Patents

Harmful content filtering system and method using artificial intelligence Download PDF

Info

Publication number
KR20230135815A
KR20230135815A KR1020220033258A KR20220033258A KR20230135815A KR 20230135815 A KR20230135815 A KR 20230135815A KR 1020220033258 A KR1020220033258 A KR 1020220033258A KR 20220033258 A KR20220033258 A KR 20220033258A KR 20230135815 A KR20230135815 A KR 20230135815A
Authority
KR
South Korea
Prior art keywords
content
harmful
harmful content
image data
artificial intelligence
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
KR1020220033258A
Other languages
Korean (ko)
Other versions
KR102763073B1 (en
Inventor
고태건
김연규
Original Assignee
고태건
김연규
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 고태건, 김연규 filed Critical 고태건
Priority to KR1020220033258A priority Critical patent/KR102763073B1/en
Publication of KR20230135815A publication Critical patent/KR20230135815A/en
Application granted granted Critical
Publication of KR102763073B1 publication Critical patent/KR102763073B1/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
    • G06Q50/10—Services
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N5/00—Computing arrangements using knowledge-based models
    • G06N5/04—Inference or reasoning models
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/764—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/77—Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
    • G06V10/774—Generating sets of training patterns; Bootstrap methods, e.g. bagging or boosting
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/27—Server based end-user applications
    • H04N21/274—Storing end-user multimedia data in response to end-user request, e.g. network recorder
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/45—Management operations performed by the client for facilitating the reception of or the interaction with the content or administrating data related to the end-user or to the client device itself, e.g. learning user preferences for recommending movies, resolving scheduling conflicts
    • H04N21/454—Content or additional data filtering, e.g. blocking advertisements
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/45—Management operations performed by the client for facilitating the reception of or the interaction with the content or administrating data related to the end-user or to the client device itself, e.g. learning user preferences for recommending movies, resolving scheduling conflicts
    • H04N21/466—Learning process for intelligent management, e.g. learning user preferences for recommending movies
    • H04N21/4662—Learning process for intelligent management, e.g. learning user preferences for recommending movies characterized by learning algorithms
    • H04N21/4666—Learning process for intelligent management, e.g. learning user preferences for recommending movies characterized by learning algorithms using neural networks, e.g. processing the feedback provided by the user

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Databases & Information Systems (AREA)
  • Evolutionary Computation (AREA)
  • Physics & Mathematics (AREA)
  • Artificial Intelligence (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Computing Systems (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Software Systems (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Business, Economics & Management (AREA)
  • Signal Processing (AREA)
  • Medical Informatics (AREA)
  • Mathematical Physics (AREA)
  • General Engineering & Computer Science (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • Tourism & Hospitality (AREA)
  • Strategic Management (AREA)
  • Molecular Biology (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • General Business, Economics & Management (AREA)
  • Primary Health Care (AREA)
  • Marketing (AREA)
  • Human Resources & Organizations (AREA)
  • Economics (AREA)
  • Information Transfer Between Computers (AREA)

Abstract

실시예에 따른 유해 컨텐츠 필터링 서버; 는 클라이언트 서버로부터 업로드된 이미지 데이터 및 업로드 예정인 이미지 데이터를 수신하는 컨텐츠 수신모듈; 수신한 이미지 데이터를 인공지능 기반으로 분석하여 이미지 데이터 각각의 유해 컨텐츠 여부를 판단하는 유해 컨텐츠 판단 모듈; 유해 컨텐츠로 판단된 이미지 데이터를 대체하는 검열 이미지를 생성하는 대체 컨텐츠 생성 모듈; 및 생성된 검열 이미지를 상기 외부서버로 전송하고, 유해한 이미지를 검열 이미지로 교체하는 컨텐츠 송신 모듈; 을 포함한다. A harmful content filtering server according to an embodiment; is a content receiving module that receives uploaded image data and image data to be uploaded from a client server; A harmful content determination module that analyzes received image data based on artificial intelligence and determines whether each image data contains harmful content; A replacement content creation module that generates censored images to replace image data determined to be harmful content; and a content transmission module that transmits the generated censored image to the external server and replaces the harmful image with the censored image. Includes.

Description

인공지능을 이용한 유해 컨텐츠 필터링 시스템 및 방법 {HARMFUL CONTENT FILTERING SYSTEM AND METHOD USING ARTIFICIAL INTELLIGENCE}Harmful content filtering system and method using artificial intelligence {HARMFUL CONTENT FILTERING SYSTEM AND METHOD USING ARTIFICIAL INTELLIGENCE}

본 개시는 유해 컨텐츠 필터링 시스템 및 방법에 관한 것으로 구체적으로, 유해 컨텐츠를 인공지능을 통해 인식하고 인식된 유해 컨텐츠를 안전한 컨텐츠로 변환하여 업로드 하는 유해 컨텐츠 필터링 시스템 및 방법에 관한 것이다. This disclosure relates to a system and method for filtering harmful content, and specifically, to a system and method for filtering harmful content that recognizes harmful content through artificial intelligence, converts the recognized harmful content into safe content, and uploads it.

본 명세서에서 달리 표시되지 않는 한, 이 섹션에 설명되는 내용들은 이 출원의 청구항들에 대한 종래 기술이 아니며, 이 섹션에 포함된다고 하여 종래 기술이라고 인정되는 것은 아니다.Unless otherwise indicated herein, the material described in this section is not prior art to the claims of this application, and is not admitted to be prior art by inclusion in this section.

스마트 단말의 보급으로 스마트 단말의 사용 시작 연령이 점점 낮아지고 있다. 스마트 단말은 생활의 여러 편리함을 주지만, 청소년들이 유해한 미디어에 매우 쉽게 접근 가능하도록 하는 매개체 역할을 하기도 한다. 트위터, 페이스북 등 소셜 네트워크 서비스(SNS)에 신체 사진을 올리거나 타인의 신체사진을 업로드 하는 디지털 성범죄(Digital Sexual Crime)가 증가하고 있다. 특히, 디지털 성범죄의 29퍼센트는 청소년에 의해 발생된 것으로 조사되어, 청소년들이 스마트 단말을 통해 유해 컨텐츠를 접하거나 업로드 하는 것을 막는 실질적인 해결책이 필요하다.With the spread of smart devices, the age at which people start using smart devices is getting younger. Smart devices provide many conveniences in life, but they also serve as a medium that allows young people to easily access harmful media. Digital sexual crimes, such as uploading body photos or other people's body photos to social networking services (SNS) such as Twitter and Facebook, are increasing. In particular, it was found that 29 percent of digital sex crimes were committed by teenagers, so a practical solution is needed to prevent teenagers from accessing or uploading harmful content through smart devices.

한편, 2018년 청소년 매체이용 및 유해환경 실태조사 보고서에 따르면 초등학생의 성인용 영상물 및 간행물 이용률은 매년 꾸준히 증가하고 있지만, 이에 대한 해결책으로 성인 매체 이용 예방 교육이 도움이 되지 않는다고 응답하였다.Meanwhile, according to the 2018 Youth Media Use and Harmful Environment Survey Report, elementary school students' use of adult videos and publications is steadily increasing every year, but respondents responded that education to prevent adult media use is not helpful as a solution.

유해 컨텐츠 접근을 막기 위해 방송통신 위원회에서 불법 유해정보 사이트 차단 서비스를 제공하고 있지만, 쉽게 우회 가능하여 실효성이 떨어진다. 또한, 종래의 유해사이트 차단 서비스는 사전에 등록된 사이트가 아니면 차단할 수 없어 유해 컨텐츠 유포 및 접근을 막는데 한계가 있다. In order to prevent access to harmful content, the Korea Communications Commission provides a service to block illegal and harmful information sites, but it is ineffective because it can be easily bypassed. In addition, conventional harmful site blocking services cannot block sites that are not registered in advance, so they have limitations in preventing the distribution and access to harmful content.

1. 한국 특허등록 제 10-2259730호 (2021.05.27)1. Korean Patent Registration No. 10-2259730 (2021.05.27) 2. 한국 특허등록 제 10-1711833호 (2017.02.24)2. Korean Patent Registration No. 10-1711833 (2017.02.24)

실시예에 따른 인공지능을 이용한 유해 컨텐츠 필터링 시스템 및 방법은 인공지능을 통해 업로드 되는 컨텐츠의 유해 여부를 인공지능을 통해 판단하고, 유해 컨텐츠로 판단되는 경우, 검열된 이미지로 원본 이미지를 교체하여 클라이언트 서버에 유해 컨텐츠가 업로드 되는 것을 막을 수 있다.The harmful content filtering system and method using artificial intelligence according to the embodiment determines whether the content uploaded through artificial intelligence is harmful through artificial intelligence, and if it is determined to be harmful content, replaces the original image with a censored image to You can prevent harmful content from being uploaded to the server.

실시예에서는 오픈 데이터셋(Open Dataset)을 통해 유해 컨텐츠 판단 학습을 진행하고, 이진 분류(Binary Classification) 인공지능 시스템을 구현한다. In the embodiment, learning to determine harmful content is conducted through an open dataset, and a binary classification artificial intelligence system is implemented.

또한, 실시예에서는 차단된 유해 컨텐츠의 이미지 데이터를 구축하여 인공지능 성능을 개선한다. Additionally, in the embodiment, image data of blocked harmful content is constructed to improve artificial intelligence performance.

실시예에 따른 인공지능을 이용한 유해 컨텐츠 필터링 시스템은 업로드 예정 컨텐츠 및 업로드된 컨텐츠를 전송하는 클라이언트 서버; 클라이언트 서버로부터 컨텐츠를 수신하여, 업로드 예정 컨텐츠 및 업로드된 컨텐츠가 유해 컨텐츠인지 판별하고, 판별된 유해 컨텐츠 정보와 유해 컨텐츠의 대체 컨텐츠인 검열 이미지를 전송하는 유해 컨텐츠 필터링 서버; 를 포함한다. A harmful content filtering system using artificial intelligence according to an embodiment includes a client server that transmits content scheduled to be uploaded and uploaded content; A harmful content filtering server that receives content from a client server, determines whether the content to be uploaded and the uploaded content is harmful content, and transmits the determined harmful content information and a censored image that is replacement content for the harmful content; Includes.

실시예에 따른 유해 컨텐츠 필터링 서버; 는 클라이언트 서버로부터 업로드된 이미지 데이터 및 업로드 예정인 이미지 데이터를 수신하는 컨텐츠 수신모듈; 수신한 이미지 데이터를 인공지능 기반으로 분석하여 이미지 데이터 각각의 유해 컨텐츠 여부를 판단하는 유해 컨텐츠 판단 모듈; 유해 컨텐츠로 판단된 이미지 데이터를 대체하는 검열 이미지를 생성하는 대체 컨텐츠 생성 모듈; 및 생성된 검열 이미지를 상기 외부서버로 전송하고, 유해한 이미지를 검열 이미지로 교체하는 컨텐츠 송신 모듈; 을 포함한다. A harmful content filtering server according to an embodiment; is a content receiving module that receives uploaded image data and image data to be uploaded from a client server; A harmful content determination module that analyzes received image data based on artificial intelligence and determines whether each image data contains harmful content; A replacement content creation module that generates censored images to replace image data determined to be harmful content; and a content transmission module that transmits the generated censored image to the external server and replaces the harmful image with the censored image. Includes.

이상에서와 같은 인공지능을 이용한 유해 컨텐츠 필터링 시스템 및 방법은 유해 컨텐츠를 판별하고 유해 컨텐츠의 업로드를 막아 스마트 단말을 이용하는 청소년들이 유해 컨텐츠에 노출되는 것을 방지한다. 또한, 소셜 네트워크 서비스 서버를 포함하는 클라이언트 서버는 유해 컨텐츠 업로드를 사전에 방지하여 건전한 웹 환경을 제공할 수 있다. The harmful content filtering system and method using artificial intelligence as described above determines harmful content and prevents the upload of harmful content, thereby preventing youth using smart devices from being exposed to harmful content. Additionally, a client server including a social network service server can provide a healthy web environment by preventing the upload of harmful content in advance.

또한, 실시예에 따른 인공지능을 이용한 유해 컨텐츠 필터링 시스템은 외부 컴퓨팅 환경이 적용이 쉬운 구조로 다양한 광고 차단 앱, VPN 서비스 등의 플랫폼 환경에 응용 가능하다. 또한, API를 공개하여, 개발자들이 쉽게 사용할 수 있도록 하고, 차단된 이미지 데이터를 구축하여 인공지능 성능 개선함으로써 유해 컨텐츠 판별 정확도를 향상시킬 수 있다. In addition, the harmful content filtering system using artificial intelligence according to the embodiment has a structure that is easy to apply to external computing environments and can be applied to platform environments such as various ad blocking apps and VPN services. In addition, the API can be made public so that developers can use it easily, and the accuracy of identifying harmful content can be improved by improving artificial intelligence performance by building blocked image data.

본 발명의 효과는 상기한 효과로 한정되는 것은 아니며, 본 발명의 상세한 설명 또는 특허청구범위에 기재된 발명의 구성으로부터 추론 가능한 모든 효과를 포함하는 것으로 이해되어야 한다.The effects of the present invention are not limited to the effects described above, and should be understood to include all effects that can be inferred from the configuration of the invention described in the detailed description or claims of the present invention.

도 1은 실시예에 따른 인공지능을 이용한 유해 컨텐츠 필터링 시스템 구성을 나타낸 도면
도 2는 실시예에 따른 유해 컨텐츠 필터링 시스템에서 판별된 유해 컨텐츠를 검열 이미지로 교체하는 것을 나타낸 도면
도 3은 실시예에 따른 인공지능을 이용한 유해 컨텐츠 필터링 서버의 데이터 처리 블록을 나타낸 도면
도 4는 실시예에 따른 유해 컨텐츠 필터링 서버의 데이터 처리 과정을 나타낸 흐름도1 is a diagram showing the configuration of a harmful content filtering system using artificial intelligence according to an embodiment.
Figure 2 is a diagram showing replacing harmful content determined in a harmful content filtering system with a censored image according to an embodiment.
Figure 3 is a diagram showing a data processing block of a harmful content filtering server using artificial intelligence according to an embodiment.
Figure 4 is a flowchart showing the data processing process of the harmful content filtering server according to an embodiment

본 발명의 이점 및 특징, 그리고 그것들을 달성하는 방법은 첨부되는 도면과 함께 상세하게 후술되어 있는 실시 예들을 참조하면 명확해질 것이다. 그러나 본 발명은 이하에서 개시되는 실시 예들에 한정되는 것이 아니라 서로 다른 다양한 형태로 구현될 수 있으며, 단지 본 실시 예들은 본 발명의 개시가 완전하도록 하고, 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 발명의 범주를 완전하게 알려주기 위해 제공되는 것이며, 본 발명은 청구항의 범주에 의해 정의될 뿐이다. 명세서 전체에 걸쳐 동일 도면부호는 동일 구성 요소를 지칭한다.The advantages and features of the present invention and methods for achieving them will become clear by referring to the embodiments described in detail below along with the accompanying drawings. However, the present invention is not limited to the embodiments disclosed below and may be implemented in various different forms. The present embodiments are merely provided to ensure that the disclosure of the present invention is complete and to provide common knowledge in the technical field to which the present invention pertains. It is provided to fully inform those who have the scope of the invention, and the present invention is only defined by the scope of the claims. Like reference numerals refer to like elements throughout the specification.

본 발명의 실시 예들을 설명함에 있어서 공지 기능 또는 구성에 대한 구체적인 설명이 본 발명의 요지를 불필요하게 흐릴 수 있다고 판단되는 경우에는 그 상세한 설명을 생략할 것이다. 그리고 후술되는 용어들은 본 발명의 실시 예에서의 기능을 고려하여 정의된 용어들로서 이는 사용자, 운용자의 의도 또는 관례 등에 따라 달라질 수 있다. 그러므로 그 정의는 본 명세서 전반에 걸친 내용을 토대로 내려져야 할 것이다.In describing embodiments of the present invention, if it is determined that a detailed description of a known function or configuration may unnecessarily obscure the gist of the present invention, the detailed description will be omitted. The terms described below are terms defined in consideration of functions in embodiments of the present invention, and may vary depending on the intention or custom of the user or operator. Therefore, the definition should be made based on the contents throughout this specification.

도 1은 실시예에 따른 인공지능을 이용한 유해 컨텐츠 필터링 시스템 구성을 나타낸 도면이고, 도 2는 실시예에 따른 유해 컨텐츠 필터링 시스템에서 판별된 유해 컨텐츠를 검열 이미지로 교체하는 것을 나타낸 도면이다.FIG. 1 is a diagram showing the configuration of a harmful content filtering system using artificial intelligence according to an embodiment, and FIG. 2 is a diagram showing replacing harmful content determined in the harmful content filtering system with a censored image according to an embodiment.

도 1을 참조하면, 실시예에 따른 인공지능을 이용한 유해 컨텐츠 필터링 시스템은 클라이언트 서버(100) 및 유해 컨텐츠 필터링 서버(200)를 포함하여 구성될 수 있다. 실시예에 따른 클라이언트 서버(100)는 업로드 예정 컨텐츠 및 업로드된 컨텐츠를 유해 컨텐츠 필터링 서버(200)를 네트워크를 통해 전송한다. 실시예에서 업로드 예정 컨텐츠 및 업로드된 컨텐츠에는 클라이언트 서버에 업로드가 예정된 이미지 및 업로드된 이미지 데이터를 포함한다. 실시예에서 클라이언트 서버(100)는 SNS 서버, 광고 서버 및 VPN(Virtual Private Network) 서버 등을 포함할 수 있고, 실시예에 따른 유해 컨텐츠 필터링 시스템은 광고차단 어플리케이션, VPN 서비스 등의 환경에서 응용 가능하다. Referring to FIG. 1, a harmful content filtering system using artificial intelligence according to an embodiment may be configured to include a client server 100 and a harmful content filtering server 200. The client server 100 according to the embodiment transmits the content scheduled to be uploaded and the uploaded content to the harmful content filtering server 200 through the network. In the embodiment, the content scheduled to be uploaded and the uploaded content include images scheduled to be uploaded to the client server and uploaded image data. In the embodiment, the client server 100 may include an SNS server, an advertisement server, and a VPN (Virtual Private Network) server, and the harmful content filtering system according to the embodiment can be applied in environments such as advertisement blocking applications and VPN services. do.

유해 컨텐츠 필터링 서버(200)는 업로드 예정 컨텐츠 및 업로드된 컨텐츠를 수신하여, 수신한 컨텐츠가 유해 컨텐츠인지 인공지능을 통해 판별하고, 판별된 유해 컨텐츠 정보 및 유해 컨텐츠로 판별된 컨텐츠의 대체 컨텐츠를 네트워크로 전송한다. 실시예에서 대체 컨텐츠는 검열 이미지를 포함하고, 검열 이미지는 유해 컨텐츠 업로드 경고 이미지 등을 포함할 수 있다. 실시예에서 네트워크는, 복수의 단말 및 서버들과 같은 각각의 노드 상호 간에 정보 교환이 가능한 연결 구조를 의미하는 것으로, 이러한 네트워크의 일 예에는 RF, 3GPP(3rd Generation Partnership Project) 네트워크, LTE(Long Term Evolution) 네트워크, 5GPP(5th Generation Partnership Project) 네트워크, WIMAX(World Interoperability for Microwave Access) 네트워크, 인터넷(Internet), LAN(Local Area Network), Wireless LAN(Wireless Local Area Network), WAN(Wide Area Network), PAN(Personal Area Network), 블루투스 (Bluetooth) 네트워크, NFC 네트워크, 위성 방송 네트워크, 아날로그 방송 네트워크, DMB(Digital Multimedia Broadcasting) 네트워크 등이 포함되나 이에 한정되지는 않는다. The harmful content filtering server 200 receives content scheduled to be uploaded and uploaded content, determines through artificial intelligence whether the received content is harmful content, and provides information on the determined harmful content and alternative content for the content determined to be harmful content through the network. send to In an embodiment, the alternative content may include a censored image, and the censored image may include a warning image for uploading harmful content. In the embodiment, the network refers to a connection structure that allows information exchange between each node, such as a plurality of terminals and servers. Examples of such networks include RF, 3rd Generation Partnership Project (3GPP) network, and LTE (Long Terminal). Term Evolution) network, 5GPP (5th Generation Partnership Project) network, WIMAX (World Interoperability for Microwave Access) network, Internet, LAN (Local Area Network), Wireless LAN (Wireless Local Area Network), WAN (Wide Area Network) ), PAN (Personal Area Network), Bluetooth network, NFC network, satellite broadcasting network, analog broadcasting network, DMB (Digital Multimedia Broadcasting) network, etc., but are not limited to these.

실시예에 따른 유해 컨텐츠 필터링 서버는 유해 컨텐츠 필터링 프로그램을 약 80% 정도 국내 시장을 점유하고 있는 크로미움 기반의 브라우저 확장 프로그램으로 제공할 수 있다. 또한, 실시예에 따른 유해 컨텐츠 필터링 프로그램은 자바스크립트 기반으로 작동할 수 있다.The harmful content filtering server according to the embodiment can provide a harmful content filtering program as a Chromium-based browser extension program, which occupies about 80% of the domestic market. Additionally, the harmful content filtering program according to the embodiment may operate based on JavaScript.

도 3은 실시예에 따른 인공지능을 이용한 유해 컨텐츠 필터링 서버의 데이터 처리 블록을 나타낸 도면이다. 도 3을 참조하면, 실시예에 따른 유해 컨텐츠 필터링 서버(200)는 컨텐츠 수신모듈(210), 유해 컨텐츠 판단 모듈(220), 대체 컨텐츠 생성모듈(230) 및 컨텐츠 송신 모듈(240)을 포함하여 구성될 수 있다. 본 명세서에서 사용되는 '모듈' 이라는 용어는 용어가 사용된 문맥에 따라서, 소프트웨어, 하드웨어 또는 그 조합을 포함할 수 있는 것으로 해석되어야 한다. 예를 들어, 소프트웨어는 기계어, 펌웨어(firmware), 임베디드코드(embedded code), 및 애플리케이션 소프트웨어일 수 있다. 또 다른 예로, 하드웨어는 회로, 프로세서, 컴퓨터, 집적 회로, 집적 회로 코어, 센서, 멤스(MEMS; Micro-Electro-Mechanical System), 수동 디바이스, 또는 그 조합일 수 있다. Figure 3 is a diagram showing a data processing block of a harmful content filtering server using artificial intelligence according to an embodiment. Referring to FIG. 3, the harmful content filtering server 200 according to the embodiment includes a content reception module 210, a harmful content determination module 220, an alternative content creation module 230, and a content transmission module 240. It can be configured. The term 'module' used in this specification should be interpreted to include software, hardware, or a combination thereof, depending on the context in which the term is used. For example, software may be machine language, firmware, embedded code, and application software. As another example, hardware may be a circuit, processor, computer, integrated circuit, integrated circuit core, sensor, Micro-Electro-Mechanical System (MEMS), passive device, or a combination thereof.

컨텐츠 수신모듈(210)은 외부 서버로부터 업로드된 이미지 데이터 및 업로드 예정인 이미지 데이터를 수신한다. The content receiving module 210 receives uploaded image data and image data scheduled to be uploaded from an external server.

유해 컨텐츠 판단모듈(220)은 수신한 이미지 데이터를 인공지능 기반으로 분석하여 이미지 데이터 각각의 유해 컨텐츠 여부를 판단한다. 실시예에서 유해 컨텐츠 판단모듈(220)은 오픈 데이터셋(Open Dataset)을 통해 유해 컨텐츠 판단 학습을 진행하고 차단된 유해 컨텐츠의 이미지 데이터를 구축하여 유해 컨텐츠 판단 학습 데이터로 이용한다. 실시예에서 유해 컨텐츠 판단모듈(220)은 수집된 유해 컨텐츠 데이터와 수신한 이미지 데이터의 일치율이 일정수준 이상이거나, 업로드 금지 객체를 포함하는 이미지를 유해 컨텐츠로 판단할 수 있다. 또한, 실시예에서는 인공신경망에 수신한 이미지 데이터를 입력하면, 입력한 이미지 데이터에 대한 유해도를 산출하고, 설정된 임계 유해도를 기준으로 입력된 이미지 데이터를 안전(safe) 컨텐츠 또는 유해(unsafe)컨텐츠로 분류할 수 있다.The harmful content determination module 220 analyzes the received image data based on artificial intelligence and determines whether each image data contains harmful content. In the embodiment, the harmful content determination module 220 learns to determine harmful content through an open dataset, builds image data of blocked harmful content, and uses it as learning data for judging harmful content. In an embodiment, the harmful content determination module 220 may determine that an image that has a matching rate between the collected harmful content data and the received image data is above a certain level or that includes a prohibited upload object is harmful content. In addition, in the embodiment, when received image data is input to the artificial neural network, the harmfulness of the input image data is calculated, and the input image data is classified as safe content or unsafe based on the set threshold harmfulness. It can be classified by content.

실시예에서 유해 컨텐츠 판단모듈(220)은 오픈 데이터셋(Open Dataset)인 NudeNet Classifier dataset v1을 사용해서 유해 컨텐츠 판단 학습을 진행할 수 있다. 실시예에서는 컨볼루션 신경망(Convolutional Neural Network) 기반의 이진 분류(Binary Classification)을 수행하는 인공지능을 구현하여, 데이터셋에서 안전(safe) 또는 유해(unsafe)의 두 가지 분류로 이미지에 대한 추론을 하는 인공지능을 구현한다. 실시예에서는 인공신경망에 이미지 데이터를 입력하면, 유해도를 산출하고 산출된 유해도가 설정된 임계 유해도 미만인 경우 안전(safe) 컨텐츠로 분류하고, 산출된 유해도가 설정된 임계 유해도를 초과하는 경우, 유해(unsafe) 컨텐츠로 분류하여 유해 컨텐츠를 필터링 할 수 있다. 또한, 실시예에서는 데이터셋을 기준으로 유해 컨텐츠 판단 유효성(Validation)을 평가하여 평가한 유효성이 일정 비율(예컨대, 93%)이상인 경우 유해 컨텐츠 판단 결과를 인정하도록 한다. 또한, 실시예에서 유해 컨텐츠 판단모듈(220)은 안전 컨텐츠 또는 유해 컨텐츠 둘 중 하나로 컨텐츠를 결정하는 이진 분류(Binary Classification) 모델링 을 수행하기 위해 로지스틱 회귀(Logistic Regression) 등의 알고리즘을 이용할 수 있다.In the embodiment, the harmful content determination module 220 may learn to determine harmful content using the NudeNet Classifier dataset v1, which is an open dataset. In the embodiment, artificial intelligence that performs binary classification based on a convolutional neural network is implemented to make inferences about images in the dataset into two classifications: safe or unsafe. Implement artificial intelligence that In an embodiment, when image data is input to an artificial neural network, the harmfulness is calculated, and if the calculated harmfulness is less than the set critical harmfulness, it is classified as safe content. If the calculated harmfulness exceeds the set critical harmfulness, it is classified as safe content. , you can filter harmful content by classifying it as unsafe content. In addition, in the embodiment, the validity of the determination of harmful content is evaluated based on the data set, and if the evaluated validity is higher than a certain percentage (e.g., 93%), the result of the determination of harmful content is recognized. Additionally, in the embodiment, the harmful content determination module 220 may use an algorithm such as logistic regression to perform binary classification modeling that determines the content as either safe content or harmful content.

대체 컨텐츠 생성 모듈(230)은 유해 컨텐츠로 판단된 이미지 데이터를 대체하는 검열 이미지를 생성한다. 컨텐츠 송신모듈(240)은 생성된 검열 이미지를 외부 서버로 전송하고, 유해한 이미지를 검열 이미지로 교체한다. 실시예에서 컨텐츠 송신모듈(240)은 유해한 이미지를 검열 이미지로 교체하는 일정 시간 동안 외부 서버로부터 접근 및 업로드 권한을 인증과정을 통해 부여받아 검열된 이미지를 외부 서버에서 운영하는 웹에 업로드 할 수 있다. The replacement content creation module 230 generates a censored image that replaces image data determined to be harmful content. The content transmission module 240 transmits the generated censored image to an external server and replaces the harmful image with the censored image. In the embodiment, the content transmission module 240 is granted access and upload permission from an external server through an authentication process for a certain period of time to replace harmful images with censored images, and can upload the censored images to the web operated by the external server. .

이하에서는 실시예에 따른 유해 컨텐츠 필터링 방법에 대해서 차례로 설명한다. 실시예에 따른 유해 컨텐츠 필터링 방법의 작용(기능)은 유해 컨텐츠 필터링 시스템의 기능과 본질적으로 같은 것이므로 도 1 내지 도 3과 중복되는 설명은 생략하도록 한다. Hereinafter, methods for filtering harmful content according to embodiments will be sequentially described. Since the operation (function) of the harmful content filtering method according to the embodiment is essentially the same as the function of the harmful content filtering system, descriptions overlapping with FIGS. 1 to 3 will be omitted.

도 4는 실시예에 따른 유해 컨텐츠 필터링 서버의 데이터 처리 과정을 나타낸 흐름도이다.Figure 4 is a flowchart showing the data processing process of the harmful content filtering server according to an embodiment.

도 4를 참조하면, 실시예에서는 S10 단계에서 SNS 서버를 포함하는 외부 서버인 웹사이트에 로드 한다. S20 단계에서 수신 모듈은 외부 서버에 업로드된 이미지 및 업로드 예정 이미지 데이터를 수신한다. S30 단계에서 유해 컨텐츠 판단 모듈은 수신한 이미지를 인공신경망에 입력하여 S40 단계에서 이미지 각각이 유해한 이미지인지 파악한다. 유해한 이미지로 판단된 경우 S50 단계로 진입하여 검열 이미지를 생성하고, S60 단계에서는 검열 이미지를 서버에서 반환(turnaround)한다. S70 단계에서는 컨텐츠 송신 모듈에서 유해한 이미지를 검열 이미지로 교체한다.Referring to FIG. 4, in the embodiment, the website is loaded on an external server including an SNS server in step S10. In step S20, the receiving module receives image data uploaded to an external server and image data to be uploaded. In step S30, the harmful content determination module inputs the received images into an artificial neural network and determines whether each image is harmful in step S40. If it is determined to be a harmful image, step S50 is entered to create a censored image, and in step S60, the censored image is returned (turnaround) from the server. In step S70, harmful images are replaced with censored images in the content transmission module.

실시예에 따른 인공지능을 이용한 유해 컨텐츠 필터링 시스템 및 방법은 인공지능을 통해 업로드 되는 컨텐츠의 유해 여부를 인공지능을 통해 판단하고, 유해 컨텐츠로 판단되는 경우, 검열된 이미지로 원본 이미지를 교체하여 클라이언트 서버에 유해 컨텐츠가 업로드 되는 것을 막을 수 있다. 또한, 실시예에서는 오픈 데이터셋(Open Dataset)을 통해 유해 컨텐츠 판단 학습을 진행하고, 이진 분류(Binary Classification) 인공지능 시스템을 구현하고, 차단된 유해 컨텐츠의 이미지 데이터를 구축하여 인공지능 성능을 개선한다. The harmful content filtering system and method using artificial intelligence according to the embodiment determines whether the content uploaded through artificial intelligence is harmful through artificial intelligence, and if it is determined to be harmful content, replaces the original image with a censored image to You can prevent harmful content from being uploaded to the server. In addition, in the embodiment, learning to determine harmful content is conducted through an open dataset, implementing a binary classification artificial intelligence system, and improving artificial intelligence performance by constructing image data of blocked harmful content. do.

이상에서와 같은 인공지능을 이용한 유해 컨텐츠 필터링 시스템 및 방법은 유해 컨텐츠를 판별하고 유해 컨텐츠의 업로드를 막아 스마트 단말을 이용하는 청소년들이 유해 컨텐츠에 노출되는 것을 방지한다. 또한, 소셜 네트워크 서비스 서버를 포함하는 클라이언트 서버는 유해 컨텐츠 업로드를 사전에 방지하여 건전한 웹 환경을 제공할 수 있다. The harmful content filtering system and method using artificial intelligence as described above determines harmful content and prevents the upload of harmful content, thereby preventing youth using smart devices from being exposed to harmful content. Additionally, a client server including a social network service server can provide a healthy web environment by preventing the upload of harmful content in advance.

또한, 실시예에 따른 인공지능을 이용한 유해 컨텐츠 필터링 시스템은 외부 컴퓨팅 환경이 적용이 쉬운 구조로 다양한 광고 차단 앱, VPN 서비스 등의 플랫폼 환경에 응용 가능하다. 또한, API를 공개하여, 개발자들이 쉽게 사용할 수 있도록 하고, 차단된 이미지 데이터를 구축하여 인공지능 성능 개선함으로써 유해 컨텐츠 판별 정확도를 향상시킬 수 있다.In addition, the harmful content filtering system using artificial intelligence according to the embodiment has a structure that is easy to apply to external computing environments and can be applied to platform environments such as various ad blocking apps and VPN services. In addition, the API can be made public so that developers can use it easily, and the accuracy of identifying harmful content can be improved by improving artificial intelligence performance by building blocked image data.

개시된 내용은 예시에 불과하며, 특허청구범위에서 청구하는 청구의 요지를 벗어나지 않고 당해 기술분야에서 통상의 지식을 가진 자에 의하여 다양하게 변경 실시될 수 있으므로, 개시된 내용의 보호범위는 상술한 특정의 실시예에 한정되지 않는다.The disclosed content is merely an example, and various modifications and implementations may be made by those skilled in the art without departing from the gist of the claims, so the scope of protection of the disclosed content is limited to the above-mentioned specific scope. It is not limited to the examples.

Claims (5)

인공지능을 이용한 유해 컨텐츠 필터링 시스템에 있어서,
업로드 예정 컨텐츠 및 업로드된 컨텐츠를 전송하는 클라이언트 서버;
상기 클라이언트 서버로부터 컨텐츠를 수신하여, 업로드 예정 컨텐츠 및 업로드된 컨텐츠가 유해 컨텐츠인지 판별하고, 판별된 유해 컨텐츠 정보와 유해 컨텐츠의 대체 컨텐츠인 검열 이미지를 전송하는 유해 컨텐츠 필터링 서버; 를 포함하는 인공지능을 이용한 유해 컨텐츠 필터링 시스템.
In a harmful content filtering system using artificial intelligence,
A client server that transmits the content to be uploaded and the uploaded content;
a harmful content filtering server that receives content from the client server, determines whether the content to be uploaded and the uploaded content is harmful content, and transmits the determined harmful content information and a censored image that is replacement content for the harmful content; A harmful content filtering system using artificial intelligence that includes.
 제1항에 있어서, 상기 유해 컨텐츠 필터링 서버; 는
클라이언트 서버로부터 업로드된 이미지 데이터 및 업로드 예정인 이미지 데이터를 수신하는 컨텐츠 수신모듈;
상기 수신한 이미지 데이터를 인공지능 기반으로 분석하여 이미지 데이터 각각의 유해 컨텐츠 여부를 판단하는 유해 컨텐츠 판단 모듈;
유해 컨텐츠로 판단된 이미지 데이터를 대체하는 검열 이미지를 생성하는 대체 컨텐츠 생성 모듈; 및
상기 생성된 검열 이미지를 상기 외부서버로 전송하고, 유해한 이미지를 검열 이미지로 교체하는 컨텐츠 송신 모듈; 을 포함하는 것을 특징으로 하는 인공지능을 이용한 유해 컨텐츠 필터링 시스템. The system of claim 1, further comprising: the harmful content filtering server; Is
A content receiving module that receives uploaded image data and image data to be uploaded from a client server;
a harmful content determination module that analyzes the received image data based on artificial intelligence to determine whether each image data is harmful content;
A replacement content creation module that generates censored images to replace image data determined to be harmful content; and
a content transmission module that transmits the generated censored image to the external server and replaces the harmful image with the censored image; A harmful content filtering system using artificial intelligence, characterized in that it includes. 제2항에 있어서, 상기 유해 컨텐츠 판단 모듈; 은
오픈 데이터셋(Open Dataset)을 통해 유해 컨텐츠 판단 학습을 진행하고 차단된 유해 컨텐츠의 이미지 데이터를 구축하여 유해 컨텐츠 판단 학습 데이터로 이용하는 것을 특징으로 하는 인공지능을 이용한 유해 컨텐츠 필터링 시스템.
The system of claim 2, further comprising: the harmful content determination module; silver
A harmful content filtering system using artificial intelligence that learns to determine harmful content through an open dataset, builds image data of blocked harmful content, and uses it as learning data to determine harmful content.
 제2항에 있어서, 상기 유해 컨텐츠 판단 모듈; 은
수집된 유해 컨텐츠 데이터와 수신한 이미지 데이터의 일치율이 일정수준 이상이거나, 업로드 금지 객체를 포함하는 이미지를 유해 컨텐츠로 판단하는 것을 특징으로 하는 인공지능을 이용한 유해 컨텐츠 필터링 시스템.
The system of claim 2, further comprising: the harmful content determination module; silver
A harmful content filtering system using artificial intelligence, characterized in that images that have a matching rate between collected harmful content data and received image data above a certain level or that contain upload-prohibited objects are judged to be harmful content.
 제4항에 있어서, 사익 유해 컨텐츠 판단 모듈; 은
인공신경망에 수신한 이미지 데이터를 입력하면, 입력한 이미지 데이터에 대한 유해도를 산출하고, 설정된 임계 유해도를 기준으로 입력된 이미지 데이터를 안전(safe) 컨텐츠 또는 유해(unsafe)컨텐츠로 분류하는 것을 특징으로 하는 인공지능을 이용한 유해 컨텐츠 필터링 시스템.
According to claim 4, a self-interest harmful content judgment module; silver
When the received image data is input into the artificial neural network, the harmfulness level of the input image data is calculated and the input image data is classified as safe content or unsafe content based on the set threshold harmfulness level. A harmful content filtering system using artificial intelligence.
KR1020220033258A 2022-03-17 2022-03-17 Harmful content filtering system and method using artificial intelligence Active KR102763073B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020220033258A KR102763073B1 (en) 2022-03-17 2022-03-17 Harmful content filtering system and method using artificial intelligence

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020220033258A KR102763073B1 (en) 2022-03-17 2022-03-17 Harmful content filtering system and method using artificial intelligence

Publications (2)

Publication Number Publication Date
KR20230135815A true KR20230135815A (en) 2023-09-26
KR102763073B1 KR102763073B1 (en) 2025-02-05

Family

ID=88191095

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020220033258A Active KR102763073B1 (en) 2022-03-17 2022-03-17 Harmful content filtering system and method using artificial intelligence

Country Status (1)

Country Link
KR (1) KR102763073B1 (en)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102725771B1 (en) * 2023-10-30 2024-11-04 플리트소프트 주식회사 Method for training an artificial intelligence-based controversial content inspection device
KR102779934B1 (en) * 2024-04-15 2025-03-12 (주)노웨어소프트 Method and device for blocking harmful content through artificial intelligence algorithm

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20090057596A (en) * 2007-12-03 2009-06-08 에스케이 텔레콤주식회사 Video segmentation system and method
KR20100034782A (en) * 2008-09-25 2010-04-02 고려대학교 산학협력단 System and method for detecting pornographic contents
KR101711833B1 (en) 2017-01-22 2017-03-13 주식회사 이노솔루텍 Analyzing and blocking system of harmful multi-media contents
JP2019079493A (en) * 2017-10-18 2019-05-23 エーオー カスペルスキー ラボＡＯ Ｋａｓｐｅｒｓｋｙ Ｌａｂ System and method for detecting malicious files using machine learning
KR102154925B1 (en) * 2019-03-18 2020-09-10 정찬영 System for inspection of noxious image
KR102189482B1 (en) * 2020-06-29 2020-12-11 김태주 Apparatus and method for filtering harmful video file
KR102259730B1 (en) 2019-10-31 2021-06-02 김민석 Apparatus for blocking harmful contents based on artificial intelligence
KR20210133411A (en) * 2020-04-29 2021-11-08 한국전자통신연구원 Method for Detecting Harmful Streaming Video in Smart Device, Smart Device and Terminal for Machine Learning

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20090057596A (en) * 2007-12-03 2009-06-08 에스케이 텔레콤주식회사 Video segmentation system and method
KR20100034782A (en) * 2008-09-25 2010-04-02 고려대학교 산학협력단 System and method for detecting pornographic contents
KR101711833B1 (en) 2017-01-22 2017-03-13 주식회사 이노솔루텍 Analyzing and blocking system of harmful multi-media contents
JP2019079493A (en) * 2017-10-18 2019-05-23 エーオー カスペルスキー ラボＡＯ Ｋａｓｐｅｒｓｋｙ Ｌａｂ System and method for detecting malicious files using machine learning
KR102154925B1 (en) * 2019-03-18 2020-09-10 정찬영 System for inspection of noxious image
KR102259730B1 (en) 2019-10-31 2021-06-02 김민석 Apparatus for blocking harmful contents based on artificial intelligence
KR20210133411A (en) * 2020-04-29 2021-11-08 한국전자통신연구원 Method for Detecting Harmful Streaming Video in Smart Device, Smart Device and Terminal for Machine Learning
KR102189482B1 (en) * 2020-06-29 2020-12-11 김태주 Apparatus and method for filtering harmful video file

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102725771B1 (en) * 2023-10-30 2024-11-04 플리트소프트 주식회사 Method for training an artificial intelligence-based controversial content inspection device
KR102779934B1 (en) * 2024-04-15 2025-03-12 (주)노웨어소프트 Method and device for blocking harmful content through artificial intelligence algorithm

Also Published As

Publication number Publication date
KR102763073B1 (en) 2025-02-05

Similar Documents

Publication Publication Date Title
Humbert et al. A survey on interdependent privacy
US10511562B2 (en) Classifying social entities and applying unique policies on social entities based on crowd-sourced data
Fire et al. Online social networks: threats and solutions
US11170288B2 (en) Systems and methods for predicting qualitative ratings for advertisements based on machine learning
Bilogrevic et al. Adaptive information-sharing for privacy-aware mobile social networks
Chabridon et al. A survey on addressing privacy together with quality of context for context management in the Internet of Things
Abdelghani et al. Trust evaluation model for attack detection in social internet of things
Lee et al. Confident privacy decision-making in IoT environments
KR101783339B1 (en) Maintaining a limited user profile for social networking system users unable to establish a user profile
KR20230135815A (en) Harmful content filtering system and method using artificial intelligence
Rani et al. Technology and gender violence: Victimization model, consequences and measures
Ferretti et al. H2O: secure interactions in IoT via behavioral fingerprinting
Kim et al. Where do migrants and natives belong in a community: a Twitter case study and privacy risk analysis
Veale Rights for Those Who Unwillingly, Unknowingly and Unidentifiably Compute
Franco et al. Can messaging applications prevent sexting abuse? A technology analysis
Rafique et al. Navigating ethical challenges in 6G-enabled smart cities: privacy, equity, and governance
Zwitter The network effect on ethics in the big data age
Sargsyan The privacy role of information intermediaries through self-regulation
Satija et al. Detecting malicious twitter bots using machine learning
Tanas et al. When users become sensors: can we trust their readings?
Park et al. Novel assessment method for accessing private data in social network security services
Michalitsi-Psarrou et al. Complementing Amber Alert: Increasing the social sensors' effectiveness through focused communication channels
Hung et al. A Study of children facial recognition for privacy in smart TV
Lalasz Risky behaviors in Yellowstone National Park: The potential role of decision-making and justice on visitors’ behavior
Pandit Proposals for resolving consenting issues with signals and user-side dialogues

Legal Events

Date Code Title Description
PA0109 Patent application

St.27 status event code: A-0-1-A10-A12-nap-PA0109

PA0201 Request for examination

St.27 status event code: A-1-2-D10-D11-exm-PA0201

P11-X000 Amendment of application requested

St.27 status event code: A-2-2-P10-P11-nap-X000

P13-X000 Application amended

St.27 status event code: A-2-2-P10-P13-nap-X000

R18-X000 Changes to party contact information recorded

St.27 status event code: A-3-3-R10-R18-oth-X000

R18-X000 Changes to party contact information recorded

St.27 status event code: A-3-3-R10-R18-oth-X000

D13-X000 Search requested

St.27 status event code: A-1-2-D10-D13-srh-X000

D14-X000 Search report completed

St.27 status event code: A-1-2-D10-D14-srh-X000

PG1501 Laying open of application

St.27 status event code: A-1-1-Q10-Q12-nap-PG1501

R18-X000 Changes to party contact information recorded

St.27 status event code: A-3-3-R10-R18-oth-X000

R18-X000 Changes to party contact information recorded

St.27 status event code: A-3-3-R10-R18-oth-X000

E902 Notification of reason for refusal
PE0902 Notice of grounds for rejection

St.27 status event code: A-1-2-D10-D21-exm-PE0902

E13-X000 Pre-grant limitation requested

St.27 status event code: A-2-3-E10-E13-lim-X000

P11-X000 Amendment of application requested

St.27 status event code: A-2-2-P10-P11-nap-X000

P13-X000 Application amended

St.27 status event code: A-2-2-P10-P13-nap-X000

P22-X000 Classification modified

St.27 status event code: A-2-2-P10-P22-nap-X000

R18-X000 Changes to party contact information recorded

St.27 status event code: A-3-3-R10-R18-oth-X000

E701 Decision to grant or registration of patent right
PE0701 Decision of registration

St.27 status event code: A-1-2-D10-D22-exm-PE0701

PG1601 Publication of registration

St.27 status event code: A-4-4-Q10-Q13-nap-PG1601

R18-X000 Changes to party contact information recorded

St.27 status event code: A-5-5-R10-R18-oth-X000

P14 Amendment of ip right document requested

Free format text: ST27 STATUS EVENT CODE: A-5-5-P10-P14-NAP-X000 (AS PROVIDED BY THE NATIONAL OFFICE)

P14-X000 Amendment of ip right document requested

St.27 status event code: A-5-5-P10-P14-nap-X000