KR102517444B1 - Apparatus and method for intra mode prediction of multi view or multi layer video - Google Patents
Apparatus and method for intra mode prediction of multi view or multi layer video Download PDFInfo
- Publication number
- KR102517444B1 KR102517444B1 KR1020200162489A KR20200162489A KR102517444B1 KR 102517444 B1 KR102517444 B1 KR 102517444B1 KR 1020200162489 A KR1020200162489 A KR 1020200162489A KR 20200162489 A KR20200162489 A KR 20200162489A KR 102517444 B1 KR102517444 B1 KR 102517444B1
- Authority
- KR
- South Korea
- Prior art keywords
- current block
- intra
- mpm
- mode
- block
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
- H04N19/593—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial prediction techniques
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
- H04N19/103—Selection of coding mode or of prediction mode
- H04N19/11—Selection of coding mode or of prediction mode among a plurality of spatial predictive coding modes
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
- H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
- H04N19/176—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/30—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
- H04N19/597—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding specially adapted for multi-view video sequence encoding
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
Abstract
본 발명은 영상 부호화 및 복호화를 위한 인트라 예측 장치 및 방법에 관한 것으로 다 시점 또는 다 계층 영상에서 현재 블록의 인트라 예측을 위해 현재 블록의 인근 블록뿐 아니라 다른 시점 또는 다른 계층의 동일 위치 블록을 이용하여 인트라 예측을 함으로써 인트라 예측의 정확성을 높여 전체 영상 부호화 효율을 높일 수 있는 효과가 있다.The present invention relates to an intra prediction apparatus and method for image encoding and decoding, and for intra prediction of a current block in a multi-view or multi-layer image, using not only blocks adjacent to the current block but also co-located blocks of different views or layers. By performing intra prediction, there is an effect of increasing the overall image encoding efficiency by increasing the accuracy of intra prediction.
Description
본 발명은 영상 부호화에 관한 것으로 특히 인트라 모드 예측의 효율을 높이기 위한 기술에 관한 것이다.The present invention relates to video encoding, and more particularly, to a technique for increasing the efficiency of intra mode prediction.
영상 데이터는 일반적으로 용량이 크기 때문에 저장이나 전송을 위해 부호화가 필요하다. 화면 내 예측(Intra Prediction)이나 화면 간 예측(Inter Prediction)은 이러한 부호화의 예들이다.Since video data is generally large in capacity, encoding is required for storage or transmission. Intra prediction or inter prediction are examples of such encoding.
화면 간 예측은 시간적으로 현재 화면의 전 후 화면을 참조하여 현재 화면을 예측하는 부호화 방법이다.Inter-picture prediction is an encoding method of predicting a current picture by referring to pictures before and after the current picture temporally.
화면 내 예측은 동일한 시간의 현재 화면에서 이미 부호화된 공간적인 주변 정보를 참조 샘플로 이용하여 현재 부호화하려는 블록의 화소들을 예측하고 원본 값과 예측 값의 차이를 부호화함으로써 부호화 효율을 높이는 방법이다.Intra-prediction is a method of increasing encoding efficiency by predicting pixels of a block to be currently encoded using spatial neighboring information already encoded in the current screen at the same time as a reference sample and encoding the difference between the original value and the predicted value.
화면 내 예측은 화면 간 예측에 비해 참조할 수 있는 정보의 양이 적기 때문에 화면 내 예측은 일반적으로 화면 간 예측에 비해 일반적으로 낮은 부호화 성능을 가진다.Intra-prediction generally has lower coding performance than inter-prediction because intra-prediction has a smaller amount of information that can be referred to than inter-prediction.
본 발명의 발명자들은 이러한 종래 기술의 화면 내 예측의 한계를 극복하기 위해 연구 노력해 왔다. 다 시점 혹은 다 계층 비디오에서 현재 화면뿐 아니라 다른 시점 혹은 다른 계층의 인트라 모드 정보를 이용하는 화면 내(인트라) 모드 예측 방법 및 그 장치를 완성하기 위해 많은 노력 끝에 본 발명을 완성하기에 이르렀다.The inventors of the present invention have made efforts to overcome the limitations of intra-screen prediction in the prior art. The present invention has been completed after much effort to complete an intra-screen (intra) mode prediction method and device using not only the current screen but also intra-mode information of other views or layers in a multi-view or multi-layer video.
본 발명은 다 시점 혹은 다 계층 비디오에서 화면 내 예측 시 이미 부호화가 완료된 다른 시점 혹은 다른 계층의 인트라 모드 정보를 이용하여 현재 블록의 부호화를 위한 최적 인트라 모드를 결정하는 장치 및 그 방법을 제공하는 것을 목적으로 한다.The present invention provides an apparatus and method for determining an optimal intra mode for encoding of a current block by using intra mode information of another view or layer in which encoding has already been completed during intra prediction in a multi-view or multi-layer video. The purpose.
한편, 본 발명의 명시되지 않은 또 다른 목적들은 하기의 상세한 설명 및 그 효과로부터 용이하게 추론 할 수 있는 범위 내에서 추가적으로 고려될 것이다.Meanwhile, other unspecified objects of the present invention will be additionally considered within the scope that can be easily inferred from the following detailed description and effects thereof.
삭제delete
삭제delete
삭제delete
삭제delete
삭제delete
삭제delete
삭제delete
본 발명은, 다 시점(View) 또는 다 계층(Layer) 영상을 부호화 하기 위한 인트라(Intra) 예측 장치에 있어서, 부호화 하려는 현재 블록과 동일 시점 또는 동일 계층에 위치하며 상기 현재 블록과 인접한 인접 블록들과, 상기 현재 블록과 다른 시점 또는 다른 계층에 위치하며 상기 현재 블록과 동일한 위치 좌표에 위치하는 블록들중에서 인트라 모드에 의해 MPM(Most Probable Mode)을 선정하는 MPM 선정부와, 상기 MPM을 기반으로 상기 현재 블록의 인트라 모드를 예측하는 인트라 모드 예측부를 포함하고, 상기 MPM 선정부는, 상기 현재 블록과 다른 복수의 시점 또는 계층에 위치하며 상기 현재 블록과 동일한 위치 좌표에 위치하고 인트라 모드가 방향성 모드이고 부호화가 완료된 블록들 중 상기 현재 블록과 가장 가까운 시점 또는 계층의 블록을 MPM 리스트로 선정하는 것을 특징으로 하는 영상 부호화를 위한 인트라 예측 장치를 제공한다.
또한, 본 발명은, 다 시점 또는 다 계층 영상 부호화를 위한 인트라 예측 방법에 있어서, 부호화 하려는 현재 블록과 동일 시점 또는 동일 계층에 위치하며 상기 현재 블록과 인접한 인접 블록들과, 상기 현재 블록과 다른 시점 또는 다른 계층에 위치하며 상기 현재 블록과 동일한 위치 좌표에 위치하는 블록들 중에서 인트라 모드에 의해 MPM을 선정하는 단계와, 상기 MPM을 기반으로 상기 현재 블록의 인트라 모드를 예측하는 단계;를 포함하고, 상기 MPM을 선정하는 단계는, 상기 현재 블록과 다른 복수의 시점 또는 계층에 위치하며 상기 현재 블록과 동일한 위치 좌표에 위치하고 인트라 모드가 방향성 모드이고 부호화가 완료된 블록들 중 상기 현재 블록과 가장 가까운 시점 또는 계층의 블록을 MPM 리스트로 선정하는 단계인 것을 특징으로 하는 영상 부호화를 위한 인트라 예측 장치를 제공한다.
또한, 본 발명은, 다 시점 또는 다 계층 영상을 복호화 하기 위한 인트라 예측 장치에 있어서, 복호화 하려는 현재 블록과 동일 시점 또는 동일 계층에 위치하며 상기 현재 블록과 인접한 인접 블록들과, 상기 현재 블록과 다른 시점 또는 다른 계층에 위치하며 상기 현재 블록과 동일한 위치 좌표에 위치하는 블록들 중에서 인트라 모드에 의해 MPM을 선정하는 MPM 선정부와, 상기 선정된 MPM을 기반으로 상기 현재 블록을 인트라 예측하는 인트라 예측부;를 포함하고, 상기 MPM 선정부는, 상기 현재 블록과 다른 복수의 시점 또는 계층에 위치하며 상기 현재 블록과 동일한 위치 좌표에 위치하고 인트라 모드가 방향성 모드이고 부호화가 완료된 블록들 중 상기 현재 블록과 가장 가까운 시점 또는 계층의 블록을 MPM 리스트로 선정하는 것을 특징으로 하는 영상 복호화를 위한 인트라 예측 장치를 제공한다.
또한, 본 발명은, 다 시점 또는 다 계층 영상을 복호화 하기 위한 인트라 예측 방법에 있어서, 복호화 하려는 현재 블록과 동일 시점 또는 동일 계층에 위치하며 상기 현재 블록과 인접한 인접 블록들과, 상기 현재 블록과 다른 시점 또는 다른 계층에 위치하며 상기 현재 블록과 동일한 위치 좌표에 위치하는 블록들 중에서 인트라 모드에 의해 MPM을 선정하는 MPM 선정 단계와, 상기 선정된 MPM을 기반으로 상기 현재 블록을 인트라 예측하는 인트라 예측 단계;를 포함하고, 상기 MPM을 선정하는 단계는, 상기 현재 블록과 다른 복수의 시점 또는 계층에 위치하며 상기 현재 블록과 동일한 위치 좌표에 위치하고 인트라 모드가 방향성 모드이고 부호화가 완료된 블록들 중 상기 현재 블록과 가장 가까운 시점 또는 계층의 블록을 MPM 리스트로 선정하는 단계인 것을 특징으로 하는 영상 복호화를 위한 인트라 예측 방법을 제공한다.
상기 현재 블록은 루마(Luma) 블록 또는 크로마(Chroma) 블록인 것을 특징으로 한다.The present invention, in an intra prediction apparatus for encoding a multi-view or multi-layer image, includes adjacent blocks located at the same view or layer as a current block to be encoded and adjacent to the current block. and an MPM selection unit that selects a Most Probable Mode (MPM) by an intra mode among blocks located at a different viewpoint or layer than the current block and located at the same positional coordinates as the current block, and based on the MPM and an intra mode predictor for predicting an intra mode of the current block, wherein the MPM selection unit is located at a plurality of viewpoints or layers different from the current block, is located at the same location coordinates as the current block, and the intra mode is a directional mode and is encoded. Provided is an intra prediction apparatus for video encoding, characterized in that a block of a viewpoint or layer closest to the current block is selected as an MPM list among blocks for which is completed.
In addition, according to the present invention, in an intra prediction method for encoding multi-view or multi-layer images, adjacent blocks located at the same view point or in the same layer as a current block to be encoded and adjacent to the current block, and views different from the current block or selecting an MPM based on an intra mode among blocks located in a different layer and located at the same location coordinates as the current block, and predicting the intra mode of the current block based on the MPM; In the step of selecting the MPM, the MPM is located at a plurality of viewpoints or hierarchies different from the current block, is located at the same position coordinates as the current block, has an intra mode as a directional mode, and among blocks that have been encoded, a viewpoint closest to the current block or An intra prediction apparatus for video encoding is provided, which is a step of selecting a block of a layer as an MPM list.
In addition, according to the present invention, in an intra prediction apparatus for decoding a multi-view or multi-layer image, adjacent blocks located at the same view or the same layer as a current block to be decoded and adjacent to the current block, and different blocks from the current block An MPM selection unit that selects an MPM according to an intra mode among blocks located at a viewpoint or a different layer and located at the same location coordinates as the current block; and an intra prediction unit that intra-predicts the current block based on the selected MPM. ;, wherein the MPM selection unit is located at a plurality of viewpoints or layers different from the current block, is located at the same location coordinates as the current block, has an intra mode as a directional mode, and is closest to the current block among encoded blocks. Provided is an intra prediction apparatus for video decoding, characterized in that a block of a view or a layer is selected from an MPM list.
In addition, according to the present invention, in an intra prediction method for decoding a multi-view or multi-layer image, adjacent blocks located at the same view or the same layer as a current block to be decoded and adjacent to the current block, and different blocks from the current block An MPM selection step of selecting an MPM by an intra mode among blocks located in a viewpoint or another layer and located at the same location coordinates as the current block; and an intra prediction step of intra-predicting the current block based on the selected MPM. and selecting the MPM includes the current block among blocks located at a plurality of viewpoints or layers different from the current block, located at the same location coordinates as the current block, whose intra mode is a directional mode, and whose encoding has been completed. It provides an intra prediction method for video decoding, characterized in that the step of selecting a block of a view or layer closest to the MPM list.
The current block may be a Luma block or a Chroma block.
본 발명에 따르면 다 시점 혹은 다 계층 비디오에서 화면 내 예측 시 이미 부호화가 완료된 다른 시점 혹은 다른 계층의 인트라 모드 정보를 이용하여 현재 블록의 부호화를 위한 최적 인트라 모드를 결정함으로써 영상의 부호화 효율을 높일 수 있는 효과가 있다.According to the present invention, when intra-prediction is performed in a multi-view or multi-layer video, the encoding efficiency of the video can be increased by determining an optimal intra mode for encoding the current block using intra mode information of another view or another layer where encoding has already been completed. There is an effect.
한편, 여기에서 명시적으로 언급되지 않은 효과라 하더라도, 본 발명의 기술적 특징에 의해 기대되는 이하의 명세서에서 기재된 효과 및 그 잠정적인 효과는 본 발명의 명세서에 기재된 것과 같이 취급됨을 첨언한다.On the other hand, even if the effects are not explicitly mentioned here, it is added that the effects described in the following specification expected by the technical features of the present invention and their provisional effects are treated as described in the specification of the present invention.
도 1은 본 발명의 바람직한 어느 실시예에 따른 영상 부호화기의 인트라 모드 예측 장치의 개략적인 구조도이다.
도 2는 HEVC와 VVC의 인트라 부호화 모드를 나타낸다.
도 3은 현재 블록의 주변 블록을 이용한 인트라 모드 예측의 예를 나타낸다.
도 4는 다른 시점 또는 다른 계층의 현재 블록과 동일한 블록을 이용한 인트라 모드 예측의 예를 나타낸다.
도 5는 본 발명의 바람직한 다른 실시예에 따른 영상 부호화의 인트라 모드 예측 방법의 개략적인 흐름도이다.
도 6은 본 발명의 바람직한 또 다른 실시예에 따른 영상 복호화기의 인트라 예측 장치의 개략적인 구조도이다.
도 7은 본 발명의 바람직한 또 다른 실시예에 따른 영상 복호화의 인트라 예측 방법의 개략적인 흐름도이다.
※ 첨부된 도면은 본 발명의 기술사상에 대한 이해를 위하여 참조로서 예시된 것임을 밝히며, 그것에 의해 본 발명의 권리범위가 제한되지는 아니한다1 is a schematic structural diagram of an intra mode predictor of a video encoder according to a preferred embodiment of the present invention.
2 shows intra coding modes of HEVC and VVC.
3 shows an example of intra mode prediction using neighboring blocks of a current block.
4 shows an example of intra mode prediction using the same block as a current block of another view or another layer.
5 is a schematic flowchart of an intra mode prediction method of video encoding according to another preferred embodiment of the present invention.
6 is a schematic structural diagram of an intra prediction device of a video decoder according to another preferred embodiment of the present invention.
7 is a schematic flowchart of an intra prediction method of image decoding according to another preferred embodiment of the present invention.
※ It is revealed that the accompanying drawings are exemplified as references for understanding the technical idea of the present invention, and thereby the scope of the present invention is not limited.
이하, 도면을 참조하여 본 발명의 다양한 실시예가 안내하는 본 발명의 구성과 그 구성으로부터 비롯되는 효과에 대해 살펴본다. 본 발명을 설명함에 있어서 관련된 공지기능에 대하여 이 분야의 기술자에게 자명한 사항으로서 본 발명의 요지를 불필요하게 흐릴 수 있다고 판단되는 경우에는 그 상세한 설명을 생략한다. Hereinafter, with reference to the drawings, look at the configuration of the present invention guided by various embodiments of the present invention and the effects resulting from the configuration. In the description of the present invention, if it is determined that a related known function may unnecessarily obscure the subject matter of the present invention as an obvious matter to those skilled in the art, the detailed description thereof will be omitted.
'제1', '제2' 등의 용어는 다양한 구성요소를 설명하는데 사용될 수 있지만, 상기 구성요소는 위 용어에 의해 한정되어서는 안 된다. 위 용어는 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용될 수 있다. 예를 들어, 본 발명의 권리범위를 벗어나지 않으면서 '제1구성요소'는 '제2구성요소'로 명명될 수 있고, 유사하게 '제2구성요소'도 '제1구성요소'로 명명될 수 있다. 또한, 단수의 표현은 문맥상 명백하게 다르게 표현하지 않는 한, 복수의 표현을 포함한다. 본 발명의 실시예에서 사용되는 용어는 다르게 정의되지 않는 한, 해당 기술분야에서 통상의 지식을 가진 자에게 통상적으로 알려진 의미로 해석될 수 있다.Terms such as 'first' and 'second' may be used to describe various elements, but the elements should not be limited by the above terms. The above terms may only be used for the purpose of distinguishing one component from another. For example, without departing from the scope of the present invention, a 'first element' may be named a 'second element', and similarly, a 'second element' may also be named a 'first element'. can Also, singular expressions include plural expressions unless the context clearly indicates otherwise. Terms used in the embodiments of the present invention may be interpreted as meanings commonly known to those skilled in the art unless otherwise defined.
이하, 도면을 참조하여 본 발명의 다양한 실시예가 안내하는 본 발명의 구성과 그 구성으로부터 비롯되는 효과에 대해 살펴본다.Hereinafter, with reference to the drawings, look at the configuration of the present invention guided by various embodiments of the present invention and the effects resulting from the configuration.
도 1은 본 발명의 바람직한 어느 실시예에 따른 영상 부호화기의 인트라 모드 예측 장치의 개략적인 구조도이다.1 is a schematic structural diagram of an intra mode predictor of a video encoder according to a preferred embodiment of the present invention.
본 발명에 따른 영상 부호화기(1)의 인트라 모드 예측 장치(100)는 MPM 선정부(110) 및 인트라 모드 예측부(120)를 포함한다.The
인트라 예측 부호화는 화면 내 비슷한 경향을 가지는 주변 블록을 이용하여 부호화 하려는 현재 블록을 효과적으로 예측하려는 기술이다.Intra prediction encoding is a technique for effectively predicting a current block to be encoded using neighboring blocks having similar tendencies in a picture.
도 2는 이와 같은 인트라 예측 중 HEVC(High Efficiency Video Coding)와 VVC(Versatile Video Coding) 비디오 압축 표준의 인트라 부호화 모드를 나타낸다.2 illustrates intra coding modes of High Efficiency Video Coding (HEVC) and Versatile Video Coding (VVC) video compression standards among such intra prediction.
도 2의 (a)는 ISO/IEC MPEG-H High efficiency video coding (HEVC) 비디오 압축 표준의 인트라 모드이다. 특별한 프로필에 포함된 ChromaFromLuma(CfL)을 제외하면 33개의 방향성 모드를 포함하여 35개의 모드(0~34)를 지원한다.2(a) is an intra mode of the ISO/IEC MPEG-H High Efficiency Video Coding (HEVC) video compression standard. Excluding ChromaFromLuma (CfL) included in a special profile, 35 modes (0 to 34) including 33 directional modes are supported.
도 2의 (b)는 ISO/IEC MPEG-I Versatile video coding (VVC) 비디오 압축 표준은 65개의 일반 방향성 모드와 20개의 광각 방향성 모드를 포함하여 최대 87개의 부호화 모드를 지원한다. HEVC에 비해 2배 이상 부호화 모드가 증가했다.In (b) of FIG. 2, the ISO/IEC MPEG-I Versatile video coding (VVC) video compression standard supports up to 87 coding modes including 65 normal directional modes and 20 wide-angle directional modes. Compared to HEVC, the number of encoding modes has increased more than twice.
화면 내에서는 일반적으로 현재 블록과 인접한 주변 블록들 사이에 예측 모드가 유사할 가능성이 높다. 따라서 인트라 블록 예측 모드를 부호화 할 때 주변 블록들의 인트라 부호화 모드 정보를 이용하여 최적 모드(MPM: most probable mode)를 선정한 후 현재 블록의 인트라 블록 예측 모드 부호화시 MPM을 활용하여 부호화 모드 값에 대한 비트율을 줄일 수 있다.In a picture, it is generally highly likely that prediction modes are similar between a current block and adjacent blocks. Therefore, when encoding the intra block prediction mode, the optimal mode (MPM: most probable mode) is selected using intra encoding mode information of neighboring blocks, and then, when encoding the intra block prediction mode of the current block, MPM is used to determine the bit rate for the encoding mode value. can reduce
다시 도 1에서 MPM 선정부(110)는 주변 블록들의 모드 정보를 이용하여 MPM을 선정한다.Again in FIG. 1, the
도 3과 도 4는 MPM 선정부(110)에서 MPM을 선정하기 위해 이용하는 주변 블록들의 예를 나타낸다.3 and 4 show examples of neighboring blocks used by the
도 3에서 MPM 선정부(110)는 현재 블록(C)의 주변 블록인 상단 블록(U)과 좌측 블록(L)을 이용한다. HEVC는 인트라 부호화에서 3개의 MPM을 지원하고 VVC는 6개의 MPM을 지원한다.In FIG. 3 , the
MPM 선정부(110)는 현재 블록(C)의 주변 블록인 상단 블록(U)과 좌측 블록(L)을 이용하여 다음 표 1과 같이 MPM 리스트를 구성할 수 있다.The
상단 블록(Above)과 좌측 블록(Left)의 모드를 기준으로 둘 중 더 큰 모드를 Max로, 더 작은 모드를 Min으로 설정하여 6개의 MPM 모드를 설정한다.Based on the modes of the upper block (Above) and the left block (Left), set the larger mode to Max and the smaller mode to Min to set 6 MPM modes.
도 4는 현재 화면 내가 아닌 다른 시점(View) 또는 다른 계층(Layer)의 블록을 이용하여 MPM을 생성하는 예를 나타낸다.4 shows an example of generating an MPM using a block of a different view or layer other than the current screen.
다 시점 비디오(Multi-View Video)는 여러 대의 카메라를 사용하여 동시에 촬영한 영상을 시점을 달리 하여 제공하는 3차원 영상의 하나이다. 일반적인 영상과 달리 한 순간에 둘 이상의 화면(Frame)이 존재할 수 있다.Multi-view video is one of the three-dimensional images that provide images captured simultaneously using multiple cameras from different viewpoints. Unlike general video, two or more frames can exist at a moment.
또한 다 계층 비디오(Multi-Layer Video)는 서로 다른 비디오 데이터를 하나의 비디오로 통합하여 전송하는 기술이다. 다 시점 비디오 또한 다 계층 비디오의 한 예이다.Also, multi-layer video is a technology for integrating and transmitting different video data into one video. Multi-view video is also an example of multi-layer video.
이러한 다 시점 또는 다 계층 비디오에서는 현재 블록의 인접 블록이 아니라 다른 시점 또는 다른 계층의 블록이 현재 블록과 더 유사할 가능성이 있다. 따라서 본 발명의 MPM 선정부(110)는 현재 블록의 인접 블록뿐 아니라 다른 시점 또는 다른 계층의 블록들을 이용하여 인트라 모드 예측의 효율을 높이고자 하는 것이다.In such a multi-view or multi-layer video, there is a possibility that a block of another view or of a different layer is more similar to the current block than a block adjacent to the current block. Therefore, the
도 4의 (a)는 다 시점 또는 다 계층의 비디오가 동일한 시간에 여러 개 포함되어 있는 모습을 나타낸다.(a) of FIG. 4 shows a state in which several multi-view or multi-layer videos are included at the same time.
도 4의 (b)에서 현재 블록(C)과 동일한 위치에 있는 블록들(X', X'')이 도 4의 (a)와 (c)와 같이 다른 시점 또는 다른 계층의 화면에서 존재한다.In (b) of FIG. 4, the blocks (X', X'') located at the same position as the current block (C) exist at different viewpoints or screens of different layers, as shown in (a) and (c) of FIG. 4. .
따라서 MPM 선정부(110)는 이 블록들(X', X'') 중 부호화가 완료된 블록을 이용하여 추가 MPM 리스트를 구성할 수 있다.Accordingly, the
즉, 부호화가 완료된 X' 블록 또는 X'' 블록이 방향성 모드인 경우 표 1의 우선 순위보다 우선하여 MPM 리스트를 다음과 같이 생성할 수 있다.That is, when the coded block X' or block X'' is in the directional mode, the MPM list can be generated as follows, prioritizing the priorities in Table 1.
{Planar, IntraMode(X'), IntraMode(X')-1, IntraMode(X')+1, IntraMode(X')-2, IntraMode(X')+2 }{Planar, IntraMode(X'), IntraMode(X')-1, IntraMode(X')+1, IntraMode(X')-2, IntraMode(X')+2 }
{Planar, IntraMode(X''), IntraMode(X'')-1, IntraMode(X'')+1, IntraMode(X'')-2, IntraMode(X'')+2 },{Planar, IntraMode(X''), IntraMode(X'')-1, IntraMode(X'')+1, IntraMode(X'')-2, IntraMode(X'')+2 },
IntraMode(X'), IntraMode(X'')는 각각 X' 또는 X'' 블록의 인트라 예측 부호화 모드를 나타낸다.IntraMode(X') and IntraMode(X'') represent intra prediction encoding modes of blocks X' or X'', respectively.
다른 시점 또는 다른 계층의 블록을 이용한 위의 MPM 리스트는 표 1과 같은 현재 블록의 좌측 블록과 상단 블록을 사용하여 생성한 리스트보다 우선할 수 있다. The above MPM list using blocks of a different viewpoint or layer may take precedence over a list generated using blocks to the left and upper blocks of the current block as shown in Table 1.
또한 다른 시점 또는 다른 계층의 부호화가 완료된 블록이 여러 개인 경우 현재 블록과 가장 가까운 시점 또는 계층의 블록을 사용하여 MPM 리스트를 생성할 수 있다. In addition, when there are several blocks that have been coded in different views or layers, an MPM list may be generated using blocks of a view or layer closest to the current block.
다만 다른 시점 또는 다른 계층의 블록이 방향성 모드가 아닌 경우 기존의 화면 내 인접 블록들을 이용하는 방법을 사용할 수 있을 것이다.However, when a block of a different viewpoint or layer is not in a directional mode, a method of using adjacent blocks in an existing screen may be used.
인트라 모드 예측부(120)는 MPM 선정부(110)에서 선정한 MPM 리스트의 인트라 모드 정보를 이용하여 현재 블록의 인트라 모드를 예측할 수 있다.The intra mode predictor 120 may predict the intra mode of the current block using intra mode information of the MPM list selected by the
도 5는 본 발명의 바람직한 다른 실시예에 따른 영상 부호화의 인트라 모드 예측 방법의 개략적인 흐름도이다.5 is a schematic flowchart of an intra mode prediction method of video encoding according to another preferred embodiment of the present invention.
다 시점 또는 다 계층 영상 부호화의 인트라 모드 예측을 위해서 우선 MPM을 선정한다(S110).For intra-mode prediction of multi-view or multi-layer video encoding, an MPM is first selected (S110).
MPM 선정 방법은 앞서 설명한 바와 같이 현재 블록의 인접 블록들 뿐 아니라 다른 시점 또는 다른 계층의 블록들을 이용할 수 있다. 구체적으로는 부호화가 완료된 다른 시점 또는 다른 계층의 블록들 중 현재 블록과 동일한 위치에 있는 블록들을 이용하여 MPM 리스트를 생성하는 것이다.As described above, the MPM selection method may use blocks adjacent to the current block as well as blocks of other views or layers. Specifically, the MPM list is generated by using blocks located at the same position as the current block among blocks of another time point when encoding is completed or blocks of another layer.
이 때 부호화가 완료된 다른 시점 또는 다른 계층의 블록의 인트라 모드가 방향성 모드인 경우 다른 시점 또는 다른 계층의 블록을 우선순위로 하여 MPM 리스트를 생성할 수 있다. 다만 이 때 부호화가 완료된 다른 시점 또는 다른 계층의 블록의 인트라 모드가 방향성 모드가 아닌 경우에는 종래 기술과 같이 현재 블록의 인접 블록, 즉, 상단 블록이나 좌측 블록을 이용하여 MPM 리스트를 생성할 수 있다.In this case, when the intra mode of a block of another view or of another layer that has been encoded is a directional mode, an MPM list may be generated by prioritizing blocks of another view or of another layer. However, at this time, when the encoding is completed at another time or when the intra mode of a block of another layer is not a directional mode, an MPM list can be generated using a block adjacent to the current block, that is, an upper block or a left block, as in the prior art. .
MPM 리스트가 생성되면 이를 이용하여 현재 블록의 인트라 모드를 예측한다(S120). When the MPM list is generated, the intra mode of the current block is predicted using it (S120).
이상과 같은 영상 부호화의 인트라 모드 예측 장치 및 방법에 따르면 현재 화면 뿐 아니라 다른 시점 또는 다른 계층의 블록들을 인트라 모드를 예측하는데 사용함으로써 인트라 모드 예측의 정확성을 높일 수 있고 따라서 영상 부호화의 효율을 높일 수 있다.According to the apparatus and method for predicting an intra mode of video encoding as described above, the accuracy of intra mode prediction can be improved and the efficiency of video encoding can be improved by using not only the current screen but also blocks of other views or layers to predict the intra mode. there is.
도 6 및 도 7은 이렇게 부호화된 영상을 복호화 하는 장치 및 방법에 관한 것이다.6 and 7 relate to an apparatus and method for decoding an encoded image.
도 6은 본 발명의 바람직한 또 다른 실시예에 따른 영상 복호화기의 인트라 예측 장치의 개략적인 구조도이다.6 is a schematic structural diagram of an intra prediction device of a video decoder according to another preferred embodiment of the present invention.
다 시점 또는 다 계층 비디오 비트스트림을 영상으로 복호화 하기 위한 영상 복호화기(2)의 인트라 예측 장치(200)는 MPM 선정부(210) 및 인트라 예측부(220)를 포함할 수 있다.The
MPM 선정부(210)는 복호화가 완료된 주변 블록이나 다른 시점 또는 다른 계층의 블록의 인트라 모드를 이용하여 MPM을 선정한다. MPM 리스트를 생성하는 방법은 앞서 설명한 바와 동일하다.The
인트라 예측부(220)는 생성된 MPM 리스트에서 인트라 모드를 결정하고 이에 의해 인트라 예측을 하여 현재 블록을 복호화 한다.The
도 7은 본 발명의 바람직한 또 다른 실시예에 따른 영상 복호화의 인트라 예측 방법의 개략적인 흐름도이다.7 is a schematic flowchart of an intra prediction method of image decoding according to another preferred embodiment of the present invention.
다 시점 또는 다 계층 비디오 비트스트림을 영상으로 복호화 하기 위한 영상 복호화 단계에서 인트라 예측 방법은 MPM 선정단계(S210) 및 인트라 예측 단계(S220)를 포함할 수 있다.In an image decoding step for decoding a multi-view or multi-layer video bitstream into an image, an intra prediction method may include an MPM selection step (S210) and an intra prediction step (S220).
MPM 선정 단계(S210)에서는 복호화가 완료된 주변 블록이나 다른 시점 또는 다른 계층의 블록의 인트라 모드를 이용하여 MPM을 선정한다. MPM 리스트를 생성하는 방법은 앞서 설명한 바와 동일하다.In the MPM selection step (S210), an MPM is selected using an intra mode of a decoded neighboring block or a block of another view or another layer. A method of generating the MPM list is the same as described above.
인트라 예측 단계(S220)에서는 생성된 MPM 리스트에서 인트라 모드를 결정하고 이에 의해 인트라 예측을 하여 현재 블록을 복호화 한다.In the intra prediction step (S220), an intra mode is determined from the generated MPM list, intra prediction is performed thereon, and the current block is decoded.
이상과 같은 다 시점 또는 다 계층 영상의 부호화 또는 복호화를 위한 인트라 모드 예측 장치 및 방법은 다 시점 또는 다 계층 영상의 다른 시점 또는 계층의 블록들을 인트라 모드 예측을 위해 사용함으로써 인트라 모드 예측의 정확성을 높이고 따라서 영상 부호화 효율을 높일 수 있는 장점이 있다.The apparatus and method for intra-mode prediction for encoding or decoding a multi-view or multi-layer image as described above increases the accuracy of intra-mode prediction by using blocks of different views or layers of the multi-view or multi-layer image for intra-mode prediction. Therefore, there is an advantage of increasing image encoding efficiency.
본 발명의 보호범위가 이상에서 명시적으로 설명한 실시예의 기재와 표현에 제한되는 것은 아니다. 또한, 본 발명이 속하는 기술분야에서 자명한 변경이나 치환으로 말미암아 본 발명이 보호범위가 제한될 수도 없음을 다시 한 번 첨언한다.The protection scope of the present invention is not limited to the description and expression of the embodiments explicitly described above. In addition, it is added once again that the scope of protection of the present invention cannot be limited due to obvious changes or substitutions in the technical field to which the present invention belongs.
Claims (8)
부호화 하려는 현재 블록과 동일 시점에 위치하며 상기 현재 블록과 인접한 인접 블록들과, 상기 현재 블록과 다른 시점에 위치하며 상기 현재 블록과 동일한 위치 좌표에 위치하는 블록들 중에서 인트라 모드에 의해 MPM(Most Probable Mode)을 선정하는 MPM 선정부; 및
상기 MPM을 기반으로 상기 현재 블록의 인트라 모드를 예측하는 인트라 모드 예측부;를 포함하고,
상기 MPM 선정부는
상기 현재 블록과 다른 복수의 시점에 위치하며 상기 현재 블록과 동일한 위치 좌표에 위치하고 인트라 모드가 방향성 모드이고 부호화가 완료된 블록들 중 상기 현재 블록과 가장 가까운 시점의 블록을 MPM 리스트로 선정하는 것을 특징으로 하는
영상 부호화를 위한 인트라 예측 장치.
In an intra prediction device for encoding a plurality of multi-view images generated by simultaneously shooting at different viewpoints using multiple cameras:
MPM (Most Probable Mode) MPM selection unit for selecting; and
An intra mode prediction unit predicting an intra mode of the current block based on the MPM;
The MPM selection unit
It is located at a plurality of viewpoints different from the current block, is located at the same location coordinates as the current block, has an intra mode, is a directional mode, and selects a block at a viewpoint closest to the current block among blocks that have been coded as an MPM list. doing
Intra prediction device for video encoding.
부호화 하려는 현재 블록과 동일 시점에 위치하며 상기 현재 블록과 인접한 인접 블록들과, 상기 현재 블록과 다른 시점에 위치하며 상기 현재 블록과 동일한 위치 좌표에 위치하는 블록들 중에서 인트라 모드에 의해 MPM을 선정하는 단계; 및
상기 MPM을 기반으로 상기 현재 블록의 인트라 모드를 예측하는 단계;를 포함하고,
상기 MPM을 선정하는 단계는
상기 현재 블록과 다른 복수의 시점에 위치하며 상기 현재 블록과 동일한 위치 좌표에 위치하고 인트라 모드가 방향성 모드이고 부호화가 완료된 블록들 중 상기 현재 블록과 가장 가까운 시점의 블록을 MPM 리스트로 선정하는 단계인
영상 부호화를 위한 인트라 예측 방법.
In the intra-prediction method for encoding a plurality of multi-view images generated by simultaneously shooting at different viewpoints using multiple cameras:
Selecting an MPM by an intra mode among adjacent blocks located at the same time point as the current block to be encoded and adjacent to the current block, and blocks located at a different time point from the current block and located at the same position coordinates as the current block step; and
Predicting an intra mode of the current block based on the MPM;
The step of selecting the MPM is
Selecting a block of a viewpoint closest to the current block among blocks located at a plurality of viewpoints different from the current block, located at the same position coordinates as the current block, having an intra mode and a directional mode, and having completed encoding, as an MPM list.
Intra prediction method for video encoding.
복호화 하려는 현재 블록과 동일 시점에 위치하며 상기 현재 블록과 인접한 인접 블록들과, 상기 현재 블록과 다른 시점에 위치하며 상기 현재 블록과 동일한 위치 좌표에 위치하는 블록들 중에서 인트라 모드에 의해 MPM을 선정하는 MPM 선정부; 및
상기 선정된 MPM을 기반으로 상기 현재 블록을 인트라 예측하는 인트라 예측부;를 포함하고,
상기 MPM 선정부는
상기 현재 블록과 다른 복수의 시점에 위치하며 상기 현재 블록과 동일한 위치 좌표에 위치하고 인트라 모드가 방향성 모드이고 부호화가 완료된 블록들 중 상기 현재 블록과 가장 가까운 시점의 블록을 MPM 리스트로 선정하는 것을 특징으로 하는
영상 복호화를 위한 인트라 예측 장치.
In the intra-prediction device for decoding a plurality of multi-view images generated by simultaneously photographing at different viewpoints using multiple cameras:
Selecting an MPM by an intra mode among adjacent blocks located at the same time point as the current block to be decoded and adjacent to the current block, and blocks located at a different time point from the current block and located at the same location coordinates as the current block MPM selection department; and
An intra prediction unit for intra predicting the current block based on the selected MPM;
The MPM selection unit
It is located at a plurality of viewpoints different from the current block, is located at the same location coordinates as the current block, has an intra mode, is a directional mode, and selects a block at a viewpoint closest to the current block among blocks that have been coded as an MPM list. doing
Intra prediction device for video decoding.
복호화 하려는 현재 블록과 동일 시점에 위치하며 상기 현재 블록과 인접한 인접 블록들과, 상기 현재 블록과 다른 시점에 위치하며 상기 현재 블록과 동일한 위치 좌표에 위치하는 블록들 중에서 인트라 모드에 의해 MPM을 선정하는 MPM 선정 단계; 및
상기 선정된 MPM을 기반으로 상기 현재 블록을 인트라 예측하는 인트라 예측 단계;를 포함하고,
상기 MPM을 선정하는 단계는
상기 현재 블록과 다른 복수의 시점에 위치하며 상기 현재 블록과 동일한 위치 좌표에 위치하고 인트라 모드가 방향성 모드이고 부호화가 완료된 블록들 중 상기 현재 블록과 가장 가까운 시점의 블록을 MPM 리스트로 선정하는 단계인
영상 복호화를 위한 인트라 예측 방법.
In the intra-prediction method for decoding a plurality of multi-view images generated by simultaneously shooting at different viewpoints using multiple cameras:
Selecting an MPM by an intra mode among adjacent blocks located at the same time point as the current block to be decoded and adjacent to the current block, and blocks located at a different time point from the current block and located at the same location coordinates as the current block MPM selection step; and
Intra-prediction step of intra-predicting the current block based on the selected MPM;
The step of selecting the MPM is
Selecting a block of a viewpoint closest to the current block among blocks located at a plurality of viewpoints different from the current block, located at the same position coordinates as the current block, having an intra mode and a directional mode, and having completed encoding, as an MPM list.
Intra prediction method for video decoding.
상기 현재 블록은 루마(Luma) 블록 또는 크로마(Chroma) 블록인 것을 특징으로 하는, 영상 부호화를 위한 인트라 예측 장치.According to claim 1,
The intra prediction apparatus for video encoding, characterized in that the current block is a luma block or a chroma block.
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| KR1020200162489A KR102517444B1 (en) | 2020-11-27 | 2020-11-27 | Apparatus and method for intra mode prediction of multi view or multi layer video |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| KR1020200162489A KR102517444B1 (en) | 2020-11-27 | 2020-11-27 | Apparatus and method for intra mode prediction of multi view or multi layer video |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| KR20220074232A KR20220074232A (en) | 2022-06-03 |
| KR102517444B1 true KR102517444B1 (en) | 2023-04-03 |
Family
ID=81983291
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| KR1020200162489A Active KR102517444B1 (en) | 2020-11-27 | 2020-11-27 | Apparatus and method for intra mode prediction of multi view or multi layer video |
Country Status (1)
| Country | Link |
|---|---|
| KR (1) | KR102517444B1 (en) |
Family Cites Families (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20150036743A1 (en) * | 2012-02-02 | 2015-02-05 | Electronics And Telecommunications Research Institute | Interlayer prediction method and device for image signal |
| KR102670040B1 (en) * | 2017-01-16 | 2024-05-28 | 세종대학교산학협력단 | Method and apparatus for encoding/decoding a video signal |
-
2020
- 2020-11-27 KR KR1020200162489A patent/KR102517444B1/en active Active
Also Published As
| Publication number | Publication date |
|---|---|
| KR20220074232A (en) | 2022-06-03 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| KR101904625B1 (en) | Signaling for sub-decoded picture buffer (sub-dpb) based dpb operations in video coding | |
| RU2716060C1 (en) | Decoding device and decoding method, and encoding device and encoding method | |
| EP2941876B1 (en) | Multi-resolution decoded picture buffer management for multi-layer coding | |
| US12457334B2 (en) | Encoding and decoding methods and apparatuses for enhancement layer | |
| CN111373749B (en) | Method and apparatus for low complexity bidirectional intra prediction in video encoding and decoding | |
| AU2020352377A1 (en) | Signaling of picture header in video coding | |
| US20070177811A1 (en) | Processing multiview video | |
| KR20220030988A (en) | Reference picture resampling with switchable filters | |
| US20150304670A1 (en) | Method and apparatus for intra mode derivation and coding in scalable video coding | |
| KR20160041841A (en) | Selection of pictures for disparity vector derivation | |
| EP3275179B1 (en) | Device and method for processing video data | |
| KR20210107021A (en) | Block size limit for illuminance compensation | |
| US9961366B2 (en) | Image processing apparatus and method that prohibits bi-prediction based on block size | |
| EP4409882A2 (en) | Improved temporal merge candidates in merge candidate lists in video coding | |
| KR20090075767A (en) | Encoding and decoding method for estimating intra prediction mode using spatial prediction direction of neighboring block, apparatus therefor | |
| CN112567755B (en) | Decoding method, device and system using merging mode | |
| CN114424571A (en) | Encoder, decoder and corresponding methods | |
| EP4397036A1 (en) | Methods and devices for decoder-side intra mode derivation | |
| CN119420901A (en) | Image prediction method, device and computer readable storage medium | |
| WO2023034152A1 (en) | Methods and devices for decoder-side intra mode derivation | |
| KR100987764B1 (en) | Method and apparatus for determining reference data unit for predictive encoding of image data | |
| JP2025521852A (en) | Video image data encoding/decoding | |
| KR102517444B1 (en) | Apparatus and method for intra mode prediction of multi view or multi layer video | |
| WO2023246274A1 (en) | Encoding/decoding video picture data | |
| WO2024077970A1 (en) | Encoding/decoding video picture data |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PA0109 | Patent application |
St.27 status event code: A-0-1-A10-A12-nap-PA0109 |
|
| PA0201 | Request for examination |
St.27 status event code: A-1-2-D10-D11-exm-PA0201 |
|
| PE0902 | Notice of grounds for rejection |
St.27 status event code: A-1-2-D10-D21-exm-PE0902 |
|
| T11-X000 | Administrative time limit extension requested |
St.27 status event code: U-3-3-T10-T11-oth-X000 |
|
| AMND | Amendment | ||
| E13-X000 | Pre-grant limitation requested |
St.27 status event code: A-2-3-E10-E13-lim-X000 |
|
| P11-X000 | Amendment of application requested |
St.27 status event code: A-2-2-P10-P11-nap-X000 |
|
| P13-X000 | Application amended |
St.27 status event code: A-2-2-P10-P13-nap-X000 |
|
| E90F | Notification of reason for final refusal | ||
| PE0902 | Notice of grounds for rejection |
St.27 status event code: A-1-2-D10-D21-exm-PE0902 |
|
| PG1501 | Laying open of application |
St.27 status event code: A-1-1-Q10-Q12-nap-PG1501 |
|
| AMND | Amendment | ||
| P11-X000 | Amendment of application requested |
St.27 status event code: A-2-2-P10-P11-nap-X000 |
|
| E601 | Decision to refuse application | ||
| E801 | Decision on dismissal of amendment | ||
| PE0601 | Decision on rejection of patent |
St.27 status event code: N-2-6-B10-B15-exm-PE0601 |
|
| PE0801 | Dismissal of amendment |
St.27 status event code: A-2-2-P10-P12-nap-PE0801 |
|
| AMND | Amendment | ||
| P11-X000 | Amendment of application requested |
St.27 status event code: A-2-2-P10-P11-nap-X000 |
|
| P13-X000 | Application amended |
St.27 status event code: A-2-2-P10-P13-nap-X000 |
|
| PX0901 | Re-examination |
St.27 status event code: A-2-3-E10-E12-rex-PX0901 |
|
| PN2301 | Change of applicant |
St.27 status event code: A-3-3-R10-R13-asn-PN2301 St.27 status event code: A-3-3-R10-R11-asn-PN2301 |
|
| PX0701 | Decision of registration after re-examination |
St.27 status event code: A-3-4-F10-F13-rex-PX0701 |
|
| X701 | Decision to grant (after re-examination) | ||
| PN2301 | Change of applicant |
St.27 status event code: A-3-3-R10-R13-asn-PN2301 St.27 status event code: A-3-3-R10-R11-asn-PN2301 |
|
| GRNT | Written decision to grant | ||
| PR0701 | Registration of establishment |
St.27 status event code: A-2-4-F10-F11-exm-PR0701 |
|
| PR1002 | Payment of registration fee |
St.27 status event code: A-2-2-U10-U11-oth-PR1002 Fee payment year number: 1 |
|
| PG1601 | Publication of registration |
St.27 status event code: A-4-4-Q10-Q13-nap-PG1601 |
|
| PR1001 | Payment of annual fee |
St.27 status event code: A-4-4-U10-U11-oth-PR1001 Fee payment year number: 4 |
|
| U11 | Full renewal or maintenance fee paid |
Free format text: ST27 STATUS EVENT CODE: A-4-4-U10-U11-OTH-PR1001 (AS PROVIDED BY THE NATIONAL OFFICE) Year of fee payment: 4 |