JP7305878B2 - コーディングブロック又はサブブロック境界でのデブロッキングフィルタリング - Google Patents

Description

本願は、ビデオ符号化及び復号化に関する。

ビデオ圧縮の進歩にかかわらず、デジタルビデオは、インターネット及び他のデジタル通信ネットワーク上での最大のバンド幅使用を占めている。ビデオを受信し表示することができるユーザデバイスの接続数が増えるにつれて、デジタルビデオ利用のためのバンド幅需要は増え続けることが予想される。

デバイス、システム、及び方法は、デジタルビデオ処理に関係があり、具体的には、デブロッキングフィルタのようなインループフィルタリングを使用するビデオ及びイメージ符号化及び復号化に関係がある。

１つの例となる態様において、ビデオ処理の方法が開示される。方法は、ビデオの現在のビデオブロックのサブブロックについて、ルールに従って、デブロッキングフィルタが適用されるべきであるサブブロック境界を決定するステップと、デブロッキングフィルタを用いて、ビデオとビデオのコーディングされた表現との間の変換を実行するステップとを有し、ルールは、ｉ）現在のビデオブロックのサブブロックの位置と予め定義された値との和と、ｉｉ）現在のビデオブロックの幅又は高さとの間の関係をチェックせずに、デブロッキングフィルタ長さが決定されることを定める。

他の例となる態様において、ビデオ処理の他の方法が開示される。方法は、ビデオの現在のビデオブロックとビデオのコーディングされた表現との間の変換のために、ルールに基づき、デブロッキングフィルタが現在のビデオブロックのサブブロック間の境界に適用されるかどうか、及び／又はデブロッキングフィルタが適用される場合に使用されるデブロッキングパラメータに関して決定を行うステップと、決定に基づき変換を実行するステップとを有し、ルールは、境界がサブブロックのＮ×Ｍサンプルグリッドに位置するかどうか、及び／又は境界が現在のビデオブロックの自然境界であるかどうかに基づき、Ｎ及びＭは整数である。

他の例となる態様において、ビデオ処理の他の方法が開示される。方法は、現在のビデオブロックが予測のための複数のサブパーティションに分割されているジオメトリ予測モードでコーディングされた前記現在のビデオブロックのＮ×Ｎサンプルグリッドにデブロッキングフィルタを適用するとの決定を行うステップと、決定に基づき、現在のビデオブロックを含むビデオとビデオのコーディングされた表現との間の変換を実行するステップとを有し、Ｎは４又は８に等しい。

他の例となる態様において、ビデオ処理の他の方法が開示される。方法は、ビデオの現在のビデオブロックのサブブロックについて、ルールに従って、デブロッキングフィルタが適用されるべきサブブロック境界を決定するステップと、デブロッキングフィルタを用いて、ビデオとビデオのコーディングされた表現との間の変換を実行するステップとを有する。

他の例となる態様において、ビデオ処理の他の方法が開示される。方法は、ビデオの現在のビデオブロックとビデオのコーディングされた表現との間の変換のために、ルールに基づきデブロッキングフィルタを用いて現在のビデオブロックのサブブロック境界に適用される境界強さを決定するステップと、決定に基づき変換を実行するステップとを有し、ルールは、サブブロック境界が変換ブロック境界であるかどうかにかかわらず、境界強さが２に等しくセットされることを定める。

他の例となる態様において、ビデオ処理の他の方法が開示される。方法は、ビデオの現在のビデオブロックとビデオのコーディングされた表現との間の変換をルールに従って実行するステップを有し、変換は、符号化中に、現在のビデオブロックを変換ブロック（ＴＢ）にパーティション化し、ＴＢレベル変換をＴＢに適用すること、又は復号化中に、ビデオのコーディングされた表現内のコーディングされたサンプルにＴＢレベル逆変換を適用することを有するサブブロック変換（ＳＢＴ）ツールを使用し、ルールは、水平方向及び／又は垂直方向において少なくとも３つのＴＢ境界にわたって適応フィルタが有効にされることを定める。

他の例となる態様において、ビデオ処理の他の方法が開示される。方法は、ビデオの現在のビデオブロックと前記ビデオのコーディングされた表現との間の変換のために、現在のビデオブロックのエッジの両側にある２つの隣接サンプルが、非ゼロ変換係数レベルを含まない２つの変換ブロックに属する、との第１決定を行うステップと、第１決定に基づき、現在のブロックエッジのデブロッキングフィルタ強さを０とセットするとの第２決定を行うステップと、第１決定及び第２決定を用いて変換を実行するステップとを有する。

他の例となる態様において、ビデオ処理の他の方法が開示される。方法は、ビデオの現在のビデオブロックとビデオのコーディングされた表現との間の変換を、デコーダ側動きベクトル精緻化（ＤＭＶＲ）ツールを用いて実行するステップと、変換の間に生成された再構成されたビデオブロックにデブロッキングフィルタを適用するステップとを有し、ＤＭＶＲツールは、コーディングされた表現内のコーディングされた動きベクトルを精緻化することによって生成された精緻化された動きベクトルを使用する動き補償によって、再構成されたビデオブロックを生成することを含み、デブロッキングフィルタのパラメータは、精緻化された動きベクトルに基づく。

他の例となる態様において、ビデオ処理の他の方法が開示される。方法は、ビデオの現在のビデオブロックとビデオのコーディングされた表現との間の変換のために、ルールに基づき、デブロッキングフィルタプロセスのためのデブロッキングフィルタ強さを決定するステップと、決定に基づき変換を実行するステップとを有し、ルールは、デブロッキングフィルタ強さが、現在のビデオブロックの隣接するブロックの予測モードに依存しないことを定める。

他の例となる態様において、ビデオ処理の他の方法が開示される。方法は、ビデオの現在のビデオブロックとビデオのコーディングされた表現との間の変換のために、デブロッキングフィルタが現在のビデオブロックの境界に適用されるかどうか、及び／又はデブロッキングフィルタが適用される場合に使用されるデブロッキングパラメータを、境界のタイプに依存する又は該タイプとは無関係であるルールに基づき、決定するステップと、決定に基づき変換を実行するステップとを有する。

他の例となる態様において、ビデオ処理の他の方法が開示される。方法は、ビデオのビデオ領域とビデオのコーディングされた表現との間の変換のために、ある方向のデブロッキングフィルタが、水平境界からＮサンプル離れている仮想境界にわたって適用されないと決定するステップと、決定に基づき変換を実行するステップとを有し、Ｎは０よりも大きい整数である。

他の例となる態様において、ビデオ処理の他の方法が開示される。方法は、ビデオのビデオ領域とビデオのコーディングされた表現との間の変換のために、デブロッキングフィルタを使用するデブロッキングプロセス中にサンプルの値をクリップすべきかどうか又はどのようにクリップすべきかを、デブロッキングフィルタによってフィルタリング処理される境界がビデオ領域の水平境界からＮサンプル離れている仮想境界と一致するかどうかに依存するルールに基づき、決定するステップと、決定に基づき変換を実行するステップとを有し、Ｎは０よりも大きい整数である。

他の例となる態様において、ビデオ処理の他の方法が開示される。方法は、ビデオの現在のビデオブロックとビデオのコーディングされた表現との間の変換のために使用されるコーディングツールをルールに従って決定するステップと、コーディングツールに従って変換を実行するステップとを有し、ルールは、サブブロック変換（ＳＴＢ）ツールがサブブロックベースのコーディングモードでのみ使用されることを定める。

他の例となる態様において、ビデオ処理の他の方法が開示される。方法は、イントラサブパーティショニング（ＩＳＰ）モードの使用に従ってサブパーティションに分割される現在のビデオブロックについて、現在のビデオブロックの２つのサブパーティション間の境界にデブロッキングフィルタを適用することを決定するステップと、決定に基づきビデオの現在のビデオブロックとビデオのコーディングされた表現との間の変換を実行するステップとを有する。

他の例となる態様において、ビデオ処理の他の方法が開示される。方法は、現在のビデオブロックがサブパーティションに分割されるジオメトリ予測モードでコーディングされた現在のビデオブロックについて、現在のビデオブロックの２つのＭ×Ｎ領域の間の境界にデブロッキングフィルタを適用することを決定するステップと、決定に基づきビデオの現在のビデオブロックとビデオのコーディングされた表現との間の変換を実行するステップとを有し、Ｍ及びＮは整数である。

他の例となる態様において、ビデオ処理の他の方法が開示される。方法は、ビデオブロックを含むビデオとビデオのコーディングされた表現との間の変換のために、２つの隣接するビデオブロックの少なくとも１つが、２つの隣接するビデオブロックのうちの少なくとも１つがサブパーティションに分割されるジオメトリ予測モードでコーディングされていることにより、２つの隣接するビデオブロックの間の境界にデブロッキングフィルタを適用することを決定するステップと、決定に基づき変換を実行するステップとを有する。

他の例となる態様において、ビデオ処理の他の方法が開示される。方法は、ビデオの現在のビデオブロックとビデオのコーディングされた表現との間の変換のために、ルールに基づき、フィルタリングプロセスで使用されるフィルタリングパラメータを決定するステップと、決定に基づき変換を実行するステップとを有し、ルールは、フィルタリングパラメータが、ｉ）動き補償プロセスで使用される動き情報、ｉｉ）動きストレージに格納されている動き情報、又はｉｉｉ）動きベクトル予測プロセスで使用される動き情報、に依存することを定める。

他の例となる態様において、ビデオ処理の他の方法が開示される。方法は、ビデオとビデオのコーディングされた表現との間の変換を実行するステップを有し、コーディングされた表現は、フォーマッティングルールに従い、フォーマッティングルールは、クロマフォーマット、クロマ成分に関連したコーディングモード、又はクロマ情報シンタックス要素に基づき、クロマ成分を示すクロマシンタックス要素を前記コーディングされた表現に含めるべきかどうかを定める。

更なる他の代表的な態様において、上記の方法は、プロセッサ実行可能コードの形で具現され、コンピュータ可読プログラム媒体に記憶される。

更なる他の代表的な態様において、上記の方法を実行するよう構成され又は動作可能であるデバイスが開示される。デバイスは、この方法を実装するようプログラムされているプロセッサを含み得る。

更なる他の代表的な態様において、ビデオデコーダ装置が、本明細書で記載されている方法を実装してもよい。

開示されている技術の上記及び他の態様及び特徴は、図面、明細書、及び特許請求の範囲で更に詳細に記載される。

ｐ_ｉ，ｋ及びｑ_ｉ，ｋのサンプル位置の例を示す。 ８×８グリッドに対するデブロッキングの例を示す。 ４×Ｎブロック、Ｎ×４ブロック、８×Ｎブロック、及びＮ×８ブロックについての１つのサンプル変更を伴った弱フィルタの例を示す。 仮想境界での変更されたブロック分類の例を示す。 仮想境界でのルーマ成分に対する変更されたＡＬＦフィルタリングの例を示す。 ビデオ処理のためのハードウェアプラットフォームの実施例のブロック図である。 ビデオ処理のためのハードウェアプラットフォームの実施例のブロック図である。 ビデオ処理の方法の例のフローチャートである。 ビデオ処理の方法の例のフローチャートを示す。 ビデオ処理の方法の例のフローチャートを示す。 ビデオ処理の方法の例のフローチャートを示す。 ビデオ処理の方法の例のフローチャートを示す。 ビデオ処理の方法の例のフローチャートを示す。 ビデオ処理の方法の例のフローチャートを示す。 ビデオ処理の方法の例のフローチャートを示す。 ビデオ処理の方法の例のフローチャートを示す。 ビデオ処理の方法の例のフローチャートを示す。 ビデオ処理の方法の例のフローチャートを示す。 ビデオ処理の方法の例のフローチャートを示す。 ビデオ処理の方法の例のフローチャートを示す。 ビデオ処理の方法の例のフローチャートを示す。 ビデオ処理の方法の例のフローチャートを示す。 ビデオ処理の方法の例のフローチャートを示す。 ビデオ処理の方法の例のフローチャートを示す。

開示されている技術の実施形態は、圧縮性能を改善するために既存のビデオコーディング標準規格（例えば、ＨＥＶＣ、Ｈ．２６５）及び将来の標準規格に適用され得る。セクション見出しは、記載の読みやすさを改善するために本明細書で使用されており、開示又は実施形態（及び／又は実施）を各々のセクションにのみ限定するものでは決してない。

［１ 概要］
本明細書は、ビデオコーディング技術に関係がある。具体的に、それは、ビデオコーディングにおけるデブロッキングフィルタ及び関連する技術に関する。それは、ＨＥＶＣのような既存のビデオコーディング標準規格、又は最終合意されるべき標準規格（Ｖｅｒｓａｔｉｌｅ Ｖｉｄｅｏ Ｃｏｄｉｎｇ）に適用され得る。それはまた、将来のビデオ標準規格又はビデオコーデックにも適用可能である。

［２ 最初の議論］
ビデオコーディング標準規格は、よく知られているＩＴＵ－Ｔ及びＩＳＯ／ＩＥＣ標準規格の開発を通じて主に発展してきた。ＩＴＵ－ＴはＨ．２６１及びＨ．２６３を作り出し、ＩＳＯ／ＩＥＣはＭＰＥＧ－１及びＭＰＥＧ－４ Ｖｉｓｕａｌを作り出し、２つの組織は共同でＨ．２６２／ＭＰＥＧ－２ Ｖｉｄｅｏ及びＨ２６４／ＭＰＥＧ－４ Ａｄｖａｎｃｅｄ Ｖｉｄｅｏ Ｃｏｄｉｎｇ（ＡＶＣ）及びＨ．２６５／ＨＥＶＣ標準規格を作り出した。Ｈ．２６２以降、ビデオコーディング標準規格は、時間予測に変換コーディングをプラスしたものが利用されるハイブリッド型ビデオコーディング構造に基づいている。ＨＥＶＣを超える将来のビデオコーディング技術を探求するために、Ｊｏｉｎｔ Ｖｉｄｅｏ Ｅｘｐｌｏｒａｔｉｏｎ Ｔｅａｍ（ＪＶＥＴ）が２０１５年にＶＣＥＧ及びＭＰＥＧによって共同で設立された。それ以降、多くの新しい手法がＪＶＥＴによって採用され、Ｊｏｉｎｔ Ｅｘｐｌｏｒａｔｉｏｎ Ｍｏｄｅｌ（ＪＥＭ）と呼ばれる参照ソフトウェアに置かれてきた。ＪＶＥＴミーティングは、四半期ごとに一度同時に開催され、新しいコーディング標準規格は、ＨＥＶＣと比較して５０％のビットレート低減を目標としている。新しいビデオコーディング標準規格は、２０１８年４月のＪＶＥＴミーティングでＶｅｒｓａｔｉｌｅ Ｖｉｄｅｏ Ｃｏｄｉｎｇ（ＶＶＣ）と正式に名付けられ、ＶＶＣテストモデル（ＶＴＭ）の第１バージョンはその時にリリースされた。ＶＶＣ標準化に貢献する連続的な取り組みがあるために、新しいコーディング技術が、ＪＶＥＴミーティングのたびにＶＶＣ標準規格に採用されている。ＶＶＣ作業ドラフト及びテストモデルＶＴＭは、毎回のミーティング後に更新されている。ＶＶＣプロジェクトは、現在、２０２０年７月のミーティングでの技術的完成を目指している（ＦＤＩＳ）。

［２．１ ＶＶＣにおけるデブロッキングフィルタ］
ＶＴＭ６には全部で３つのインループフィルタがある。デブロッキングフィルタ及びＳＡＯ（ＨＥＶＣにおける２つのループフィルタ）に加えて、適応ループフィルタ（ＡＬＦ）がＶＴＭ５では適用される。ＶＴＭ６におけるフィルタリングプロセスの順序は、デブロッキングフィルタ、ＳＡＯ、及びＡＬＦである。ＶＴＭ６では、デブロッキングフィルタプロセスは、ＨＥＶＣにおけるそれらとほぼ同じである。しかし、次の変更が加えられている。
ａ）再構成されたサンプルの平均ルーマレベルに依存するデブロッキングフィルタのフィルタ強さ
ｂ）デブロッキングｔＣテーブル拡張
ｃ）４×４サンプルグリッドに対するルーマデブロッキング及び８×８サンプルグリッドに対するクロマデブロッキング
ｄ）ルーマに対するより強いデブロッキングフィルタ
ｅ）クロマに対するより強いデブロッキングフィルタ

［２．１．１ 再構成された平均ルーマレベルに依存するフィルタ強さ］
ＨＥＶＣでは、デブロッキングフィルタのフィルタ強さは、平均量子化パラメータｑＰＬから導出される変数β及びｔ_Ｃによって制御される。ＶＴＭ５では、デブロッキングフィルタは、再構成されたサンプルのルーマレベルに従ってオフセットをｑＰ_Ｌに加えることによって、デブロッキングフィルタの強さを制御する。再構成されたルーマレベルＬＬは、次のように導出される：

ＬＬ＝（（ｐ_０，０＋ｐ_０，３＋ｑ_０，０＋ｑ_０，３）＞＞２）／（１＜＜ｂｉｔＤｅｐｔｈ）

ここで、サンプル値ｐ_ｉ，ｋ及びｑ_ｉ，ｋ（ｉ＝０，・・・、３、ｋ＝０及び３）は、図１に示されるように導出される。

変数ｑＰ_Ｌは、次のように導出される：

ｑＰ_Ｌ＝（（Ｑｐ_Ｑ＋Ｑｐ_Ｐ＋１）＞＞１）＋ｑｐＯｆｆｓｅｔ

ここで、Ｑｐ_Ｑ及びＱｐ_Ｐは、サンプルｑ_０，０及びｐ_０，０を夫々含むコーディングユニットの量子化パラメータを表す。オフセットｑｐＯｆｆｓｅｔは伝達関数に依存し、値はＳＰＳにおいて通知される。

［２．１．２ デブロッキングｔＣテーブル拡張］
ＶＶＣでは、最大ＱＰが５１から６３に変更されており、ブロックＱＰに基づきデブロッキングパラメータｔＣの値を導出するよう、対応する変更をデブロッキングテーブルに反映することが望ましい。表１は、ＱＰ範囲の拡張に適合するよう更新されたｔ_Ｃ’テーブルである。変数ｔ_Ｃは、次のように導出される：

ｔ_Ｃ＝ＢｉｔＤｅｐｔｈ_Ｙ＜１０？（ｔ_Ｃ’＋２）＞＞（１０－ＢｉｔＤｅｐｔｈ_Ｙ）：ｔ_Ｃ’×（１＜＜（ＢｉｔＤｅｐｔｈ_Ｙ－１０））

［２．１．３ ルーマに対するより強いデブロッキングフィルタ］
双線形フィルタ（より強いデブロッキングフィルタ）は、境界のどちらか一方の側でのサンプルが大きいブロックに属するときに使用される。サンプルが大きいブロックに属するとは、幅が垂直エッジについて３２以上であるとき、及び高さが水平エッジについて３２以上であるときとして定義される。ｉ＝０～Ｓｐ－１についてのブロック境界サンプルｐ_ｉ、及びｊ＝０～Ｓｑ－１についてのブロック境界サンプルｑ_ｉは、その場合に、次のように、線形補間によって置換される：

ｐ_ｉ’＝（ｆ_ｉ×Ｍｉｄｄｌｅ_ｓ，ｔ＋（６４－ｆ_ｉ）×Ｐ_ｓ＋３２）＞＞６），ｐ_ｉ±ｔ_ＣＰＤ_ｉにクリップされる

ｑ_ｊ’＝（ｇ_ｊ×Ｍｉｄｄｌｅ_ｓ，ｔ＋（６４－ｇ_ｊ）×Ｑ_ｓ＋３２）＞＞６），ｑ_ｊ±ｔ_ＣＰＤ_ｊにクリップされる

ここで、ｔＣＰＤ_ｉ及びｔＣＰＤ_ｊの項は、位置依存のクリッピングであり、ｇ_ｊ、ｆ_ｉ、Ｍｉｄｄｌｅ_ｓ，ｔ、Ｐ_ｓ、及びＱ_ｓは、次で与えられる：

上記のより強いルーマフィルタは、条件１、条件２及び条件３の全てが真（ＴＲＵＥ）である場合にのみ使用される。条件１は、「大きいブロック条件」である。個の条件は、Ｐ－ｓｉｄｅ及びＱ－ｓｉｄｅでのサンプルが大きいブロックに属するかどうかを検出する。条件２及び条件３は、次によって決定される：

条件２＝（ｄ＜β）？ＴＲＵＥ：ＦＡＩＬＳＥ

条件３＝ＳｔｒｏｎｇＦｉｌｔｅｒＣｏｎｄｉｔｉｏｎ＝（ｄｐｑは（β＞＞２）よりも小さい，ｓｐ_３＋ｓｑ_３は（３×β＞＞５）よりも小さい，かつＡｂｓ（ｐ_０－ｑ_０）は（５×ｔ_Ｃ＋１）＞＞１よりも小さい）？ＴＲＵＥ：ＦＡＬＳＥ

［２．１．４ クロマに対する強いデブロッキングフィルタ］
クロマに対する次の強いデブロッキングフィルタが定義される：

ｐ_２’＝（３×ｐ_３＋２×ｐ_２＋ｐ_１＋ｐ_０＋ｑ_０＋４）＞＞３
ｐ_１’＝（２×ｐ_３＋ｐ_２＋２×ｐ_１＋ｐ_０＋ｑ_０＋ｑ_１＋４）＞＞３
ｐ_０’＝（ｐ_３＋ｐ_２＋ｐ_１＋２×ｐ_０＋ｑ_０＋ｑ_１＋ｑ_２＋４）＞＞３

上記のクロマフィルタは、８×８クロマサンプルグリッドに対してデブロッキングを実行する。クロマ強フィルタは、ブロック境界の両側で使用される。ここで、クロマフィルタは、クロマエッジの両側が（クロマサンプルの単位で）８以上であり、かつ、３つの条件による次の決定が満足されるときに、選択される。第１の決定は、境界強さ及び大きいブロックの決定に関する。第２及び第３の決定は、基本的にはＨＥＶＣルーマ決定に関するものと同じであり、夫々、オン／オフ決定及び強フィルタ決定である。第１の決定では、境界強さ（ｂＳ）が、表２に示されるように、クロマフィルタリングについては変更されている。表３の条件がその後にチェックされる。条件が満足される場合に、より優先度が低い残りの条件はスキップされる。

クロマデブロッキングは、大きいブロック境界が検出される場合に、ｂＳが２に等しいか、あるいは、ｂＳが１に等しいときに実行される。第２及び第３の条件は、ＨＥＶＣルーマ強フィルタ決定と基本的に同じである。

［２．１．５ ４×４サンプルグリッドに対するルーマデブロッキング及び８×８サンプルグリッドに対するクロマデブロッキング］
ＶＴＭ５．０は、８×８サンプルグリッドに対してデブロッキングを実行する。従って、デブロッキングは、８×８サンプルグリッドと重なり合う全てのブロックエッジについてのみ実行される。ＶＴＭ５．０のパーティショニングスキーム（二分木（Binary-Tree，ＢＴ）、三分木（Ternary-Tree，ＴＴ）、イントラサブパーティション、サブブロック変換）により、いくつかの長いＣＵエッジは、８×８サンプルグリッドと重なり合わないが、依然として十分なブロッキングアーチファクトを有することがある。シナリオは図２に表されている。灰色で示されているエッジは、４×１６ブロックに属し、ＶＴＭ５．０デブロッキングは、このエッジが８×８サンプルグリッドと重なり合わないということで、このエッジに対してデブロッキングを実行しない。

ＶＴＭ６．０では、４×４サンプルグリッドに対してはルーマデブロッキングを、８×８サンプルグリッドに対してはクロマデブロッキングを適用することが採用されている。エッジを共有するブロックのいずれかが４サンプル（つまり、垂直エッジについては、幅＝４サンプル、水平エッジについて、長さ＝４サンプル）を有する場合に、それは、サンプルを１つ又は全く変更せずにルーマ弱フィルタリングを適用する。

垂直エッジについて実行される種々のステップが以下で説明される。

フィルタのオン／オフ条件（つまり、ｄ＜β，ここで、ｄ＝ｄｐｑ０＋ｄｐｑ３かつｄｐｑ０＝ｄｐ０＋ｄｑ０かつｄｐｑ３＝ｄｐ３＋ｄｑ３）が夫々のエッジについて真であると評価されるかどうかをチェックする。真である場合に、次いで
●ブロックの１つが４サンプルのブロック幅を有するかどうかをチェックする。真である場合に、次いで
●最大１つのサンプル変更を伴う弱フィルタを適用する。従って、次の条件：｜δ｜＜１０（ｔ_Ｃ）（なお、δ＝（９×（ｑ_０－ｐ_０）－（３×（ｑ_１－ｐ_１）＋８））＞＞４）がチェックされ、条件が真であると評価される場合に、次いで、サンプルｐ_０及びｑ_０が変更され、そうでない場合には、フィルタリングは適用されない。

図３は、４×Ｎブロック、Ｎ×４ブロック、８×Ｎブロック、及びＮ×８ブロックについての１つのサンプル変更を伴った弱フィルタの例を示す。

［２．１．６ 境界決定（フィルタリング処理され得るエッジ）］
フィルタリングは、ルーマについては４×４グリッドに、クロマについては８×８グリッドに適用される。加えて、それは、変換ブロック境界又はコーディングサブブロック境界でなければならない（例えば、アフィン動き予測、ＡＴＭＶＰの利用による。）。そのような境界でないものについては、フィルタは無効にされる。ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰｓ及びｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱｓは、Ｐ－ｓｉｄｅ及びＱ－ｓｉｄｅの夫々でいくつのサンプルがフィルタリング処理されるべきかを示す。

［２．１．６．１ ＴＵ境界］
水平エッジの各４つの列（又は水平エッジの各４つの行）について、Ｐブロック及びＱブロックについて別々にフィルタ長さを決定するよう次をチェックする。水平エッジを例とすると：
－ 行が変換ブロックエッジである（つまり、位置（ｘＣｂ＋ｘ，ｙＣｂ＋ｙ）が変換ブロックエッジにある）場合に、ｅｄｇｅＦｌａｇｓ［ｘ］［ｙ］は１に等しくセットされる。
－ ｅｄｇｅＦｌａｇｓ［ｘ］［ｙ］が１に等しくセットされる場合に、次が適用される：
－ ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱｓ［ｘ］［ｙ］がセットされる：
－ Ｐ又はＱの変換ブロック高さが４以下である場合に、
ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱｓ［ｘ］［ｙ］は１にセットされる；
－ Ｑの変換ブロック高さが３２以上である場合に、
ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱｓ［ｘ］［ｙ］は７にセットされる；
－ 他の場合には、
ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱｓ［ｘ］［ｙ］は３にセットされる。
－ ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰｓ［ｘ］［ｙ］がセットされる：
－ Ｐ又はＱの変換ブロック幅が４以下である場合に、
ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰｓ［ｘ］［ｙ］は１にセットされる；
－ Ｐの変換ブロック幅が３２以上である場合に、
ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰｓ［ｘ］［ｙ］は７にセットされる；
－ 他の場合には、
ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰｓ［ｘ］［ｙ］は３にセットされる。

［２．１．６．２ サブブロック境界］
サブブロック境界検出のためにデブロッキングフィルタプロセスで使用されるサブブロック高さは、Ｍａｘ（８，ｎＣｂＨ／ｎｕｍＳｂＹ）にセットされる。
－ アレイエッジＴｂＦｌａｇｓはｅｄｇｅＦｌａｇｓに等しくセットされる。
－ ｙＥｄｇｅ＝０．．ｍｉｎ（（ｎＣｂＨ／８）－１，ｎｕｍＳｂＹ－１）、ｘ＝０．．ｎＣｂＷ－１について：
－ 現在のコーディングブロック内の垂直位置ｙは、ｙＥｄｇｅ×ｓｂＨに等しくセットされる。
－ ｅｄｇｅＦｌａｇｓ［ｘ］［ｙ］が１に等しいとき、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰｓ［ｘ］［ｙ］及びｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱｓ［ｘ］［ｙ］の値は、次のように変更される：
－ ｙが０（最初のサブブロック）に等しく、ｅｄｇｅＦｌａｇｓ［ｘ］［ｙ］が１に等しい場合に、次が適用される：
－ ｎｕｍＳｂＹが１よりも大きい（Ｑがサブブロックコーディングされている）とき、次が適用される：

－ ｉｎｔｅｒ＿ａｆｆｉｎｅ＿ｆｌａｇ［ｘＣｂ］［ｙＣｂ－１］が１に等しいか、あるいは、ｍｅｒｇｅ＿ｓｕｂｂｌｏｃｋ＿ｆｌａｇ［ｘＣｂ］［ｙＣｂ－１］が１に等しい（Ｐがサブブロックコーディングされている）とき、次が適用される：

－ そうではなく、ｅｄｇｅＴｂＦｌａｇｓ［ｘ］［ｙ］が１に等しい（最初のサブブロック及びＴＢ境界でない）場合に、次が適用される：

－ そうではなく、次の条件：
－ （ｙ＋４）がｎＣｂＨ以上である（最後のサブブロック）；
－ ｅｄｇｅＴｂＦｌａｇｓ［ｘ］［ｙ－４］が１に等しい（上に４サンプル離れてＴＵ境界がある）；
－ ｅｄｇｅＴｂＦｌａｇｓ［ｘ］［ｙ＋４］が１に等しい（下に４サンプル離れてＴＵ境界がある）
の１つ以上が真である場合に、次が適用される：

－ そうではなく、次の条件：
－ ｙＥｄｇｅが１に等しい（２番目のサブブロック）；
－ ｙＥｄｇｅが（ｎＣＢ／８）－１に等しい（最後のサブブロック）；
－ ｅｄｇｅＴｂＦｌａｇｓ［ｘ］［ｙ－ｓｂＨ］が１に等しい（上にｓｂＨサンプル離れてＴＵ境界がある）；
－ ｅｄｇｅＴｂＦｌａｇｓ［ｘ］［ｙ＋ｓｂＨ］が１に等しい（下にｓｂＨサンプル離れてＴＵ境界がある）
の１つ以上が真である場合に、次が適用される：

－ 上記以外の場合には、次が適用される：

デブロッキングフィルタは、変換エッジでは４×４ルーマグリッドに対して有効にされるが、サブブロック境界では８×８ルーマグリッドに対して有効にされることが分かる。サブブロック境界は、ＳＴＭＶＰ及びアフィンモードによって導入された予測ユニット境界を含む。８×８グリッド上のサブブロック境界及びアフィンサブブロックについては、ＨＥＶＣデブロッキングフィルタにおけるＰＵ内の同じロジックが適用される。ＰＵ境界については、デブロッキングフィルタは、隣接サブブロックの参照ピクチャ及び動きベクトル間の差を考慮して８×８グリッドに対して適用される。

［２．２ ＶＶＣ規格ＷＤ６におけるデブロッキングフィルタリングプロセス］
デブロッキングフィルタの次の仕様は、ＶＶＣ作業草案ＪＶＥＴ－Ｏ２００１－ｖＥから抜粋されている。

［２．２．１ デブロッキングフィルタプロセス］
［２．２．１．１ 概略］
このプロセスへの入力は、デブロッキング前の再構成されたピクチャ、つまり、アレイｒｅｃＰｉｃｔｕｒｅ_Ｌ、ＣｈｒｏｍａＡｒｒａｙＴｙｐｅが０に等しくないときには、アレイｒｅｃＰｉｃｔｕｒｅ_Ｃｂ及びｒｅｃＰｉｃｔｕｒｅ_Ｃｒである。

このプロセスの出力は、デブロッキング後の変更された再構成されたピクチャ、つまり、アレイｒｅｃＰｉｃｔｕｒｅ_Ｌ、ＣｈｒｏｍａＡｒｒａｙＴｙｐｅが０に等しくないときには、アレイｒｅｃＰｉｃｔｕｒｅ_Ｃｂ及びｒｅｃＰｉｃｔｕｒｅ_Ｃｒである。

ピクチャ内の垂直エッジが最初にフィルタリング処理される。次いで、ピクチャ内の水平エッジが、垂直エッジフィルタリングプロセスによって変更されたサンプルを入力として用いて、フィルタリング処理される。各ＣＴＵのＣＴＢ内の垂直及び水平エッジは、コーディングユニット単位で別々に処理される。コーディングユニット内のコーディングブロックの垂直エッジは、コーディングブロックの左側にあるエッジから始まって、その幾何学的な順序でコーディングブロックの右側へ向かってエッジの中を進みながら、フィルタリング処理される。コーディングユニット内のコーディングブロックの水平エッジは、コーディングブロックの上にあるエッジから始まって、その幾何学的な順序でコーディングブロックの下へ向かってエッジの中を進みながら、フィルタリング処理される。
注記－フィルタリングプロセスは、この仕様ではピクチャ単位で定められているが、フィルタリングプロセスは、デコーダが同じ出力値を生成するように処理の依存関係の順序を適切に考慮しているという条件で、コーディングユニット単位で実装可能であり、同等の結果を得ることができる。

デブロッキングフィルタプロセスは、次のタイプのエッジを除いて、ピクチャの全てのコーディングサブブロックエッジ及び変換ブロックエッジに適用される：
－ ピクチャの境界にあるエッジ，
－ ｌｏｏｐ＿ｆｉｌｔｅｒ＿ａｃｒｏｓｓ＿ｓｕｂｐｉｃ＿ｅｎａｂｌｅｄ＿ｆｌａｇ［ＳｕｂＰｉｃＩｄｘ］が０に等しいサブピクチャの境界と一致するエッジ，
－ ｐｐｓ＿ｌｏｏｐ＿ｆｌｔｅｒ＿ａｃｒｏｓｓ＿ｖｉｒｔｕａｌ＿ｂｏｕｎｄａｒｉｅｓ＿ｄｉｓａｂｌｅｄ＿ｆｌａｇが１に等しいときにピクチャの垂直境界と一致するエッジ，
－ ｌｏｏｐ＿ｆｉｌｔｅｒ＿ａｃｒｏｓｓ＿ｂｒｉｃｋｓ＿ｅｎａｂｌｅｄ＿ｆｌａｇが０に等しいときにブリック境界と一致するエッジ，
－ ｌｏｏｐ＿ｆｉｌｔｅｒ＿ａｃｒｏｓｓ＿ｓｌｉｃｅｓ＿ｅｎａｂｌｅｄ＿ｆｌａｇが０に等しいときにスライス境界と一致するエッジ，
－ １に等しいｓｌｉｃｅ＿ｄｅｂｌｏｃｋｉｎｇ＿ｆｉｌｔｅｒ＿ｄｉｓａｂｌｅｄ＿ｆｌａｇを有するスライスの上又は左境界と一致するエッジ，
－ １に等しいｓｌｉｃｅ＿ｄｅｂｌｏｃｋｉｎｇ＿ｆｉｌｔｅｒ＿ｄｉｓａｂｌｅｄ＿ｆｌａｇを有するスライス内のエッジ，
－ ルーマ成分の４×４サンプルグリッド境界に対応しないエッジ，
－ クロマ成分の８×８サンプルグリッド境界に対応しないエッジ，
－ エッジの両側が１に等しいｉｎｔｒａ＿ｂｄｐｃｍ＿ｆｌａｇを有するルーマ成分内のエッジ，
－ 関連する変換ユニットのエッジではないクロマサブブロックのエッジ。

エッジタイプ、垂直（vertical）又は水平（horizontal）は、表８－１７で定められるように、変数ｅｄｇｅＴｙｐｅによって表される。

現在のスライスのｓｌｉｃｅ＿ｄｅｂｌｏｃｋｉｎｇ＿ｆｉｌｔｅｒ＿ｄｉｓａｂｌｅｄ＿ｆｌａｇが０に等しいとき、次が適用される：
－ 変数ｔｒｅｅＴｙｐｅがＤＵＡＬ＿ＴＲＥＥ＿ＬＵＭＡに等しくセットされる。
－ 垂直エッジは、変数ｔｒｅｅＴｙｐｅ、デブロッキング前の再構成されたピクチャ、つまり、アレイｒｅｃＰｉｃｔｕｒｅ_Ｌ、及びＥＤＧＥ＿ＶＥＲに等しい変数ｅｄｇｅＴｙｐｅを入力として、デブロッキング後の変更された再構成されたピクチャ、つまり、アレイｒｅｃＰｉｃｔｕｒｅ_Ｌを出力として用いて、第８．８．３．２節で定められているように、１方向のためのデブロッキングフィルタプロセスを呼び出すことによってフィルタリング処理される。
－ 水平エッジは、変数ｔｒｅｅＴｙｐｅ、デブロッキング前の再構成されたピクチャ、つまり、アレイｒｅｃＰｉｃｔｕｒｅ_Ｌ、及びＥＤＧＥ＿ＨＯＲに等しい変数ｅｄｇｅＴｙｐｅを入力として、デブロッキング後の変更された再構成されたピクチャ、つまり、アレイｒｅｃＰｉｃｔｕｒｅ_Ｌを出力として用いて、第８．８．３．２節で定められているように、１方向のためのデブロッキングフィルタプロセスを呼び出すことによってフィルタリング処理される。
－ ＣｈｒｏｍａＡｒｒａｙＴｙｐｅが０に等しくないとき、次が適用される：
－ 変数ｔｒｅｅＴｙｐｅはＤＵＡＬ＿ＴＲＥＥ＿ＣＨＲＯＭＡに等しくセットされる。
－ 垂直エッジは、変数ｔｒｅｅＴｙｐｅ、デブロッキング前の再構成されたピクチャ、つまり、アレイｒｅｃＰｉｃｔｕｒｅ_Ｃｂ及びｒｅｃＰｉｃｔｕｒｅ_Ｃｒ、並びにＥＤＧＥ＿ＶＥＲに等しい変数ｅｄｇｅＴｙｐｅを入力として、デブロッキング後の変更された再構成されたピクチャ、つまり、アレイｒｅｃＰｉｃｔｕｒｅ_Ｌを出力として用いて、第８．８．３．２節で定められているように、１方向のためのデブロッキングフィルタプロセスを呼び出すことによってフィルタリング処理される。
－ 水平エッジは、変数ｔｒｅｅＴｙｐｅ、デブロッキング前の再構成されたピクチャ、つまり、アレイｒｅｃＰｉｃｔｕｒｅ_Ｃｂ及びｒｅｃＰｉｃｔｕｒｅ_Ｃｒ、並びにＥＤＧＥ＿ＨＯＲに等しい変数ｅｄｇｅＴｙｐｅを入力として、デブロッキング後の変更された再構成されたピクチャ、つまり、アレイｒｅｃＰｉｃｔｕｒｅ_Ｌを出力として用いて、第８．８．３．２節で定められているように、１方向のためのデブロッキングフィルタプロセスを呼び出すことによってフィルタリング処理される。

［２．２．１．２ １方向のためのデブロッキングフィルタ］
このプロセスへの入力は：
－ ルーマ成分（ＤＵＡＬ＿ＴＲＥＥ＿ＬＵＭＡ）又はクロマ成分（ＤＵＡＬ＿ＴＲＥＥ＿ＣＨＲＯＭＡ）が現在処理されているかどうかを示す変数ｔｒｅｅＴｙｐｅ，
－ ｔｒｅｅＴｙｐｅｇａＤＵＡＬ＿ＴＲＥＥ＿ＬＵＭＡに等しいとき、デブロッキング前の再構成されたピクチャ、つまり、アレイｒｅｃＰｉｃｔｕｒｅ_Ｌ，
－ ＣｈｒｏｍａＡｒｒａｙＴｙｐｅが０に等しくなく、かつ、ｔｒｅｅＴｙｐｅがＤＵＡＬ＿ＴＲＥＥ＿ＣＨＲＯＭＡに等しいとき、アレイｒｅｃＰｉｃｔｕｒｅ_Ｃｂ及びｒｅｃＰｉｃｔｕｒｅ_Ｃｒ，
－ 垂直エッジ（ＥＤＧＥ＿ＶＥＲ）又は水平エッジ（ＥＤＧＥ＿ＨＯＬ）がフィルタリング処理されるかどうかを示す変数ｅｄｇｅＴｙｐｅ
である。

このプロセスの出力は、デブロッキング後の変更された再構成されたピクチャであり、つまり：
－ ｔｒｅｅＴｙｐｅがＤＵＡＬ＿ＴＲＥＥ＿ＬＵＭＡに等しいとき、アレイｒｅｃＰｉｃｔｕｒｅ_Ｌ，
－ ＣｈｒｏｍａＡｒｒａｙＴｙｐｅが０に等しくなく、かつ、ｔｒｅｅＴｙｐｅがＤＵＡＬ＿ＴＲＥＥ＿ＣＨＲＯＭＡに等しいとき、アレイｒｅｃＰｉｃｔｕｒｅ_Ｃｂ及びｒｅｃＰｉｃｔｕｒｅ_Ｃｒ
である。

変数ｆｉｒｓｔＣｏｍｐＩｄｘ及びｌａｓｔＣｏｍｐＩｄｘは、次のように導出される：

ｆｉｒｓｔＣｏｍｐＩｄｘ以上ｌａｓｔＣｏｍｐＩｄｘ以下の範囲をとる色成分インデックスによって示されるコーディングユニットの色成分ごとの各コーディングユニット及び各コーディングブロックについて、コーディングブロック幅ｎＣｂＷ、コーディングブロック高さｎＣｂＨ、及びコーディングブロックの左上サンプルの位置（ｘＣｂ，ｙＣｂ）により、ｃＩｄｘが０に等しいとき、又はｃＩｄｘが０に等しくなく、ｅｄｇｅＴｙｐｅがＥＤＧＥ＿ＶＥＲに等しく、ｘＣｂ％８が０に等しいとき、又はｃＩｄｘが０に等しくなく、ｅｄｇｅＴｙｐｅがＥＤＧＥ＿ＨＯＲに等しく、ｙＣｂ％８が０に等しいとき、エッジは、次の順序づけられたステップによってフィルタリング処理される。

１．変数ｆｉｌｔｅｒＥｄｇｅＦｌａｇが次のように導出される：
－ ｅｄｇｅＴｙｐｅがＥＤＧＥ＿ＶＥＲに等しく、次の条件の１つ以上が真である場合に、ｆｉｌｔｅｒＥｄｇｅＦｌａｇは０に等しくセットされる：
－ 現在のコーディングブロックの左境界がピクチャの左境界である；
－ 現在のコーディングブロックの左境界がサブピクチャの左又は右境界であり、ｌｏｏｐ＿ｆｉｌｔｅｒ＿ａｃｒｏｓｓ＿ｓｕｂｐｉｃ＿ｅｎａｂｌｅｄ＿ｆｌａｇ［ＳｕｂＰｉｃＩｄｘ］が０に等しい；
－ 現在のコーディングブロックの左境界がブリックの左境界であり、ｌｏｏｐ＿ｆｉｌｔｅｒ＿ａｃｒｏｓｓ＿ｂｒｉｃｋｓ＿ｅｎａｂｌｅｄ＿ｆｌａｇが０に等しい；
－ 現在のコーディングブロックの左境界がスライスの左境界であり、ｌｏｏｐ＿ｆｉｌｔｅｒ＿ａｃｒｏｓｓ＿ｓｌｉｃｅｓ＿ｅｎａｂｌｅｄ＿ｆｌａｇが０に等しい；
－ 現在のコーディングブロックの左境界がピクチャの垂直仮想境界の１つであり、ｐｐｓ＿ｌｏｏｐ＿ｆｌｔｅｒ＿ａｃｒｏｓｓ＿ｖｉｒｔｕａｌ＿ｂｏｕｎｄａｒｉｅｓ＿ｄｉｓａｂｌｅｄ＿ｆｌａｇが１に等しい。
－ そうではなく、ｅｄｇｅＴｙｐｅがＥＤＧＥ＿ＨＯＲに等しく、次の条件の１つ以上が真である場合に、変数ｆｉｌｔｅｒＥｄｇｅＦｌａｇは０に等しくセットされる：
－ 現在のルーマコーディングブロックの上境界がピクチャの上境界である；
－ 現在のコーディングブロックの上境界がサブピクチャの上又は下境界であり、ｌｏｏｐ＿ｆｉｌｔｅｒ＿ａｃｒｏｓｓ＿ｓｕｂｐｉｃ＿ｅｎａｂｌｅｄ＿ｆｌａｇ［ＳｕｂＰｉｃＩｄｘ］が０に等しい；
－ 現在のコーディングブロックの上境界がブリックの上境界であり、ｌｏｏｐ＿ｆｉｌｔｅｒ＿ａｃｒｏｓｓ＿ｂｒｉｃｋｓ＿ｅｎａｂｌｅｄ＿ｆｌａｇが０に等しい；
－ 現在のコーディングブロックの上境界がスライスの上境界であり、ｌｏｏｐ＿ｆｉｌｔｅｒ＿ａｃｒｏｓｓ＿ｓｌｉｃｅｓ＿ｅｎａｂｌｅｄ＿ｆｌａｇが０に等しい；
－ 現在のコーディングブロックの上境界がピクチャの水平仮想境界の１つであり、ｐｐｓ＿ｌｏｏｐ＿ｆｌｔｅｒ＿ａｃｒｏｓｓ＿ｖｉｒｔｕａｌ＿ｂｏｕｎｄａｒｉｅｓ＿ｄｉｓａｂｌｅｄ＿ｆｌａｇが１に等しい。

２．２次元（ｎＣｂＷ）×（ｎＣｂＨ）アレイの全ての要素ｅｄｇｅＦｌａｇｓ、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱｓ及びｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰｓが、０に等しくなるよう初期化される。

３．第８．８．３．３節で定められている変換ブロック境界の導出プロセスが、位置（ｘＣｂ，ｙＣｂ）、コーディングブロック幅ｎＣｂＷ、コーディングブロック高さｎＣｂＨ、変数ｃＩｄｘ、変数ｆｉｌｔｅｒＥｄｇｅＦｌａｇ、アレイｅｄｇｅＦｌａｇｓ、最大フィルタ長さアレイｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰｓ及びｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱｓ、並びに変数ｅｄｇｅＴｙｐｅを入力として、変更されたアレイｅｄｇｅＦｌａｇｓ、変更された最大フィルタ長さアレイｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰｓ及びｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱｓを出力として用いて、呼び出される。

４．ｃＩｄｘが０に等しい場合に、第８．８．３．４節で定められているコーディングサブブロック境界の導出プロセスが、位置（ｘＣｂ，ｙＣｂ）、コーディングブロック幅ｎＣｂＷ、コーディングブロック高さｎＣｂＨ、アレイｅｄｇｅＦｌａｇｓ、最大フィルタ長さアレイｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰｓ及びｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱｓ、並びに変数ｅｄｇｅＴｙｐｅを入力として、変更されたアレイｅｄｇｅＦｌａｇｓ、変更された最大フィルタ長さアレイｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰｓ及びｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱｓを出力として用いて、呼び出される。

５．ピクチャサンプルアレイｒｅｃＰｉｃｔｕｒｅが、次のように導出される：
－ ｃＩｄｘが０に等しい場合に、ｒｅｃＰｉｃｔｕｒｅは、デブロッキング前の再構成されたルーマピクチャサンプルアレイｒｅｃＰｉｃｔｕｒｅ_Ｌに等しくセットされる，
－ そうではなく、ｃＩｄｘが１に等しい場合に、ｒｅｃＰｉｃｔｕｒｅは、デブロッキング前の再構成されたクロマピクチャサンプルアレイｒｅｃＰｉｃｔｕｒｅ_Ｃｂに等しくセットされる，
－ 上記以外の場合（ｃＩｄｘが２に等しい場合）に、ｒｅｃＰｉｃｔｕｒｅは、デブロッキング前の再構成されたクロマピクチャサンプルアレイｒｅｃＰｉｃｔｕｒｅ_Ｃｒに等しくセットされる。

６．第８．８．３．５節で定められている境界フィルタリング強さの導出プロセスが、ピクチャサンプルアレイｒｅｃＰｉｃｔｕｒｅ、ルーマ位置（ｘＣｂ，ｙＣｂ）、コーディングブロック幅ｎＣｂＷ、コーディングブロック高さｎＣｂＨ、変数ｅｄｇｅＴｙｐｅ、変数ｃＩｄｘ、及びアレイｅｄｇｅＦｌａｇｓを入力として、（ｎＣｂＷ）×（ｎＣｂＨ）アレイｂＳを出力として用いて、呼び出される。

７．１つの方向のためのエッジフィルタリングプロセスが、変数ｅｄｇｅＴｙｐｅ、変数ｃＩｄｘ、デブロッキング前の再構成されたピクチャｒｅｃＰｉｃｔｕｒｅ、位置（ｘＣｂ，ｙＣｂ）、コーディングブロック幅ｎＣｂＷ、コーディングブロック高さｎＣｂＨ、慣れ日にアレイｂＳ、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰｓ、及びｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱｓを入力として、変更された再構成されたピクチャｒｅｃＰｉｃｔｕｒｅを出力として用いて、第８．８．３．６節で定められているように、コーディングブロックについて呼び出される。

［２．２．１．３ 変換ブロック境界の導出プロセス］
このプロセスへの入力は：
－ 現在のピクチャの左上サンプルに対して現在のコーディングブロックの左上サンプルを指定する位置（ｘＣｂ，ｙＣｂ），
－ 現在のコーディングブロックの幅を示す変数ｎＣｂＷ，
－ 現在のコーディングブロックの高さを示す変数ｎＣｂＨ，
－ 現在のコーディングブロックの色成分を示す変数ｃＩｄｘ，
－ 変数ｆｉｌｔｅｒＥｄｇｅＦｌａｇ，
－ ２次元（ｎＣｂＷ）×（ｎＣｂＨ）アレイｅｄｇｅＦｌａｇｓ，
－ ２次元（ｎＣｂＷ）×（ｎＣｂＨ）アレイｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱｓ及びｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰｓ，
－ 垂直エッジ（ＥＤＧＥ＿ＶＥＲ）又は水平エッジ（ＥＤＧＥ＿ＨＯＬ）がフィルタリング処理されるかどうかを示す変数ｅｄｇｅＴｙｐｅ
である。

このプロセスの出力は：
－ 変更された２次元（ｎＣｂＷ）×（ｎＣｂＨ）アレイｅｄｇｅＦｌａｇｓ，
－ 変更された２次元（ｎＣｂＷ）×（ｎＣｂＨ）アレイｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱｓ及びｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰｓ
である。

ｅｄｇｅＴｙｐｅに応じて、アレイｅｄｇｅＦｌａｇｓ、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰｓ及びｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱｓは、次のように導出される：
－ 変数ｇｒｉｄＳｉｚｅが次のようにセットされる：

－ ｅｄｇｅＴｙｐｅがＥＤＧＥ＿ＶＥＲに等しい場合に、次が適用される：
－ 変数ｎｕｍＥｄｇｅｓはＭａｘ（１，ｎＣｂＷ／ｇｒｉｄＳｉｚｅ）に等しくセットされる。
－ ｘＥｄｇｅ＝０．．ｎｕｍＥｄｇｅｓ－１及びｙ＝０．．ｎＣｂＨ－１について、次が適用される：
－ 現在のコーディングブロック内の水平位置ｘはｘＥｄｇｅ×ｇｒｉｄＳｉｚｅに等しくセットされる。
－ ｅｄｇｅＦｌａｇｓ［ｘ］［ｙ］の値は次のように導出される：
－ ｐｐｓ＿ｌｏｏｐ＿ｆｌｔｅｒ＿ａｃｒｏｓｓ＿ｖｉｒｔｕａｌ＿ｂｏｕｎｄａｒｉｅｓ＿ｄｉｓａｂｌｅｄ＿ｆｌａｇが１に等しく、（ｘＣｂ＋ｘ）がいずれかのｎ＝０．．ｐｐｓ＿ｎｕｍ＿ｖｅｒ＿ｖｉｒｔｕａｌ＿ｂｏｕｎｄａｒｉｅｓ－１についてＰｐｓＶｉｒｔｕａｌＢｏｕｎｄａｒｉｅｓＰｏｓＸ［ｎ］に等しい場合に、ｅｄｇｅＦｌａｇｓ［ｘ］［ｙ］は０に等しくセットされる。
－ そうではなく、ｘが０に等しい場合に、ｅｄｇｅＦｌａｇｓ［ｘ］［ｙ］はｆｉｌｔｅｒＥｄｇｅＦｌａｇに等しくセットされる。
－ そうではなく、位置（ｘＣｂ＋ｘ，ｙＣｂ＋ｙ）が変換ブロックエッジにある場合に、ｅｄｇｅＦｌａｇｓ［ｘ］［ｙ］は１に等しくセットされる。
－ ｅｄｇｅＦｌａｇｓ［ｘ］［ｙ］が１に等しいとき、次が適用される：
－ ｃＩｄｘが０に等しい場合に、次が適用される：
－ ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱｓ［ｘ］［ｙ］の値は次のように導出される：
－ ルーマ位置（ｘＣｂ＋ｘ，ｙＣｂ＋ｙ）での変換ブロックのルーマサンプルでの幅が４以下であるか、あるいは、ルーマ位置（ｘＣｂ＋ｘ－１，ｙＣｂ＋ｙ）での変換ブロックのルーマサンプルでの幅が４以下である場合に、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱｓ［ｘ］［ｙ］は１に等しくセットされる。
－ そうではなく、ルーマ位置（ｘＣｂ＋ｘ，ｙＣｂ＋ｙ）での変換ブロックのルーマサンプルでの幅が３２以上である場合に、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱｓ［ｘ］［ｙ］は７に等しくセットされる。
－ 上記以外の場合に、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱｓ［ｘ］［ｙ］は３に等しくセットされる。
－ ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰｓ［ｘ］［ｙ］の値は次のように導出される：
－ ルーマ位置（ｘＣｂ＋ｘ，ｙＣｂ＋ｙ）での変換ブロックのルーマサンプルでの幅が４以下であるか、あるいは、ルーマ位置（ｘＣｂ＋ｘ－１，ｙＣｂ＋ｙ）での変換ブロックのルーマサンプルでの幅が４以下である場合に、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰｓ［ｘ］［ｙ］は１に等しくセットされる。
－ そうではなく、ルーマ位置（ｘＣｂ＋ｘ－１，ｙＣｂ＋ｙ）での変換ブロックのルーマサンプルでの幅が３２以上である場合に、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰｓ［ｘ］［ｙ］は７に等しくセットされる。
－ 上記以外の場合に、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰｓ［ｘ］［ｙ］は３に等しくセットされる。
－ そうでない場合（ｃＩｄｘが０に等しくない場合）に、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰｓ［ｘ］［ｙ］及びｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱｓ［ｘ］［ｙ］の値は、次のように導出される：：
－ クロマ位置（ｘＣｂ＋ｘ，ｙＣｂ＋ｙ）での変換ブロックのクロマサンプルでの幅及びクロマ位置（ｘＣｂ＋ｘ－１，ｙＣｂ＋ｙ）での幅が両方とも８以下である場合に、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰｓ［ｘ］［ｙ］及びｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱｓ［ｘ］［ｙ］は３に等しくセットされる。
－ 上記以外の場合に、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰｓ［ｘ］［ｙ］及びｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱｓ［ｘ］［ｙ］は１に等しくセットされる。
－ そうでない場合（ｅｄｇｅＴｙｐｅがＥＤＧＥ＿ＨＯＲである場合）に、次が適用される：
－ 変数ｎｕｍＥｄｇｅｓはＭａｘ（１，ｎＣｂＨ／ｇｒｉｄＳｉｚｅ）に等しくセットされる。
－ ｙＥｄｇｅ＝０．．ｎｕｍＥｄｇｅｓ－１及びｘ＝０．．ｎＣｂＷ－１について、次が適用される：
－ 現在のコーディングブロック内の垂直位置ｙはｙＥｄｇｅ×ｇｒｉｄＳｉｚｅに等しくセットされる。
－ ｅｄｇｅＦｌａｇｓ［ｘ］［ｙ］の値は次のように導出される：
－ ｐｐｓ＿ｌｏｏｐ＿ｆｌｔｅｒ＿ａｃｒｏｓｓ＿ｖｉｒｔｕａｌ＿ｂｏｕｎｄａｒｉｅｓ＿ｄｉｓａｂｌｅｄ＿ｆｌａｇが１に等しく、（ｙＣｂ＋ｙ）がいずれかのｎ＝０．．ｐｐｓ＿ｎｕｍ＿ｈｏｒ＿ｖｉｒｔｕａｌ＿ｂｏｕｎｄａｒｉｅｓ－１についてＰｐｓＶｉｒｔｕａｌＢｏｕｎｄａｒｉｅｓＰｏｓＹ［ｎ］に等しい場合に、ｅｄｇｅＦｌａｇｓ［ｘ］［ｙ］は０に等しくセットされる。
－ そうではなく、ｙが０に等しい場合に、ｅｄｇｅＦｌａｇｓ［ｘ］［ｙ］はｆｉｌｔｅｒＥｄｇｅＦｌａｇに等しくセットされる。
－ そうではなく、位置（ｘＣｂ＋ｘ，ｙＣｂ＋ｙ）が変換ブロックエッジにある場合に、ｅｄｇｅＦｌａｇｓ［ｘ］［ｙ］は１に等しくセットされる。
－ ｅｄｇｅＦｌａｇｓ［ｘ］［ｙ］が１に等しいとき、次が適用される：
－ ｃＩｄｘが０に等しい場合に、次が適用される：
－ ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱｓ［ｘ］［ｙ］の値は次のように導出される：
－ ルーマ位置（ｘＣｂ＋ｘ，ｙＣｂ＋ｙ）での変換ブロックのルーマサンプルでの高さが４以下であるか、あるいは、ルーマ位置（ｘＣｂ＋ｘ，ｙＣｂ＋ｙ－１）での変換ブロックのルーマサンプルでの高さが４以下である場合に、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱｓ［ｘ］［ｙ］は１に等しくセットされる。
－ そうではなく、ルーマ位置（ｘＣｂ＋ｘ，ｙＣｂ＋ｙ）での変換ブロックのルーマサンプルでの高さが３２以上である場合に、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱｓ［ｘ］［ｙ］は７に等しくセットされる。
－ 上記以外の場合に、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱｓ［ｘ］［ｙ］は３に等しくセットされる。
－ ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰｓ［ｘ］［ｙ］の値は次のように導出される：
－ ルーマ位置（ｘＣｂ＋ｘ，ｙＣｂ＋ｙ）での変換ブロックのルーマサンプルでの高さが４以下であるか、あるいは、ルーマ位置（ｘＣｂ＋ｘ，ｙＣｂ＋ｙ－１）での変換ブロックのルーマサンプルでの高さが４以下である場合に、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰｓ［ｘ］［ｙ］は１に等しくセットされる。
－ そうではなく、ルーマ位置（ｘＣｂ＋ｘ，ｙＣｂ＋ｙ－１）での変換ブロックのルーマサンプルでの幅が３２以上である場合に、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰｓ［ｘ］［ｙ］は７に等しくセットされる。
－ 上記以外の場合に、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰｓ［ｘ］［ｙ］は３に等しくセットされる。
－ そうでない場合（ｃＩｄｘが０に等しくない場合）に、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰｓ［ｘ］［ｙ］及びｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱｓ［ｘ］［ｙ］の値は、次のように導出される：：
－ 次の条件の全てが真である場合に、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰｓ［ｘ］［ｙ］及びｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱｓ［ｘ］［ｙ］は３に等しくセットされる：
－ クロマ位置（ｘＣｂ＋ｘ，ｙＣｂ＋ｙ）での変換ブロックのクロマサンプルでの高さ及びクロマ位置（ｘＣｂ＋ｘ，ｙＣｂ＋ｙ－１）での高さが両方とも８以下である。
－ （ｙＣｂ＋ｙ）％ＣｔｂＨｅｉｇｈｔＣが０よりも大きい、つまり、水平エッジが上側クロマＣＴＢ境界と重なり合わない。
－ 上記以外の場合に、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰｓ［ｘ］［ｙ］及びｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱｓ［ｘ］［ｙ］は１に等しくセットされる。

［２．２．１．４ コーディングサブブロック境界の導出プロセス］
このプロセスへの入力は：
－ 現在のピクチャの左上サンプルに対して現在のコーディングブロックの左上サンプルを指定する位置（ｘＣｂ，ｙＣｂ），
－ 現在のコーディングブロックの幅を示す変数ｎＣｂＷ，
－ 現在のコーディングブロックの高さを示す変数ｎＣｂＨ，
－ ２次元（ｎＣｂＷ）×（ｎＣｂＨ）アレイｅｄｇｅＦｌａｇｓ，
－ ２次元（ｎＣｂＷ）×（ｎＣｂＨ）アレイｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱｓ及びｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰｓ，
－ 垂直エッジ（ＥＤＧＥ＿ＶＥＲ）又は水平エッジ（ＥＤＧＥ＿ＨＯＬ）がフィルタリング処理されるかどうかを示す変数ｅｄｇｅＴｙｐｅ
である。

このプロセスの出力は：
－ 変更された２次元（ｎＣｂＷ）×（ｎＣｂＨ）アレイｅｄｇｅＦｌａｇｓ，
－ 変更された２次元（ｎＣｂＷ）×（ｎＣｂＨ）アレイｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱｓ及びｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰｓ
である。

水平方向におけるコーディングサブブロックの数ｎｕｍＳｂＸ及び垂直方向におけるコーディングサブブロックの数ｎｕｍＳｂＹは、次のように導出される：
－ ｉｎｔｅｒ＿ａｆｆｉｎｅ＿ｆｌａｇ［ｘＣｂ］［ｙＣｂ］が１に等しいか、あるいは、ｍｅｒｇｅ＿ｓｕｂｂｌｏｃｋ＿ｆｌａｇ［ｘＣｂ］［ｙＣｂ］が１に等しい場合に、ｎｕｍＳｂＸ及びｎｕｍＳｂＹは、ＮｕｍｂＳｂＸ［ｘＣｂ］［ｙＣｂ］及びＮｕｍｂＳｂＹ［ｘＣｂ］［ｙＣｂ］に夫々等しくセットされる。
－ 上記以外の場合に、ｎｕｍＳｂＸ及びｎｕｍＳｂＹは両方とも１に等しくセットされる。

ｅｄｇｅＴｙｐｅの値に応じて、次が適用される：
－ ｅｄｇｅＴｙｐｅがＥＤＧＥ＿ＶＥＲに等しい場合に、次が適用される：
－ 変数ｓｂＷはＭａｘ（８，ｎＣｂＷ／ｎｕｍＳｂＸ）に等しくセットされる。
－ アレイｅｄｇｅＴｂＦｌａｇｓはｅｄｇｅＦｌａｇｓに等しくセットされる。
－ ｘＥｄｇｅ＝０．．ｍｉｎ（（ｎＣｂＷ／８）－１，ｎｕｍＳｂＸ－１）、ｙ＝０．．ｎＣｂＨ－１について：
－ 現在のコーディングブロック内の水平位置ｘはｘＥｄｇｅ×ｓＢＷに等しくセットされる。
－ ｅｄｇｅＦｌａｇｓ［ｘ］［ｙ］の値は次のように導出される：
－ ｐｐｓ＿ｌｏｏｐ＿ｆｌｔｅｒ＿ａｃｒｏｓｓ＿ｖｉｒｔｕａｌ＿ｂｏｕｎｄａｒｉｅｓ＿ｄｉｓａｂｌｅｄ＿ｆｌａｇが１に等しく、ｘがいずれかのｎ＝０．．ｐｐｓ＿ｎｕｍ＿ｖｅｒ＿ｖｉｒｔｕａｌ＿ｂｏｕｎｄａｒｉｅｓ－１についてＰｐｓＶｉｒｔｕａｌＢｏｕｎｄａｒｉｅｓＰｏｓＸ［ｎ］に等しい場合に、次が適用される：

－ そうでない場合には、次が適用される：

－ ｅｄｇｅＦｌａｇｓ［ｘ］［ｙ］が１に等しいとき、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰｓ［ｘ］［ｙ］及びｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱｓ［ｘ］［ｙ］の値は、次のように変更される：
－ ｘが０に等しい場合に、次が適用される：
－ ｎｕｍＳｂＸが１よりも多いとき、次が適用される：

－ ｉｎｔｅｒ＿ａｆｆｉｎｅ＿ｆｌａｇ［ｘＣｂ－１］［ｙＣｂ］が１に等しいか、あるいは、ｍｅｒｇｅ＿ｓｕｂｂｌｏｃｋ＿ｆｌａｇ［ｘＣｂ－１］［ｙＣｂ］が１に等しいとき、次が適用される：

－ そうではなく、ｅｄｇｅＴｂＦｌａｇｓ［ｘ］［ｙ］が１に等しい場合に、次が適用される：

－ そうではなく、次の条件：
－ （ｘ＋４）がｎＣｂＷ以上である，
－ ｅｄｇｅＴｂＦｌａｇｓ［ｘ－４］［ｙ］が１に等しい，
－ ｅｄｇｅＴｂＦｌａｇｓ［ｘ＋４］［ｙ］が１に等しい
のうちの１つ以上が真である場合に、次が適用される：

－ そうではなく、次の条件：
－ ｘＥｄｇｅが１に等しい，
－ ｘＥｄｇｅが（ｎＣｂＷ／８）－１に等しい，
－ ｅｄｇｅＴｂＦｌａｇｓ［ｘ－ｓｂＷ］［ｙ］が１に等しい，
－ ｅｄｇｅＴｂＦｌａｇｓ［ｘ＋ｓｂＷ］［ｙ］が１に等しい
のうちの１つ以上が真である場合に、次が適用される：

－ 上記以外の場合には、次が適用される：

－ そうではなく、ｅｄｇｅＴｙｐｅがＥＤＧＥ＿ＨＯＲである場合に、次が適用される：
－ 変数ｓｂＨはＭａｘ（８，ｎＣｂＨ／ｎｕｍＳｂＹ）に等しくセットされる。
－ アレイｅｄｇｅＴｂＦｌａｇｓはｅｄｇｅＦｌａｇｓに等しくセットされる。
－ ｙＥｄｇｅ＝０．．ｍｉｎ（（ｎＣｂＨ／８）－１，ｎｕｍＳｂＹ－１）、ｘ＝０．．ｎＣｂＷ－１について：
－ 現在のコーディングブロック内の垂直位置ｙはｙＥｄｇｅ×ｓＢＨに等しくセットされる。
－ ｅｄｇｅＦｌａｇｓ［ｘ］［ｙ］の値は次のように導出される：
－ ｐｐｓ＿ｌｏｏｐ＿ｆｌｔｅｒ＿ａｃｒｏｓｓ＿ｖｉｒｔｕａｌ＿ｂｏｕｎｄａｒｉｅｓ＿ｄｉｓａｂｌｅｄ＿ｆｌａｇが１に等しく、ｙがいずれかのｎ＝０．．ｐｐｓ＿ｎｕｍ＿ｈｏｒ＿ｖｉｒｔｕａｌ＿ｂｏｕｎｄａｒｉｅｓ－１についてＰｐｓＶｉｒｔｕａｌＢｏｕｎｄａｒｉｅｓＰｏｓＹ［ｎ］に等しい場合に、次が適用される：

－ そうでない場合には、次が適用される：

－ ｅｄｇｅＦｌａｇｓ［ｘ］［ｙ］が１に等しいとき、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰｓ［ｘ］［ｙ］及びｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱｓ［ｘ］［ｙ］の値は、次のように変更される：
－ ｙが０に等しく、ｅｄｇｅＦｌａｇｓ［ｘ］［ｙ］が１に等しい場合に、次が適用される：
－ ｎｕｍＳｂＹが１よりも多いとき、次が適用される：

－ ｉｎｔｅｒ＿ａｆｆｉｎｅ＿ｆｌａｇ［ｘＣｂ］［ｙＣｂ－１］が１に等しいか、あるいは、ｍｅｒｇｅ＿ｓｕｂｂｌｏｃｋ＿ｆｌａｇ［ｘＣｂ］［ｙＣｂ－１］が１に等しいとき、次が適用される：

－ そうではなく、ｅｄｇｅＴｂＦｌａｇｓ［ｘ］［ｙ］が１に等しい場合に、次が適用される：

－ そうではなく、次の条件：
－ （ｙ＋４）がｎＣｂＨ以上である，
－ ｅｄｇｅＴｂＦｌａｇｓ［ｘ］［ｙ－４］が１に等しい，
－ ｅｄｇｅＴｂＦｌａｇｓ［ｘ］［ｙ＋４］が１に等しい
のうちの１つ以上が真である場合に、次が適用される：

－ そうではなく、次の条件：
－ ｙＥｄｇｅが１に等しい，
－ ｙＥｄｇｅが（ｎＣｂＨ／８）－１に等しい，
－ ｅｄｇｅＴｂＦｌａｇｓ［ｘ］［ｙ－ｓｂＨ］が１に等しい，
－ ｅｄｇｅＴｂＦｌａｇｓ［ｘ］［ｙ＋ｓｂＨ］が１に等しい
のうちの１つ以上が真である場合に、次が適用される：

－ 上記以外の場合には、次が適用される：

［２．２．１．５ 境界フィルタリング強さの導出プロセス］
このプロセスへの入力は：
－ ピクチャサンプルアレイｒｅｃＰｉｃｔｕｒｅ，
－ 現在のピクチャの左上サンプルに対して現在のコーディングブロックの左上サンプルを指定する位置（ｘＣｂ，ｙＣｂ），
－ 現在のコーディングブロックの幅を示す変数ｎＣｂＷ，
－ 現在のコーディングブロックの高さを示す変数ｎＣｂＨ，
－ 垂直エッジ（ＥＤＧＥ＿ＶＥＲ）又は水平エッジ（ＥＤＧＥ＿ＨＯＬ）がフィルタリング処理されるかどうかを示す変数ｅｄｇｅＴｙｐｅ，
－ 現在のコーディングブロックの色成分を示す変数ｃＩｄｘ，
－ ２次元（ｎＣｂＷ）×（ｎＣｂＨ）アレイｅｄｇｅＦｌａｇｓ
である。

このプロセスの出力は、境界フィルタリング強さを示す２次元（ｎＣｂＷ）×（ｎＣｂＨ）アレイｂＳである。

変数ｘＤ_ｉ、ｙＤ_ｊ、ｘＮ及びｙＮは、次のように導出される：
－ 変数ｇｒｉｄＳｉｚｅは、次のようにセットされる：

－ ｅｄｇｅＴｙｐｅがＥＤＧＥ＿ＶＥＲに等しい場合、

－ そうではない場合（ｅｄｇｅＴｙｐｅがＥＤＧＥ＿ＨＯＲである場合）、

ｘＤ_ｉ（ｉ＝０．．ｘＮ）及びｙＤ_ｊ（ｊ＝０．．ｙＮ）について、次が適用される：
－ ｅｄｇｅＦｌａｇｓ［ｘＤ_ｉ］［ｙＤ_ｊ］が０に等しい場合に、変数ｂＳ［ｘＤ_ｉ］［ｙＤ_ｊ］は０に等しくセットされる。
－ そうでない場合には、次が適用される：
－ サンプル値ｐ_０及びｑ_０は、次のように導出される：
－ ｅｄｇｅＴｙｐｅがＥＤＧＥ＿ＶＥＲに等しい場合、ｐ_０はｒｅｃＰｉｃｔｕｒｅ［ｘＣｂ＋ｘＤ_ｉ－１］［ｙＣｂ＋ｙＤ_ｊ］に等しくセットされ、ｑ_０はｒｅｃＰｉｃｔｕｒｅ［ｘＣｂ＋ｘＤ_ｉ］［ｙＣｂ＋ｙＤ_ｊ］に等しくセットされる。
－ そうでない場合（ｅｄｇｅＴｙｐｅがＥＤＧＥ＿ＨＯＲである場合）、ｐ_０はｒｅｃＰｉｃｔｕｒｅ［ｘＣｂ＋ｘＤ_ｉ］［ｙＣｂ＋ｙＤ_ｊ－１］に等しくセットされ、ｑ_０はｒｅｃＰｉｃｔｕｒｅ［ｘＣｂ＋ｘＤ_ｉ］［ｙＣｂ＋ｙＤ_ｊ］に等しくセットされる。
－ 変数ｂＳ［ｘＤ_ｉ］［ｙＤ_ｊ］は、次のように導出される：
－ ｃＩｄｘが０に等しく、サンプルｐ０及びｑ０の両方が、１に等しいｉｎｔｒａ＿ｂｄｐｃｍ＿ｆｌａｇを有するコーディングブロックにある場合に、ｂＳ［ｘＤ_ｉ］［ｙＤ_ｊ］は０に等しくセットされる。
－ そうではなく、サンプルｐ_０又はｑ_０が、イントラ予測モードデコーディングされたコーディングユニットのコーディングブロックにある場合に、ｂＳ［ｘＤ_ｉ］［ｙＤ_ｊ］は２に等しくセットされる。
－ そうではなく、ブロックエッジが変換ブロックエッジでもあり、サンプルｐ_０又はｑ_０が、１に等しいｃｌｉｐ＿ｆｌａｇを有するコーディングブロックにある場合に、ｂＳ［ｘＤ_ｉ］［ｙＤ_ｊ］は２に等しくセットされる。
－ そうではなく、ブロックエッジが変換ブロックエッジでもあり、サンプルｐ_０又はｑ_０が、１つ以上の非ゼロ変換係数レベルを含む変換ブロックにある場合に、ｂＳ［ｘＤ_ｉ］［ｙＤ_ｊ］は１に等しくセットされる。
－ そうではなく、ブロックエッジが変換ブロックエッジでもあり、ｃＩｄｘが０よりも大きく、サンプルｐ_０又はｑ_０が、１に等しいｔｕ＿ｊｏｉｎｔ＿ｃｂｃｒ＿ｒｅｓｉｄｕａｌ＿ｆｌａｇを有する変換ユニットにある場合に、ｂＳ［ｘＤ_ｉ］［ｙＤ_ｊ］は１に等しくセットされる。
－ そうではなく、サンプルｐ_０を含むコーディングサブブロックの予測モードが、サンプルｑ_０を含むコーディングサブブロックの予測モードとは異なる（つまり、コーディングサブブロックの一方がＩＢＣ予測モードでコーディングされ、他方がインター予測モードでコーディングされる）場合に、ｂＳ［ｘＤ_ｉ］［ｙＤ_ｊ］は１に等しくセットされる。
－ そうではなく、ｃＩｄｘが０に等しく、次の条件
－ サンプルｐ_０を含むコーディングサブブロック及びサンプルｑ_０を含むコーディングサブブロックが両方ともＩＢＣ予測モードでコーディングされ、２つのコーディングサブブロックの予測で使用されるブロックベクトルの水平又は垂直成分の間の絶対差が、１／１６ルーマサンプルの単位で８以上である。
－ サンプルｐ_０を含むコーディングサブブロックの予測のために、サンプルｑ_０を含むコーディングサブブロックの予測のためとは異なる参照ピクチャ又は異なる数の動きベクトルが使用される。
注記１：２つのコーディングサブブロックに使用される参照ピクチャが同じであるか又は異なるかの決定は、どのピクチャが参照されるかにのみ基づき、参照ピクチャリスト０へのインデックス又は参照ピクチャリスト１へのインデックスを用いて予測が形成されるかどうかにも、参照ピクチャリスト内のインデックス位置が異なるかどうかにも無関係である。
注記２：（ｘＳｂ，ｙＳｂ）をカバーする左上サンプルを含むコーディングサブブロックの予測のために使用される動きベクトルの数は、ＰｒｅｄＦｌａｇＬ０［ｘＳｂ］［ｙＳｂ］＋ＰｒｅｄＦｌａｇＬ１［ｘＳｂ］［ｙＳｂ］に等しい。
－ １つの動きベクトルが、サンプルｐ_０を含むコーディングサブブロックを予測するために使用され、１つの動きベクトルが、サンプルｑ_０を含むコーディングサブブロックを予測するために使用され、使用される動きベクトルの水平又は垂直成分の間の絶対差が、１／１６ルーマサンプルの単位で８以上である。
－ ２つの動きベクトル及び２つの参照ピクチャが、サンプルｐ_０を含むコーディングサブブロックを予測するために使用され、同じ２つの参照ピクチャの２つの動きベクトルが、サンプルｑ_０を含むコーディングサブブロックを予測するために使用され、同じ参照ピクチャについて２つのコーディングサブブロックの予測で使用される２つの動きベクトルの水平又は垂直成分の間の絶対差が、１／１６ルーマサンプルの単位で８以上である。
－ 同じ参照ピクチャの２つの動きベクトルが、サンプルｐ_０を含むコーディングサブブロックを予測するために使用され、同じ参照ピクチャの２つの動きベクトルが、サンプルｑ_０を含むコーディングサブブロックを予測するために使用され、次の条件の両方が真である：
－ ２つのコーディングサブブロックの予測で使用されるリスト０動きベクトルの水平又は垂直成分の間の絶対差が、１／１６ルーマサンプルの単位で８以上であるか、あるいは、２つのコーディングサブブロックの予測で使用されるリスト１動きベクトルの水平又は垂直成分の間の絶対差が、１／１６ルーマサンプルの単位で８以上である。
－ サンプルｐ_０を含むコーディングサブブロックの予測で使用されるリスト０動きベクトルと、サンプルｑ_０を含むコーディングサブブロックの予測で使用されるリスト１動きベクトルとの水平又は垂直成分の間の絶対差が、１／１６ルーマサンプルの単位で８以上であるか、あるいは、サンプルｐ_０を含むコーディングサブブロックの予測で使用されるリスト１動きベクトルと、サンプルｑ_０を含むコーディングサブブロックの予測で使用されるリスト０動きベクトルとの水平又は垂直成分の間の絶対差が、１／１６ルーマサンプルの単位で８以上である。
のうちの１つ以上が真である場合に、ｂＳ［ｘＤ_ｉ］［ｙＤ_ｊ］は１に等しくセットされる。
－ 上記以外の場合に、変数ｂＳ［ｘＤ_ｉ］［ｙＤ_ｊ］は０に等しくセットされる。

［２．２．１．６ １つの方向のためのエッジフィルタリングプロセス］
このプロセスへの入力は：
－ 垂直エッジ（ＥＤＧＥ＿ＶＥＲ）又は水平エッジ（ＥＤＧＥ＿ＨＯＬ）がフィルタリング処理されるかどうかを示す変数ｅｄｇｅＴｙｐｅ，
－ 現在のコーディングブロックの色成分を示す変数ｃＩｄｘ，
－ デブロッキング前の再構成されたピクチャｒｅｃＰｉｃｔｕｒｅ，
－ 現在のピクチャの左上サンプルに対して現在のコーディングブロックの左上サンプルを指定する位置（ｘＣｂ，ｙＣｂ），
－ 現在のコーディングブロックの幅を示す変数ｎＣｂＷ，
－ 現在のコーディングブロックの高さを示す変数ｎＣｂＨ，
－ 境界強さを示すアレイｂＳ，
－ 変数ｆｉｌｔｅｒＥｄｇｅＦｌａｇ，
－ アレイｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰｓ及びｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱｓ
である。

このプロセスの出力は、デブロッキング後の変更された再構成されたピクチャｒｅｃＰｉｃｔｕｒｅである。

エッジフィルタリングプロセスのために、次が適用される：
－ 変数ｇｒｉｄＳｉｚｅは、次のようにセットされる：

－ 変数ｓｕｂＷ、ｓｕｂＨ、ｘＮ、ｙＮは、次のように導出される：

－ 変数ｘＤ_ｋ（ｋ＝０．．ｘＮ）及びｙＤ_ｍ（ｍ＝０．．ｙＮ）は、次のように導出される：

－ ｘＤ_ｋ（ｋ＝０．．ｘＮ）及びｙＤ_ｍ（ｍ＝０．．ｙＮ）について、次が適用される：
－ ｂＳ［ｘＤ_ｋ］［ｙＤ_ｍ］が０よりも大きい場合に、次の順序づけられたステップが適用される：
－ ｃＩｄｘが０に等しい場合に、現在のコーディングユニットのルーマコーディングブロック内のエッジに対するフィルタリングプロセスは、次の順序づけられたステップから成る：
１．第８．８．３．６．１節で定められているルーマブロックエッジに対する決定プロセスが、ルーマピクチャサンプルアレイｒｅｃＰｉｃｔｕｒｅ、ルーマコーディングブロックの位置（ｘＣｂ，ｙＣｂ）、（ｘＤ_ｋ，ｙＤ_ｍ）に等しくセットされたブロックのルーマ位置（ｘＢｌ，ｙＢｌ）、エッジ方向ｅｄｇｅＴｙｐｅ、境界フィルタリング強さｂＳ［ｘＤ_ｋ］［ｙＤ_ｍ］、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰｓ［ｘＤ_ｋ］［ｙＤ_ｍ］に等しくセットされた最大フィルタ長さｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰ、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱｓ［ｘＤ_ｋ］［ｙＤ_ｍ］に等しくセットされた最大フィルタ長さｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱを入力として、決定ｄＥ、ｄＥｐ及びｄＥｑ、変更された最大フィルタ長さｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰ及びｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱ、並びに変数ｔ_Ｃを出力として用いて、呼び出される。
２．第８．８．３．６．２節で定められているブロックエッジのためのフィルタリングプロセスが、ルーマピクチャサンプルアレイｒｅｃＰｉｃｔｕｒｅ、ルーマコーディングブロックの位置（ｘＣｂ，ｙＣｂ）、（ｘＤ_ｋ，ｙＤ_ｍ）に等しくセットされたブロックのルーマ位置（ｘＢｌ，ｙＢｌ）、エッジ方向ｅｄｇｅＴｙｐｅ、決定ｄＥ、ｄＥｐ及びｄＥｑ、最大フィルタ長さｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰ及びｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱ、並びに変数ｔ_Ｃを入力として、変更されたルーマピクチャサンプルアレイｒｅｃＰｉｃｔｕｒｅを出力として用いて、呼び出される。
－ そうではない場合（ｃＩｄｘが０に等しくない場合）に、ｃＩｄｘによって指定される現在のコーディングユニットのクロマコーディングブロック内のエッジに対するフィルタリングプロセスは、次の順序づけられたステップから成る：
１．変数ｃＱｐＰｉｃＯｆｆｓｅｔが次のように導出される：

２．第８．８．３．６．３節で定められているクロマブロックエッジのための決定プロセスが、クロマピクチャサンプルアレイｒｅｃＰｉｃｔｕｒｅ、クロマコーディングブロックの位置（ｘＣｂ，ｙＣｂ）、（ｘＤ_ｋ，ｙＤ_ｍ）に等しくセットされたクロマのルーマ位置（ｘＢｌ，ｙＢｌ）、エッジ方向ｅｄｇｅＴｙｐｅ、変数ｃＩｄｘ、変数ｃＱｐＰｉｃＯｆｆｓｅｔ、境界フィルタリング強さｂＳ［ｘＤ_ｋ］［ｙＤ_ｍ］、及びｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰｓ［ｘＤ_ｋ］［ｙＤ_ｍ］に等しくセットされた変数ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＣｂＣｒを入力として、変更された変数ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＣｂＣｒ、及び変数ｔ_Ｃを出力として用いて、呼び出される。
３．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＣｂＣｒが０よりも大きいとき、第８．８．３．６．４節で定められているクロマブロックエッジのためのフィルタリングプロセスが、クロマピクチャサンプルアレイｒｅｃＰｉｃｔｕｒｅ、クロマコーディングブロックの位置（ｘＣｂ，ｙＣｂ）、（ｘＤ_ｋ，ｙＤ_ｍ）に等しくセットされたブロックのクロマ位置（ｘＢｌ，ｙＢｌ）、エッジ方向ｅｄｇｅＴｙｐｅ、変数ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＣｂＣｒ、及び変数ｔ_Ｃを入力として、変更されたクロマピクチャサンプルアレイｒｅｃＰｉｃｔｕｒｅを出力として用いて、呼び出される。

［２．２．１．６．１ ルーマブロックエッジのための決定プロセス］
このプロセスへの入力は：
－ ピクチャサンプルアレイｒｅｃＰｉｃｔｕｒｅ，
－ 現在のピクチャの左上サンプルに対して現在のコーディングブロックの左上サンプルを指定する位置（ｘＣｂ，ｙＣｂ），
－ 現在のコーディングブロックの左上サンプルに対する現在のブロックの左上サンプルを指定する位置（ｘＢｌ，ｙＢｌ），
－ 垂直エッジ（ＥＤＧＥ＿ＶＥＲ）又は水平エッジ（ＥＤＧＥ＿ＨＯＬ）がフィルタリング処理されるかどうかを示す変数ｅｄｇｅＴｙｐｅ，
－ 境界フィルタリング強さを示す変数ｂＳ，
－ 最大フィルタ長さを示す変数ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰ，
－ 最大フィルタ長さを示す変数ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱ
である。

このプロセスの出力は：
－ 決定を含む変数ｄＥ、ｄＥｐ及びｄＥｑ，
－ 変更されたフィルタ長さ変数ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰ及びｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱ，
－ 変数ｔ_Ｃ
である。

サンプル値ｐ_ｉ，ｋ及びｑ_ｊ，ｋ（ｉ＝０．．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰ、ｊ＝０．．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱ、ｋ＝０及び３）は、次のように導出される：
－ ｅｄｇｅＴｙｐｅがＥＤＧＥ＿ＶＥＲに等しい場合に、次が適用される：

－ そうでない場合（ｅｄｇｅＴｙｐｅがＥＤＧＥ＿ＨＯＲに等しい場合）、次が適用される：

変数ｑｐＯｆｆｓｅｔは、次のように導出される：
－ ｓｐｓ＿ｌａｄｆ＿ｅｎａｂｌｅｄ＿ｆｌａｇが１に等しい場合に、次が適用される：
－ 再構成されたルーマレベルの変数ｌｕｍａＬｅｖｅｌは、次のように導出される：

－ 変数ｑｐＯｆｆｓｅｔは、ｓｐｓ＿ｌａｄｆ＿ｌｏｗｅｓｔ＿ｉｎｔｅｒｖａｌ＿ｑｐ＿ｏｆｆｓｅｔに等しくセットされ、次のように変更される：

－ 上記以外の場合に、ｑｐＯｆｆｓｅｔは０に等しくセットされる。

変数Ｑｐ_Ｑ及びＱｐ_Ｐは、夫々サンプルｑ_０，０及びｐ_０，０を含むコーディングブロックを含むコーディングユニットのＱｐ_Ｙ値に等しくセットされる。変数ｑＰは、次のように導出される。

変数β’の値は、次のように導出された量子化パラメータＱに基づき表８－１８で指定されるように決定される：

ここで、ｓｌｉｃｅ＿ｂｅｔａ＿ｏｆｆｓｅｔ＿ｄｉｖ２は、サンプルｑ_０，０を含むスライスについてのシンタックス要素ｓｌｉｃｅ＿ｂｅｔａ＿ｏｆｆｓｅｔ＿ｄｉｖ２の値である。

変数βは、次のように導出される：

変数ｔ_Ｃ’の値は、次のように導出された量子化パラメータＱに基づき表８－１８で指定されるように決定される：

ここで、ｓｌｉｃｅ＿ｔｃ＿ｏｆｆｓｅｔ＿ｄｉｖ２は、サンプルｑ_０，０を含むスライスについてのシンタックス要素ｓｌｉｃｅ＿ｔｃ＿ｏｆｆｓｅｔ＿ｄｉｖ２の値である。

変数ｔ_Ｃは、次のように導出される：

次の順序づけられたステップが適用される：
１．変数ｄｐ０、ｄｐ３、ｄｑ０、及びｄｑ３が、次のように導出される：

２．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰ及びｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱが両方とも３以上であるとき、変数ｓｐ０、ｓｑ０、ｓｐｑ０、ｓｐ３、ｓｑ３、及びｓｐｑ３が、次のように導出される：

３．変数ｓｉｄｅＰｉｓＬａｒｇｅＢｌｋ及びｓｉｄｅＱｉｓＬａｒｇｅＢｌｋが０に等しくセットされる。
４．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰが３よりも大きいとき、ｓｉｄｅＰｉｓＬａｒｇｅＢｌｋは１に等しくセットされる。
５．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱが３よりも大きいとき、ｓｉｄｅＱｉｓＬａｒｇｅＢｌｋは１に等しくセットされる。
６．ｅｄｇｅＴｙｐｅがＥＤＧＥ＿ＨＯＲであり、（ｙＣｂ＋ｙＢｌ）％ＣｔｂＳｉｚｅＹが０に等しいとき、ｓｉｄｅＰｉｓＬａｒｇｅＢｌｋは０に等しくセットされる。
７．変数ｄＳａｍ０及びｄＳａｍ３が０に初期化される。
８．ｓｉｄｅＰｉｓＬａｒｇｅＢｌｋ又はｓｉｄｅＱｉｓＬａｒｇｅＢｌｋが０よりも大きいとき、次が適用される：
ａ．変数ｑｐ０Ｌ、ｄｐ３Ｌが導出され、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰは次のように変更される：
－ ｓｉｄｅＰｉｓＬａｒｇｅＢｌｋが１に等しい場合に、次が適用される：

－ 上記以外の場合に、次が適用される：

ｂ．変数ｄｑ０Ｌ及びｄｑ３Ｌは、次のように導出される：
－ ｓｉｄｅＱｉｓＬａｒｇｅＢｌｋが１に等しい場合に、次が適用される：

－ 上記以外の場合に、次が適用される：

ｃ．変数ｄｐｑ０Ｌ、ｄｐｑ３Ｌ、及びｄＬは、次のように導出される：

ｄ．ｄＬがβよりも小さいとき、次の順序づけられたステップが適用される：
ｉ．変数ｄｐｑが２×ｄｐｑ０Ｌに等しくセットされる。
ｉｉ．変数ｓｐがｓｐ０に等しくセットされ、変数ｓｑがｓｑ０に等しくセットされ、変数ｓｐｑがｓｐｑ０に等しくセットされる。
ｉｉｉ．変数ｐ_０、ｐ_３、ｑ_０及びｑ_３は最初に０に初期化され、次いで、次のように、ｓｉｄｅＰｉｓＬａｒｇｅＢｌｋ及びｓｉｄｅＱｉｓＬａｒｇｅＢｌｋに従って変更される：
－ ｓｉｄｅＰｉｓＬａｒｇｅＢｌｋが１に等しいとき、次が適用される：

－ ｓｉｄｅＱｉｓＬａｒｇｅＢｌｋが１に等しいとき、次が適用される：

ｉｖ．サンプル位置（ｘＣｂ＋ｘＢｌ，ｙＣｂ＋ｙＢｌ）について、第８．８．３．６．５節で指定されるようなルーマサンプルのための決定プロセスが、サンプル値ｐ_０、ｐ_３、ｑ_０及びｑ_３、変数ｄｐｑ、ｓｐ、ｓｑ、ｓｐｑ、ｓｉｄｅＰｉｓＬａｒｇｅＢｌｋ、ｓｉｄｅＱｉｓＬａｒｇｅＢｌｋ、β、及びｔ_Ｃを入力として用いて呼び出され、出力が、決定ｄＳａｍ０に割り当てられる。
ｖ．変数ｄｐｑが２×ｄｐｑ３Ｌに等しくセットされる。
ｖｉ．変数ｓｐがｓｐ３に等しくセットされ、変数ｓｑがｓｑ３に等しくセットされ、変数ｓｐｑがｓｐｑ３に等しくセットされる。
ｖｉｉ．変数ｐ_０、ｐ_３、ｑ_０及びｑ_３は最初に０に初期化され、次いで、次のように、ｓｉｄｅＰｉｓＬａｒｇｅＢｌｋ及びｓｉｄｅＱｉｓＬａｒｇｅＢｌｋに従って変更される：
－ ｓｉｄｅＰｉｓＬａｒｇｅＢｌｋが１に等しいとき、次が適用される：

－ ｓｉｄｅＱｉｓＬａｒｇｅＢｌｋが１に等しいとき、次が適用される：

ｖｉｉｉ．サンプル位置（ｘＣｂ＋ｘＢｌ，ｙＣｂ＋ｙＢｌ＋３）についてｅｄｇｅＴｙｐｅがＥＤＧＥ＿ＶＥＲに等しいとき、又はサンプル位置（ｘＣｂ＋ｘＢｌ＋３，ｙＣｂ＋ｙＢｌ）についてｅｄｇｅＴｙｐｅがＥＤＧＥ＿ＨＯＲに等しいとき、第８．８．３．６．５節で指定されるようなルーマサンプルのための決定プロセスが、サンプル値ｐ_０、ｐ_３、ｑ_０及びｑ_３、変数ｄｐｑ、ｓｐ、ｓｑ、ｓｐｑ、ｓｉｄｅＰｉｓＬａｒｇｅＢｌｋ、ｓｉｄｅＱｉｓＬａｒｇｅＢｌｋ、β、及びｔ_Ｃを入力として用いて呼び出され、出力が、決定ｄＳａｍ３に割り当てられる。
９．変数ｄＥ、ｄＥｐ及びｄＥｑが次のように導出される：
－ ｄＳａｍ０及びｄＳａｍ３が両方とも１に等しい場合に、変数ｄＥは３に等しくセットされ、ｄＥｐは１に等しくセットされ、ｄＥｑは１に等しくセットされる。
－ 上記以外の場合には、次の順序づけられたステップが適用される：
ａ．変数ｄｐｑ０、ｄｐｑ３、ｄｐ、ｄｑ及びｄが、次のように導出される：

ｂ．変数ｄＥ、ｄＥｐ、ｄＥｑ、ｓｉｄｅＰｉｓＬａｒｇｅＢｌｋ、及びｓｉｄｅＱｉｓＬａｒｇｅＢｌｋが、０に等しくセットされる。
ｃ．ｄがβよりも小さく、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰ及びｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱが両方とも２よりも大きいとき、次の順序づけられたステップが適用される：
ｉ．変数ｄｐｑが２×ｄｐｑ０Ｌに等しくセットされる。
ｉｉ．変数ｓｐがｓｐ０に等しくセットされ、変数ｓｑがｓｑ０に等しくセットされ、変数ｓｐｑがｓｐｑ０に等しくセットされる。
ｉｉｉ．サンプル位置（ｘＣｂ＋ｘＢｌ，ｙＣｂ＋ｙＢｌ）について、第８．８．３．６．５節で指定されるようなルーマサンプルのための決定プロセスが、全て０に等しくセットされた変数ｐ_０、ｐ_３、ｑ_０及びｑ_３、変数ｄｐｑ、ｓｐ、ｓｑ、ｓｐｑ、ｓｉｄｅＰｉｓＬａｒｇｅＢｌｋ、ｓｉｄｅＱｉｓＬａｒｇｅＢｌｋ、β、及びｔ_Ｃを入力として用いて呼び出され、出力が、決定ｄＳａｍ０に割り当てられる。
ｉｖ．変数ｄｐｑが２×ｄｐｑ３Ｌに等しくセットされる。
ｖ．変数ｓｐがｓｐ３に等しくセットされ、変数ｓｑがｓｑ３に等しくセットされ、変数ｓｐｑがｓｐｑ３に等しくセットされる。
ｖｉ．サンプル位置（ｘＣｂ＋ｘＢｌ，ｙＣｂ＋ｙＢｌ＋３）についてｅｄｇｅＴｙｐｅがＥＤＧＥ＿ＶＥＲに等しいとき、又はサンプル位置（ｘＣｂ＋ｘＢｌ＋３，ｙＣｂ＋ｙＢｌ）についてｅｄｇｅＴｙｐｅがＥＤＧＥ＿ＨＯＲに等しいとき、第８．８．３．６．５節で指定されるようなルーマサンプルのための決定プロセスが、全て０に等しくセットされた変数ｐ_０、ｐ_３、ｑ_０及びｑ_３、変数ｄｐｑ、ｓｐ、ｓｑ、ｓｐｑ、ｓｉｄｅＰｉｓＬａｒｇｅＢｌｋ、ｓｉｄｅＱｉｓＬａｒｇｅＢｌｋ、β、及びｔ_Ｃを入力として用いて呼び出され、出力が、決定ｄＳａｍ３に割り当てられる。
ｄ．ｄがβよりも小さいとき、次の順序づけられたステップが適用される：
ｉ．変数ｄＥが１に等しくセットされる。
ｉｉ．ｄＳａｍ０が１に等しく、ｄＳａｍ３が１に等しいとき、変数ｄＥは２に等しくセットされる。
ｉｉｉ．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰが１よりも大きく、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱが１よりも大きく、ｄｐが（β＋（β＞＞１））＞＞３よりも小さいとき、変数ｄＥｐは１に等しくセットされる。
ｉｖ．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰが１よりも大きく、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱが１よりも大きく、ｄｐが（β＋（β＞＞１））＞＞３よりも小さいとき、変数ｄＥｑは１に等しくセットされる。

［２．２．１．６．２ ルーマブロックエッジのためのフィルタリングプロセス］
このプロセスへの入力は：
－ ピクチャサンプルアレイｒｅｃＰｉｃｔｕｒｅ，
－ 現在のピクチャの左上サンプルに対して現在のコーディングブロックの左上サンプルを指定する位置（ｘＣｂ，ｙＣｂ），
－ 現在のコーディングブロックの左上サンプルに対する現在のブロックの左上サンプルを指定する位置（ｘＢｌ，ｙＢｌ），
－ 垂直エッジ（ＥＤＧＥ＿ＶＥＲ）又は水平エッジ（ＥＤＧＥ＿ＨＯＬ）がフィルタリング処理されるかどうかを示す変数ｅｄｇｅＴｙｐｅ，
－ 決定を含む変数ｄＥ、ｄＥｐ、及びｄＥｑ，
－ 最大フィルタ長さを含む変数ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰ及びｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱ，
－ 変数ｔ_Ｃ
である。

このプロセスの出力は、変更されたピクチャサンプルアレイｒｅｃＰｉｃｔｕｒｅである。

ｅｄｇｅＴｙｐｅの値に応じて、次が適用される：
－ ｅｄｇｅＴｙｐｅがＥＤＧＥ＿ＶＥＲである場合に、次の順序づけられたステップが適用される：
１．サンプル値ｐ_ｉ，ｋ及びｑ_ｊ，ｋ（ｉ＝０．．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰ、ｊ＝０．．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱ、ｋ＝０．．３）は、次のように導出される：

２．ｄＥが０に等しくなく、ｄＥが３に等しくないとき、各サンプル位置（ｘＣｂ＋ｘＢｌ，ｙＣｂ＋ｙＢｌ＋ｋ）（ｋ＝０．．３）について、次の順序づけられたステップが適用される：
ａ．第８．８．３．６．６節で指定されているように短いフィルタを使用するルーマサンプルのためのフィルタリングプロセスは、サンプル値ｐ_ｉ，ｋ、ｑ_ｉ，ｋ（ｉ＝０．．３）、（ｘＣｂ＋ｘＢｌ－ｉ－１，ｙＣｂ＋ｙＢｌ＋ｋ）に等しくセットされた位置（ｘＰ_ｉ，ｙＰ_ｉ）及び（ｘＣｂ＋ｘＢｌ＋ｉ，ｙＣｂ＋ｙＢｌ＋ｋ）に等しくセットされた位置（ｘＱ_ｉ，ｙＱ_ｉ）（ｉ＝０．．２）、決定ｄＥ、変数ｄＥｐ及びｄＥｑ、並びに変数ｔ_Ｃを入力として、ブロック境界の夫々の側からのフィルタリングされたサンプルの数ｎＤｐ及びｎＤｑ並びにフィルタリングされたサンプル値ｐ_ｉ’及びｑ_ｊ’を出力として用いて、呼び出される。
ｂ．ｎＤｐが０よりも大きいとき、フィルタリングされたサンプル値ｐ_ｉ’（ｉ＝０．．ｎＤｐ－１）は、次のように、サンプルアレイｒｅｃＰｉｃｔｕｒｅ内の対応するサンプルを置換する：

ｃ．ｎＤｑが０よりも大きいとき、フィルタリングされたサンプル値ｑ_ｊ’（ｊ＝０．．ｎＤｑ－１）は、次のように、サンプルアレイｒｅｃＰｉｃｔｕｒｅ内の対応するサンプルを置換する：

３．ｄＥが３に等しいとき、各サンプル位置（ｘＣｂ＋ｘＢｌ，ｙＣｂ＋ｙＢｌ＋ｋ）（ｋ＝０．．３）について、次の順序づけられたステップが適用される：
ａ．第８．８．３．６．７節で指定されているように長いフィルタを使用するルーマサンプルのためのフィルタリングプロセスは、サンプル値ｐ_ｉ，ｋ、ｑ_ｊ，ｋ（ｉ＝０．．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰ及びｊ＝０．．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱ）、（ｘＣｂ＋ｘＢｌ－ｉ－１，ｙＣｂ＋ｙＢｌ＋ｋ）に等しくセットされた位置（ｘＰ_ｉ，ｙＰ_ｉ）及び（ｘＣｂ＋ｘＢｌ＋ｊ，ｙＣｂ＋ｙＢｌ＋ｋ）に等しくセットされた位置（ｘＱ_ｊ，ｙＱ_ｊ）（ｊ＝０．．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱ－１）、変数ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰ、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱ、及びｔ_Ｃを入力として、フィルタリングされたサンプル値ｐ_ｉ’及びｑ_ｊ’を出力として用いて、呼び出される。
ｂ．フィルタリングされたサンプル値ｐ_ｉ’（ｉ＝０．．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰ－１）は、次のように、サンプルアレイｒｅｃＰｉｃｔｕｒｅ内の対応するサンプルを置換する：

ｃ．フィルタリングされたサンプル値ｑ_ｊ’（ｊ＝０．．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱ－１）は、次のように、サンプルアレイｒｅｃＰｉｃｔｕｒｅ内の対応するサンプルを置換する：

－ そうではない場合（ｅｄｇｅＴｙｐｅがＥＤＧＥ＿ＨＯＲである場合）には、次の順序づけられたステップが適用される：
１．サンプル値ｐ_ｉ，ｋ及びｑ_ｊ，ｋ（ｉ＝０．．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰ、ｊ＝０．．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱ、ｋ＝０．．３）は、次のように導出される：

２．ｄＥが０に等しくなく、ｄＥが３に等しくないとき、各サンプル位置（ｘＣｂ＋ｘＢｌ＋ｋ，ｙＣｂ＋ｙＢｌ）（ｋ＝０．．３）について、次の順序づけられたステップが適用される：
ａ．第８．８．３．６．６節で指定されているように短いフィルタを使用するルーマサンプルのためのフィルタリングプロセスは、サンプル値ｐ_ｉ，ｋ、ｑ_ｉ，ｋ（ｉ＝０．．３）、（ｘＣｂ＋ｘＢｌ＋ｋ，ｙＣｂ＋ｙＢｌ－ｉ－１）に等しくセットされた位置（ｘＰ_ｉ，ｙＰ_ｉ）及び（ｘＣｂ＋ｘＢｌ＋ｋ，ｙＣｂ＋ｙＢｌ＋ｉ）に等しくセットされた位置（ｘＱ_ｉ，ｙＱ_ｉ）（ｉ＝０．．２）、決定ｄＥ、変数ｄＥｐ及びｄＥｑ、並びに変数ｔ_Ｃを入力として、ブロック境界の夫々の側からのフィルタリングされたサンプルの数ｎＤｐ及びｎＤｑ並びにフィルタリングされたサンプル値ｐ_ｉ’及びｑ_ｊ’を出力として用いて、呼び出される。
ｂ．ｎＤｐが０よりも大きいとき、フィルタリングされたサンプル値ｐ_ｉ’（ｉ＝０．．ｎＤｐ－１）は、次のように、サンプルアレイｒｅｃＰｉｃｔｕｒｅ内の対応するサンプルを置換する：

ｃ．ｎＤｑが０よりも大きいとき、フィルタリングされたサンプル値ｑ_ｊ’（ｊ＝０．．ｎＤｑ－１）は、次のように、サンプルアレイｒｅｃＰｉｃｔｕｒｅ内の対応するサンプルを置換する：

３．ｄＥが３に等しいとき、各サンプル位置（ｘＣｂ＋ｘＢｌ＋ｋ，ｙＣｂ＋ｙＢｌ）（ｋ＝０．．３）について、次の順序づけられたステップが適用される：
ａ．第８．８．３．６．７節で指定されているように長いフィルタを使用するルーマサンプルのためのフィルタリングプロセスは、サンプル値ｐ_ｉ，ｋ、ｑ_ｊ，ｋ（ｉ＝０．．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰ及びｊ＝０．．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱ）、（ｘＣｂ＋ｘＢｌ＋ｋ，ｙＣｂ＋ｙＢｌ－ｉ－１）に等しくセットされた位置（ｘＰ_ｉ，ｙＰ_ｉ）及び（ｘＣｂ＋ｘＢｌ＋ｋｙＣｂ＋ｙＢｌ＋ｊ）に等しくセットされた位置（ｘＱ_ｊ，ｙＱ_ｊ）（ｊ＝０．．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱ－１）、変数ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰ、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱ、及びｔ_Ｃを入力として、フィルタリングされたサンプル値ｐ_ｉ’及びｑ_ｊ’を出力として用いて、呼び出される。
ｂ．フィルタリングされたサンプル値ｐ_ｉ’（ｉ＝０．．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰ－１）は、次のように、サンプルアレイｒｅｃＰｉｃｔｕｒｅ内の対応するサンプルを置換する：

ｃ．フィルタリングされたサンプル値ｑ_ｊ’（ｊ＝０．．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱ－１）は、次のように、サンプルアレイｒｅｃＰｉｃｔｕｒｅ内の対応するサンプルを置換する：

［２．２．１．６．３ クロマブロックエッジのための決定プロセス］
このプロセスは、ＣｈｒｏｍａＡｒｒａｙＴｙｐｅが０に等しくないときにのみ呼び出される。

このプロセスへの入力は：
－ クロマピクチャサンプルアレイｒｅｃＰｉｃｔｕｒｅ，
－ 現在のピクチャの左上クロマサンプルに対して現在のクロマコーディングブロックの左上サンプルを指定するクロマ位置（ｘＣｂ，ｙＣｂ），
－ 現在のクロマコーディングブロックの左上サンプルに対する現在のクロマブロックの左上サンプルを指定するクロマ位置（ｘＢｌ，ｙＢｌ），
－ 垂直エッジ（ＥＤＧＥ＿ＶＥＲ）又は水平エッジ（ＥＤＧＥ＿ＨＯＬ）がフィルタリング処理されるかどうかを示す変数ｅｄｇｅＴｙｐｅ，
－ 色成分インデックスを示す変数ｃＩｄｘ，
－ ピクチャレベルのクロマ量子化パラメータオフセットを示す変数ｃＱｐＰｉｃＯｆｆｓｅｔ，
－ 境界フィルタリング強さを示す変数ｂＳ，
－ 変数ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＣｂＣｒ
である。

このプロセスの出力は：
－ 変更された変数ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＣｂＣｒ，
－ 変数ｔ_Ｃ
である。

変数ｍａｘＫが、次のように導出される：
－ ｅｄｇｅＴｙｐｅがＥＤＧＥ＿ＶＥＲに等しい場合に、次が適用される：

－ そうでない場合（ｅｄｇｅＴｙｐｅがＥＤＧＥ＿ＨＯＲである場合）には、次が適用される：

値ｐ_ｉ及びｑ_ｉ（ｉ＝０．．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＣｂＣｒ、ｋ＝０．．ｍａｘＫ）は、次のように導出される：
－ ｅｄｇｅＴｙｐｅがＥＤＧＥ＿ＶＥＲに等しい場合に、次が適用される：

－ そうでない場合（ｅｄｇｅＴｙｐｅがＥＤＧＥ＿ＨＯＲに等しい場合）、次が適用される：

変数Ｑｐ_Ｑ及びＱｐ_Ｐは、夫々サンプルｑ_０，０及びｐ_０，０を含むコーディングブロックを含むコーディングユニットのＱｐ_Ｙ値に等しくセットされる。

変数Ｑｐ_Ｃは、次のように導出される。

注記：変数ｃＱｐＰｉｃＯｆｆｓｅｔは、フィルタリング処理されたクロマ成分がＣｂ又はＣｒ成分であるかどうかに応じて、ｐｐｓ＿ｃｂ＿ｑｐ＿ｏｆｆｓｅｔ又はｐｐｓ＿ｃｒ＿ｑｐ＿ｏｆｆｓｅｔの値を調整する。しかし、ピクチャ内の調整の量を変更する必要性を回避するために、フィルタリングプロセスは、ｓｌｉｃｅ＿ｃｂ＿ｑｐ＿ｏｆｆｓｅｔ又はｓｌｉｃｅ＿ｃｒ＿ｑｐ＿ｏｆｆｓｅｔの値の調整も、（ｃｕ＿ｃｈｒｏｍａ＿ｑｐ＿ｏｆｆｓｅｔ＿ｅｎａｂｌｅｄ＿ｆｌａｇが１に等しいときに）ＣｕＱｐＯｆｆｓｅｔ_Ｃｂ、ＣｕＱｐＯｆｆｓｅｔ_Ｃｒ、又はＣｕＱｐＯｆｆｓｅｔ_ＣｂＣｒの値の調整も含まない。

変数β’の値は、次のように導出された量子化パラメータＱに基づき表８－１８で指定されるように決定される：

ここで、ｓｌｉｃｅ＿ｂｅｔａ＿ｏｆｆｓｅｔ＿ｄｉｖ２は、サンプルｑ_０，０を含むスライスについてのシンタックス要素ｓｌｉｃｅ＿ｂｅｔａ＿ｏｆｆｓｅｔ＿ｄｉｖ２の値である。

変数βは、次のように導出される：

変数ｔ_Ｃ’の値は、次のように導出された量子化パラメータＱに基づき表８－１８で指定されるように決定される：

ここで、ｓｌｉｃｅ＿ｔｃ＿ｏｆｆｓｅｔ＿ｄｉｖ２は、サンプルｑ_０，０を含むスライスについてのシンタックス要素ｓｌｉｃｅ＿ｔｃ＿ｏｆｆｓｅｔ＿ｄｉｖ２の値である。

変数ｔ_Ｃは、次のように導出される：

ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＣｂＣｒが１に等しく、ｂＳが２に等しくないとき、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＣｂＣｒは０に等しくセットされる。

ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＣｂＣｒが３に等しいとき、次の順序づけられたステップが適用される：
１．変数ｎ１、ｄｐｑ０、ｄｐｑ１、ｄｑ、ｄｑ及びｄが、次のように導出される：

２．変数ｄＳａｍ０及びｄＳａｍ１が両方とも０に等しくセットされる。
３．変数ｄがβよりも小さいとき、次の順序づけられたステップが適用される：
ａ．変数ｄｐｑが２×ｄｐｑ０に等しくセットされる。
ｂ．変数ｄＳａｍ０が、サンプル位置（ｘＣｂ＋ｘＢｌ，ｙＣｂ＋ｙＢｌ）について第８．８．３．６．８節で指定されているクロマサンプルのための決定プロセスを、サンプル値ｐ_０，０、ｐ_３，０、ｑ_０，０及びｑ_３，０、変数ｄｐｑ、β、及びｔＣを入力として用いて呼び出すことによって、導出され、出力が、決定ｄＳａｍ０に割り当てられる。
ｃ．変数ｄｐｑが２×ｄｐｑ１に等しくセットされる。
ｄ．変数ｄＳａｍ１が次のように変更される：
－ サンプル位置（ｘＣｂ＋ｘＢｌ，ｙＣｂ＋ｙＢｌ＋ｎ１）についてｅｄｇｅＴｙｐｅがＥＤＧＥ＿ＶＥＲに等しいとき、第８．８．３．６．８節で指定されるようなクロマサンプルのための決定プロセスが、サンプル値ｐ_０，ｎ１、ｐ_３，ｎ１、ｑ_０，ｎ１及びｑ_３，ｎ１、変数ｄｐｑ、β、及びｔ_Ｃを入力として用いて呼び出され、出力が、決定ｄＳａｍ１に割り当てられる。
－ そうでない場合（ｅｄｇｅＴｙｐｅがＥＤＧＥ＿ＨＯＲに等しい場合）には、サンプル位置（ｘＣｂ＋ｘＢｌ＋ｎ１，ｙＣｂ＋ｙＢｌ）について、第８．８．３．６．８節で指定されるようなクロマサンプルのための決定プロセスが、サンプル値ｐ_０，ｎ１、ｐ_３，ｎ１、ｑ_０，ｎ１及びｑ_３，ｎ１、変数ｄｐｑ、β、及びｔ_Ｃを入力として用いて呼び出され、出力が、決定ｄＳａｍ１に割り当てられる。
４．変数ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＣｂＣｒは、次のように変更される：
－ ｄＳａｍ０が１に等しく、ｄＳａｍ１が１に等しい場合に、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＣｂＣｒは３に等しくセットされる。
－ そうでない場合には、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＣｂＣｒは１に等しくセットされる。

［２．２．１．６．４ クロマブロックエッジのためのフィルタリングプロセス］
このプロセスは、ＣｈｒｏｍａＡｒｒａｙＴｙｐｅが０に等しくないときにのみ呼び出される。

このプロセスへの入力は：
－ クロマピクチャサンプルアレイｒｅｃＰｉｃｔｕｒｅ，
－ 現在のピクチャの左上クロマサンプルに対して現在のクロマコーディングブロックの左上サンプルを指定するクロマ位置（ｘＣｂ，ｙＣｂ），
－ 現在のクロマコーディングブロックの左上サンプルに対する現在のクロマブロックの左上サンプルを指定するクロマ位置（ｘＢｌ，ｙＢｌ），
－ 垂直エッジ（ＥＤＧＥ＿ＶＥＲ）又は水平エッジ（ＥＤＧＥ＿ＨＯＬ）がフィルタリング処理されるかどうかを示す変数ｅｄｇｅＴｙｐｅ，
－ 最大クロマフィルタ長さを含む変数ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＣｂＣｒ，
－ 変数ｔ_Ｃ
である。

このプロセスの出力は、変更されたクロマピクチャサンプルアレイｒｅｃＰｉｃｔｕｒｅである。

変数ｍａｘＫが、次のように導出される：
－ ｅｄｇｅＴｙｐｅがＥＤＧＥ＿ＶＥＲに等しい場合に、次が適用される：

－ そうでない場合（ｅｄｇｅＴｙｐｅがＥＤＧＥ＿ＨＯＲである場合）には、次が適用される：

値ｐ_ｉ及びｑ_ｉ（ｉ＝０．．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＣｂＣｒ、ｋ＝０．．ｍａｘＫ）は、次のように導出される：
－ ｅｄｇｅＴｙｐｅがＥＤＧＥ＿ＶＥＲに等しい場合に、次が適用される：

－ そうでない場合（ｅｄｇｅＴｙｐｅがＥＤＧＥ＿ＨＯＲに等しい場合）、次が適用される：

ｅｄｇｅＴｙｐｅの値に応じて、次が適用される：
－ ｅｄｇｅＴｙｐｅがＥＤＧＥ＿ＶＥＲに等しい場合に、各サンプル位置（ｘＣｂ＋ｘＢｌ，ｙＣｂ＋ｙＢｌ＋ｋ）、ｋ＝０．．ｍａｘＫについて、次の順序づけられたステップが適用される：
１．第８．８．３．６．９節で指定されているようなクロマサンプルのためのフィルタリングプロセスは、変数ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＣｂＣｒ、サンプル値ｐ_ｉ，ｋ、ｑ_ｉ，ｋ（ｉ＝０．．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＣｂＣｒ）、位置（ｘＣｂ＋ｘＢｌ－ｉ－１，ｙＣｂ＋ｙＢｌ＋ｋ）及び（ｘＣｂ＋ｘＢｌ＋ｉ，ｙＣｂ＋ｙＢｌ＋ｋ）（ｉ＝０．．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＣｂＣｒ－１）、並びに変数ｔ_Ｃを入力として、フィルタリングされたサンプル値ｐ_ｉ’及びｑ_ｉ’（ｉ＝０．．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＣｂＣｒ－１）を出力として用いて、呼び出される。
２．フィルタリングされたサンプル値ｐ_ｉ’及びｑ_ｉ’（ｉ＝０．．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＣｂＣｒ－１）は、次のように、サンプルアレイｒｅｃＰｉｃｔｕｒｅ内の対応するサンプルを置換する：

－ そうでない場合（ｅｄｇｅＴｙｐｅがＥＤＧＥ＿ＨＯＲに等しい場合）、各サンプル位置（ｘＣｂ＋ｘＢｌ＋ｋ，ｙＣｂ＋ｙＢｌ）、ｋ＝０．．ｍａｘＫについて、次の順序づけられたステップが適用される：
１．第８．８．３．６．９節で指定されているようなクロマサンプルのためのフィルタリングプロセスは、変数ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＣｂＣｒ、サンプル値ｐ_ｉ，ｋ、ｑ_ｉ，ｋ（ｉ＝０．．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＣｂＣｒ）、位置（ｘＣｂ＋ｘＢｌ＋ｋ，ｙＣｂ＋ｙＢｌ－ｉ－１）及び（ｘＣｂ＋ｘＢｌ＋ｋ，ｙＣｂ＋ｙＢｌ＋ｉ）、並びに変数ｔ_Ｃを入力として、フィルタリングされたサンプル値ｐ_ｉ’及びｑ_ｉ’を出力として用いて、呼び出される。
２．フィルタリングされたサンプル値ｐ_ｉ’及びｑ_ｉ’は、次のように、サンプルアレイｒｅｃＰｉｃｔｕｒｅ内の対応するサンプルを置換する：

［２．２．１．６．５ ルーマサンプルのための決定プロセス］
このプロセスへの入力は：
－ サンプル値ｐ_０、ｐ_３、ｑ_０及びｑ_３，
－ 変数ｄｐｑ、ｓｐ、ｓｑ、ｓｐｑ、ｓｉｄｅＰｉｓＬａｒｇｅＢｌｋ、ｓｉｄｅＱｉｓＬａｒｇｅＢｌｋ、β、及びｔ_Ｃ
である。

このプロセスの出力は、決定を含む変数ｄＳａｍである。

変数ｓｐ及びｓｑは、次のように変更される：
－ ｓｉｄｅＰｉｓＬａｒｇｅＢｌｋが１に等しいとき、次が適用される：

－ ｓｉｄｅＱｉｓＬａｒｇｅＢｌｋが１に等しいとき、次が適用される：

変数ｓＴｈｒは、次のように導出される：
－ ｓｉｄｅＰｉｓＬａｒｇｅＢｌｋが１に等しいか、あるいは、ｓｉｄｅＱｉｓＬａｒｇｅＢｌｋが１に等しい場合に、次が適用される：

－ 上記以外の場合に、次が適用される：

変数ｄＳａｍは、次のように指定される：
－ 次の条件の全てが真である場合に、ｄＳａｍは１に等しくセットされる：
－ ｄｐｑが（β＞＞２）よりも小さい，
－ ｓｐ＋ｓｑがｓＴｈｒよりも小さい，
－ ｓｐｑが（５×ｔ_Ｃ＋１）＞＞１よりも小さい。
－ 上記以外の場合に、ｄＳａｍは０に等しくセットされる。

［２．２．１．６．６ 短いフィルタを使用するルーマサンプルのためのフィルタリングプロセス］
このプロセスのへ入力は：
－ サンプル値ｐ_ｉ及びｑ_ｉ（ｉ＝０．．３），
－ ｐ_ｉ及びｑ_ｉの位置（ｘＰ_ｉ，ｙＰ_ｉ）及び（ｘＱ_ｉ，ｙＱ_ｉ）（ｉ＝０．．２），
－ 変数ｄＥ，
－ 夫々サンプルｐ１及びｑ１にフィルタリング処理を施すとの決定を含む変数ｄＥｐ及びｄＥｑ，
－ 変数ｔ_Ｃ
である。

このプロセスの出力は：
－ フィルタリングされたサンプルの数ｎＤｐ及びｎＤｑ，
－ フィルタリングされたサンプル値ｐ_ｉ’及びｑ_ｊ’（ｉ＝０．．ｎＤｐ－１、ｊ＝０．．ｎＤｑ－１）
である。

ｄＥの値に応じて、次が適用される：
－ 変数ｄＥが２に等しい場合に、ｎＤｐ及びｎＤｑは両方とも３に等しくセットされ、次の強フィルタリングが適用される：

－ 上記以外の場合に、ｎＤｐ及びｎＤｑは両方とも０に等しくセットされ、次の弱フィルタリングが適用される：
－ 次が適用される：

－ Ａｂｓ（Δ）がｔ_Ｃ×１０よりも小さいとき、次の順序づけられたステップが適用される：
－ フィルタリングされたサンプル値ｐ_０’及びｑ_０’が次のように指定される：

－ ｄＥｐが１に等しいとき、フィルタリングされたサンプル値ｐ_１’は次のように指定される：

－ ｄＥｑが１に等しいとき、フィルタリングされたサンプル値ｑ_１’は次のように指定される：

－ ｎＤｐはｄＥｐ＋１に等しくセットされ、ｎＤｑはｄＥｑ＋１に等しくセットされる。

ｎＤｐが０よりも大きく、次の条件の１つ以上が真であるとき、ｎＤｐは０に等しくセットされる：
－ サンプルｐ_０を含むコーディングブロックを含むコーディングユニットのｃｕ＿ｔｒａｎｓｑｕａｎｔ＿ｂｙｐａｓｓ＿ｆｌａｇが１に等しい，
－ サンプルｐ_０を含むコーディングブロックを含むコーディングユニットのｐｒｅｄ＿ｍｏｄｅ＿ｐｌｔ＿ｆｌａｇが１に等しい。

ｎＤｑが０よりも大きく、次の条件の１つ以上が真であるとき、ｎＤｑは０に等しくセットされる：
－ サンプルｑ_０を含むコーディングブロックを含むコーディングユニットのｃｕ＿ｔｒａｎｓｑｕａｎｔ＿ｂｙｐａｓｓ＿ｆｌａｇが１に等しい，
－ サンプルｑ_０を含むコーディングブロックを含むコーディングユニットのｐｒｅｄ＿ｍｏｄｅ＿ｐｌｔ＿ｆｌａｇが１に等しい。

［２．２．１．６．７ 長いフィルタを使用するルーマサンプルのためのフィルタリングプロセス］
このプロセスのへ入力は：
－ 変数ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰ及びｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱ，
－ サンプル値ｐ_ｉ及びｑ_ｊ（ｉ＝０．．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰ及びｊ＝０．．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱ），
－ ｐ_ｉ及びｑ_ｊの位置（ｘＰ_ｉ，ｙＰ_ｉ）及び（ｘＱ_ｊ，ｙＱ_ｊ）（ｉ＝０．．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰ－１及びｊ＝０．．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱ－１），
－ 変数ｔ_Ｃ
である。

このプロセスの出力は：
－ フィルタリングされたサンプル値ｐ_ｉ’及びｑ_ｊ’（ｉ＝０．．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰ－１、ｊ＝０．．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱ－１）
である。

変数ｒｅｆＭｉｄｄｌｅが、次のように導出される：
－ ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰがｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱに等しく、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰが５に等しい場合に、次が適用される：

－ そうでなく、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰがｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱに等しく、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰが５に等しくない場合に、次が適用される：

－ 上記以外の場合に、次の条件：
－ ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱが７に等しく、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰが５に等しい，
－ ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱが５に等しく、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰが７に等しい
の１つが真である場合に、次が適用される：

－ 上記以外の場合に、次の条件：
－ ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱが５に等しく、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰが３に等しい，
－ ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱが３に等しく、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰが５に等しい
の１つが真である場合に、次が適用される：

－ 上記以外の場合に、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱが７に等しく、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰが３に等しい場合に、次が適用される：

－ その他の場合に、次が適用される：

変数ｒｅｆＰ及びｒｅｆＱは、次のように導出される：

変数ｆ_ｉ及びｔ_ＣＰＤ_ｉは、次のように定義される：
－ ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰが７に等しい場合に、次が適用される：

－ そうではなく、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰが５に等しい場合に、次が適用される：

－ 上記以外の場合に、次が適用される：

変数ｇ_ｊ及びｔ_ＣＱＤ_ｊは、次のように定義される：
－ ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱが７に等しい場合に、次が適用される：

－ そうではなく、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱが５に等しい場合に、次が適用される：

－ 上記以外の場合に、次が適用される：

フィルタリングされたサンプル値ｐ_ｉ’及びｑ_ｊ’（ｉ＝０．．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰ－１、ｊ＝０．．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱ－１）は次のように導出される：

次の条件の１つ以上が真であるとき、フィルタリングされたサンプル値ｐ_ｉ’は、対応する入力サンプル値ｐ_ｉ（ｉ＝０．．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰ－１）によって置換される：
－ サンプルｐ_ｉを含むコーディングブロックを含むコーディングユニットのｃｕ＿ｔｒａｎｓｑｕａｎｔ＿ｂｙｐａｓｓ＿ｆｌａｇが１に等しい，
－ サンプルｐ_ｉを含むコーディングブロックを含むコーディングユニットのｐｒｅｄ＿ｍｏｄｅ＿ｐｌｔ＿ｆｌａｇが１に等しい。

次の条件の１つ以上が真であるとき、フィルタリングされたサンプル値ｑ_ｉ’は、対応する入力サンプル値ｑ_ｊ（ｊ＝０．．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱ－１）によって置換される：
－ サンプルｑ_ｉを含むコーディングブロックを含むコーディングユニットのｃｕ＿ｔｒａｎｓｑｕａｎｔ＿ｂｙｐａｓｓ＿ｆｌａｇが１に等しい，
－ サンプルｑ_ｉを含むコーディングブロックを含むコーディングユニットのｐｒｅｄ＿ｍｏｄｅ＿ｐｌｔ＿ｆｌａｇが１に等しい。

［２．２．１．６．８ クロマサンプルのための決定プロセス］
このプロセスへの入力は：
－ サンプル値ｐ_０、ｐ_３、ｑ_０及びｑ_３，
－ 変数ｄｐｑ、β及びｔ_Ｃ
である。

このプロセスの出力は、決定を含む変数ｄＳａｍである。

変数ｄＳａｍは、次のように指定される：
－ 次の条件の全てが真である場合に、ｄＳａｍは１に等しくセットされる：
－ ｄｐｑが（β＞＞２）よりも小さい，
－ Ａｂｓ（ｐ_３－ｐ_０）＋Ａｂｓ（ｑ_０－ｑ_３）は（β＞＞３）よりも小さい，
－ Ａｂｓ（ｐ_０－ｑ_０）は（５×ｔ_Ｃ＋１）＞＞１よりも小さい。
－ そうではない場合に、ｄＳａｍは０に等しくセットされる。

［２．２．１．６．９ クロマサンプルのためのフィルタリングプロセス］
このプロセスは、ＣｈｒｏｍａＡｒｒａｙＴｙｐｅが０に等しくなく呼び出される。

このプロセスへの入力は：
－ 変数ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈ，
－ クロマサンプル値ｐ_ｉ及びｑ_ｉ（ｉ＝０．．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＣｂＣｒ），
－ ｐ_ｉ及びｑ_ｉのクロマ位置（ｘＰ_ｉ，ｙＰ_ｉ）及び（ｘＱ_ｉ，ｙＱ_ｉ）（ｉ＝０．．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＣｂＣｒ－１），
－ 変数ｔ_Ｃ
である。

このプロセスの出力は、フィルタリングされたサンプル値ｐ_ｉ’及びｑ_ｉ’（ｉ＝０．．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＣｂＣｒ－１）である。

フィルタリングされたサンプル値ｐ_ｉ’及びｑ_ｉ’（ｉ＝０．．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＣｂＣｒ－１）は、次のように導出される：
－ ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＣｂＣｒが３に等しい場合に、次の強フィルタリングが適用される：

－ そうではない場合に、次の弱フィルタリングが適用される：

次の条件の１つ以上が真であるとき、フィルタリングされたサンプル値ｐ_ｉ’は、対応する入力サンプル値ｐ_ｉ（ｉ＝０．．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＣｂＣｒ－１）によって置換される：
－ サンプルｐ_ｉを含むコーディングブロックを含むコーディングユニットのｃｕ＿ｔｒａｎｓｑｕａｎｔ＿ｂｙｐａｓｓ＿ｆｌａｇが１に等しい，
－ サンプルｐ_ｉを含むコーディングブロックを含むコーディングユニットのｐｒｅｄ＿ｍｏｄｅ＿ｐｌｔ＿ｆｌａｇが１に等しい。

次の条件の１つ以上が真であるとき、フィルタリングされたサンプル値ｑ_ｉ’は、対応する入力サンプル値ｑ_ｉ（ｉ＝０．．ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＣｂＣｒ－１）によって置換される：
－ サンプルｑ_ｉを含むコーディングブロックを含むコーディングユニットのｃｕ＿ｔｒａｎｓｑｕａｎｔ＿ｂｙｐａｓｓ＿ｆｌａｇが１に等しい，
－ サンプルｑ_ｉを含むコーディングブロックを含むコーディングユニットのｐｒｅｄ＿ｍｏｄｅ＿ｐｌｔ＿ｆｌａｇが１に等しい。

［２．４ ラインバッファ低減のための仮想境界フィルタリングプロセス］
ＶＴＭ６では、ラインバッファ要件を低減するために、変更されたブロック分類及びフィルタリングが、水平ＣＴＵ境界に近いサンプルに対して用いられる。このために、仮想境界は、図４に示されるように、“Ｎ”個のサンプルを含む水平ＣＴＵ境界をシフトすることによってラインとして定義される。Ｎは、ルーマ成分については４に等しく、クロマ成分については２に等しい。

図４は、仮想境界での変更されたブロック分類の例を示す。

図５に示されるように、変更されたブロック分類がルーマ成分に適用される。仮想境界の上にある４×４ブロックの１Ｄラプラシアン勾配計算については、仮想境界の上にあるサンプルのみが使用される。同様に、仮想境界の下にある４×４ブロックの１Ｄラプラシアン勾配計算については、仮想境界の下にあるサンプルのみが使用される。それに応じて、活性値Ａの量子化は、１Ｄラプラシアン勾配計算で使用されるサンプル数の減少を考慮に入れることによってスケーリングされる。

フィルタリングプロセスについては、仮想境界での対称パディング動作が、ルーマ及びクロマの両方の成分のために使用される。図５に示されるように、フィルタリングされているサンプルが仮想境界の下に位置している場合に、仮想境界の上に位置している隣接サンプルがパディングされる。一方、他方の側にある対応するサンプルも対称的にパディングされる。

図５は、仮想境界でのルーマ成分に対する変更されたＡＬＦフィルタリングの実例を示す。

［３ 開示されている実施形態及び技術によって解決される技術的問題の例］
最新のＶＶＣ作業草案ＪＶＥＴ－Ｏ２００１－ｖ１４には、以下で記載されるいくつかの問題がある。
（１）４×４サンプルグリッドルーマデブロックフィルタリングが仮想境界に適用され、これは、部分ＣＴＵに基づいたインループフィルタリングに使用されるラインバッファを増大させる。改善された方法が、余分のラインバッファを低減するために使用され得る。
（２）ＷＤ６では、ルーマデブロッキングが４×４グリッド変換ブロック境界で適用されるが、サブブロック境界については、ラインデブロッキングは８×８グリッドで適用される。しかし、サブブロックベースのアフィン予測は４×４に基づいており、これにより、２つの隣接する４×４ブロックの間の動きベクトル差は大きくなる。従って、ブロッキングアーチファクトが４×４サブブロック境界で起こる可能性があり、ルーマデブロッキングフィルタを４×４グリッドサブブロック境界に拡張する必要がある。
（３）ＷＤ６では、デブロッキングフィルタは、マージトライアングル予測モード（Triangle Prediction Mode，ＴＰＭ）コーディングされたブロックの内部サブブロックエッジに適用されない。しかし、ＴＰＭブロックの動きベクトルは４×４ブロック粒度で記憶され、これは、２つの隣接する４×４ブロックの間の動きベクトル差を大きくする可能性がある。よって、デブロッキングフィルタをＴＰＭブロック内部のエッジに適用することが必要とされ得る。
（４）ＷＤ６では全てのクロマフラグがクロマフォーマットに応じて通知されるわけではない。これは望ましくないことがある。
（５）ＷＤ６では、ＰＰＳシンタックス要素ｌｏｇ２＿ｔｒａｎｓｆｏｒｍ＿ｓｋｉｐ＿ｍａｘ＿ｓｉｚｅ＿ｍｉｎｕｓ２がＳＰＳシンタックス要素を条件として通知される。これは、ＳＰＳとＰＰＳとの間のパージング依存性を引き起こす可能性がある。
（６）ＷＤ６では、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰｓの設定は、現在のコーディングブロックが１よりも多い８×８ブロックを含むかどうかに依存する。例えば、８×８アフィン又はＳｂＴＭＶＰコーディングされたブロックについては、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰｓは変更されないままであり、変換ブロック境界から導出される。しかし、他のサブブロック境界については、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱｓがｍｉｎｉ（５，ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱｓ）にリセットされる。
（７）ＷＤ６では、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱｓの設定は、エッジが最初のサブブロック境界（最左又は最上）に位置しているかどうかに依存する。次の２つの場合について：
ａ）垂直エッジの左にあるブロックがサブブロックコーディングされていない。
ｂ）水平エッジブロックの上にあるブロックがサブブロックコーディングされていない。
上記の場合について、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰｓは変更されないままであり、変換ブロック境界から導出される。しかし、他のサブブロック境界については、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰｓがｍｉｎｉ（５，ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰｓ）にリセットされる。
（８）ＷＤ６では、サブブロックエッジのｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰｓ及びｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱｓの設定は、エッジの位置に４をプラスしたものが現在のコーディングブロック幅以上であるかどうかに依存するが、これは不要である場合がある。
（９）ＷＤ６では、変換ブロックエッジから４サンプル離れている内部サブブロックエッジについて、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰｓ及びｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱｓは１にセットされる。そうではなく、内部の最初／最後のサブブロックエッジ、及びＴＵエッジから８サンプル離れているサブブロックエッジについては、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰｓ及びｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱｓは２にセットされる。そうではなく、他の内部サブブロックエッジについては、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰｓ及びｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱｓは３にセットされる。これらの条件は更に精緻化されてもよい。
（１０）ＷＤ６では、デブロッキングフィルタ強さｂＳの設定は、隣接するブロックの予測モードに依存する（例えば、サンプルｐ０を含むコーディングサブブロックの予測モードがサンプルｑ０を含むコーディングサブブロックの予測モードとは異なる場合に、ｂＳは１に等しくセットされる。）。
（１１）ＷＤ６では、それが変換ブロックエッジであり、エッジのどちらかの側に位置する１つの隣接するブロックがＣＩＩＰモードでコーディングされている場合に、このエッジのデブロッキングフィルタ強さｂＳは２にセットされる。

［４ 実施形態及び技術の列挙］
以下の詳述されている発明は、一般概念を説明するための例と見なされるべきである。これらの発明は、狭い意味で解釈されるべきではない。更に、これらの発明は、如何なる方法でも組み合わせ可能である。

以下の開示で、「自然境界」との用語は、２つのコーディングブロック（例えば、２つのＣＵ）、又は２つの予測ブロック（例えば、２つのＰＵ）、又は２つの変換ブロック（２つのＴＵ）、又は２つのサブブロックの間の境界を指し得る。

デブロッキングプロセスは、自然境界から、デブロッキングプロセスを考慮しているいくつかの“境界”（例えば、サブブロック境界又は変換ブロック境界）を導出する。これらの境界は、以下の開示で「デブロッキング境界」とも呼ばれることがある。

一例で、デブロッキング境界は自然境界でなければならいが、自然境界はデブロッキング境界でなくてもよい。境界がデブロッキング境界出ない場合に、それは、デブロッキングプロセスで考慮されなくてもよい。

「エッジ」との用語は、以下の開示で「境界」と同等である。

［コーディングブロック及びサブブロック境界でのデブロッキングフィルタ］
１．ルーマデブロッキングフィルタが、サブブロック自然境界上の４×４グリッドで適用され得る。
ａ．一例で、現在のサブブロック自然境界がルーマデブロッキングフィルタリング処理される必要があるか否かの決定（例えば、ｅｄｇｅＦｌａｇｓの値）は、４×４グリッドで実行され得る。
ｉ．一例で、現在のサブブロック自然境界がルーマデブロッキングフィルタリング処理される必要があるか否かの決定（例えば、ｅｄｇｅＦｌａｇｓの値）は、８×８グリッドで実行され得ない。
ｂ．一例で、ルーマデブロッキングフィルタ長さの決定（例えば、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰｓ及びｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱｓ）は、４×４グリッドで適用され得る。
ｉ．一例で、ルーマデブロッキングフィルタ長さの決定（ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰｓ及びｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱｓ）は、８×８グリッドで適用され得ない。
ｃ．一例で、サブブロックコーディングされたブロックにおけるサブブロック境界／フィルタ長さ／フィルタ強さ決定のためのグリッド単位（例えば、４×４又は８×８）は、サブブロックコーディング方法に依存し得る。
ｉ．一例で、サブブロックコーディングされたブロックにおけるサブブロック境界／フィルタ長さ／フィルタ強さ決定のためのグリッド単位（例えば、４×４又は８×８）は、動き補償／動き導出で使用されるサブブロックサイズと整列され得る。
ｉｉ．一例で、現在のブロックがアフィンコーディングされる場合に、ルーマデブロッキングフィルタは、アフィンサブブロック境界上の４×４グリッドで適用され得る。
１）例えば、アフィンコーディングされたブロックのサブブロック境界については、上記のビュレット１．ａ及びビュレット２．ａが適用され得る。
ｉｉｉ．一例で、現在のブロックがＳｂＴＭＶＰコーディングされる場合に、デブロッキングフィルタは、ＳｂＴＭＶＰサブブロック境界上の８×８グリッドで適用され得る。

２．クロマデブロッキングフィルタが、サブブロック自然境界で適用され得る。
ａ．一例で、クロマデブロッキングフィルタは、Ｎ×Ｍ（例えば、８×８又は４×４又は４×８又は８×４）グリッドサブブロック境界で適用され得る。
ｂ．一例で、現在のクロマデブロッキングエッジがサブブロック境界であるか否かの決定（例えば、ｅｄｇｅＦｌａｇｓの値）は、Ｎ×Ｎ（Ｎ＝８又は４）グリッドで実行され得る。
ｃ．一例で、クロマデブロッキングフィルタ長さの決定（例えば、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰｓ及びｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱｓ）は、Ｎ×Ｍ（例えば、８×８又は４×４又は４×８又は８×４）で適用され得る。
ｄ．一例で、クロマデブロッキングフィルタ長さの値（例えば、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰｓ及びｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱｓ）は、Ｌ（例えば、Ｌ＝３又は２又は１）以下であり得る。
ｅ．一例で、クロマサブブロック境界のための境界フィルタリング強さの値（例えば、ｂＳ）は、動きベクトルの数、参照ピクチャ、現在の境界の両側に位置している２つの隣接ピクセル間の絶対ＢＶ／ＭＶ差に依存し得る。
ｆ．上記の方法を適用すべきかどうかは、現在のブロックがサブブロックベースの技術（例えば、ＳｂＴＭＶＰ、アフィン、ＤＭＶＲ、デュアルツリーの場合におけるクロマＩＢＣモード）デコーディングされることに依存し得る。
ｇ．上記の方法を適用すべきかどうかは、色サブサンプリングフォーマット（４：４：４に等しいか否か）に依存し得る。
ｈ．デブロッキンググリッドＮ×Ｍは色フォーマットに依存し得る。

３．トランアングル予測モード（ＴＰＭ）（ジオメトリ予測モードとも呼ばれる。）でコーディングされたブロックについては、Ｎ×Ｎ（Ｎ＝４又は８）グリッドデブロッキングフィルタが適用され得る。
ａ．一例で、ＴＰＭコーディングされたブロックのための内部エッジ導出は、ＳｂＴＭＶＰ及び／又はアフィンコーディングされたブロックのためのサブブロック境界導出プロセスと同じであり得る。
ｂ．一例で、ＴＰＭコーディングされたブロックは、サブブロックコーディングされたブロックとして扱われてもよく、サブブロック境界／フィルタ長さ／フィルタ強さ決定は、４×４又は８×８グリッドで決定され得る。

４．デブロッキングフィルタ長さの設定は、最初のサブブロックデブロッキング境界（例えば、最左の垂直境界又は最上の水平境界）であることにかかわらず、全てのサブブロックデブロッキング境界について同じように扱われ得る。
ａ．現在のコーディングブロックの最左の垂直境界（及び／又は最上の水平境界）については、デブロッキングフィルタ長さの値は、それが変換ブロックエッジ（例えば、ｅｄｇｅＴｂＦｌａｇｓ）と一致するか否かを条件とされ得る。
ｉ．一例で、現在のコーディングブロックの最左の垂直境界（又は最上の水平境界）については、この境界のｅｄｇｅＴｂＦｌａｇｓが１に等しい場合に、現在のブロックのデブロッキングフィルタ長さｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰｓは、その境界の左（又は上）にある隣接コーディングブロックがＳｂＴＭＶＰコーディング又はアフィンコーディングされているかどうかにかかわらず、Ｍｉｎ（５，ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰｓ）にセットされ得る。
ｉｉ．一例で、現在のコーディングブロックの最左の垂直境界（又は最上の水平境界）については、この境界のｅｄｇｅＴｂＦｌａｇｓが１に等しい場合に、現在のブロックのデブロッキングフィルタ長さｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰｓは、現在のコーディングブロック内のサブブロックの数にかかわらず、Ｍｉｎ（５，ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰｓ）にセットされる。

５．サブブロックデブロッキング境界を導出するとき、デブロッキングフィルタ長さの決定は、サブブロックエッジ位置（例えば、現在のコーディングブロックのサブブロックエッジインデックス（例えば、ｘＥｄｇｅ））に依存し得る。ｘＥｄｇｅの範囲が「０，Ｍ」であるとする。ここで、Ｍは０以上の整数である。
ａ．一例で、［ａ，ｂ］の範囲内のｘＥｄｇｅについては、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰｓ及び／又はｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱｓは、固定整数値Ｌ（例えば、Ｌ＝１，２，３）にセットされ得る。
ｉ．一例で、ａ＝０又は１である。
ｉｉ．一例で、ｂ＝Ｍ又はＭ－１である。
ｉｉｉ．一例で、ａ＝ｂ＝０又は１又はＭ又はＭ－１である。

６．ｘが現在のコーディングブロック内の水平／垂直サブブロック位置を表すとして、デブロッキングフィルタ長さの決定は、ｘ＋ｄｅｌｔａ（例えば、ｄｅｌｔａは４又は８に等しい。）とコーディングブロック幅／高さとの間の関係に依存し得る。
ａ．一例で、ＳｂＴＭＶＰ及びアフィンサブブロック境界を導出するとき、デブロッキングフィルタ長さ（例えば、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰｓ及び／又はｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱｓ）は、ｘ＋ｄｅｌｔａがブロック幅／高さ以上であるかどうかをチェックせずに決定され得る。
ｂ．一例で、ＳｂＴＭＶＰ及びアフィンサブブロック境界を導出するとき、デブロッキングフィルタ長さ（例えば、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰｓ及び／又はｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱｓ）は、ｘ＋ｄｅｌｔａがブロック幅／高さ以上であるかどうかをチェックすることによって決定され得る。

７．サブブロックデブロッキング境界を導出するとき、ブロック内の列ｘでの垂直境界又は行ｙでの水平境界のデブロッキングフィルタ長さの決定は、列ｘ＋ｄｘでの垂直境界又は行ｙ＋ｄｙでの水平境界が変換ブロック境界であるか否かに依存し得る。ｄｘ及びｄｙは、４又は８といった整数である。
ａ．一例で、ブロック（例えば、ＳｂＴＭＶＰ及び／又はアフィンでコーディングされている。）のサブブロック境界を導出するとき、ブロック内の列ｘでの垂直境界又は行ｙでの水平境界のデブロッキングフィルタ長さ（例えば、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰｓ及びｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱｓ）の決定は、以下の場合のうちの１つに依存し得る：
ｉ．ｘ＋ｄｘ＞＝ブロック幅が満足されるかどうか、及び／又はｙ＋ｄｙ＞＝ブロック高さが満足されるかどうかをチェックせずに、列ｘ＋ｄｘでの垂直境界又は行ｙ＋ｄｙでの水平境界が変換ブロック境界であるか否か；
ｉｉ．列ｘ＋ｄｘでの垂直境界又は行ｙ＋ｄｙでの水平境界が変換ブロック境界であるか否か、並びにｘ＋ｄｘ＞＝ブロック幅が満足されるかどうか、及び／又はｙ＋ｄｙ＞＝ブロック高さが満足されるかどうか。
ｂ．代替的に、ブロック（例えば、ＳｂＴＭＶＰ及び／又はアフィンでコーディングされている。）のサブブロック境界を導出するとき、ブロック内の列ｘでの垂直境界又は行ｙでの水平境界のデブロッキングフィルタ長さ（例えば、ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰｓ及びｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＱｓ）の決定は、列ｘ＋ｄｘでの垂直境界又は行ｙ＋ｄｙでの水平境界が変換ブロック境界であるか否かに依存しなくてもよい。

［デブロッキングフィルタに関する一般的な課題］
８．ＳＢＴコーディングされたブロックについては、（当該ブロックよりも小さい）変換ブロックの間の２つのデブロッキング境界にマークを付す代わりに、１つの方向（水平又は垂直）について３つの変換ブロック境界にマークを付すことが提案される。
ａ．一例で、１つの方向（水平又は垂直）について、２つの変換ブロック境界及びコーディングされたブロック境界は全て、デブロッキングフィルタプロセスでフィルタリング処理され得るデブロッキング境界として扱われる。
ｂ．代替的に、更に、コーディングされたブロック境界にフィルタリング処理を施すかどうかは、それがサブブロック境界であるかどうかなどに更に依存してもよい。

９．現在のブロックエッジの両側に位置している２つの隣接サンプルが、非ゼロ変換係数レベルを有さない２つの変換ブロックに属する場合に、このエッジのデブロッキングフィルタ強さ（例えば、ｂＳ）は０にセットされ得る。
ａ．一例で、現在の変換ブロックエッジの両側に位置している２つの隣接サンプルが、非ゼロ変換係数レベルを有さない２つの変換ブロックに属し、２つの隣接サンプルのうちの１つがマージトライアングル予測モード（ＴＰＭ）としてコーディングされている場合に、ｂＳは０にセットされ得る。
ｂ．一例で、現在の変換ブロックエッジの両側に位置している２つの隣接サンプルが、非ゼロ変換係数レベルを有さない２つの変換ブロックに属し、２つの隣接サンプル間の動きベクトル差が閾値Ｔ（例えば、１／１６ルーマサンプルの単位でＴ＝８）よりも大きい場合に、ｂＳは０にセットされ得る。
ｃ．一例で、変換ブロック境界でのデブロッキングフィルタ強さの決定は、動きベクトルに関連した基準から切り離されてもよい。

１０．ＤＭＶＲでの導出されたＭＶＤは、デブロッキングで使用されてもよい。
ａ．一例で、ＤＭＶＲによって処理されたＣＵについて、デブロッキングは、通知されたＭＶの代わりに、サブブロックの導出されたＭＶＤを用いて、ＣＵ内のサブブロック境界で実行され得る。
ｂ．一例で、ＤＭＶＲによって処理されたＣＵについて、デブロッキングは、ＣＵの通知されたＭＶを用いて、ＣＵ境界で実行され得る。
ｃ．代替的に、ＤＭＶＲによって処理されたＣＵについて。デブロッキングは、ＣＵ境界でのサブブロックの導出されたＭＶＤ及び通知されたＭＶを用いて、ＣＵ境界で実行され得る。
ｉ．例えば、ＣＵ境界にあるブロックについて、ＭＶは、関連するサブブロックの導出されたＭＶＤを通知されたＭＶに加えることによって生成され得、次いで、デブロッキングのために使用され得る。

１１．デブロッキングフィルタ強さｂＳの設定は、隣接するブロックの予測モードに依存してなくてもよい。
ａ．一例で、デブロッキングフィルタ強さｂＳの設定は、隣接するブロックの１つがＭＯＤＥ＿ＩＮＴＲＡとしてコーディングされているかどうかに関して決定され得るが、ＭＯＤＥ＿ＩＢＣ及び／又はＭＯＤＥ＿ＩＮＴＥＲに関しては決定されない。

１２．エッジにフィルタリング処理を施すべきかどうか及び／又はどのようにフィルタリング処理を施すべきかは、エッジタイプ（例えば、変換ブロック境界又はサブブロック境界）に依存し得る。
ａ．一例で、変換ブロック境界でのデブロッキングフィルタ強さ及びコーディングサブブロック境界でのデブロッキングフィルタ強さは、別々に決定され得る。
ｉ．一例で、変換ブロック境界フラグは、（ｎＣｂＷ）×（ｎＣｂＨ）アレイＡで記憶され得、一方、コーディングサブブロック境界は、（ｎＣｂＷ）×（ｎＣｂＨ）アレイＢで記憶され得る。ここで、Ａ及びＢは異なるアレイバッファである。
ｉｉ．一例で、変換ブロック境界のデブロッキングフィルタ強さ（例えば、ｂＳ）は、変換係数（例えば、非ゼロ係数）に従ってセットされ得る。
１）一例で、現在の変換ブロックエッジの両側に位置している２つの隣接サンプルの両方がゼロ変換係数レベルを有する場合に、ｂＳは０にセットされ得る。
ｉｉｉ．一例で、コーディングサブブロック境界のデブロッキングフィルタ強さ（例えば、ｂＳ）は、動きベクトル、及び／又は現在の境界の両側に位置している２つの隣接ピクセル間の参照ピクチャに従って、セットされ得る。
ｉｖ．一例で、ブロックエッジが変換ブロックエッジでもあるがサブブロック境界ではなく、エッジ沿いの２つの隣接サンプルのうちの少なくとも一方がＣＩＩＰモードによるコーディングブロック内にある場合に、境界強さ（Boundary Strength，ＢＳ）はＸ（Ｘ＝１又は２）に等しくセットされる。
ｂ．代替的に、フィルタ強さ／フィルタ長さ／境界強さの決定は、異なるエッジタイプについて同じであってよい。
ｉ．一例で、ブロックエッジが変換ブロックエッジ又はサブブロック境界でもあり、エッジ沿いの２つの隣接サンプルのうちの少なくとも一方がＣＩＩＰモードによるコーディングブロック内にある場合に、境界強さ（ＢＳ）はＸ（Ｘ＝１又は２）に等しくセットされる。

［仮想境界との相互作用］
１３．デブロッキングフィルタは、水平ＣＴＵ境界の上にＮ個のサンプル（例えば、ルーマについてはＮ＝４、クロマについてはＮ＝２）である仮想境界で適用され得ない。
ａ．一例で、仮想境界と一致するＴＵ／ＣＵ／ＰＵ／サブブロックエッジについては、水平エッジデブロックフィルタリングは適用され得ない。
ｂ．代替的に、更に、仮想境界と一致するＴＵ／ＣＵ／ＰＵ／サブブロックエッジについては、垂直エッジデブロックフィルタリングが依然として適用され得る。

１４．一例で、デブロッキングプロセスで値をクリップすべきかどうか及び／又はどのようにクリップすべきかは、デブロッキングフィルタによってフィルタリング処理される境界が仮想境界と一致するかどうかに依存し得る。
ａ．一例で、値ｐを有するサンプルは、デブロッキングプロセス後に値ｐ’であるよう変更され、ｐはｐ’＝ｐ＋ｄ’として導出され、ｄ’＝Ｃｌｉｐ３（ｔ１，ｔ２，ｄ）であり、ここで、ｄは、デブロッキングプロセスで導出され、［ｔ１，ｔ２］は、クリッピング範囲である。ｔ１及び／又はｔ２は、デブロッキングフィルタによってフィルタリング処理される境界が仮想境界と一致するかどうかに依存し得る。
ｉ．一例で、ｔ１＝－２^Ｎ及びｔ２＝２^Ｎ－１であり、Ｎは整数である。
１）例えば、Ｎは色成分に依存し得る。
２）例えば、Ｎはエンコーダからデコーダへ送られ得る。
３）例えば、Ｎはサンプルビットデプスに依存し得る。

［他のコーディングツールとの相互作用］
１５．ＳＢＴ及びサブブロックベースのコーディング方法（例えば、ＳｂＴＭＶＰ及び／又はアフィン）が排他的に使用され得る。
ａ．ＳＢＴは、ＳｂＴＭＶＰ及びアフィン予測ブロックのようなサブブロックベースのコーディングブロックに対しては許されないことがある。
ｂ．一例で、コーディングブロックがＳｂＴＭＶＰでコーディングされる場合に、ＳＢＴは適用され得ない。
ｃ．一例で、コーディングブロックがアフィン予測でコーディングされる場合に、ＳＢＴは適用され得ない。
ｄ．一例で、コーディングブロックがＳｂＴＭＶＰ又はアフィン予測でコーディングされる場合に、ＳＢＴは適用され得ない。
ｉ．例えば、ｉｎｔｅｒ＿ａｆｆｉｎｅ＿ｆｌａｇが１に等しいか、又はｍｅｒｇｅ＿ｓｕｂｂｌｏｃｋ＿ｆｌａｇが１に等しいとき、ｃｕ＿ｓｂｔ＿ｆｌａｇは通知されず、０であると推測され得る。

１６．上記の例について、コーディングツールが許可されない場合に、ツールの利用の指示の通知はスキップされる。
ａ．代替的に、第２ツールが適用されるときに第１ツールが許可されない場合には、第１ツールの利用の通知は、第２ツールが適用されないという条件下であってよい。

１７．デブロッキングフィルタは、イントラサブパーティショニング（Intra Sub-Partitioning，ＩＳＰ）モードでコーディングされたブロックの２つのサブパーティション間の境界に適用され得る。
ａ．一例で、ブロックの２つのサブパーティション間にある列ｘでの垂直境界は、ｘがｘ＝Ｍ×Ｐ＋ｏｆｆｓｅｔ及び／又はｘ＜Ｗを満足する場合に、デブロッキングによってフィルタリング処理される。ここで、ｏｆｆｓｅｔ、Ｍ及びＰは正の整数である。一例で、Ｍ＝１，２，３．．．、及びＰ＝１である。他の例では、Ｍ＝１，２，３．．．、及びＰ＝２である。Ｗはブロックの幅である。例えば、ｏｆｆｓｅｔ＝０である。
ｂ．一例で、ブロックの２つのサブパーティション間にある行ｙでの水平境界は、ｙがｙ＝Ｍ×Ｐ＋ｏｆｆｓｅｔ及び／又はｙ＜Ｈを満足する場合に、デブロッキングによってフィルタリング処理される。ここで、ｏｆｆｓｅｔ、Ｍ及びＰは正の整数である。一例で、Ｍ＝１，２，３．．．、及びＰ＝１である。他の例では、Ｍ＝１，２，３．．．、及びＰ＝２である。Ｈはブロックの高さである。例えば、ｏｆｆｓｅｔ＝０である。
ｃ．代替的に、デブロッキングフィルタは、ＩＳＰモードでコーディングされたブロックの２つのサブパーティション間の境界に適用されない。

１８．デブロッキングフィルタは、ＴＰＭでコーディングされたブロックの２つのＭ×Ｎ（例えば、４×４又は８×８）領域間の境界に適用され得る。
ａ．例えば、２つの隣接するコーディングブロックのうちの１つがＴＰＭでコーディングされたブロックである場合に、２つのブロック間の境界はデブロッキングフィルタリング処理され得る。

１９．フィルタリングプロセス（例えば、デブロックフィルタ、ＳＡＯ、ＡＬＦ）は、次のコーディングされたブロックについて動き保存／動きベクトル予測で使用されたものの代わりに、動き補償プロセスで使用されたＴＰＭコーディングされたブロックの動き情報に依存し得る。
ａ．一例で、デブロッキングフィルタ強さ（例えば、ｂＳ）導出プロセス中、ＴＰＭコーディングされたブロックの動きベクトルは、動き補償プロセスで使用されたものであってよい。
ｂ．一例で、ＴＰＭコーディングされたブロックの記憶されているＨ×Ｈ（例えば、４×４）動きベクトルは、デブロッキング境界フィルタリング強さ設定のために使用され得ない。
ｃ．一例で、ＴＰＭ動き補償に使用された動きベクトルは、デブロッキング境界フィルタリング強さ設定のために使用され得る。
ｄ．代替的に、動き補償プロセス又は動き保存若しくは動きベクトル予測プロセスでの動き情報を使用すべきかどうかは、適応的に変更され得る。
ｅ．代替的に、動き補償プロセス又は動き保存若しくは動きベクトル予測プロセスでの動き情報を使用すべきかどうかは、復号された情報及び／又はブロック寸法などに基づき決定され得る。

［クロマフラグ通知］
２０．クロマシンタックス要素の通知は、クロマフォーマットサンプリング構造（例えば、ｃｈｒｏｍａ＿ｆｏｒｍａｔ＿ｉｄｃ）及び／又はコーディング方法（例えば、ｓｅｐａｒａｔｅ＿ｃｏｌｏｕｒ＿ｐｌａｎｅ＿ｆｌａｇ及び／又はＣｈｒｏｍａＡｒｒａｙＴｙｐｅなど）に依存し得る。
ａ．一例で、ＰＰＳ Ｃｂ／Ｃｒフラグは、クロマフォーマットサンプリング構造に従って通知され得る。
ｉ．一例で、ＣｈｒｏｍａＡｒｒａｙＴｙｐｅが真に等しい場合に、シンタックス要素Ｘは通知され得る。さもなければ、シンタックス要素Ｘは通知されなくてもよい。
ｉｉ．一例で、クロマフォーマットがモノクロ（例えば、４：０：０）である場合に、シンタックス要素Ｘは通知され得る。さもなければ、シンタックス要素Ｘは通知されなくてもよい。
ｉｉｉ．一例で、クロマフォーマットが４：４：４であり、ｓｅｐａｒａｔｅ＿ｃｏｌｏｕｒ＿ｐｌａｎｅ＿ｆｌａｇが１に等しい場合に、シンタックス要素Ｘは通知され得る。さもなければ、シンタックス要素Ｘは通知されなくてもよい。
ｉｖ．例えば、ｘは、上記のビュレットにおいて、ｐｐｓ＿ｃｂ＿ｑｐ＿ｏｆｆｓｅｔ及びｐｐｓ＿ｃｒ＿ｑｐ＿ｏｆｆｓｅｔであってよい。
ｖ．例えば、Ｘは、上記のビュレットにおいて、ｐｐｓ＿ｊｏｉｎｔ＿ｃｂｃｒ＿ｑｐ＿ｏｆｆｓｅｔであってよい。
ｖｉ．例えば、Ｘは、上記のビュレットにおいて、ｃｕ＿ｃｈｒｏｍａ＿ｑｐ＿ｏｆｆｓｅｔ＿ｅｎａｂｌｅｄ＿ｆｌａｇであってよい。
ｖｉｉ．例えば、Ｘは、上記のビュレットにおいて、ｐｐｓ＿ｓｌｉｃｅ＿ｃｈｒｏｍａ＿ｑｐ＿ｏｆｆｓｅｔｓ＿ｐｒｅｓｅｎｔ＿ｆｌａｇであってよい。

２１．ＰＰＳシンタックス要素は、ＳＰＳシンタックス要素に依存しなくてもよい。
ａ．一例で、ＰＰＳシンタックス要素ｌｏｇ２＿ｔｒａｎｓｆｏｒｍ＿ｓｋｉｐ＿ｍａｘ＿ｓｉｚｅ＿ｍｉｎｕｓ２は、ＳＰＳシンタックス要素（例えば、ｓｐｓ＿ｔｒａｎｓｆｏｒｍ＿ｓｋｉｐ＿ｅｎａｂｌｅｄ＿ｆｌａｇ）によって条件付きで通知されなくてもよい。

［５ 実施形態］
以下は、例となる実施形態であり、ＶＶＣ規格に適用され得る。変更は、最新のＶＶＣ作業草案（ＪＶＥＴ－Ｏ２００１－ｖ１４）に基づいている。新たに加えられた部分は、太字イタリック体で強調表示されており、ＶＶＣ作業草案から削除された部分は、二重括弧でマークされている（例えば、［［ａ］］は、文字“ａ”の削除を表す。）。

サブブロック境界について４×４グリッドでルーマデブロッキングフィルタを適用することに関する実施形態＃１

４×４グリッドのアフィンコーディングされたサブブロック境界及び８×８グリッドのＳｂＴＭＶＰコーディングされたサブブロック境界でのルーマデブロッキングフィルタの適用、並びに、８×８グリッドサブブロック境界でのクロマデブロッキングフィルタの適用に関する実施形態＃２

変換ブロックエッジのためのデブロッキングフィルタ強さ設定を動きベクトルから切り離すことに関する実施形態＃３

最初のサブブロック境界のデブロッキングフィルタ長さを決定することに関する実施形態＃４

コーディングブロック寸法をチェックせずにデブロッキングフィルタ長さを決定することに関する実施形態＃５

サブブロック境界のインデックスによってデブロッキングフィルタ長さを決定することに関する実施形態＃６

隣接ＴＵエッジによってデブロッキングフィルタ長さを決定することに関する実施形態＃７

ＳｂＴＭＶＰ／アフィン予測ブロックに対するＳＢＴの無効化に関する実施形態＃８

ＡＬＦ仮想境界での水平エッジデブロッキングの無効化に関する実施形態＃９

クロマフラグ通知に関する実施形態＃１０

ＢＳ設定に関する実施形態＃１１

ＢＳ設定に関する実施形態＃１２

図６Ａは、ビデオ処理装置６００のブロック図である。装置６００は、本明細書で記載されている方法の１つ以上を実装するために使用され得る。装置６００は、スマートフォン、タブレット、コンピュータ、インターネット・オブ・シングス（Internet of Things，ＩｏＴ）レシーバ、などで具現化されてもよい。装置６００は、１つ以上のプロセッサ６０２，１つ以上のメモリ６０４、及びビデオ処理ハードウェア６０６を含み得る。プロセッサ６０２は、本明細書で記載されている１つ以上の方法を実装するよう構成され得る。メモリ（複数のメモリ）６０４は、本明細書で記載されている方法及び技術を実装するために使用されるデータ及びコードを記憶するために使用され得る。ビデオ処理ハードウェア６０６は、本明細書で記載されているいくつかの技術をハードウェア回路において実装するために使用され得る。

図６Ｂは、開示されている技術が実装され得るビデオ処理システムのブロック図の他の例である。図６Ｂは、本明細書で開示されている様々な技術が実装され得る、例となるビデオ処理システム６１０を示すブロック図である。様々な実施は、システム６１０のコンポーネントの一部又は全部を含んでもよい。システム６１０は、ビデオコンテンツを受ける入力部６１２を含み得る。ビデオコンテンツは、生の又は圧縮されていないフォーマット、例えば、８又は１０ビットのマルチコンポーネントピクセル値で受け取られてもよく、あるいは、圧縮された又は符号化されたフォーマットであってもよい。入力部６１２は、ネットワークインターフェース、ペリフェラルバスインターバス、又はストレージインターフェースに相当してもよい。ネットワークインターフェースの例には、Ｅｔｈｅｒｎｅｔ（登録商標）、受動光ネットワーク（Passive Optical Network，ＰＯＮ）などのような有線インターフェース、及びＷｉ－Ｆｉ又はセルラーネットワークなどの無線インターフェースが含まれる。

システム６１０は、本明細書で記載されている様々なコーディング又は符号化方法を実装し得るコーディングコンポーネント６１４を含んでもよい。コーディングコンポーネント６１４は、ビデオのコーディングされた表現を生成するよう、入力部６１２からコーディングコンポーネント６１４の出力部へのビデオの平均ビットレートを低減し得る。コーディング技術は、従って、ビデオ圧縮又はビデオトランスコーディング技術と時々呼ばれる。コーディングコンポーネント６１４の出力は、コンポーネント６１６によって表されるように、保存されても、あるいは、接続された通信を介して伝送されてもよい。入力部６１２で受け取られたビデオの保存又は通信されたビットストリーム（又はコーディングされた）表現は、ピクセル値又は表示インターフェース６２０へ送られる表示可能なビデオを生成するコンポーネント６１８によって使用されてもよい。ユーザが見ることができるビデオをビットストリーム表現から生成するプロセスは、ビデオ圧縮解除と時々呼ばれる。更に、特定のビデオ処理動作が「コーディング」動作又はツールと呼ばれる一方で、そのようなコーディングツール又は動作はエンコーダで使用され、そして、コーディングの結果を入れ替える対応する復号化ツール又は動作は、デコーダによって実行されることが理解されるだろう。

ペリフェラルバスインターフェース又は表示インターフェースの例には、ユニバーサルシリアルバス（Universal Serial Bus，ＵＳＢ）又は高精細マルチメディアインターフェース（High Definition Multimedia Interface，ＨＤＭＩ（登録商標））又はＤｉｓｐｌａｙｐｏｒｔ（登録商標）などが含まれ得る。ストレージインターフェースの例には、ＳＡＴＡ（Serial Advanced Technology Attachment）、ＰＣＩ、ＩＤＥインターフェース、などがある。本明細書で説明されている技術は、携帯電話機、ラップトップ、スマートフォン、あるいは、デジタルデータ処理及び／又はビデオ表示を実行する能力がある他のデバイスなどの様々な電子デバイスで具現化されてもよい。

開示されている技術のいくつかの実施形態は、ビデオ処理ツール又はモードを有効にするとの決定又は判定を行うことを含む。例において、ビデオ処理ツール又はモードが有効にされる場合に、エンコーダは、ビデオのブロックの処理においてそのツール又はモードを使用又は実装するが、結果として得られるビットストリームを、そのツール又はモードの利用に基づいて必ずしも変更しなくてもよい。つまり、ビデオのブロックからビデオのビットストリーム表現への変換は、ビデオ処理ツール又はモードが決定又は判定に基づいて有効にされる場合にそれを使用することになる。他の例においては、ビデオ処理ツール又はモードが有効にされる場合に、デコーダは、ビットストリームがそのビデオ処理ツール又はモードに基づいて変更されていると知った上でビットストリームを処理する。つまり、ビデオのビットストリーム表現からビデオのブロックへの変換は、決定又は判定に基づいて有効にされたビデオ処理ツール又はモードを用いて実行されることになる。

開示されている技術のいくつかの実施形態は、ビデオ処理ツール又はモードを無効にするとの決定又は判定を行うことを含む。例において、ビデオ処理ツール又はモードが無効にされる場合に、エンコーダは、ビデオのブロックからビデオのビットストリーム表現への変換においてそのツール又はモードを使用しない。他の例においては、ビデオ処理ツール又はモードが無効にされる場合に、デコーダは、決定又は判定に基づいて無効にされたビデオ処理ツール又はモードを用いてビットストリームが変更されていないと知った上でビットストリームを処理する。

本明細書中、「ビデオ処理」という用語は、ビデオ符号化、ビデオ復号化、ビデオ圧縮又はビデオ圧縮解除を指し得る。例えば、ビデオ圧縮アルゴリズムは、ビデオのピクセル表現から、対応するビットストリーム表現への変換中に、又はその逆も同様に、適用されてもよい。現在のビデオブロックのビットストリーム表現は、例えば、シンタックスによって定義されるような、ビットストリーム内で同一位置にあるか又は異なった場所に広がっているかのどちらかであるビットに対応してもよい。例えば、マクロブロックは、変換及びコーディングされた誤差残余値に関して、更には、ビットストリーム内のヘッダ及び他のフィールドにおけるビットを用いて、符号化されてもよい。

以下の付記の第１の組は、いくつかの実施形態のおける好適な付記として実装され得る。

以下の付記は、前のセクションで挙げられている項目（例えば、項目１）で記載されている追加の技術とともに実装され得る。

付記１．
ビデオ処理の方法（例えば、図７に表されている方法７００）であって、
ビデオと該ビデオのビットストリーム表現との間の変換のために、デブロッキングフィルタが現在のサブブロックの自然境界に適用されるかどうか又はどのように適用されるかに関する決定を、前記現在のサブブロックのサイズに依存したサイズルール、及び／又はポジションルール、及び／又はコーディングモードルールに基づき行うステップ（７０２）と、
前記決定に従って前記変換を実行するステップ（７０４）と
を有し、
前記サイズルールは、前記デブロッキングフィルタが４×４サブブロックに対して適用されることを定める、方法。

付記２．
前記デブロッキングフィルタがどのように適用されるかに関する決定を行うステップは、フィルタ長さを決定するステップを含む、
付記１に記載の方法。

付記３．
前記サイズルールは、前記デブロッキングフィルタが８×８サブブロックに適用されないことを更に定めるか、あるいは、前記サイズルールは、前記デブロッキングフィルタがどのように適用されるかに関する決定が８×８サブブロックに対しては実行されないことを更に定める、
付記１に記載の方法。

付記４．
前記コーディングモードルールは、前記現在のサブブロックの動き補償又は動き導出エッジと整列する前記自然境界で前記デブロッキングフィルタを有効にすることを定める、
付記１乃至３のうちいずれかに記載の方法。

以下の付記は、前のセクションで挙げられている項目（例えば、項目４）で記載されている追加の技術とともに実装され得る。

付記５．
前記ポジションルールは、ビデオ領域内の他のサブブロックのために使用されるのと同じであるフィルタ長さを前記現在のサブブロックのために使用されることを定める、
付記１乃至４のうちいずれかに記載の方法。

付記６．
前記ビデオ領域は、前記現在のサブブロックを含む現在のブロックである、
付記５に記載の方法。

以下の付記は、前のセクションで挙げられている項目（例えば、項目４）で記載されている追加の技術とともに実装され得る。

付記７．
ビデオ処理の方法であって、
ビデオと該ビデオのビットストリーム表現との間の変換のために、前記ビデオのビデオ領域に対してデブロッキングフィルタを使用するとの決定を行うステップと、
前記決定に従って前記変換を実行するステップと
を有し、
前記デブロッキングフィルタは、前記ビデオ領域に関連した仮想境界の位置に依存するルールに従って、前記ビデオ領域のサンプルに選択的に適用される、
方法。

付記８．
前記ビデオ領域は、コーディングツリーユニットに対応し、
前記仮想境界は、水平コーディングツリーユニット境界の上にあるＮ個のサンプルであり、
前記ルールは、前記仮想境界では前記デブロッキングフィルタを無効にすることを定める、
付記７に記載の方法。

付記９．
前記ビデオ領域は、変換ユニットであり、
前記ルールは、前記仮想境界と一致する前記ビデオ領域の水平エッジでは前記デブロッキングフィルタを無効にすることを定める、
付記７に記載の方法。

付記１０．
前記ビデオ領域は、予測ユニットであり、
前記ルールは、前記仮想境界と一致する前記ビデオ領域の水平エッジでは前記デブロッキングフィルタを無効にすることを定める、
付記７に記載の方法。

付記１１．
前記ルールは、前記仮想境界と一致する前記ビデオ領域の垂直エッジでは前記デブロッキングフィルタを無効にすることを定める、
付記７又は９乃至１０のうちいずれかに記載の方法。

以下の付記は、前のセクションで挙げられている項目（例えば、項目１４）で記載されている追加の技術とともに実装され得る。

付記１２．
ビデオ処理の方法であって、
ビデオと該ビデオのビットストリーム表現との間の変換のために、前記ビデオのビデオ領域に対してデブロッキングフィルタを使用するとの決定を行うステップと、
前記デブロッキングフィルタの計算が、前記ビデオ領域に関連した仮想境界の位置に依存するルールに従って実行されるように、前記決定に従って前記変換を実行するステップと
を有する方法。

付記１３．
前記ルールは、前記デブロッキングフィルタを使用することによってサンプルｐがサンプルｐ’に変更されることを定め、
Ｐ’＝ｐ＋ｄ’であり、ｄ’＝Ｃｌｉｐ３（ｔ１，ｔ２，ｄ）であり、
ｄは、前記変換の間に導出され、
［ｔ１，ｔ２］は、クリッピング範囲であり、ｔ１及びｔ２は整数である、
付記１２に記載の方法。

付記１４．
ｔ１又はｔ２は、前記デブロッキングフィルタが前記仮想境界に適用されるかどうかに依存する、
付記１３に記載の方法。

付記１５．
ｔ１＝－２^Ｎかつｔ２＝２^Ｎ－１であり、
Ｎは整数である、
付記１３乃至１４のうちいずれかに記載の方法。

以下の付記は、前のセクションで挙げられている項目（例えば、項目１５）で記載されている追加の技術とともに実装され得る。

付記１６．
ビデオ処理の方法であって、
少なくとも一部が複数のサブブロックを含む複数のビデオブロックを有するビデオと、該ビデオのコーディングされた表現との間の変換を、サブブロック変換モード及びサブブロックコーディングモードが前記変換の間に相互排他的に使用されることを定める排他ルールに基づき実行するステップを有する方法。

付記１７．
前記サブブロックコーディングモードは、アフィンコーディングモードに対応する、
付記１６に記載の方法。

付記１８．
前記サブブロックコーディングモードは、ＳｂＴＭＶＰ（Subblock Temporal Motion Vector Predictor）モードを含む、
付記１６又は１７に記載の方法。

以下の付記は、前のセクションで挙げられている項目（例えば、項目１６）で記載されている追加の技術とともに実装され得る。

付記１９．
前記コーディングされた表現は、前記排他ルールにより除外されるコーディングモードのシンタックス要素を除く、
付記１６乃至１８のうちいずれかに記載の方法。

以下の付記は、前のセクションで挙げられている項目（例えば、項目２０）で記載されている追加の技術とともに実装され得る。

付記２０．
ビデオ処理の方法であって、
ビデオのクロマ成分に関連したコーディング方法又はクロマフォーマットに基づき、前記ビデオと該ビデオのコーディングされた表現との間の変換のために、シンタックス要素が前記コーディングされた表現において通知されるかどうかに関する決定を行うステップと、
前記決定に基づき前記変換を実行するステップと
を有する方法。

付記２１．
前記クロマフォーマットは、クロマフォーマットサンプリング構造を有する、
付記２０に記載の方法。

付記２２．
前記シンタックス要素は、クロマフォーマットサンプリング構造に従ってピクチャパラメータセットにおいて条件付きで通知されるＣｂ／Ｃｒフラグである、
付記２０乃至２１のうちいずれかに記載の方法。

付記２３．
前記シンタックス要素はＸと呼ばれ、前記クロマフォーマットがモノクロフォーマットである場合にのみ通知される、
付記２０に記載の方法。

付記２４．
前記シンタックス要素はＸと呼ばれ、前記クロマフォーマットが４：４：４である場合にのみ通知され、別個のカラーフラグは１にセットされる、
付記２０に記載の方法。

付記２５．
Ｘは、ｐｐｓ＿ｃｂ＿ｑｐ＿ｏｆｆｓｅｔ又はｐｐｓ＿ｃｒ＿ｑｐ＿ｏｆｆｓｅｔ又はｐｐｓ＿ｊｏｉｎｔ＿ｃｂｃｒ＿ｑｐ＿ｏｆｆｓｅｔ又はｃｕ＿ｃｈｒｏｍａ＿ｑｐ＿ｏｆｆｓｅｔ＿ｅｎａｂｌｅｄ＿ｆｌａｇ又はｐｐｓ＿ｓｌｉｃｅ＿ｃｈｒｏｍａ＿ｑｐ＿ｏｆｆｓｅｔｓ＿ｐｒｅｅｓｅｎｔ＿ｆｌａｇである、
付記２３又は２４に記載の方法。

以下の付記は、前のセクションで挙げられている項目（例えば、項目２１）で記載されている追加の技術とともに実装され得る。

付記２６．
ビデオ処理の方法であって、
複数のピクチャの連続を含むビデオのコーディングされた表現において第１シンタックス要素のパージング（parsing）を行うステップと、
前記パージングに基づき前記ビデオを生成するステップと
を有し、
前記第１シンタックス要素は、ピクチャパラメータセットレベルで前記コーディングされた表現に含まれ、
前記パージングは、シーケンスパラメータセットレベルでの第２シンタックス要素の存在に応じて前記第１シンタックス要素の使用を除く暗黙的ルールがないときに実行される、
方法。

付記２７．
ビデオ処理の方法であって、
ピクチャパラメータセットレベルで、複数のピクチャの連続を含むビデオのコーディングされた表現に第１シンタックス要素を含めるステップと、
前記含めることに基づき前記コーディングされた表現を生成するステップと
を有し、
前記含めるステップは、シーケンスパラメータセットレベルでの第２シンタックス要素の存在に応じて前記第１シンタックス要素の包含を除く暗黙的ルールがないときに実行される、
方法。

付記２８．
前記第１シンタックス要素は、ｌｏｇ２＿ｔｒａｎｓｆｏｒｍ＿ｓｋｉｐ＿ｍａｘ＿ｓｉｚｅ＿ｍｉｎｕｓ２であり、
前記第２シンタックス要素は、ｓｐｓ＿ｔｒａｎｓｆｏｒｍ＿ｓｋｉｐ＿ｅｎａｂｌｅｄ＿ｆｌａｇである、
付記２６乃至２７のうちいずれかに記載の方法。

付記２９．
変換は、ビデオをコーディングされた表現に符号化することを有する、
付記１乃至２８のうちいずれかに記載の方法。

付記３０．
変換は、コーディングされた表現を復号してビデオのピクセル値を生成することを有する、
付記１乃至２８のうちいずれかに記載の方法。

付記３１．
付記１乃至３０のうちの１つ以上に記載されている方法を実装するよう構成されたプロセッサを有するビデオ復号化装置。

付記３２．
付記１乃至３０のうちの１つ以上に記載されている方法を実装するよう構成されたプロセッサを有するビデオ符号化装置。

付記３３．
コンピュータコードを記憶しているコンピュータプログラム製品であって、
前記コードは、プロセッサによって実行される場合に、該プロセッサに、付記１乃至３０のうちいずれかに記載の方法を実装させる、
コンピュータプログラム製品。

付記３４．
本明細書で記載されている方法、装置、又はシステム。

以下の付記は、いくつかの実施形態及び技術について記載する。付記の第２の組は、前のセクションにおける開示された技術の特定の特徴及び態様（例えば、項目１乃至７）について記載する。

付記１．
ビデオ処理の方法（例えば、図８Ａに表されている方法８１０）であって、
ビデオの現在のビデオブロックのサブブロックについて、ルールに従って、デブロッキングフィルタが適用されるべきであるサブブロック境界を決定するステップ（８１２）と、
前記デブロッキングフィルタを用いて、前記ビデオと該ビデオのコーディングされた表現との間の変換を実行するステップ（８１４）と
を有し、
前記ルールは、ｉ）前記現在のビデオブロックのサブブロックの位置と予め定義された値との和と、ｉｉ）前記現在のビデオブロックの幅又は高さとの間の関係をチェックせずに、デブロッキングフィルタ長さが決定されることを定める、
方法。

付記２．
前記ルールは、ｘ＋ｄｘの値が前記現在のビデオブロックの幅以上であるかどうかをチェックせずに、垂直方向における前記デブロッキングフィルタ長さが決定されることを定める、
付記１に記載の方法。

付記３．
ｘは、前記現在のビデオブロックにおける当該サブブロックの水平位置である、
付記２に記載の方法。

付記４．
ｄｘは４に等しくセットされる、
付記３に記載の方法。

付記５．
前記ルールは、ｙ＋ｄｘの値が前記現在のビデオブロックの高さ以上であるかどうかをチェックせずに、水平方向における前記デブロッキングフィルタ長さが決定されることを定める、
付記１に記載の方法。

付記６．
ｙは、前記現在のビデオブロックにおける当該サブブロックの垂直位置である、
付記５に記載の方法。

付記７．
ｄｙは４に等しくセットされる、
付記６に記載の方法。

付記８．
ビデオ処理の方法（例えば、図８Ｂに表されている方法８２０）であって、
ビデオの現在のビデオブロックと前記ビデオのコーディングされた表現との間の変換のために、ルールに基づき、デブロッキングフィルタが前記現在のビデオブロックのサブブロック間の境界に適用されるかどうか、及び／又は前記デブロッキングフィルタが適用される場合に使用されるデブロッキングパラメータに関して決定を行う（８２２）ステップと、
前記決定に基づき前記変換を実行するステップ（８２４）と
を有し、
前記ルールは、前記境界がサブブロックのＮ×Ｍサンプルグリッドに位置するかどうか、及び／又は前記境界が前記現在のビデオブロックの自然境界であるかどうかに基づき、
Ｎ及びＭは整数である、方法。

付記９．
前記デブロッキングパラメータは、デブロッキングフィルタ長さ及び／又はデブロッキングフィルタ強さを含む、
付記８に記載の方法。

付記１０．
前記デブロッキングフィルタは、前記ビデオのルーマ情報を含むビデオ情報にデブロッキングフィルタリング処理を施すルーマデブロッキングフィルタに対応し、
前記決定を行うステップは、前記ルーマデブロッキングフィルタを４×４サンプルグリッドに適用することを定める前記ルールに基づき、前記ルーマデブロッキングフィルタを適用すると決定する、
付記８又は９に記載の方法。

付記１１．
前記ルールは、前記境界が８×８サンプルグリッドに位置する場合に、前記自然境界である前記境界には前記ルーマデブロッキングフィルタが適用されないことを更に定める、
付記１０に記載の方法。

付記１２．
前記決定を行うステップは、フィルタ長さを決定するステップを含む、
付記８に記載の方法。

付記１３．
前記フィルタ長さの決定は、前記デブロッキングフィルタが、前記ビデオのルーマ情報を含むビデオ情報にデブロッキングフィルタリング処理を施すルーマデブロッキングフィルタに対応する場合に、４×４サンプルグリッドに対して適用され、８×８サンプルグリッドに対しては適用されない、
付記１２に記載の方法。

付記１４．
前記Ｎ×Ｍサンプルグリッドは、当該サブブロックのコーディングモードを決定される、
付記８に記載の方法。

付記１５．
前記Ｎ×Ｍサンプルグリッドは、当該サブブロックの動き補償又は動き導出エッジと整列する、
付記１４に記載の方法。

付記１６．
前記デブロッキングフィルタは、前記ビデオのクロマ情報を含むビデオ情報にデブロッキングフィルタリング処理を施すクロマデブロッキングフィルタに対応する、
付記８に記載の方法。

付記１７．
前記ルールは、前記クロマデブロッキングフィルタが前記Ｎ×Ｍサンプルグリッドに適用されることを更に定め、Ｎ及びＭの夫々は４又は８である、
付記１６に記載の方法。

付記１８．
前記決定を行うステップは、現在のクロマデブロッキングエッジが当該サブブロックの境界であるかどうかを決定するステップを含み、そのような決定は、Ｎ×Ｎサンプルグリッドに対して実行され、Ｎは４又は８である、
付記１６に記載の方法。

付記１９．
前記フィルタ長さの決定は、前記デブロッキングフィルタが、前記ビデオのクロマ情報を含むビデオ情報にデブロッキングフィルタリング処理を施すクロマデブロッキングフィルタに対応する場合に、前記Ｎ×Ｍサンプルグリッドに対して適用され、Ｎ及びＭの夫々は４又は８である、
付記１２に記載の方法。

付記２０．
クロマデブロッキングフィルタに対して決定される前記フィルタ長さは、Ｌ以下である、
付記１２に記載の方法。

付記２１．
前記クロマデブロッキングフィルタの強さは、ｉ）動きベクトルの数、ｉｉ）参照ピクチャ、又はｉｉｉ）前記境界の両側に位置している２つの隣接ピクセルの間の絶対ブロックベクトル（Block Vector，ＢＶ）又は動きベクトル（Motion Vector，ＭＶ）差、のうちの少なくとも１つに依存する、
付記１６に記載の方法。

付記２２．
前記決定を行うステップは、前記サブブロックがサブブロックベースの方法を用いてコーディングされるかどうかに更に依存して実行される、
付記８に記載の方法。

付記２３．
前記現在のサブブロックは、アフィンコーディングモード、ＳｂＴＭＶＰ（Subblock Temporal Motion Vector Predictor）モード、ＤＭＶＲ（Decoder-side Motion Vector Refinement）モード、クロマＩＢＣ（Inter Block Copy）モードでコーディングされる、
付記２２に記載の方法。

付記２４．
前記決定を行うステップは、前記ビデオのカラーサブサンプリングフォーマットに依存する、
付記８に記載の方法。

付記２５．
Ｎ及びＭは、前記ビデオのカラーフォーマットに依存する、
付記８乃至２４のうちいずれかに記載の方法。

付記２６．
ビデオ処理の方法（例えば、図８Ｃに表されている方法８３０）であって、
現在のビデオブロックが予測のための複数のサブパーティションに分割されているジオメトリ予測モードでコーディングされた前記現在のビデオブロックのＮ×Ｎサンプルグリッドにデブロッキングフィルタを適用するとの決定を行うステップ（８３２）と、
前記決定に基づき、前記現在のビデオブロックを含むビデオと該ビデオのコーディングされた表現との間の変換を実行するステップ（８３４）と
を有し、
Ｎは４又は８に等しい、
方法。

付記２７．
前記現在のビデオブロックに対する内部エッジ導出は、ＳｂＴＭＶＰ（Subblock Temporal Motion Vector Predictor）モード及び／又はアフィンモードを用いてコーディングされたビデオブロックに対するサブブロック境界導出プロセスに適用されるルールに基づき、実行される、
付記２６に記載の方法。

付記２８．
前記デブロッキングフィルタの境界、フィルタ長さ、及び／又はフィルタ強さは、４×４サンプルグリッド又は８×８サンプルグリッドに基づき決定される、
付記２６に記載の方法。

付記２９．
ビデオ処理の方法（例えば、図８Ｄに表されている方法８４０）であって、
ビデオの現在のビデオブロックのサブブロックについて、ルールに従って、デブロッキングフィルタが適用されるべきサブブロック境界を決定するステップ（８４２）と、
前記デブロッキングフィルタを用いて、前記ビデオと該ビデオのコーディングされた表現との間の変換を実行するステップ（８４４）と
を有する方法。

付記３０．
前記ルールは、最左垂直境界又は最上水平境界のためのデブロッキングフィルタ長さが、他のサブブロックのために使用されるのと同じであることを定める、
付記２９に記載の方法。

付記３１．
前記ルールは、前記最左垂直境界又は前記最上水平境界が変換ブロックエッジと一致するかどうかに基づき、前記デブロッキングフィルタ長さが決定されることを更に定める、
付記３０に記載の方法。

付記３２．
前記最左垂直境界又は前記最上水平境界について、前記デブロッキングフィルタ長さ（ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰｓ）は、１）前記最左垂直境界又は前記最上水平境界に対して左隣又は上隣にあるブロックがＳｂＴＭＶＰコーディング若しくはアフィンコーディングされているかどうか、及び／又は２）前記現在のビデオブロック内のサブブロックの数、にかかわらず、Ｍｉｎ（５，ｍａｘＦｉｌｔｅｒＬｅｎｇｔｈＰｓ）にセットされる、
付記３０に記載の方法。

付記３３．
前記ルールは、デブロッキングフィルタ長さが、対応するサブブロックのサブブロックエッジ位置に基づき決定されることを定める、
付記２９に記載の方法。

付記３４．
前記サブブロックエッジ位置は、［０，Ｍ］の範囲を有する対応するサブブロックエッジインデックス（ｘＥｄｇｅ）を有し、Ｍは、０以上の整数である、
付記３３に記載の方法。

付記３５．
［ａ，ｂ］の範囲内のｘＥｄｇｅについて、前記デブロッキングフィルタ長さは、固定整数値（Ｌ）にセットされ、ａ及びｂは、０以上の整数である、
付記３４に記載の方法。

付記３６．
ａ＝０又は１、あるいは、ｂ＝Ｍ又はＭ－１、あるいは、ａ＝ｂ＝０、１、Ｍ又はＭ－１である、
付記３５に記載の方法。

付記３７．
前記ルールは、デブロッキングフィルタ長さが、前記現在のビデオブロックのサイズとｘ＋ｄｅｌｔａの値との間の関係に基づき決定されることを定め、
ｘは、前記現在のビデオブロック内の水平又は垂直サブブロック位置を表し、ｄｅｌｔａは整数である、
付記２９に記載の方法。

付記３８．
前記デブロッキングフィルタ長さは、ｘ＋ｄｅｌｔａの値が前記現在のビデオブロックの幅又は高さ以上であるかどうかをチェックすることによって、決定される、
付記３７に記載の方法。

付記３９．
前記ルールは、前記現在のビデオブロックにおける列ｘでの垂直境界又は行ｙでの水平境界のデブロッキングフィルタ長さが、列ｘ＋ｄｘでの垂直境界又はｙ＋ｄｙでの水平境界が変換ブロック境界であるか否かに基づき決定されることを定め、
ｄｘ及びｄｙは整数である、
付記２９に記載の方法。

付記４０．
前記現在のビデオブロックは、ＳｂＴＭＶＰ（Subblock Temporal Motion Vector Predictor）モード及び／又はアフィンモードを用いてコーディングされる、
付記３９に記載の方法。

付記４１．
前記デブロッキングフィルタ長さは、ｘ＋ｄｘが前記現在のビデオブロックの幅以上であるという第１条件が満足されるかどうか、及び／又はｙ＋ｄｙが前記現在のビデオブロックの高さ以上であるという第２条件が満足されるかどうかをチェックせずに、決定される、
付記３９に記載の方法。

付記４２．
前記デブロッキングフィルタ長さは、ｘ＋ｄｘが前記現在のビデオブロックの幅以上であるという第１条件が満足されるかどうか、及び／又はｙ＋ｄｙが前記現在のビデオブロックの高さ以上であるという第２条件が満足されるかどうかに更に基づき、決定される、
付記３９に記載の方法。

付記４３．
前記変換の実行は、前記コーディングされた表現を前記現在のビデオブロックから生成することを含む、
付記１乃至４２のうちいずれかに記載の方法。

付記４４．
前記変換の実行は、前記現在のビデオブロックを前記コーディングされた表現から生成することを含む、
付記１乃至４２のうちいずれかに記載の方法。

付記４５．
付記１乃至４４のうちいずれか１つ以上に記載されている方法を実装するよう構成されたプロセッサを有するビデオ処理装置。

付記４６．
実行される場合に、プロセッサに、付記１乃至４４のうちいずれか１つ以上に記載されている方法を実装させるプログラムコードを記憶しているコンピュータ可読媒体。

付記の第３の組は、前のセクションにおける開示された技術の特定の特徴及び態様（例えば、項目８乃至２０）について記載する。

付記１．
ビデオ処理の方法（例えば、図９Ａに表されている方法９１０）であって、
ビデオの現在のビデオブロックと前記ビデオのコーディングされた表現との間の変換のために、ルールに基づきデブロッキングフィルタを用いて前記現在のビデオブロックのサブブロック境界に適用される境界強さを決定するステップ（９１２）と、
前記決定に基づき前記変換を実行するステップ（９１４）と
を有し、
前記ルールは、前記サブブロック境界が変換ブロック境界であるかどうかにかかわらず、前記境界強さが２に等しくセットされることを定める、方法。

付記２．
前記ルールは、前記変換ブロック境界ではない前記サブブロック境界に対して前記境界強さが２に等しくセットされることを定める、
付記１に記載の方法。

付記３．
前記ルールは、前記境界沿いの２つの隣接サンプルのうちの少なくとも１つがインター－イントラ複合予測（Combined Inter-Intra Prediction，ＣＩＩＰ）モードを用いてコーディングされることを定める、
付記１又は２に記載の方法。

付記４．
前記ＣＩＩＰモードは、インター予測サンプル及びイントラ予測サンプルの加重和に基づき予測サンプルを導出するために使用される、
付記３に記載の方法。

付記５．
ビデオ処理の方法（例えば、図９Ｂに表されている方法９２０）であって、
ビデオの現在のビデオブロックと前記ビデオのコーディングされた表現との間の変換をルールに従って実行するステップ（９２２）を有し、
前記変換は、
符号化中に、前記現在のビデオブロックを変換ブロック（Transform Blocks，ＴＢ）にパーティション化し、ＴＢレベル変換を前記ＴＢに適用すること、又は
復号化中に、前記ビデオの前記コーディングされた表現内のコーディングされたサンプルにＴＢレベル逆変換を適用すること
を有するサブブロック変換（Sb-Block Transform，ＳＢＴ）ツールを使用し、
前記ルールは、水平方向及び／又は垂直方向において少なくとも３つのＴＢ境界にわたって適応フィルタが有効にされることを定める、
方法。

付記６．
前記少なくとも３つのＴＢ境界は、前記変換ブロック間の２つのＴＢ境界と、前記現在のビデオブロックのコーディングブロック境界とを含む、
付記５に記載の方法。

付記７．
変換ブロックは、前記現在のビデオブロックよりもサイズが小さい、
付記６に記載の方法。

付記８．
前記コーディングブロック境界にフィルタリング処理を施すべきかどうかは、前記コーディングブロック境界が前記現在のビデオブロックのサブブロック間のサブブロック境界であるかどうかに依存する、
付記６に記載の方法。

付記９．
ビデオ処理の方法（例えば、図９Ｃに表されている方法９３０）であって、
ビデオの現在のビデオブロックと前記ビデオのコーディングされた表現との間の変換のために、前記現在のビデオブロックのエッジの両側にある２つの隣接サンプルが、非ゼロ変換係数レベルを含まない２つの変換ブロックに属するとの第１決定を行うステップ（９３２）と、
前記第１決定に基づき、前記現在のブロックエッジのデブロッキングフィルタ強さを０とセットするとの第２決定を行うステップ（９３４）と、
前記第１決定及び前記第２決定を用いて前記変換を実行するステップ（９３６）と
を有する方法。

付記１０．
前記２つの隣接サンプルのうちの１つは、前記現在のビデオブロックがサブパーティションに分割されるジオメトリ予測モードとしてコーディングされている、
付記９に記載の方法。

付記１１．
前記２つの隣接サンプルの間の動きベクトル差は、閾値Ｔよりも高く、Ｔは整数である、
付記９に記載の方法。

付記１２．
変換ブロック境界での前記デブロッキングフィルタ強さについての前記第２決定は、動きベクトル関連ルールから独立して行われる、
付記９に記載の方法。

付記１３．
ビデオ処理の方法であって、
ビデオの現在のビデオブロックと前記ビデオのコーディングされた表現との間の変換を、デコーダ側動きベクトル精緻化（Decoder-side Motion Vector Refinement，ＤＭＶＲ）ツールを用いて実行するステップと、
前記変換の間に生成された再構成されたビデオブロックにデブロッキングフィルタを適用するステップと
を有し、
前記ＤＭＶＲツールは、前記コーディングされた表現内のコーディングされた動きベクトルを精緻化することによって生成された精緻化された動きベクトルを使用する動き補償によって前記再構成されたビデオブロックを生成することを含み、
前記デブロッキングフィルタのパラメータは、前記精緻化された動きベクトルに基づく、
方法。

付記１４．
前記現在のビデオブロックは、前ＤＭＶＲによって処理されたコーディングユニット（Coding Unit，ＣＵ）に対応し、
前記デブロッキングプロセスは、前記現在のビデオブロックのサブブロックの前記精緻化された動きベクトルを用いて前記コーディングユニット内のサブブロック境界で実行される、
付記１３に記載の方法。

付記１５．
前記現在のビデオブロックは、前ＤＭＶＲによって処理されたコーディングユニット（ＣＵ）に対応し、
前記デブロッキングプロセスは、前記ＣＵの通知された動きベクトルを用いてＣＵ境界で実行される、
付記１３に記載の方法。

付記１６．
前記現在のビデオブロックは、前ＤＭＶＲによって処理されたコーディングユニット（ＣＵ）に対応し、
前記デブロッキングプロセスは、前記ＣＵの通知された動きベクトルと、前記現在のビデオブロックのサブブロックの前記精緻化された動きベクトルとを用いてＣＵ境界で実行される、
付記１３に記載の方法。

付記１７．
ビデオ処理の方法（例えば、図９Ｄに表されている方法９４０）であって、
ビデオの現在のビデオブロックと前記ビデオのコーディングされた表現との間の変換のために、ルールに基づき、デブロッキングフィルタプロセスのためのデブロッキングフィルタ強さを決定するステップ（９４２）と、
前記決定に基づき前記変換を実行するステップ（９４４）と
を有し、
前記ルールは、前記デブロッキングフィルタ強さが、前記現在のビデオブロックの隣接するブロックの予測モードに依存しないことを定める、方法。

付記１８．
特定のコーディングモードは、前記現在のビデオブロックを含むビデオフレームを指し示すブロックベクトルを用いて予測ブロックを生成するインターブロックコピー（Inter Block Copy，ＩＢＣ）モード、又は時間相関を用いて前記ビデオを表現又は再構成することを含むインターコーディングモードである、
付記１７に記載の方法。

付記１９．
前記ルールは、前記デブロッキングフィルタ強さが、前に処理されたビデオブロックに基づき前記ビデオを表現又は再構成することを含むイントラモードを用いて前記隣接するブロックの１つがコーディングされているかどうかに依存することを定める、
付記１７又は１８に記載の方法。

付記２０．
ビデオ処理の方法（例えば、図９Ｅに表されている方法９５０）であって、
ビデオの現在のビデオブロックと前記ビデオのコーディングされた表現との間の変換のために、デブロッキングフィルタが前記現在のビデオブロックの境界に適用されるかどうか、及び／又は前記デブロッキングフィルタが適用される場合に使用されるデブロッキングパラメータを、前記境界のタイプに依存する又は該タイプとは無関係であるルールに基づき、決定するステップ（９５２）と、
前記決定に基づき前記変換を実行するステップ（９５４）と
を有する方法。

付記２１．
前記境界のタイプは、前記境界が変換ブロック境界又はサブブロック境界であるかどうかに関係がある、
付記２０に記載の方法。

付記２２．
前記ルールは、デブロッキングフィルタ強さが、変換ブロック境界又はサブブロック境界に対して異なる値として決定されることを定める、
付記２０又は２１に記載の方法。

付記２３．
変換ブロック境界フラグが第１アレイバッファに格納され、サブブロック境界フラグが、前記第１アレイバッファとは異なる第２アレイバッファに格納される、
付記２２に記載の方法。

付記２４．
前記変換ブロック境界のための前記デブロッキングフィルタ強さは、変換係数に基づき決定される、
付記２２に記載の方法。

付記２５．
前記サブブロック境界のための前記デブロッキングフィルタ強さは、前記境界の両側に位置している２つの隣接ピクセルの間の参照ピクチャ及び／又は動きベクトルに基づき決定される、
付記２２に記載の方法。

付記２６．
前記ルールは、１）前記境界が前記変換ブロック境界であって前記サブブロック境界ではなく、２）前記境界沿いの２つの隣接サンプルのうちの少なくとも１つがインターイントラ複合予測（ＣＩＩＰ）モードを用いてコーディングされている場合に、１又は２に等しくセットされることを定め、Ｘは１又は２である、
付記２２に記載の方法。

付記２７．
前記デブロッキングパラメータは、フィルタ強さ、フィルタ長さ、又は境界強さ、のうちの少なくとも１つを含み、
前記ルールは、前記境界の異なるタイプについて同じパラメータを使用することを定める、
付記２０に記載の方法。

付記２８．
ビデオ処理の方法（例えば、図９Ｆに表されている方法９６０）であって、
ビデオのビデオ領域と前記ビデオのコーディングされた表現との間の変換のために、ある方向のデブロッキングフィルタが、水平境界からＮサンプル離れている仮想境界にわたって適用されないと決定するステップ（９６２）と、
前記決定に基づき前記変換を実行するステップ（９６４）と
を有し、
Ｎは０よりも大きい整数である、方法。

付記２９．
Ｎは、ルーマ成分に対応する前記ビデオ領域については４であり、
Ｎは、クロマ成分に対応する前記ビデオ領域については２である、
付記２８に記載の方法。

付記３０．
前記決定するステップは、水平方向のデブロッキングフィルタが、前記現在のビデオブロックの変換ユニット、コーディングユニット、予測ユニット、又はサブブロックの境界に適用されないことを決定し、前記境界は前記仮想境界と一致する、
付記２８又は２９に記載の方法。

付記３１．
前記決定するステップは、垂直方向のデブロッキングフィルタが、前記現在のビデオブロックの変換ユニット、コーディングユニット、予測ユニット、又はサブブロックの境界に適用されることを決定し、前記境界は前記仮想境界と一致する、
付記２８又は２９に記載の方法。

付記３２．
ビデオ処理の方法（例えば、図９Ｇに表されている方法９７０）であって、
ビデオのビデオ領域と前記ビデオのコーディングされた表現との間の変換のために、デブロッキングフィルタを使用するデブロッキングプロセス中にサンプルの値をクリップすべきかどうか又はどのようにクリップすべきかを、前記デブロッキングフィルタによってフィルタリング処理される境界が前記ビデオ領域の水平境界からＮサンプル離れている仮想境界と一致するかどうかに依存するルールに基づき、決定するステップ（９７２）と、
前記決定に基づき前記変換を実行するステップ（９７４）と
を有し、
Ｎは０よりも大きい整数である、方法。

付記３３．
前記ルールは、値（ｐ）を有する前記サンプルが前記デブロッキングフィルタを使用することによって異なる値（ｐ’）に変更されることを定め、ｐ’＝ｐ＋ｄ’であり、ｄ’＝Ｃｌｉｐ３（ｔ１，ｔ２，ｄ）であり、ｄは前記変換の間に導出され、［ｔ１，ｔ２］はクリッピング範囲であり、ｔ１及びｔ１は整数である、
付記３２に記載の方法。

付記３４．
ｔ１又はｔ２は、前記デブロッキングフィルタが前記仮想境界に適用されるかどうかに依存する、
付記３３に記載の方法。

付記３５．
ｔ１＝－２^Ｎ及びｔ２＝２^Ｎ－１であり、
Ｎは整数である、
付記３３又は３４に記載の方法。

付記３６．
Ｎは、色成分及び／又はサンプルビットデプスに依存する、
付記３５に記載の方法。

付記３７．
ビデオ処理の方法（例えば、図９Ｈに表されている方法９８０）であって、
ビデオの現在のビデオブロックと前記ビデオのコーディングされた表現との間の変換のために使用されるコーディングツールをルールに従って決定するステップ（９８２）と、
前記コーディングツールに従って前記変換を実行するステップ（９８４）と
を有し、
前記ルールは、サブブロック変換（ＳＴＢ）ツールがサブブロックベースのコーディングモードでのみ使用されることを定める、方法。

付記３８．
前記サブブロックベースのコーディングモードは、アフィンコーディングモード又はＳｂＴＭＶＰ（Subblock Temporal Motion Vector Predictor）モードを含む、
付記３７に記載の方法。

付記３９．
前記コーディングされた表現は、前記ルールにより除外される前記サブブロックベースのコーディングモードのシンタックス要素を除く、
付記３７又は３８に記載の方法。

付記４０．
ビデオ処理の方法（例えば、図９Ｉに表されている方法９９０）であって、
イントラサブパーティショニング（Intra Sub-Partitioning，ＩＳＰ）モードの使用に従ってサブパーティションに分割される現在のビデオブロックについて、前記現在のビデオブロックの２つのサブパーティション間の境界にデブロッキングフィルタを適用することを決定するステップ（９９２）と、
前記決定に基づき前記ビデオの前記現在のビデオブロックと前記ビデオのコーディングされた表現との間の変換を実行するステップ（９９４）と
を有する方法。

付記４１．
前記現在のビデオブロックの前記２つのサブパーティション間にある列ｘでの垂直境界は、ｘがｘ＝Ｍ×Ｐ＋ｏｆｆｓｅｔ及び／又はｘ＜Ｗを満足する場合に、前記デブロッキングフィルタによってフィルタリング処理され、
ｏｆｆｓｅｔ、Ｍ及びＰは正の整数であり、Ｗは前記現在のビデオブロックの幅である、
付記４０に記載の方法。

付記４２．
前記現在のビデオブロックの前記２つのサブパーティション間にある行ｙでの水平境界は、ｙがｙ＝Ｍ×Ｐ＋ｏｆｆｓｅｔ及び／又はｙ＜Ｈを満足する場合に、前記デブロッキングフィルタによってフィルタリング処理され、
ｏｆｆｓｅｔ、Ｍ及びＰは正の整数であり、Ｈは前記現在のビデオブロックの高さである、
付記４０に記載の方法。

付記４３．
ビデオ処理の方法（例えば、図１０Ａに表されている方法１０１０）であって、
現在のビデオブロックがサブパーティションに分割されるジオメトリ予測モードでコーディングされた前記現在のビデオブロックについて、前記現在のビデオブロックの２つのＭ×Ｎ領域の間の境界にデブロッキングフィルタを適用することを決定するステップ（１０１２）と、
前記決定に基づきビデオの前記現在のビデオブロックと前記ビデオのコーディングされた表現との間の変換を実行するステップ（１０１４）と
を有し、
Ｍ及びＮは整数である、方法。

付記４４．
Ｍ×Ｎは４×４又は８×８に等しい、
付記４３に記載の方法。

付記４５．
ビデオ処理の方法（例えば、図１０Ｂに表されている方法１０２０）であって、
ビデオブロックを含むビデオと該ビデオのコーディングされた表現との間の変換のために、２つの隣接するビデオブロックの少なくとも１つが、前記２つの隣接するビデオブロックのうちの少なくとも１つがサブパーティションに分割されるジオメトリ予測モードでコーディングされていることにより、前記２つの隣接するビデオブロックの間の境界にデブロッキングフィルタを適用することを決定するステップ（１０２２）と、
前記決定に基づき前記変換を実行するステップ（１０２４）と
を有する方法。

付記４６．
ビデオ処理の方法（例えば、図１０Ｃに表されている方法１０３０）であって、
ビデオの現在のビデオブロックと前記ビデオのコーディングされた表現との間の変換のために、ルールに基づき、フィルタリングプロセスで使用されるフィルタリングパラメータを決定するステップ（１０３２）と、
前記決定に基づき前記変換を実行するステップ（１０３４）と
を有し、
前記ルールは、前記フィルタリングパラメータが、ｉ）動き補償プロセスで使用される動き情報、ｉｉ）動きストレージに格納されている動き情報、又はｉｉｉ）動きベクトル予測プロセスで使用される動き情報、に依存することを定める、
方法。

付記４７．
前記ルールは、前記２つの隣接するビデオブロックのうちの少なくとも１つがサブパーティションに分割されるジオメトリ予測モードでコーディングされた前記現在のビデオブロックについて、前記フィルタリングプロセスが前記動き補償プロセスで使用される前記動き情報に基づくことを定める、
付記４６に記載の方法。

付記４８．
前記ルールは、デブロッキングフィルタ強さ導出プロセス中に及び／又はデブロッキング境界フィルタリング強さ設定のために、動き補償プロセスで使用される動きベクトルを使用することを更に定める、
付記４７に記載の方法。

付記４９．
前記ルールは、前記現在のビデオブロックの記憶されているＨ×Ｈ動きベクトルが、デブロッキング境界フィルタリング強さ設定のために使用されないことを更に定める、Ｈは０よりも大きい整数である、
付記４７に記載の方法。

付記５０．
前記ルールは、復号された情報及び／又はブロック寸法に依存する、
付記４７に記載の方法。

付記５１．
ビデオ処理の方法であって、
ビデオと該ビデオのコーディングされた表現との間の変換を実行するステップを有し、
前記コーディングされた表現は、フォーマッティングルールに従い、
前記フォーマッティングルールは、クロマフォーマット、クロマ成分に関連したコーディングモード、又はクロマ情報シンタックス要素に基づき、前記クロマ成分を示すクロマシンタックス要素を前記コーディングされた表現に含めるべきかどうかを定める、
方法。

付記５２．
前記クロマシンタックス要素は、前記クロマフォーマットのサンプリング構造又は前記クロマ情報シンタックス要素に従ってピクチャパラメータセットにおいて条件付きで通知されるＣｂ／Ｃｒフラグである、
付記５１に記載の方法。

付記５３．
前記クロマシンタックス要素はＸと呼ばれ、ＣｈｒｏｍａＡｒｒａｙＴｙｐｅが真に等しい場合に通知される、
付記５１に記載の方法。

付記５４．
前記クロマシンタックス要素はＸと呼ばれ、前記クロマフォーマットがモノクロフォーマットである場合にのみ通知される、
付記５１又は５２に記載の方法。

付記５５．
前記クロマシンタックス要素はＸと呼ばれ、前記クロマフォーマットが４：４：４である場合にのみ通知され、別個のカラーフラグは１にセットされる、
付記５１又は５２に記載の方法。

付記５６．
前記クロマシンタックス要素はＸと呼ばれ、前記クロマ情報シンタックス要素が１にセットされる場合にのみ通知される、
付記５１又は５２に記載の方法。

付記５７．
Ｘは、ｉ）ｐｐｓ＿ｃｂ＿ｑｐ＿ｏｆｆｓｅｔ又はｉｉ）ｐｐｓ＿ｃｒ＿ｑｐ＿ｏｆｆｓｅｔ又はｉｉｉ）ｐｐｓ＿ｊｏｉｎｔ＿ｃｂｃｒ＿ｑｐ＿ｏｆｆｓｅｔ又はｉｖ）ｃｕ＿ｃｈｒｏｍａ＿ｑｐ＿ｏｆｆｓｅｔ＿ｅｎａｂｌｅｄ＿ｆｌａｇ又はｖ）ｐｐｓ＿ｓｌｉｃｅ＿ｃｈｒｏｍａ＿ｑｐ＿ｏｆｆｓｅｔｓ＿ｐｒｅｓｅｎｔ＿ｆｌａｇである、
付記５２乃至５６のうちいずれかに記載の方法。

付記５８．
前記変換の実行は、前記コーディングされた表現を前記現在のビデオブロックから生成することを含む、
付記１乃至５７のうちいずれかに記載の方法。

付記５９．
前記変換の実行は、前記現在のビデオブロックを前記コーディングされた表現から生成することを含む、
付記１乃至５７のうちいずれかに記載の方法。

付記６０．
付記１乃至５９のうちいずれか１つ以上に記載されている方法を実装するよう構成されたプロセッサを有するビデオ処理装置。

付記６１．
実行される場合に、プロセッサに、付記１乃至５９のうちいずれか１つ以上に記載されている方法を実装させるプログラムコードを記憶しているコンピュータ可読媒体。いくつかの実施形態で、コンピュータ可読媒体は、本明細書で記載されている技術に従って生成されたコーディングされた表現又はビットストリームを記憶する。

本明細書で記載されている開示された及び他の解決法、例、実施形態、モジュール及び機能的動作は、デジタル電子回路で、あるいは、本明細書で開示されている構造及びそれらの構造的同等物を含むコンピュータソフトウェア、ファームウェア、又はハードウェアで、あるいは、それらのうちの１つ以上の組み合わせで実装可能である。開示された及び他の実施形態は、１つ以上のコンピュータプログラム製品として、つまり、データ処理装置によって実行されるか又はその動作を制御するコンピュータ可読媒体で符号化されたコンピュータプログラム命令の１つ以上のモジュールとして実装可能である。コンピュータ可読媒体は、マシン可読記憶デバイス、マシン可読記憶基板、メモリデバイス、マシン可読な伝播信号に影響を与える物質の組成、又はそれらの１つ以上の組み合わせであることができる。「データ処理装置」との用語は、例として、プログラム可能なプロセッサ、コンピュータ、又は複数のプロセッサ若しくはコンピュータを含む、データを処理するための全ての装置、デバイス、及びマシンを包含する。装置は、ハードウェアに加えて、問題となっているコンピュータプログラムのための実行環境を作り出すコード、例えば、プロセッサファームウェア、プロトコルスタック、データベース管理システム、オペレーティングシステム、又はそれらの１つ以上の組み合わせを構成するコード、を含むことができる。伝播信号は、人工的に生成された信号、例えば、適切な受信器装置への伝送のために情報を符号化するよう生成される、マシンにより生成された電気、光、又は電磁気信号である。

コンピュータプログラム（プログラム、ソフトウェア、ソフトウェアアプリケーション、スクリプト、又はコードとしても知られる。）は、コンパイル済み又は解釈済みの言語を含む如何なる形式のプログラミング言語でも記述可能であり、それは、スタンドアロンプログラムとして又はコンピューティング環境での使用に適したモジュール、コンポーネント、サブルーチン、若しくは他のユニットとしてを含め、如何なる形式でもデプロイ可能である。コンピュータプログラムは、必ずしもファイルシステムにおけるファイルに対応しない。プログラムは、問題となっているプログラムに専用の単一のファイルで、又は複数の協調したファイル（例えば、１つ以上のモジュール、サブプログラム、又はコードの部分を保存するファイル）で、他のプログラム又はデータ（例えば、マークアップ言語文書で保存された１つ以上のスクリプト）を保持するファイルの部分において保存可能である。コンピュータプログラムは、１つのコンピュータで、あるいは、１つの場所に位置しているか、又は複数の場所にわたって分布しており、通信ネットワークによって相互接続されている複数のコンピュータで、実行されるようデプロイ可能である。

本明細書で記載されているプロセス及びロジックフローは、入力データに作用して出力を生成することによって機能を実行するよう１つ以上のコンピュータプログラムを実行する１つ以上のプログラム可能なプロセッサによって実行可能である。プロセス及びロジックフローはまた、専用のロジック回路、例えば、フィールド・プログラマブル・ゲート・アレイ（ＦＰＧＡ）又は特定用途向け集積回路（ＡＳＩＣ）によっても実行可能であり、装置は、そのようなものとして実装可能である。

コンピュータプログラムの実行に適したプロセッサは、例として、汎用のマイクロプロセッサ及び専用のマイクロプロセッサの両方、並びにあらゆる種類のデジタルコンピュータのいずれか１つ以上のプロセッサを含む。一般に、プロセッサは、リード・オンリー・メモリ若しくはランダム・アクセス・メモリ又はその両方から命令及びデータを読み出す。コンピュータの必須の要素は、命令を実行するプロセッサと、命令及びデータを保存する１つ以上のメモリデバイスとである。一般に、コンピュータはまた、データを保存する１つ以上の大容量記憶デバイス、例えば、磁気、光学磁気ディスク、又は光ディスクを含むか、あるいは、そのような１つ以上の大容量記憶デバイスからのデータの受信若しくはそれへのデータの転送又はその両方のために動作可能に結合される。しかし、コンピュータは、そのようなデバイスを有する必要はない。コンピュータプログラム命令及びデータを保存するのに適したコンピュータ可読媒体は、例として、半導体メモリデバイス、例えば、ＥＰＲＯＭ、ＥＥＰＲＯＭ、及びフラッシュメモリデバイス；磁気ディスク、例えば、内蔵ハードディスク又はリムーバブルディスク；光学磁気ディスク；並びにＣＤ ＲＯＭ及びＤＶＤ－ＲＯＭディスクを含む全ての形式の不揮発性メモリ、媒体及びメモリデバイスを含む。プロセッサ及びメモリは、専用のロジック回路によって強化されるか、あるいは、それに組み込まれ得る。

本明細書は、多数の詳細を含むが、それらは、あらゆる対象の又は請求される可能性があるものの範囲に対する限定としてではなく、むしろ、特定の技術の特定の実施形態に特有であり得る特徴の説明として解釈されるべきである。別々の実施形態に関連して本明細書で記載されている特定の特徴は、単一の実施形態で組み合わせて実装することもできる。逆に、単一の実施形態に関連して記載されている様々な特徴はまた、複数の実施形態で別々に、又は何らかの適切なサブコンビネーションで、実装することもできる。更に、特徴は、特定の組み合わせで動作するものとして先に説明され、更には、そのようなものとして最初に請求されることがあるが、請求されている組み合わせからの１つ以上の特徴は、いくつかの場合に、その組み合わせから削除可能であり、請求されている組み合わせは、サブコンビネーション又はサブコンビネーションの変形に向けられてもよい。

同様に、動作は、特定の順序で図面において表されているが、これは、所望の結果を達成するために、そのような動作が示されているその特定の順序で又は順次的な順序で実行されること、あるいは、表されている全ての動作が実行されることを求めている、と理解されるべきではない。更に、本明細書で記載されている実施形態における様々なシステムコンポーネントの分離は、全ての実施形態でそのような分離を求めている、と理解されるべきではない。

ほんのわずかの実施及び例が記載されており、他の実施、強化及び変形は、本特許文献で記載及び例示されているものに基づいて行われ得る。

［関連出願への相互参照］
本願は、２０１９年８月２３日付けに出願された国際特許出願第ＰＣＴ／ＣＮ２０１９／１０２２１７号の優先権及びその利益を主張して２０２０年８月２４日付けで出願された国際特許出願第ＰＣＴ／ＣＮ２０２０／１１０７８４号の国内移行である。上記の出願の全開示は、本願の開示の部分として参照により援用される。

Claims (16)

1. ビデオデータを処理する方法であって、
   サブブロック時間動きベクトル予測（ＳＴＭＶＰ）モード又はアフィン予測モードでコーディングされているビデオの現在のビデオブロックのサブブロックについて、ルールに従って、デブロッキングフィルタが適用されるべきであるサブブロック境界を決定するステップと、
   前記決定に基づき前記現在のビデオブロックと前記ビデオのビットストリームとの間の変換を実行するステップと
   を有し、
   前記ルールは、前記サブブロック境界を決定するときに、前記現在のビデオブロック内の第１水平位置（ｘ１）及び第１垂直位置（ｙ１）での前記サブブロック境界の第１垂直サブブロック境界の第１デブロッキングフィルタ長さが、ｉ）水平位置（ｘ１＋ｄｘ）及び前記第１垂直位置（ｙ１）での境界が変換ブロック境界であるか否か、ｉｉ）水平位置（ｘ１－ｄｘ）及び前記第１垂直位置（ｙ１）での境界が変換ブロック境界であるか否か、のうちの一方又は両方をチェックすることに基づき決定されることを定め、ｄｘは４に等しい、
   方法。
2. 前記第１デブロッキングフィルタ長さは、ｉ）前記水平位置（ｘ１＋ｄｘ）及び前記第１垂直位置（ｙ１）での境界が変換ブロック境界であること、又はｉｉ）前記水平位置（ｘ１－ｄｘ）及び前記第１垂直位置（ｙ１）での境界が変換ブロック境界であることのうちの少なくとも一方を満足することに応答して、１に等しく、
   前記第１デブロッキングフィルタ長さは、Ｐサイドのデブロッキングフィルタ長さ、又はＱサイドのデブロッキングフィルタ長さを含む、
   請求項１に記載の方法。
3. 前記第１デブロッキングフィルタ長さは、前記現在のビデオブロックの幅とｘ１＋ｄｘとの間の第１関係をチェックすることを省略することによって、決定される、
   請求項１に記載の方法。
4. 前記現在のビデオブロックの幅とｘ１＋ｄｘとの間の前記第１関係は、ｘ１＋ｄｘが前記現在のビデオブロックの幅以上であるかどうかを有する、
   請求項３に記載の方法。
5. 前記ルールは、前記サブブロック境界を決定するときに、前記現在のビデオブロック内の第２垂直位置（ｙ２）及び第２水平位置（ｘ２）での前記サブブロック境界の第２水平サブブロック境界の第２デブロッキングフィルタ長さが、ｉ）垂直位置（ｙ２＋ｄｙ）及び前記第２水平位置（ｘ２）での境界が変換ブロック境界であるか否か、ｉｉ）垂直位置（ｙ２－ｄｙ）及び前記第２水平位置（ｘ２）での境界が変換ブロック境界であるか否か、のうちの一方又は両方をチェックすることに基づき決定されることを定め、ｄｙは４に等しい、
   請求項１乃至４のうちいずれか一項に記載の方法。
6. 前記第２デブロッキングフィルタ長さは、ｉ）前記垂直位置（ｙ２＋ｄｙ）及び前記第２水平位置（ｘ２）での境界が変換ブロック境界であること、又はｉｉ）前記垂直位置（ｙ２－ｄｙ）及び前記第２水平位置（ｘ２）での境界が変換ブロック境界であることのうちの少なくとも一方を満足することに応答して、１に等しく、
   前記第２デブロッキングフィルタ長さは、Ｐサイドのデブロッキングフィルタ長さ、又はＱサイドのデブロッキングフィルタ長さを含む、
   請求項５に記載の方法。
7. 前記第２デブロッキングフィルタ長さは、前記現在のビデオブロックの高さとｙ２＋ｄｙとの間の第２関係をチェックすることを省略することによって、決定される、
   請求項５に記載の方法。
8. 前記現在のビデオブロックの高さとｙ２＋ｄｙとの間の前記第２関係は、ｙ２＋ｄｙが前記現在のビデオブロックの高さ以上であるかどうかを有する、
   請求項７に記載の方法。
9. 前記現在のビデオブロックのブロックエッジが前記サブブロック境界の第３サブブロック境界であり、前記第３サブブロック境界沿いの２つの隣接サンプルの少なくとも一方がインター－イントラ複合予測（ＣＩＩＰ）モードでコーディングされている場合に、前記変換中に、前記第３サブブロック境界に適用される境界強さが２に等しいことを決定するステップを更に有する、
   請求項１乃至８のうちいずれか一項に記載の方法。
10. 前記ビットストリームは、フォーマッティングルールに従い、
    前記フォーマッティングルールは、クロマフォーマットサンプリングシンタックス要素に基づき、１つ以上の量子化関連クロマシンタックス要素をビットストリームに含めるかどうかを定める、
    請求項１乃至９のうちいずれか一項に記載の方法。
11. 前記１つ以上の量子化関連クロマシンタックス要素は、ピクチャパラメータセットに含まれ、
    ｉ）Ｃｂ量子化パラメータを導出するために使用されるルーマ量子化パラメータに対するオフセットを示す第１シンタックス要素、
    ｉｉ）Ｃｒ量子化パラメータを導出するために使用されるルーマ量子化パラメータに対するオフセットを示す第２シンタックス要素、
    ｉｉｉ）ＣｂＣｒ合同量子化パラメータを導出するために使用されるルーマ量子化パラメータに対するオフセットを示す第３シンタックス要素、
    ｉｖ）クロマ成分量子化パラメータを導出するために使用されるルーマ量子化パラメータに対するオフセットを示すフラグがコーディングユニットレベル若しくは変換ユニットレベルに存在することを許されていることを示す第４シンタックス要素、又は
    ｖ）クロマ成分量子化パラメータを導出するために使用されるルーマ量子化パラメータに対するオフセットを示すフラグがスライスレベルに存在することを許されていることを示す第５シンタックス要素
    のうちの少なくとも１つを有する、
    請求項１０に記載の方法。
12. 前記変換は、前記現在のビデオブロックを前記ビットストリームに符号化することを含む、
    請求項１乃至１１のうちいずれか一項に記載の方法。
13. 前記変換は、前記現在のビデオブロックを前記ビットストリームから復号することを含む、
    請求項１乃至１１のうちいずれか一項に記載の方法。
14. ビデオデータを処理する装置であって、
    プロセッサと、命令を有する非一時的なメモリとを有し、
    前記命令は、前記プロセッサによって実行されると、前記プロセッサに、
    サブブロック時間動きベクトル予測（ＳＴＭＶＰ）モード又はアフィン予測モードでコーディングされているビデオの現在のビデオブロックのサブブロックについて、ルールに従って、デブロッキングフィルタが適用されるべきであるサブブロック境界を決定するステップと、
    前記決定に基づき前記現在のビデオブロックと前記ビデオのビットストリームとの間の変換を実行するステップと
    を実行させ、
    前記ルールは、前記サブブロック境界を決定するときに、前記現在のビデオブロック内の第１水平位置（ｘ１）及び第１垂直位置（ｙ１）での前記サブブロック境界の第１垂直サブブロック境界の第１デブロッキングフィルタ長さが、ｉ）水平位置（ｘ１＋ｄｘ）及び前記第１垂直位置（ｙ１）での境界が変換ブロック境界であるか否か、ｉｉ）水平位置（ｘ１－ｄｘ）及び前記第１垂直位置（ｙ１）での境界が変換ブロック境界であるか否か、のうちの一方又は両方をチェックすることに基づき決定されることを定め、ｄｘは４に等しい、
    装置。
15. プロセッサに、
    サブブロック時間動きベクトル予測（ＳＴＭＶＰ）モード又はアフィン予測モードでコーディングされているビデオの現在のビデオブロックのサブブロックについて、ルールに従って、デブロッキングフィルタが適用されるべきであるサブブロック境界を決定するステップと、
    前記決定に基づき前記現在のビデオブロックと前記ビデオのビットストリームとの間の変換を実行するステップと
    を実行させる命令を記憶し、
    前記ルールは、前記サブブロック境界を決定するときに、前記現在のビデオブロック内の第１水平位置（ｘ１）及び第１垂直位置（ｙ１）での前記サブブロック境界の第１垂直サブブロック境界の第１デブロッキングフィルタ長さが、ｉ）水平位置（ｘ１＋ｄｘ）及び前記第１垂直位置（ｙ１）での境界が変換ブロック境界であるか否か、ｉｉ）水平位置（ｘ１－ｄｘ）及び前記第１垂直位置（ｙ１）での境界が変換ブロック境界であるか否か、のうちの一方又は両方をチェックすることに基づき決定されることを定め、ｄｘは４に等しい、
    非一時的なコンピュータ可読記憶媒体。
16. ビデオのビットストリームを記憶する方法であって、
    サブブロック時間動きベクトル予測（ＳＴＭＶＰ）モード又はアフィン予測モードでコーディングされているビデオの現在のビデオブロックのサブブロックについて、ルールに従って、デブロッキングフィルタが適用されるべきであるサブブロック境界を決定するステップと、
    前記決定に基づき前記ビットストリームを生成するステップと
    を有し、
    前記ルールは、前記サブブロック境界を決定するときに、前記現在のビデオブロック内の第１水平位置（ｘ１）及び第１垂直位置（ｙ１）での前記サブブロック境界の第１垂直サブブロック境界の第１デブロッキングフィルタ長さが、ｉ）水平位置（ｘ１＋ｄｘ）及び前記第１垂直位置（ｙ１）での境界が変換ブロック境界であるか否か、ｉｉ）水平位置（ｘ１－ｄｘ）及び前記第１垂直位置（ｙ１）での境界が変換ブロック境界であるか否か、のうちの一方又は両方をチェックすることに基づき決定されることを定め、ｄｘは４に等しい、
    方法。

Images