申请/专利权人：华南理工大学

申请日：2017-12-29

公开（公告）日：2022-01-18

公开（公告）号：CN108184115B

主分类号：H04N19/109(20140101)

分类号：H04N19/109(20140101);H04N19/122(20140101);H04N19/176(20140101);H04N19/96(20140101)

优先权：

专利状态码：有效-授权

法律状态：2022.01.18#授权;2018.07.13#实质审查的生效;2018.06.19#公开

摘要：本发明公开了一种HEVC帧内CU划分和PU预测模式选择方法及系统，方法包括：依次提取编码模式待选择的CTU；将180度帧内预测角度划分为8个纹理方向范围，并采用直方图统计的方法结合直方图的可叠加特性得到不同CU尺寸下的纹理方向范围‑幅度分布直方图以及相应的最佳纹理方向范围、纹理强度和纹理复杂度；根据CU块的纹理复杂度确定CU块是否进行划分；根据PU块的纹理强度、PU块的最佳纹理方向范围和相邻PU块的预测模式，确定候选模式列表；计算候选模式的率失真代价，选择率失真代价最小的模式作为PU块的最优预测模式。本发明大幅减少了计算复杂度和计算量，实现了PU最优预测模式的快速选择，可广泛应用视频编码领域。

主权项：1.HEVC帧内CU划分和PU预测模式选择方法，其特征在于：包括以下步骤：从一帧候选图像中依次提取编码模式待选择的CTU；对提取的64×64CTU预划分为16个16×16CU块，并将每个16×16CU块预划分为4个8×8CU块；从CU块左上角开始提取3×3像素矩阵；使用sobel算子对提取的3×3像素矩阵进行卷积运算，得到45°、0°、-45°、-90°和-135°这五个方向的梯度值G45°、G0°、G-45°、G-90°和G-135°；根据得到的梯度值G45°、G0°、G-45°、G-90°和G-135°计算27°、-27°、-63°和-117°这四个方向的梯度值G27°、G-27°、G-63°和G-117°；根据45°、27°、0°、-27°、-63°、-45°、-90°、-117°和-135°这9个方向将-135°～45°的帧内预测角度划分为8个纹理方向范围，并以梯度值为0的方向所在的纹理方向范围作为提取的3×3像素矩阵的最佳纹理方向范围；将与提取的3×3像素矩阵的最佳纹理方向范围垂直的纹理方向范围两个边界所在方向的梯度值的均值作为最佳纹理方向范围的幅值；从CU块左上角开始按从左到右，自上而下的顺序平移3×3像素矩阵直至遍历完CU块，然后统计所有3×3像素矩阵，最终生成CU块的纹理方向范围-幅度分布直方图；将生成的直方图中最高幅度的纹理方向范围作为CU块的最佳纹理方向范围，将生成的直方图中的最高幅值作为CU块的纹理强度，将生成的直方图中与最佳纹理方向范围垂直的纹理方向范围的幅值作为CU块的纹理复杂度；将4个相邻8×8CU块的纹理方向范围-幅度分布直方图相加，得到并保存16×16CU块的纹理方向范围-幅度分布直方图，然后根据16×16CU块的纹理方向范围-幅度分布直方图得到并保存16×16CU块的最佳纹理方向范围、纹理强度和纹理复杂度；将4个相邻16×16CU块的纹理方向范围-幅度分布直方图相加，得到并保存32×32CU块的纹理方向范围-幅度分布直方图，然后根据32×32CU块的纹理方向范围-幅度分布直方图得到并保存32×32CU块的最佳纹理方向范围、纹理强度和纹理复杂度；将4个相邻32×32CU块的纹理方向范围-幅度分布直方图相加，得到并保存64×64CU块的纹理方向范围-幅度分布直方图，然后根据64×64CU块的纹理方向范围-幅度分布直方图得到并保存64×64CU块的最佳纹理方向范围、纹理强度和纹理复杂度；S31、判断64×64CU块的纹理复杂度Tc1是否小于预设的第一经验阈值Th1，若是，则直接结束CTU的四叉树划分流程；反之，则将64×64CU块划分为4个32×32CU块，然后执行步骤S32；S32、判断4个32×32CU块中任一个32×32CU块的纹理复杂度Tc2是否小于预设的第二经验阈值Th2，若是，则执行步骤S37；反之，则将该32×32CU块划分为4个16×16CU块，然后执行步骤S33；S33、判断4个16×16CU块中任一个16×16CU块的纹理复杂度Tc3是否小于预设的第三经验阈值Th3，若是，则执行步骤S36；反之，则将该16×16CU块划分为4个8×8CU块，然后执行步骤S34；S34、判断4个8×8CU块中任一个8×8CU块的纹理复杂度Tc4是否小于预设的第四经验阈值Th4，若是，则直接执行步骤S35；反之，则将该8×8CU块下的PU块尺寸设为4×4，然后执行步骤S35；S35、判断是否已经遍历4个8×8CU块，若是，则执行步骤S33，反之，则执行步骤S34；S36、判断是否已经遍历4个16×16CU块，若是，则执行步骤S32，反之，则执行步骤S33；S37、判断是否已经遍历4个32×32CU块，若是，则结束CTU的四叉树划分流程，反之，则执行步骤S32；根据PU块的纹理强度、PU块的最佳纹理方向范围和相邻PU块的预测模式，确定候选模式列表；计算候选模式列表中候选模式的率失真代价，选择率失真代价最小的候选模式作为PU块的最优预测模式。

全文数据：HEVC帧内CU划分和PU预测模式选择方法及系统技术领域[0001]本发明涉及视频编码领域，尤其是一种HEVC帧内CU划分和PU预测模式选择方法及系统。背景技术[0002]数字视频压缩编码技术发展迅速，从20世纪90年代以来，一直是国内外的研究热点，其主要目标是在一定的计算资源内，在相同的视频重建质量的基础上追求尽可能高的编码效率。高性能视频编码HighEfficiencyVideoCoding，HEVC标准是最新一代国际视频编码标准，与上一代编码标准H.264AVC相比，实现了约50%的比特率降低。[0003]对于帧内预测来说，HEVC支持从64X64到4X4的灵活编码单元尺寸和多达35种预测模式，其中包括33个方向预测模式、DC模式和planar模式，使得HEVC的帧内预测的复杂性高于H.264AVC，33个方向预测模式如图1所示。[0004]HEVC编码采用基于编码树单元CodingTreeUnit，CTU的四叉树编码结构，主要包括基于编码单元CodingUnit，CU进行编码的过程，基于预测单元PredictionUnit，PU进行预测的过程，基于变换单元TransformactionUnit，TU进行变换的过程。[0005]CU的大小可以为64X64、32X32、16X16或者8X8。当CU大小为8X8时，PU可以为8X8,也可以为4X4。当CU块大小为其他尺寸时，PU的大小与CU的大小一致。[0006]梯度算法是一种较为常见的图像处理算法，主要用于检测图像局部显著性变化，梯度值越大，则像素值变化越剧烈，当前图像纹理复杂度越高。[0007]目前的帧内编码加速算法按照针对的是编码模式决策还是编码单元划分决策，分为两大类:快速CU大小决策和快速编码模式决策。[0008]对于⑶大小的快速决策方法大致可以分以下为三类：[0009]第一类是根据相邻CU的深度对当前CU的深度范围进行估计。[0010]第二类是根据CU的纹理特性来确定CU的深度，例如CU的梯度值、方差等参数。[0011]第三类是基于编码代价即HAD代价和RDO代价进行CU单元的提前划分或者提前终止划分。[0012]而为了加速帧内编码模式决策过程，通常会采用一种基于三步算法的帧内模式决策算法，该方法具体包括以下过程：[0013]1粗选择过程RMD根据每个模式的从35个帧内模式中选择若干个哈德马代价HADcost最小的模式保存到一个候选模式列表中。[00M]2根据相邻块间较强的相关性，利用当前块周围邻近块得到三个最可能模式MPM加入到该候选模式列表中。[0015]3候选模式列表中所有模式通过RDO过程，选择率失真代价RDcost最小的模式为当前编码块的最佳预测模式。[0016]在以上三步算法的基础上，基于块方向检测的帧内预测模式决策方法被提出来用于进一步降低模式决策的复杂度，该方法进一步减少了需要进行RMD和RDO的帧内预测模式的数量。然而，目前基于块方向检测的帧内预测模式决策方法仍存在着以下缺陷或不足：[0017]1未合理利用不同CU尺寸下的纹理可叠加、纹理复杂度等特性来根据深度进行CU划分，计算量有待进一步减少；[0018]2PU预测模式的候选模式列表数量仍较多，导致PU最优预测模式选择的速度不快。发明内容[0019]为解决上述技术问题，本发明的目的在于:提供一种计算量小和快速的HEVC帧内CU划分和PU预测模式选择方法及系统。[0020]本发明所采取的第一技术方案是：[0021]HEVC帧内⑶划分和PU预测模式选择方法，包括以下步骤：[0022]从一帧候选图像中依次提取编码模式待选择的CTU;[0023]对提取的CTU进行预划分，将180度帧内预测角度划分为8个纹理方向范围，并采用直方图统计的方法结合直方图的可叠加特性得到不同CU尺寸下的纹理方向范围-幅度分布直方图以及相应的最佳纹理方向范围、纹理强度和纹理复杂度；[0024]根据CU块的纹理复杂度确定CU块是否进行划分，从而递归完成CTU的四叉树划分，得到相应的PU块；[0025]根据PU块的纹理强度、PU块的最佳纹理方向范围和相邻PU块的预测模式，确定候选模式列表；[0026]计算候选模式列表中候选模式的率失真代价，选择率失真代价最小的候选模式作为PU块的最优预测模式。[0027]进一步，所述对提取的CTU进行预划分，将180度帧内预测角度划分为8个纹理方向范围，并采用直方图统计的方法结合直方图的可叠加特性得到不同CU尺寸下的纹理方向范围-幅度分布直方图以及相应的最佳纹理方向范围、纹理强度和纹理复杂度这一步骤，具体包括：[0028]对提取的64X64CTU预划分为16个16X16CU块，并将每个16X16CU块预划分为4个8X8CU块；[0029]分别根据sobel算子计算得到4个8X8CU块的纹理方向范围-幅度分布直方图，然后根据计算得到的直方图得到并保存每个8X8CU块的最佳纹理方向范围、纹理强度和纹理复杂度；[0030]利用纹理方向范围-幅度分布直方图的可叠加性计算得到所有CU尺寸下的纹理方向范围-幅度分布直方图以及相应的最佳纹理方向范围、纹理强度和纹理复杂度。[0031]进一步，所述分别根据sobel算子计算得到4个8X8CU块的纹理方向范围-幅度分布直方图，然后根据计算得到的直方图得到并保存每个8X8CU块的最佳纹理方向范围、纹理强度和纹理复杂度这一步骤，具体包括：[0032]从⑶块左上角开始提取3X3像素矩阵；[0033]使用sobel算子对提取的3X3像素矩阵进行卷积运算，得到45°、0°、-45°、-90°和-l35°这五个方向的梯度值G45。、G。、G-45。、G-9。和G-l35。；[0034]根据得到的梯度值645。、6〇。、6-45。、6-9〇。和6-135。计算27°、-27°、-63°和-117°这四个方向的梯度值G27。、G-27。、G-63。和G-117。；[0035]根据45°、27°、0°、-27°、-63°、-45°、-90°、-117°和-135°这9个方向将-135°〜45°的帧内预测角度划分为8个纹理方向范围，并以梯度值为0的方向所在的纹理方向范围作为提取的3X3像素矩阵的最佳纹理方向范围；[0036]将与提取的3X3像素矩阵的最佳纹理方向范围垂直的纹理方向范围两个边界所在方向的梯度值的均值作为最佳纹理方向范围的幅值；[0037]从⑶块左上角开始按从左到右，自上而下的顺序平移3X3像素矩阵直至遍历完⑶块，然后统计所有3X3像素矩阵，最终生成CU块的纹理方向范围-幅度分布直方图；[0038]将生成的直方图中最高幅度的纹理方向范围作为CU块的最佳纹理方向范围，将生成的直方图中的最高幅值作为CU块的纹理强度，将生成的直方图中与最佳纹理方向范围垂直的纹理方向范围的幅值作为CU块的纹理复杂度。[0039]进一步，所述利用纹理方向范围-幅度分布直方图的可叠加性计算得到所有CU尺寸下的纹理方向范围-幅度分布直方图以及相应的最佳纹理方向范围、纹理强度和纹理复杂度这一步骤，具体包括：[0040]将4个相邻8X8⑶块的纹理方向范围-幅度分布直方图相加，得到并保存16X16⑶块的纹理方向范围-幅度分布直方图，然后根据16X16CU块的纹理方向范围-幅度分布直方图得到并保存16X16CU块的最佳纹理方向范围、纹理强度和纹理复杂度；[0041]将4个相邻16X16⑶块的纹理方向范围-幅度分布直方图相加，得到并保存32X32CU块的纹理方向范围-幅度分布直方图，然后根据32X32CU块的纹理方向范围-幅度分布直方图得到并保存32X32CU块的最佳纹理方向范围、纹理强度和纹理复杂度；[0042]将4个相邻32X32⑶块的纹理方向范围-幅度分布直方图相加，得到并保存64X64CU块的纹理方向范围-幅度分布直方图，然后根据64X64CU块的纹理方向范围-幅度分布直方图得到并保存64X64CU块的最佳纹理方向范围、纹理强度和纹理复杂度。[0043]进一步，所述根据CU块的纹理复杂度确定CU块是否进行划分，从而递归完成CTU的四叉树划分，得到相应的PU块这一步骤，具体包括以下步骤：[0044]S31、判断64X64⑶块的纹理复杂度Tcl是否小于预设的第一经验阈值Thl，若是，则直接结束CTU的四叉树划分流程;反之，则将64X64⑶块划分为4个32X32⑶块，然后执行步骤S32;[0045]S32、判断4个32X32⑶块中任一个32X32⑶块的纹理复杂度Tc2是否小于预设的第二经验阈值Th2，若是，则执行步骤S37;反之，则将该32X32⑶块划分为4个16X16⑶块，然后执行步骤S33;[0046]S33、判断4个16X16⑶块中任一个16X16⑶块的纹理复杂度Tc3是否小于预设的第三经验阈值Th3，若是，则执行步骤S36;反之，则将该16X16⑶块划分为4个8X8CU块，然后执彳丁步骤S34;[0047]S34、判断4个8X8CU块中任一个8X8CU块的纹理复杂度Tc4是否小于预设的第四经验阈值Th4，若是，则直接执行步骤S35;反之，则将该8X8⑶块下的PU块尺寸设为4X4，然后执彳丁步骤S35;[0048]S35、判断是否已经遍历4个8X8CU块，若是，则执行步骤S33,反之，则执行步骤S34；[0049]S36、判断是否已经遍历4个16X16⑶块，若是，则执行步骤S32,反之，则执行步骤S33；[0050]S37、判断是否已经遍历4个32X32⑶块，若是，则结束CTU的四叉树划分流程，反之，则执行步骤S32。[0051]进一步，所述根据PU块的纹理强度、PU块的最佳纹理方向范围和相邻PU块的预测模式，确定候选模式列表这一步骤，具体包括：[0052]输入当前HJ块的最佳纹理方向范围和纹理强度，并根据当前PU块的尺寸选择相应的纹理强度阈值；[0053]判断当前PU块的纹理强度是否小于相应的纹理强度阈值，若是，则将DC和Planar模式加入候选模式列表，反之，则将最大幅度的预测纹理方向范围对应的角度预测模式加入候选模式列表；[0054]根据相邻块间的相关性，利用当前PU块周围的邻近块得到三个最可能模式加入到候选模式列表中。[0055]进一步，所述计算候选模式列表中候选模式的率失真代价，选择率失真代价最小的候选模式作为PU块的最优预测模式这一步骤，具体为：[0056]将候选模式列表中的所有模式进行率失真代价优化，选择率失真代价最小的候选模式作为PU块的最优预测模式，所述率失真代价1_的计算公式为：[0057]Jrdo=SSE+AXRtotai,[0058]其中，SSE表示原始编码块与其重建块之间误差的平方和，λ为给定的比例系数，RtotaI是利用候选模式列表中的模式编码PU块一共需要的比特数。[0059]本发明所采取的第二技术方案是：[0060]HEVC帧内⑶划分和PU预测模式选择系统，包括：[0061]CTU提取模块，用于从一帧候选图像中依次提取编码模式待选择的CTU;[0062]直方图计算模块，用于对提取的CTU进行预划分，将180度帧内预测角度划分为8个纹理方向范围，并采用直方图统计的方法结合直方图的可叠加特性得到不同CU尺寸下的纹理方向范围-幅度分布直方图以及相应的最佳纹理方向范围、纹理强度和纹理复杂度；[0063]CU块划分模块，用于根据CU块的纹理复杂度确定CU块是否进行划分，从而递归完成CTU的四叉树划分，得到相应的PU块；[0064]候选模式列表确定模块，用于根据PU块的纹理强度、PU块的最佳纹理方向范围和相邻PU块的预测模式，确定候选模式列表；[0065]最优预测模式选择模块，用于计算候选模式列表中候选模式的率失真代价，选择率失真代价最小的候选模式作为PU块的最优预测模式。[0066]进一步，所述候选模式列表确定模块包括：[0067]输入与选择模块，输入当前PU块的最佳纹理方向范围和纹理强度，并根据当前PU块的尺寸选择相应的纹理强度阈值；[0068]判断模块，用于判断当前HJ块的纹理强度是否小于相应的纹理强度阈值，若是，则将DC和Planar模式加入候选模式列表，反之，则将最大幅度的预测纹理方向范围对应的角度预测模式加入候选模式列表；[0069]邻近块模式加入模块，用于根据相邻块间的相关性，利用当前PU块周围的邻近块得到三个最可能模式加入到候选模式列表中。[0070]本发明所采取的第三技术方案是：[0071]HEVC帧内⑶划分和PU预测模式选择系统，包括：[0072]存储器，用于存储程序；[0073]处理器，用于加载所述程序以执行如第一技术方案所述的HEVC帧内CU划分和PU预测模式选择方法。[0074]本发明的有益效果是:本发明HEVC帧内CU划分和PU预测模式选择方法及系统，对提取的CTU进行预划分，将180度帧内预测角度划分为8个纹理方向范围，并采用直方图统计的方法结合直方图的可叠加特性得到不同CU尺寸下的纹理方向范围-幅度分布直方图以及相应的最佳纹理方向范围、纹理强度和纹理复杂度，利用了直方图统计的方法得到像素块纹理方向范围-幅度分布结果，并结合直方图纹理可叠加特征来进行CU划分，大幅减少了计算复杂度和计算量;根据PU块的纹理强度、PU块的最佳纹理方向范围和相邻PU块的预测模式，确定候选模式列表，减少了PU预测模式的候选模式列表数量，从而实现了HJ最优预测模式的快速选择。附图说明[0075]图1是HECV的33个帧内角度预测方向示意图；[0076]图2是本发明HEVC帧内CU划分和PU预测模式选择方法的整体流程图；[0077]图3为本发明HEVC帧内CU划分和PU预测模式选择方法的一种具体实施流程图；[0078]图4是本发明CU块的纹理方向范围-幅度分布直方图的一种计算流程图；[0079]图5是本发明sobe1算子在45°、0°、-45°、-90°和-135°这五个方向的卷积模板；[0080]图6是本发明提出的在27°、-27°、-63°和-117°这四个方向的方向算子的卷积模板；[0081]图7是本发明8个纹理方向范围的划分示意图；[0082]图8是本发明纹理方向范围-幅度分布直方图的一种示例图；[0083]图9是本发明帧内PU预测模式选择的一种实施流程图。具体实施方式[0084]下面结合说明书附图和具体实施例对本发明作进一步解释和说明。对于本发明实施例中的步骤编号，其仅为了便于阐述说明而设置，对步骤之间的顺序不做任何限定，实施例中的各步骤的执行顺序均可根据本领域技术人员的理解来进行适应性调整。[0085]本发明一种计算量小和快速的HEVC帧内CU划分和PU预测模式选择方案，主要利用直方图统计的方法得到像素块纹理方向范围-幅度分布结果，大幅减少了计算复杂度，实现了CTU四叉树的快速划分和PU最优预测模式的快速选择。[0086]参照图2,本发明的基本过程为:首先从一帧候选图像中依次提取编码模式待选择的CTU;然后对提取的CTU进行预划分，将180度帧内预测角度划分为8个纹理方向范围，统计各个CU尺寸下的纹理方向范围-幅度分布直方图，并得到相应的最佳纹理方向范围、纹理强度和纹理复杂度;接着根据CU纹理复杂度与其四叉树编码划分的相关性完成CTU四叉树的快速划分;再接着根据PU块的纹理强度、最佳纹理方向范围和相邻HJ块的预测模式，确定候选模式列表;最后通过RDO率失真代价优化计算候选模式列表中候选模式的率失真代价，选择RD代价最小的模式作为HJ块最优预测模式。[0087]如图3所示，本发明HEVC帧内CU划分和PU预测模式选择方法的一种具体实施方式主要包括如下步骤：[0088]步骤1:从一帧候选图像（预先给定）中依次提取编码模式待选择的编码树单元CTU，每个CTU包含64X64个像素。提取CTU的具体过程沿用了现有HEVC的CTU提取流程。[0089]步骤2:对提取的CTU进行预划分，将180度帧内预测角度划分为8个纹理方向范围，然后用直方图统计的方法得到不同CU尺寸下的纹理方向范围-幅度分布直方图，并根据得到的直方图获得并保存相应的最佳纹理方向范围、纹理强度和纹理复杂度。[0090]步骤2的具体步骤如下：[0091]步骤2.1:将64X64CTU块预划分为16个16X16CU块，每一个16X16块预划分为4个8X8块。[0092]步骤2.2:分别计算得到4个8X8⑶块的纹理方向范围-幅度分布直方图，然后根据纹理方向范围-幅度分布直方图得到并保存每个8X8CU块的最佳纹理方向范围、纹理强度和纹理复杂度。[0093]如图4所示，步骤2.2的具体步骤如下：[0094]步骤2.2.1:从⑶块左上角开始提取3X3像素矩阵。[0095]步骤2.2.2:使用sobel算子对3X3像素矩阵进行卷积运算，得到45°、0°、-45°、_90°和-135°五个方向的梯度值6〇。、6-45。、6-90。、6-135。和645。。6〇。、6-45。、6-90。、6-135。和〇45。的具体计算公式如下式⑴〜⑸所示：[0101]上述公式中，fm，η表示坐标为m，η的像素值。[0102]步骤2.2.3:利用6〇。、6-45。、6-9〇。、6-135。和645。计算27°、-27°、-63°和-117°方向的梯度值G27。、G-27。、G-63。和G-117。。梯度值G27。、G-27。、G-63。和G-117。的计算公式如式⑹〜⑼所不：[0103]G27°=G-45°-G-90°6[0104]G-27°=G-90‘G-135。（7[0105]G-63°=Go°+G-135。⑻[0106]G-117。=G-45〇_G〇°9[0107]如图5所示，本发明在45°、0°、-45°、-90°和-135°这5个方向沿用了现有的8^61算子矩阵。此外，如图6所示，本发明还新增了27°、-27°、-63°、-117°这四个方向的算子矩阵，这四个方向的算子矩阵根据式6〜9和图5的卷积模板计算而生成。[0108]步骤2·2·4:如图7所示，9个梯度值Go。、G-45。、G-90。、G-135。、G45。、G27。、G-27。、G-63。和G-m。依次排序，上述9个值代表的方向将-135°〜45°的帧内预测角度分割为8个纹理方向范围Pl〜P8。本发明将零点（梯度值为0的方向）所在的纹理方向范围作为3X3像素矩阵的最佳纹理方向范围。例如G-9Q。为正值，G-63。为负值，则零点位于这两者之间，此时选取P6作为3X3像素矩阵的最佳纹理方向范围。又如G-90。刚好为0，则比较IG-63。I和IG-m。I，若IG-63。I较小，选取P6作为3X3像素矩阵的最佳纹理方向范围，否则选取P7。[0109]步骤2.2.5:将与3X3像素矩阵的最佳纹理方向范围垂直的纹理方向范围的两个边界所在方向的梯度值的均值作为该最佳纹理方向范围的幅值。例如，图7中P6的幅值为（|6〇。|+|627。|2。[0110]步骤2.2.6:从⑶块左上角开始按从左到右，自上而下的顺序平移3X3像素矩阵重复步骤2.2.2〜2.2.5直到遍历完当前⑶块，然后统计所有3X3像素矩阵，生成当前⑶块的纹理方向范围-幅度分布直方图，如图8所示。[0111]步骤2.2.7:将纹理方向范围-幅度分布直方图中最高幅度的纹理方向范围作为当前CU块的最佳纹理方向范围，最高幅值作为当前CU块的纹理强度，以及将直方图中与最佳纹理方向范围垂直的纹理方向范围的幅值作为该CU块的纹理复杂度。例如，图8所示的直方图代表的⑶块的最佳纹理方向范围为P6,纹理强度为18106,纹理复杂度1574。[0112]步骤2.3:利用纹理方向范围-幅度分布直方图的可叠加性计算得到所有CU尺寸下的纹理方向范围-幅度分布直方图和相应最佳纹理方向范围、纹理强度和纹理复杂度。[0113]步骤2.3的具体步骤如下：[0114]步骤2.3.1:将4个相邻8X8⑶块的纹理方向范围-幅度分布直方图相加，得到并保存16X16⑶块的纹理方向范围-幅度分布直方图，然后根据16X16⑶块的纹理方向范围-幅度分布直方图得到并保存16X16CU块的最佳纹理方向范围、纹理强度和纹理复杂度；[0115]步骤2.3.2:将4个相邻16X16⑶块的纹理方向范围-幅度分布直方图相加，得到并保存32X32⑶块的纹理方向范围-幅度分布直方图，然后根据32X32⑶块的纹理方向范围-幅度分布直方图得到并保存32X32CU块的最佳纹理方向范围、纹理强度和纹理复杂度；[0116]步骤2.3.3:将4个相邻32X32⑶块的纹理方向范围-幅度分布直方图相加，得到并保存64X64⑶块的纹理方向范围-幅度分布直方图，然后根据64X64⑶块的纹理方向范围-幅度分布直方图得到并保存64X64CU块的最佳纹理方向范围、纹理强度和纹理复杂度。[0117]步骤3:根据CU块的纹理复杂度决定CU块划分与否，从而递归完成当前CTU的四叉树划分。[0118]如图3所示，步骤3的具体步骤如下：[0119]步骤3.1:如果64X64⑶块的纹理复杂度Tcl小于第一经验阈值Thl，则直接执行64X64PU块的帧内预测（即步骤4和步骤5，当前CTU帧内CU划分和PU编码模式选择已经完成；反之则将64X64⑶划分为4个32X32⑶块，然后执行步骤3.2;[0120]步骤3.2:任取一个32X32⑶块，如果该32X32⑶块的纹理复杂度Tc2小于第二经验阈值Th2，则执行32X32PU块的帧内预测（即步骤4和步骤5，然后执行步骤3.7;否则将32X32⑶块划分为4个16X16⑶块，然后执行步骤3.3;[0121]步骤3.3:任取一个16X16⑶块，如果该16X16⑶块的纹理复杂度Tc3小于第三经验阈值!113，则执行16\16?1]块的帧内预测（即步骤4和步骤5，然后执行步骤3.6;否则将16X16⑶块划分为4个8X8⑶块，然后执行步骤3.4。[0122]步骤3.4:任取一个8X8⑶块，如果8X8⑶块的纹理复杂度Tc4小于第四经验阈值Th4，则执行8X8PU块的帧内预测（即步骤4和步骤5，然后执行步骤3.5;否则将该8X8CU节点下的PU尺寸设为4X4，并计算每一个4X4PU块的最佳纹理方向范围和纹理强度计算方法与8X8CU块的相同即步骤2.2，然后执行4X4PU块的帧内预测（即步骤4和步骤5，接着执行步骤3.5。[0123]步骤3.5:如果已经遍历当前4个8X8⑶块，则执行步骤3.3;否则执行步骤3.4。[0124]步骤3.6:如果已经遍历当前4个16X16⑶块，则执行步骤3.2;否则执行步骤3.3。[0125]步骤3.7:如果已经遍历当前4个32X32⑶块，当前CTU帧内⑶划分和PU编码模式快速选择已经完成。[0126]如图9所示，步骤4和步骤5的具体步骤如下：[0127]步骤4:根据PU块的纹理强度、最佳纹理方向范围（因PU块由CU块划分而来，故可根据CU块的纹理强度、最佳纹理方向范围、纹理复杂度得到PU块的纹理强度、最佳纹理方向范围、纹理复杂度和相邻PU块的预测模式，确定候选模式列表。[0128]步骤4具体包括以下步骤：[0129]步骤4.1:输入当前PU块的最佳纹理方向范围和纹理强度，并根据PU块尺寸选择相应的纹理强度阈值。[0130]步骤4.2:如果PU块的纹理强度小于相应的纹理强度阈值，则将DC和Planar模式加入候选模式列表，否则将最大幅度的预测纹理方向范围对应的角度预测模式加入候选模式列表，预测纹理方向范围和角度预测模式的对应关系如下表1所示。[0131]表1[0132][0133]步骤4.3:根据相邻块间较强的相关性，利用当前PU块周围的邻近块得到三个最可能模式MPM加入到该候选模式列表中。[0134]步骤5:将最终候选模式列表中的所有模式进行RDO过程，计算出每个候选模式的RD代价，选择RD代价最小的模式作为PU块最优预测模式。[0135]RD代价Jrdq的计算如公式（10所示：[0136]Jrd〇=SSE+A·Rtotai10[0137]其中，SSE表示原始编码块与其重建块之间误差的平方和，Rtotal是利用候选模式列表中的预测模式mode编码该PU块一共需要的比特数。λ为给定的比例系数，一般为不大于1的常数。[0138]本发明一种HEVC帧内CU划分和PU预测模式选择方法及系统，与现有技术相比，具有如下特点和优点：[0139]⑴利用CU块的纹理复杂度快速得到CTU四叉树的划分；[0140]2根据sobel算子划分180度帧内预测角度为8个纹理方向范围，与现有的sobel算子相比，在很小的计算量增加的基础上，将纹理的划分精度提高了一倍。[0141]3根据HJ块的纹理强度、最佳纹理方向范围和相邻PU块的预测模式，减少了角度预测模式的候选模式列表数量，从而实现PU最优预测模式的快速选择。[0142]⑷利用不同CU尺寸下的纹理方向范围-幅度分布直方图的叠加性，使用8X80^9纹理方向范围-幅度分布直方图得到16X16⑶、32X32⑶、64X64⑶的纹理方向范围-幅度分布直方图，大幅减少了计算量。[0143]5不用保存8X8⑶的纹理方向范围-幅度分布直方图，节约了存储空间。[0144]6保留所用CU尺寸下像素矩阵的最佳纹理方向范围和纹理强度，进行PU块最优预测模式选择时可直接调用这些数据，能以较少的存储空间开销大幅减少计算量。[0145]以上是对本发明的较佳实施进行了具体说明，但本发明并不限于所述实施例，熟悉本领域的技术人员在不违背本发明精神的前提下还可做作出种种的等同变形或替换，这些等同的变形或替换均包含在本申请权利要求所限定的范围内。

权利要求：1.HEVC帧内CU划分和RJ预测模式选择方法，其特征在于:包括以下步骤：从一帧候选图像中依次提取编码模式待选择的CTU;对提取的CTU进行预划分，将180度帧内预测角度划分为8个纹理方向范围，并采用直方图统计的方法结合直方图的可叠加特性得到不同CU尺寸下的纹理方向范围-幅度分布直方图以及相应的最佳纹理方向范围、纹理强度和纹理复杂度；根据CU块的纹理复杂度确定CU块是否进行划分，从而递归完成CTU的四叉树划分，得到相应的PU块；根据PU块的纹理强度、PU块的最佳纹理方向范围和相邻PU块的预测模式，确定候选模式列表；计算候选模式列表中候选模式的率失真代价，选择率失真代价最小的候选模式作为PU块的最优预测模式。2.根据权利要求1所述的HEVC帧内CU划分和PU预测模式选择方法，其特征在于:所述对提取的CTU进行预划分，将180度帧内预测角度划分为8个纹理方向范围，并采用直方图统计的方法结合直方图的可叠加特性得到不同CU尺寸下的纹理方向范围-幅度分布直方图以及相应的最佳纹理方向范围、纹理强度和纹理复杂度这一步骤，具体包括：对提取的64X64CTU预划分为16个16X16⑶块，并将每个16X16⑶块预划分为4个8X8CU块；分别根据sobel算子计算得到4个8X8CU块的纹理方向范围-幅度分布直方图，然后根据计算得到的直方图得到并保存每个8X8CU块的最佳纹理方向范围、纹理强度和纹理复杂度；利用纹理方向范围-幅度分布直方图的可叠加性计算得到所有CU尺寸下的纹理方向范围-幅度分布直方图以及相应的最佳纹理方向范围、纹理强度和纹理复杂度。3.根据权利要求2所述的HEVC帧内CU划分和PU预测模式选择方法，其特征在于:所述分别根据sobel算子计算得到4个8X8CU块的纹理方向范围-幅度分布直方图，然后根据计算得到的直方图得到并保存每个8X8CU块的最佳纹理方向范围、纹理强度和纹理复杂度这一步骤，具体包括：从⑶块左上角开始提取3X3像素矩阵；使用sobel算子对提取的3X3像素矩阵进行卷积运算，得到45°、0°、-45°、-90°和-135°这五个方向的梯度值G45。、G〇。、G-45。、G-9Q。和G-135。；根据得到的梯度值645。、6〇。、6-45。、6-9〇。和6-135。计算27°、-27°、-63°和-117°这四个方向的梯度值G27。、G-27。、G-63。和G-117。；根据45°、27°、0°、-27°、-63°、-45°、-90°、-117°和-135°这9个方向将-135°〜45°的帧内预测角度划分为8个纹理方向范围，并以梯度值为0的方向所在的纹理方向范围作为提取的3X3像素矩阵的最佳纹理方向范围；将与提取的3X3像素矩阵的最佳纹理方向范围垂直的纹理方向范围两个边界所在方向的梯度值的均值作为最佳纹理方向范围的幅值；从⑶块左上角开始按从左到右，自上而下的顺序平移3X3像素矩阵直至遍历完⑶块，然后统计所有3X3像素矩阵，最终生成CU块的纹理方向范围-幅度分布直方图；将生成的直方图中最高幅度的纹理方向范围作为CU块的最佳纹理方向范围，将生成的直方图中的最高幅值作为⑶块的纹理强度，将生成的直方图中与最佳纹理方向范围垂直的纹理方向范围的幅值作为CU块的纹理复杂度。4.根据权利要求3所述的HEVC帧内CU划分和PU预测模式选择方法，其特征在于:所述利用纹理方向范围-幅度分布直方图的可叠加性计算得到所有CU尺寸下的纹理方向范围-幅度分布直方图以及相应的最佳纹理方向范围、纹理强度和纹理复杂度这一步骤，具体包括：将4个相邻8X8CU块的纹理方向范围-幅度分布直方图相加，得到并保存16X16CU块的纹理方向范围-幅度分布直方图，然后根据16X16CU块的纹理方向范围-幅度分布直方图得到并保存16X16CU块的最佳纹理方向范围、纹理强度和纹理复杂度；将4个相邻16X16⑶块的纹理方向范围-幅度分布直方图相加，得到并保存32X32⑶块的纹理方向范围-幅度分布直方图，然后根据32X32CU块的纹理方向范围-幅度分布直方图得到并保存32X32CU块的最佳纹理方向范围、纹理强度和纹理复杂度；将4个相邻32X32⑶块的纹理方向范围-幅度分布直方图相加，得到并保存64X64⑶块的纹理方向范围-幅度分布直方图，然后根据64X64CU块的纹理方向范围-幅度分布直方图得到并保存64X64CU块的最佳纹理方向范围、纹理强度和纹理复杂度。5.根据权利要求4所述的HEVC帧内CU划分和PU预测模式选择方法，其特征在于:所述根据CU块的纹理复杂度确定CU块是否进行划分，从而递归完成CTU的四叉树划分，得到相应的PU块这一步骤，具体包括以下步骤：531、判断64X64⑶块的纹理复杂度Tcl是否小于预设的第一经验阈值Thl，若是，则直接结束CTU的四叉树划分流程;反之，则将64X64⑶块划分为4个32X32⑶块，然后执行步骤S32；532、判断4个32X32⑶块中任一个32X32⑶块的纹理复杂度Tc2是否小于预设的第二经验阈值Th2，若是，则执行步骤S37;反之，则将该32X32⑶块划分为4个16X16⑶块，然后执行步骤S33;533、判断4个16X16⑶块中任一个16X16⑶块的纹理复杂度Tc3是否小于预设的第三经验阈值Th3，若是，则执行步骤S36;反之，则将该16X16⑶块划分为4个8X8CU块，然后执行步骤S34;534、判断4个8X8CU块中任一个8X8CU块的纹理复杂度Tc4是否小于预设的第四经验阈值Th4，若是，则直接执行步骤S35;反之，则将该8X8CU块下的PU块尺寸设为4X4，然后执行步骤S35;535、判断是否已经遍历4个8X8⑶块，若是，则执行步骤S33，反之，则执行步骤S34;536、判断是否已经遍历4个16X16⑶块，若是，则执行步骤S32，反之，则执行步骤S33;537、判断是否已经遍历4个32X32⑶块，若是，则结束CTU的四叉树划分流程，反之，则执行步骤S32。6.根据权利要求1所述的HEVC帧内CU划分和PU预测模式选择方法，其特征在于:所述根据PU块的纹理强度、PU块的最佳纹理方向范围和相邻PU块的预测模式，确定候选模式列表这一步骤，具体包括：输入当前PU块的最佳纹理方向范围和纹理强度，并根据当前HJ块的尺寸选择相应的纹理强度阈值；判断当前PU块的纹理强度是否小于相应的纹理强度阈值，若是，则将DC和Planar模式加入候选模式列表，反之，则将最大幅度的预测纹理方向范围对应的角度预测模式加入候选模式列表；根据相邻块间的相关性，利用当前PU块周围的邻近块得到三个最可能模式加入到候选模式列表中。7.根据权利要求1所述的HEVC帧内CU划分和PU预测模式选择方法，其特征在于:所述计算候选模式列表中候选模式的率失真代价，选择率失真代价最小的候选模式作为PU块的最优预测模式这一步骤，具体为：将候选模式列表中的所有模式进行率失真代价优化，选择率失真代价最小的候选模式作为PU块的最优预测模式，所述率失真代价】_的计算公式为：Jrdo=SSE+λXRtotaI，其中，SSE表示原始编码块与其重建块之间误差的平方和，λ为给定的比例系数，Rtcital是利用候选模式列表中的模式编码PU块一共需要的比特数。8.HEVC帧内⑶划分和RJ预测模式选择系统，其特征在于:包括：CTU提取模块，用于从一帧候选图像中依次提取编码模式待选择的CTU;直方图计算模块，用于对提取的CTU进行预划分，将180度帧内预测角度划分为8个纹理方向范围，并采用直方图统计的方法结合直方图的可叠加特性得到不同CU尺寸下的纹理方向范围-幅度分布直方图以及相应的最佳纹理方向范围、纹理强度和纹理复杂度；CU块划分模块，用于根据CU块的纹理复杂度确定CU块是否进行划分，从而递归完成CTU的四叉树划分，得到相应的PU块；候选模式列表确定模块，用于根据PU块的纹理强度、PU块的最佳纹理方向范围和相邻PU块的预测模式，确定候选模式列表；最优预测模式选择模块，用于计算候选模式列表中候选模式的率失真代价，选择率失真代价最小的候选模式作为PU块的最优预测模式。9.根据权利要求8所述的HEVC帧内CU划分和PU预测模式选择系统，其特征在于:所述候选模式列表确定模块包括：输入与选择模块，输入当前PU块的最佳纹理方向范围和纹理强度，并根据当前PU块的尺寸选择相应的纹理强度阈值；判断模块，用于判断当前PU块的纹理强度是否小于相应的纹理强度阈值，若是，则将DC和Planar模式加入候选模式列表，反之，则将最大幅度的预测纹理方向范围对应的角度预测模式加入候选模式列表；邻近块模式加入模块，用于根据相邻块间的相关性，利用当前PU块周围的邻近块得到三个最可能模式加入到候选模式列表中。10.HEVC帧内⑶划分和RJ预测模式选择系统，其特征在于:包括：存储器，用于存储程序；处理器，用于加载所述程序以执行如权利要求1-7任一项所述的HEVC帧内CU划分和PU预测模式选择方法。

百度查询： 华南理工大学 HEVC帧内CU划分和PU预测模式选择方法及系统

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。

阅读全文 双屏查看 官方信息 专利公告 收藏专利 下载PDF 下载WORD