1 在获得粗略模式候选列表L4之后,对尺寸为4x4和8x8的PU保留8种预测模式, 对尺寸16x16,32x32, 64x64的PU保留3种预测模式,如果可以跳过部分模式的RDO计算,则可以进一步减少编码时间。
2 由于HCost计算是RDO计算的一种较好的简化模型,对通用视频序列进行统计,可以发现在经过粗略模式选择得到的列表中,前几种模式被RDO选为最优模式的概率是非常高的,对于4x4和8x8的PU,前3种模式被选中的概率在80%以上,对于表3-3中的其他尺寸的PU,第一种模式被选中的概率为45% ~ 60%,前两种模式被选中的概率则增加到了67%~78%。
粗略模式候选列表中国呢的预测模式是按照相应的HCost升序排列的,也就是说,HCost小的模式对应更高的被选为最佳预测模式的概率,而列表的另一端模式(对应HCost大的模式),被选中的概率往往比较小,所以在进行RDO计算之前,可以根据一个与HCost相关的阈值来提前删减部分候选模式。
为了保证预测精度,3MPM被直接加入后面的RDO计算中,所以可以考虑采用一种均值的方法来删减粗略候选模式列表,那么对于N=8的情况,删减后的模式一般不多于3种,对于N=3的情况,则只留下一种预测模式,在这种机制下,可以省略大约一般的RDO计算量。该算法具体描述如下。
首先对粗略模式集合中的所有模式对应的HCost求平均值,然后将粗略模式列表中的HCost偏高均值较大的模式舍弃,由于被其RDO选为最佳预测模式的概率比较小,所以可以在不影响编码性能条件下,减少RDO计算量,有效节省编码时间。
记粗略模式列表L4中第i种模式对应的粗略带价值为HCost,记N总粗略模式对应的粗略代价均值为u,则有公式3-17
U = 1/M * sigmaHCost
逐个比较列表中的HCost(i = N..1)与u 的大小,如果HCost大雨u,则将它对应的第i种模式从L4中舍弃,直到列表种剩余的模式对应的HCost均小于u。将最终的预选模式列表记作L。并对列表L中的模式进行下一步的计算。
即粗略候选列表中的最后一个模式为HCost。
3 综合算法流程以及算法分析。
将前两种算法结合起来即可得到提出的完整的快速帧内预测模式决策算法,综合算法流程。算法流程图。