CU的划分、地址以及索引
CU的划分、地址以及索引
在看HM源码的时候,最蛋疼的一件事就是被CU的划分以及它们的地址搞懵。为了搞清楚,仔细研究了一下源码,有什么错误请指出。为了弄清楚这个问题,必须要对扫描顺序、深度等概念有所理解。
扫描顺序
HEVC中对像素块的扫描方式有两种:Raster和Zscan
Raster扫描方式:从上到下,从左到右进行扫描,是最直观也是最容易理解的方式
Zscan扫描方式:因为CU是递归划分的,因此为了方便处理,HM中使用了Z扫描,也就是从左上角按照Z字形扫描到右下角。下面是Zscan扫描的一个例子:
CU的划分
CU按照四叉树的方式自上而下,进行递归划分,由于使用了这种递归的方式,因此HEVC中必须要使用Zscan的扫描方式。
深度
1、深度等于0时,CU的尺寸是64x64,该CU下面4x4小块的数量是256
2、深度等于1时,CU的尺寸是32x32,该CU下面4x4小块的数量是64
3、深度等于2时,CU的尺寸是16x16,该CU下面4x4小块的数量是16
4、深度等于3时,CU的尺寸是8x8,该CU下面4x4小块的数量是4
HEVC中对扫描顺序以及地址的处理
初始化扫描顺序
1、把每一个LCU都划分为4x4的小块,分别以Raster和Zscan的方式对4x4的小块进行编号(也就是索引)
2、把Raster到Zscan的编号映射存储在g_auiRasterToZscan数组中
3、把Zscan到Raster的编号映射存储在g_auiZscanToRaster数组中
4、把Raster索引到像素地址的映射放在g_auiRasterToPelX和g_auiRasterToPelY中
- extern UInt g_auiZscanToRaster[ MAX_NUM_SPU_W*MAX_NUM_SPU_W ]; //
- extern UInt g_auiRasterToZscan[ MAX_NUM_SPU_W*MAX_NUM_SPU_W ];
- Void initZscanToRaster ( Int iMaxDepth, Int iDepth, UInt uiStartVal, UInt*& rpuiCurrIdx );
- Void initRasterToZscan ( UInt uiMaxCUWidth, UInt uiMaxCUHeight, UInt uiMaxDepth );
- extern UInt g_auiRasterToPelX[ MAX_NUM_SPU_W*MAX_NUM_SPU_W ];
- extern UInt g_auiRasterToPelY[ MAX_NUM_SPU_W*MAX_NUM_SPU_W ];
- Void initRasterToPelXY ( UInt uiMaxCUWidth, UInt uiMaxCUHeight, UInt uiMaxDepth );
- // 计算Z型扫描的块索引
- Void initZscanToRaster ( Int iMaxDepth, Int iDepth, UInt uiStartVal, UInt*& rpuiCurrIdx )
- {
- // 偏移
- Int iStride = 1 << ( iMaxDepth - 1 );
- // 已经到达最大深度,递归结束
- if ( iDepth == iMaxDepth )
- {
- rpuiCurrIdx[0] = uiStartVal;
- rpuiCurrIdx++;
- }
- else
- {
- // 尚未到达最大深度,使用递归继续往下处理
- Int iStep = iStride >> iDepth;
- initZscanToRaster( iMaxDepth, iDepth+1, uiStartVal, rpuiCurrIdx );
- initZscanToRaster( iMaxDepth, iDepth+1, uiStartVal+iStep, rpuiCurrIdx );
- initZscanToRaster( iMaxDepth, iDepth+1, uiStartVal+iStep*iStride, rpuiCurrIdx );
- initZscanToRaster( iMaxDepth, iDepth+1, uiStartVal+iStep*iStride+iStep, rpuiCurrIdx );
- }
- }
- Void initRasterToZscan ( UInt uiMaxCUWidth, UInt uiMaxCUHeight, UInt uiMaxDepth )
- {
- UInt uiMinCUWidth = uiMaxCUWidth >> ( uiMaxDepth - 1 );
- UInt uiMinCUHeight = uiMaxCUHeight >> ( uiMaxDepth - 1 );
- UInt uiNumPartInWidth = (UInt)uiMaxCUWidth / uiMinCUWidth;
- UInt uiNumPartInHeight = (UInt)uiMaxCUHeight / uiMinCUHeight;
- for ( UInt i = 0; i < uiNumPartInWidth*uiNumPartInHeight; i++ )
- {
- g_auiRasterToZscan[ g_auiZscanToRaster[i] ] = i;
- }
- }
- // 光栅扫描顺序时,根据索引,定位出像素位置
- Void initRasterToPelXY ( UInt uiMaxCUWidth, UInt uiMaxCUHeight, UInt uiMaxDepth )
- {
- UInt i;
- UInt* uiTempX = &g_auiRasterToPelX[0];
- UInt* uiTempY = &g_auiRasterToPelY[0];
- UInt uiMinCUWidth = uiMaxCUWidth >> ( uiMaxDepth - 1 );
- UInt uiMinCUHeight = uiMaxCUHeight >> ( uiMaxDepth - 1 );
- UInt uiNumPartInWidth = uiMaxCUWidth / uiMinCUWidth;
- UInt uiNumPartInHeight = uiMaxCUHeight / uiMinCUHeight;
- uiTempX[0] = 0; uiTempX++;
- for ( i = 1; i < uiNumPartInWidth; i++ )
- {
- uiTempX[0] = uiTempX[-1] + uiMinCUWidth; uiTempX++;
- }
- for ( i = 1; i < uiNumPartInHeight; i++ )
- {
- memcpy(uiTempX, uiTempX-uiNumPartInWidth, sizeof(UInt)*uiNumPartInWidth);
- uiTempX += uiNumPartInWidth;
- }
- for ( i = 1; i < uiNumPartInWidth*uiNumPartInHeight; i++ )
- {
- uiTempY[i] = ( i / uiNumPartInWidth ) * uiMinCUWidth;
- }
- };
根据扫描顺序得到地址
得到Zscan扫描顺序
这个很简单,由于CU是按照四叉树的方式进行递归处理的,因此CU被处理的顺序就是Zscan扫描顺序。下面是Zscan扫描顺序的一个示意图。
根据Zscan顺序得到Raster扫描顺序
得到Zscan扫描顺序之后还不够啊,我们需要知道某个块的地址才能对对它进行处理。获取地址需要Raster扫描顺序,可以直接使用g_auiZscanToRaster数组把Zscan顺序转换成Raster顺序。
根据Raster扫描顺序得到CU的地址
使用g_auiRasterToPelX和g_auiRasterToPelY就可以把Raster扫描顺序转换成相对地址了。但是这个地址只是4x4小块的地址,我们需要的是某个CU的地址,可以按照下面的方式进行处理:
1、开始的时候已知slice的起始地址、每个LCU的偏移地址,这些在初始化的时候都是确定。
2、根据CU左上角的4x4块的地址可以算出CU在图像中的地址了。
3、另外补充一点:根据深度可以确定CU的尺寸
在TEncCu中和CU有关的信息
TEncCu中有下面一些属性是需要注意的
- TComDataCU** m_ppcBestCU; //每个深度下的最优CU,用于存储最优值,注意TComDataCU只有CU的信息,不存放数据
- TComDataCU** m_ppcTempCU; //每个深度下的临时CU,这个是用于计算,每次计算完成之后都要和最优值进行比较,然后交换
- UChar m_uhTotalDepth; //总的深度
- TComYuv** m_ppcPredYuvBest; //每个深度下最优的预测YUV
- TComYuv** m_ppcResiYuvBest; //每个深度下最优的残差YUV
- TComYuv** m_ppcRecoYuvBest; //每个深度下最优的重建YUV
- TComYuv** m_ppcPredYuvTemp; //每个深度下临时的预测YUV,用于计算过程,计算完成后和最优的进行比较,然后交换
- TComYuv** m_ppcResiYuvTemp; //每个深度下临时的残差YUV,同上
- TComYuv** m_ppcRecoYuvTemp; //每个深度下临时的重建YUV,同上
- TComYuv** m_ppcOrigYuv; //YUV数据,在编码之前从TComPicYuv中得到,TComPicYuv在TComPic中
2、tempCU用于编码过程,每编码完成一个CU就将tempCU与bestCU进行比较,如果有需要就更新bestCU
3、TComDataCU存放了CU中所有4x4小块的信息!
在编码过程中CU的地址和索引
LCU的地址
在函数compressCU中,LCU被初始化,它根据传进来的TComPicSym的LCU信息,调用initCU进行初始化,得到LCU的地址等信息。这么做是因为在编码的过程中不对TComPicSym的LCU进行直接操作,需要复制它的信息到临时的对象中,编码完成后再把最优的信息复制回TComPicSym中。
m_ppcBestCU表示某个深度下最优的CU信息,主要目的是存放最优的信息;m_ppcTempCU表示某个深度下临时的CU信息,它被用于编码操作,编码完成之后,再根据需要把最优信息保存到m_ppcBestCU中。
- Void TEncCu::compressCU( TComDataCU*& rpcCU )//TComPicSym
- {
- // initialize CU data
- // CU初始化
- // 初始化最佳CU和临时CU
- m_ppcBestCU[0]->initCU( rpcCU->getPic(), rpcCU->getAddr() );
- m_ppcTempCU[0]->initCU( rpcCU->getPic(), rpcCU->getAddr() );
- // analysis of CU
- // 进行CU的切割
- // 起始的深度是0,即最开始进去的是LCU
- xCompressCU( m_ppcBestCU[0], m_ppcTempCU[0], 0 );
- }
2、利用LCU的信息,对深度等于0的bestCU和tempCU进行初始化,m_ppcBestCU的下标表示深度
3、调用xCompressCU
initCU主要用于LCU的初始化,普通CU的初始化不使用它
- // 实际上这是针对LCU的初始化,对于普通的CU,初始化使用initSubCU
- Void TComDataCU::initCU( TComPic* pcPic, UInt iCUAddr )
- {
- // 当前CU所属的图像
- m_pcPic = pcPic;
- // 当前CU所属的slice
- m_pcSlice = pcPic->getSlice(pcPic->getCurrSliceIdx());
- // CU的地址
- m_uiCUAddr = iCUAddr;
- // LCU在图像中的实际像素地址
- m_uiCUPelX = ( iCUAddr % pcPic->getFrameWidthInCU() ) * g_uiMaxCUWidth;
- m_uiCUPelY = ( iCUAddr / pcPic->getFrameWidthInCU() ) * g_uiMaxCUHeight;
- m_uiAbsIdxInLCU = 0;
- // 总的RD消耗
- m_dTotalCost = MAX_DOUBLE;
- // 总的失真
- m_uiTotalDistortion = 0;
- // 总的比特数
- m_uiTotalBits = 0;
- // 总的二进制数
- m_uiTotalBins = 0;
- // 一帧图像最多可以分成256个CU(即深度是4,2^4 * 2^4 = 256)
- m_uiNumPartition = pcPic->getNumPartInCU();
- // m_sliceStartCU初始化之后全都是0
- for(Int i=0; i<pcPic->getNumPartInCU(); i++)
- {
- if(pcPic->getPicSym()->getInverseCUOrderMap(iCUAddr)*pcPic->getNumPartInCU()+i>=getSlice()->getSliceCurStartCUAddr())
- {
- // 设置条带开始的CU的地址放到一个数组中
- m_sliceStartCU[i]=getSlice()->getSliceCurStartCUAddr();
- }
- else
- {
- // 获取slice中的所有CU,存放到一个数组中
- m_sliceStartCU[i]=pcPic->getCU(getAddr())->m_sliceStartCU[i];
- }
- }
- for(Int i=0; i<pcPic->getNumPartInCU(); i++)
- {
- if(pcPic->getPicSym()->getInverseCUOrderMap(iCUAddr)*pcPic->getNumPartInCU()+i>=getSlice()->getSliceSegmentCurStartCUAddr())
- {
- m_sliceSegmentStartCU[i]=getSlice()->getSliceSegmentCurStartCUAddr();
- }
- else
- {
- // 获取所有的条带片段中的CU,存放到数组中
- m_sliceSegmentStartCU[i]=pcPic->getCU(getAddr())->m_sliceSegmentStartCU[i];
- }
- }
- // getInverseCUOrderMap 这个函数是根据CU的地址获取CU的顺序索引
- Int partStartIdx = getSlice()->getSliceSegmentCurStartCUAddr() - pcPic->getPicSym()->getInverseCUOrderMap(iCUAddr) * pcPic->getNumPartInCU();
- // 元素的个数
- Int numElements = min<Int>( partStartIdx, m_uiNumPartition );
- for ( Int ui = 0; ui < numElements; ui++ )
- {
- TComDataCU * pcFrom = pcPic->getCU(getAddr());
- m_skipFlag[ui] = pcFrom->getSkipFlag(ui);
- m_pePartSize[ui] = pcFrom->getPartitionSize(ui);
- m_pePredMode[ui] = pcFrom->getPredictionMode(ui);
- m_CUTransquantBypass[ui] = pcFrom->getCUTransquantBypass(ui);
- m_puhDepth[ui] = pcFrom->getDepth(ui);
- m_puhWidth [ui] = pcFrom->getWidth(ui);
- m_puhHeight [ui] = pcFrom->getHeight(ui);
- m_puhTrIdx [ui] = pcFrom->getTransformIdx(ui);
- m_puhTransformSkip[0][ui] = pcFrom->getTransformSkip(ui,TEXT_LUMA);
- m_puhTransformSkip[1][ui] = pcFrom->getTransformSkip(ui,TEXT_CHROMA_U);
- m_puhTransformSkip[2][ui] = pcFrom->getTransformSkip(ui,TEXT_CHROMA_V);
- m_apiMVPIdx[0][ui] = pcFrom->m_apiMVPIdx[0][ui];;
- m_apiMVPIdx[1][ui] = pcFrom->m_apiMVPIdx[1][ui];
- m_apiMv*num[0][ui] = pcFrom->m_apiMv*num[0][ui];
- m_apiMv*num[1][ui] = pcFrom->m_apiMv*num[1][ui];
- m_phQP[ui]=pcFrom->m_phQP[ui];
- m_pbMergeFlag[ui]=pcFrom->m_pbMergeFlag[ui];
- m_puhMergeIndex[ui]=pcFrom->m_puhMergeIndex[ui];
- m_puhLumaIntraDir[ui]=pcFrom->m_puhLumaIntraDir[ui];
- m_puhChromaIntraDir[ui]=pcFrom->m_puhChromaIntraDir[ui];
- m_puhInterDir[ui]=pcFrom->m_puhInterDir[ui];
- m_puhCbf[0][ui]=pcFrom->m_puhCbf[0][ui];
- m_puhCbf[1][ui]=pcFrom->m_puhCbf[1][ui];
- m_puhCbf[2][ui]=pcFrom->m_puhCbf[2][ui];
- m_pbIPCMFlag[ui] = pcFrom->m_pbIPCMFlag[ui];
- }
- // 第一个元素
- Int firstElement = max<Int>( partStartIdx, 0 );
- // 元素的个数
- numElements = m_uiNumPartition - firstElement;
- if ( numElements > 0 )
- {
- memset( m_skipFlag + firstElement, false, numElements * sizeof( *m_skipFlag ) );
- memset( m_pePartSize + firstElement, SIZE_NONE, numElements * sizeof( *m_pePartSize ) );
- memset( m_pePredMode + firstElement, MODE_NONE, numElements * sizeof( *m_pePredMode ) );
- memset( m_CUTransquantBypass+ firstElement, false, numElements * sizeof( *m_CUTransquantBypass) );
- memset( m_puhDepth + firstElement, 0, numElements * sizeof( *m_puhDepth ) );
- memset( m_puhTrIdx + firstElement, 0, numElements * sizeof( *m_puhTrIdx ) );
- memset( m_puhTransformSkip[0] + firstElement, 0, numElements * sizeof( *m_puhTransformSkip[0]) );
- memset( m_puhTransformSkip[1] + firstElement, 0, numElements * sizeof( *m_puhTransformSkip[1]) );
- memset( m_puhTransformSkip[2] + firstElement, 0, numElements * sizeof( *m_puhTransformSkip[2]) );
- memset( m_puhWidth + firstElement, g_uiMaxCUWidth, numElements * sizeof( *m_puhWidth ) );
- memset( m_puhHeight + firstElement, g_uiMaxCUHeight, numElements * sizeof( *m_puhHeight ) );
- memset( m_apiMVPIdx[0] + firstElement, -1, numElements * sizeof( *m_apiMVPIdx[0] ) );
- memset( m_apiMVPIdx[1] + firstElement, -1, numElements * sizeof( *m_apiMVPIdx[1] ) );
- memset( m_apiMv*num[0] + firstElement, -1, numElements * sizeof( *m_apiMv*num[0] ) );
- memset( m_apiMv*num[1] + firstElement, -1, numElements * sizeof( *m_apiMv*num[1] ) );
- memset( m_phQP + firstElement, getSlice()->getSliceQp(), numElements * sizeof( *m_phQP ) );
- memset( m_pbMergeFlag + firstElement, false, numElements * sizeof( *m_pbMergeFlag ) );
- memset( m_puhMergeIndex + firstElement, 0, numElements * sizeof( *m_puhMergeIndex ) );
- memset( m_puhLumaIntraDir + firstElement, DC_IDX, numElements * sizeof( *m_puhLumaIntraDir ) );
- memset( m_puhChromaIntraDir + firstElement, 0, numElements * sizeof( *m_puhChromaIntraDir ) );
- memset( m_puhInterDir + firstElement, 0, numElements * sizeof( *m_puhInterDir ) );
- memset( m_puhCbf[0] + firstElement, 0, numElements * sizeof( *m_puhCbf[0] ) );
- memset( m_puhCbf[1] + firstElement, 0, numElements * sizeof( *m_puhCbf[1] ) );
- memset( m_puhCbf[2] + firstElement, 0, numElements * sizeof( *m_puhCbf[2] ) );
- memset( m_pbIPCMFlag + firstElement, false, numElements * sizeof( *m_pbIPCMFlag ) );
- }
- UInt uiTmp = g_uiMaxCUWidth*g_uiMaxCUHeight;
- if ( 0 >= partStartIdx )
- {
- m_acCUMvField[0].clearMvField();
- m_acCUMvField[1].clearMvField();
- memset( m_pcTrCoeffY , 0, sizeof( TCoeff ) * uiTmp );
- #if ADAPTIVE_QP_SELECTION
- memset( m_pcArlCoeffY , 0, sizeof( Int ) * uiTmp );
- #endif
- memset( m_pcIPCMSampleY , 0, sizeof( Pel ) * uiTmp );
- uiTmp >>= 2;
- memset( m_pcTrCoeffCb, 0, sizeof( TCoeff ) * uiTmp );
- memset( m_pcTrCoeffCr, 0, sizeof( TCoeff ) * uiTmp );
- #if ADAPTIVE_QP_SELECTION
- memset( m_pcArlCoeffCb, 0, sizeof( Int ) * uiTmp );
- memset( m_pcArlCoeffCr, 0, sizeof( Int ) * uiTmp );
- #endif
- memset( m_pcIPCMSampleCb , 0, sizeof( Pel ) * uiTmp );
- memset( m_pcIPCMSampleCr , 0, sizeof( Pel ) * uiTmp );
- }
- else
- {
- TComDataCU * pcFrom = pcPic->getCU(getAddr());
- m_acCUMvField[0].copyFrom(&pcFrom->m_acCUMvField[0],m_uiNumPartition,0);
- m_acCUMvField[1].copyFrom(&pcFrom->m_acCUMvField[1],m_uiNumPartition,0);
- for(Int i=0; i<uiTmp; i++)
- {
- m_pcTrCoeffY[i]=pcFrom->m_pcTrCoeffY[i];
- #if ADAPTIVE_QP_SELECTION
- m_pcArlCoeffY[i]=pcFrom->m_pcArlCoeffY[i];
- #endif
- m_pcIPCMSampleY[i]=pcFrom->m_pcIPCMSampleY[i];
- }
- for(Int i=0; i<(uiTmp>>2); i++)
- {
- m_pcTrCoeffCb[i]=pcFrom->m_pcTrCoeffCb[i];
- m_pcTrCoeffCr[i]=pcFrom->m_pcTrCoeffCr[i];
- #if ADAPTIVE_QP_SELECTION
- m_pcArlCoeffCb[i]=pcFrom->m_pcArlCoeffCb[i];
- m_pcArlCoeffCr[i]=pcFrom->m_pcArlCoeffCr[i];
- #endif
- m_pcIPCMSampleCb[i]=pcFrom->m_pcIPCMSampleCb[i];
- m_pcIPCMSampleCr[i]=pcFrom->m_pcIPCMSampleCr[i];
- }
- }
- // Setting neighbor CU
- // 设置相邻CU
- m_pcCULeft = NULL; // 左边的CU
- m_pcCUAbove = NULL; // 上面的CU
- m_pcCUAboveLeft = NULL; // 左上方的CU
- m_pcCUAboveRight = NULL; // 右上方的CU
- // 位置数组,有两个元素
- m_apcCUColocated[0] = NULL;
- m_apcCUColocated[1] = NULL;
- // 获取一帧图片中,横向上CU的个数
- UInt uiWidthInCU = pcPic->getFrameWidthInCU();
- // 分别获取当前CU各个方向上相邻的CU
- // 如果CU地址不为图片上横向上CU个数的整数倍,那么它的左边有CU
- if ( m_uiCUAddr % uiWidthInCU )
- {
- m_pcCULeft = pcPic->getCU( m_uiCUAddr - 1 );
- }
- // 如果CU地址不为图像纵向上CU个数的整数倍,那么它的上方存在CU
- if ( m_uiCUAddr / uiWidthInCU )
- {
- m_pcCUAbove = pcPic->getCU( m_uiCUAddr - uiWidthInCU );
- }
- // 如果左边有CU,上方有CU,那么当前CU的上面有CU
- if ( m_pcCULeft && m_pcCUAbove )
- {
- m_pcCUAboveLeft = pcPic->getCU( m_uiCUAddr - uiWidthInCU - 1 );
- }
- // 如果上边有CU,而且当前CU不是当前行最后一个CU,那么它的右上角有CU
- if ( m_pcCUAbove && ( (m_uiCUAddr%uiWidthInCU) < (uiWidthInCU-1) ) )
- {
- m_pcCUAboveRight = pcPic->getCU( m_uiCUAddr - uiWidthInCU + 1 );
- }
- // getNumRefIdx从参考图片数组(数组0或1)获取参考图片的数量
- if ( getSlice()->getNumRefIdx( REF_PIC_LIST_0 ) > 0 )
- {
- m_apcCUColocated[0] = getSlice()->getRefPic( REF_PIC_LIST_0, 0)->getCU( m_uiCUAddr );
- }
- if ( getSlice()->getNumRefIdx( REF_PIC_LIST_1 ) > 0 )
- {
- m_apcCUColocated[1] = getSlice()->getRefPic( REF_PIC_LIST_1, 0)->getCU( m_uiCUAddr );
- }
- }
普通CU的地址
在xCompressCU中,下列语句用于初始化下一层的子CU
- UChar uhNextDepth = uiDepth+1;
- TComDataCU* pcSubBestPartCU = m_ppcBestCU[uhNextDepth];
- TComDataCU* pcSubTempPartCU = m_ppcTempCU[uhNextDepth];
- // 进一步的分割,当前CU又被划分成为4个子CU
- // 对子CU进行初始化,计算坐标索引等等,然后把父亲CU的信息复制给子CU
- // 另外,tempSubCU会和rpcTempCU一样调用initEstData,进行清理,把旧的数据清除掉
- for ( UInt uiPartUnitIdx = 0; uiPartUnitIdx < 4; uiPartUnitIdx++ )
- {
- // <span style="font-family: Arial, Helvetica, sans-serif;">对子CU进行初始化,计算坐标索引等等,然后把父亲CU的信息复制给子CU</span>
- pcSubBestPartCU->initSubCU( rpcTempCU, uiPartUnitIdx, uhNextDepth, iQP ); // clear sub partition datas or init.
- pcSubTempPartCU->initSubCU( rpcTempCU, uiPartUnitIdx, uhNextDepth, iQP ); // clear sub partition datas or init.
- // ***
- }
普通的CU初始化的时候不使用initCU,而是以父亲CU作为参数调用initSubCU进行初始化。
1、计算当前CU在父亲CU中以partition(4x4大小的块)为单位的偏移
2、计算当前CU的地址,利用父亲CU的地址和偏移量可以算出当前CU的地址
3、计算当前CU在LCU中的Zscan顺序的索引,先获取父亲CU的Zscan索引,再加上偏移就可以得到当前CU的Zscan索引
4、计算当前CU的坐标,利用父亲CU的坐标、当前CU的尺寸和当前CU在父亲CU中的索引可以计算
5、最后请注意:LCU的相关信息通过initCU已经设置完成,因此对于32x32的CU,可以直接利用LCU调用initSubCU进行初始化!
- Void TComDataCU::initSubCU( TComDataCU* pcCU, UInt uiPartUnitIdx, UInt uiDepth, Int qp )
- {
- assert( uiPartUnitIdx<4 );
- // partition(也就是4x4大小的块)为单位的偏移
- // pcCU->getTotalNumPart()>>2表示当前CU中partition的数量是父亲CU的1/4,因为它的宽和高都是父亲CU的一半
- // 乘以uiPartUnitIdx的目的是计算当前CU在父亲CU中的偏移
- UInt uiPartOffset = ( pcCU->getTotalNumPart()>>2 )*uiPartUnitIdx;
- m_pcPic = pcCU->getPic();
- m_pcSlice = m_pcPic->getSlice(m_pcPic->getCurrSliceIdx());
- // 父亲CU的地址,利用父亲CU的地址和偏移可以计算出当前CU的地址
- m_uiCUAddr = pcCU->getAddr();
- // pcCU->getZorderIdxInCU()得到父亲CU在LCU中的Zscan顺序的索引,加上偏移之后得到当前CU在LCU中的索引
- m_uiAbsIdxInLCU = pcCU->getZorderIdxInCU() + uiPartOffset;
- // 计算当前CU的坐标(左上角)
- // pcCU->getCUPelX()得到父亲CU的坐标,利用当前CU的尺寸以及它在父亲CU中索引,计算出当前CU的坐标
- m_uiCUPelX = pcCU->getCUPelX() + ( g_uiMaxCUWidth>>uiDepth )*( uiPartUnitIdx & 1 );
- m_uiCUPelY = pcCU->getCUPelY() + ( g_uiMaxCUHeight>>uiDepth )*( uiPartUnitIdx >> 1 );
- m_dTotalCost = MAX_DOUBLE;
- m_uiTotalDistortion = 0;
- m_uiTotalBits = 0;
- m_uiTotalBins = 0;
- m_uiNumPartition = pcCU->getTotalNumPart() >> 2;
- Int iSizeInUchar = sizeof( UChar ) * m_uiNumPartition;
- Int iSizeInBool = sizeof( Bool ) * m_uiNumPartition;
- Int sizeInChar = sizeof( Char ) * m_uiNumPartition;
- memset( m_phQP, qp, sizeInChar );
- memset( m_pbMergeFlag, 0, iSizeInBool );
- memset( m_puhMergeIndex, 0, iSizeInUchar );
- memset( m_puhLumaIntraDir, DC_IDX, iSizeInUchar );
- memset( m_puhChromaIntraDir, 0, iSizeInUchar );
- memset( m_puhInterDir, 0, iSizeInUchar );
- memset( m_puhTrIdx, 0, iSizeInUchar );
- memset( m_puhTransformSkip[0], 0, iSizeInUchar );
- memset( m_puhTransformSkip[1], 0, iSizeInUchar );
- memset( m_puhTransformSkip[2], 0, iSizeInUchar );
- memset( m_puhCbf[0], 0, iSizeInUchar );
- memset( m_puhCbf[1], 0, iSizeInUchar );
- memset( m_puhCbf[2], 0, iSizeInUchar );
- memset( m_puhDepth, uiDepth, iSizeInUchar );
- UChar uhWidth = g_uiMaxCUWidth >> uiDepth;
- UChar uhHeight = g_uiMaxCUHeight >> uiDepth;
- memset( m_puhWidth, uhWidth, iSizeInUchar );
- memset( m_puhHeight, uhHeight, iSizeInUchar );
- memset( m_pbIPCMFlag, 0, iSizeInBool );
- for (UInt ui = 0; ui < m_uiNumPartition; ui++)
- {
- m_skipFlag[ui] = false;
- m_pePartSize[ui] = SIZE_NONE;
- m_pePredMode[ui] = MODE_NONE;
- m_CUTransquantBypass[ui] = false;
- m_apiMVPIdx[0][ui] = -1;
- m_apiMVPIdx[1][ui] = -1;
- m_apiMv*num[0][ui] = -1;
- m_apiMv*num[1][ui] = -1;
- if(m_pcPic->getPicSym()->getInverseCUOrderMap(getAddr())*m_pcPic->getNumPartInCU()+m_uiAbsIdxInLCU+ui<getSlice()->getSliceSegmentCurStartCUAddr())
- {
- m_apiMVPIdx[0][ui] = pcCU->m_apiMVPIdx[0][uiPartOffset+ui];
- m_apiMVPIdx[1][ui] = pcCU->m_apiMVPIdx[1][uiPartOffset+ui];;
- m_apiMv*num[0][ui] = pcCU->m_apiMv*num[0][uiPartOffset+ui];;
- m_apiMv*num[1][ui] = pcCU->m_apiMv*num[1][uiPartOffset+ui];;
- m_puhDepth [ui] = pcCU->getDepth(uiPartOffset+ui);
- m_puhWidth [ui] = pcCU->getWidth(uiPartOffset+ui);
- m_puhHeight [ui] = pcCU->getHeight(uiPartOffset+ui);
- m_puhTrIdx [ui] = pcCU->getTransformIdx(uiPartOffset+ui);
- m_puhTransformSkip[0][ui] = pcCU->getTransformSkip(uiPartOffset+ui,TEXT_LUMA);
- m_puhTransformSkip[1][ui] = pcCU->getTransformSkip(uiPartOffset+ui,TEXT_CHROMA_U);
- m_puhTransformSkip[2][ui] = pcCU->getTransformSkip(uiPartOffset+ui,TEXT_CHROMA_V);
- m_skipFlag[ui] = pcCU->getSkipFlag(uiPartOffset+ui);
- m_pePartSize[ui] = pcCU->getPartitionSize(uiPartOffset+ui);
- m_pePredMode[ui] = pcCU->getPredictionMode(uiPartOffset+ui);
- m_CUTransquantBypass[ui] = pcCU->getCUTransquantBypass(uiPartOffset+ui);
- m_pbIPCMFlag[ui]=pcCU->m_pbIPCMFlag[uiPartOffset+ui];
- m_phQP[ui] = pcCU->m_phQP[uiPartOffset+ui];
- m_pbMergeFlag[ui]=pcCU->m_pbMergeFlag[uiPartOffset+ui];
- m_puhMergeIndex[ui]=pcCU->m_puhMergeIndex[uiPartOffset+ui];
- m_puhLumaIntraDir[ui]=pcCU->m_puhLumaIntraDir[uiPartOffset+ui];
- m_puhChromaIntraDir[ui]=pcCU->m_puhChromaIntraDir[uiPartOffset+ui];
- m_puhInterDir[ui]=pcCU->m_puhInterDir[uiPartOffset+ui];
- m_puhCbf[0][ui]=pcCU->m_puhCbf[0][uiPartOffset+ui];
- m_puhCbf[1][ui]=pcCU->m_puhCbf[1][uiPartOffset+ui];
- m_puhCbf[2][ui]=pcCU->m_puhCbf[2][uiPartOffset+ui];
- }
- }
- UInt uiTmp = uhWidth*uhHeight;
- memset( m_pcTrCoeffY , 0, sizeof(TCoeff)*uiTmp );
- #if ADAPTIVE_QP_SELECTION
- memset( m_pcArlCoeffY , 0, sizeof(Int)*uiTmp );
- #endif
- memset( m_pcIPCMSampleY , 0, sizeof( Pel ) * uiTmp );
- uiTmp >>= 2;
- memset( m_pcTrCoeffCb, 0, sizeof(TCoeff)*uiTmp );
- memset( m_pcTrCoeffCr, 0, sizeof(TCoeff)*uiTmp );
- #if ADAPTIVE_QP_SELECTION
- memset( m_pcArlCoeffCb, 0, sizeof(Int)*uiTmp );
- memset( m_pcArlCoeffCr, 0, sizeof(Int)*uiTmp );
- #endif
- memset( m_pcIPCMSampleCb , 0, sizeof( Pel ) * uiTmp );
- memset( m_pcIPCMSampleCr , 0, sizeof( Pel ) * uiTmp );
- m_acCUMvField[0].clearMvField();
- m_acCUMvField[1].clearMvField();
- if(m_pcPic->getPicSym()->getInverseCUOrderMap(getAddr())*m_pcPic->getNumPartInCU()+m_uiAbsIdxInLCU<getSlice()->getSliceSegmentCurStartCUAddr())
- {
- // Part of this CU contains data from an older slice. Now copy in that data.
- UInt uiMaxCuWidth=pcCU->getSlice()->getSPS()->getMaxCUWidth();
- UInt uiMaxCuHeight=pcCU->getSlice()->getSPS()->getMaxCUHeight();
- TComDataCU * bigCU = getPic()->getCU(getAddr());
- Int minui = uiPartOffset;
- minui = -minui;
- pcCU->m_acCUMvField[0].copyTo(&m_acCUMvField[0],minui,uiPartOffset,m_uiNumPartition);
- pcCU->m_acCUMvField[1].copyTo(&m_acCUMvField[1],minui,uiPartOffset,m_uiNumPartition);
- UInt uiCoffOffset = uiMaxCuWidth*uiMaxCuHeight*m_uiAbsIdxInLCU/pcCU->getPic()->getNumPartInCU();
- uiTmp = uhWidth*uhHeight;
- for(Int i=0; i<uiTmp; i++)
- {
- m_pcTrCoeffY[i]=bigCU->m_pcTrCoeffY[uiCoffOffset+i];
- #if ADAPTIVE_QP_SELECTION
- m_pcArlCoeffY[i]=bigCU->m_pcArlCoeffY[uiCoffOffset+i];
- #endif
- m_pcIPCMSampleY[i]=bigCU->m_pcIPCMSampleY[uiCoffOffset+i];
- }
- uiTmp>>=2;
- uiCoffOffset>>=2;
- for(Int i=0; i<uiTmp; i++)
- {
- m_pcTrCoeffCr[i]=bigCU->m_pcTrCoeffCr[uiCoffOffset+i];
- m_pcTrCoeffCb[i]=bigCU->m_pcTrCoeffCb[uiCoffOffset+i];
- #if ADAPTIVE_QP_SELECTION
- m_pcArlCoeffCr[i]=bigCU->m_pcArlCoeffCr[uiCoffOffset+i];
- m_pcArlCoeffCb[i]=bigCU->m_pcArlCoeffCb[uiCoffOffset+i];
- #endif
- m_pcIPCMSampleCb[i]=bigCU->m_pcIPCMSampleCb[uiCoffOffset+i];
- m_pcIPCMSampleCr[i]=bigCU->m_pcIPCMSampleCr[uiCoffOffset+i];
- }
- }
- m_pcCULeft = pcCU->getCULeft();
- m_pcCUAbove = pcCU->getCUAbove();
- m_pcCUAboveLeft = pcCU->getCUAboveLeft();
- m_pcCUAboveRight = pcCU->getCUAboveRight();
- m_apcCUColocated[0] = pcCU->getCUColocated(REF_PIC_LIST_0);
- m_apcCUColocated[1] = pcCU->getCUColocated(REF_PIC_LIST_1);
- memcpy(m_sliceStartCU,pcCU->m_sliceStartCU+uiPartOffset,sizeof(UInt)*m_uiNumPartition);
- memcpy(m_sliceSegmentStartCU,pcCU->m_sliceSegmentStartCU+uiPartOffset,sizeof(UInt)*m_uiNumPartition);
- }
在xCompressCU中,下面四条语句用于获取bestCU的坐标
- UInt uiLPelX = rpcBestCU->getCUPelX(); // (left)
- UInt uiRPelX = uiLPelX + rpcBestCU->getWidth(0) - 1; // (right)
- UInt uiTPelY = rpcBestCU->getCUPelY(); // (top)
- UInt uiBPelY = uiTPelY + rpcBestCU->getHeight(0) - 1; // (buttom)
2、getWidth(0)返回当前CU的宽度,参数是深度值,0表示返回的是当前CU的宽度,而不是其子CU的宽度
3、getCUPelY返回CU左上角的Y坐标
4、getHeight(0)返回当前CU的高度,参数是深度值,0表示返回的是当前CU的高度,而不是其子CU的高度
相关推荐
- linux系统防火墙常用指令,以及指定ip的访问权限设定,firewalld的端口转接,地址伪装
- 进程的线性地址空间以及函数调用过程
- 数据库-3.5 优化你的索引-运用Hash以及BitMap
- MySQL 索引B+树原理,以及建索引的几大原则
- 什么是B+树,以及Mysql为什么要用B+树作为索引的算法
- Linux-centos8.1通过进入目录的方式修改ip地址,以及两种模式访问外网
- 详解IP地址的子网划分、DNS配置
- CU划分结果打印的问题
- 数据科学领域的职位划分以及职责技能
- 【时间序列(三)】【带有重复索引的时间序列+日期的范围、频率以及移动+生成日期范围】
- rtsp播放h265(hevc)
- HEVC代码学习37:帧内预测代码整体学习