鸿蒙（API 12 Beta3版）【HDR Vivid视频录制】音视频编码

开发者可以调用本模块的Native API接口，实现在视频录制中支持HDR Vivid标准。

视频录制的主要流程是“相机采集 > 编码 > 封装成mp4文件”。

HDR Vivid视频编码

应用创建H265编码器，配置profile(main 10)相机底层包含HDR Vivid的surfacebuffer内容，编码器消费surfacebuffer编码生成对应码流。

说明

仅在Surface模式下支持HDR Vivid视频编码。

在 CMake 脚本中链接动态库

target_link_libraries(sample PUBLIC libnative_media_codecbase.so)
target_link_libraries(sample PUBLIC libnative_media_avdemuxer.so)
target_link_libraries(sample PUBLIC libnative_media_avsource.so)
target_link_libraries(sample PUBLIC libnative_media_core.so)

开发步骤

添加头文件。

#include <multimedia/player_framework/native_avcodec_videoencoder.h>
#include <multimedia/player_framework/native_avcapability.h>
#include <multimedia/player_framework/native_avcodec_base.h>
#include <multimedia/player_framework/native_avformat.h>
#include <multimedia/player_framework/native_avbuffer.h>
#include <fstream>

创建编码器实例对象。

应用可以通过名称或媒体类型创建编码器。示例中的变量说明如下：
- videoEnc：视频编码器实例的指针；
- OH_AVCODEC_MIMETYPE_VIDEO_HEVC：HEVC格式视频码流的名称。

// 通过mimetype创建H265编码器
OH_AVCodec *videoEnc = OH_VideoEncoder_CreateByMime(OH_AVCODEC_MIMETYPE_VIDEO_HEVC);

配置异步回调函数。

添加头文件：

#include <condition_variable>
#include <queue>
#include <mutex>

struct CodecBufferInfo {
    uint32_t bufferIndex = 0;
    OH_AVBuffer *buffer = nullptr;
    uint8_t *bufferAddr = nullptr;
    OH_AVCodecBufferAttr attr = {0, 0, 0, AVCODEC_BUFFER_FLAGS_NONE};
};
std::mutex outputMutex_;
std::condition_variable outputCond_;
std::queue<CodecBufferInfo> outputBufferInfoQueue_;

// 设置OH_AVCodecOnNewOutputBuffer回调函数，编码完成帧送入输出队列
void OnNewOutputBuffer(OH_AVCodec *codec, uint32_t index, OH_AVBuffer *buffer, void *userData) {
    (void)codec;
    std::unique_lock<std::mutex> lock(outputMutex_);
    outputBufferInfoQueue_.emplace(index, buffer);
    outputCond_.notify_all();
}

具体可参考：[视频编码Surface模式]中的“步骤3：调用OH_VideoEncoder_RegisterCallback()设置回调函数”。

配置编码器。

可选配置视频帧宽度、频帧高度、视频颜色格式。

// 配置编码Profile为MAIN10(必须)
int32_t profile = static_cast<int32_t>(HEVC_PROFILE_MAIN_10);
// 配置视频原色
int32_t primary = static_cast<int32_t>(OH_ColorPrimary::COLOR_PRIMARY_BT2020);
// 配置传输特性
int32_t transfer = static_cast<int32_t>(OH_TransferCharacteristic::TRANSFER_CHARACTERISTIC_PQ);// PQ或者HLG
// 配置最大矩阵系数
int32_t matrix = static_cast<int32_t>(OH_MatrixCoefficient::MATRIX_COEFFICIENT_BT2020_CL);
// 配置关键帧的间隔，单位为毫秒
int32_t iFrameInterval = 100;

OH_AVFormat *format = OH_AVFormat_Create();
OH_AVFormat_SetIntValue(format, OH_MD_KEY_PROFILE, profile);
OH_AVFormat_SetIntValue(format, OH_MD_KEY_COLOR_PRIMARIES, primary);
OH_AVFormat_SetIntValue(format, OH_MD_KEY_TRANSFER_CHARACTERISTICS, transfer);
OH_AVFormat_SetIntValue(format, OH_MD_KEY_MATRIX_COEFFICIENTS, matrix);
OH_AVFormat_SetIntValue(format, OH_MD_KEY_I_FRAME_INTERVAL, iFrameInterval);
OH_AVFormat_SetIntValue(format, OH_MD_KEY_RANGE_FLAG, 1);
// 配置编码器
int32_t ret = OH_VideoEncoder_Configure(videoEnc, format);
if (ret != AV_ERR_OK) {
    // 异常处理
}
OH_AVFormat_Destroy(format);

获取surface，并设置给相机。

具体可参考：[视频编码Surface模式]中的“步骤6：获取Surface”。
调用OH_VideoEncoder_Start()启动编码器。

具体可参考：[视频编码Surface模式]中的“步骤8：调用OH_VideoEncoder_Start()启动编码器”。

HDR Vivid视频封装

调用Muxer可以将HDRVivid码流封装成文件，码流格式需指定为hevc码流，并设置宽、高、isHDRVivid信息。Color信息通常需要从编码获取并设置给封装器。

在 CMake 脚本中链接动态库

target_link_libraries(sample PUBLIC libnative_media_avmuxer.so)
target_link_libraries(sample PUBLIC libnative_media_core.so)

开发步骤

添加头文件。

#include <multimedia/player_framework/native_avmuxer.h>
#include <multimedia/player_framework/native_avcodec_base.h>
#include <multimedia/player_framework/native_avformat.h>
#include <multimedia/player_framework/native_avbuffer.h>
#include <fcntl.h>

调用OH_AVMuxer_Create()创建封装器实例对象。

// 设置封装格式为mp4
OH_AVOutputFormat outputFormat = AV_OUTPUT_FORMAT_MPEG_4;
// 以读写方式创建fd
int32_t fd = open("test.mp4", O_CREAT | O_RDWR | O_TRUNC, S_IRUSR | S_IWUSR);
OH_AVMuxer *muxer = OH_AVMuxer_Create(fd, outputFormat);

添加视频轨，并指定类型为HDRVivid类型。

int videoTrackId = -1;
uint8_t *buffer = ...; // 编码config data，如果没有可以不传
size_t size = ...;  // 编码config data的长度，根据实际情况配置

OH_AVFormat *formatVideo = OH_AVFormat_Create();
OH_AVFormat_SetStringValue(formatVideo, OH_MD_KEY_CODEC_MIME, OH_AVCODEC_MIMETYPE_VIDEO_HEVC); // 必填
OH_AVFormat_SetIntValue(formatVideo, OH_MD_KEY_WIDTH, 1280); // 必填
OH_AVFormat_SetIntValue(formatVideo, OH_MD_KEY_HEIGHT, 720); // 必填
// (可选)HDRVivid视频封装时必填，指定为HDRVivid视频
OH_AVFormat_SetIntValue(formatVideo, OH_MD_KEY_VIDEO_IS_HDR_VIVID, 1);
// (可不设置，封装器从编码码流xps自动解析) 设置Color信息，如下。
// 这些信息也可以通过调用OH_VideoEncoder_GetOutputDescription(OH_AVCodec *codec)接口从编码器中获取。
OH_AVFormat_SetIntValue(format, OH_MD_KEY_RANGE_FLAG, 1);
OH_AVFormat_SetIntValue(format, OH_MD_KEY_COLOR_PRIMARIES, OH_ColorPrimary::COLOR_PRIMARY_BT2020);
OH_AVFormat_SetIntValue(format, OH_MD_KEY_TRANSFER_CHARACTERISTICS, OH_TransferCharacteristic::TRANSFER_CHARACTERISTIC_PQ); // PQ或者HLG
OH_AVFormat_SetIntValue(format, OH_MD_KEY_MATRIX_COEFFICIENTS, OH_MatrixCoefficient::MATRIX_COEFFICIENT_BT2020_CL);

ret = OH_AVMuxer_AddTrack(muxer, &videoTrackId, formatVideo);
if (ret != AV_ERR_OK || videoTrackId < 0) {
    // 音频轨添加失败
}
OH_AVFormat_Destroy(formatVideo); // 销毁

处理视频帧数据

写入封装数据。

// start后，才能开始写入数据
int trackId = videoTrackId; // 选择写的媒体轨
// 取出回调函数OnNewOutputBuffer送入输出队列的帧buffer
CodecBufferInfo bufferInfo = outputBufferInfoQueue_.front();
outputBufferInfoQueue_.pop();
ret = OH_AVMuxer_WriteSampleBuffer(muxer, trackId, bufferInfo.buffer);
if (ret != AV_ERR_OK) {
    // 异常处理
}

调用OH_VideoEncoder_FreeOutputBuffer()释放编码帧。

// 释放已完成写入的数据，index为对应输出队列的下标
ret = OH_VideoEncoder_FreeOutputBuffer(videoEnc, bufferInfo.bufferIndex);
if (ret != AV_ERR_OK) {
    // 异常处理
}

最后呢

很多开发朋友不知道需要学习那些鸿蒙技术？鸿蒙开发岗位需要掌握那些核心技术点？为此鸿蒙的开发学习必须要系统性的进行。

而网上有关鸿蒙的开发资料非常的少，假如你想学好鸿蒙的应用开发与系统底层开发。你可以参考这份资料，少走很多弯路，节省没必要的麻烦。由两位前阿里高级研发工程师联合打造的《鸿蒙NEXT星河版OpenHarmony开发文档》里面内容包含了（ArkTS、ArkUI开发组件、Stage模型、多端部署、分布式应用开发、音频、视频、WebGL、OpenHarmony多媒体技术、Napi组件、OpenHarmony内核、Harmony南向开发、鸿蒙项目实战等等）鸿蒙（Harmony NEXT）技术知识点

如果你是一名Android、Java、前端等等开发人员，想要转入鸿蒙方向发展。可以直接领取这份资料辅助你的学习。下面是鸿蒙开发的学习路线图。

在这里插入图片描述