鸿蒙媒体开发【基于AVCodec能力的视频编解码】音频和视频

news2024/11/14 20:39:20

基于AVCodec能力的视频编解码

本实例基于AVCodec能力，提供基于视频编解码的视频播放和录制的功能。

封装格式	视频编解码类型
mp4	H.264/H.265
m4a	AVC（H.264）

注意，本示例仅支持视频录制，未集成音频能力

在UI层Index页面，用户点击“录制”后，会调起文件管理，用户选择一个输出地址。录制结束后，文件会存放于此。
选择好文件后，会用刚刚打开的fd，和用户预设的录制参数，掉起ArkTS的initNative，待初始化结束后，调用OH_NativeWindow_GetSurfaceId接口，得到NativeWindow的surfaceId，并把surfaceId回调回UI层。
UI层拿到编码器给的surfaceId后，调起页面路由，携带该surfaceId，跳转到Recorder页面；
录制页面XComponent构建时，会调起.onLoad()方法，此方法首先会拿到XComponent的surfaceId，然后调起createDualChannelPreview(),此函数会建立一个相机生产，XComponent和编码器的surface消费的生产消费模型。

进入录制界面后，编码器启动，开始对UI层相机预览流进行编码。
编码器每编码成功一帧，sample_callback.cpp的输出回调OnNewOutputBuffer()就会调起一次，此时用户会拿到AVCodec框架给出的OH_AVBuffer；
在输出回调中，用户需手动把帧buffer、index存入输出队列中，并通知输出线程解锁；
在输出线程中，把上一步的帧信息储存为bufferInfo后，pop出队；
在输出线程中，使用上一步的bufferInfo，调用封装接口WriteSample后，这一帧被封装入MP4中；
最后调用FreeOutputBuffer接口后，这一帧buffer释放回AVCodec框架，实现buffer轮转。

在UI层Index页面，用户点击播放按钮后，触发点击事件，调起selectFile()函数，该函数会调起文件管理的选择文件模块，拿到用户选取文件的路径;
用户选择文件成功后，调起play()函数，该函数会根据上一步获取到的路径，打开一个文件，并获取到该文件的大小，改变按钮状态为不可用，之后调起ArkTS层暴露给应用层的playNative()接口;
根据playNative字段，调起PlayerNative::Play()函数，此处会注册播放结束的回调。
播放结束时，Callback()中napi_call_function()接口调起，通知应用层，恢复按钮状态为可用。

在PlayerNative.cpp的Init()中调用PluginManager()中的Export()方法，注册OnSurfaceCreatedCB()回调，当屏幕上出现新的XComponent时，将其转换并赋给单例类PluginManager中的pluginWindow_;

具体实现原理：
- 解码器Start后，解码器每拿到一帧，OnNeedInputBuffer就会被调起一次，AVCodec框架会给用户一个OH_AVBuffer。
- 在输入回调中，用户需手动把帧buffer、index存入输入队列中，并同时输入线程解锁。
- 在输入线程中，把上一步的帧信息储存为bufferInfo后，pop出队。
- 在输入线程中，使用上一步的bufferInfo，调用ReadSample接口解封装帧数据。
- 在输入线程中，使用解封装后的bufferInfo，调用解码的PushInputData接口，此时这片buffer用完，返回框架，实现buffer轮转。
- PushInputData后，这一帧开始解码，每解码完成一帧，输出回调会被调起一次，用户需手动把帧buffer、index存入输出队列中。
- 在输出线程中，把上一步的帧信息储存为bufferInfo后，pop出队。
- 在输出线程中，调用FreeOutputData接口后，就会送显并释放buffer。释放的buffer会返回框架，实现buffer轮转。
解码器config阶段，OH_VideoDecoder_SetSurface接口的入参OHNativeWindow*，即为PluginManager中的pluginWindow_。
解码器config阶段，SetCallback接口，sample_callback.cpp的输入输出回调需将回调上来的帧buffer和index存入一个用户自定义容器sample_info.h中，方便后续操作。
Player.cpp的Start()起两个专门用于输入和输出的线程。