• Home
  • Line#
  • Scopes#
  • Navigate#
  • Raw
  • Download
1# 视频编码
2
3调用者可以调用本模块的Native API接口,完成视频编码,即将未压缩的视频数据压缩成视频码流。
4
5<!--RP3--><!--RP3End-->
6
7当前支持的编码能力如下:
8
9| 容器规格 | 视频编码类型                 |
10| -------- | ---------------------------- |
11| mp4      | HEVC(H.265)、 AVC(H.264) |
12
13目前仅支持硬件编码,基于MimeType创建编码器时,支持配置为H264 (OH_AVCODEC_MIMETYPE_VIDEO_AVC) 和 H265 (OH_AVCODEC_MIMETYPE_VIDEO_HEVC)。
14
15每一种编码的能力范围,可以通过[获取支持的编解码能力](obtain-supported-codecs.md)获取。
16
17<!--RP1--><!--RP1End-->
18
19视频编码支持以下能力:
20
21<!--RP4-->
22|          支持的能力                       |                              使用简述                                            |
23| --------------------------------------- | ---------------------------------------------------------------------------------- |
24| 分层编码 <br> 设置LTR帧、参考帧                      | 具体可参考:[时域可分层视频编码](video-encoding-temporal-scalability.md)        |
25<!--RP4End-->
26
27## 限制约束
281. Buffer模式不支持10bit的图像数据。
292. 由于硬件编码器资源有限,每个编码器在使用完毕后都必须调用OH_VideoEncoder_Destroy接口来销毁实例并释放资源。
303. 一旦调用Flush,Reset,Stop接口,会触发系统回收OH_AVBuffer,调用者不应对之前回调函数获取到的OH_AVBuffer继续进行操作。
314. Buffer模式和Surface模式使用方式一致的接口,所以只提供了Surface模式的示例。
325. 在Buffer模式下,调用者通过输入回调函数OH_AVCodecOnNeedInputBuffer获取到OH_AVBuffer的指针对象后,必须通过调用OH_VideoEncoder_PushInputBuffer接口
33   来通知系统该对象已被使用完毕。这样系统才能够将该对象里面的数据进行编码。如果调用者在调用OH_AVBuffer_GetNativeBuffer接口时获取到OH_NativeBuffer指针对象,并且该对象的生命周期超过了当前的OH_AVBuffer指针对象,那么需要进行一次数据的拷贝操作。在这种情况下,调用者需要自行管理新生成的OH_NativeBuffer对象的生命周期,确保其正确使用和释放。
34
35
36## surface输入与buffer输入
37
381. 两者的数据来源不同。
39
402. 两者的适用场景不同:
41- surface输入是指用OHNativeWindow来传递输入数据,可以与其他模块对接,例如相机模块。
42- buffer输入是指有一块预先分配好的内存区域,调用者需要将原始数据拷贝进这块内存区域中。更适用于从文件中读取视频数据等场景。
43
443. 在接口调用的过程中,两种方式的接口调用方式基本一致,但存在以下差异点:
45 - Buffer模式下,调用者通过OH_VideoEncoder_PushInputBuffer接口输入数据;Surface模式下,调用者应在编码器就绪前调用OH_VideoEncoder_GetSurface接口,获取OHNativeWindow用于传递视频数据。
46 - Buffer模式下,调用者通过OH_AVBuffer中的attr传入结束flag,编码器读取到尾帧后,停止编码;Surface模式下,需要调用OH_VideoEncoder_NotifyEndOfStream接口通知编码器输入流结束。
47
48两种模式的开发步骤详细说明请参考:[Surface模式](#surface模式)和[Buffer模式](#buffer模式)。
49
50## 状态机调用关系
51如下为状态机调用关系图:
52
53![Invoking relationship of state](figures/state-invocation.png)
54
55
561. 有两种方式可以使编码器进入Initialized状态:
57   - 初始创建编码器实例时,编码器处于Initialized状态。
58   - 任何状态下,调用OH_VideoEncoder_Reset接口,编码器将会移回Initialized状态。
59
602. Initialized状态下,调用OH_VideoEncoder_Configure接口配置编码器,配置成功后编码器进入Configured状态。
613. Configured状态下,调用OH_VideoEncoder_Prepare()进入Prepared状态。
624. Prepared状态下,调用OH_VideoEncoder_Start接口使编码器进入Executing状态:
63   - 处于Executing状态时,调用OH_VideoEncoder_Stop接口可以使编码器返回到Prepared状态。
64
655. 在极少数情况下,编码器可能会遇到错误并进入Error状态。编码器的错误传递,可以通过队列操作返回无效值或者抛出异常:
66   - Error状态下,可以调用OH_VideoEncoder_Reset接口将编码器移到Initialized状态;或者调用OH_VideoEncoder_Destroy接口移动到最后的Released状态。
67
686. Executing 状态具有三个子状态:Flushed、Running和End-of-Stream:
69   - 在调用了OH_VideoEncoder_Start接口之后,编码器立即进入Running子状态。
70   - 对于处于Executing状态的编码器,可以调用OH_VideoEncoder_Flush接口返回到Flushed子状态。
71   - 当待处理数据全部传递给编码器后,可以在input buffers队列中为最后一个入队的input buffer中添加[AVCODEC_BUFFER_FLAGS_EOS](../../reference/apis-avcodec-kit/_core.md#oh_avcodecbufferflags-1)标记,遇到这个标记时,编码器会转换为End-of-Stream子状态。在此状态下,编码器不再接受新的输入,但是仍然会继续生成输出,直到输出到达尾帧。
72
737. 使用完编码器后,必须调用OH_VideoEncoder_Destroy接口销毁编码器实例。使编码器进入Released状态。
74
75## 开发指导
76
77详细的API说明请参考[API文档](../../reference/apis-avcodec-kit/_video_encoder.md)。
78如下为视频编码调用关系图:
79
80- 虚线表示可选。
81
82- 实线表示必选。
83
84![Invoking relationship of video encode stream](figures/video-encode.png)
85
86### 在 CMake 脚本中链接动态库
87
88```cmake
89target_link_libraries(sample PUBLIC libnative_media_codecbase.so)
90target_link_libraries(sample PUBLIC libnative_media_core.so)
91target_link_libraries(sample PUBLIC libnative_media_venc.so)
92```
93> **说明:**
94>
95> 上述'sample'字样仅为示例,此处由调用者根据实际工程目录自定义。
96>
97
98### Surface模式
99
100参考以下示例代码,调用者可以完成Surface模式下视频编码的全流程。此处以surface数据输入,编码成H.264格式为例。
101本模块目前仅支持异步模式的数据轮转。
102
1031. 添加头文件。
104
105    ```cpp
106    #include <multimedia/player_framework/native_avcodec_videoencoder.h>
107    #include <multimedia/player_framework/native_avcapability.h>
108    #include <multimedia/player_framework/native_avcodec_base.h>
109    #include <multimedia/player_framework/native_avformat.h>
110    #include <multimedia/player_framework/native_avbuffer.h>
111    #include <fstream>
112    ```
113
1142. 全局变量。
115
116    ```c++
117    // 配置视频帧宽度(必须)
118    int32_t width = 320;
119    // 配置视频帧高度(必须)
120    int32_t height = 240;
121    // 配置视频像素格式(必须)
122    constexpr OH_AVPixelFormat DEFAULT_PIXELFORMAT = AV_PIXEL_FORMAT_NV12;
123    int32_t widthStride = 0;
124    int32_t heightStride = 0;
125    ```
126
1273. 创建编码器实例对象。
128
129    调用者可以通过名称或媒体类型创建编码器。示例中的变量说明如下:
130
131    - videoEnc:视频编码器实例的指针;
132    - capability:编解码器能力查询实例的指针;
133    - OH_AVCODEC_MIMETYPE_VIDEO_AVC:AVC格式视频编解码器。
134
135    创建方式示例如下:
136
137    ```c++
138    // 通过codec name创建编码器,应用有特殊需求,比如选择支持某种分辨率规格的编码器,可先查询capability,再根据codec name创建编码器。
139    OH_AVCapability *capability = OH_AVCodec_GetCapability(OH_AVCODEC_MIMETYPE_VIDEO_AVC, true);
140    // 创建硬件编码器实例
141    OH_AVCapability *capability= OH_AVCodec_GetCapabilityByCategory(OH_AVCODEC_MIMETYPE_VIDEO_AVC, false, HARDWARE);
142    const char *codecName = OH_AVCapability_GetName(capability);
143    OH_AVCodec *videoEnc = OH_VideoEncoder_CreateByName(codecName);
144    ```
145
146    ```c++
147    // 通过MIME TYPE创建编码器,只能创建系统推荐的特定编解码器
148    // 只能创建硬件编码器
149    OH_AVCodec *videoEnc = OH_VideoEncoder_CreateByMime(OH_AVCODEC_MIMETYPE_VIDEO_AVC);
150    ```
151
1524. 调用OH_VideoEncoder_RegisterCallback()设置回调函数。
153
154    注册回调函数指针集合OH_AVCodecCallback,包括:
155
156    - OH_AVCodecOnError 编码器运行错误,返回的错误码详情请参见[OH_AVCodecOnError](../../reference/apis-avcodec-kit/_codec_base.md#oh_avcodeconerror);
157    - OH_AVCodecOnStreamChanged  码流信息变化,如格式变化等;
158    - OH_AVCodecOnNeedInputBuffer 输入回调无作用,调用者通过获取的surface输入数据;
159    - OH_AVCodecOnNewOutputBuffer 运行过程中产生了新的输出数据,即编码完成。
160
161    <!--RP2--><!--RP2End-->
162
163    示例如下所示:
164
165    <!--RP5-->
166    ```c++
167    // 设置OH_AVCodecOnError 回调函数,编码异常
168    static void OnError(OH_AVCodec *codec, int32_t errorCode, void *userData)
169    {
170        // 回调的错误码由调用者判断处理
171        (void)codec;
172        (void)errorCode;
173        (void)userData;
174    }
175    ```
176    <!--RP5End-->
177
178    <!--RP12-->
179    ```c++
180    // 设置OH_AVCodecOnStreamChanged 回调函数,编码数据流变化
181    static void OnStreamChanged(OH_AVCodec *codec, OH_AVFormat *format, void *userData)
182    {
183        // 编码场景,该回调函数无作用
184        (void)codec;
185        (void)format;
186        (void)userData;
187    }
188    ```
189    <!--RP12End-->
190
191    ```c++
192    // 设置 OH_AVCodecOnNeedInputBuffer 回调函数,编码输入帧送入数据队列
193    static void OnNeedInputBuffer(OH_AVCodec *codec, uint32_t index, OH_AVBuffer *buffer, void *userData)
194    {
195        // Surface模式下,该回调函数无作用,调用者通过获取的surface输入数据
196        (void)userData;
197        (void)index;
198        (void)buffer;
199    }
200    ```
201
202    <!--RP6-->
203    ```c++
204    // 设置 OH_AVCodecOnNewOutputBuffer 回调函数,编码完成帧送入输出队列
205    static void OnNewOutputBuffer(OH_AVCodec *codec, uint32_t index, OH_AVBuffer *buffer, void *userData)
206    {
207        // 完成帧buffer对应的index,送入outIndexQueue队列
208        // 完成帧的数据buffer送入outBufferQueue队列
209        // 数据处理
210        // 释放编码帧
211    }
212    ```
213    <!--RP6End-->
214
215    ```c++
216    // 配置异步回调,调用 OH_VideoEncoder_RegisterCallback()接口
217    OH_AVCodecCallback cb = {&OnError, &OnStreamChanged, &OnNeedInputBuffer, &OnNewOutputBuffer};
218    int32_t ret = OH_VideoEncoder_RegisterCallback(videoEnc, cb, NULL); // NULL:用户特定数据userData为空
219    if (ret != AV_ERR_OK) {
220        // 异常处理
221    }
222    ```
223
224    > **说明:**
225    > 在回调函数中,对数据队列进行操作时,需要注意多线程同步的问题。
226    >
227
2285. (可选)调用OH_VideoEncoder_RegisterParameterCallback()在Configur接口之前注册随帧通路回调。
229
230    详情请参考[时域可分层视频编码](video-encoding-temporal-scalability.md)。
231
232    <!--RP7-->
233    ```c++
234    // 5.1 编码输入参数回调OH_VideoEncoder_OnNeedInputParameter实现
235    static void OnNeedInputParameter(OH_AVCodec *codec, uint32_t index, OH_AVFormat *parameter, void *userData)
236    {
237        // 输入帧parameter对应的index,送入InParameterIndexQueue队列
238        // 输入帧的数据parameter送入InParameterQueue队列
239        // 数据处理
240        // 随帧参数写入
241    }
242
243    // 5.2 注册随帧参数回调
244    OH_VideoEncoder_OnNeedInputParameter inParaCb = OnNeedInputParameter;
245    OH_VideoEncoder_RegisterParameterCallback(videoEnc, inParaCb, NULL); // NULL:用户特定数据userData为空
246    ```
247    <!--RP7End-->
248
2496. 调用OH_VideoEncoder_Configure()配置编码器。
250
251    详细可配置选项的说明请参考[视频专有键值对](../../reference/apis-avcodec-kit/_codec_base.md#媒体数据键值对)。
252
253    参数校验规则请参考[OH_VideoEncoder_Configure()参考文档](../../reference/apis-avcodec-kit/_video_encoder.md#oh_videoencoder_configure)。
254
255    参数取值范围可以通过能力查询接口获取,具体示例请参考[获取支持的编解码能力文档](obtain-supported-codecs.md)。
256
257    目前支持的所有格式都必须配置以下选项:视频帧宽度、视频帧高度、视频像素格式。示例中的变量如下:
258
259    - DEFAULT_WIDTH:320像素宽度;
260    - DEFAULT_HEIGHT:240像素高度;
261    - DEFAULT_PIXELFORMAT: 像素格式,因为示例使用YUV的文件保存的像素格式是NV12,所以设置为 AV_PIXEL_FORMAT_NV12。
262
263    ```c++
264    // 配置视频帧速率
265    double frameRate = 30.0;
266    // 配置视频YUV值范围标志
267    bool rangeFlag = false;
268    // 配置视频原色
269    int32_t primary = static_cast<int32_t>(OH_ColorPrimary::COLOR_PRIMARY_BT709);
270    // 配置传输特性
271    int32_t transfer = static_cast<int32_t>(OH_TransferCharacteristic::TRANSFER_CHARACTERISTIC_BT709);
272    // 配置最大矩阵系数
273    int32_t matrix = static_cast<int32_t>(OH_MatrixCoefficient::MATRIX_COEFFICIENT_IDENTITY);
274    // 配置编码Profile
275    int32_t profile = static_cast<int32_t>(OH_AVCProfile::AVC_PROFILE_HIGH);
276    // 配置编码比特率模式
277    int32_t rateMode = static_cast<int32_t>(OH_VideoEncodeBitrateMode::VBR);
278    // 配置关键帧的间隔,单位为毫秒
279    int32_t iFrameInterval = 1000;
280    // 配置比特率
281    int64_t bitRate = 5000000;
282    // 配置编码质量
283    int64_t quality = 90;
284
285    OH_AVFormat *format = OH_AVFormat_Create();
286    OH_AVFormat_SetIntValue(format, OH_MD_KEY_WIDTH, width); // 必须配置
287    OH_AVFormat_SetIntValue(format, OH_MD_KEY_HEIGHT, height); // 必须配置
288    OH_AVFormat_SetIntValue(format, OH_MD_KEY_PIXEL_FORMAT, DEFAULT_PIXELFORMAT); // 必须配置
289
290    OH_AVFormat_SetDoubleValue(format, OH_MD_KEY_FRAME_RATE, frameRate);
291    OH_AVFormat_SetIntValue(format, OH_MD_KEY_RANGE_FLAG, rangeFlag);
292    OH_AVFormat_SetIntValue(format, OH_MD_KEY_COLOR_PRIMARIES, primary);
293    OH_AVFormat_SetIntValue(format, OH_MD_KEY_TRANSFER_CHARACTERISTICS, transfer);
294    OH_AVFormat_SetIntValue(format, OH_MD_KEY_MATRIX_COEFFICIENTS, matrix);
295    OH_AVFormat_SetIntValue(format, OH_MD_KEY_I_FRAME_INTERVAL, iFrameInterval);
296    OH_AVFormat_SetIntValue(format, OH_MD_KEY_PROFILE, profile);
297    //只有当OH_MD_KEY_BITRATE = CQ时,才需要配置OH_MD_KEY_QUALITY
298    if (rateMode == static_cast<int32_t>(OH_VideoEncodeBitrateMode::CQ)) {
299        OH_AVFormat_SetIntValue(format, OH_MD_KEY_QUALITY, quality);
300    } else if (rateMode == static_cast<int32_t>(OH_VideoEncodeBitrateMode::CBR) ||
301               rateMode == static_cast<int32_t>(OH_VideoEncodeBitrateMode::VBR)){
302        OH_AVFormat_SetLongValue(format, OH_MD_KEY_BITRATE, bitRate);
303    }
304    OH_AVFormat_SetIntValue(format, OH_MD_KEY_VIDEO_ENCODE_BITRATE_MODE, rateMode);
305    int32_t ret = OH_VideoEncoder_Configure(videoEnc, format);
306    if (ret != AV_ERR_OK) {
307        // 异常处理
308    }
309    OH_AVFormat_Destroy(format);
310    ```
311
312    > **注意:**
313    > 配置非必须参数错误时,会返回AV_ERR_INVAILD_VAL错误码。但OH_VideoEncoder_Configure()不会失败,而是使用默认值继续执行。
314    >
315
3167. 获取Surface。
317
318    获取编码器Surface模式的OHNativeWindow输入,获取surface需要在准备编码器之前完成。
319
320    ```c++
321    // 获取需要输入的surface,以进行编码
322    OHNativeWindow *nativeWindow;
323    int32_t ret = OH_VideoEncoder_GetSurface(videoEnc, &nativeWindow);
324    if (ret != AV_ERR_OK) {
325        // 异常处理
326    }
327    // 通过OHNativeWindow*变量类型,可通过生产者接口获取待填充数据地址。
328    ```
329    OHNativeWindow*变量类型的使用方法请参考图形子系统 [OHNativeWindow](../../reference/apis-arkgraphics2d/_native_window.md#ohnativewindow)
330
3318. 调用OH_VideoEncoder_Prepare()编码器就绪。
332
333    该接口将在编码器运行前进行一些数据的准备工作。
334
335    ```c++
336    int32_t ret = OH_VideoEncoder_Prepare(videoEnc);
337    if (ret != AV_ERR_OK) {
338        // 异常处理
339    }
340    ```
341
3429. 调用OH_VideoEncoder_Start()启动编码器。
343
344    ```c++
345    // 配置待编码文件路径
346    std::string_view outputFilePath = "/*yourpath*.h264";
347    std::unique_ptr<std::ofstream> outputFile = std::make_unique<std::ofstream>();
348    outputFile->open(outputFilePath.data(), std::ios::out | std::ios::binary | std::ios::ate);
349    // 启动编码器,开始编码
350    int32_t ret = OH_VideoEncoder_Start(videoEnc);
351    if (ret != AV_ERR_OK) {
352        // 异常处理
353    }
354    ```
355
35610. (可选)OH_VideoEncoder_SetParameter()在运行过程中动态配置编码器参数。
357    详细可配置选项的说明请参考[视频专有键值对](../../reference/apis-avcodec-kit/_codec_base.md#媒体数据键值对)。
358
359    <!--RP8-->
360    ```c++
361    OH_AVFormat *format = OH_AVFormat_Create();
362    // 支持动态请求IDR帧
363    OH_AVFormat_SetIntValue(format, OH_MD_KEY_REQUEST_I_FRAME, true);
364    int32_t ret = OH_VideoEncoder_SetParameter(videoEnc, format);
365    if (ret != AV_ERR_OK) {
366        // 异常处理
367    }
368    OH_AVFormat_Destroy(format);
369    ```
370    <!--RP8End-->
371
37211. 写入编码图像。
373    在之前的第7步中,开发者已经对OH_VideoEncoder_GetSurface接口返回的OHNativeWindow*类型变量进行配置。因为编码所需的数据,由配置的Surface进行持续地输入,所以开发者无需对OnNeedInputBuffer回调函数进行处理,也无需使用OH_VideoEncoder_PushInputBuffer接口输入数据。
374    <!--RP13--><!--RP13End-->
375
37612. (可选)调用OH_VideoEncoder_PushInputParameter()通知编码器随帧参数配置输入完成。
377    在之前的第5步中,调用者已经注册随帧通路回调
378
379    以下示例中:
380
381    - index:回调函数OnNeedInputParameter传入的参数,与buffer唯一对应的标识。
382
383    ```c++
384    int32_t ret = OH_VideoEncoder_PushInputParameter(videoEnc, index);
385    if (ret != AV_ERR_OK) {
386        // 异常处理
387    }
388    ```
389
39013. 调用OH_VideoEncoder_NotifyEndOfStream()通知编码器结束。
391
392    ```c++
393    // Surface模式:通知视频编码器输入流已结束,只能使用此接口进行通知
394    // 不能像Buffer模式中将flag设为AVCODEC_BUFFER_FLAGS_EOS,再调用OH_VideoEncoder_PushInputBuffer接口通知编码器输入结束
395    int32_t ret = OH_VideoEncoder_NotifyEndOfStream(videoEnc);
396    if (ret != AV_ERR_OK) {
397        // 异常处理
398    }
399    ```
400
40114. 调用OH_VideoEncoder_FreeOutputBuffer()释放编码帧。
402
403    以下示例中:
404
405    - index:回调函数OnNewOutputBuffer传入的参数,与buffer唯一对应的标识。
406    - buffer: 回调函数OnNewOutputBuffer传入的参数,Surface模式调用者无法通过OH_AVBuffer_GetAddr接口获取图像虚拟地址。
407    ```c++
408    // 获取编码后信息
409    OH_AVCodecBufferAttr info;
410    int32_t ret = OH_AVBuffer_GetBufferAttr(buffer, &info);
411    if (ret != AV_ERR_OK) {
412        // 异常处理
413    }
414    // 将编码完成帧数据buffer写入到对应输出文件中
415    outputFile->write(reinterpret_cast<char *>(OH_AVBuffer_GetAddr(buffer)), info.size);
416    // 释放已完成写入的数据,index为对应输出队列下标
417    ret = OH_VideoEncoder_FreeOutputBuffer(videoEnc, index);
418    if (ret != AV_ERR_OK) {
419        // 异常处理
420    }
421    ```
422
42315. (可选)调用OH_VideoEncoder_Flush()刷新编码器。
424
425    调用OH_VideoEncoder_Flush接口后,编码器仍处于运行态,但会清除编码器中缓存的输入和输出数据及参数集如H264格式的PPS/SPS426
427    此时需要调用OH_VideoEncoder_Start接口重新开始编码。
428
429    ```c++
430    // 刷新编码器videoEnc
431    int32_t ret = OH_VideoEncoder_Flush(videoEnc);
432    if (ret != AV_ERR_OK) {
433        // 异常处理
434    }
435    // 重新开始编码
436    ret = OH_VideoEncoder_Start(videoEnc);
437    if (ret != AV_ERR_OK) {
438        // 异常处理
439    }
440    ```
441
44216. (可选)调用OH_VideoEncoder_Reset()重置编码器。
443
444    调用OH_VideoEncoder_Reset接口后,编码器将回到初始化的状态,需要调用OH_VideoEncoder_Configure接口和OH_VideoEncoder_Prepare接口重新配置。
445
446    ```c++
447    // 重置编码器videoEnc
448    int32_t ret = OH_VideoEncoder_Reset(videoEnc);
449    if (ret != AV_ERR_OK) {
450        // 异常处理
451    }
452    // 重新配置编码器参数
453    ret = OH_VideoEncoder_Configure(videoEnc, format);
454    if (ret != AV_ERR_OK) {
455        // 异常处理
456    }
457    // 编码器重新就绪
458    ret = OH_VideoEncoder_Prepare(videoEnc);
459    if (ret != AV_ERR_OK) {
460        // 异常处理
461    }
462    ```
463
46417. (可选)调用OH_VideoEncoder_Stop()停止编码器。
465
466    调用OH_VideoEncoder_Stop接口后,编码器保留了编码实例,释放输入输出buffer。调用者可以直接调用OH_VideoEncoder_Start接口继续编码,
467
468    输入的第一个buffer需要携带参数集,从IDR帧开始送入。
469
470    ```c++
471    // 终止编码器videoEnc
472    int32_t ret = OH_VideoEncoder_Stop(videoEnc);
473    if (ret != AV_ERR_OK) {
474        // 异常处理
475    }
476    ```
477
47818. 调用OH_VideoEncoder_Destroy()销毁编码器实例,释放资源。
479
480    > **说明:**
481    >
482    > 不能在回调函数中调用;
483    > 执行该步骤之后,需要调用者将videoEnc指向NULL,防止野指针导致程序错误。
484    >
485
486    ```c++
487    // 释放nativeWindow实例
488    if(nativeWindow != NULL){
489        int32_t ret = OH_NativeWindow_DestroyNativeWindow(nativeWindow);
490        nativeWindow = NULL;
491    }
492    if (ret != AV_ERR_OK) {
493        // 异常处理
494    }
495    // 调用OH_VideoEncoder_Destroy,注销编码器
496    if (videoEnc != NULL) {
497        ret = OH_VideoEncoder_Destroy(videoEnc);
498        videoEnc = NULL;
499    }
500    if (ret != AV_ERR_OK) {
501        // 异常处理
502    }
503    ```
504
505### Buffer模式
506
507参考以下示例代码,调用者可以完成Buffer模式下视频编码的全流程。此处以YUV文件输入,编码成H.264格式为例。
508本模块目前仅支持异步模式的数据轮转。
509
5101. 添加头文件。
511
512    ```cpp
513    #include <multimedia/player_framework/native_avcodec_videoencoder.h>
514    #include <multimedia/player_framework/native_avcapability.h>
515    #include <multimedia/player_framework/native_avcodec_base.h>
516    #include <multimedia/player_framework/native_avformat.h>
517    #include <multimedia/player_framework/native_avbuffer.h>
518    #include <fstream>
519    ```
520
5212. 创建编码器实例对象。
522
523    与Surface模式相同,此处不再赘述。
524
525    ```c++
526    // 通过codec name创建编码器,应用有特殊需求,比如选择支持某种分辨率规格的编码器,可先查询capability,再根据codec name创建编码器。
527    OH_AVCapability *capability = OH_AVCodec_GetCapability(OH_AVCODEC_MIMETYPE_VIDEO_AVC, true);
528    const char *codecName = OH_AVCapability_GetName(capability);
529    OH_AVCodec *videoEnc = OH_VideoEncoder_CreateByName(codecName);
530    ```
531
532    ```c++
533    // 通过MIME TYPE创建编码器,只能创建系统推荐的特定编解码器
534    // 涉及创建多路编解码器时,优先创建硬件编码器实例,硬件资源不够时再创建软件编码器实例
535    OH_AVCodec *videoEnc = OH_VideoEncoder_CreateByMime(OH_AVCODEC_MIMETYPE_VIDEO_AVC);
536    ```
537
5383. 调用OH_VideoEncoder_RegisterCallback()设置回调函数。
539
540    注册回调函数指针集合OH_AVCodecCallback,包括:
541    - OH_AVCodecOnError 编码器运行错误,返回的错误码详情请参见[OH_AVCodecOnError](../../reference/apis-avcodec-kit/_codec_base.md#oh_avcodeconerror);
542    - OH_AVCodecOnStreamChanged 码流信息变化,如格式变化等;
543    - OH_AVCodecOnNeedInputBuffer 运行过程中需要新的输入数据,即编码器已准备好,可以输入YUV/RGB数据;
544    - OH_AVCodecOnNewOutputBuffer 运行过程中产生了新的输出数据,即编码完成。
545
546    调用者可以通过处理该回调报告的信息,确保编码器正常运转。
547
548    <!--RP2--><!--RP2End-->
549
550    <!--RP9-->
551    ```c++
552    bool isFirstFrame = true;
553    ```
554    <!--RP9End-->
555
556    ```c++
557    // 编码异常回调OH_AVCodecOnError实现
558    static void OnError(OH_AVCodec *codec, int32_t errorCode, void *userData)
559    {
560        // 回调的错误码由调用者判断处理
561        (void)codec;
562        (void)errorCode;
563        (void)userData;
564    }
565    ```
566
567    ```c++
568    // 编码数据流变化回调OH_AVCodecOnStreamChanged实现
569    static void OnStreamChanged(OH_AVCodec *codec, OH_AVFormat *format, void *userData)
570    {
571        // 编码场景,该回调函数无作用
572        (void)codec;
573        (void)format;
574        (void)userData;
575    }
576    ```
577
578    ```c++
579    // 编码输入回调OH_AVCodecOnNeedInputBuffer实现
580    static void OnNeedInputBuffer(OH_AVCodec *codec, uint32_t index, OH_AVBuffer *buffer, void *userData)
581    {
582        // 输入帧buffer对应的index,送入InIndexQueue队列
583        // 输入帧的数据buffer送入InBufferQueue队列
584        // 获取视频宽高跨距
585        if (isFirstFrame) {
586            OH_AVFormat *format = OH_VideoEncoder_GetInputDescription(codec);
587            OH_AVFormat_GetIntValue(format, OH_MD_KEY_VIDEO_STRIDE, &widthStride);
588            OH_AVFormat_GetIntValue(format, OH_MD_KEY_VIDEO_SLICE_HEIGHT, &heightStride);
589            OH_AVFormat_Destroy(format);
590            isFirstFrame = false;
591        }
592        // 数据处理
593        // 写入编码图像
594        // 通知编码器码流结束
595    }
596    ```
597
598    <!--RP10-->
599    ```c++
600    // 编码输出回调OH_AVCodecOnNewOutputBuffer实现
601    static void OnNewOutputBuffer(OH_AVCodec *codec, uint32_t index, OH_AVBuffer *buffer, void *userData)
602    {
603        // 完成帧buffer对应的index,送入outIndexQueue队列
604        // 完成帧的数据buffer送入outBufferQueue队列
605        // 数据处理
606        // 释放编码帧
607    }
608    ```
609    <!--RP10End-->
610
611    ```c++
612    // 配置异步回调,调用 OH_VideoEncoder_RegisterCallback 接口
613    OH_AVCodecCallback cb = {&OnError, &OnStreamChanged, &OnNeedInputBuffer, &OnNewOutputBuffer};
614    int32_t ret = OH_VideoEncoder_RegisterCallback(videoEnc, cb, NULL);
615    if (ret != AV_ERR_OK) {
616        // 异常处理
617    }
618    ```
619
620    > **说明:**
621    >
622    > 在回调函数中,对数据队列进行操作时,需要注意多线程同步的问题。
623    >
624
6254. 调用OH_VideoEncoder_Configure()配置编码器。
626
627    与Surface模式相同,此处不再赘述。
628
629    ```c++
630    OH_AVFormat *format = OH_AVFormat_Create();
631    // 写入format
632    OH_AVFormat_SetIntValue(format, OH_MD_KEY_WIDTH, width);
633    OH_AVFormat_SetIntValue(format, OH_MD_KEY_HEIGHT, height);
634    OH_AVFormat_SetIntValue(format, OH_MD_KEY_PIXEL_FORMAT, DEFAULT_PIXELFORMAT);
635    // 配置编码器
636    int32_t ret = OH_VideoEncoder_Configure(videoEnc, format);
637    if (ret != AV_ERR_OK) {
638        // 异常处理
639    }
640    OH_AVFormat_Destroy(format);
641    ```
642
6435. 调用OH_VideoEncoder_Prepare()编码器就绪。
644
645    该接口将在编码器运行前进行一些数据的准备工作。
646
647    ```c++
648    ret = OH_VideoEncoder_Prepare(videoEnc);
649    if (ret != AV_ERR_OK) {
650        // 异常处理
651    }
652    ```
653
6546. 调用OH_VideoEncoder_Start()启动编码器,进入运行态。
655
656    启动编码器后,回调函数将开始响应事件。所以,需要先配置输入文件、输出文件。
657
658    ```c++
659    // 配置待编码文件路径
660    std::string_view inputFilePath = "/*yourpath*.yuv";
661    std::string_view outputFilePath = "/*yourpath*.h264";
662    std::unique_ptr<std::ifstream> inputFile = std::make_unique<std::ifstream>();
663    std::unique_ptr<std::ofstream> outputFile = std::make_unique<std::ofstream>();
664    inputFile->open(inputFilePath.data(), std::ios::in | std::ios::binary);
665    outputFile->open(outputFilePath.data(), std::ios::out | std::ios::binary | std::ios::ate);
666    // 启动编码器,开始编码
667    int32_t ret = OH_VideoEncoder_Start(videoEnc);
668    if (ret != AV_ERR_OK) {
669        // 异常处理
670    }
671    ```
672
6737. (可选)在运行过程中动态配置编码器参数。
674
675   <!--RP11-->
676    ```c++
677    OH_AVFormat *format = OH_AVFormat_Create();
678    // 支持动态请求IDR帧
679    OH_AVFormat_SetIntValue(format, OH_MD_KEY_REQUEST_I_FRAME, true);
680    int32_t ret = OH_VideoEncoder_SetParameter(videoEnc, format);
681    if (ret != AV_ERR_OK) {
682        // 异常处理
683    }
684    OH_AVFormat_Destroy(format);
685    ```
686    <!--RP11End-->
687
6888. 调用OH_VideoEncoder_PushInputBuffer()写入编码图像。
689
690    送入输入队列进行编码,以下示例中:
691
692    - buffer:回调函数OnNeedInputBuffer传入的参数,可以通过OH_AVBuffer_GetAddr接口得到共享内存地址的指针;
693    - index:回调函数OnNeedInputBuffer传入的参数,与buffer唯一对应的标识;
694    - flags:缓冲区标记的类别,请参考[OH_AVCodecBufferFlags](../../reference/apis-avcodec-kit/_core.md#oh_avcodecbufferflags)
695    - stride: 获取到的buffer数据的跨距。
696
697    ```c++
698    if (stride == width) {
699        // 处理文件流得到帧的长度,再将需要编码的数据写入到对应index的buffer中
700        int32_t frameSize = width * height * 3 / 2; // NV12像素格式下,每帧数据大小的计算公式
701        inputFile->read(reinterpret_cast<char *>(OH_AVBuffer_GetAddr(buffer)), frameSize);
702    } else {
703        // 如果跨距不等于宽,需要调用者按照跨距进行偏移,具体可参考以下示例
704    }
705    // 配置buffer info信息
706    OH_AVCodecBufferAttr info;
707    info.size = frameSize;
708    info.offset = 0;
709    info.pts = 0;
710    info.flags = flags;
711    ret = OH_AVBuffer_SetBufferAttr(buffer, &info);
712    if (ret != AV_ERR_OK) {
713        // 异常处理
714    }
715    // 送入编码输入队列进行编码,index为对应输入队列的下标
716    int32_t ret = OH_VideoEncoder_PushInputBuffer(videoEnc, index);
717    if (ret != AV_ERR_OK) {
718        // 异常处理
719    }
720    ```
721    对跨距进行偏移,以NV12图像为例 示例如下:
722
723    以NV12图像为例,width、height、wStride、hStride图像排布参考下图:
724
725    - OH_MD_KEY_VIDEO_PIC_WIDTH表示width;
726    - OH_MD_KEY_VIDEO_PIC_HEIGHT表示height;
727    - OH_MD_KEY_VIDEO_STRIDE表示wStride;
728    - OH_MD_KEY_VIDEO_SLICE_HEIGHT表示hStride。
729
730    ![copy by line](figures/copy-by-line.png)
731
732    添加头文件。
733
734    ```c++
735    #include <string.h>
736    ```
737    使用示例:
738
739    ```c++
740    struct Rect   // 源内存区域的宽、高,由调用者自行设置
741    {
742        int32_t width;
743        int32_t height;
744    };
745
746    struct DstRect // 目标内存区域的宽、高跨距,通过接口OH_VideoEncoder_GetInputDescription获取
747    {
748        int32_t wStride;
749        int32_t hStride;
750    };
751
752    struct SrcRect // 源内存区域的宽、高跨距,由调用者自行设置
753    {
754        int32_t wStride;
755        int32_t hStride;
756    };
757
758    Rect rect = {320, 240};
759    DstRect dstRect = {320, 256};
760    SrcRect srcRect = {320, 250};
761    uint8_t* dst = new uint8_t[dstRect.hStride * dstRect.wStride * 3 / 2]; // 目标内存区域的指针
762    uint8_t* src = new uint8_t[srcRect.hStride * srcRect.wStride * 3 / 2]; // 源内存区域的指针
763    uint8_t* dstTemp = dst;
764    uint8_t* srcTemp = src;
765
766    // Y 将Y区域的源数据复制到另一个区域的目标数据中
767    for (int32_t i = 0; i < rect.height; ++i) {
768        //将源数据的一行数据复制到目标数据的一行中
769        memcpy_s(dstTemp, srcTemp, rect.width);
770        // 更新源数据和目标数据的指针,进行下一行的复制。每更新一次源数据和目标数据的指针都向下移动一个wStride
771        dstTemp += dstRect.wStride;
772        srcTemp += srcRect.wStride;
773    }
774    // padding
775    // 更新源数据和目标数据的指针,指针都向下移动一个padding
776    dstTemp += (dstRect.hStride - rect.height) * dstRect.wStride;
777    srcTemp += (srcRect.hStride - rect.height) * srcRect.wStride;
778    rect.height >>= 1;
779    // UV 将UV区域的源数据复制到另一个区域的目标数据中
780    for (int32_t i = 0; i < rect.height; ++i) {
781        memcpy_s(dstTemp, srcTemp, rect.width);
782        dstTemp += dstRect.wStride;
783        srcTemp += srcRect.wStride;
784    }
785
786    delete[] dst;
787    dst = nullptr;
788    delete[] src;
789    src = nullptr;
790    ```
791    硬件编码在处理buffer数据时(推送数据前),需要调用者拷贝宽高对齐后的图像数据到输入回调的AVbuffer中。
792    一般需要获取数据的宽高、跨距、像素格式来保证编码输入数据被正确的处理。
793
794    具体实现请参考:[Buffer模式](#buffer模式)的步骤3-调用OH_VideoEncoder_RegisterCallback接口设置回调函数来获取数据的宽高、跨距、像素格式。
795
796
7979. 通知编码器结束。
798
799    以下示例中:
800    - index:回调函数OnNeedInputBuffer传入的参数,与buffer唯一对应的标识。
801    - buffer:回调函数OnNeedInputBuffer传入的参数,可以通过OH_AVBuffer_GetAddr接口得到共享内存地址的指针;
802
803    与“8. 写入编码图像”一样,使用同一个接口OH_VideoEncoder_PushInputBuffer,通知编码器输入结束,需要将flag标识成AVCODEC_BUFFER_FLAGS_EOS。
804
805    ```c++
806    OH_AVCodecBufferAttr info;
807    info.size = 0;
808    info.offset = 0;
809    info.pts = 0;
810    info.flags = AVCODEC_BUFFER_FLAGS_EOS;
811    int32_t ret = OH_AVBuffer_SetBufferAttr(buffer, &info);
812    if (ret != AV_ERR_OK) {
813        // 异常处理
814    }
815    ret = OH_VideoEncoder_PushInputBuffer(videoEnc, index);
816    if (ret != AV_ERR_OK) {
817        // 异常处理
818    }
819    ```
820
82110. 调用OH_VideoEncoder_FreeOutputBuffer()释放编码帧。
822    与Surface模式相同,此处不再赘述。
823
824    ```c++
825    // 获取编码后信息
826    OH_AVCodecBufferAttr info;
827    int32_t ret = OH_AVBuffer_GetBufferAttr(buffer, &info);
828    if (ret != AV_ERR_OK) {
829        // 异常处理
830    }
831    // 将编码完成帧数据buffer写入到对应输出文件中
832    outputFile->write(reinterpret_cast<char *>(OH_AVBuffer_GetAddr(buffer)), info.size);
833    // 释放已完成写入的数据,index为对应输出队列的下标
834    ret = OH_VideoEncoder_FreeOutputBuffer(videoEnc, index);
835    if (ret != AV_ERR_OK) {
836        // 异常处理
837    }
838    ```
839
840后续流程(包括刷新编码器、重置编码器、停止编码器、销毁编码器)与Surface模式一致,请参考[Surface模式](#surface模式)的步骤15-18。
841