1# 视频编码 2 3调用者可以调用本模块的Native API接口,完成视频编码,即将未压缩的视频数据压缩成视频码流。 4 5<!--RP3--><!--RP3End--> 6 7当前支持的编码能力如下: 8 9| 容器规格 | 视频编码类型 | 10| -------- | ---------------------------- | 11| mp4 | HEVC(H.265)、 AVC(H.264) | 12 13目前仅支持硬件编码,基于MimeType创建编码器时,支持配置为H264 (OH_AVCODEC_MIMETYPE_VIDEO_AVC) 和 H265 (OH_AVCODEC_MIMETYPE_VIDEO_HEVC)。 14 15每一种编码的能力范围,可以通过[获取支持的编解码能力](obtain-supported-codecs.md)获取。 16 17<!--RP1--><!--RP1End--> 18 19视频编码支持以下能力: 20 21<!--RP4--> 22| 支持的能力 | 使用简述 | 23| --------------------------------------- | ---------------------------------------------------------------------------------- | 24| 分层编码 <br> 设置LTR帧、参考帧 | 具体可参考:[时域可分层视频编码](video-encoding-temporal-scalability.md) | 25<!--RP4End--> 26 27## 限制约束 281. Buffer模式不支持10bit的图像数据。 292. 由于硬件编码器资源有限,每个编码器在使用完毕后都必须调用OH_VideoEncoder_Destroy接口来销毁实例并释放资源。 303. 一旦调用Flush,Reset,Stop接口,会触发系统回收OH_AVBuffer,调用者不应对之前回调函数获取到的OH_AVBuffer继续进行操作。 314. Buffer模式和Surface模式使用方式一致的接口,所以只提供了Surface模式的示例。 325. 在Buffer模式下,调用者通过输入回调函数OH_AVCodecOnNeedInputBuffer获取到OH_AVBuffer的指针对象后,必须通过调用OH_VideoEncoder_PushInputBuffer接口 33 来通知系统该对象已被使用完毕。这样系统才能够将该对象里面的数据进行编码。如果调用者在调用OH_AVBuffer_GetNativeBuffer接口时获取到OH_NativeBuffer指针对象,并且该对象的生命周期超过了当前的OH_AVBuffer指针对象,那么需要进行一次数据的拷贝操作。在这种情况下,调用者需要自行管理新生成的OH_NativeBuffer对象的生命周期,确保其正确使用和释放。 34 35 36## surface输入与buffer输入 37 381. 两者的数据来源不同。 39 402. 两者的适用场景不同: 41- surface输入是指用OHNativeWindow来传递输入数据,可以与其他模块对接,例如相机模块。 42- buffer输入是指有一块预先分配好的内存区域,调用者需要将原始数据拷贝进这块内存区域中。更适用于从文件中读取视频数据等场景。 43 443. 在接口调用的过程中,两种方式的接口调用方式基本一致,但存在以下差异点: 45 - Buffer模式下,调用者通过OH_VideoEncoder_PushInputBuffer接口输入数据;Surface模式下,调用者应在编码器就绪前调用OH_VideoEncoder_GetSurface接口,获取OHNativeWindow用于传递视频数据。 46 - Buffer模式下,调用者通过OH_AVBuffer中的attr传入结束flag,编码器读取到尾帧后,停止编码;Surface模式下,需要调用OH_VideoEncoder_NotifyEndOfStream接口通知编码器输入流结束。 47 48两种模式的开发步骤详细说明请参考:[Surface模式](#surface模式)和[Buffer模式](#buffer模式)。 49 50## 状态机调用关系 51如下为状态机调用关系图: 52 53 54 55 561. 有两种方式可以使编码器进入Initialized状态: 57 - 初始创建编码器实例时,编码器处于Initialized状态。 58 - 任何状态下,调用OH_VideoEncoder_Reset接口,编码器将会移回Initialized状态。 59 602. Initialized状态下,调用OH_VideoEncoder_Configure接口配置编码器,配置成功后编码器进入Configured状态。 613. Configured状态下,调用OH_VideoEncoder_Prepare()进入Prepared状态。 624. Prepared状态下,调用OH_VideoEncoder_Start接口使编码器进入Executing状态: 63 - 处于Executing状态时,调用OH_VideoEncoder_Stop接口可以使编码器返回到Prepared状态。 64 655. 在极少数情况下,编码器可能会遇到错误并进入Error状态。编码器的错误传递,可以通过队列操作返回无效值或者抛出异常: 66 - Error状态下,可以调用OH_VideoEncoder_Reset接口将编码器移到Initialized状态;或者调用OH_VideoEncoder_Destroy接口移动到最后的Released状态。 67 686. Executing 状态具有三个子状态:Flushed、Running和End-of-Stream: 69 - 在调用了OH_VideoEncoder_Start接口之后,编码器立即进入Running子状态。 70 - 对于处于Executing状态的编码器,可以调用OH_VideoEncoder_Flush接口返回到Flushed子状态。 71 - 当待处理数据全部传递给编码器后,可以在input buffers队列中为最后一个入队的input buffer中添加[AVCODEC_BUFFER_FLAGS_EOS](../../reference/apis-avcodec-kit/_core.md#oh_avcodecbufferflags-1)标记,遇到这个标记时,编码器会转换为End-of-Stream子状态。在此状态下,编码器不再接受新的输入,但是仍然会继续生成输出,直到输出到达尾帧。 72 737. 使用完编码器后,必须调用OH_VideoEncoder_Destroy接口销毁编码器实例。使编码器进入Released状态。 74 75## 开发指导 76 77详细的API说明请参考[API文档](../../reference/apis-avcodec-kit/_video_encoder.md)。 78如下为视频编码调用关系图: 79 80- 虚线表示可选。 81 82- 实线表示必选。 83 84 85 86### 在 CMake 脚本中链接动态库 87 88```cmake 89target_link_libraries(sample PUBLIC libnative_media_codecbase.so) 90target_link_libraries(sample PUBLIC libnative_media_core.so) 91target_link_libraries(sample PUBLIC libnative_media_venc.so) 92``` 93> **说明:** 94> 95> 上述'sample'字样仅为示例,此处由调用者根据实际工程目录自定义。 96> 97 98### Surface模式 99 100参考以下示例代码,调用者可以完成Surface模式下视频编码的全流程。此处以surface数据输入,编码成H.264格式为例。 101本模块目前仅支持异步模式的数据轮转。 102 1031. 添加头文件。 104 105 ```cpp 106 #include <multimedia/player_framework/native_avcodec_videoencoder.h> 107 #include <multimedia/player_framework/native_avcapability.h> 108 #include <multimedia/player_framework/native_avcodec_base.h> 109 #include <multimedia/player_framework/native_avformat.h> 110 #include <multimedia/player_framework/native_avbuffer.h> 111 #include <fstream> 112 ``` 113 1142. 全局变量。 115 116 ```c++ 117 // 配置视频帧宽度(必须) 118 int32_t width = 320; 119 // 配置视频帧高度(必须) 120 int32_t height = 240; 121 // 配置视频像素格式(必须) 122 constexpr OH_AVPixelFormat DEFAULT_PIXELFORMAT = AV_PIXEL_FORMAT_NV12; 123 int32_t widthStride = 0; 124 int32_t heightStride = 0; 125 ``` 126 1273. 创建编码器实例对象。 128 129 调用者可以通过名称或媒体类型创建编码器。示例中的变量说明如下: 130 131 - videoEnc:视频编码器实例的指针; 132 - capability:编解码器能力查询实例的指针; 133 - OH_AVCODEC_MIMETYPE_VIDEO_AVC:AVC格式视频编解码器。 134 135 创建方式示例如下: 136 137 ```c++ 138 // 通过codec name创建编码器,应用有特殊需求,比如选择支持某种分辨率规格的编码器,可先查询capability,再根据codec name创建编码器。 139 OH_AVCapability *capability = OH_AVCodec_GetCapability(OH_AVCODEC_MIMETYPE_VIDEO_AVC, true); 140 // 创建硬件编码器实例 141 OH_AVCapability *capability= OH_AVCodec_GetCapabilityByCategory(OH_AVCODEC_MIMETYPE_VIDEO_AVC, false, HARDWARE); 142 const char *codecName = OH_AVCapability_GetName(capability); 143 OH_AVCodec *videoEnc = OH_VideoEncoder_CreateByName(codecName); 144 ``` 145 146 ```c++ 147 // 通过MIME TYPE创建编码器,只能创建系统推荐的特定编解码器 148 // 只能创建硬件编码器 149 OH_AVCodec *videoEnc = OH_VideoEncoder_CreateByMime(OH_AVCODEC_MIMETYPE_VIDEO_AVC); 150 ``` 151 1524. 调用OH_VideoEncoder_RegisterCallback()设置回调函数。 153 154 注册回调函数指针集合OH_AVCodecCallback,包括: 155 156 - OH_AVCodecOnError 编码器运行错误,返回的错误码详情请参见[OH_AVCodecOnError](../../reference/apis-avcodec-kit/_codec_base.md#oh_avcodeconerror); 157 - OH_AVCodecOnStreamChanged 码流信息变化,如格式变化等; 158 - OH_AVCodecOnNeedInputBuffer 输入回调无作用,调用者通过获取的surface输入数据; 159 - OH_AVCodecOnNewOutputBuffer 运行过程中产生了新的输出数据,即编码完成。 160 161 <!--RP2--><!--RP2End--> 162 163 示例如下所示: 164 165 <!--RP5--> 166 ```c++ 167 // 设置OH_AVCodecOnError 回调函数,编码异常 168 static void OnError(OH_AVCodec *codec, int32_t errorCode, void *userData) 169 { 170 // 回调的错误码由调用者判断处理 171 (void)codec; 172 (void)errorCode; 173 (void)userData; 174 } 175 ``` 176 <!--RP5End--> 177 178 <!--RP12--> 179 ```c++ 180 // 设置OH_AVCodecOnStreamChanged 回调函数,编码数据流变化 181 static void OnStreamChanged(OH_AVCodec *codec, OH_AVFormat *format, void *userData) 182 { 183 // 编码场景,该回调函数无作用 184 (void)codec; 185 (void)format; 186 (void)userData; 187 } 188 ``` 189 <!--RP12End--> 190 191 ```c++ 192 // 设置 OH_AVCodecOnNeedInputBuffer 回调函数,编码输入帧送入数据队列 193 static void OnNeedInputBuffer(OH_AVCodec *codec, uint32_t index, OH_AVBuffer *buffer, void *userData) 194 { 195 // Surface模式下,该回调函数无作用,调用者通过获取的surface输入数据 196 (void)userData; 197 (void)index; 198 (void)buffer; 199 } 200 ``` 201 202 <!--RP6--> 203 ```c++ 204 // 设置 OH_AVCodecOnNewOutputBuffer 回调函数,编码完成帧送入输出队列 205 static void OnNewOutputBuffer(OH_AVCodec *codec, uint32_t index, OH_AVBuffer *buffer, void *userData) 206 { 207 // 完成帧buffer对应的index,送入outIndexQueue队列 208 // 完成帧的数据buffer送入outBufferQueue队列 209 // 数据处理 210 // 释放编码帧 211 } 212 ``` 213 <!--RP6End--> 214 215 ```c++ 216 // 配置异步回调,调用 OH_VideoEncoder_RegisterCallback()接口 217 OH_AVCodecCallback cb = {&OnError, &OnStreamChanged, &OnNeedInputBuffer, &OnNewOutputBuffer}; 218 int32_t ret = OH_VideoEncoder_RegisterCallback(videoEnc, cb, NULL); // NULL:用户特定数据userData为空 219 if (ret != AV_ERR_OK) { 220 // 异常处理 221 } 222 ``` 223 224 > **说明:** 225 > 在回调函数中,对数据队列进行操作时,需要注意多线程同步的问题。 226 > 227 2285. (可选)调用OH_VideoEncoder_RegisterParameterCallback()在Configur接口之前注册随帧通路回调。 229 230 详情请参考[时域可分层视频编码](video-encoding-temporal-scalability.md)。 231 232 <!--RP7--> 233 ```c++ 234 // 5.1 编码输入参数回调OH_VideoEncoder_OnNeedInputParameter实现 235 static void OnNeedInputParameter(OH_AVCodec *codec, uint32_t index, OH_AVFormat *parameter, void *userData) 236 { 237 // 输入帧parameter对应的index,送入InParameterIndexQueue队列 238 // 输入帧的数据parameter送入InParameterQueue队列 239 // 数据处理 240 // 随帧参数写入 241 } 242 243 // 5.2 注册随帧参数回调 244 OH_VideoEncoder_OnNeedInputParameter inParaCb = OnNeedInputParameter; 245 OH_VideoEncoder_RegisterParameterCallback(videoEnc, inParaCb, NULL); // NULL:用户特定数据userData为空 246 ``` 247 <!--RP7End--> 248 2496. 调用OH_VideoEncoder_Configure()配置编码器。 250 251 详细可配置选项的说明请参考[视频专有键值对](../../reference/apis-avcodec-kit/_codec_base.md#媒体数据键值对)。 252 253 参数校验规则请参考[OH_VideoEncoder_Configure()参考文档](../../reference/apis-avcodec-kit/_video_encoder.md#oh_videoencoder_configure)。 254 255 参数取值范围可以通过能力查询接口获取,具体示例请参考[获取支持的编解码能力文档](obtain-supported-codecs.md)。 256 257 目前支持的所有格式都必须配置以下选项:视频帧宽度、视频帧高度、视频像素格式。示例中的变量如下: 258 259 - DEFAULT_WIDTH:320像素宽度; 260 - DEFAULT_HEIGHT:240像素高度; 261 - DEFAULT_PIXELFORMAT: 像素格式,因为示例使用YUV的文件保存的像素格式是NV12,所以设置为 AV_PIXEL_FORMAT_NV12。 262 263 ```c++ 264 // 配置视频帧速率 265 double frameRate = 30.0; 266 // 配置视频YUV值范围标志 267 bool rangeFlag = false; 268 // 配置视频原色 269 int32_t primary = static_cast<int32_t>(OH_ColorPrimary::COLOR_PRIMARY_BT709); 270 // 配置传输特性 271 int32_t transfer = static_cast<int32_t>(OH_TransferCharacteristic::TRANSFER_CHARACTERISTIC_BT709); 272 // 配置最大矩阵系数 273 int32_t matrix = static_cast<int32_t>(OH_MatrixCoefficient::MATRIX_COEFFICIENT_IDENTITY); 274 // 配置编码Profile 275 int32_t profile = static_cast<int32_t>(OH_AVCProfile::AVC_PROFILE_HIGH); 276 // 配置编码比特率模式 277 int32_t rateMode = static_cast<int32_t>(OH_VideoEncodeBitrateMode::VBR); 278 // 配置关键帧的间隔,单位为毫秒 279 int32_t iFrameInterval = 1000; 280 // 配置比特率 281 int64_t bitRate = 5000000; 282 // 配置编码质量 283 int64_t quality = 90; 284 285 OH_AVFormat *format = OH_AVFormat_Create(); 286 OH_AVFormat_SetIntValue(format, OH_MD_KEY_WIDTH, width); // 必须配置 287 OH_AVFormat_SetIntValue(format, OH_MD_KEY_HEIGHT, height); // 必须配置 288 OH_AVFormat_SetIntValue(format, OH_MD_KEY_PIXEL_FORMAT, DEFAULT_PIXELFORMAT); // 必须配置 289 290 OH_AVFormat_SetDoubleValue(format, OH_MD_KEY_FRAME_RATE, frameRate); 291 OH_AVFormat_SetIntValue(format, OH_MD_KEY_RANGE_FLAG, rangeFlag); 292 OH_AVFormat_SetIntValue(format, OH_MD_KEY_COLOR_PRIMARIES, primary); 293 OH_AVFormat_SetIntValue(format, OH_MD_KEY_TRANSFER_CHARACTERISTICS, transfer); 294 OH_AVFormat_SetIntValue(format, OH_MD_KEY_MATRIX_COEFFICIENTS, matrix); 295 OH_AVFormat_SetIntValue(format, OH_MD_KEY_I_FRAME_INTERVAL, iFrameInterval); 296 OH_AVFormat_SetIntValue(format, OH_MD_KEY_PROFILE, profile); 297 //只有当OH_MD_KEY_BITRATE = CQ时,才需要配置OH_MD_KEY_QUALITY 298 if (rateMode == static_cast<int32_t>(OH_VideoEncodeBitrateMode::CQ)) { 299 OH_AVFormat_SetIntValue(format, OH_MD_KEY_QUALITY, quality); 300 } else if (rateMode == static_cast<int32_t>(OH_VideoEncodeBitrateMode::CBR) || 301 rateMode == static_cast<int32_t>(OH_VideoEncodeBitrateMode::VBR)){ 302 OH_AVFormat_SetLongValue(format, OH_MD_KEY_BITRATE, bitRate); 303 } 304 OH_AVFormat_SetIntValue(format, OH_MD_KEY_VIDEO_ENCODE_BITRATE_MODE, rateMode); 305 int32_t ret = OH_VideoEncoder_Configure(videoEnc, format); 306 if (ret != AV_ERR_OK) { 307 // 异常处理 308 } 309 OH_AVFormat_Destroy(format); 310 ``` 311 312 > **注意:** 313 > 配置非必须参数错误时,会返回AV_ERR_INVAILD_VAL错误码。但OH_VideoEncoder_Configure()不会失败,而是使用默认值继续执行。 314 > 315 3167. 获取Surface。 317 318 获取编码器Surface模式的OHNativeWindow输入,获取surface需要在准备编码器之前完成。 319 320 ```c++ 321 // 获取需要输入的surface,以进行编码 322 OHNativeWindow *nativeWindow; 323 int32_t ret = OH_VideoEncoder_GetSurface(videoEnc, &nativeWindow); 324 if (ret != AV_ERR_OK) { 325 // 异常处理 326 } 327 // 通过OHNativeWindow*变量类型,可通过生产者接口获取待填充数据地址。 328 ``` 329 OHNativeWindow*变量类型的使用方法请参考图形子系统 [OHNativeWindow](../../reference/apis-arkgraphics2d/_native_window.md#ohnativewindow) 330 3318. 调用OH_VideoEncoder_Prepare()编码器就绪。 332 333 该接口将在编码器运行前进行一些数据的准备工作。 334 335 ```c++ 336 int32_t ret = OH_VideoEncoder_Prepare(videoEnc); 337 if (ret != AV_ERR_OK) { 338 // 异常处理 339 } 340 ``` 341 3429. 调用OH_VideoEncoder_Start()启动编码器。 343 344 ```c++ 345 // 配置待编码文件路径 346 std::string_view outputFilePath = "/*yourpath*.h264"; 347 std::unique_ptr<std::ofstream> outputFile = std::make_unique<std::ofstream>(); 348 outputFile->open(outputFilePath.data(), std::ios::out | std::ios::binary | std::ios::ate); 349 // 启动编码器,开始编码 350 int32_t ret = OH_VideoEncoder_Start(videoEnc); 351 if (ret != AV_ERR_OK) { 352 // 异常处理 353 } 354 ``` 355 35610. (可选)OH_VideoEncoder_SetParameter()在运行过程中动态配置编码器参数。 357 详细可配置选项的说明请参考[视频专有键值对](../../reference/apis-avcodec-kit/_codec_base.md#媒体数据键值对)。 358 359 <!--RP8--> 360 ```c++ 361 OH_AVFormat *format = OH_AVFormat_Create(); 362 // 支持动态请求IDR帧 363 OH_AVFormat_SetIntValue(format, OH_MD_KEY_REQUEST_I_FRAME, true); 364 int32_t ret = OH_VideoEncoder_SetParameter(videoEnc, format); 365 if (ret != AV_ERR_OK) { 366 // 异常处理 367 } 368 OH_AVFormat_Destroy(format); 369 ``` 370 <!--RP8End--> 371 37211. 写入编码图像。 373 在之前的第7步中,开发者已经对OH_VideoEncoder_GetSurface接口返回的OHNativeWindow*类型变量进行配置。因为编码所需的数据,由配置的Surface进行持续地输入,所以开发者无需对OnNeedInputBuffer回调函数进行处理,也无需使用OH_VideoEncoder_PushInputBuffer接口输入数据。 374 <!--RP13--><!--RP13End--> 375 37612. (可选)调用OH_VideoEncoder_PushInputParameter()通知编码器随帧参数配置输入完成。 377 在之前的第5步中,调用者已经注册随帧通路回调 378 379 以下示例中: 380 381 - index:回调函数OnNeedInputParameter传入的参数,与buffer唯一对应的标识。 382 383 ```c++ 384 int32_t ret = OH_VideoEncoder_PushInputParameter(videoEnc, index); 385 if (ret != AV_ERR_OK) { 386 // 异常处理 387 } 388 ``` 389 39013. 调用OH_VideoEncoder_NotifyEndOfStream()通知编码器结束。 391 392 ```c++ 393 // Surface模式:通知视频编码器输入流已结束,只能使用此接口进行通知 394 // 不能像Buffer模式中将flag设为AVCODEC_BUFFER_FLAGS_EOS,再调用OH_VideoEncoder_PushInputBuffer接口通知编码器输入结束 395 int32_t ret = OH_VideoEncoder_NotifyEndOfStream(videoEnc); 396 if (ret != AV_ERR_OK) { 397 // 异常处理 398 } 399 ``` 400 40114. 调用OH_VideoEncoder_FreeOutputBuffer()释放编码帧。 402 403 以下示例中: 404 405 - index:回调函数OnNewOutputBuffer传入的参数,与buffer唯一对应的标识。 406 - buffer: 回调函数OnNewOutputBuffer传入的参数,Surface模式调用者无法通过OH_AVBuffer_GetAddr接口获取图像虚拟地址。 407 ```c++ 408 // 获取编码后信息 409 OH_AVCodecBufferAttr info; 410 int32_t ret = OH_AVBuffer_GetBufferAttr(buffer, &info); 411 if (ret != AV_ERR_OK) { 412 // 异常处理 413 } 414 // 将编码完成帧数据buffer写入到对应输出文件中 415 outputFile->write(reinterpret_cast<char *>(OH_AVBuffer_GetAddr(buffer)), info.size); 416 // 释放已完成写入的数据,index为对应输出队列下标 417 ret = OH_VideoEncoder_FreeOutputBuffer(videoEnc, index); 418 if (ret != AV_ERR_OK) { 419 // 异常处理 420 } 421 ``` 422 42315. (可选)调用OH_VideoEncoder_Flush()刷新编码器。 424 425 调用OH_VideoEncoder_Flush接口后,编码器仍处于运行态,但会清除编码器中缓存的输入和输出数据及参数集如H264格式的PPS/SPS。 426 427 此时需要调用OH_VideoEncoder_Start接口重新开始编码。 428 429 ```c++ 430 // 刷新编码器videoEnc 431 int32_t ret = OH_VideoEncoder_Flush(videoEnc); 432 if (ret != AV_ERR_OK) { 433 // 异常处理 434 } 435 // 重新开始编码 436 ret = OH_VideoEncoder_Start(videoEnc); 437 if (ret != AV_ERR_OK) { 438 // 异常处理 439 } 440 ``` 441 44216. (可选)调用OH_VideoEncoder_Reset()重置编码器。 443 444 调用OH_VideoEncoder_Reset接口后,编码器将回到初始化的状态,需要调用OH_VideoEncoder_Configure接口和OH_VideoEncoder_Prepare接口重新配置。 445 446 ```c++ 447 // 重置编码器videoEnc 448 int32_t ret = OH_VideoEncoder_Reset(videoEnc); 449 if (ret != AV_ERR_OK) { 450 // 异常处理 451 } 452 // 重新配置编码器参数 453 ret = OH_VideoEncoder_Configure(videoEnc, format); 454 if (ret != AV_ERR_OK) { 455 // 异常处理 456 } 457 // 编码器重新就绪 458 ret = OH_VideoEncoder_Prepare(videoEnc); 459 if (ret != AV_ERR_OK) { 460 // 异常处理 461 } 462 ``` 463 46417. (可选)调用OH_VideoEncoder_Stop()停止编码器。 465 466 调用OH_VideoEncoder_Stop接口后,编码器保留了编码实例,释放输入输出buffer。调用者可以直接调用OH_VideoEncoder_Start接口继续编码, 467 468 输入的第一个buffer需要携带参数集,从IDR帧开始送入。 469 470 ```c++ 471 // 终止编码器videoEnc 472 int32_t ret = OH_VideoEncoder_Stop(videoEnc); 473 if (ret != AV_ERR_OK) { 474 // 异常处理 475 } 476 ``` 477 47818. 调用OH_VideoEncoder_Destroy()销毁编码器实例,释放资源。 479 480 > **说明:** 481 > 482 > 不能在回调函数中调用; 483 > 执行该步骤之后,需要调用者将videoEnc指向NULL,防止野指针导致程序错误。 484 > 485 486 ```c++ 487 // 释放nativeWindow实例 488 if(nativeWindow != NULL){ 489 int32_t ret = OH_NativeWindow_DestroyNativeWindow(nativeWindow); 490 nativeWindow = NULL; 491 } 492 if (ret != AV_ERR_OK) { 493 // 异常处理 494 } 495 // 调用OH_VideoEncoder_Destroy,注销编码器 496 if (videoEnc != NULL) { 497 ret = OH_VideoEncoder_Destroy(videoEnc); 498 videoEnc = NULL; 499 } 500 if (ret != AV_ERR_OK) { 501 // 异常处理 502 } 503 ``` 504 505### Buffer模式 506 507参考以下示例代码,调用者可以完成Buffer模式下视频编码的全流程。此处以YUV文件输入,编码成H.264格式为例。 508本模块目前仅支持异步模式的数据轮转。 509 5101. 添加头文件。 511 512 ```cpp 513 #include <multimedia/player_framework/native_avcodec_videoencoder.h> 514 #include <multimedia/player_framework/native_avcapability.h> 515 #include <multimedia/player_framework/native_avcodec_base.h> 516 #include <multimedia/player_framework/native_avformat.h> 517 #include <multimedia/player_framework/native_avbuffer.h> 518 #include <fstream> 519 ``` 520 5212. 创建编码器实例对象。 522 523 与Surface模式相同,此处不再赘述。 524 525 ```c++ 526 // 通过codec name创建编码器,应用有特殊需求,比如选择支持某种分辨率规格的编码器,可先查询capability,再根据codec name创建编码器。 527 OH_AVCapability *capability = OH_AVCodec_GetCapability(OH_AVCODEC_MIMETYPE_VIDEO_AVC, true); 528 const char *codecName = OH_AVCapability_GetName(capability); 529 OH_AVCodec *videoEnc = OH_VideoEncoder_CreateByName(codecName); 530 ``` 531 532 ```c++ 533 // 通过MIME TYPE创建编码器,只能创建系统推荐的特定编解码器 534 // 涉及创建多路编解码器时,优先创建硬件编码器实例,硬件资源不够时再创建软件编码器实例 535 OH_AVCodec *videoEnc = OH_VideoEncoder_CreateByMime(OH_AVCODEC_MIMETYPE_VIDEO_AVC); 536 ``` 537 5383. 调用OH_VideoEncoder_RegisterCallback()设置回调函数。 539 540 注册回调函数指针集合OH_AVCodecCallback,包括: 541 - OH_AVCodecOnError 编码器运行错误,返回的错误码详情请参见[OH_AVCodecOnError](../../reference/apis-avcodec-kit/_codec_base.md#oh_avcodeconerror); 542 - OH_AVCodecOnStreamChanged 码流信息变化,如格式变化等; 543 - OH_AVCodecOnNeedInputBuffer 运行过程中需要新的输入数据,即编码器已准备好,可以输入YUV/RGB数据; 544 - OH_AVCodecOnNewOutputBuffer 运行过程中产生了新的输出数据,即编码完成。 545 546 调用者可以通过处理该回调报告的信息,确保编码器正常运转。 547 548 <!--RP2--><!--RP2End--> 549 550 <!--RP9--> 551 ```c++ 552 bool isFirstFrame = true; 553 ``` 554 <!--RP9End--> 555 556 ```c++ 557 // 编码异常回调OH_AVCodecOnError实现 558 static void OnError(OH_AVCodec *codec, int32_t errorCode, void *userData) 559 { 560 // 回调的错误码由调用者判断处理 561 (void)codec; 562 (void)errorCode; 563 (void)userData; 564 } 565 ``` 566 567 ```c++ 568 // 编码数据流变化回调OH_AVCodecOnStreamChanged实现 569 static void OnStreamChanged(OH_AVCodec *codec, OH_AVFormat *format, void *userData) 570 { 571 // 编码场景,该回调函数无作用 572 (void)codec; 573 (void)format; 574 (void)userData; 575 } 576 ``` 577 578 ```c++ 579 // 编码输入回调OH_AVCodecOnNeedInputBuffer实现 580 static void OnNeedInputBuffer(OH_AVCodec *codec, uint32_t index, OH_AVBuffer *buffer, void *userData) 581 { 582 // 输入帧buffer对应的index,送入InIndexQueue队列 583 // 输入帧的数据buffer送入InBufferQueue队列 584 // 获取视频宽高跨距 585 if (isFirstFrame) { 586 OH_AVFormat *format = OH_VideoEncoder_GetInputDescription(codec); 587 OH_AVFormat_GetIntValue(format, OH_MD_KEY_VIDEO_STRIDE, &widthStride); 588 OH_AVFormat_GetIntValue(format, OH_MD_KEY_VIDEO_SLICE_HEIGHT, &heightStride); 589 OH_AVFormat_Destroy(format); 590 isFirstFrame = false; 591 } 592 // 数据处理 593 // 写入编码图像 594 // 通知编码器码流结束 595 } 596 ``` 597 598 <!--RP10--> 599 ```c++ 600 // 编码输出回调OH_AVCodecOnNewOutputBuffer实现 601 static void OnNewOutputBuffer(OH_AVCodec *codec, uint32_t index, OH_AVBuffer *buffer, void *userData) 602 { 603 // 完成帧buffer对应的index,送入outIndexQueue队列 604 // 完成帧的数据buffer送入outBufferQueue队列 605 // 数据处理 606 // 释放编码帧 607 } 608 ``` 609 <!--RP10End--> 610 611 ```c++ 612 // 配置异步回调,调用 OH_VideoEncoder_RegisterCallback 接口 613 OH_AVCodecCallback cb = {&OnError, &OnStreamChanged, &OnNeedInputBuffer, &OnNewOutputBuffer}; 614 int32_t ret = OH_VideoEncoder_RegisterCallback(videoEnc, cb, NULL); 615 if (ret != AV_ERR_OK) { 616 // 异常处理 617 } 618 ``` 619 620 > **说明:** 621 > 622 > 在回调函数中,对数据队列进行操作时,需要注意多线程同步的问题。 623 > 624 6254. 调用OH_VideoEncoder_Configure()配置编码器。 626 627 与Surface模式相同,此处不再赘述。 628 629 ```c++ 630 OH_AVFormat *format = OH_AVFormat_Create(); 631 // 写入format 632 OH_AVFormat_SetIntValue(format, OH_MD_KEY_WIDTH, width); 633 OH_AVFormat_SetIntValue(format, OH_MD_KEY_HEIGHT, height); 634 OH_AVFormat_SetIntValue(format, OH_MD_KEY_PIXEL_FORMAT, DEFAULT_PIXELFORMAT); 635 // 配置编码器 636 int32_t ret = OH_VideoEncoder_Configure(videoEnc, format); 637 if (ret != AV_ERR_OK) { 638 // 异常处理 639 } 640 OH_AVFormat_Destroy(format); 641 ``` 642 6435. 调用OH_VideoEncoder_Prepare()编码器就绪。 644 645 该接口将在编码器运行前进行一些数据的准备工作。 646 647 ```c++ 648 ret = OH_VideoEncoder_Prepare(videoEnc); 649 if (ret != AV_ERR_OK) { 650 // 异常处理 651 } 652 ``` 653 6546. 调用OH_VideoEncoder_Start()启动编码器,进入运行态。 655 656 启动编码器后,回调函数将开始响应事件。所以,需要先配置输入文件、输出文件。 657 658 ```c++ 659 // 配置待编码文件路径 660 std::string_view inputFilePath = "/*yourpath*.yuv"; 661 std::string_view outputFilePath = "/*yourpath*.h264"; 662 std::unique_ptr<std::ifstream> inputFile = std::make_unique<std::ifstream>(); 663 std::unique_ptr<std::ofstream> outputFile = std::make_unique<std::ofstream>(); 664 inputFile->open(inputFilePath.data(), std::ios::in | std::ios::binary); 665 outputFile->open(outputFilePath.data(), std::ios::out | std::ios::binary | std::ios::ate); 666 // 启动编码器,开始编码 667 int32_t ret = OH_VideoEncoder_Start(videoEnc); 668 if (ret != AV_ERR_OK) { 669 // 异常处理 670 } 671 ``` 672 6737. (可选)在运行过程中动态配置编码器参数。 674 675 <!--RP11--> 676 ```c++ 677 OH_AVFormat *format = OH_AVFormat_Create(); 678 // 支持动态请求IDR帧 679 OH_AVFormat_SetIntValue(format, OH_MD_KEY_REQUEST_I_FRAME, true); 680 int32_t ret = OH_VideoEncoder_SetParameter(videoEnc, format); 681 if (ret != AV_ERR_OK) { 682 // 异常处理 683 } 684 OH_AVFormat_Destroy(format); 685 ``` 686 <!--RP11End--> 687 6888. 调用OH_VideoEncoder_PushInputBuffer()写入编码图像。 689 690 送入输入队列进行编码,以下示例中: 691 692 - buffer:回调函数OnNeedInputBuffer传入的参数,可以通过OH_AVBuffer_GetAddr接口得到共享内存地址的指针; 693 - index:回调函数OnNeedInputBuffer传入的参数,与buffer唯一对应的标识; 694 - flags:缓冲区标记的类别,请参考[OH_AVCodecBufferFlags](../../reference/apis-avcodec-kit/_core.md#oh_avcodecbufferflags) 695 - stride: 获取到的buffer数据的跨距。 696 697 ```c++ 698 if (stride == width) { 699 // 处理文件流得到帧的长度,再将需要编码的数据写入到对应index的buffer中 700 int32_t frameSize = width * height * 3 / 2; // NV12像素格式下,每帧数据大小的计算公式 701 inputFile->read(reinterpret_cast<char *>(OH_AVBuffer_GetAddr(buffer)), frameSize); 702 } else { 703 // 如果跨距不等于宽,需要调用者按照跨距进行偏移,具体可参考以下示例 704 } 705 // 配置buffer info信息 706 OH_AVCodecBufferAttr info; 707 info.size = frameSize; 708 info.offset = 0; 709 info.pts = 0; 710 info.flags = flags; 711 ret = OH_AVBuffer_SetBufferAttr(buffer, &info); 712 if (ret != AV_ERR_OK) { 713 // 异常处理 714 } 715 // 送入编码输入队列进行编码,index为对应输入队列的下标 716 int32_t ret = OH_VideoEncoder_PushInputBuffer(videoEnc, index); 717 if (ret != AV_ERR_OK) { 718 // 异常处理 719 } 720 ``` 721 对跨距进行偏移,以NV12图像为例 示例如下: 722 723 以NV12图像为例,width、height、wStride、hStride图像排布参考下图: 724 725 - OH_MD_KEY_VIDEO_PIC_WIDTH表示width; 726 - OH_MD_KEY_VIDEO_PIC_HEIGHT表示height; 727 - OH_MD_KEY_VIDEO_STRIDE表示wStride; 728 - OH_MD_KEY_VIDEO_SLICE_HEIGHT表示hStride。 729 730  731 732 添加头文件。 733 734 ```c++ 735 #include <string.h> 736 ``` 737 使用示例: 738 739 ```c++ 740 struct Rect // 源内存区域的宽、高,由调用者自行设置 741 { 742 int32_t width; 743 int32_t height; 744 }; 745 746 struct DstRect // 目标内存区域的宽、高跨距,通过接口OH_VideoEncoder_GetInputDescription获取 747 { 748 int32_t wStride; 749 int32_t hStride; 750 }; 751 752 struct SrcRect // 源内存区域的宽、高跨距,由调用者自行设置 753 { 754 int32_t wStride; 755 int32_t hStride; 756 }; 757 758 Rect rect = {320, 240}; 759 DstRect dstRect = {320, 256}; 760 SrcRect srcRect = {320, 250}; 761 uint8_t* dst = new uint8_t[dstRect.hStride * dstRect.wStride * 3 / 2]; // 目标内存区域的指针 762 uint8_t* src = new uint8_t[srcRect.hStride * srcRect.wStride * 3 / 2]; // 源内存区域的指针 763 uint8_t* dstTemp = dst; 764 uint8_t* srcTemp = src; 765 766 // Y 将Y区域的源数据复制到另一个区域的目标数据中 767 for (int32_t i = 0; i < rect.height; ++i) { 768 //将源数据的一行数据复制到目标数据的一行中 769 memcpy_s(dstTemp, srcTemp, rect.width); 770 // 更新源数据和目标数据的指针,进行下一行的复制。每更新一次源数据和目标数据的指针都向下移动一个wStride 771 dstTemp += dstRect.wStride; 772 srcTemp += srcRect.wStride; 773 } 774 // padding 775 // 更新源数据和目标数据的指针,指针都向下移动一个padding 776 dstTemp += (dstRect.hStride - rect.height) * dstRect.wStride; 777 srcTemp += (srcRect.hStride - rect.height) * srcRect.wStride; 778 rect.height >>= 1; 779 // UV 将UV区域的源数据复制到另一个区域的目标数据中 780 for (int32_t i = 0; i < rect.height; ++i) { 781 memcpy_s(dstTemp, srcTemp, rect.width); 782 dstTemp += dstRect.wStride; 783 srcTemp += srcRect.wStride; 784 } 785 786 delete[] dst; 787 dst = nullptr; 788 delete[] src; 789 src = nullptr; 790 ``` 791 硬件编码在处理buffer数据时(推送数据前),需要调用者拷贝宽高对齐后的图像数据到输入回调的AVbuffer中。 792 一般需要获取数据的宽高、跨距、像素格式来保证编码输入数据被正确的处理。 793 794 具体实现请参考:[Buffer模式](#buffer模式)的步骤3-调用OH_VideoEncoder_RegisterCallback接口设置回调函数来获取数据的宽高、跨距、像素格式。 795 796 7979. 通知编码器结束。 798 799 以下示例中: 800 - index:回调函数OnNeedInputBuffer传入的参数,与buffer唯一对应的标识。 801 - buffer:回调函数OnNeedInputBuffer传入的参数,可以通过OH_AVBuffer_GetAddr接口得到共享内存地址的指针; 802 803 与“8. 写入编码图像”一样,使用同一个接口OH_VideoEncoder_PushInputBuffer,通知编码器输入结束,需要将flag标识成AVCODEC_BUFFER_FLAGS_EOS。 804 805 ```c++ 806 OH_AVCodecBufferAttr info; 807 info.size = 0; 808 info.offset = 0; 809 info.pts = 0; 810 info.flags = AVCODEC_BUFFER_FLAGS_EOS; 811 int32_t ret = OH_AVBuffer_SetBufferAttr(buffer, &info); 812 if (ret != AV_ERR_OK) { 813 // 异常处理 814 } 815 ret = OH_VideoEncoder_PushInputBuffer(videoEnc, index); 816 if (ret != AV_ERR_OK) { 817 // 异常处理 818 } 819 ``` 820 82110. 调用OH_VideoEncoder_FreeOutputBuffer()释放编码帧。 822 与Surface模式相同,此处不再赘述。 823 824 ```c++ 825 // 获取编码后信息 826 OH_AVCodecBufferAttr info; 827 int32_t ret = OH_AVBuffer_GetBufferAttr(buffer, &info); 828 if (ret != AV_ERR_OK) { 829 // 异常处理 830 } 831 // 将编码完成帧数据buffer写入到对应输出文件中 832 outputFile->write(reinterpret_cast<char *>(OH_AVBuffer_GetAddr(buffer)), info.size); 833 // 释放已完成写入的数据,index为对应输出队列的下标 834 ret = OH_VideoEncoder_FreeOutputBuffer(videoEnc, index); 835 if (ret != AV_ERR_OK) { 836 // 异常处理 837 } 838 ``` 839 840后续流程(包括刷新编码器、重置编码器、停止编码器、销毁编码器)与Surface模式一致,请参考[Surface模式](#surface模式)的步骤15-18。 841