zoukankan      html  css  js  c++  java
  • 音视频处理之FFmpeg+SDL视频播放器20180409

    一、FFmpeg视频解码器

    1.视频解码知识

    1).纯净的视频解码流程

    压缩编码数据->像素数据。

    例如解码H.264,就是“H.264码流->YUV”。

    2).一般的视频解码流程

    视频码流一般存储在一定的封装格式(例如MP4、AVI等)中。封装格式中通常还包含音频码流等内容。

    对于封装格式中的视频,需要先从封装格式中提取中视频码流,然后再进行解码。

    例如解码MKV格式的视频文件,就是“MKV->H.264码流->YUV”

    2.VC下FFmpeg开发环境的搭建

    新建控制台工程

    打开visual studio

    文件 新建 项目 win32控制台应用程序

    拷贝FFmpeg开发文件

    头文件(*.h)拷贝至项目文件夹的include子文件夹下

    导入库文件(*.lib)拷贝至项目文件夹的lib子文件夹下

    动态库文件(*.dll)拷贝至项目文件夹下

    PS:如果直接使用官网上下载的FFmpeg开发文件。则可能还需要将MinGW安装目录中的inttypes.h,stdint.h,_mingw.h三个文件拷贝至项目文件夹的include子文件夹下。

    配置开发文件

    打开属性面板

    解决方案资源管理器->右键单击项目->属性

    头文件配置

    配置属性->C/C++->常规->附加包含目录,输入“include”(刚才拷贝头文件的目录)

    导入库配置

    配置属性->链接器->常规->附加库目录,输入“lib” (刚才拷贝库文件的目录)

    配置属性->链接器->输入->附加依赖项,输入“avcodec.lib; avformat.lib; avutil.lib; avdevice.lib; avfilter.lib; postproc.lib; swresample.lib; swscale.lib”(导入库的文件名)

    动态库不用配置

    main()中调用一个FFmpeg的接口函数

    例如下面代码打印出了FFmpeg的配置信息

    int main(int argc, char* argv[]){

    printf("%s", avcodec_configuration());

    return 0;

    }

    如果运行无误,则代表FFmpeg已经配置完成。

    3.FFmpeg简介

    FFmpeg一共包含8个库:

    avcodec:编解码(最重要的库)。

    avformat:封装格式处理。

    avfilter:滤镜特效处理。

    avdevice:各种设备的输入输出。

    avutil:工具库(大部分库都需要这个库的支持)。

    postproc:后加工。

    swresample:音频采样数据格式转换。

    swscale:视频像素数据格式转换。

    1).FFmpeg解码流程图见图1:

     

    2).FFmpeg解码函数简介

    av_register_all():注册所有组件。

    avformat_open_input():打开输入视频文件。

    avformat_find_stream_info():获取视频文件信息。

    avcodec_find_decoder():查找解码器。

    avcodec_open2():打开解码器。

    av_read_frame():从输入文件读取一帧压缩数据。

    avcodec_decode_video2():解码一帧压缩数据。

    avcodec_close():关闭解码器。

    avformat_close_input():关闭输入视频文件。

    3).FFmpeg相关结构体(类型)见图2:

     

    I、FFmpeg数据结构简介

    AVFormatContext

    封装格式上下文结构体,也是统领全局的结构体,保存了视频文件封装格式相关信息。

    AVInputFormat

    每种封装格式(例如FLV, MKV, MP4, AVI)对应一个该结构体。

    AVStream

    视频文件中每个视频(音频)流对应一个该结构体。

    AVCodecContext

    编码器上下文结构体,保存了视频(音频)编解码相关信息。

    AVCodec

    每种视频(音频)编解码器(例如H.264解码器)对应一个该结构体。

    AVPacket

    存储一帧压缩编码数据。

    AVFrame

    存储一帧解码后像素(采样)数据。

    II、FFmpeg数据结构分析

    AVFormatContext

    iformat:输入视频的AVInputFormat

    nb_streams :输入视频的AVStream 个数

    streams :输入视频的AVStream []数组

    duration :输入视频的时长(以微秒为单位)

    bit_rate :输入视频的码率

    AVInputFormat

    name:封装格式名称

    long_name:封装格式的长名称

    extensions:封装格式的扩展名

    id:封装格式ID

    一些封装格式处理的接口函数

    AVStream

    id:序号

    codec:该流对应的AVCodecContext

    time_base:该流的时基

    r_frame_rate:该流的帧率

    AVCodecContext

    codec:编解码器的AVCodec

    width, height:图像的宽高(只针对视频)

    pix_fmt:像素格式(只针对视频)

    sample_rate:采样率(只针对音频)

    channels:声道数(只针对音频)

    sample_fmt:采样格式(只针对音频)

    AVCodec

    name:编解码器名称

    long_name:编解码器长名称

    type:编解码器类型

    id:编解码器ID

    一些编解码的接口函数

    AVPacket

    pts:显示时间戳

    dts :解码时间戳

    data :压缩编码数据

    size :压缩编码数据大小

    stream_index :所属的AVStream

    AVFrame

    data:解码后的图像像素数据(音频采样数据)。

    linesize:对视频来说是图像中一行像素的大小;对音频来说是整个音频帧的大小。

    width, height:图像的宽高(只针对视频)。

    key_frame:是否为关键帧(只针对视频) 。

    pict_type:帧类型(只针对视频) 。例如I,P,B。

    III、注意事项

    裸流文件,即如h264文件,是没有时长等信息的,封装格式的才有

    数据结构第一层为封装格式相关的,下面层为编解码相关的

    其中

    AVStream中的time_base 表示该流的时基,也就是时间的基数,简单可理解为时间的单位,比如时间数是2,时基是1s,则时间为2s

    AVPacket:可以理解为h264中的数据包,编码后的包

    其中,pts:显示时间戳,表示该视频帧几分几秒的时候放到屏幕上。这个值只是一个整数 没有单位,所以要得到具体的几分几秒需要和前面的time_base时基参数相乘得到。

    dts:解码时间戳

    stream_index:标识,表示该流属于音频流还是视频流。

    data:压缩编码的数据,如h264的编码,就可以取出该数据保存起来形成的文件就是h264文件。

    通过av_read_frame可从大的数据结构指针中读取到AVPacket数据

    注意播放的顺序不一定按照存储的顺序来。即有一个显示的顺序和一个解码的顺序。

    AVFrame

    data:解码后的图像像素数据,如YUV等,可形成yuv文件(依次存储的是y、u、v分量,其中u 宽和高都只有y一半,整个数据量就y的四分之一,v的也一样)。data是一个指针数组,其中一个分量对应一个数组

    数据先通过解码函数avcodec_decode_video2进行解码,然后由于解码出来的数据由于是有黑边(多出一块多余的数据),所以还需用sws_scale函数把这块多余的裁了。

    4).解码后的数据要经过sws_scale()函数处理

    解码后YUV格式的视频像素数据保存在AVFrame的data[0]、data[1]、data[2]中。但是这些像素值并不是连续存储的,每行有效像素之后存储了一些无效像素。

    以亮度Y数据为例,data[0]中一共包含了linesize[0]*height个数据。但是出于优化等方面的考虑,linesize[0]实际上并不等于宽度width,而是一个比宽度大一些的值。

    因此需要使用sws_scale()进行转换。转换后去除了无效数据,width和linesize[0] 取值相等。如下图3:

     

    其中,sws_scale()函数需要用到的转换信息,即第一个参数,是由sws_getContext函数获得的

    转换后保存在一个新的帧数据结构体,由于使用的转换函数而不是解码函数,所以这个结构体还需要填充其内部的缓冲区,用于存储像素数据,填充的方法使用avpicture_fill函数:

    int avpicture_fill(AVPicture *picture, uint8_t *ptr,int pix_fmt, int width, int height);

    这个函数的使用本质上是为已经分配的空间的结构体(AVPicture *)ptFrame挂上一段用于保存数据的空间,

    这个结构体中有一个指针数组data[AV_NUM_DATA_POINTERS],挂在这个数组里。一般我们这么使用:

        I、pFrameRGB=avcodec_alloc_frame();

        II、numBytes=avpicture_get_size(PIX_FMT_RGB24, pCodecCtx->width,pCodecCtx->height);

            buffer=(uint8_t *)av_malloc(numBytes*sizeof(uint8_t));

        III、avpicture_fill((AVPicture *)pFrameRGB, buffer, PIX_FMT_RGB24,pCodecCtx->width, pCodecCtx->height);

    以上就是为pFrameRGB挂上buffer。这个buffer是用于存缓冲数据的。

    ptFrame为什么不用fill空间。主要是下面这句:

        avcodec_decode_video(pCodecCtx, pFrame, &frameFinished,packet.data, packet.size);

    很可能是ptFrame已经挂上了packet.data,所以就不用fill了。

    二、SDL视频显示

    SDL(Simple DirectMedia Layer)库的作用说白了就是封装了复杂的视音频底层交互工作,简化了视音频处理的难度。

    主要用来做游戏,现在只用到其视频显示部分。

    特点:跨平台,开源

    1.库的结构图见图4:

     

    实际上它调用了底层api完成了和硬件的交互,比如linux下,就操作了framebuffer.

    2.配置vc工程和之前ffmpeg的配置几乎都是一样的:

    1).新建控制台工程

      打开VC++

      文件->新建->项目->Win32控制台应用程序

    2).拷贝SDL开发文件

      头文件(*.h)拷贝至项目文件夹的include子文件夹下

      导入库文件(*.lib)拷贝至项目文件夹的lib子文件夹下

      动态库文件(*.dll)拷贝至项目文件夹下

    3).配置开发文件

      打开属性面板

      解决方案资源管理器->右键单击项目->属性

    4).头文件配置

     配置属性->C/C++->常规->附加包含目录,输入“include”(刚才拷贝文件的目录)

    5).导入库配置

      配置属性->链接器->常规->附加库目录,输入“lib” (刚才拷贝文件的目录)

      配置属性->链接器->输入->附加依赖项,输入“SDL2.lib; SDL2main.lib”(导入库的文件名)

    6).动态库不用配置

    7).是否配置成功,调用sdl的初始化函数,查看其返回值即可确定:

    创建源代码文件

    在工程中创建一个包含main()函数的C/C++文件(如果已经有了可以跳过这一步),后续步骤在该文件中编写源代码。

    包含头文件

    如果是C语言中使用SDL,则直接使用下面代码

    #include "SDL2/SDL.h"

    如果是C++语言中使用SDL,则使用下面代码

    extern "C"

    {

    #include "SDL2/SDL.h"

    }

    main()中调用一个SDL的接口函数

    例如下面代码初始化了SDL

    int main(int argc, char* argv[]){

    if(SDL_Init(SDL_INIT_VIDEO)) {

    printf( "Could not initialize SDL - %s ", SDL_GetError());

    } else{

    printf("Success init SDL");

    }

    return 0;

    }

    如果运行无误,则代表SDL已经配置完成。

    3.SDL视频显示的流程图见图5:

     

    其中特别要注意的是创建纹理数据时要传入渲染器,原因是,

    纹理数据依赖于渲染器,只有通过渲染器创建才能得到该渲染器合法的纹理数据((数据格式)符合该渲染器的要求),

    填充了像素数据且符合要求的纹理数据才可以拷贝给渲染器,并且渲染器才能正确显示出来。

    1).SDL视频显示函数简介

    SDL_Init():初始化SDL系统

    SDL_CreateWindow():创建窗口SDL_Window

    SDL_CreateRenderer():创建渲染器SDL_Renderer

    SDL_CreateTexture():创建纹理SDL_Texture

    SDL_UpdateTexture():设置纹理的数据

    SDL_RenderCopy():将纹理的数据拷贝给渲染器

    SDL_RenderPresent():显示

    SDL_Delay():工具函数,用于延时。

    SDL_Quit():退出SDL系统

    其中SDL_Delay 延时函数,控制显示的速度,即控制帧率。通常每秒25帧,所以通常延时也就是40ms

    2).SDL视频显示的数据结构

    I、SDL视频显示的数据结构如图6所示:

     

    II、SDL数据结构简介

    SDL_Window

    代表了一个“窗口”

    SDL_Renderer

    代表了一个“渲染器”

    SDL_Texture

    代表了一个“纹理”

    SDL_Rect

    一个简单的矩形结构

    具体来说,

    SDL_Window 窗口,类似弹出的窗口

    SDL_Renderer 渲染器,把纹理数据画(渲染)到window上

    一个window上不仅仅只有一副画面,类似多组监控画面,即一个window可对应多个yuv数据

    SDL_Rect,正方形结构,存了矩形的坐标,长宽,以便确定纹理数据画在哪个位置,确定位置用,比如画在左上角就用这个来确定。被渲染器调用

    SDL_Rect中的x y值是左上角为圆点开始的坐标值,调整x y值以及w h值,就可以实现在窗口的指定位置显示,没有画面的地方为黑框。

    当x y等于0,w h等于窗口的宽高时即为全屏显示,此时调整宽高大小,只需调整窗口大小即可。                

    4.进阶-SDL中事件和多线程

    1).SDL多线程

    函数

    SDL_CreateThread():创建一个线程

    数据结构

    SDL_Thread:线程的句柄

    SDL事件

    函数

    SDL_WaitEvent()等待一个事件

    SDL_PushEvent()发送一个事件

    数据结构

    SDL_Event:代表一个事件

    SDL中事件和多线程,可用于解决上个程序播放过程中鼠标不能动的问题,

    使用事件,等待事件中,就会响应鼠标键盘等事件,就不会卡在那了

    将延时操作放到一个子线程中,用事件通知主线程,这样主线程就不用延时了,就可以及时响应事件了

    SDL_WINDOWENVENT sdl系统自带的事件,当拉伸窗口的时候会触发

    SDL_QUIT 也是SDL自带的事件,当点击窗口的×时触发

    三、FFmpeg+SDL视频播放器

    1.FFmpeg+SDL整合之后实现:视频文件->YUV->屏幕

    2.SDL_UpdateTexture函数最后一个参数表示的是,一行像素数据的数据量

    窗口的宽和高无所谓,但是纹理数据的宽和高要和视频数据的宽和高一致。

    3.对于大数据的调试,如果直接打印出来,数据太多不好分析,一般是写入到文件,然后用工具打开文件去分析。

    比如视频像素数据,可以写入到yuv文件,再用yuv分析工具来分析。

    4.脱离开发环境的独立播放器

    在解决方案中的debug目录下的*.exe文件即为编译好的可执行文件。

    执行这个文件就可以脱离开发环境运行。

    5.调试时,在属性->调试->命令参数 中填的东西,就是程序的输入参数,也就是argv中的内容

    平时独立的exe程序,只需在执行的时候后面加上参数就是输入参数了,如ffplay.exe那样。

    四、FFmpeg+SDL视频播放器代码实现

    主要是FFmpegAndSDL.cpp文件,代码如下(基本上每一行都有注释):

      1 /*****************************************************************************
      2 * Copyright (C) 2017-2020 Hanson Yu  All rights reserved.
      3 ------------------------------------------------------------------------------
      4 * File Module       :     FFmpegAndSDL.cpp
      5 * Description       :     FFmpegAndSDL Demo
      6 
      7 
      8 * Created           :     2017.09.21.
      9 * Author            :     Yu Weifeng
     10 * Function List     :     
     11 * Last Modified     :     
     12 * History           :     
     13 * Modify Date      Version         Author           Modification
     14 * -----------------------------------------------
     15 * 2017/09/21      V1.0.0         Yu Weifeng       Created
     16 ******************************************************************************/
     17 
     18 #include "stdafx.h"
     19 #include <stdio.h>
     20 
     21 
     22 /*解决错误:
     23 LNK2019    无法解析的外部符号 __imp__fprintf,该符号在函数 _ShowError 中被引用
     24 
     25 原因:
     26 ……这是链接库问题
     27 就是工程里面没有添加那两个函数需要的库,#progma这个是代码链接库
     28 第二句是vs2015兼容的问题。
     29 lib库的vs编译版本 和 工程的vs开发版本 不一致。
     30 导出函数定义变了。所以要人为加一个函数导出。
     31 */
     32 #pragma comment(lib, "legacy_stdio_definitions.lib")
     33 extern "C" { FILE __iob_func[3] = { *stdin,*stdout,*stderr }; }
     34 
     35 /*
     36 __STDC_LIMIT_MACROS and __STDC_CONSTANT_MACROS are a workaround to allow C++ programs to use stdint.h
     37 macros specified in the C99 standard that aren't in the C++ standard. The macros, such as UINT8_MAX, INT64_MIN,
     38 and INT32_C() may be defined already in C++ applications in other ways. To allow the user to decide
     39 if they want the macros defined as C99 does, many implementations require that __STDC_LIMIT_MACROS
     40 and __STDC_CONSTANT_MACROS be defined before stdint.h is included.
     41 
     42 This isn't part of the C++ standard, but it has been adopted by more than one implementation.
     43 */
     44 #define __STDC_CONSTANT_MACROS
     45 
     46 extern "C"
     47 {
     48 #include "libavcodec/avcodec.h"
     49 #include "libavformat/avformat.h"
     50 #include "libswscale/swscale.h"
     51 #include "SDL2/SDL.h"
     52 };
     53 
     54 
     55 //Refresh Event 自定义事件
     56 #define PLAY_REFRESH_EVENT       (SDL_USEREVENT + 1)//自定义刷新图像(播放)事件
     57 #define PLAY_BREAK_EVENT         (SDL_USEREVENT + 2) //自定义退出播放事件
     58 
     59 
     60 static int g_iThreadExitFlag = 0;
     61 /*****************************************************************************
     62 -Fuction        : RefreshPlayThread
     63 -Description    : RefreshPlayThread
     64 -Input          : 
     65 -Output         : 
     66 -Return         : 
     67 * Modify Date      Version         Author           Modification
     68 * -----------------------------------------------
     69 * 2017/09/21      V1.0.0         Yu Weifeng       Created
     70 ******************************************************************************/
     71 int RefreshPlayThread(void *opaque) 
     72 {
     73     g_iThreadExitFlag = 0;
     74     SDL_Event tEvent={0};
     75     
     76     while (!g_iThreadExitFlag) 
     77     {
     78         tEvent.type = PLAY_REFRESH_EVENT;
     79         SDL_PushEvent(&tEvent);//发送事件给其他线程
     80         SDL_Delay(20);//延时函数 填40的时候,视频会有种卡的感觉
     81     }
     82     //Break
     83     g_iThreadExitFlag = 0;
     84     tEvent.type = PLAY_BREAK_EVENT;
     85     SDL_PushEvent(&tEvent);//发送事件给其他线程 发送一个事件
     86 
     87     return 0;
     88 }
     89 
     90 /*****************************************************************************
     91 -Fuction        : main
     92 -Description    : main
     93 -Input          : 
     94 -Output         : 
     95 -Return         : 
     96 * Modify Date      Version         Author           Modification
     97 * -----------------------------------------------
     98 * 2017/09/21      V1.0.0         Yu Weifeng       Created
     99 ******************************************************************************/
    100 int main(int argc, char* argv[])
    101 {
    102     /*------------FFmpeg----------------*/
    103     const char *strFilePath = "屌丝男士.mov";
    104     AVFormatContext    *ptFormatContext = NULL;//封装格式上下文,内部包含所有的视频信息
    105     int                i = 0; 
    106     int             iVideoindex=0;//纯视频信息在音视频流中的位置,也就是指向音视频流数组中的视频元素
    107     AVCodecContext    *ptCodecContext;//编码器相关信息上下文,内部包含编码器相关的信息,指向AVFormatContext中的streams成员中的codec成员
    108     AVCodec            *ptCodec;//编码器,使用函数avcodec_find_decoder或者,该函数需要的id参数,来自于ptCodecContext中的codec_id成员
    109     AVFrame            *ptFrame=NULL;//存储一帧解码后像素(采样)数据
    110     AVFrame            *ptFrameAfterScale=NULL;//存储(解码数据)转换后的像素(采样)数据
    111     unsigned char   *pucFrameAfterScaleBuf=NULL;//用于存储ptFrameAfterScale中的像素(采样)缓冲数据
    112     AVPacket        *ptPacket=NULL;//存储一帧压缩编码数据
    113     int             iRet =0;
    114     int             iGotPicture=0;//解码函数的返回参数,got_picture_ptr Zero if no frame could be decompressed, otherwise, it is nonzero
    115 
    116     /*------------SDL----------------*/
    117     int iScreenWidth=0, iScreenHeight=0;//视频的宽和高,指向ptCodecContext中的宽和高
    118     SDL_Window *ptSdlWindow=NULL;//用于sdl显示视频的窗口(用于显示的屏幕)
    119     SDL_Renderer* ptSdlRenderer=NULL;//sdl渲染器,把纹理数据画(渲染)到window上
    120     SDL_Texture* ptSdlTexture=NULL;//sdl纹理数据,用于存放像素(采样)数据,然后给渲染器
    121     SDL_Rect tSdlRect ={0};//正方形矩形结构,存了矩形的坐标,长宽,以便确定纹理数据画在哪个位置,确定位置用,比如画在左上角就用这个来确定。被渲染器调用
    122     SDL_Thread *ptVideoControlTID=NULL;//sdl线程id,线程的句柄
    123     SDL_Event tSdlEvent = {0};//sdl事件,代表一个事件
    124 
    125     /*------------像素数据处理----------------*/
    126     struct SwsContext *ptImgConvertInfo;//图像转换(上下文)信息,图像转换函数sws_scale需要的参数,由sws_getContext函数赋值
    127 
    128 
    129 
    130     /*------------FFmpeg----------------*/
    131     av_register_all();//注册FFmpeg所有组件
    132     avformat_network_init();//初始化网络组件
    133     
    134     ptFormatContext = avformat_alloc_context();//分配空间给ptFormatContext
    135     if (avformat_open_input(&ptFormatContext, strFilePath, NULL, NULL) != 0) 
    136     {//打开输入视频文件
    137         printf("Couldn't open input stream.
    ");
    138         return -1;
    139     }
    140     if (avformat_find_stream_info(ptFormatContext, NULL)<0) 
    141     {//获取视频文件信息
    142         printf("Couldn't find stream information.
    ");
    143         return -1;
    144     }
    145     //获取编码器相关信息上下文,并赋值给ptCodecContext
    146     iVideoindex = -1;
    147     for (i = 0; i<ptFormatContext->nb_streams; i++)
    148     {
    149         if (ptFormatContext->streams[i]->codec->codec_type == AVMEDIA_TYPE_VIDEO) 
    150         {
    151             iVideoindex = i;
    152             break;
    153         }
    154     }
    155     if (iVideoindex == -1) 
    156     {
    157         printf("Didn't find a video stream.
    ");
    158         return -1;
    159     }
    160     ptCodecContext = ptFormatContext->streams[iVideoindex]->codec;
    161     
    162     ptCodec = avcodec_find_decoder(ptCodecContext->codec_id);//查找解码器
    163     if (ptCodec == NULL) 
    164     {
    165         printf("Codec not found.
    ");
    166         return -1;
    167     }
    168     if (avcodec_open2(ptCodecContext, ptCodec, NULL)<0) 
    169     {//打开解码器
    170         printf("Could not open codec.
    ");
    171         return -1;
    172     }
    173     
    174     ptPacket = (AVPacket *)av_malloc(sizeof(AVPacket));//分配保存解码前数据的空间
    175     ptFrame = av_frame_alloc();//分配结构体空间,结构体内部的指针指向的数据暂未分配,用于保存图像转换前的像素数据
    176     
    177     /*------------像素数据处理----------------*/
    178     ptFrameAfterScale = av_frame_alloc();//分配结构体空间,结构体内部的指针指向的数据暂未分配,用于保存图像转换后的像素数据
    179     pucFrameAfterScaleBuf = (uint8_t *)av_malloc(avpicture_get_size(PIX_FMT_YUV420P, ptCodecContext->width, ptCodecContext->height));//分配保存数据的空间
    180      /*int avpicture_fill(AVPicture *picture, uint8_t *ptr,int pix_fmt, int width, int height);
    181     这个函数的使用本质上是为已经分配的空间的结构体(AVPicture *)ptFrame挂上一段用于保存数据的空间,
    182     这个结构体中有一个指针数组data[AV_NUM_DATA_POINTERS],挂在这个数组里。一般我们这么使用:
    183     1) pFrameRGB=avcodec_alloc_frame();
    184     2) numBytes=avpicture_get_size(PIX_FMT_RGB24, pCodecCtx->width,pCodecCtx->height);
    185         buffer=(uint8_t *)av_malloc(numBytes*sizeof(uint8_t));
    186     3) avpicture_fill((AVPicture *)pFrameRGB, buffer, PIX_FMT_RGB24,pCodecCtx->width, pCodecCtx->height);
    187     以上就是为pFrameRGB挂上buffer。这个buffer是用于存缓冲数据的。
    188     ptFrame为什么不用fill空间。主要是下面这句:
    189     avcodec_decode_video(pCodecCtx, pFrame, &frameFinished,packet.data, packet.size);
    190     很可能是ptFrame已经挂上了packet.data,所以就不用fill了。*/
    191     avpicture_fill((AVPicture *)ptFrameAfterScale, pucFrameAfterScaleBuf, PIX_FMT_YUV420P, ptCodecContext->width, ptCodecContext->height);    
    192     //sws开头的函数用于处理像素(采样)数据
    193     ptImgConvertInfo = sws_getContext(ptCodecContext->width, ptCodecContext->height, ptCodecContext->pix_fmt,
    194         ptCodecContext->width, ptCodecContext->height, PIX_FMT_YUV420P, SWS_BICUBIC, NULL, NULL, NULL);//获取图像转换(上下文)信息
    195 
    196     /*------------SDL----------------*/
    197     if (SDL_Init(SDL_INIT_VIDEO | SDL_INIT_TIMER)) 
    198     {//初始化SDL系统
    199         printf("Could not initialize SDL - %s
    ", SDL_GetError());
    200         return -1;
    201     }
    202     //SDL 2.0 Support for multiple windows
    203     iScreenWidth = ptCodecContext->width;
    204     iScreenHeight = ptCodecContext->height;
    205     ptSdlWindow = SDL_CreateWindow("Simplest ffmpeg player's Window", SDL_WINDOWPOS_UNDEFINED, SDL_WINDOWPOS_UNDEFINED,
    206         iScreenWidth, iScreenHeight, SDL_WINDOW_OPENGL);//创建窗口SDL_Window
    207 
    208     if (!ptSdlWindow) 
    209     {
    210         printf("SDL: could not create window - exiting:%s
    ", SDL_GetError());
    211         return -1;
    212     }
    213     ptSdlRenderer = SDL_CreateRenderer(ptSdlWindow, -1, 0);//创建渲染器SDL_Renderer
    214     //IYUV: Y + U + V  (3 planes)
    215     //YV12: Y + V + U  (3 planes)
    216     //创建纹理SDL_Texture
    217     ptSdlTexture = SDL_CreateTexture(ptSdlRenderer, SDL_PIXELFORMAT_IYUV, SDL_TEXTUREACCESS_STREAMING, ptCodecContext->width, ptCodecContext->height);
    218 
    219     tSdlRect.x = 0;//x y值是左上角为圆点开始的坐标值,调整x y值以及w h值,就可以实现在窗口的指定位置显示,没有画面的地方为黑框
    220     tSdlRect.y = 0;//当x y等于0,w h等于窗口的宽高时即为全屏显示,此时调整宽高大小,只需调整窗口大小即可
    221     tSdlRect.w = iScreenWidth;
    222     tSdlRect.h = iScreenHeight;
    223 
    224     ptVideoControlTID = SDL_CreateThread(RefreshPlayThread, NULL, NULL);//创建一个线程
    225     
    226     while (1) 
    227     {//Event Loop        
    228         SDL_WaitEvent(&tSdlEvent);//Wait,等待其他线程过来的事件
    229         if (tSdlEvent.type == PLAY_REFRESH_EVENT) //自定义刷新图像(播放)事件
    230         {
    231             /*------------FFmpeg----------------*/
    232             if (av_read_frame(ptFormatContext, ptPacket) >= 0) //从输入文件读取一帧压缩数据
    233             {
    234                 if (ptPacket->stream_index == iVideoindex) 
    235                 {
    236                     iRet = avcodec_decode_video2(ptCodecContext, ptFrame, &iGotPicture, ptPacket);//解码一帧压缩数据
    237                     if (iRet < 0) 
    238                     {
    239                         printf("Decode Error.
    ");
    240                         return -1;
    241                     }
    242                     if (iGotPicture) 
    243                     {
    244                         //图像转换,sws_scale()函数需要用到的转换信息,即第一个参数,是由sws_getContext函数获得的
    245                         sws_scale(ptImgConvertInfo, (const uint8_t* const*)ptFrame->data, ptFrame->linesize, 0, ptCodecContext->height, ptFrameAfterScale->data, ptFrameAfterScale->linesize);
    246 
    247                         /*------------SDL----------------*/
    248                         SDL_UpdateTexture(ptSdlTexture, NULL, ptFrameAfterScale->data[0], ptFrameAfterScale->linesize[0]);//设置(更新)纹理的数据
    249                         SDL_RenderClear(ptSdlRenderer);//先清除渲染器里的数据
    250                         //SDL_RenderCopy( ptSdlRenderer, ptSdlTexture, &tSdlRect, &tSdlRect );  //将纹理的数据拷贝给渲染器
    251                         SDL_RenderCopy(ptSdlRenderer, ptSdlTexture, NULL, NULL);//将纹理的数据拷贝给渲染器
    252                         SDL_RenderPresent(ptSdlRenderer);//显示
    253                     }
    254                 }
    255                 av_free_packet(ptPacket);//释放空间
    256             }
    257             else 
    258             {                
    259                 g_iThreadExitFlag = 1;//Exit Thread
    260             }
    261         }
    262         else if (tSdlEvent.type == SDL_QUIT) //也是SDL自带的事件,当点击窗口的×时触发//SDL_WINDOWENVENT sdl系统自带的事件,当拉伸窗口的时候会触发
    263         {
    264             g_iThreadExitFlag = 1;
    265         }
    266         else if (tSdlEvent.type == PLAY_BREAK_EVENT) //自定义退出播放事件
    267         {
    268             break;
    269         }
    270 
    271     }
    272     
    273     /*------------像素数据处理----------------*/
    274     sws_freeContext(ptImgConvertInfo);//释放空间
    275     
    276     /*------------SDL----------------*/
    277     SDL_Quit();//退出SDL系统
    278 
    279     /*------------FFmpeg----------------*/
    280     av_frame_free(&ptFrameAfterScale);//释放空间
    281     av_frame_free(&ptFrame);//释放空间
    282     avcodec_close(ptCodecContext);//关闭解码器
    283     avformat_close_input(&ptFormatContext);//关闭输入视频文件
    284 
    285     return 0;
    286 }
    FFmpegAndSDL.cpp

    具体代码见github:

    https://github.com/fengweiyu/FFmpegAndSDL

  • 相关阅读:
    mongodb 条件查询
    node 创建静态web服务器(下)(处理异步获取数据的两种方式)
    node 创建静态web服务器(上)
    node.js 从文件流中读写数据及管道流
    node.js 中的 fs (文件)模块
    vue-router 嵌套路由
    (转载)js调用打印机 打印整体或部分
    web react面试题
    vue 面试题
    vue 父页面中含子页面滑动,滑动结束,底部组件进行滑动
  • 原文地址:https://www.cnblogs.com/yuweifeng/p/8761697.html
Copyright © 2011-2022 走看看