zoukankan      html  css  js  c++  java
  • EasyRTMP实现的rtmp推流的基本协议流程

    EasyRTMP介绍

    EasyRTMP是结合了多种音视频缓存及网络技术的一个rtmp直播推流端,包括:圆形缓冲区(circular buffer)、智能丢帧、自动重连、rtmp协议等等多种技术,能够非常有效地适应各种平台(Windows、Linux、ARM、Android、iOS),各种网络环境(有线、wifi、4G),以及各种情况下的直播恢复(服务器重启、网络重启、硬件设备重启),今天我们讲解的是EasyRTMP中rtmp推送连接的建立、推送H264+AAC音视频、以及rtmp推送重连过程的详细讲解;

    librtmp实现的RTMP基本协议

    EasyRTMP中RTMP推送流程依然采用的是业界良心的librtmp,其稳定性和可靠性毋庸置疑,已经得到了广大的开发者的验证,所以EasyRTMP也直接采用了librtmp,librtmp的下载可以到:http://rtmpdump.mplayerhq.hu/ 下载版本,直入主题,我们对librtmp的代码进行分析,librtmp的推送流程主要包括:握手、分块、Connect、Metadata、SendStream(Video&Audio)、Close等等流程,我们引用了博客http://blog.csdn.net/leixiaohua1020/article/details/42105049中对RTMP推送流程的解析:

    EasyRTMP

    整个程序包含3个接口函数:
    RTMP264_Connect():建立RTMP连接。
    RTMP264_Send():发送数据。
    RTMP264_Close():关闭RTMP连接。
    按照顺序调用上述3个接口函数就可以完成H.264码流的发送。

    结构图中关键函数的作用如下所列。

    RTMP264_Connect()中包含以下函数:
    InitSockets():初始化Socket
    RTMP_Alloc():为结构体“RTMP”分配内存。
    RTMP_Init():初始化结构体“RTMP”中的成员变量。
    RTMP_SetupURL():设置输入的RTMP连接的URL。
    RTMP_EnableWrite():发布流的时候必须要使用。如果不使用则代表接收流。
    RTMP_Connect():建立RTMP连接,创建一个RTMP协议规范中的NetConnection。
    RTMP_ConnectStream():创建一个RTMP协议规范中的NetStream。

    RTMP264_Send()中包含以下函数:
    ReadFirstNaluFromBuf():从内存中读取出第一个NAL单元
    ReadOneNaluFromBuf():从内存中读取出一个NAL单元
    h264_decode_sps():解码SPS,获取视频的宽,高,帧率信息
    SendH264Packet():发送一个NAL单元

    SendH264Packet()中包含以下函数:
    SendVideoSpsPps():如果是关键帧,则在发送该帧之前先发送SPS和PPS
    SendPacket():组装一个RTMPPacket,调用RTMP_SendPacket()发送出去
    RTMP_SendPacket():发送一个RTMP数据RTMPPacket

    RTMP264_Close()中包含以下函数:
    RTMP_Close():关闭RTMP连接
    RTMP_Free():释放结构体“RTMP”
    CleanupSockets():关闭Socket

    RTMP直播推流中需要注意的点

    这里在简书上有一篇:http://www.jianshu.com/p/00aceabce944 已经说的很到位了,我们直接引用,希望能够给大家带来帮助:

    1. RTMP 握手

    RTMP 握手分为简单握手和复杂握手,现在Adobe公司使用RTMP协议的产品应该用的都是复杂握手,这里不介绍,只说简单握手。 按照网上的说法RTMP握手的过程如下

    1. 握手开始于客户端发送C0、C1块。服务器收到C0或C1后发送S0和S1。
    2. 当客户端收齐S0和S1后,开始发送C2。当服务器收齐C0和C1后,开始发送S2。
    3. 当客户端和服务器分别收到S2和C2后,握手完成。

    在实际工程应用中,一般是客户端先将C0, C1块同时发出,服务器在收到C1 之后同时将S0, S1, S2发给客户端。S2的内容就是收到的C1块的内容。之后客户端收到S1块,并原样返回给服务器,简单握手完成。按照RTMP协议个要求,客户端需要校验C1块的内容和S2块的内容是否相同,相同的话才彻底完成握手过程,实际编写程序用一般都不去做校验。

    RTMP握手的这个过程就是完成了两件事:1. 校验客户端和服务器端RTMP协议版本号,2. 是发了一堆数据,猜想应该是测试一下网络状况,看看有没有传错或者不能传的情况。RTMP握手是整个RTMP协议中最容易实现的一步,接下来才是大头。

    2. RTMP 分块

    创建RTMP连接算是比较难的地方,开始涉及消息分块(chunking)和 AFM(也是Adobe家的东西)格式数据的一些东西,在上面提到的文章中也有介绍为什要进行RTMP分块。

    Chunk Size
    RTMP是按照chunk size进行分块,chunk size指的是 chunk的payload部分的大小,不包括chunk basic header 和 chunk message header,即chunk的body的大小。客户端和服务器端各自维护了两个chunk size, 分别是自身分块的chunk size 和 对端 的chunk size, 默认的这两个chunk size都是128字节。通过向对端发送set chunk size 消息告知对方更改了 chunk size的大小,即告诉对端:我接下来要以xxx个字节拆分RTMP消息,你在接收到消息的时候就按照新的chunk size 来组包。
    在实际写代码的时候一般会把chunk size设置的很大,有的会设置为4096,FFMPEG推流的时候设置的是 60*1000,这样设置的好处是避免了频繁的拆包组包,占用过多的CPU。设置太大的话也不好,一个很大的包如果发错了,或者丢失了,播放端就会出现长时间的花屏或者黑屏等现象。
    
    Chunk Type
    RTMP 分成的Chunk有4中类型,可以通过 chunk basic header的 高两位指定,一般在拆包的时候会把一个RTMP消息拆成以 Type_0 类型开始的chunk,之后的包拆成 Type_3 类型的chunk,我查看了有不少代码也是这样实现的,这样也是最简单的实现。
    RTMP 中关于Message 分chunk只举了两个例子,这两个例子不是很具有代表性。假如第二个message和第一个message的message stream ID 相同,并且第二个message的长度也大于了chunk size,那么该如何拆包?当时查了很多资料,都没有介绍。后来看了一些源码,发现第二个message可以拆成Type_1类型一个chunk, message剩余的部分拆成Type_3类型的chunk。FFMPEG中好像就是这么做的。
    

    3. RTMP 消息

    • Connect消息
      握手之后先发送一个connect 命令消息,命令里面包含什么东西,协议中没有说,真实通信中要指定一些编解码的信息,这些信息是以AMF格式发送的, 下面是用swift 写的connect命令包含的参数信息:

         transactionID += 1 // 0x01
          let command:RTMPCommandMessage = RTMPCommandMessage(commandName: "connect", transactionId: transactionID, messageStreamId: 0x00)
          let objects:Amf0Object = Amf0Object()
          objects.setProperties("app", value: rtmpSocket.appName)
          objects.setProperties("flashVer",value: "FMLE/3.0 (compatible; FMSc/1.0)")
          objects.setProperties("swfUrl", value:"")
          objects.setProperties("tcUrl", value: "rtmp://" + rtmpSocket.hostname + "/" + rtmpSocket.appName)
          objects.setProperties("fpad", value: false)
          objects.setProperties("capabilities", value:239)
          objects.setProperties("audioCodecs", value:3575)
          objects.setProperties("videoCodecs", value:252)
          objects.setProperties("videoFunction",value: 1)
          objects.setProperties("pageUrl",value: "")
          objects.setProperties("objectEncoding",value: 0)
      

    服务器返回的是一个_result命令类型消息,这个消息的payload length一般不会大于128字节,但是在最新的nginx-rtmp中返回的消息长度会大于128字节,所以一定要做好收包,组包的工作。
    关于消息的transactionID是用来标识command类型的消息的,服务器返回的_result消息可以通过 transactionID来区分是对哪个命令的回应,connect 命令发完之后还要发送其他命令消息,要保证他们的transactionID不相同。
    发送完connect命令之后一般会发一个 set chunk size消息来设置chunk size 的大小,也可以不发。
    Window Acknowledgement Size 是设置接收端消息窗口大小,一般是2500000字节,即告诉客户端你在收到我设置的窗口大小的这么多数据之后给我返回一个ACK消息,告诉我你收到了这么多消息。在实际做推流的时候推流端要接收很少的服务器数据,远远到达不了窗口大小,所以基本不用考虑这点。而对于服务器返回的ACK消息一般也不做处理,我们默认服务器都已经收到了这么多消息。
    之后要等待服务器对于connect的回应的,一般是把服务器返回的chunk都读完组成完整的RTMP消息,没有错误就可以进行下一步了。

    • Create Stream 消息

    创建完RTMP连接之后就可以创建RTMP流,客户端要想服务器发送一个releaseStream命令消息,之后是FCPublish命令消息,在之后是createStream命令消息。当发送完createStream消息之后,解析服务器返回的消息会得到一个stream ID, 这个ID也就是以后和服务器通信的 message stream ID, 一般返回的是1,不固定。

    • Publish Stream

    推流准备工作的最后一步是 Publish Stream,即向服务器发一个publish命令,这个命令的message stream ID 就是上面 create stream 之后服务器返回的stream ID,发完这个命令一般不用等待服务器返回的回应,直接下一步发送音视频数据。有些rtmp库 还会发setMetaData消息,这个消息可以发也可以不发,里面包含了一些音视频编码的信息。

    4. 发布音视频

    当以上工作都完成的时候,就可以发送音视频了。音视频RTMP消息的Payload中都放的是按照FLV-TAG格式封的音视频包,具体可以参照FLV协议文档。

    5. 关于RTMP的时间戳

    RTMP的时间戳在发送音视频之前都为零,开始发送音视频消息的时候只要保证时间戳是单增的基本就可以正常播放音视频。我读Srs-librtmp的源码,发现他们是用h264的dts作为时间戳的。我在用java写的时候是先获取了下当前系统时间,然后每次发送消息的时候都与这个起始时间相减,得到时间戳。

    6. 关于Chunk Stream ID

    RTMP 的Chunk Steam ID是用来区分某一个chunk是属于哪一个message的 ,0和1是保留的。每次在发送一个不同类型的RTMP消息时都要有不用的chunk stream ID, 如上一个Message 是command类型的,之后要发送视频类型的消息,视频消息的chunk stream ID 要保证和上面 command类型的消息不同。每一种消息类型的起始chunk 的类型必须是 Type_0 类型的,表明我是一个新的消息的起始。

    EasyRTMP实现的重连过程

    EasyRTMP对librtmp实现了一层封装,不断会检测librtmp直播推送当前的RTMP连接状态,当检测到librtmp连接与RTMP流媒体服务器断开的时候,我们会重新进行整个RTMP的握手、Connect、metadata的流程,这样就能够保证在没有人为干预的情况下,EasyRTMP对外能提供稳定的推送服务,外部只需要考虑将生产者生产的音视频数据源源不断地往EasyRTMP接口进行推送就可以了,而且EasyRTMP的音视频推送接口也是采用的异步模式,内部线程进行发送处理,这样就保证了外围调用者的工作效率,不会像直接调用librtmp那样,在网络较差的情况下,会出现发送阻塞等问题!

    Github

    https://github.com/EasyDarwin/EasyRTMP

    获取更多信息

    邮件:support@easydarwin.org

    WEB:www.EasyDarwin.org

    Copyright © EasyDarwin.org 2012-2016

    EasyDarwin

  • 相关阅读:
    POJ 1611 : The Suspects (普通并查集)
    深入解析 Dubbo 3.0 服务端暴露全流程
    智能搜索推荐一体化营收增长解决方案
    云上应用系统数据存储架构演进
    EMR on ACK 全新发布,助力企业高效构建大数据平台
    介绍一下闭包和闭包常用场景?
    BFC
    高斯消元学习笔记
    云虚拟主机如何设置域名解析
    Centos7.3安装openJDK
  • 原文地址:https://www.cnblogs.com/babosa/p/6032987.html
Copyright © 2011-2022 走看看