.Net 下通过缓存提高TCP传输速度

    .Net 提供了一个NetworkStream 用于TCP 的读写，实际使用时发现直接操作效率很低，哪怕把TCP 的发送缓存和接受缓存设置很大也没有太大提高。后来在对 NetworkStream 读写前设置了缓存，性能一下子提高了很多。

    从实际测试结果看设置自己的写缓存，对性能的提升最为显著。我分析了一下，其原因很可能是在向NetworkStream 序列化对象时，序列化程序调用了大量的Write 方法向NetworkStream写入数据，每次向NetworkStream写入数据，数据被首先写入TCP的发送缓存，并且由调用线程设置一个信号通知.Net framework 内部的TCP线程发送缓冲区中已经有数据，TCP线程被激活并读取发送缓冲区中的数据，组包并向网卡写入数据。频繁的调用 NetworkStream.Write 写入小块数据将导致调用线程和TCP线程反复切换，并大量触发网卡中断，导致发送效率低下。如果我们在发送前将数据缓存并按较大的数据块发送给TCP线程，则大大减少线程切换和网卡中断数量，从而大大提高传输效率。

    问题到这里还没有结束，我们发送的对象往往较大，如果我们将发送对象全部序列化到buffer中再发送，那么势必占用大量内存，实际上我们无法忍受这种对内存无限制申请的行为，试想一个1G大小的对象，我们在发送前为它另外再开辟1个G的内存来缓存，对于系统来说简直是无法忍受。由于我们用.net 发送数据,我们在发送时需要将对象序列化到流中，而不能像 C/C++那样直接通过指针来读取数据（当然你也可以用unsafe代码，但这种方式会带来其他问题，而且并不为大家所推荐），所以我们需要开发一个专门用 TCP 发送缓存的流来处理读写前的缓存。为此我开发了一个 TcpCacheStream 类，这个类被用在读写 NetworkStream 前先进行缓存。

    调用方法很简单

   

• 发送过程

object msg;
//初始化 msg 过程省略
System.Net.Sockets.NetworkStream _ClientStream;
//初始化 _ClientStream 过程省略

//创建TcpCacheStream
TcpCacheStream tcpStream = new TcpCacheStream(_ClientStream);

//二进制序列化 msg 对象到 TcpCacheStream
IFormatter formatter = new BinaryFormatter();
formatter.Serialize(tcpStream, msg);

//将缓存中最后一包的数据发送出去
tcpStream.Flush();

  

• 接收过程

System.Net.Sockets.NetworkStream _ClientStream;
//初始化 _ClientStream 过程省略

//创建TcpCacheStream
TcpCacheStream tcpStream = new TcpCacheStream(_ClientStream);

//从 TcpCacheStream 二进制反序列化
IFormatter formatter = new BinaryFormatter();
objcet result = formatter.Deserialize(tcpStream);

TcpCacheStream 类为调用者封装了缓存的过程，这个缓存过程实际并不复杂，发送时数据先写入TcpCacheStream的buf中，当buf满后才向NetworkStream 写入数据，否则只缓存。由于最后一包不能保证正好填满buf，我们在写入数据后一定要调用 Flush 方法，将所有数据都发送出去。接收的过程反过来，如果buf中没有数据，就先将数据读入到buf中，然后再COPY给调用者，如果已经有数据则直接COPY给调用者。

TcpCacheStream 的代码如下：

    [Serializable]
    public class TcpCacheStream : Stream
    {
        #region Private fields
        const int BUF_SIZE = 4096;
        private byte[] _Buf = new byte[BUF_SIZE];

        private MemoryStream _CacheStream = new MemoryStream(BUF_SIZE);
        private NetworkStream _NetworkStream;

        private int _BufLen = 0;

        #endregion

        #region Private properties

        private MemoryStream CacheStream
        {
            get
            {
                return _CacheStream;
            }
        }

        #endregion


        #region Public properties

        /// <summary>
        /// get or set the Network Stream
        /// </summary>
        public NetworkStream NetworkStream
        {
            get
            {
                return _NetworkStream;
            }
        }

        #endregion


        public TcpCacheStream(NetworkStream networkStream)
        {
            _NetworkStream = networkStream;
        }

        #region Implement stream class

        public override bool CanRead
        {
            get
            {
                return true;
            }
        }

        public override bool CanSeek
        {
            get
            {
                return false;
            }
        }

        public override bool CanWrite
        {
            get
            {
                return true;
            }
        }

        public override void Flush()
        {
            NetworkStream.Write(_Buf, 0, _BufLen);
            NetworkStream.Flush();
        }

        public override long Length
        {
            get
            {
                throw new Exception("This stream can not seek!");
            }
        }

        public override long Position
        {
            get
            {
                throw new Exception("This stream can not seek!");
            }

            set
            {
                throw new Exception("This stream can not seek!");
            }
        }

        public override int Read(byte[] buffer, int offset, int count)
        {
            int len = 0;

            //If cache is not empty, read from cache
            if (CacheStream.Length > CacheStream.Position)
            {
                len = CacheStream.Read(buffer, offset, count);
                return len;
            }

            //Fill cache
            len = NetworkStream.Read(_Buf, 0, BUF_SIZE);

            if (len == 0)
            {
                return 0;
            }

            CacheStream.Position = 0;
            CacheStream.Write(_Buf, 0, len);
            CacheStream.SetLength(len);
            CacheStream.Position = 0;

            len = CacheStream.Read(buffer, offset, count);

            return len;
        }

        public override long Seek(long offset, SeekOrigin origin)
        {
            throw new Exception("This stream can not seek!");
        }

        public override void SetLength(long value)
        {
            throw new Exception("This stream can not seek!");
        }

        public override void Write(byte[] buffer, int offset, int count)
        {
            if (offset + count > buffer.Length)
            {
                throw new ArgumentException("Count + offset large then buffer.Length");
            }

            int remain = count - (BUF_SIZE - _BufLen);

            if (remain < 0)
            {
                Array.Copy(buffer, offset, _Buf, _BufLen, count);
                _BufLen = BUF_SIZE + remain;
            }
            else
            {
                Array.Copy(buffer, offset, _Buf, _BufLen, BUF_SIZE - _BufLen);
                NetworkStream.Write(_Buf, 0, _Buf.Length);

                Array.Copy(buffer, offset + BUF_SIZE - _BufLen, _Buf, 0, remain);

                _BufLen = remain;
            }
        }

        #endregion
    }