NewLife.Net——网络压测单机2266万tps

NewLife.Net压力测试，峰值4.2Gbps，50万pps，消息大小24字节，消息处理速度2266万tps！

共集合20台高配ECS参与测试，主服务器带宽6Gbps、100万pps，16核心64G内存。另外19台共模拟400个用户连接，13*16+6*32=400，每用户发送2000万个消息，服务端收到后原样返回。

tps意义非常重大，就是告诉所有人，.Net下普普通通的Socket封装，甚至没有使用MSDN的Pool，就能得到非常不错的性能！

*感谢楼下提醒，错误计算了速度，算法如下：

每秒流量 = 4.2G / 8 = 537.6M （进出都是4.2Gbps）

包头消耗 = 50万 * 40 = 19M （50万包，ip+tcp头40字节）

处理速度 = (537.6M - 19M) / 24 = 22,657,979 = 2266万

另外每个nc客户端均有速度计算，102万~200万tps之间，共19客户端，与上吻合

由于我的疏忽，只是简单拿4.2G除以24得到1.88亿，也没有汇总各客户端数据，给出了错误数据，非常抱歉！

（有考虑tcp包头，因报文很短必然粘包，按MTU=1500算误差2.7%，所以直接没有算进去）

有些同学比较着急，觉得前面两篇有点小儿科，群友就说，上数字吧！

我们在2017.4.1做了一个极限并发测试，奔着单机100万并发，实际上只得到了84.5万，这次补一个吞吐量的压力测试好了。

老规矩，先上代码：https://github.com/NewLifeX/NewLife.Net

一、测试结果

二、服务端修改

我们对前一篇文章的例程稍微调整一下：

 class MyNetSession : NetSession<MyNetServer>
 {
     /// <summary>客户端连接</summary>
     public override void Start()
     {
         base.Start();

         // 欢迎语
         var str = String.Format("Welcome to visit {1}!  [{0}]
", Remote, Environment.MachineName);
         Send(str);
     }

     /// <summary>收到客户端数据</summary>
     /// <param name="e"></param>
     protected override void OnReceive(ReceivedEventArgs e)
     {
         //WriteLog("收到：{0}", e.Packet.ToStr());

         // 把收到的数据发回去
         Send(e.Packet);
     }
 }

把显示收到数据的那一行给注释了，否则这一行就能玩死千万级测试，更别说亿万级了。

服务主函数的线程数也要从2改为1，关闭第二个向所有客户端定时群发时间的任务。

public MyService()
{
    ServiceName = "EchoAgent";
    DisplayName = "回声服务";
    Description = "这是NewLife.Net的一个回声服务示例！";

    // 准备两个工作线程，分别负责输出日志和向客户端发送时间
    //ThreadCount = 2;
    ThreadCount = 1;
    Intervals = new[] { 1, 5 };
}

三、增加客户端压测项目

新建控制台项目Benchmark，并从nuget引用NewLife.Core

入口函数需要分析参数：

static void Main(String[] args)
{
    XTrace.UseConsole();

    try
    {
        var cfg = new Config();

        // 分解参数
        if (args != null && args.Length > 0) cfg.Parse(args);

        // 显示帮助菜单或执行
        if (cfg.Address.IsNullOrEmpty())
            ShowHelp();
        else
            Work(cfg);
    }
    catch (Exception ex)
    {
        XTrace.WriteException(ex.GetTrue());
    }

    //Console.WriteLine("OK!");
    //Console.ReadKey();
}

主函数就是开一定数量的LongTask，然后等待

static void Work(Config cfg)
{
    var uri = new NetUri(cfg.Address);
    if (cfg.Content.IsNullOrEmpty()) cfg.Content = "学无先后达者为师";
    var pk = new Packet(cfg.Content.GetBytes());

    Console.ForegroundColor = ConsoleColor.Red;
    Console.WriteLine("NewLife.NC v{0}", AssemblyX.Entry.Version);

    Console.ForegroundColor = ConsoleColor.Yellow;
    Console.WriteLine("目标：{0}", uri);
    Console.WriteLine("请求：{0:n0}", cfg.Times);
    Console.WriteLine("并发：{0:n0}", cfg.Thread);
    Console.WriteLine("并发：[{0:n0}] {1}", pk.Count, cfg.Content);
    Console.ResetColor();
    Console.WriteLine();

    var sw = Stopwatch.StartNew();

    // 多线程
    var ts = new List<Task>();
    var total = 0;
    for (var i = 0; i < cfg.Thread; i++)
    {
        var tsk = Task.Factory.StartNew(() =>
        {
            try
            {
                var client = uri.CreateRemote();
                client.Open();
                for (var k = 0; k < cfg.Times; k++)
                {
                    client.Send(pk);
                    Interlocked.Increment(ref total);
                }
            }
            catch { }
        }, TaskCreationOptions.LongRunning);
        ts.Add(tsk);
    }
    Task.WaitAll(ts.ToArray());

    sw.Stop();

    Console.WriteLine("完成：{0:n0}", total);

    var ms = sw.Elapsed.TotalMilliseconds;
    Console.WriteLine("速度：{0:n0}tps", total * 1000L / ms);
}

四、上线测试

从阿里云分批租用最高配置的竞价实例20台。统一选择华东2（上海）的D区，因为代码压测只能使用内网，公网达不到这个速度。

整个华东2D最高配就是大数据网络增强型，仅剩的7台都拿下，其中一台作为服务端跑EchoAgent，另外再补13台8核的机器，共19台跑nc（Benchmark）。

在8核心机器上（13台），测试命令：

nc -n 20000000 -c 16 tcp://172.19.227.198:1234 

在16核心机器上（6台），测试命令

nc -n 20000000 -c 32 tcp://172.19.227.198:1234 

五、结论

人有多大胆，地有多大产！

虽然这次的EchoTest只是简单把数据包发回来，没有挂载复杂业务，但是说明了网络库不是瓶颈，只要硬件性能跟得上，它要多强有多强！

e.Packet的设计，实际上实现了ZeroCopy，同时大大减轻了GC负担，后面会有专门文章提到。

网络库NewLife.Net支持.Net Core 2.0，但XAgent不支持，毕竟它是Windows服务。

这次测试在 .Net Framework v4.6.1 上进行。

网络系列文章，是为了一步步介绍X组件网络库 NewLife.Net的设计理念，从2005年开始，活了13年，不管是成功还是失败，都积累了很多的经验。

我是大石头，打1999年起，19年老码农。目前在物流行业从事数据分析架构工作，日常工作都是亿万数据的读写使用。欢迎大家一起C#大数据！