zoukankan      html  css  js  c++  java
  • 多线程环境下调用 HttpWebRequest 并发连接限制

    .net 的 HttpWebRequest 或者 WebClient 在多线程情况下存在并发连接限制,这个限制在桌面操作系统如 windows xp , windows  7 下默认是2,在服务器操作系统上默认为10. 如果不修改这个并发连接限制,那么客户端同时可以建立的 http 连接数就只有2个或10个。对于一些诸如浏览器或网络蜘蛛的应用,2个或10个并发数量实在太少,大大影响应用的性能。之所以有这个并发连接限制,是因为 http 1.0 和 http 1.1 标准规定并发连接数最大为2. 不过目前主流的浏览器都已经不遵循这个规则了,但 .net framework 依然默认遵循这个规则。

    很多文章说用异步方式访问 HttpWebRequest 可以提高并发性能,但我测试下来,如果不修改这个默认并发连接数,同步或异步方式访问性能都很不好。

    调整这个默认并发连接限制的方法很简单

    只要在程序中设置:

    System.Net.ServicePointManager.DefaultConnectionLimit = 512;

    这个值最好不要超过1024。

    我们也可以在app.config 中对最大并发连接数进行设置,方法如下:

    <configuration>
    <system.net>
    <connectionManagement>
    <add address = "http://www.google.com" maxconnection = "512" />
    <add address = "*" maxconnection = "512" />
    </connectionManagement>
    </system.net>
    </configuration>
     

    修改了这个设置后,并发性能明显提高,从原来每秒钟20次直接上升到每秒钟1000多次。

  • 相关阅读:
    BERT基础知识
    TorchText使用教程
    Pytorch-中文文本分类
    预处理算法_5_数据集划分
    预处理算法_4_表堆叠
    预处理算法_3_新增序列
    预处理算法_2_类型转换
    预处理算法_1_表连接
    爬取网站所有目录文件
    如何将Docker升级到最新版本
  • 原文地址:https://www.cnblogs.com/eaglet/p/2507179.html
Copyright © 2011-2022 走看看