zoukankan      html  css  js  c++  java
  • Python错误提示:[Errno 24] Too many open files的分析与解决

    背景

    最近在工作中发现了一个错误,在执行多线程扫描脚本的时候频繁出现下面这个错误

    HTTPConnectionPool(host=‘t.tips', port=80): Max retries exceeded with url: /index.php (Caused by NewConnectionError('<requests.packages.urllib3.connection.HTTPConnection object at 0x7f29d4081150>: Failed to establish a new connection: [Errno 24] Too many open files',))

    比较诡异...

    分析

    博主自己手上的一些小项目经常需要进行多线程的批量扫描来采集数据,像采集数据这种功能当然是线程越多越好了,所以通常情况下我都是使用 3000 个线程进行扫描,在确定带宽充足,系统硬件配置够高的情况下依然会出现上述问题,这就让我想到是不是因为系统的限制问题。

    通过搜索引擎我找到了关于系统限制的介绍,执行

    $ ulimit -n
    1024

    得到的结果是1024,系统限制为同时打开1024个文件,这显然是太少了。

    解决

    这个问题的解决方法很简单,直接修改下面的文件

    sudo vim /etc/security/limits.conf

    最这个文件的最后添加两行代码

    * soft nofile 10240
    * hard nofile 10240

    当然这个数字根据自己的需要进行修改即可,保存后注销重新登录就好了。

  • 相关阅读:
    springboot热部署
    maven换仓库地址
    floyd求最小环+例题(hdu1599)
    矩阵乘法+folyd(hdu2807)
    TSP问题+例题
    迪杰斯特拉模板题(迪杰斯特拉模板)
    小w的糖果
    DongDong坐飞机
    DongDong跳一跳
    主席树入门
  • 原文地址:https://www.cnblogs.com/Antiver/p/8196531.html
Copyright © 2011-2022 走看看