zoukankan      html  css  js  c++  java
  • day 33 IO模型

    一、IO模型的介绍

    1、IO模型在Read时会发生两个阶段

    等待数据准备

    将数据从内核拷贝到进程中

    二、阻塞IO

     

     blocking IO的特点就是在IO执行的两个阶段(等待数据和拷贝数据两个阶段)都被block了

     

     实际上,除非特别指定,几乎所有的IO接口 ( 包括socket接口 ) 都是阻塞型的。这给网络编程带来了一个很大的问题,如在调用recv(1024)的同时,线程将被阻塞,在此期间,线程将无法执行任何运算或响应任何的网络请求。

        一个简单的解决方案:

    #在服务器端使用多线程(或多进程)。多线程(或多进程)的目的是让每个连接都拥有独立的线程(或进程),这样任何一个连接的阻塞都不会影响其他的连接。

        该方案的问题是:

    #开启多进程或都线程的方式,在遇到要同时响应成百上千路的连接请求,则无论多线程还是多进程都会严重占据系统资源,降低系统对外界响应效率,而且线程与进程本身也更容易进入假死状态。

        改进方案:    

    #很多程序员可能会考虑使用“线程池”或“连接池”。“线程池”旨在减少创建和销毁线程的频率,其维持一定合理数量的线程,并让空闲的线程重新承担新的执行任务。“连接池”维持连接的缓存池,尽量重用已有的连接、减少创建和关闭连接的频率。这两种技术都可以很好的降低系统开销,都被广泛应用很多大型系统,如websphere、tomcat和各种数据库等。

        改进后方案其实也存在着问题:

    #“线程池”和“连接池”技术也只是在一定程度上缓解了频繁调用IO接口带来的资源占用。而且,所谓“池”始终有其上限,当请求大大超过上限时,“池”构成的系统对外界的响应并不比没有池的时候效果好多少。所以使用“池”必须考虑其面临的响应规模,并根据响应规模调整“池”的大小。

        对应上例中的所面临的可能同时出现的上千甚至上万次的客户端请求,“线程池”或“连接池”或许可以缓解部分压力,但是不能解决所有问题。总之,多线程模型可以方便高效的解决小规模的服务请求,但面对大规模的服务请求,多线程模型也会遇到瓶颈,可以用非阻塞接口来尝试解决这个问题。

    三、非阻塞IO

     

    服务端

    import socket ,time

    from socket import *

    s=socket()

    s.bind(('127.0.0.1',8080))

    s.listen(5)

    s.setblocking(Flalse)

    r_list=[]

    w_list=[]

    while True:

      try:

        conn,addr=s.accept()

        r_list.append(conn)

      except BlockingIOError:

        print('可以干其它活了')

        print('rlist:',len(r_list))

        del_rlist=[]

        for conn in r_list:

          try:

            data=conn.recv(1024)

            if not data:

              conn.close()

              del_rlist.append(conn)

              continue

            w_list.append((conn,data.upper()))

          except BlockingIOError:

            continue

          except ConnectionResetError:

            conn.close()

            del_rlist.append(conn)

        del_wlist=[]

        for item in w_list:

          try:

            conn=item[0]

            res=item[1]

            conn.send(res)

            del_wlist.append(item)

          except BlockingIOError:

            continue

          except ConnectionResetError:

            conn.close()

            del_wlist.append(item)

        for conn in del_rlist:

          r_list.remove(conn)

        for item in del_wlist:

          w_list.remove(item)

    能够在等待任务完成的时间里干其他活了(包括提交其他任务,也就是 “后台” 可以有多个任务在“”同时“”执行)。

        但是也难掩其缺点:

    #1. 循环调用recv()将大幅度推高CPU占用率;这也是我们在代码中留一句time.sleep(2)的原因,否则在低配主机下极容易出现卡机情况
    #2. 任务完成的响应延迟增大了,因为每过一段时间才去轮询一次read操作,而任务可能在两次轮询之间的任意时间完成。这会导致整体数据吞吐量的降低。

        此外,在这个方案中recv()更多的是起到检测“操作是否完成”的作用,实际操作系统提供了更为高效的检测“操作是否完成“作用的接口,例如select()多路复用模式,可以一次检测多个连接是否活跃。

     四、多路复用IO

        

     强调:

        1. 如果处理的连接数不是很高的话,使用select/epoll的web server不一定比使用multi-threading + blocking IO的web server性能更好,可能延迟还更大。select/epoll的优势并不是对于单个连接能处理得更快,而是在于能处理更多的连接。

        2. 在多路复用模型中,对于每一个socket,一般都设置成为non-blocking,但是,如上图所示,整个用户的process其实是一直被block的。只不过process是被select这个函数block,而不是被socket IO给block。

        结论: select的优势在于可以处理多个连接,不适用于单个连接

    from socket import*

    import select

    s=socket()

    s.bind('127.0.0.1',8080)

    s.listen(5)

    s.setblocking(False)

    r_list=[s,]

    w_list=[]

    w_data={}

    while True:

      print('被检测r_list:',len(r_list))

      print('被检测w_list',len(w_list))

      r1,w1,x1=select.select(r_list,w_list,[],)

      for  r in rl:

        if r==s:

          conn,addr=r.accept()

          r_list.append(conn)

        else:

          try:

            data=r.recv(1024)

            if not data:

              r.close()

              r_list.remove(r)

              continue

            w_list.append(r)

            w_data[r]=data.upper()

           except ConnectionReseError:

            r.close()

            r_list.remove(r)

            continue

       for w in wl:

         w.send(w_data[w])

         w_list.remove(w)

         w_data.pop(w)

    该模型的优点:

    #相比其他模型,使用select() 的事件驱动模型只用单线程(进程)执行,占用资源少,不消耗太多 CPU,同时能够为多客户端提供服务。如果试图建立一个简单的事件驱动的服务器程序,这个模型有一定的参考价值。

        该模型的缺点:

    #首先select()接口并不是实现“事件驱动”的最好选择。因为当需要探测的句柄值较大时,select()接口本身需要消耗大量时间去轮询各个句柄。很多操作系统提供了更为高效的接口,如linux提供了epoll,BSD提供了kqueue,Solaris提供了/dev/poll,…。如果需要实现更高效的服务器程序,类似epoll这样的接口更被推荐。遗憾的是不同的操作系统特供的epoll接口有很大差异,所以使用类似于epoll的接口实现具有较好跨平台能力的服务器会比较困难。
    #其次,该模型将事件探测和事件响应夹杂在一起,一旦事件响应的执行体庞大,则对整个模型是灾难性的。

    五、异步IO

     用户进程发起read操作之后,立刻就可以开始去做其它的事。而另一方面,从kernel的角度,当它受到一个asynchronous read之后,首先它会立刻返回,所以不会对用户进程产生任何block。然后,kernel会等待数据准备完成,然后将数据拷贝到用户内存,当这一切都完成之后,kernel会给用户进程发送一个signal,告诉它read操作完成了。

     

  • 相关阅读:
    Icinga使用总结
    Linux入门:usermod
    JMeter入门(01)概念和样例
    英语日常词汇:living-room、dining-room vs dining hall
    安装 docker-compose
    CentOS7下安装python-pip
    JMeter入门(03)多台JMeter联合测试
    jmeter入门(02)测试报告各项指标含义
    istio入门(01)istio的优势在哪里?
    Docker学习笔记
  • 原文地址:https://www.cnblogs.com/lg04551/p/8980750.html
Copyright © 2011-2022 走看看