• ASP.NET Core Web服务器 Kestrel和Http.sys 特性详解


    1.1. 名词解释

    内核态: CPU可以访问内存所有数据, 包括外围设备, 例如硬盘, 网卡. CPU也可以将自己从一个程序切换到另一个程序。

    用户态: 只能受限的访问内存, 且不允许访问外围设备. 占用CPU的能力被剥夺, CPU资源可以被其他程序获取。

    1.2. Kestrel基本工作原理

    Kestrel是进程内服务器,以一个包形式提供,自身不能单独运行,必须HOST在一个.NET的WEB应用程序中。它内部封装了对libuv的调用,但不是libuv库简单的封装库。Kestrel是个精简的,高效的Http Server。

    1.2.1. Kestrel的基本架构

    Kestrel遵循以下架构原则:

    • libuv中使用单线程的事件循环模型。
    • Kestrel支持多事件循环以支持更多的I/O。
    • Kestrel仅在libuv的事件循环中做I/O工作。
    • 所有非I/O工作,包括HTTP解析,请求帧处理等等都在标准的托管线程中进行。
    • 更少的系统调用。

    对应的架构图如下:

    • Libuv

      作为I/O底层,屏蔽各系统底层实现差异,为windows下,通过IOCP实现异步;linux下通过epoll实现异步。提供一个主程序和主循环。

    • I/O事件队列

      对应Libuv的工作队列,为了利用现代服务器的多核处理器,适当的队列数量将提高更大的I/O吞吐能力。Kestrel默认为每两个CPU核心设置一个I/O事件队列,但至少有一个I/O事件队列。每个队列对应一个托管线程,该线程不属于线程池。用户可以设置队列个数,通过设置KestrelServerOptions.ThreadCount即可,最多设置16个。

    • Kestrel线程

      事件队列对应的托管线程,主要控制读取事件的循环机制:每次事件循环处理8个事件,然后等待下一次循环。

    • 非托管内存池

      这是在.net运行环境分配的非托管内存池,申请的比较大块的堆内存,仅在首次请求或者池剩余空间不足时分配,后续请求可以复用,不受GC管理。内存被分为n片,每片大小是128K,每页大小4k,管理内存页的数据结构采用链表方式。以获取大块连续空间的方式增长。遵循读完后立即释放的处理原则。

    • TCP监听器

      这个监听器不同于套接字的监听器,而是Libuv的Socket类型的连接事件监听器。监听TCP连接事件,对每一个TCP请求产生一个连接对象。连接对象包括暂停,继续,终止。

    • 连接管理

      负责异步结束连接对象。

    • HTTP协议模块

      该模块包括HTTP帧的创建工厂,工厂在监听器监听到一个连接时产生一个HTTP帧。一个HTTP帧处理一次HTTP请求和返回。

    更为详细的结构视图如下:

    1.2.2. Kestrel的工作原理

    1.2.2.1. 处理Request和Response

    按照请求流转方向会有以下处理过程:

    1. 请求进入libuv

    将请求事件放入事件队列,随后的事件循环中,监听器回调函数执行。

    2. 监听器创建连接

    根据请求信息创建一个连接对象,此时Http帧工厂被调用,产生一个Http帧对象;用于读取Request的SocketInput、用于返回Response的SocketOutput对象被创建,二者会被Http帧使用。

    3. 连接管理监控连接

    连接管理器跟踪连接的状态,收集待关闭连接,然后异步关闭。

    4. Http帧处理

    一个Http负责构建Http上下文的Request对象和Response对象。读取Request数据和返回Response数据都要经过内存池。高效的内存读写和与和Libuv的读写事件协调,确保Request数据到达就能读到内存池,到达内存池就能及时被读;Response数据写入内存池就能被套接字及时发出去,体现了Kestreld强大的异步处理能力。

    1.2.2.2. 内存池读写

    读取内存池数据时可读取后续到达的数据,不需要重新等待事件,此时对应读取Request数据情形:

    写数据到内存池时,libuv连续读出并发送数据,也不需要重新等待时间,此时对应发送Response数据情形:

    1.2.2.3. Libuv线程和托管线程通信

    二者的通信机制保证Libuv线程永远不会被阻塞:比如libuv线程在通知事件时会很小心尝试获取队线程私有锁,如果成功获取就这在事件队列线程上异步处理,否则这一通信过程在线程池里重复执行直到成功,如图:

    1.3. Http.sys基本工作原理

    1.3.1. Http.sys基本构成

    1. 监听器

    监听TCP请求,允许端口共享。TCP携带的HTTP报文会被Http Parser解析,名称映射首先会根据url确定对应的web app,然后把请求放入该app的消息队列中。

    2. 消息队列

    Http.sys给每个注册的web app一个消息队列。

    3. 响应缓存

    请求的静态资源和GET请求会缓存起来一段时间,如果请求url能匹配这直接返回缓存数据。

    4. 响应模块

    将数据返回给用户代理,如果返回的是可以缓存的资源,则会放入响应缓存中。

    1.3.2. Http.sys工作原理

    下图表示在ASP.NET Core应用中接受一个http请求到返回数据的过程:

    1. 这里的TCPIP.sys也是windows内核驱动,提供了TCPIP协议栈。

    2. Http.sys的处理如在“基本构成”做所述。

    3. ASP.NET Core应用程序里面HttpSys模块代表了Http.sys,它与应用程序代码交流,交流的载体是HTTP上下文。

    1.3.3. 总结

    Kestrel服务器运行在Asp.net core应用程序中,能高效的处理网络请求,且跨平台。Http.sys运行在内核态中,极大减少了系统调用次数,运行效率很高;自带生存环境的安全,鲁棒性等特点;它也可以作为反向代理,因此它的功能更加强大,主要问题是只能运行在windows下。Kestrel应用在生产环境中需要运行在代理服务器后面,以获取安全性,负载均衡等能力。

    功能Http.sysKerstrel
    平台支持 Windows Windows/Linux/Mac
    静态文件 Yes Yes
    HTTP访问日志 Yes No
    端口共享/多应用程序 Yes No
    SSL证书 Yes Internal*
    Windows 授权 Yes No
    过滤请求&限制 Yes No
    IP&域名约束 Yes No
    HTTP重定向规则 Yes No
    WebSocket 协议 Yes Middleware
    缓存Response Yes No
    压缩 Yes Yes
    FTP服务器 Yes No
    运行态 内核态 用户态

    * Internal:https通信仅仅工作在反向代理服务器后面与ASP.NET程序之间,如果要想外暴露https服务这需要用到反向代理,比如IIS,nginx,apached。

    参考文章

    http://www.cnblogs.com/yxmx/articles/1652128.html

    http://www.cnblogs.com/arbin98/archive/2010/09/03/1816847.html

    https://stackify.com/kestrel-web-server-asp-net-core-kestrel-vs-iis/

    作者:帅虫哥 出处: http://www.cnblogs.com/vipyoumay/p/7525478.html

    以上内容有任何错误或不准确的地方请大家指正,不喜勿喷! 本文版权归作者和博客园共有,欢迎转载,但未经作者同意必须保留此段声明,且在文章页面明显位置给出原文连接,否则保留追究法律责任的权利。如果觉得还有帮助的话,可以点一下右下角的【推荐】,希望能够持续的为大家带来好的技术文章!想跟我一起进步么?那就【关注】我吧。
  • 相关阅读:
    K
    CFileDialog的用法
    MFC编辑框换行实现
    MFC通过对话框窗口句柄获得对话框对象指针
    AfxGetMainWnd()函数用法
    this指针和m_hWnd的区别
    WinAPI: FindWindow、FindWindowEx
    深入浅出Hibernate(二)多对一关系映射
    JAVA 并发编程-读写锁之模拟缓存系统(十一)
    很easy的js双向绑定框架(二):控制器继承
  • 原文地址:https://www.cnblogs.com/micro-chen/p/7729918.html
走看看 - 开发者的网上家园