zoukankan      html  css  js  c++  java
  • L4-7 网络代理平台的思考

    目前部门网络组件bug 较多不稳定,准备自己改一改,所以现在想一想应该怎么处理!!

    目前部门业务主要就是:

    1、网络I/O----->读取文件,频繁读取网络套接字。

    2、CPU在内存中的计算

    so:瓶颈应该是在网络I/O中,毕竟不是CPU密集型,所有的数据都在内存中处理

    多线程??多进程

    多线程:要防止频繁的CPU切换,上下文的切换又涉及程序计数器、堆栈指针和程序状态字等一系列的寄存器置换、程序堆栈重置甚至是 CPU 高速缓存、TLB 的切换 所以多线程绑定到具体CPU 比较好

    多进程:相比多线程,进程间通讯耗CPU,所以进程间 地址空间分离是有坏处但是也有好处!!好处就是稳定 进程间干扰少,不像单进程多线程一样,一个线程coredump 导致了进程退出;

    当然多机分布式的时候,进程比线程好,还有一点 线程相比进程 切换调度 创建销毁都要快,CPU 利用率高、占用内存要少

    所以如果遇到CPU密集型->计算量大-->cpu切换多,很可能需要多线程!!但是多线程调试有点坑。

    考虑到一个http代理缓存的功能-----> CPU 瓶颈应该在网络io 不应该在计算,毕竟计算不多,也不会像web服务器,需要大量创建销毁process来处理,所以从这样看多进程比较好,

    同时网络设备要求稳定,多线程一个线程挂掉了可能会导致整个进程退出!! 有可能涉及到http报文的pkt收发 pkt处理,两者相关性强,但是这两个都在一个进程中处理就行,所以单进程可以解决问题,不一定非要多线程;

    而且http处理在业务上可以看做是水平扩展,适合多进程;一般多线程适合业务垂直扩展吧!!而且多进程开发效率比较高!!0

    结论也就是:多进程

    网络I/O

    说到I/O就肯定涉及到epoll/poll/select 对于其分析请参考之前文章:epoll分析以及 epoll/select效率  等;

    根据业务量:准备选择epoll了;

    那么问题来了?

    reactor模型 ?水平边沿触发的选择?

    选择了多进程所以准备多reactor了!!

    那么epoll是水平还是边沿??

    业务主要是:http代理分析报文转发,一般都是网关,流量比较大;ET模式相比LT 被唤醒的次数要少,ET编程难度要高,

    如果流量一直来,那是不是有可能ET一直都在rcv数据,导致其余的fd饿死等情况??这种情况只能在编程时慎重处理了!!!

    所以EPOLL-ET了

    PS:线程有共享数据,也就是内存中有全局数据, 如果没有还是用master+n-work-fork模型比较好!!

    共享数据时可以修改的,不是静态常量,如果数据不能修改,只读--那么可以使用进程间的共享内存,那么多进程master+n-work-fork 比较好

    记住利用异步操作,比如logging  无论是写磁盘还是send to logserver 都不应该被阻塞;

    如果使用多线程:多线程应该有效的划分责任与功能!让每个线程功能单一,每个线程只处理事务的一个状态!不同类别的事务放在不同thread 里面处理

    多线程 共享memory 线程切换时,其cpu的cache 可能miss 少一些!!

    多线程一般分为:

    • IO线程 使用epoll recv send数据 同时处理timer ;可以掺杂消息编码解码!
    • 计算线程: 线程的主循环是queue 阻塞等待临界区!! 轮询一个队列可用的事务
    • 第三方库的线程!!!

    线程的标识:

    • pthread_self 返回当前线程的标识! 

    线程销毁:

    自然死亡:主函数退出

    非正常退出: core触发

    self kill: 自己调用pthread_exit 退出

    killed:pthread_cancel 强制终止线程

    线程退出只有自然死亡是正常的!!!

    多线程处理signal:主线程统一处理!! ----> 子线程将异步信号转换为同步文件fd 事件 传递给主线程!! 参考libevent 中 sighandle 中 回调中通过写入pipe数据 master 读取event-fd 处理对应回调!!!、??

    http代理服务器(3-4-7层代理)-网络事件库公共组件、内核kernel驱动 摄像头驱动 tcpip网络协议栈、netfilter、bridge 好像看过!!!! 但行好事 莫问前程 --身高体重180的胖子
  • 相关阅读:
    JDBC之一:JDBC快速入门
    AdapterView及其子类之四:基于ListView及SimpleAdapter实现列表
    AdapterView及其子类之三:基于ListView及ArrayAdapter实现列表
    AdapterView及其子类之二:使用ListActivity及ArrayAdapter创建列表
    AdapterView及其子类之一:基本原理(ListView、ListActivity类型)
    Fragment之一:基本原理
    Loader之二:CursorLoader基本实例
    Intent 跳转Activity
    Android 第三课 构建简单的用户界面
    android第二课:运行你的应用
  • 原文地址:https://www.cnblogs.com/codestack/p/14519863.html
Copyright © 2011-2022 走看看