zoukankan      html  css  js  c++  java
  • 一个消息调度框架构建

    • 基本框架

    1. MDU(消息分发单元):包含一个消息处理任务,包含自身的消息队列,是一个消息调度的基本单位。
    2. PID (功能子模块) :框架中用PID作为模块的划分,每个模块具有自己的PID编号,根据功能和调度需求可以安排多个PID到一个MDU中,PID是消息通信的一个基本单位,每个PID提供一个消息处理入口。
    3. MQ (消息队列) :使用消息队列作为任务通信的数据结构。
    • 消息处理流程

    1. 构建一个MDU模块,注册入框架中,初始MDU没有注册PID,未构建消息处理任务。
    2. 构建PID,注册入对应的MDU中,如果是MDU中第一个PID,构建消息处理任务。消息处理任务从该MDU对应的消息队列中取消息处理。
    3. 消息处理任务获取消息后根据消息中携带的接收PID的信息分发到对应的PID模块处理。
    • 完整的消息交互流程

    1. 任务A申请消息,消息内容必须包括发送模块PID编号、接收模块PID编号、消息内容。
    2. 通过消息框架提供的消息发送接口直接发送消息,消息框架根据接收PID信息,将消息填入对应MDU的消息队列中。
    3. MDU的消息处理任务B从消息队列中获取消息处理。
    4. MDU消息队列会被多个任务并发写入消息,被消息处理任务读取消息处理,需要对消息队列进行互斥和同步。详见http://www.cnblogs.com/chencheng/p/2893421.html
    • MUD、PID规划
    1. MDU作为一个调度基本单元,如果一个MDU中只有一个PID会导致系统中任务多,任务切换的开销大。
    2. 如果MDU中包含太多PID,由于所有PID在一个消息队列中串行运行,会影响PID的响应,影响系统性能。
    3. 功能紧耦合的PID放入一个MDU中。
    4. 耗时PID和实时要求高的PID不放入一个MDU中。
    • 实现

    MDU:

    import myQueue
    from myThread import myThread
    
    class mdu:
        def __init__(self, mduID):
            self.mduId  = mduID
            self.msgQue = myQueue.myQueue(10)
            self.map = {}
    
        def getMduID(self):
            return self.mduId
        
        def registPid(self, pidID, pid):
            self.map[pidID] = pid
            if 1==len(self.map):
                self.run()
    
        def msgEnQueue(self,msg):
            self.msgQue.enQueue(msg)
                
        def msgProcess(self):
            while True:
                msg = self.msgQue.deQueue()
                recvPid = msg.getRecvPid()
                self.map[recvPid].msgProcess(msg);
                
        def run(self):
            t = myThread(self.msgProcess)
            t.start()
    View Code

    PID:

    import message
    import support
    import mdu
    import pdb
    
    class pid:
        def __init__(self, pidID):
            self.pidID = pidID
            self.registMe()
    
        def registMe(self):
            support.registPid(self)
    
        def getPidID(self):
            return self.pidID
    View Code

    SUPPORT:

    import mdu
    import pdb
    
    mduMap = {}
    
    def registMdu(mdu):
        mduMap[mdu.getMduID()] = mdu
    
    def getMdu(revPid):
        return mduMap[revPid&0xFFFF0000>>16]
    
    def registPid(pid):
        mdu = getMdu(pid.getPidID())
        #pdb.set_trace()
        mdu.registPid(pid.getPidID(), pid)
        
    def sendMsg(msg):
        mdu = getMdu(msg.getRecvPid())
        mdu.msgEnQueue(msg)
    View Code

    MQ:

    from threading import Lock
    from threading import Condition
    import threading
    
    class myQueue:
        def __init__(self, size):
            self.size = size
            self.list = list()
            self.lock = Lock()
            self.notFullCond = Condition(self.lock)
            self.notEmptyCond = Condition(self.lock)
    
        def isFull(self):
            if self.size == len(self.list):
                return True
            return False
    
        def isEmpty(self):
            if 0 == len(self.list):
                return True
            return False
        
        def enQueue(self, elem):
            self.lock.acquire()
            while self.isFull():
                print('queue is full, waiting...')
                self.notFullCond.wait()   
            print(threading.current_thread().getName() + ' product ' + str(elem))
            self.list.append(elem)
            self.notEmptyCond.notify()
            self.lock.release()
    
        def deQueue(self):
            self.lock.acquire()
            while self.isEmpty():
                print('queue is empty, waiting...')
                self.notEmptyCond.wait()
    
            elem = self.list[0]
            del(self.list[0])
            print(threading.current_thread().getName() + ' consume ' + str(elem))
            
            self.notFullCond.notify_all()
            self.lock.release()
    
            return elem
    View Code

     转载请注明原始出处:http://www.cnblogs.com/chencheng/p/3236158.html

  • 相关阅读:
    Quartz任务调度系统,克隆表达式
    Java故障分析基础
    SpringData JPA整理
    Mockito教程
    SpringMVC单元测试-MockMvc
    SpringBoot Actuator & SpringBoot Admin
    Swagger
    Spring @AliasFor
    java命令查询属性信息
    windows版本免安装redis, nginx, zookeeper
  • 原文地址:https://www.cnblogs.com/chencheng/p/3236158.html
Copyright © 2011-2022 走看看