zoukankan      html  css  js  c++  java
  • skynet源码分析4:actor生命周期管理

    skynet是基于多线程的,每个actor都会被单独的线程调度,且每个actor可以杀死其它actor,给其它actor发送消息,创建actor,也就是一个actor可能被多个线程持有,那么就会面临三个问题:

    1. 一个actor被同时使用时,如何安全释放。
    2. actor被释放后,外部使用时如何检测该actor已经无效了,以便流程能继续。
    3. 若信箱里的消息具有请求回应语义,那么如果通知消息源。

    框架使用的是handle映射与引用计数的手法,对外暴露sc(skynet_context)的handle,而不是指针。这个模块实现在/skynet-src/skynet_handle.c中,来分析一下其具体原理,从头文件的接口入手:

    skynet_handle.h

     1 #ifndef SKYNET_CONTEXT_HANDLE_H
     2 #define SKYNET_CONTEXT_HANDLE_H
     3 
     4 #include <stdint.h>
     5 
     6 // reserve high 8 bits for remote id
     7 #define HANDLE_MASK 0xffffff
     8 #define HANDLE_REMOTE_SHIFT 24
     9 
    10 struct skynet_context;
    11 
    12 uint32_t skynet_handle_register(struct skynet_context *);
    13 int skynet_handle_retire(uint32_t handle);
    14 struct skynet_context * skynet_handle_grab(uint32_t handle);
    15 void skynet_handle_retireall();
    16 
    17 uint32_t skynet_handle_findname(const char * name);
    18 const char * skynet_handle_namehandle(uint32_t handle, const char *name);
    19 
    20 void skynet_handle_init(int harbor);
    21 
    22 #endif

    handle是一个uint32_t的整数,高8位表示远程节点(这是框架自带的集群设施,后面的分析都会无视该部分,一来它不是框架核心,二来这个集群设施已经不被推荐使用)。

    先来看看它内部的数据结构:

    #define DEFAULT_SLOT_SIZE 4
    #define MAX_SLOT_SIZE 0x40000000
    
    struct handle_name {
        char * name;
        uint32_t handle;
    };
    
    struct handle_storage {
        struct rwlock lock;
    
        uint32_t harbor;
        uint32_t handle_index;
        int slot_size;
        struct skynet_context ** slot;
        
        int name_cap;
        int name_count;
        struct handle_name *name;
    };
    
    static struct handle_storage *H = NULL;

    看上去就一个sc的数组,看不出什么,看其它的方法吧,skynet_handle_register:

     1 uint32_t
     2 skynet_handle_register(struct skynet_context *ctx) {
     3     struct handle_storage *s = H;
     4 
     5     rwlock_wlock(&s->lock);
     6     
     7     for (;;) {
     8         int i;
     9         for (i=0;i<s->slot_size;i++) {
    10             uint32_t handle = (i+s->handle_index) & HANDLE_MASK;
    11             int hash = handle & (s->slot_size-1);
    12             if (s->slot[hash] == NULL) {
    13                 s->slot[hash] = ctx;
    14                 s->handle_index = handle + 1;
    15 
    16                 rwlock_wunlock(&s->lock);
    17 
    18                 handle |= s->harbor;
    19                 return handle;
    20             }
    21         }
    22         assert((s->slot_size*2 - 1) <= HANDLE_MASK);
    23         struct skynet_context ** new_slot = skynet_malloc(s->slot_size * 2 * sizeof(struct skynet_context *));
    24         memset(new_slot, 0, s->slot_size * 2 * sizeof(struct skynet_context *));
    25         for (i=0;i<s->slot_size;i++) {
    26             int hash = skynet_context_handle(s->slot[i]) & (s->slot_size * 2 - 1);
    27             assert(new_slot[hash] == NULL);
    28             new_slot[hash] = s->slot[i];
    29         }
    30         skynet_free(s->slot);
    31         s->slot = new_slot;
    32         s->slot_size *= 2;
    33     }
    34 }

    这个方法是添加一个sc的handle映射。

    从代码看,是一种hash映射,用读写锁来保证线程安全。9-21行是哈希值的选取过程,就是一个自增长的整数,每计算一次就加1,用handle_index做计数器,用取模来映射到sc数组上。用二次探测法来解决冲突,第9行循环保证冲突探测会覆盖整个数组。

    到22行,就说明数组满了,此时会成倍扩展原数组,将handle在新数组上重新取模映射一遍。这种hash的规则有两点好处:1、hash值不会重复.2、查找过程是真正O(1)的.

    从第22行和handle_index的修改处,可以知道这个函数基于两个前提:1、数组大小不会超过0xffffff.2、handle_index没有处理溢出的情况,可能为0,也就是假定不会溢出。个人觉得handle_index还是处理一下溢出的情况较好,如果大于0xffffff,就设为1。

    再来看看skynet_handle_grab:

     1 struct skynet_context * 
     2 skynet_handle_grab(uint32_t handle) {
     3     struct handle_storage *s = H;
     4     struct skynet_context * result = NULL;
     5 
     6     rwlock_rlock(&s->lock);
     7 
     8     uint32_t hash = handle & (s->slot_size-1);
     9     struct skynet_context * ctx = s->slot[hash];
    10     if (ctx && skynet_context_handle(ctx) == handle) {
    11         result = ctx;
    12         skynet_context_grab(result);
    13     }
    14 
    15     rwlock_runlock(&s->lock);
    16 
    17     return result;
    18 }

    这个函数作用是根据handle查找对应的sc,handle无效就返回NULL.上的是读锁,查找过程很简单,将handle取模,然后判断索引处的元素的handle是否一致。引用计数保存在sc里,并没有在本模块中,其实应该放在本模块中更为纯粹,sc里只需要知道如何释放自己就行了。查找成功会增加sc的计数(skynet_context_grab)。

    再来看看skynet_handle_retire:

     1 int
     2 skynet_handle_retire(uint32_t handle) {
     3     int ret = 0;
     4     struct handle_storage *s = H;
     5 
     6     rwlock_wlock(&s->lock);
     7 
     8     uint32_t hash = handle & (s->slot_size-1);
     9     struct skynet_context * ctx = s->slot[hash];
    10 
    11     if (ctx != NULL && skynet_context_handle(ctx) == handle) {
    12         s->slot[hash] = NULL;
    13         ret = 1;
    14         int i;
    15         int j=0, n=s->name_count;
    16         for (i=0; i<n; ++i) {
    17             if (s->name[i].handle == handle) {
    18                 skynet_free(s->name[i].name);
    19                 continue;
    20             } else if (i!=j) {
    21                 s->name[j] = s->name[i];
    22             }
    23             ++j;
    24         }
    25         s->name_count = j;
    26     } else {
    27         ctx = NULL;
    28     }
    29 
    30     rwlock_wunlock(&s->lock);
    31 
    32     if (ctx) {
    33         // release ctx may call skynet_handle_* , so wunlock first.
    34         skynet_context_release(ctx);
    35     }
    36 
    37     return ret;
    38 }

    这个函数的作用是解除handle映射,而不是递减引用计数。

    具体实现有两步:1、清空handle对应的槽,调用skynet_context_release.2、如果有注册命名,删除对应的节点。

    其实将释放sc的控制放在本模块会更好。

    其余的方法就是handle命名的支持,名称映射保存在数组中,按字典序排序,查找时用二分查找法。

    现在可以看sc生命周期具体的场景了,看两个地方就行了:

    1. 消息调度处,skynet_context_message_dispatch函数里.
    2. sc的对外接口,主要是skynet_command.

    在skynet_context_message_dispatch里可以看到(/skynet-src/skynet_server.c的285行):

    struct skynet_context * ctx = skynet_handle_grab(handle);
        if (ctx == NULL) {
            struct drop_t d = { handle };
            skynet_mq_release(q, drop_message, &d);
            return skynet_globalmq_pop();
        }

    通过skynet_handle_grab做了sc无效的检测,也就解决了开头提出的问题2。sc其它的对外接口也做了这样的判断。

    那么剩下就是问题1,安全释放的问题。来看sc的对外释放接口,cmd_exit,cmd_kill,调的都是handle_exit:

     1 static void
     2 handle_exit(struct skynet_context * context, uint32_t handle) {
     3     if (handle == 0) {
     4         handle = context->handle;
     5         skynet_error(context, "KILL self");
     6     } else {
     7         skynet_error(context, "KILL :%0x", handle);
     8     }
     9     if (G_NODE.monitor_exit) {
    10         skynet_send(context,  handle, G_NODE.monitor_exit, PTYPE_CLIENT, 0, NULL, 0);
    11     }
    12     skynet_handle_retire(handle);
    13 }

    这个函数最终调的skynet_handle_retire,它解除handle映射后调的是skynet_context_release。

    来看看skynet_context_release:

     1 static void 
     2 delete_context(struct skynet_context *ctx) {
     3     if (ctx->logfile) {
     4         fclose(ctx->logfile);
     5     }
     6     skynet_module_instance_release(ctx->mod, ctx->instance);
     7     skynet_mq_mark_release(ctx->queue);
     8     CHECKCALLING_DESTROY(ctx)
     9     skynet_free(ctx);
    10     context_dec();
    11 }
    12 
    13 struct skynet_context * 
    14 skynet_context_release(struct skynet_context *ctx) {
    15     if (ATOM_DEC(&ctx->ref) == 0) {
    16         delete_context(ctx);
    17         return NULL;
    18     }
    19     return ctx;
    20 }

    引用计数为0后就会释放sc,那么问题1是这样来保证的:

    调用handle_exit后会有两种情况:

    1、其它逻辑流已经获取了sc,那么引用计数一定大于0,此时不会释放sc,当最后一个逻辑流递减引用计数时才会释放,是安全的。

    2、sc被释放,其它逻辑流开始skynet_handle_grab,因为handle映射已经解除,所有查找无效,逻辑流可以知晓这一情况作出判断,是安全的。

    sc释放时,没有释放信箱(message_queue),仅调用了skynet_mq_mark_release设置了释放标志,那它在哪里释放的呢?先来想想这样一个情况,如果sc释放了,信箱没被释放,那么skynet_handle_grab就会查找失败,而信箱还会在1级队列中,那么释放的地方只可能在skynet_context_message_dispatch里,回过头来看看它,就是在判断sc无效的分支里,调用了skynet_mq_release释放的信箱。

    为什么信箱要独立出来分释放,而不和sc一起释放?因为sc是通过引用计数释放的,释放时机不明确,可能在任意一个逻辑流中,那么消息调度中是否应该将它压回1级队列就无法判断了,所以要独立出来。

    只剩问题3的解决了,这只需要看信箱释放时是如何处理消息的就行了,在/skynet-src/skynet_server.c的drop_message里:

    static void
    drop_message(struct skynet_message *msg, void *ud) {
        struct drop_t *d = ud;
        skynet_free(msg->data);
        uint32_t source = d->handle;
        assert(source);
        // report error to the message source
        skynet_send(NULL, source, msg->source, PTYPE_ERROR, 0, NULL, 0);
    }

    通过向消息源发送一条PTYPE_ERROR来解决,这样期望收到回应的sc就有机会结束这条挂起的流程了。不过有个疑问,为什么回应时不带上session,难道要消息源自己查找信箱么?这点再消息分发的时候再看吧。


    如果没有gc,那么在多线程编程中,如何安全释放资源是一定会面临的问题。通常将它独立到另外的模块中解决,有两种常用的方法:

    1.  本文的handle映射和引用计数。c++中通常用智能指针,通过析构、拷贝构造函数自动来加减引用计数做强制保证。个人觉得前者更为灵活。
    2. 释放时只打上标记,以一定频率定时回收资源。

    ps:还是gc好,写代码时没有心里负担。

  • 相关阅读:
    Python内置函数 __import__ 动态加载模块
    Django_静态资源配置和ajax(九)
    GO语言学习(五)Go 语言基础语法
    GO语言学习(四)GO语言语言结构
    GO语言学习(三)GO语言学习API文档
    GO语言学习(二)Windows 平台下 LiteIDE 的安装和使用
    GO语言学习(一)Windows 平台下 Go 语言的安装和环境变量设置
    VS无法访问IIS元数据库 您没有足够的特权访问计算机上的IIS网站
    本地存储localStorage以及它的封装接口store.js的使用
    操作类封装
  • 原文地址:https://www.cnblogs.com/watercoldyi/p/5877529.html
Copyright © 2011-2022 走看看