zoukankan      html  css  js  c++  java

  • linux 内核与用户空间通信之netlink使用方法

    Linux中的进程间通信机制源自于Unix平台上的进程通信机制。Unix的两大分支AT&T Unix和BSD Unix在进程通信实现机制上的各有所不同，前者形成了运行在单个计算机上的System V IPC，后者则实现了基于socket的进程间通信机制。同时Linux也遵循IEEE制定的Posix IPC标准，在三者的基础之上实现了以下几种主要的IPC机制：管道(Pipe)及命名管道(Named Pipe)，信号(Signal)，消息队列(Message queue)，共享内存(Shared Memory)，信号量(Semaphore)，套接字(Socket)。通过这些IPC机制，用户空间进程之间可以完成互相通信。为了完成内核空间与用户空间通信，Linux提供了基于socket的Netlink通信机制，可以实现内核与用户空间数据的及时交换。

    本文第2节概述相关研究工作，第3节与其他IPC机制对比，详细介绍Netlink机制及其关键技术，第4节使用KGDB+GDB组合调试，通过一个示例程序演示Netlink通信过程。第5节做总结并指出Netlink通信机制的不足之处。

    2 相关研究

    到目前Linux提供了9种机制完成内核与用户空间的数据交换，分别是内核启动参数、模块参数与 sysfs、sysctl、系统调用、netlink、procfs、seq_file、debugfs和relayfs，其中模块参数与sysfs、procfs、debugfs、relayfs是基于文件系统的通信机制，用于内核空间向用户控件输出信息；sysctl、系统调用是由用户空间发起的通信机制。由此可见，以上均为单工通信机制，在内核空间与用户空间的双向互动数据交换上略显不足。Netlink是基于socket的通信机制，由于socket本身的双共性、突发性、不阻塞特点，因此能够很好的满足内核与用户空间小量数据的及时交互，因此在Linux 2.6内核中广泛使用，例如SELinux，Linux系统的防火墙分为内核态的netfilter和用户态的iptables，netfilter与iptables的数据交换就是通过Netlink机制完成。 

    3 Netlink机制及其关键技术

    3.1 Netlink机制

    Linux操作系统中当CPU处于内核状态时，可以分为有用户上下文的状态和执行硬件、软件中断两种。其中当处于有用户上下文时，由于内核态和用户态的内存映射机制不同，不可直接将本地变量传给用户态的内存区；处于硬件、软件中断时，无法直接向用户内存区传递数据，代码执行不可中断。针对传统的进程间通信机制，他们均无法直接在内核态和用户态之间使用，原因如下表：

    通信方法

    无法介于内核态与用户态的原因

    管道（不包括命名管道）

    局限于父子进程间的通信。

    消息队列

    在硬、软中断中无法无阻塞地接收数据。

    信号量

    无法介于内核态和用户态使用。

    内存共享

    需要信号量辅助，而信号量又无法使用。

    套接字

    在硬、软中断中无法无阻塞地接收数据。

    1*（引自 参考文献5）

        解决内核态和用户态通信机制可分为两类：

    1. 处于有用户上下文时，可以使用Linux提供的copy_from_user()和copy_to_user()函数完成，但由于这两个函数可能阻塞，因此不能在硬件、软件的中断过程中使用。
    2. 处于硬、软件中断时。

    2.1   可以通过Linux内核提供的spinlock自旋锁实现内核线程与中断过程的同步，由于内核线程运行在有上下文的进程中，因此可以在内核线程中使用套接字或消息队列来取得用户空间的数据，然后再将数据通过临界区传递给中断过程.

    2.2   通过Netlink机制实现。Netlink 套接字的通信依据是一个对应于进程的标识，一般定为该进程的 ID。Netlink通信最大的特点是对对中断过程的支持，它在内核空间接收用户空间数据时不再需要用户自行启动一个内核线程，而是通过另一个软中断调用用户事先指定的接收函数。通过软中断而不是自行启动内核线程保证了数据传输的及时性。

    3.2 Netlink优点

    Netlink相对于其他的通信机制具有以下优点：

    1. 使用Netlink通过自定义一种新的协议并加入协议族即可通过socket API使用Netlink协议完成数据交换，而ioctl和proc文件系统均需要通过程序加入相应的设备或文件。
    2. Netlink使用socket缓存队列，是一种异步通信机制，而ioctl是同步通信机制，如果传输的数据量较大，会影响系统性能。
    3. Netlink支持多播，属于一个Netlink组的模块和进程都能获得该多播消息。
    4. Netlink允许内核发起会话，而ioctl和系统调用只能由用户空间进程发起。

    在内核源码有关Netlink协议的头文件中包含了内核预定义的协议类型，如下所示：

    [cpp] view plain copy
     
    1. #define NETLINK_ROUTE         0     
    2.   
    3. #define NETLINK_W1             1      
    4.   
    5. #define NETLINK_USERSOCK     2      
    6.   
    7. #define NETLINK_FIREWALL      3       
    8.   
    9. #define NETLINK_INET_DIAG     4         
    10.   
    11. #define NETLINK_NFLOG         5        
    12.   
    13. #define NETLINK_XFRM          6        
    14.   
    15. #define NETLINK_SELINUX       7        
    16.   
    17. #define NETLINK_ISCSI           8        
    18.   
    19. #define NETLINK_AUDIT          9        
    20.   
    21. #define NETLINK_FIB_LOOKUP    10  
    22.   
    23. #define NETLINK_CONNECTOR    11  
    24.   
    25. #define NETLINK_NETFILTER      12       
    26.   
    27. #define NETLINK_IP6_FW          13  
    28.   
    29. #define NETLINK_DNRTMSG       14       
    30.   
    31. #define NETLINK_KOBJECT_UEVENT 15       
    32.   
    33. #define NETLINK_GENERIC        16  

    上述这些协议已经为不同的系统应用所使用，每种不同的应用都有特有的传输数据的格式，因此如果用户不使用这些协议，需要加入自己定义的协议号。对于每一个Netlink协议类型，可以有多达 32多播组，每一个多播组用一个位表示，Netlink 的多播特性使得发送消息给同一个组仅需要一次系统调用，因而对于需要多拨消息的应用而言，大大地降低了系统调用的次数。

    建立Netlink会话过程如下：

     

    内核使用与标准socket API类似的一套API完成通信过程。首先通过netlink_kernel_create()创建套接字，该函数的原型如下：

    [cpp] view plain copy
     
    1. struct sock *netlink_kernel_create(struct net *net,  
    2.   
    3.                   int unit,unsigned int groups,  
    4.   
    5.                   void (*input)(struct sk_buff *skb),  
    6.   
    7.                   struct mutex *cb_mutex,  
    8.   
    9.                   struct module *module);  

    其中net参数是网络设备命名空间指针，input函数是netlink socket在接受到消息时调用的回调函数指针，module默认为THIS_MODULE.

    然后用户空间进程使用标准Socket API来创建套接字，将进程ID发送至内核空间，用户空间创建使用socket()创建套接字，该函数的原型如下：

    int socket(int domain, int type, int protocol);

    其中domain值为PF_NETLINK，即Netlink使用协议族。protocol为Netlink提供的协议或者是用户自定义的协议，Netlink提供的协议包括NETLINK_ROUTE, NETLINK_FIREWALL, NETLINK_ARPD, NETLINK_ROUTE6和 NETLINK_IP6_FW。

    接着使用bind函数绑定。Netlink的bind()函数把一个本地socket地址(源socket地址)与一个打开的socket进行关联。完成绑定，内核空间接收到用户进程ID之后便可以进行通讯。

    用户空间进程发送数据使用标准socket API中sendmsg()函数完成，使用时需添加struct msghdr消息和nlmsghdr消息头。一个netlink消息体由nlmsghdr和消息的payload部分组成，输入消息后，内核会进入nlmsghdr指向的缓冲区。

    内核空间发送数据使用独立创建的sk_buff缓冲区，Linux定义了如下宏方便对于缓冲区地址的设置，如下所示：

    #define NETLINK_CB(skb) (*(struct netlink_skb_parms*)&((skb)->cb))

    在对缓冲区设置完成消息地址之后，可以使用netlink_unicast()来发布单播消息，netlink_unicast()原型如下：

    int netlink_unicast(struct sock *sk, struct sk_buff *skb, u32 pid, int nonblock);

    参数sk为函数netlink_kernel_create()返回的socket，参数skb存放消息，它的data字段指向要发送的netlink消息结构，而skb的控制块保存了消息的地址信息，前面的宏NETLINK_CB(skb)就用于方便设置该控制块，参数pid为接收消息进程的pid，参数nonblock表示该函数是否为非阻塞，如果为1，该函数将在没有接收缓存可利用时立即返回，而如果为0，该函数在没有接收缓存可利用时睡眠。

    内核模块或子系统也可以使用函数netlink_broadcast来发送广播消息：

    void netlink_broadcast(struct sock *sk, struct sk_buff *skb, u32 pid, u32 group, int allocation);

    前面的三个参数与netlink_unicast相同，参数group为接收消息的多播组，该参数的每一个代表一个多播组，因此如果发送给多个多播组，就把该参数设置为多个多播组组ID的位或。参数allocation为内核内存分配类型，一般地为GFP_ATOMIC或GFP_KERNEL，GFP_ATOMIC用于原子的上下文（即不可以睡眠），而GFP_KERNEL用于非原子上下文。

    接收数据时程序需要申请足够大的空间来存储netlink消息头和消息的payload部分。然后使用标准函数接口recvmsg()来接收netlink消息

    4 Netlink通信过程

    调试平台：Vmware 5.5 + Fedora Core 10(两台，一台作为host机，一台作为target机)。

    调试程序：分为内核模块和用户空间程序两部分，当内核模块被加载后，运行用户空间程序，由用户空间发起Netlink会话，和内核模块进行数据交换。

    被加载的内核模块无法通过外加的调试器进行调试，KGDB提供了一种内核源码级别的调试机制。Linux内核自2.6.26版本之后在内核中内置了KGDB选项，编译内核时需要选择与之相关的选项，调试时host端需使用带有符号表的vmlinz内核，target端使用gdb调试用户空间的程序。

    用户空间程序关键代码如下：

    [cpp] view plain copy
     
    1. int send_pck_to_kern(u8 op, const u8 *data, u16 data_len)  
    2.   
    3. {  
    4.   
    5.     struct user_data_ *pck;  
    6.   
    7.     int ret;  
    8.   
    9.    
    10.   
    11.     pck = (struct user_data_*)calloc(1, sizeof(*pck) + data_len);  
    12.   
    13.     if(!pck) {  
    14.   
    15.        printf("calloc in %s failed!!! ", __FUNCTION__);  
    16.   
    17.        return -1;  
    18.   
    19.     }  
    20.   
    21.    
    22.   
    23.     pck->magic_num = MAGIC_NUM_RNQ;  
    24.   
    25.     pck->op = op;  
    26.   
    27.     pck->data_len = data_len;  
    28.   
    29.     memcpy(pck->data, data, data_len);  
    30.   
    31.    
    32.   
    33.     ret = send_to_kern((const u8*)pck, sizeof(*pck) + data_len);  
    34.   
    35.     if(ret)  
    36.   
    37.        printf("send_to_kern in %s failed!!! ", __FUNCTION__);  
    38.   
    39.      
    40.   
    41.     free(pck);  
    42.   
    43.    
    44.   
    45.     return ret ? -1 : 0;  
    46.   
    47. }  
    48.   
    49.    
    50.   
    51. static void recv_from_nl()  
    52.   
    53. {  
    54.   
    55.     char buf[1000];  
    56.   
    57.     int len;  
    58.   
    59.     struct iovec iov = {buf, sizeof(buf)};  
    60.   
    61.     struct sockaddr_nl sa;  
    62.   
    63.     struct msghdr msg;  
    64.   
    65.     struct nlmsghdr *nh;  
    66.   
    67.    
    68.   
    69.     memset(&msg, 0, sizeof(msg));  
    70.   
    71.     msg.msg_name = (void *)&sa;  
    72.   
    73.     msg.msg_namelen = sizeof(sa);  
    74.   
    75.     msg.msg_iov = &iov;  
    76.   
    77.     msg.msg_iovlen = 1;  
    78.   
    79.    
    80.   
    81.     //len = recvmsg(nl_sock, &msg, 0);  
    82.   
    83.     len = recvmsg(nl_sock, &msg, 0);  
    84.   
    85.    
    86.   
    87.     for (nh = (struct nlmsghdr *)buf; NLMSG_OK(nh, len);  
    88.   
    89.            nh = NLMSG_NEXT (nh, len)) {  
    90.   
    91.        // The end of multipart message.  
    92.   
    93.        if (nh->nlmsg_type == NLMSG_DONE) {  
    94.   
    95.            puts("nh->nlmsg_type == NLMSG_DONE");  
    96.   
    97.            return;  
    98.   
    99.        }  
    100.   
    101.    
    102.   
    103.        if (nh->nlmsg_type == NLMSG_ERROR) {  
    104.   
    105.            // Do some error handling.  
    106.   
    107.            puts("nh->nlmsg_type == NLMSG_ERROR");  
    108.   
    109.            return;  
    110.   
    111.        }  
    112.   
    113.    
    114.   
    115.    
    116.   
    117. #if 1  
    118.   
    119.        puts("Data received from kernel:");  
    120.   
    121.        hex_dump((u8*)NLMSG_DATA(nh), NLMSG_PAYLOAD(nh, 0));  
    122.   
    123. #endif  
    124.   
    125.     }  
    126.   
    127. }  


    内核模块需要防止资源抢占，保证Netlink资源互斥占有，内核模块部分关键代码如下：

    [cpp] view plain copy
     
    1. static void nl_rcv(struct sk_buff *skb)  
    2.   
    3. {  
    4.   
    5.     mutex_lock(&nl_mtx);  
    6.   
    7.    
    8.   
    9.     netlink_rcv_skb(skb, &nl_rcv_msg);  
    10.   
    11.    
    12.   
    13.     mutex_unlock(&nl_mtx);  
    14.   
    15. }  
    16.   
    17.    
    18.   
    19.    
    20.   
    21. static int nl_send_msg(const u8 *data, int data_len)  
    22.   
    23. {  
    24.   
    25.     struct nlmsghdr *rep;  
    26.   
    27.     u8 *res;  
    28.   
    29.     struct sk_buff *skb;  
    30.   
    31.    
    32.   
    33.     if(g_pid < 0 || g_nl_sk == NULL) {  
    34.   
    35.        printk("Invalid parameter, g_pid = %d, g_nl_sk = %p ",  
    36.   
    37.                      g_pid, g_nl_sk);  
    38.   
    39.        return -1;  
    40.   
    41.     }  
    42.   
    43.    
    44.   
    45.     skb = nlmsg_new(data_len, GFP_KERNEL);  
    46.   
    47.     if(!skb) {  
    48.   
    49.        printk("nlmsg_new failed!!! ");  
    50.   
    51.        return -1;  
    52.   
    53.     }  
    54.   
    55.    
    56.   
    57.     if(g_debug_level > 0) {  
    58.   
    59.        printk("Data to be send to user space: ");  
    60.   
    61.        hex_dump((void*)data, data_len);  
    62.   
    63.     }  
    64.   
    65.    
    66.   
    67.     rep = __nlmsg_put(skb, g_pid, 0, NLMSG_NOOP, data_len, 0);  
    68.   
    69.     res = nlmsg_data(rep);  
    70.   
    71.     memcpy(res, data, data_len);  
    72.   
    73.     netlink_unicast(g_nl_sk, skb, g_pid, MSG_DONTWAIT);  
    74.   
    75.    
    76.   
    77.     return 0;  
    78.   
    79. }  
    80.   
    81.    
    82.   
    83. static int nl_rcv_msg(struct sk_buff *skb, struct nlmsghdr *nlh)  
    84.   
    85. {  
    86.   
    87.     const u8 res_data[] = "Hello, user";  
    88.   
    89.     size_t data_len;  
    90.   
    91.      
    92.   
    93.     u8 *buf;  
    94.   
    95.     struct user_data_ *pck;  
    96.   
    97.     struct user_req *req, *match = NULL;  
    98.   
    99.      
    100.   
    101.      
    102.   
    103.     g_pid = NETLINK_CB(skb).pid;  
    104.   
    105.    
    106.   
    107.     buf = (u8*)NLMSG_DATA(nlh);  
    108.   
    109.     data_len = nlmsg_len(nlh);  
    110.   
    111.    
    112.   
    113.     if(data_len < sizeof(struct user_data_)) {  
    114.   
    115.        printk("Too short data from user space!!! ");  
    116.   
    117.        return -1;  
    118.   
    119.     }  
    120.   
    121.    
    122.   
    123.     pck = (struct user_data_ *)buf;  
    124.   
    125.     if(pck->magic_num != MAGIC_NUM_RNQ) {  
    126.   
    127.        printk("Magic number not matched!!! ");  
    128.   
    129.        return -1;  
    130.   
    131.     }  
    132.   
    133.    
    134.   
    135.     if(g_debug_level > 0) {  
    136.   
    137.        printk("Data from user space: ");  
    138.   
    139.        hex_dump(buf, data_len);  
    140.   
    141.     }  
    142.   
    143.    
    144.   
    145.    
    146.   
    147.     req = user_reqs;  
    148.   
    149.     while(req->op) {  
    150.   
    151.        if(req->op == pck->op) {  
    152.   
    153.            match = req;  
    154.   
    155.            break;  
    156.   
    157.        }  
    158.   
    159.    
    160.   
    161.        req++;  
    162.   
    163.     }  
    164.   
    165.    
    166.   
    167.     if(match) {  
    168.   
    169.        match->handler(buf, data_len);  
    170.   
    171.     }  
    172.   
    173.    
    174.   
    175.    
    176.   
    177.     nl_send_msg(res_data, sizeof(res_data));  
    178.   
    179.    
    180.   
    181.     return 0;  
    182.   
    183. }  

    5.其他相关说明

        Netlink 是一种特殊的 socket，它是 Linux 所特有的，类似于 BSD 中的AF_ROUTE 但又远比它的功能强大，目前在最新的 Linux 内核（2.6.14）中使用netlink 进行应用与内核通信的应用很多，包括：路由 daemon（NETLINK_ROUTE），1-wire 子系统（NETLINK_W1），用户态 socket 协议（NETLINK_USERSOCK），防火墙（NETLINK_FIREWALL），socket 监视（NETLINK_INET_DIAG），netfilter 日志（NETLINK_NFLOG），ipsec 安全策略（NETLINK_XFRM），SELinux 事件通知（NETLINK_SELINUX），iSCSI 子系统（NETLINK_ISCSI），进程审计（NETLINK_AUDIT），转发信息表查询（NETLINK_FIB_LOOKUP），netlink connector(NETLINK_CONNECTOR),netfilter 子系统（NETLINK_NETFILTER），IPv6 防火墙（NETLINK_IP6_FW），DECnet 路由信息（NETLINK_DNRTMSG），内核事件向用户态通知（NETLINK_KOBJECT_UEVENT），通用 netlink（NETLINK_GENERIC）。

        Netlink 是一种在内核与用户应用间进行双向数据传输的非常好的方式，用户态应用使用标准的 socket API 就可以使用 netlink 提供的强大功能，内核态需要使用专门的内核 API 来使用 netlink。

    Netlink 相对于系统调用，ioctl 以及 /proc 文件系统而言具有以下优点：

        1，为了使用 netlink，用户仅需要在 include/linux/netlink.h 中增加一个新类型的 netlink 协议定义即可， 如 #define NETLINK_MYTEST 17 然后，内核和用户态应用就可以立即通过 socket API 使用该 netlink 协议类型进行数据交换。但系统调用需要增加新的系统调用，ioctl 则需要增加设备或文件， 那需要不少代码，proc 文件系统则需要在 /proc 下添加新的文件或目录，那将使本来就混乱的 /proc 更加混乱。

        2. netlink是一种异步通信机制，在内核与用户态应用之间传递的消息保存在socket缓存队列中，发送消息只是把消息保存在接收者的socket的接收队列，而不需要等待接收者收到消息，但系统调用与 ioctl 则是同步通信机制，如果传递的数据太长，将影响调度粒度。

        3．使用 netlink 的内核部分可以采用模块的方式实现，使用 netlink 的应用部分和内核部分没有编译时依赖，但系统调用就有依赖，而且新的系统调用的实现必须静态地连接到内核中，它无法在模块中实现，使用新系统调用的应用在编译时需要依赖内核。

        4．netlink 支持多播，内核模块或应用可以把消息多播给一个netlink组，属于该neilink 组的任何内核模块或应用都能接收到该消息，内核事件向用户态的通知机制就使用了这一特性，任何对内核事件感兴趣的应用都能收到该子系统发送的内核事件，在后面的文章中将介绍这一机制的使用。

        5．内核可以使用 netlink 首先发起会话，但系统调用和 ioctl 只能由用户应用发起调用。

        6．netlink 使用标准的 socket API，因此很容易使用，但系统调用和 ioctl则需要专门的培训才能使用。

    用户态使用 netlink

       用户态应用使用标准的socket APIs， socket(), bind(), sendmsg(), recvmsg() 和 close() 就能很容易地使用 netlink socket，查询手册页可以了解这些函数的使用细节，本文只是讲解使用 netlink 的用户应该如何使用这些函数。注意，使用 netlink 的应用必须包含头文件 linux/netlink.h。当然 socket 需要的头文件也必不可少，sys/socket.h。

       为了创建一个 netlink socket，用户需要使用如下参数调用 socket():

     socket(AF_NETLINK, SOCK_RAW, netlink_type)

       第一个参数必须是 AF_NETLINK 或 PF_NETLINK，在 Linux 中，它们俩实际为一个东西，它表示要使用netlink，第二个参数必须是SOCK_RAW或SOCK_DGRAM，第三个参数指定netlink协议类型，如前面讲的用户自定义协议类型NETLINK_MYTEST， NETLINK_GENERIC是一个通用的协议类型，它是专门为用户使用的，因此，用户可以直接使用它，而不必再添加新的协议类型。内核预定义的协议类型有：

    [cpp] view plain copy
     
    1. #define NETLINK_ROUTE 0  
    2. #define NETLINK_W1 1  
    3. #define NETLINK_USERSOCK 2   
    4. #define NETLINK_FIREWALL 3  
    5. #define NETLINK_INET_DIAG 4  
    6. #define NETLINK_NFLOG 5  
    7. #define NETLINK_XFRM 6   
    8. #define NETLINK_SELINUX 7   
    9. #define NETLINK_ISCSI 8   
    10. #define NETLINK_AUDIT 9   
    11. #define NETLINK_FIB_LOOKUP 10   
    12. #define NETLINK_CONNECTOR 11   
    13. #define NETLINK_NETFILTER 12   
    14. #define NETLINK_IP6_FW 13   
    15. #define NETLINK_DNRTMSG 14   
    16. #define NETLINK_KOBJECT_UEVENT 15   
    17. #define NETLINK_GENERIC 16  

    对于每一个netlink协议类型，可以有多达 32多播组，每一个多播组用一个位表示，netlink 的多播特性使得发送消息给同一个组仅需要一次系统调用，因而对于需要多拨消息的应用而言，大大地降低了系统调用的次数。

       函数 bind() 用于把一个打开的 netlink socket 与 netlink 源 socket 地址绑定在一起。netlink socket 的地址结构如下：

    [cpp] view plain copy
     
    1. struct sockaddr_nl {  
    2.    sa_family_t nl_family;  
    3.    unsigned short nl_pad;  
    4.    __u32 nl_pid;  
    5.    __u32 nl_groups;  
    6.  };  

    字段 nl_family 必须设置为 AF_NETLINK 或着 PF_NETLINK，字段 nl_pad 当前没有使用，因此要总是设置为 0，字段 nl_pid 为接收或发送消息的进程的 ID，如果希望内核处理消息或多播消息，就把该字段设置为 0，否则设置为处理消息的进程 ID。字段 nl_groups 用于指定多播组，bind 函数用于把调用进程加入到该字段指定的多播组，如果设置为 0，表示调用者不加入任何多播组。

       传递给 bind 函数的地址的 nl_pid 字段应当设置为本进程的进程 ID，这相当于 netlink socket 的本地地址。但是，对于一个进程的多个线程使用 netlink socket 的情况，字段 nl_pid 则可以设置为其它的值，如：

    pthread_self() << 16 | getpid();

       因此字段 nl_pid 实际上未必是进程 ID,它只是用于区分不同的接收者或发送者的一个标识，用户可以根据自己需要设置该字段。函数 bind 的调用方式如下：

    bind(fd, (struct sockaddr*)&nladdr, sizeof(struct sockaddr_nl));

       fd为前面的 socket 调用返回的文件描述符，参数 nladdr 为 struct sockaddr_nl 类型的地址。为了发送一个 netlink 消息给内核或其他用户态应用，需要填充目标 netlink socket 地址，此时，字段 nl_pid 和 nl_groups 分别表示接收消息者的进程 ID 与多播组。如果字段 nl_pid 设置为 0，表示消息接收者为内核或多播组，如果 nl_groups为 0，表示该消息为单播消息，否则表示多播消息。使用函数 sendmsg 发送 netlink 消息时还需要引用结构 struct msghdr、struct nlmsghdr 和 struct iovec，结构 struct msghdr 需如下设置：

    [cpp] view plain copy
     
    1. struct msghdr msg;   
    2. memset(&msg, 0, sizeof(msg));   
    3. msg.msg_name = (void *)&(nladdr);   
    4. msg.msg_namelen = sizeof(nladdr);  

    其中 nladdr 为消息接收者的 netlink 地址。

       struct nlmsghdr 为 netlink socket 自己的消息头，这用于多路复用和多路分解 netlink 定义的所有协议类型以及其它一些控制，netlink 的内核实现将利用这个消息头来多路复用和多路分解已经其它的一些控制，因此它也被称为netlink 控制块。因此，应用在发送 netlink 消息时必须提供该消息头。

    [cpp] view plain copy
     
    1. struct nlmsghdr {  
    2.     __u32 nlmsg_len;   
    3.     __u16 nlmsg_type;   
    4.     __u16 nlmsg_flags;  
    5.     __u32 nlmsg_seq;  
    6.     __u32 nlmsg_pid;  
    7. };  


    字段 nlmsg_len 指定消息的总长度，包括紧跟该结构的数据部分长度以及该结构的大小，字段 nlmsg_type 用于应用内部定义消息的类型，它对 netlink 内核实现是透明的，因此大部分情况下设置为 0，字段 nlmsg_flags 用于设置消息标志，可用的标志包括：

    [cpp] view plain copy
     
    1. #define NLM_F_REQUEST 1   
    2. #define NLM_F_MULTI     2   
    3. #define NLM_F_ACK        4   
    4. #define NLM_F_ECHO      8   
    5. #define NLM_F_ROOT     0x100   
    6. #define NLM_F_MATCH    0x200   
    7. #define NLM_F_ATOMIC  0x400   
    8. #define NLM_F_DUMP      (NLM_F_ROOT|NLM_F_MATCH)   
    9. #define NLM_F_REPLACE  0x100   
    10. #define NLM_F_EXCL       0x200   
    11. #define NLM_F_CREATE   0x400   
    12. #define NLM_F_APPEND   0x800  

    标志NLM_F_REQUEST用于表示消息是一个请求，所有应用首先发起的消息都应设置该标志。

    标志NLM_F_MULTI 用于指示该消息是一个多部分消息的一部分，后续的消息可以通过宏NLMSG_NEXT来获得。

    宏NLM_F_ACK表示该消息是前一个请求消息的响应，顺序号与进程ID可以把请求与响应关联起来。

    标志NLM_F_ECHO表示该消息是相关的一个包的回传。

    标志NLM_F_ROOT 被许多 netlink 协议的各种数据获取操作使用，该标志指示被请求的数据表应当整体返回用户应用，而不是一个条目一个条目地返回。有该标志的请求通常导致响应消息设置NLM_F_MULTI标志。注意，当设置了该标志时，请求是协议特定的，因此，需要在字段 nlmsg_type 中指定协议类型。

    标志 NLM_F_MATCH 表示该协议特定的请求只需要一个数据子集，数据子集由指定的协议特定的过滤器来匹配。

    标志 NLM_F_ATOMIC 指示请求返回的数据应当原子地收集，这预防数据在获取期间被修改。

    标志 NLM_F_DUMP 未实现。

    标志 NLM_F_REPLACE 用于取代在数据表中的现有条目。

    标志 NLM_F_EXCL_ 用于和 CREATE 和 APPEND 配合使用，如果条目已经存在，将失败。

    标志 NLM_F_CREATE 指示应当在指定的表中创建一个条目。

    标志 NLM_F_APPEND 指示在表末尾添加新的条目。

    内核需要读取和修改这些标志，对于一般的使用，用户把它设置为 0 就可以，只是一些高级应用（如 netfilter 和路由 daemon 需要它进行一些复杂的操作），字段 nlmsg_seq 和 nlmsg_pid 用于应用追踪消息，前者表示顺序号，后者为消息来源进程 ID。下面是一个示例：

    [cpp] view plain copy
     
    1. #define MAX_MSGSIZE 1024  
    2. char buffer[] = "An example message";   
    3. struct nlmsghdr nlhdr;   
    4. nlhdr = (struct nlmsghdr *)malloc(NLMSG_SPACE(MAX_MSGSIZE));   
    5. strcpy(NLMSG_DATA(nlhdr),buffer);   
    6. nlhdr->nlmsg_len = NLMSG_LENGTH(strlen(buffer));   
    7. nlhdr->nlmsg_pid = getpid();   
    8. nlhdr->nlmsg_flags = 0;  


    结构 struct iovec 用于把多个消息通过一次系统调用来发送，下面是该结构使用示例：

    [cpp] view plain copy
     
    1. struct iovec iov;   
    2. iov.iov_base = (void *)nlhdr;   
    3. iov.iov_len = nlh->nlmsg_len;   
    4. msg.msg_iov = &iov;   
    5. msg.msg_iovlen = 1;  

    在完成以上步骤后，消息就可以通过下面语句直接发送：

    sendmsg(fd, &msg, 0);

    应用接收消息时需要首先分配一个足够大的缓存来保存消息头以及消息的数据部分，然后填充消息头，添完后就可以直接调用函数 recvmsg() 来接收。

    [cpp] view plain copy
     
    1. #define MAX_NL_MSG_LEN 1024   
    2. struct sockaddr_nl nladdr;   
    3. struct msghdr msg;   
    4. struct iovec iov;   
    5. struct nlmsghdr * nlhdr;   
    6. nlhdr = (struct nlmsghdr *)malloc(MAX_NL_MSG_LEN);   
    7. iov.iov_base = (void *)nlhdr;   
    8. iov.iov_len = MAX_NL_MSG_LEN;   
    9. msg.msg_name = (void *)&(nladdr);   
    10. msg.msg_namelen = sizeof(nladdr);   
    11. msg.msg_iov = &iov;   
    12. msg.msg_iovlen = 1;   
    13. recvmsg(fd, &msg, 0);  

    注意：fd为socket调用打开的netlink socket描述符。

    在消息接收后，nlhdr指向接收到的消息的消息头，nladdr保存了接收到的消息的目标地址，宏NLMSG_DATA(nlhdr)返回指向消息的数据部分的指针。

    在linux/netlink.h中定义了一些方便对消息进行处理的宏，这些宏包括：

    #define NLMSG_ALIGNTO 4 
    #define NLMSG_ALIGN(len)    ( ((len)+NLMSG_ALIGNTO-1) & ~(NLMSG_ALIGNTO-1) )

    宏NLMSG_ALIGN(len)用于得到不小于len且字节对齐的最小数值。

    #define NLMSG_LENGTH(len)   ((len)+NLMSG_ALIGN(sizeof(struct nlmsghdr)))

    宏NLMSG_LENGTH(len)用于计算数据部分长度为len时实际的消息长度。它一般用于分配消息缓存。

    #define NLMSG_SPACE(len)   NLMSG_ALIGN(NLMSG_LENGTH(len))

    宏NLMSG_SPACE(len)返回不小于NLMSG_LENGTH(len)且字节对齐的最小数值，它也用于分配消息缓存。

    #define NLMSG_DATA(nlh)   ((void*)(((char*)nlh) + NLMSG_LENGTH(0)))

    宏NLMSG_DATA(nlh)用于取得消息的数据部分的首地址，设置和读取消息数据部分时需要使用该宏。

    #define NLMSG_NEXT(nlh,len)  ((len) -= NLMSG_ALIGN((nlh)->nlmsg_len), 
     (struct nlmsghdr*)(((char*)(nlh)) + NLMSG_ALIGN((nlh)->nlmsg_len)))

    宏NLMSG_NEXT(nlh,len)用于得到下一个消息的首地址，同时len也减少为剩余消息的总长度，该宏一般在一个消息被分成几个部分发送或接收时使用。

    #define NLMSG_OK(nlh,len)   ((len) >= (int)sizeof(struct nlmsghdr) && 
     (nlh)->nlmsg_len >= sizeof(struct nlmsghdr) &&  
    (nlh)->nlmsg_len <= (len))

    宏NLMSG_OK(nlh,len)用于判断消息是否有len这么长。

    #define NLMSG_PAYLOAD(nlh,len) ((nlh)->nlmsg_len - NLMSG_SPACE((len)))

    宏NLMSG_PAYLOAD(nlh,len)用于返回payload的长度。

    函数close用于关闭打开的netlink socket。

    netlink内核API

    netlink的内核实现在.c文件net/core/af_netlink.c中，内核模块要想使用netlink，也必须包含头文件linux/netlink.h。内核使用netlink需要专门的API，这完全不同于用户态应用对netlink的使用。如果用户需要增加新的netlink协议类型，必须通过修改linux/netlink.h来实现，当然，目前的netlink实现已经包含了一个通用的协议类型NETLINK_GENERIC以方便用户使用，用户可以直接使用它而不必增加新的协议类型。前面讲到，为了增加新的netlink协议类型，用户仅需增加如下定义到linux/netlink.h就可以：

    #define NETLINK_MYTEST 17

    只要增加这个定义之后，用户就可以在内核的任何地方引用该协议。

    在内核中，为了创建一个netlink socket用户需要调用如下函数：

    struct sock * netlink_kernel_create(int unit, void (*input)(struct sock *sk, int len));

    参数unit表示netlink协议类型，如NETLINK_MYTEST，参数input则为内核模块定义的netlink消息处理函数，当有消息到达这个netlink socket时，该input函数指针就会被引用。函数指针input的参数sk实际上就是函数netlink_kernel_create返回的struct sock指针，sock实际是socket的一个内核表示数据结构，用户态应用创建的socket在内核中也会有一个struct sock结构来表示。下面是一个input函数的示例：

    void input (struct sock *sk, int len) { struct sk_buff *skb; struct nlmsghdr *nlh = NULL; u8 *data = NULL; while ((skb = skb_dequeue(&sk->receive_queue)) != NULL) { nlh = (struct nlmsghdr *)skb->data; data = NLMSG_DATA(nlh); } }

    函数input()会在发送进程执行sendmsg()时被调用，这样处理消息比较及时，但是，如果消息特别长时，这样处理将增加系统调用sendmsg()的执行时间，对于这种情况，可以定义一个内核线程专门负责消息接收，而函数input的工作只是唤醒该内核线程，这样sendmsg将很快返回。

    函数skb = skb_dequeue(&sk->receive_queue)用于取得socket sk的接收队列上的消息，返回为一个struct sk_buff的结构，skb->data指向实际的netlink消息。

    函数skb_recv_datagram(nl_sk)也用于在netlink socket nl_sk上接收消息，与skb_dequeue的不同指出是，如果socket的接收队列上没有消息，它将导致调用进程睡眠在等待队列nl_sk->sk_sleep，因此它必须在进程上下文使用，刚才讲的内核线程就可以采用这种方式来接收消息。

    下面的函数input就是这种使用的示例：

    void input (struct sock *sk, int len) { wake_up_interruptible(sk->sk_sleep); }

    当内核中发送netlink消息时，也需要设置目标地址与源地址，而且内核中消息是通过struct sk_buff来管理的， linux/netlink.h中定义了一个宏：

    #define NETLINK_CB(skb) (*(struct netlink_skb_parms*)&((skb)->cb))

    来方便消息的地址设置。下面是一个消息地址设置的例子：

    NETLINK_CB(skb).pid = 0; NETLINK_CB(skb).dst_pid = 0; NETLINK_CB(skb).dst_group = 1;

    字段pid表示消息发送者进程ID，也即源地址，对于内核，它为 0， dst_pid 表示消息接收者进程 ID，也即目标地址，如果目标为组或内核，它设置为 0，否则 dst_group 表示目标组地址，如果它目标为某一进程或内核，dst_group 应当设置为 0。

    在内核中，模块调用函数 netlink_unicast 来发送单播消息：

    int netlink_unicast(struct sock *sk, struct sk_buff *skb, u32 pid, int nonblock);

    参数sk为函数netlink_kernel_create()返回的socket，参数skb存放消息，它的data字段指向要发送的netlink消息结构，而skb的控制块保存了消息的地址信息，前面的宏NETLINK_CB(skb)就用于方便设置该控制块，参数pid为接收消息进程的pid，参数nonblock表示该函数是否为非阻塞，如果为1，该函数将在没有接收缓存可利用时立即返回，而如果为0，该函数在没有接收缓存可利用时睡眠。

    内核模块或子系统也可以使用函数netlink_broadcast来发送广播消息：

    void netlink_broadcast(struct sock *sk, struct sk_buff *skb, u32 pid, u32 group, int allocation);

    前面的三个参数与netlink_unicast相同，参数group为接收消息的多播组，该参数的每一个代表一个多播组，因此如果发送给多个多播组，就把该参数设置为多个多播组组ID的位或。参数allocation为内核内存分配类型，一般地为GFP_ATOMIC或GFP_KERNEL，GFP_ATOMIC用于原子的上下文（即不可以睡眠），而GFP_KERNEL用于非原子上下文。

    在内核中使用函数sock_release来释放函数netlink_kernel_create()创建的netlink socket：

    void sock_release(struct socket * sock);

    注意函数netlink_kernel_create()返回的类型为struct sock，因此函数sock_release应该这种调用：

    sock_release(sk->sk_socket);

    sk为函数netlink_kernel_create()的返回值。

    sk为函数netlink_kernel_create()的返回值。在源代码包中给出了一个使用 netlink 的示例，它包括一个内核模块 netlink-exam-kern.c 和两个应用程序 netlink-exam-user-recv.c, netlink-exam-user-send.c。内核模块必须先插入到内核，然后在一个终端上运行用户态接收程序，在另一个终端上运行用户态发送程序，发送程序读取参数指定的文本文件并把它作为 netlink 消息的内容发送给内核模块，内核模块接受该消息保存到内核缓存中，它也通过proc接口出口到 procfs，因此用户也能够通过 /proc/netlink_exam_buffer 看到全部的内容，同时内核也把该消息发送给用户态接收程序，用户态接收程序将把接收到的内容输出到屏幕上。
  • 相关阅读:
    Oracle Flashback Table
    新上线MySQL数据库规划
    Spark启动流程（Standalone）- master源码
    Spark启动流程（Standalone）-分析
    Spark Netty 通信框架解析
    Spark内核概述
    SparkStreaming DStream转换
    Spark-Core RDD依赖关系
    Spark-Core RDD中函数（变量）传递
    Spark-Core RDD行动算子
  • 原文地址：https://www.cnblogs.com/oracleloyal/p/5991819.html
Copyright © 2011-2022 走看看