zoukankan      html  css  js  c++  java
  • 六. Go并发编程--WaitGroup

    一. 序言

    WaitGroup是Golang应用开发过程中经常使用的并发控制技术。

    WaitGroup,可理解为Wait-Goroutine-Group,即等待一组goroutine结束。比如某个goroutine需要等待其他几个goroutine全部完成,那么使用WaitGroup可以轻松实现。

    下面是一段demo.go示例

    package main
    
    import (
    	"fmt"
    	"sync"
    )
    
    func worker(i int) {
    	fmt.Println("worker: ", i)
    }
    
    func main() {
        // 实例化一个 wg
    	var wg sync.WaitGroup
    	
    	// 启动10个worker协程
    	for i := 0; i < 10; i++ {
    		// 协程执行前 加1
    		wg.Add(1)
    		go func(i int) {
    		    // 执行完毕后执行done,相当于计数减1
    			defer wg.Done()
    			worker(i)
    		}(i)
    	}
    	// 等待所有的协程执行完毕后,执行其他逻辑
    	wg.Wait()
    }
    

    demo2.go
    下面程序展示了一个goroutine等待另外两个goroutine结束的例子:

    package main
    
    import (
        "fmt"
        "time"
        "sync"
    )
    
    func main() {
        var wg sync.WaitGroup
    
        wg.Add(2) //设置计数器,数值即为goroutine的个数
        go func() {
            //Do some work
            time.Sleep(1*time.Second)
    
            fmt.Println("Goroutine 1 finished!")
            wg.Done() //goroutine执行结束后将计数器减1
        }()
    
        go func() {
            //Do some work
            time.Sleep(2*time.Second)
    
            fmt.Println("Goroutine 2 finished!")
            wg.Done() //goroutine执行结束后将计数器减1
        }()
    
        wg.Wait() //主goroutine阻塞等待计数器变为0
        fmt.Printf("All Goroutine finished!")
    }
    

    简单的说,上面程序中wg内部维护了一个计数器:

    1. 启动goroutine前将计数器通过Add(2)将计数器设置为待启动的goroutine个数。
    2. 启动goroutine后,使用Wait()方法阻塞自己,等待计数器变为0。
      3 . 每个goroutine执行结束通过Done()方法将计数器减1。
    3. 计数器变为0后,阻塞的goroutine被唤醒。

    如何支持多个 goroutine 等待一个 goroutine 完成后再干活呢?

    二.源码分析

    2.1 信号量

    信号量是Unix系统提供的一种保护共享资源的机制,用于防止多个线程同时访问某个资源。

    可简单理解为信号量为一个数值:

    • 当信号量>0时,表示资源可用,获取信号量时系统自动将信号量减1;
    • 当信号量==0时,表示资源暂不可用,获取信号量时,当前线程会进入睡眠,当信号量为正时被唤醒;

    由于在WaitGroup实现中也是用了信号量,因此做一个简单介绍

    WaitGroup是一个结构体

    type WaitGroup struct {
    	noCopy noCopy
    
    	// 64-bit value: high 32 bits are counter, low 32 bits are waiter count.
    	// 64-bit atomic operations require 64-bit alignment, but 32-bit
    	// compilers do not ensure it. So we allocate 12 bytes and then use
    	// the aligned 8 bytes in them as state, and the other 4 as storage
    	// for the sema.
    	state1 [3]uint32
    }
    

    结构十分简单,由 nocopystate1 两个字段组成,其中 nocopy 是用来防止复制的.

    nocopy是一个空结构体,包含两个方法

    type noCopy struct{}
    
    // Lock is a no-op used by -copylocks checker from `go vet`.
    func (*noCopy) Lock()   {}
    func (*noCopy) Unlock() {}
    

    由于嵌入了 nocopy 所以在执行 go vet 时如果检查到 WaitGroup 被复制了就会报错。这样可以一定程度上保证 WaitGroup 不被复制,对了直接 go run 是不会有错误的,所以我们代码 push 之前都会强制要求进行 lint 检查,在 ci/cd 阶段也需要先进行 lint 检查,避免出现这种类似的错误。

    state1是个长度为3的数组,其中包含了state和一个信号量,而state实际上是两个计数器:

    • counter: 当前还未执行结束的goroutine计数器
    • waiter count: 等待goroutine-group结束的goroutine数量,即有多少个等候者
    • semaphore: 信号量

    state1 的设计非常巧妙,这是一个是十二字节的数据,这里面主要包含两大块,counter 占用了 8 字节用于计数,sema 占用 4 字节用做信号量.

    为什么要这么搞呢?直接用两个字段一个表示 counter,一个表示 sema 不行么?
    不行,我们看看注释里面怎么写的。

    代码注释中大概意思是:在做 64 位的原子操作的时候必须要保证 64 位(8 字节)对齐,如果没有对齐的就会有问题,但是 32 位的编译器并不能保证 64 位对齐所以这里用一个 12 字节的 state1 字段来存储这两个状态,然后根据是否 8 字节对齐选择不同的保存方式。

    这个操作巧妙在哪里呢?

    • 如果是 64 位的机器那肯定是 8 字节对齐了的,即第一种方式
    • 如果在 32位的机器上
      • 如果恰好 8 字节对齐,那也是第一种方式取前面的8字节
      • 如果是没有对其,但是32位4字节是对齐的,所以只需要后裔四个字节,那个8个字节就对齐了

    所以通过 sema 信号量这四个字节的位置不同,保证了 counter 这个字段无论在 32 位还是 64 为机器上都是 8 字节对齐的,后续做 64 位原子操作的时候就没问题了。

    考虑到字节是否对齐,三者出现的位置不同,为简单起见,依照字节已对齐情况下,三者在内存中的位置如下所示:

    state 方法实现如下

    func (wg *WaitGroup) state() (statep *uint64, semap *uint32) {
        
        // 取8的余数如果余数为0说明8字节对齐了
    	if uintptr(unsafe.Pointer(&wg.state1))%8 == 0 {
    		return (*uint64)(unsafe.Pointer(&wg.state1)), &wg.state1[2]
    	} else {
    		return (*uint64)(unsafe.Pointer(&wg.state1[1])), &wg.state1[0]
    	}
    }
    

    state 方法返回 counter 和信号量,通过 uintptr(unsafe.Pointer(&wg.state1))%8 == 0 来判断是否 8 字节对齐

    2.1 Add

    func (wg *WaitGroup) Add(delta int) {
        // 先从 state 当中把数据和信号量取出来
    	statep, semap := wg.state()
    
        // 在 waiter 上加上 delta 值
    	state := atomic.AddUint64(statep, uint64(delta)<<32)
        // 取出当前的 counter
    	v := int32(state >> 32)
        // 取出当前的 waiter,正在等待 goroutine 数量
    	w := uint32(state)
    
        // counter 不能为负数
    	if v < 0 {
    		panic("sync: negative WaitGroup counter")
    	}
    
        // 这里属于防御性编程
        // w != 0 说明现在已经有 goroutine 在等待中,说明已经调用了 Wait() 方法
        // 这时候 delta > 0 && v == int32(delta) 说明在调用了 Wait() 方法之后又想加入新的等待者
        // 这种操作是不允许的
    	if w != 0 && delta > 0 && v == int32(delta) {
    		panic("sync: WaitGroup misuse: Add called concurrently with Wait")
    	}
        // 如果当前没有人在等待就直接返回,并且 counter > 0
    	if v > 0 || w == 0 {
    		return
    	}
    
        // 这里也是防御 主要避免并发调用 add 和 wait
    	if *statep != state {
    		panic("sync: WaitGroup misuse: Add called concurrently with Wait")
    	}
    
    	// 唤醒所有 waiter,看到这里就回答了上面的问题了
    	*statep = 0
    	for ; w != 0; w-- {
    		runtime_Semrelease(semap, false, 0)
    	}
    }
    

    2.2 Wait

    wait 主要就是等待其他的 goroutine 完事之后唤醒

    func (wg *WaitGroup) Wait() {
    	// 先从 state 当中把数据和信号量的地址取出来
        statep, semap := wg.state()
    
    	for {
         	// 这里去除 counter 和 waiter 的数据
    		state := atomic.LoadUint64(statep)
    		v := int32(state >> 32)
    		w := uint32(state)
    
            // counter = 0 说明没有在等的,直接返回就行
            if v == 0 {
    			// Counter is 0, no need to wait.
    			return
    		}
    
    		// waiter + 1,调用一次就多一个等待者,然后休眠当前 goroutine 等待被唤醒
    		if atomic.CompareAndSwapUint64(statep, state, state+1) {
    			runtime_Semacquire(semap)
    			if *statep != 0 {
    				panic("sync: WaitGroup is reused before previous Wait has returned")
    			}
    			return
    		}
    	}
    }
    

    2.3 Done

    Done是对 Add的封装

    func (wg *WaitGroup) Done() {
    	wg.Add(-1)
    }
    

    三. 总结

    简单说来,WaitGroup通常用于等待一组“工作协程”结束的场景,其内部维护两个计数器,这里把它们称为“工作协程”计数器和“坐等协程”计数器,
    WaitGroup对外提供的三个方法分工非常明确:

    • Add(delta int)方法用于增加“工作协程”计数,通常在启动新的“工作协程”之前调用;
    • Done()方法用于减少“工作协程”计数,每次调用递减1,通常在“工作协程”内部且在临近返回之前调用;
    • Wait()方法用于增加“坐等协程”计数,通常在所有”工作协程”全部启动之后调用;

    WaitGroup 可以用于一个 goroutine 等待多个 goroutine 干活完成,也可以多个 goroutine 等待一个 goroutine 干活完成,是一个多对多的关系

    多个等待一个的典型案例是 singleflight,这个在后面将微服务可用性的时候还会再讲到,感兴趣可以看看源码

    3.1 注意事项

    1. Done()方法除了负责递减“工作协程”计数以外,还会在“工作协程”计数变为0时检查“坐等协程”计数器并把“坐等协程”唤醒。
      需要注意的是,Done()方法递减“工作协程”计数后,如果“工作协程”计数变成负数时,将会触发panic,这就要求Add()方法调用要早于Done()方法。
    2. 此外,通过Add()方法累加的“工作协程”计数要与实际需要等待的“工作协程”数量一致,否则也会触发panic
    3. 当“工作协程”计数多于实际需要等待的“工作协程”数量时,“坐等协程”可能会永远无法被唤醒而产生列锁,此时,Go运行时检测到死锁会触发panic
    4. 当“工作协程”计数小于实际需要等待的“工作协程”数量时,Done()会在“工作协程”计数变为负数时触发panic。

    四. 参考

    1. https://lailin.xyz/post/go-training-week3-waitgroup.html
    2. https://draveness.me/golang/docs/part3-runtime/ch06-concurrency/golang-sync-primitives/
    3. https://www.topgoer.cn/docs/gozhuanjia/chapter055.2-waitgroup
    ♥永远年轻,永远热泪盈眶♥
  • 相关阅读:
    Linux netstat 命令入门知识
    Linux文件预读对系统的影响
    Ubuntu下配置Hadoop环境
    Debian Wheezy 安装Nginx+HHVM
    Linux Glibc库严重安全漏洞检测与修复方案
    关于系统时间的几个问题
    C语言的整型溢出问题
    Django Nginx配置
    linux上安装mysql5.7
    日期、时间选择器
  • 原文地址:https://www.cnblogs.com/failymao/p/15496782.html
Copyright © 2011-2022 走看看