并发与并行
并发
拥有处理多个任务的能力。对于单核CPU来说，只能处理并发
并行
拥有同时处理多个任务的能力，对于多核CPU，即可以并发和并行
同步与异步
同步和异步强调的是消息通信机制
同步
如果一个人这样处理：先烧水，烧水的过程中啥也不干，就一直等着，等水开后，再把茶叶放到开水壶中。这种处理方法就是同步处理
也就是说，一个任务需要多步执行，如果上一步没有执行结束，那么下一步任务就一直等待。等到上一步任务完成后（一般会有结果），下一步的任务才继续执行
在计算机中：如果一段代码A的执行中需要调用另一端代码B，那么代码A就会一直等待，直到代码B执行结束后才继续向下执行
异步
如果这样做：用一个会报警的水壶。吧凉水放到水壶里，点着火就去干其他事情了。等水壶的报警器报警的时候，他再过去吧茶叶放到开水壶里。这就是异步操作。
此人改进过程：用了一个会报警的水壶，他把凉水放到水壶里，点着火后就去干其他事了。同事交代他的仆人等水开了就把茶叶放到开水壶里，等水壶的报警器报警的时候，他的仆人就去吧茶叶放到开水壶里。
仆人就相当于计算机异步操作中的回调函数。水壶报警相当于调用回调函数
阻塞和非阻塞
阻塞和非阻塞强调的是程序在等待调用结果（消息，返回值）时的状态
阻塞
程序在等待的过程中，线程是挂起状态。就像刚才的例子中，这个烧水的人，在等待水开的过程中在睡觉。而同步等待的过程中，线程是激活状态
非阻塞
线程、进程、携程
进程是操作系统最小的资源分配单位。线程是操作系统最小的执行单元。
进程（我用的是 multiprocessing 模块）
进程是运行着的程序以及其占用的系统资源的总和。每个进程都有独立的内存空间。
创建一个进程（Process）
子进程阻塞进程（进程对象的join方法）
守护进程
队列（Queue、JoinableQueue）【生产/消防 模型】、锁、信号量、进程池、事件、管道
线程
协程