python垃圾回收与内存管理

用通俗的语言解释内存管理和垃圾回收的过程，搞懂这一部分就可以去面试、去装逼了…

基于C语言源码底层，让你了解垃圾回收机制的实现

更多详细关于垃圾回收：https://pythonav.com/wiki/detail/6/88/

1、引用计数器

1.1、环状双向链表refchain

在Python的C源码中有一个名为refchain的环状双向链表，这个链表比较牛逼了，因为Python程序中一旦创建对象都会把这个对象添加到refchain这个链表中。也就是说他保存着所有的对象。例如：

name = "武沛齐"
age = 18
hobby = ["篮球", "美女"]


内部会创建一些数据【上一个对象、下一个对象、类型、引用个数】
name = '武沛齐'
new = name

内部会创建一些数据【上一个对象、下一个对象、类型、引用个数、val=18】
age = 18

内部会创建一些数据【上一个对象、下一个对象、类型、引用个数、元素个数】
hobby = ["篮球", "美女"]

在C源码中如何体现每个对象中都有相同的值，PyObject结构体（4个值）

有多个元素组成的对象，PyObject结构体（4个值） + ob_size

1.2、类型封装结构体

data = 3.14

内部会创建
_ob_next = refchain的上一个对象
_ob_prev = refchain的下一个对象
ob_type = float
ob_refcnt = 1
ob_fval = 3.14

1.3、引用计数器

当python运行程序时， 会根据数据类型的不同找到对应的结构体， 根据结构体中的字段来进行创建相关的数据，然后将对象添加到refchain双向链表中

在C源码中有两个关键的结构体，PyObject、PyVarObject

每个对象 中都有ob_refcnt就是引用计数器，默认为1，当有其他变量引用对象时， 引用计数器发生变化

当值被多次引用时候，不会在内存中重复创建数据，而是引用计数器+1 。 当对象被销毁时候同时会让引用计数器-1,如果引用计数器为0，则将对象从refchain链表中摘除，同时在内存中进行销毁（暂不考虑缓存等特殊情况）。

age = 18
name = "武沛齐"
nickname = name   # 对象武沛齐的引用计数器 + 1     引用
del name   # 对象武沛齐的引用计数器 - 1　　　　　　　删除引用

 1.4、引用计数器的bug（循环引用问题）

基于引用计数器进行垃圾回收非常方便和简单，但他还是存在循环引用的问题，导致无法正常的回收一些数据，例如：

v1 = [11,22,33]        # refchain中创建一个列表对象，由于v1=对象，所以列表引对象用计数器为1.
v2 = [44,55,66]        # refchain中再创建一个列表对象，因v2=对象，所以列表对象引用计数器为1.
v1.append(v2)        # 把v2追加到v1中，则v2对应的[44,55,66]对象的引用计数器加1，最终为2.
v2.append(v1)        # 把v1追加到v1中，则v1对应的[11,22,33]对象的引用计数器加1，最终为2.
del v1    # 引用计数器-1
del v2    # 引用计数器-1

对于上述代码会发现，执行del操作之后，没有变量再会去使用那两个列表对象，但由于循环引用的问题，他们的引用计数器不为0

所以他们的状态：永远不会被使用、也不会被销毁。项目中如果这种代码太多，就会导致内存一直被消耗，直到内存被耗尽，程序崩溃。

2、标记清除

为了解决循环引用的问题，引入了标记清除技术，专门针对那些可能存在循环引用的对象进行特殊处理。

可能存在循环应用的类型有：列表、元组、字典、集合、自定义类等那些能进行数据嵌套的类型。

2.1、实现标记清除：

在python底层在维护一个链表，专门保存可能存在循环引用的类型：列表、元组、字典、集合。

在python内部某种情况触发，回去扫描可能存在循环引用的链表中的每个元素，检查是否存在循环引用，如果存在则让双方的引用计数器均 - 1 ，如果是0则垃圾回收

 2.2、标记清除问题

1、什么时候扫描？

2、可能存在循环引用的链表扫描代价大，每次扫描耗时久

3、分代回收

对标记清除中的链表进行优化，将那些可能存在循引用的对象拆分到3个链表，链表称为：0/1/2三代，每代都可以存储对象和阈值，当达到阈值时，就会对相应的链表中的每个对象做一次扫描，除循环引用各自减1并且销毁引用计数器为0的对象。

• 0代：0代中对象个数阀值达到700个扫描一次
• 1代： 0代扫描的次数阀值达到10次，则1代扫描一次
• 2代：1代扫描的次数阀值达到10次，则2代扫描一次

第一步：当创建对象age=19时，会将对象添加到refchain链表中。

第二步：当创建对象num_list = [11,22]时，会将列表对象添加到 refchain 和 generations 0代中。

 

4、小结

在python中维护了一个refchain的双向环状链表，这个链表中存储程序创建的所有对象，每种类型的对象中都有一个ob_refcnt引用计数器的值， 引用个数+1 -1， 最后当引用计数为0时会进行垃圾回收（对象销毁，refchain中移除）

但是，在python中对于那些可以有多个元素组成的对象可能会存在循环引用的问题，为了解决这个问题python引入了标记清除和分代回收

5、python缓存机制

从上文大家可以了解到当对象的引用计数器为0时，就会被销毁并释放内存。

而实际上他不是这么的简单粗暴，因为反复的创建和销毁会使程序的执行效率变低。Python中引入了“缓存机制”机制。
例如：引用计数器为0时，不会真正销毁对象，而是将他放到一个名为 free_list 的链表中，之后会再创建对象时不会在重新开辟内存，而是在free_list中将之前的对象来并重置内部的值来使用。

 float类型，维护的free_list链表最多可缓存100个float对象。

  v1 = 3.14    # 开辟内存来存储float对象，并将对象添加到refchain链表。
  print( id(v1) ) # 内存地址：4436033488
  del v1    # 引用计数器-1，如果为0则在rechain链表中移除，不销毁对象，而是将对象添加到float的free_list.
  v2 = 9.999    # 优先去free_list中获取对象，并重置为9.999，如果free_list为空才重新开辟内存。
  print( id(v2) ) # 内存地址：4436033488
  # 注意：引用计数器为0时，会先判断free_list中缓存个数是否满了，未满则将对象缓存，已满则直接将对象销毁。

int类型，不是基于free_list，而是维护一个small_ints链表保存常见数据（小数据池），小数据池范围：-5 <= value < 257。即：重复使用这个范围的整数时，不会重新开辟内存。

  v1 = 38    # 去小数据池small_ints中获取38整数对象，将对象添加到refchain并让引用计数器+1。
  print( id(v1))  #内存地址：4514343712
  v2 = 38 # 去小数据池small_ints中获取38整数对象，将refchain中的对象的引用计数器+1。
  print( id(v2) ) #内存地址：4514343712
  # 注意：在解释器启动时候-5~256就已经被加入到small_ints链表中且引用计数器初始化为1，代码中使用的值时直接去small_ints中拿来用并将引用计数器+1即可。另外，small_ints中的数据引用计数器永远不会为0（初始化时就设置为1了），所以也不会被销毁。

str类型，维护unicode_latin1[256]链表，内部将所有的ascii字符缓存起来，以后使用时就不再反复创建。

  v1 = "A"
  print( id(v1) ) # 输出：4517720496
  del v1
  v2 = "A"
  print( id(v1) ) # 输出：4517720496
  # 除此之外，Python内部还对字符串做了驻留机制，针对那么只含有字母、数字、下划线的字符串（见源码Objects/codeobject.c），如果内存中已存在则不会重新在创建而是使用原来的地址里（不会像free_list那样一直在内存存活，只有内存中有才能被重复利用）。
  v1 = "wupeiqi"
  v2 = "wupeiqi"
  print(id(v1) == id(v2)) # 输出：True

list类型，维护的free_list数组最多可缓存80个list对象。

  v1 = [11,22,33]
  print( id(v1) ) # 输出：4517628816
  del v1
  v2 = ["武","沛齐"]
  print( id(v2) ) # 输出：4517628816

tuple类型，维护一个free_list数组且数组容量20，数组中元素可以是链表且每个链表最多可以容纳2000个元组对象。元组的free_list数组在存储数据时，是按照元组可以容纳的个数为索引找到free_list数组中对应的链表，并添加到链表中。

  v1 = (1,2)
  print( id(v1) )
  del v1  # 因元组的数量为2，所以会把这个对象缓存到free_list[2]的链表中。
  v2 = ("武沛齐","Alex")  # 不会重新开辟内存，而是去free_list[2]对应的链表中拿到一个对象来使用。
  print( id(v2) )

dict类型，维护的free_list数组最多可缓存80个dict对象。

  v1 = {"k1":123}
  print( id(v1) )  # 输出：4515998128
  del v1
  v2 = {"name":"武沛齐","age":18,"gender":"男"}
  print( id(v1) ) # 输出：4515998128