Python 的内存管理机制与垃圾回收机制

内存管理

　　Python中的内存管理机制的层次结构提供了4层，其中最底层则是C运行的malloc和free接口，往上的三层才是由Python实现并且维护的。

　　第一层是在第0层的基础之上对其提供的接口进行了统一的封装，这是因为虽然不同的操作系统都提供标准定义的内存管理接口，但是对于某些特殊的情况不同的操作系统都不同的行为，比如说调用malloc(0)，有的操作系统会返回NULL，表示内存申请失败；然而有的操作系统会返回一个貌似正常的指针，但是这个指针所指的内存并不是有效的。为了广泛的移植性，Python必须保证相同的语义一定代表相同的运行行为。

　　在第二层内存管理机制上，Python构建了更高抽象的内存管理策略，比如说一些常用对象，包括整数对象、字符串对象等等。

　　第三层主要是对象缓冲池机制，基于第二层的内存池建立。

内存池

　　Python为了避免频繁的申请和删除内存所造成系统切换于用户态和核心态的开销，从而引入了内存池机制，专门用来管理小内存的申请和释放。整个小块内存的内存池可以视为一个层次结构，其一共分为4层，从下之上分别是block、pool、arena和usedpool内存池。需要说明的是：block、pool和area都是代码中可以找到的实体，而最顶层的内存池只是一个概念上的东西，表示Python对于整个小块内存分配和释放行为的内存管理机制。

注意，内存大小以256字节为界限，大于则通过malloc进行分配，小于则通过内存池分配。

如下图：

1. block：最小的内存单元，大小为8的整数倍。有很多种类的block，不同种类的block都有不同的内存大小，申请内存的时候只需要找到适合自身大小的block即可，当然申请的内存也是存在一个上限，如果超过这个上限，则退化到使用最底层的malloc进行申请。

2. pool：一个pool管理着一堆有固定大小的内存块，其大小通常为一个系统内存页的大小。

3. arena：多个pool组合成一个arena。

4. usedpool（内存池）：一个整体的概念。

 缓冲池

　　缓冲池是为了减少磁盘的IO操作，专门在内存中开辟一块区域，将磁盘中一些经常访问的数据放入到该区域，以检查IO操作。

参考文章：（https://blog.csdn.net/zhzhl202/article/details/7547445）

Python的垃圾回收机制

引子:

我们定义变量会申请内存空间来存放变量的值，而内存的容量是有限的，当一个变量值没有用了（简称垃圾）就应该将其占用的内存给回收掉，而变量名是访问到变量值的唯一方式，所以当一个变量值没有关联任何变量名时，我们就无法再访问到该变量值了，该变量值就是一个垃圾会被Python解释的垃圾回收机制自动回收。。。

一、什么是垃圾回收机制？

垃圾回收机制（简称GC）是Python解释器自带一种机，专门用来回收不可用的变量值所占用的内存空间。python采用的是引用计数机制为主，标记-清除和分代收集两种机制为辅的策略

二、为什么要用垃圾回收机制？

1程序运行过程中会申请大量的内存空间，而对于一些无用的内存空间如果不及时清理的话会导致内存使用殆尽（内存溢出），导致程序崩溃，因此管理内存是一件重要且繁杂的事情，而python解释器自带的垃圾回收机制把程序员从繁杂的内存管理中解放出来。

三、垃圾回收机制原理分析

Python的GC模块主要运用了“引用计数”（reference counting）来跟踪和回收垃圾。在引用计数的基础上，还可以通过“标记-清除”（mark and sweep）解决容器对象可能产生的循环引用的问题，并且通过“分代回收”（generation collection）以空间换取时间的方式来进一步提高垃圾回收的效率。

引用计数

引用计数就是：变量值被变量名关联的次数

如：name=‘jason'

　　变量值jason被关联了一个name，称之为引用计数为1

 

引用计数增加：

　　x=10 （此时，变量值10的引用计数为1）

　　y=x （此时，把x的内存地址给了y，此时，x,y都关联了10，所以变量值10的引用计数为2）

 

引用计数减少：

　　x=3（此时，x与10解除了关联，与3 建立了关联，变量10的引用计数为1）

　　del y（del的意思是解除变量名y与变量值10的关联关系，此时，变量10的引用计数为0）

这样变量值10的引用计数为0，其占用的内存地址就会被回收

引用计数扩展阅读

引用计数机制执行效率问题：变量值被关联次数的增加或减少，都会引发引用计数机制的执行，这存在明显的效率问题 如果说执行效率还仅仅是引用计数机制的一个软肋的话，那么很不幸，引用计数机制还存在着一个致命的弱点，即循环引用（也称交叉引用）。

# 变量名l1指向列表1，变量名l2指向列表2，如下
>>> l1=['列表1中的第一个元素']  # 列表1被引用一次   
>>> l2=['列表2中的第一个元素']  # 列表2被引用一次 
>>> l1.append(l2)             # 把列表2追加到l1中作为第二个元素，列表2的引用计数为2
>>> l2.append(l1)             # 把列表1追加到l2中作为第二个元素，列表1的引用计数为2
# l1与l2
# l1 = ['列表1中的第一个元素',列表2的内存地址]
# l2 = ['列表2中的第一个元素',列表1的内存地址]

循环引用可以使一组对象的引用计数不为0，然而这些对象实际上并没有被任何外部对象所引用，它们之间只是相互引用。这意味着不会再有人使用这组对象，应该回收这组对象所占用的内存空间，然后由于相互引用的存在，每一个对象的引用计数都不为0，因此这些对象所占用的内存永远不会被释放。比如：

>>> l1
['列表1中的第一个元素', ['列表2中的第一个元素', [...]]]
>>> l2
['列表2中的第一个元素', ['列表1中的第一个元素', [...]]]
>>> l1[1][1][0]
'列表1中的第一个元素'

如果我们执行del l1，列表1的引用计数=2-1，即列表1不会被回收，同理del l2，列表2的引用计数=2-1，此时无论列表1还是列表2都没有任何名字关联，但是引用计数均不为0，所以循环引用是致命的，这与手动进行内存管理所产生的内存泄露毫无区别 要解决这个问题，Python引入了其他的垃圾收集机制来弥补引用计数的缺陷：1、“标记-清除” 2、“分代回收”

标记-清除

　　容器对象（比如：list，set，dict，class，instance）都可以包含对其他对象的引用，所以都可能产生循环引用。而“标记-清除”计数就是为了解决循环引用的问题。

　　在了解标记清除算法前，我们需要明确一点，内存中有两块区域：堆区与栈区，在定义变量时，变量名存放于栈区，变量值存放于堆区，内存管理回收的则是堆区的内容，详解如下图

 

标记/清除算法的做法是当有效内存空间被耗尽的时候，就会停止整个程序，然后进行两项工作，第一项则是标记，第二项则是清除

标记：标记的过程其实就是，遍历所有的GC Roots对象(栈区中的所有内容或者线程都可以作为GC Roots对象），然后将所有GC Roots的对象可以直接或间接访问到的对象标记为存活的对象。

清除：清除的过程将遍历堆中所有的对象，将没有标记的对象全部清除掉。

GC roots对象直接访问到的对象，插图如下

 

GC roots对象间接访问到的对象，插图如下

 

用图形解释，环引用的例子中的l1与l2，在什么时候启动标记清除，标记清除的整个过程，插图

 

分代回收

背景：基于引用计数的回收机制，每次回收内存，都需要把所有对象的引用计数都遍历一遍，这是非常消耗时间的，于是引入了分代回收来提高回收效率，采用“空间换时间的策略”。

什么是分代回收？

分代：分代回收的核心思想是：在多次扫描的情况下，都没有被回收的变量，gc机制就会认为，该变量是常用变量，gc对其扫描的频率会降低，具体实现原理如下：

分代指的是根据存活时间来为变量划分不同等级（也就是不同的代）

新定义的变量，放到新生代这个等级中，假设每隔1分钟扫描新生代一次，如果发现变量依然被引用，那么该对象的权重（权重本质就是个整数）加一，当变量的权重大于某个设定得值（假设为3），会将它移动到更高一级的青春代，青春代的gc扫描的频率低于新生代（扫描时间间隔更长），假设5分钟扫描青春代一次，这样每次gc需要扫描的变量的总个数就变少了，节省了扫描的总时间，接下来，青春代中的对象，也会以同样的方式被移动到老年代中。也就是等级（代）越高，被垃圾回收机制扫描的频率越低

回收：回收依然是使用引用计数作为回收的依据

画图：

 

缺点：

例如一个变量刚刚从新生代移入青春代，该变量的绑定关系就解除了，该变量应该被回收，青春代的扫描频率低于新生代，所以该变量的回收时间被延迟。