一、 垃圾回收机制
1、什么是垃圾回收机制?
+什么是‘垃圾’?
在Python程序中,‘垃圾’指的是 没有用处的变量值。
那什么样的变量值是没有用的呢?
我们定义变量将变量值存起来的目的是为了以后取出来使用,而取得变量值需要通过其绑定的直接引用(如x=10,10被x直接引用)
或 间接引用(如l=[x,],x=10,10被x直接引用,而被容器类型l间接引用)。所以当一个变量值不再绑定任何引用时,我们就无法再访问到该变量值了,该变量值就是没有用的,就应该被当成一个‘垃圾’回收。
解释器在执行到定义变量的语法时,会申请内存空间来存放变量的值,而内存的容量是有限的,这就涉及到变量值所占用内存空间的回收问题,当一个变量值没有用了(简称垃圾)就应该将其占用的内存给回收掉 。
而内存空间的申请与回收是非常耗费精力的事情,而且存在很大的危险性,稍有不慎就有可能引发内存溢出问题,好在cpython解释器提供了自动的垃圾回收机制来帮我们解决了这件事。
+垃圾回收机制—Garbage collection(GC)
垃圾回收机制(简称GC)是Python解释器自带一种机制,专门用来回收不可用的变量值所占用的内存空间。
现在的高级语言如java,c#等,都采用了垃圾收集机制,而不再是c,c++里用户自己管理维护内存的方式。
自己管理内存极其自由,可以任意申请内存,但如同一把双刃剑,为大量内存泄露,悬空指针等bug埋下隐患。
对于一个字符串、列表、类甚至数值都是对象,且定位简单易用的语言,自然不会让用户去处理如何分配回收内存的问题。
python里也同java一样采用了垃圾收集机制,不过不一样的是: python采用的是引用计数机制为主,标记-清除和分代回收两种机制为辅的策略。
2、为什么要有垃圾回收机制?
先来看看专业解释:
程序运行过程中会申请大量的内存空间,而对于一些无用的内存空间如果不及时清理的话会导致内存使用殆尽(即 内存溢出),导致程序崩溃,因此管理内存是一件重要且繁杂的事情,而python解释器自带的垃圾回收机制把程序员从繁杂的内存管理中解放出来。
(其实就是Python提供给程序员的一个‘偷懒机制’。有了 ‘垃圾回收机制’ 这个 ‘自动洗尘器’,再也不用被嘲笑“一屋不扫何以扫天下”。)
3、垃圾回收机制的工作原理
+引用计数(reference counting)——跟踪和回收垃圾
什么是引用计数?
引用计数就是:变量值被变量名关联的次数
如:age=18 ,变量值18被关联了一个变量名age,则称之为引用计数为1。
引用增加
例如:age=18 (此时,变量值18的引用计数为1)
m=age (把age的内存地址给了m, 此时,m,age都关联了18,所以变量值18的引用计数为2)
引用减少
例如:age=10(名字age先与值18解除关联,再与3建立了关联,变量值18的引用计数为1)
del m(del的意思是解除变量名x与变量值18的关联关系,此时,变量18的引用计数为0)
值18的引用计数一旦变为0,其占用的内存地址就应该被解释器的垃圾回收机制回收。
即,当一个变量值的引用计数为0时,就成了该被回收的垃圾,其占用的内存地址就应该被解释器的垃圾回收机制回收。
那问题又来了,垃圾回收有特殊情况吗?
请继续听以下分解——
变量值被关联次数的增加或减少,都会引发引用计数机制的执行(增加或减少值的引用计数),这存在明显的效率问题。
此外,引用计数机制还存在着一个致命的弱点,即循环引用(也称交叉引用)——容器对象名 . append(值)
容器对象(比如:list,set,dict,class,instance)都可以包含对其他对象的引用,所以都可能产生循环引用。
# 如下我们定义了两个列表,简称列表1与列表2,变量名l1指向列表1,变量名l2指向列表2 >>> l1=['xxx'] # 列表1被引用一次,列表1的引用计数变为1 >>> l2=['yyy'] # 列表2被引用一次,列表2的引用计数变为1 >>> l1.append(l2) # 把列表2追加到l1中作为第二个元素,列表2的引用计数变为2 >>> l2.append(l1) # 把列表1追加到l2中作为第二个元素,列表1的引用计数变为2 # l1与l2之间有相互引用 # l1 = ['xxx'的内存地址,列表2的内存地址] # l2 = ['yyy'的内存地址,列表1的内存地址] >>> l1 ['xxx', ['yyy', [...]]] >>> l2 ['yyy', ['xxx', [...]]] >>> l1[1][1][0] 'xxx'
循环引用会导致:值不再被任何名字关联,但是值的引用计数并不会为0,应该被回收但不能被回收 ——
>>> del l1 # 列表1的引用计数减1,列表1的引用计数变为1 >>> del l2 # 列表2的引用计数减1,列表2的引用计数变为1
del 的意思是解除变量名与变量值的关联关系。处理的是内存中的栈区。(GC回收机制处理的是内存中的堆区)
此时,只剩下列表1与列表2之间的相互引用,两个列表的引用计数均不为0,
但两个列表不再被任何其他对象关联,没有任何人可以再引用到它们,所以它俩占用内存空间应该被回收。
但由于相互引用的存在,每一个对象的引用计数都不为0,因此这些对象所占用的内存永远不会被释放。
因此循环引用是致命的,这与手动进行内存管理所产生的内存泄露毫无区别。
所以python引入了“标记-清除” 与“分代回收”来分别解决引用计数的循环引用与效率低的问题。
+标记清除(mark and sweep)——解决容器对象可能产生的循环引用的问题
标记清除怎么工作,什么时候工作,工作频率?
在了解标记清除算法前,我们需要明确一点,关于变量的存储——
内存中有两块区域:栈区与堆区,在定义变量时,变量名与值内存地址的关联关系存放于栈区,变量值存放于堆区,内存管理回收的则是堆区的内容,
详解如下图:
定义了两个变量x = 10、y = 20
当我们执行x=y时,内存中的栈区与堆区变化如下:
标记/清除算法的做法是当应用程序可用的内存空间被耗尽的时,就会停止整个程序,然后进行两项工作,第一项则是标记,第二项则是清除。
#标记—标记的过程其实就是,遍历所有的gc roots对象(栈区中的所有内容或者线程都可以作为gc roots对象),然后将所有gc roots的对象可以直接或间接访问到的对象标记为存活的对象,其余的均为非存活对象,应该被清除。
#清除—清除的过程将遍历堆中所有的对象,将没有标记的对象(非存活对象)全部清除掉。
直接引用——指的是从栈区出发,直接引用到的内存地址。
间接引用——指的是从栈区出发,引用到堆区后再进一步引用到的内存地址。(即本身有个直接引用,再去引用堆区别的内存地址)
以我们之前的两个列表l1与l2为例画出如下图像:
当我们同时删除l1与l2时,会清理到栈区中l1与l2的内容:
这样在启用标记清除算法时,发现栈区内不再有l1与l2(只剩下堆区内二者的相互引用),于是列表1与列表2都没有被标记为存活,二者会被清理掉,这样就解决了循环引用带来的内存泄漏问题。
形象地理解,就是“顺藤摸瓜”——“藤”就像变量名与值内存地址的关联关系, “瓜”就像变量值。如果“藤”已经断了,那么就把“瓜”抱走吃了吧,不管这个“瓜”有多少兄弟姐妹……
+分代回收(generation collection)—— 以空间换取时间的方式来进一步提高 垃圾回收的效率
为什么要有分代回收?
基于引用计数的回收机制,每次回收内存,都需要把所有对象的引用计数都遍历一遍,这是非常消耗时间的,于是引入了分代回收来提高回收效率,分代回收采用的是用“空间换时间”的策略。
分代回收的原理:
分代回收的核心思想是:在历经多次扫描的情况下,都没有被回收的变量,GC机制就会认为,该变量是常用变量,GC对其扫描的频率会降低。
具体实现原理如下:
【分代】
分代指的是根据存活时间来为变量划分不同等级(也就是不同的代)
新定义的变量,放到新生代这个等级中,假设每隔1分钟扫描新生代一次,
如果发现变量依然被引用,那么该对象的权重(权重本质就是个整数)加一,当变量的权重大于某个设定得值(假设为3),会将它移动到更高一级的青春代,
青春代的gc扫描的频率低于新生代(扫描时间间隔更长),假设5分钟扫描青春代一次,这样每次gc需要扫描的变量的总个数就变少了,节省了扫描的总时间,
接下来,青春代中的对象,也会以同样的方式被移动到老年代中。也就是等级(代)越高,被垃圾回收机制扫描的频率越低。
【回收】
回收依然是使用引用计数作为回收的依据。
虽然分代回收可以起到提升效率的效果,但也存在一定的缺点:
例如:一个变量刚刚从新生代移入青春代,该变量的绑定关系就解除了,该变量应该被回收,但青春代的扫描频率低于新生代,所以该变量的回收就会被延迟。