Python垃圾回收机制

2021-04-25 15:12发布

写在前面

  垃圾回收(Garbage Collection,GC)作为现代编程语言的自动内存管理机制,专注于两件事:1)找到内存中无用的垃圾资源;2)清除这些垃圾并把内存让出来给其他对象使用。

  现在的高级语言如Java、C#等,都采用了垃圾回收机制,而不再是C,C++里用户自己管理维护内存的方式。自己管理内存极其自由,可以任意申请内存,但如同一把双刃剑,为大量内存泄漏、悬空指针等埋下隐患。Python采用的是引用计数为主,标记-清除(Mark-Sweep)和分代回收两种机制为辅的策略,但Java的垃圾回收策略并不采用引用计数,其中缘由会在后面说到。


引用计数

原理简述

  Python在创建对象时立即向操作系统请求内存(Python在操作系统堆之上提供了一个抽象层,实现了自己的一套内存分配系统),再次创建对象时,再次请求内存,并且Python中的每一个对象核心是一个结构体PyObject。创建一个对象时,Python总是在对象的结构体中保存一个整数,称为引用数(ob_refcnt),当有一个对象有新的引用时,它的ob_refcnt就会增加,当引用它的对象被删除,它的ob_refcnt就会减少,当引用计数为0时,该对象生命就结束了。现在创建了3个对象分别是n1=“ABC”,n2=“DEF”,n3=“GHI”,其ob_refcnt均为1,说明有一个指针指向或者引用对象


  现在n1=“JKL”,n1指向"JKL",不再指向”ABC“,此时Python就把"ABC"的引用数置为0,"JKL"引用数置为1,Python垃圾回收机制——引用计数挺身而出,每当对象的引用数减为0,Python立即将其释放,把内存还给操作系统。


  或者n2指向n1。



  Python的引用计数与Ruby的可用列表算法有着诸多相似之处,只是一个看起来更加简洁,一个看起来更加邋遢。Python的引用计数是George-Collins在1960年发明的,恰巧与John McCarthy发明的可用列表算法在同一年出现,“1960年是垃圾收集器的黄金年代…”。


引用计数器

  引用计数算法的原理简而言之就是维护一个ob_refcnt(引用计数器),用来记录当前对象被引用的次数,也就是来追踪到底有多少引用指向了这个对象,当发生以下四种情况,该对象多的引用计数器+1:

  1)对象被创建 a=1;

  2)对象被引用 b=a;

  3)对象被作为参数传到函数中 func(a);

  4)对象作为一个元素,存储在容器中 list=[a,2];

  与上述情况对应,当发生以下四种情况,该对象的引用计数器-1:

  1)对象的别名被显式销毁 del a;

  2)对象的别名被赋予新的对象 a =2;

  3)一个对象离开它的作用域,例如func函数执行完毕时,函数里面的局部变量的引用计数器就会减一(但全局变量不会);

  4)对象从容器中被删除,或者容器被销毁;

  当指向该对象的内存的引用计数器为0时,该内存将会被Python虚拟机销毁。


优缺点

优点

  1)高效;

  2)实时性,一旦没有引用,内存就立即释放,这样处理回收内存的时间就分摊了平时。(实时性可与Ruby的垃圾回收算法比较会很明显)

  3)对象有确定的生命周期;


缺点

  1)维护引用计数消耗资源;Python不得不在每个对象内部留一些空间来处理引用数。这样付出了一小点儿空间上的代价。但更糟糕的是,每个简单的操作(像修改变量或引用)都会变成一个更复杂的操作,因为Python需要增加一个计数,减少另一个,还可能释放对象。同时这也会导致操作速度变慢,Python不停地更新着众多引用数值,特别是当你不再使用一个大数据结构的时候,比如一个包含很多元素的列表,Python可能必须一次性释放大量对象,减少引用数就成了一项复杂的递归过程了;

  2)无法解决循环引用问题,这也就是很多语言如Java并没有使用该算法作为垃圾回收机制。


标记-清除与分代回收

循环引用问题

  针对引用计数这种算法来说,如果一个数据结构引用了它自身,即如果这个数据结构是一个循环数据结构,那么某些引用计数值是肯定无法变成零的。为了更好地理解这个问题,举个例子。


A = [] # 对象A的引用计数为 1

B = [] # 对象B的引用计数为 1

A.append(B) # A,B的引用计数增1

B.append(A) # A,B的引用计数增1

del A #A的引用减 1,最后A对象的引用为 1

del B #B的引用减 1, 最后B对象的引用为 1


  在这个例子中程序执行完del语句后,A、B对象已经没有任何引用指向这两个对象,但是这两个对象各包含一个对方对象的引用,虽然最后两个对象都无法通过其它变量来引用这两个对象了,这对GC来说就是两个非活动对象或者说是垃圾对象,但是他们的引用计数并没有减少到零。Python的引用计数算法不能够处理互相指向自己的对象。,因此如果是使用引用计数法来管理这两对象的话,他们并不会被回收,它会一直驻留在内存中,就会造成了内存泄漏(内存空间在使用完毕后未释放)。为了解决对象的循环引用问题,Python引入了标记-清除和分代回收两种GC机制。


原理简述

标记-清除

标记清除(Mark—Sweep)』算法是一种基于追踪回收(tracing GC)技术实现的垃圾回收算法。它分为两个阶段:第一阶段是标记阶段,GC会把所有的『活动对象』打上标记,第二阶段是把那些没有标记的对象『非活动对象』进行回收。

判断活动对象与非活动对象:对象之间通过引用(指针)连在一起,构成一个有向图,对象构成这个有向图的节点,而引用关系构成这个有向图的边。从根对象(root object)出发,沿着有向边遍历对象,可达的(reachable)对象标记为活动对象,不可达的对象就是要被清除的非活动对象。根对象就是全局变量、调用栈、寄存器。


在上图中,我们把小黑圈视为全局变量,也就是把它作为root object,从小黑圈出发,对象1可直达,那么它将被标记,对象2、3可间接到达也会被标记,而4和5不可达,那么1、2、3就是活动对象,4和5是非活动对象会被GC回收。可简单用下面的程序理解,4,5相当于局部变量,1,2,3是全局变量,程序运行结果是10,那么在add函数运行过程中发生的加1操作只是临时变量,当函数调用结束,局部变量的使命也就结束了,而只有全局变量一直存在。


标记清除算法作为Python的辅助垃圾收集技术主要处理的是一些容器对象,比如list、dict、tuple,instance等,因为对于字符串、数值对象是不可能造成循环引用问题。Python使用一个双向链表将这些容器对象组织起来。不过,这种简单粗暴的标记清除算法也有明显的缺点:清除非活动的对象前它必须顺序扫描整个堆内存,哪怕只剩下小部分活动对象也要扫描所有对象。


分代回收

分代回收是一种以空间换时间的操作方式,Python将内存根据对象的存活时间划分为不同的集合,每个集合称为一个代,Python将内存分为了3“代”,分别为年轻代(第0代)、中年代(第1代)、老年代(第2代),他们对应的是3个链表,它们的垃圾收集频率与对象的存活时间的增大而减小。新创建的对象都会分配在年轻代,年轻代链表的总数达到上限时,Python垃圾收集机制就会被触发,把那些可以被回收的对象回收掉,而那些不会回收的对象就会被移到中年代去,依此类推,老年代中的对象是存活时间最久的对象,甚至是存活于整个系统的生命周期内。同时,分代回收是建立在标记清除技术基础之上。分代回收同样作为Python的辅助垃圾收集技术处理那些容器对象。


  Python使用一种不同的链表来持续追踪活跃的对象。而不将其称之为“活跃列表”,Python的内部C代码将其称为零代(Generation Zero)。每次当你创建一个容器对象的时候,Python会将其加入零代链表(水平的双向箭头表示相互引用,天蓝色箭头表示外部引用):



随后,Python会循环遍历零代列表上的每个对象,检查列表中每个互相引用的对象,根据规则其引用计数-1。在这个过程中,Python会一个接一个的统计内部引用的数量以防过早地释放对象。如果被引用数为0,则触发引用计数回收条件,被回收掉,未被回收的对象,升级为1代。



  通过识别内部引用,Python能够减少许多零代链表对象的引用计数。在上图的第一行中你能够看见第一、二、四的引用计数已经变为零了,这意味着收集器可以释放它们并回收内存空间了。剩下的活跃的对象则被移动到一个新的链表:一代链表。


触发条件

  此算法主要用来处理循环引用的情况,只有容器对象(list、dict、tuple,instance)才会出现循环引用的情况。

  1)被引用为0时,立即回收当前对象

  2)达到了垃圾回收的阈值,触发标记-清除


因为循环引用的原因,并且因为你的程序使用了一些比其他对象存在时间更长的对象,从而被分配对象的计数值与被释放对象的计数值之间的差异在逐渐增长。一旦这个差异累计超过某个阈值,则Python的收集机制就启动了,并且触发上边所说到的零代算法,释放“浮动的垃圾”,并且将剩下的对象移动到一代链表。

随着时间的推移,一代链表越来越多,多到触发gc阈值,同样会对一代链表进行标记清除操作,然后将剩下活跃对象升为二代。


  3)手动调用gc.collect()

  4)Python虚拟机退出的时候


处理流程

分配内存

发现超过阈值了

触发垃圾回收

将所有可收集对象链表放到一起

遍历, 计算有效引用计数

分成 有效引用计数=0 和 有效引用计数 > 0 两个集合(大于0的, 放入到更老一代;=0的, 执行回收)

回收遍历容器内的各个元素, 减掉对应元素引用计数(破掉循环引用)

执行-1的逻辑, 若发现对象引用计数=0, 触发内存回收

python底层内存管理机制回收内存


————————————————

版权声明:本文为CSDN博主「ZoomToday」的原创文章,遵循CC 4.0 BY-SA版权协议,转载请附上原文出处链接及本声明。

原文链接:https://blog.csdn.net/qq_36477513/article/details/115493292