本文介绍的Java虚拟机(JVM)的自动内存管理机制主要是参照《深入理解Java虚拟机》(第2版)一书中的内容,主要分为两个部分:Java内存区域和内存溢出异常、垃圾回收和内存分配策略。因此我也会分为两个部分来讲解,但这并不代表这两个部分在JVM中是分割的。反之,其实这两个部分关联性很强。只不过为了便于介绍,所以我才分开来讲。在介绍它们详细内容之前,我首先会给出两幅思维导图以便读者可以了解一下里面所包含的内容,然后我会根据思维导图中的知识点一一为大家进行介绍。
第一部分 Java内存区域和内存溢出异常
Java内存区域与内存溢出异常
下面我将对图中所涉及到的部分进行介绍
运行时数据区域
由于直接内存(Direct Memory)并不是虚拟机运行时数据区的一部分,也不是Java虚拟机规范中定义的内存区域。但是这部分内存也被频繁地使用,而且也可能导致内存溢出异常(OutOfMemoryError)出现,所以也放到这部分进行介绍。
Java虚拟机在执行Java程序的过程中会把它所管理的内存划分为若干个不同的数据区域。这些区域都有各自的用途以及创建和销毁的时间。有的区域 (线程共享的数据区域) 随着虚拟机的启动而存在,有的区域 (线程隔离的数据区域) 则要依赖用户线程的启动和结束来创建或者是销毁。
程序计数器
程序计数器(Program Counter Register) 是一块较小的内存空间,它可以看作是当前线程所执行的字节码的行号指示器。学过《计算机组成原理》这门课之后我们知道----在计算机中,其实程序计数器就是一个寄存器,依据不同计算机细节的差异,它可以存放当前正在被执行的指令,也可以存放下一个要被执行的指令。由此,我们可以对 “当前线程所执行的字节码的行号指示器” 有更好的理解。
在虚拟机的概念模型中,字节码解释器工作时就是通过改变这个计数器的值来选取下一条需要执行的字节码指令。由于Java虚拟机的多线程是通过线程轮流切换并分配处理器执行时间的方式来实现的,在任何一个确定的时刻,一个处理器(对于多核处理器来说是一个内核)都只会执行一条线程中的指令。因此为了线程切换之后能够恢复到正确的执行位置,每条线程都需要拥有一个独立的程序计数器,各条线程之间计数器互补影响,独立存储。所以程序计数器是线程私有的内存(线程隔离)。
如果线程正在执行的是一个Java方法,这个计数器记录的就是正在执行的虚拟机字节码指令的地址;如果正在执行的是Native方法,那么这个计数器的值就为空(Undefined)。此内存区域是唯一一个在Java虚拟机规范中没有规定任何OutOfMemoryError情况的区域。
Java虚拟机栈
和程序计数器一样,Java虚拟机栈(Java Virtual Machine Stack)也是线程私有的,即它的生命周期和线程的相同。虚拟机栈描述的是Java方法执行的内存模型: 每个方法在执行时都会创建一个栈帧(Stack Frame)用于存储局部变量表、操作数栈、动态链接、方法出口等信息 。每一个方法从调用直至执行完成的过程,就对应着一个栈帧在虚拟机栈中从入栈到出栈的过程。
我们常常说的栈内存其实就是现在讲的虚拟机栈,或者说是虚拟机栈中局部变量表部分。
局部变量表 存放了编译期可知的各种基本数据类型(boolean、byte、char、short、int、float、long、double)、对象引用(reference类型,它不等同于对象本身,可能是指向对象起始地址的引用指针,也可能是指向一个代表对象的句柄或其他与此对象相关的位置)和returnAddress类型(指向了一条字节码指令的地址)。
其中64位长度的long和double类型的数据会占用2个局部变量空间(Slot),其余数据类型只占用1个。局部变量表所需要的内存空间在编译时期完成分配。当进入一个方法时,这个方法需要在帧中分配多大的局部变量空间是完全确定的,在方法运行期间不会改变局部变量表的大小。
本地方法栈
本地方法栈(Native Method Stack)与虚拟机栈所发挥的作用是非常相似的,它们之间的区别就是虚拟机栈为虚拟机执行Java方法(也就是字节码)服务,而本地方法栈则为虚拟机使用到的Native方法服务。其实虚拟机规范中对本地方发栈中方法所使用的语言、使用方式以及数据结构都没有强制规定,因此具体的虚拟机可以自由地实现它。甚至在有的虚拟机(如Sun HotSpot虚拟机)直接就把本地方法栈和虚拟机栈合二为一。与虚拟机栈一样,本地方法栈区域也会抛出StackOverflowError和OutOfMemory异常。
Java堆
对于大多数应用来说,Java堆(Java Heap)是Java虚拟机所管理的内存中最大的一块。 Java堆是被所有线程共享的一块数据区域,在虚拟机启动时创建。此内存区域的唯一目的就是存放对象实例,几乎所有的对象实例都在这里分配内存 。 但是随着JIT编译器的发展与逃逸分析技术逐渐成熟,栈上分配、标量替换优化技术将会导致一些微妙的变化发生,所有的对象都分配在堆上也逐渐变得不是那么“绝对” 。
Java堆是垃圾收集器管理的主要区域,因此很多时候也被称为“GC堆”。Java堆还可以细分为新生代和老年代等等。这一部分在讲垃圾回收算法的时候还会继续介绍。
根据Java虚拟机规范规定,Java堆可以处于物理上不连续的内存空间中,即只要逻辑上是连续的即可,就像我们磁盘空间一样。在实现时,可以固定大小,也可是可拓展的,主流的虚拟机都是按照可拓展来实现的(通过-Xmx和-Xms来控制)。如果在堆中没有内存完成实例分配,并且堆也无法继续拓展时,将会抛出OutOfMemortError异常。
方法区
方法区(Method Area)与Java堆一样,是各个线程共享的内存区域,它用于存储已被虚拟机加载的类信息、常量、静态变量、即时编译器编译后的代码等数据。虽然Java虚拟机将其描述为堆的一个逻辑部分,但是它却有一个别名叫做Non-Heap(非堆)。目的是与Java堆区分开来。(以前很多人把方法区称为永久代,现在JDK1.8中已经用元数据区域取代了永久代)。
运行时常量池
运行时常量池是方法区(Runtime Constant Pool)的一部分。Class文件中除了有类的版本、字段、方法、接口等描述信息外,还有一项信息就是常量池,用于存放编译时期生成的各种字面量和符号引用,这部分内容将在类加载后进入方法区的运行时常量池中存放。Java虚拟机对于运行时常量池没有做任何细节的要求。
运行时常量池具备动态性,Java语言并不要求常量一定只有编译期才能产生,也就是并非预置入Class文件中常量池的内容才能进入方法区运行时常量池,运行期间也可能将新的常量放入池中,这种特性被开发人员利用得比较多的便是String类的intern()方法。
直接内存
由于直接内存(Direct Memory)并不是虚拟机运行时数据区的一部分,也不是Java虚拟机规范中定义的内存区域。但是这部分内存也被频繁地使用,而且也可能导致内存溢出异常(OutOfMemoryError)出现,所以也放到这部分进行介绍。
显然,本机直接内存的分配不会受到Java堆大小的限制。但是肯定还是会受到本机总内存大小以及处理器寻址空间的限制。管理员在配置虚拟机参数时,会根据实际内存设置-Xmx等参数信息,但经常忽略直接内存,使得各个内存区域总和大于物理内存限制(包括物理的和操作系统级的限制),从而导致动态拓展时出现OutOfMemoryError异常。
对象的创建方式
在Java程序当中每时每刻都有对象被创建出来。在语言层面上,创建对象通常仅仅是使用一个new关键字而已,而在虚拟机中,对象(仅限于普通Java对象)的创建又是怎样一个过程呢?
虚拟机遇到一条new指令时,首先将去检查这个指令的参数能否在常量池中定位到一个类的符号引用。并且检查这个符号引用代表的类是否已经被加载、解析和初始化过。如果没有,那就先执行类加载的过程(关于类加载过程在后面的博客中会进行介绍)。
在类加载检查通过后,接下来虚拟机将为新生对象分配内存。对象所需内存的大小在类加载完成之后便可完全确定(在对象的内存布局部分会介绍)。
为对象分配空间的任务等同于把一块确定大小的内存从Java堆中划分出来。有两种方式:
- 指针碰撞:假设Java堆中内存是规整的,所有用过的内存都放在一边,空闲的内存放在另一边,中间放着一个指针作为分界点的指示器,那分配内存就是将指针往空间空间挪动一段与对象大小相等的距离,这种分配内存的方式就被称为指针碰撞;
- 空闲列表:如果Java堆中的内存并不是规整的,已经使用的内存和空闲内存相互交错,那就没有办法简单地使用指针碰撞的方法进行内存分配了。虚拟机此时必须维护一个列表用来记录哪些内存块是可用的,在分配的时候从列表中找到一块足够大的空间为分配给对象实例,并且更新列表上的记录,这种分配方式就被称为空闲列表。
选择哪一种分配方式由Java堆是否规整决定,而Java堆是否规整又由所采用的垃圾收集器是否带有压缩整理功能决定。
除了如何划分可用空间之外,还要考虑的一个问题就是对象创建在虚拟机中是非常频繁的行为,即使是仅仅修改一个指针的位置,在并发的情况之下也并不是线程安全的----可能出现正在给对象A分配内存,指针还没来得及修改,对象B同时使用了原来的指针来分配内存的情况。解决方案也有两种:
- 一种是对分配内存空间的动作进行同步处理----实际上虚拟机采用CAS配上失败重试的方式保证更新操作的原子性;
- 另一种是把内存分配的动作按照线程划分在不同的空间之中进行,即每个线程在Java堆中预先分配一小块内存,称为本地线程缓冲分配(Thread Local Allocation Buffer,TLAB)。哪个线程需要分派内存,就在哪个线程的TLAB上分配,只有TLAB用完并分配新的TLAB时,才需要同步锁定。虚拟机是否使用TLAB,可以通过-XX:+/-UseTLAB参数来设定。
内存分配完成之后,虚拟机需要将分配到的内存空间都初始化为零值(不包括对象头),如果使用TLAB,则此工作可以提前至TLAB分配时进行。这一步操作保证了对象的实例字段在Java代码中可以不赋初值就可以直接使用,程序能访问到这些字段的数据类型所对应的零值。
接下来,虚拟机要对对象进行一些必要的设置,比如这个对象是哪个类的实例、如何才能找到类的元数据、对象的哈希码、对象的GC分代年龄等信息。
在上面的工作完成之后,从虚拟机的角度来看,一个新的对象已经产生了。但从Java程序的角度来看,对象创建才刚刚开始----<init>方法还没执行,所有的字段都还为零。一般来说(由字节码中是否跟随invokespecial指令所决定),执行new指令之后会接着执行<init>方法,把对象按照程序员的意愿进行初始化,这样一个真正的对象才算创建完成。
对象的内存布局
对象头
- 第一部分:用于存储自身的运行时数据,包括哈希码、GC分代年龄、锁状态标志、线程持有的锁、偏向线程ID、偏向时间戳等。
- 第二部分:类型指针,即对象指向它的元数据的指针,虚拟机通过这个指针来确定这个对象是哪个类的实例。不过并不是所有的虚拟机实现都必须在对象数据上保留类型指针,换句话说,查找对象的元数据信息并不一定要经过对象本身。另外,如果对象是一个Java数组,那在对象头中还必须有一块用于记录数组长度的数据,因为虚拟机可以通过普通Java对象的元数据信息确定Java对象的大小,但是从数组的元数据中却无法确定数组的大小。
实例数据
实例数据部分是对象真正存储的有效信息,也是在程序代码中所定义的各种类型的字段内容。无论是从父类继承下来的,还是在子类中定义的,都需要记录起来。这部分的存储顺序会受到虚拟机分配策略参数和字段在Java源码中定义顺序的影响。
对齐填充
对齐填充并不是必然存在的,也没有特殊的含义,它仅仅起着占位符的作用。由于HotSpot VM的自动内存管理系统要求对象起始地址必须是8字节的整数倍,换句话说,就是对象的大小必须是8字节的整数倍。而对象头部分正好是8字节的倍数(一倍或者两倍),因此,当对象实例数据部分没有对齐时,就需要通过对齐填充来补全。
对象的访问定位
建立对象是为了使用对象,我们的Java程序需要通过栈上的reference数据来操作堆上的具体对象。由于reference类型在Java虚拟机规范中只规定了一个指向对象的引用,并没有定义这个引用应该通过何种方式去定位、访问堆中的对象的具体位置,所以对象访问方法也是取决于虚拟机的实现而决定的。目前主流的访问方式有使用句柄和直接指针两种。
通过句柄访问对象
通过句柄访问对象
优点:reference存储的是稳定的句柄地址,在对象被移动(垃圾收集时移动对象是非常普遍的行为)时只会改变句柄中的实例数据指针,而reference本身不需要改变;
缺点:增加了一次指针定位的时间开销。
通过直接指针访问对象
通过直接指针访问对象
优点:节省了一次指针定位的开销
缺点:在对象被移动时reference本身需要被修改。
常见的内存溢出异常
Java堆溢出
Java堆用于存储对象实例,只要不停地创建对象,并且保证GC Roots到对象之间有可达路径类避免垃圾回收机制清除这些对象对象,那么在对象数量达到最大堆的容量限制后就会产生内存溢出异常。
虚拟机栈和本地方法栈溢出
关于虚拟机栈和本地方法栈,在Java虚拟机规范中描述了两种异常:
- 如果线程请求的栈深度大于虚拟机所允许的最大深度,将抛出StackOverflowError异常;
- 如果虚拟机在扩展栈时无法申请到足够的内存空间,则抛出OutOfMemoryError异常。
这里把异常分为两种情况,看似较为严谨,但却存在着一些互相重叠的地方:当栈空间无法继续分配时,到底是已使用的栈空间太大,还是内存太小,其本质上都只是对同一件事情的两种描述而已。
方法区和运行时常量池溢出
本机直接内存溢出
第二部分 垃圾收集器与内存分配策略
垃圾收集器与内存分配策略
其实当我们在讨论垃圾回收的时候,我们常常要思考垃圾收集(Garbage Collection)需要完成的三件事情:
- 哪些内存需要回收?(What?)
- 什么时候回收?(When?)
- 如何回收?(How?)
那么对于Java虚拟机来说,垃圾收集主要是发生在哪些区域呢?
由于程序计数器、虚拟机栈、本地方法栈这三个区域是随线程而生,随线程而亡的;栈中的栈帧随着方法的进入和退出有条不紊地执行着入栈和出栈操作,每一个栈帧中分配多少内存基本上都是在类结构确定下来时就已知的。因此这几个区域的内存分配和回收策略都具备确定性,在这几个区域就不需要过多考虑回收的问题。因为方法结束或者线程结束之后。这部分内存自然也就随着回收了。
但是Java堆和方法区则不一样,因为一个接口中的多个实现类需要的内存可能不一样,一个方法中的多个分支需要的内存可能也不一样,我们只有在程序运行期间才能知道到底会创建哪些对象,这部分内存的分配是动态的,是不确定的。所以我们要针对这两块区域制订合适的垃圾收集策略。因此,在后面我们提到的对内存进行垃圾回收,说的主要也是针对Java堆和方法区这两块区域。