JVM-9——堆

  1. 堆的核心概述
  2. 设置堆的内存大小与OOM
  3. 年轻代与老年代
  4. 对象分配过程
  5. Minor GC、Major GC 、Full GC
  6. 堆空间分代思想
  7. 内存分配策略
  8. 为对象分配内存:TLAB
  9. 堆空间的参数设置
  10. 堆是分配对象的唯一选择吗?

1. 堆(heap) 的核心概述

  • 一个JVM实例只存在一个堆空间,堆也是java内存管理的核心区域
  • java堆区在JVM启动的时候即被创建,其空间大小也就确定了。是JVM管理的最大一块内存空间
    • 堆内存大小是可以调节的
  • 《java虚拟机规范》规定,堆可以处于物理上不连续的内存空间中,但在逻辑上它应该被视为连续的
  • 所有线程共享java堆,还可以划分线程私有的缓冲区(TLAB)
  • 对java堆的描述:所有的对象实例以及数组都应当在运行时分配在堆上。(“几乎”所有的对象实例都在堆上分配内存)
  • 数组和对象可能永远不会存储在栈上,因为栈帧中保留引用,这个引用指向对象或者数组在堆中的位置。
  • 方法结束后,堆中的对象不会马上被移除,仅仅在GC的时候才会被移除。
  • 堆,是GC执行垃圾回收的重点区域

1.1 堆空间的细分

  • java7及之前,堆内存逻辑上分为三部分:新生代+老年代+永久代

  • java8及之后,堆内存逻辑上分为三部分:新生代+老年代+元空间

  • 新生代=新生区=年轻代
  • 老年代=老年区=养老区
JVM-9——堆

2. 设置堆空间大小与OOM

2.1 堆空间大小的设置

  • java堆用于存储java对象实例,堆的大小在JVM启动时就已经设定好了

    • -Xms:用于表示堆区的起始内存,等价于-XX:InitialHeapSize
    • -Xmx:用于表示堆区的最大内存,等价于-XX:MaxHeapSize
  • 一旦堆区中的内存大小超过“-Xmx”所指定的最大内存时,将会抛出OOM

  • 通常会将-Xmx-Xmx两个参数配置相同的值,目的是为了能够在java垃圾回收机制清理完堆区后不需要重新分隔计算堆区的大小,从而提高性能

  • 默认情况下,

    初始内存大小=物理电脑内存大小/64

    最大内存大小=物理电脑内存大小/4

2.2 OOM

当老年代空间满,且无法GC时,抛出OOM

3. 新生代与老年代

  • 存储在JVM中的java对象可以被划分为两类
    • 一类是生命周期较短的瞬时对象,这类对象的创建和消亡都非常迅速
    • 一类对象的生命周期非常长,在某些极短的情况下,还能够与JVM的生命周期保持一致
  • java堆区进一步细分可以分为新生代和老年代
  • 其中新生代又可以划分为Eden区,Survivor0区合Survivor1区
JVM-9——堆
  • 配置新生代与老年代在堆结构的占比

    JVM-9——堆
    • 默认-XX:NewRatio=2 ,表示新生代占1,老年代占2,新生代占整个堆的1/3
    • -XX:NewRatio=4,表示新生代占1,老年代占4,新生代占整个堆的1/5
  • 在HotSpot中,Eden空间和另外两个Survivor空间缺省所占的比例是8:1:1

  • 可以通过-XX:SurvivorRatio调整这个空间比例。比如 -XX:SurvivorRatio=8

  • -XX:-UseAdaptiveSizePolicy:关闭自适应的内存分配策略

  • 几乎所有的java对象都是在Eden区被new出来的

  • 绝大部分的java对象的销毁都在新生代进行了

  • 可以使用-Xmn设置新生代最大内存大小(一般使用默认值即可)

4. 对象分配过程

为新对象分配内存是一件非常严谨和复杂的任务,JVM的设计者们不仅需要考虑内存如何分配、在哪里分配等问题,并且由于内存分配算法与内存回收算法密切相关,所以还需要考虑GC执行完内存回收后是否会在内存空间中产生内存碎片

  1. new的对象先放Eden区。此区有大小限制。
  2. 当Eden区的空间填满时,程序又需要创建对象,JVM的垃圾回收器将对Eden区进行垃圾回收(Minor GC),将Eden去中的不再被其他对象所引用的对象进行销毁。再加载新的对象放到Eden区。
  3. 然后将Eden区中的剩余对象移动到Survivor0区
  4. 如果再次出发GC,此时上次幸存下来的在Survivor0区的,如果没有回收,就会放到Survivor1区
  5. 如果再次经历GC,此时会重新放回Survivor0区,接着再去Survivor1区
  6. 在反复15次之后,会进入老年代。可以设置次数,默认是15次。(-XX:MaxTenuringThreshold=15
  7. 当老年代的内存不足时,出发Major GC,进行老年代的内存清理
  8. 若老年代执行了Major GC之后依然无法进行对象的保存,就会产生OOM

总结:

  • Survivor区:复制之后又交换,谁为空,谁是To区
  • GC:频繁在新生区手机,很少在养老区收集,几乎不在永久代/元空间收集
JVM-9——堆

5. Minor GC/Major GC/Full GC

JVM 在进行GC时,并非每次都对上面三个内存区域一起回收,大部分时候回收的都是新生代。

针对HotSpotVM的实现,它里面的GC按照回收区域又分为两大种类型:一种是部分收集,一种是整堆收集。

  • 部分收集:不是完整收集整个java堆的垃圾收集。其中又分为:
    • 新生代收集(Minor GC):只是新生代的GC
    • 老年代收集(Major GC):只是老年代的GC
      • 目前,只有CMS会有单独收集老年代的行为
      • 很多时候,MajorGC会和FullGC混淆使用,需要具体分辨是老年代回收还是整堆回收
    • 混合收集(Mixed GC):收集整个新生代以及部分老年代的垃圾
      • 目前只有G1有这种行为
  • 整堆收集(Full GC):收集整个java堆和方法区的垃圾

Minor GC触发机制:

  • 当年轻代空间不足时,就会触发Minor GC,这里的年轻代满指的是Eden区满,Survivor满不会触发GC。(每次MinorGC都会清理年轻代的内存)
  • 因为Java对象大多数都具备朝生夕死的特性,所以MinorGC非常频繁,一般回收速度也比较快。
  • MinorGC会引发STW,暂停其他用户的线程,等垃圾回收结束,用户线程才恢复运行。

老年代GC(MajorGC、FullGC)触发机制:

  • 指发生在老年代的GC,对象从老年代消失时,发生了MajorGC或FullGC
  • 出现MajorGC,经常会伴随至少一次MinorGC(非绝对,在Parallel Scavenge收集器的收集策略里就有直接进行Major的策略选择过程)
    • 也就是在老年代空间不足时,会先尝试触发MinorGC,如果之后空间还不,则触发MajorGC
  • MajorGC的速度一般会比MinorGC慢10倍以上,STW时间更长
  • 如果MajorGC后,内存还不足,则OOM

FullGC触发机制:

  1. 调用System.gc()时,系统建议执行FullGC,但不是必然执行
  2. 老年代空间不足
  3. 方法区空间不足
  4. 通过MajorGC后进入老年代的平均大小大于老年代的可用内存
  5. 由Eden区、Survivor0向Survivor1区复制时,对象大小大于ToSpace可用内存,则把该对象转存到老年代,且老年代的可用内存小于该对象大小

FullGC是开发或调优中要尽量避免的。这样暂停时间会短一些

6. 堆空间分代思想

为什么需要把java堆分代?不分代就不能正常工作了吗?

经过研究表明,不同对象的生命周期不同。70%-99%的对象是临时对象

  • 新生代:由Eden、Survivor0、Survivor1构成
  • 老年代:存放新生代中经历多次GC仍然存活的对象

其实部分带完全可以,分代的唯一理由就是优化GC性能。如果没有分代,那所有的对象都会在一块,就如同把一个学校的人都关在一个教室。GC的时候要找到哪些对象没用,这样就会对堆的所有区域进行扫描。而很多对象都是朝生夕死的,如果分代的话,把新创建的对象放到某一个地方,当GC的时候就先把这块存储“朝生夕死”对象的区域进行回收,这样就会腾出很大的空间出来。

JVM-9——堆JVM-9——堆

7. 内存分配策略

对象提升(Promotion)规则

如果对象在Eden出生并经过第一次MinorGC后仍然存活,并且能被survivor容纳的话,将被移动到survivor空间中,并将对象年龄设为1.对象在survivor区中每熬过一次MinorGC,年龄就增长1,当他的年龄增加到一定程度(默认15)时,就会被晋升到老年代中。

针对不同年龄段的对象分配原则如下所示:

  • 优先分配到Eden
  • 大对象直接分配到老年代
    • 尽量避免程序中出现过多的大对象
  • 长期存活的对象分配到老年代
  • 动态对象年龄判断
    • 如果survivor区中相同年龄的所有对象大小的综合大于survivor空间的一半,年龄大于或等于该年龄的对象可以直接进入老年代,无须等到MaxTenuringThreshold要求的年龄
  • 空间分配担保:-XX:HandlePromotionFailure

8. 为对象分配内存:TLAB

为什么有TLAB (Thread Local Allocation Buffer)?

  • 堆区是线程共享区域,任何线程都可以访问到堆区中的共享数据
  • 由于对象实例的创建在JVM中非常频繁,因此在并发环境下从堆区中划分内存空间是线程不安全的
  • 为避免多个线程操作同一个地址,需要使用加锁等机制,进而影响分配速度

什么是TLAB?

  • 从内存模型而不是垃圾收集角度,对Eden区域继续进行划分,JVM为每个线程分配了一个私有缓冲区域,它包含在Eden空间内
  • 多线程同时分配内存时,使用TLAB可以避免一系列的非线程安全问题,同时还能够提升内存分配的吞吐量,因此我们可以将这种内存分配方式称之位**快速分配策略**
  • 所有OpenJDK衍生出来的JVM都提供了TLAB的设计
  • 尽管不是所有的对象实例都能够在TLAB中分配内存,但JVM确实是将TLAB作为内存分配的首选
  • 在程序中,开发人员可以通过选项-XX:UseTLAB设置是否开启TLAB空间,默认情况下是开启的。
  • 默认情况下,TLAB空间的内存非常小,仅占有整个Eden空间的1%,当然我们可以通过-XX:TLABWasteTargetPercent设置TLAB空间所占用Eden空间的百分比大小
  • 一旦对象在TLAB空间分配内存失败时,JVM就会尝试着通过使用加锁机制确保数据操作的原子性,从而直接在Eden空间中分配内存
JVM-9——堆JVM-9——堆

9. 堆空间的参数设置

  • -XX:PrintFlagsInitial:查看所有的参数默认初始值
  • -XX:PrintFlagsFinal:查看所有的参数最终值(课鞥呢会存在修改,不再是初始值)
  • -Xmx:初始堆空间内存(默认为物理内存的1/64)
  • -Xmx:最大堆空间内存(初始值及最大值)
  • -Xmn:设置新生代的大小(初始值及最大值)
  • -XX:NewRatio:配置新生代与老年代在堆结构的占比
  • -XX:+EliminateAllocations:开启标量替换

在发生MinorGC之前,虚拟机会检查老年代最大可用的连续空间是否大于新生代所有对象的总空间

  • 如果大于,则此次MinorGC是安全的
  • 如果小于,则虚拟机会查看-XX:HandlePromotionFailure设置值是否允许担保失败
    • 如果HandlePromotionFailure = true,那么会继续检查老年代最大可用连续空间是否大于历次晋升到老年代的对象的平均大小
      • 如果大于,则尝试进行一次MinorGC,但这次MinorGC依然是有风险的
      • 如果小于,则改为进行一次FullGC
    • 如果HandlePromotionFailure = false,则改为进行一次FullGC

在JDK6 update24之后,HandlePromotionFailure参数不会再影响到虚拟机的空间分配担保策略,观察OpenJDK中的源码彼岸花,虽然源码中还定义了HandlePromotionFailure参数,但是在代码中已经不会再使用它。JDK6 Update24之后的规则变为只要老年代的连续空间大于新生代对象总大小或者历次晋升的平均大小就会进行MinorGC,否则将进行FullGC

10. 堆是分配对象存储的唯一选择吗?

随着JIT编译期的发展与逃逸分析技术逐渐成熟,栈上分配、标量替换优化技术将会导致一些微妙的变化,所有的对象都分配到对上也渐渐变得不那么“绝对”了

在java虚拟机中,对象是在java堆中分配内存的,这是一个普遍的常识。但是,有一种特殊情况,那就是==如果经过逃逸分析后发现,一个对象并没有逃逸出方法的话,那么就可能被优化成栈上分配。==这样就无需在堆上分配内存,也无需进行垃圾回收了。这也是最常见的堆外存储技术。

此外,OpenJDK深度定制的TaobaoVM,其中创新的GCIH技术实现off-heap,将生命周期较长的java对象从heap中移到heap外,并且GC不能管理==GCIH==内部的java对象,以此达到降低GC的回收频率和提升GC的回收效率的目的。

逃逸分析概述:

  • 如何将堆上的对象分配到栈,需要使用逃逸分析手段
  • 通过逃逸分析,Java HotSpot编译器能够分析出一个新的对象的引用的使用范围从而决定是否要将这个对象分配到堆上。
  • 逃逸分析的基本行为就是分析对象动态作用域:
    • 当一个对象在方法中被定义后,对象只在方法内部使用,则认为没有发生逃逸
    • 当一个对象在方法中被定义后,它被外部方法所引用,则认为发生逃逸。例如作为调用参数传递到其他地方中。
  • 没有发生逃逸的对象,则可以分配到栈上,随着方法执行的结束,栈空间就被移除。

参数设置:

  • 在JDK 7及之后,HotSpot默认开启了逃逸分析
  • 在较早版本中,可以通过
    • -XX:+DoEscapeAnalysis:显式开启逃逸分析
    • -XX:+PrintEscapeAnalysis:查看逃逸分析的筛选结果

**结论:**在开发中能使用局部变量的,就不要使用在方法外定义。

逃逸分析:

  1. 栈上分配。将堆分配转化为栈分配。如果一个对象在子程序中被分配,要使指向该对象的指针永远不会逃逸,对象可能是栈分配的候选,而不是堆分配。

  2. 同步省略。如果一个对象被发现只能从一个线程被访问到,那么对于这个对象的操作可以不考虑同步。

    在动态编译同步块的时候,JIT编译器可以借助逃逸分析来判断同步块所使用的锁对象是否只能够被一个线程访问而没有发布到其他线程。如果没有,那么JIT编译器在编译这个同步块的时候就会取消这部分代码的同步。这样就能大大提高并发性和性能。这个取消同步的过程就叫同步省略,也叫锁消除

  3. 分离对象或标量替换。有的对象可能不需要作为一个连续的内存结构存在也可以被访问到,那么对象的部分(或全部)可以不存储在内存,而是存储在CPU寄存器中。

    标量是指一个无法再分解成更小的数据的数据。java中的原始数据类型就是标量。

    相对的,那么可以分解的数据叫做聚合量,java中的对象就是聚合量,因为他可以分解成其他聚合量和标量。

    JIT阶段,如果经过逃逸分析,发现一个对象不会被外界访问的话,那么经过JIT优化,就会把这个对象拆解成若干个其中包含的若干个成员变量来代替。这个过程就是标量替换。

    标量替换参数:

    -XX:+EliminateAllocations:开启标量替换

  4. -server:启动server模式,在server模式下,才可以启用逃逸分析

    -XX:+DoEscapeAnalysis:启用逃逸分析

    -XX:+EliminateAllocations:开启标量替换(默认打开),允许将对象打散分配在栈上。

总结

  • 新生代是对象的诞生、成长、消亡的区域,一个对象在这里产生、应用,最后被垃圾回收器收集、结束生命
  • 老年代放置长生命周期的对象,通常都是从Survivor区域筛选拷贝过来的java对象。也有特殊情况,普通对象会被分配在TLAB上;如果对象较大,JVM会试图直接分配在Eden其他位置上;如果对象太大,完全无法再新生代找到足够长的连续空闲空间,JVM就会直接分配到老年代。
  • 当GC只发生在新生代中,回收新生代对象的行为被称为MinorGC。当GC发生在老年代时则被称为MajorGC或者FullGC。一般的,MinorGC的发生频率要比MajorGC高很多,即老年代中垃圾回收发生的概率将大大低于新生代。