深入理解Java虚拟机(2)之十四-晚期(运行期)优化

在部分商用虚拟机中,Java程序最初是通过解释器(Interpreter)进行解释执行的,当虚拟机发现某个方法或代码块的运行特别频繁时,就会把这些代码认定为“热点代码”,在运行时,会将这些代码编译成本地平台相关的机器码,并进行各种层次的优化,提高代码的执行效率。

1、HotSpot虚拟机内的即时编译器

1.1 解释器与编译器

解释器与编译器的交互

HotSpot虚拟机内置了两个即时编译器,分别为Client Compiler(C1)和Server Compiler(C2),默认采用计时器与其中一个编译器直接配合的方式工作,虚拟机会根据自身版本与宿主机机器的硬件性能自动选择运行模式,用户也可以使用-client-server强制指定虚拟机运行在哪个模式上。

无论采用的编译器是Client Compiler还是Server Compiler,解释器与虚拟机搭配使用的方式在虚拟机中称为“混合模式”(Mix Mode),用户可以使用参数-Xint强制虚拟机运行在“解释模式”(Interpreter Mode),这时编译器完全不介入工作,全部代码都使用解释方式执行。另外,也可以使用参数-Xcomp强制虚拟机运行与“编译模式”(Compiled Mode),这时优先采用编译方式执行程序,但是解释器仍然要在编译无法进行的情况下介入执行过程。

由于即时编译器编译本地代码需要占用程序运行时间,要编译出优化程度更高的代码,所花费的时间更长;而且想要编译出优化程度更高的代码,解释器可能还要替编译器收集性能监控信息,这对解释器执行速度也有影响。为了在程序启动响应速度与运行效率之间达到最佳平衡,HotSpot虚拟机还会逐渐启用分层编译(Tiered Compilation)策略:

  • 第0层,程序解释执行,解释器不开启性能监控功能(Profiling),可触发第1层编译。
  • 第1层,也称C1编译,将字节码便以为本地代码,进行简单、可靠的优化,如有必要将加入性能监控的逻辑。
  • 第2层(或2层以上),也称C2编译,也是将字节码编译为本地代码,但是会启用一些编译耗时较长的优化,甚至会根据性能监控信息进行一些不可靠的激进优化。

实施分层编译后,Client CompilerServer Compiler将会同时工作,许多代码都可能会被多次编译,用Client Compiler获得更高的编译速度,用Server Compiler获取更好的编译质量,在解释执行的时候也无须再承担收集性能监控信息的任务。

1.2 编译对象与触发条件

“热点代码”有两类:

  • 被多次调用的方法。
  • 被多次执行的循环体。

前者很好理解。后者是为了解决一个方法只被调用一次或者少量的几次,但是方法内部出现循环多次的循环体的问题,这样循环体的代码也被执行多次,这些代码也属于“热点代码”。

对于第一种情况,由于是方法调用触发的编译,因此编译器会以整个方法作为编译对象,这种编译也是虚拟机中标准的JIT编译方式。对于第二种情况,尽管编译动作是由循环体触发的,但是编译器仍然会以整个方法作为编译对象。这种编译方式因为编译发生在方法执行过程中,因此称之为栈上替换(On Stack Replacement,简称OSR编译,即栈帧还在栈上,方法就被替换了)。

判断一段代码是不是热点代码,这样的行为称为热点探测,目前主要的热点探测判定方式有两种:

  • 基于采样的热点探测(Sample Based Hot Spot Detection):采用这种方式的虚拟机会周期性地检查各个线程的栈顶,如果发现某些方法经常出现在栈顶,那这个方法就是“热点代码”。基于采样的热点探测的好处是实现简单、高效,还可以很容易地获取方法调用关系(将调用堆栈展开即可),缺点是很难精确地确定一个方法的热度,容易因为受到线程阻塞或别的外界因素影响而扰乱热点探测。
  • 基于计数器的热点探测(Counter Based Hot Spot Detection):采用这种方法会为每个方法(甚至是代码块)建立计数器,统计方法的执行次数,如果执行次数超过一定的阈值就认为它是“热点代码”。这种统计方法实现起来麻烦一些,需要为每个方法建立并维护计数器,而且不能直接获取到方法的调用关系,但是统计结果相对来说更加精确和严谨。

HotSpot虚拟机使用的是第二种热点探测,为每种方法准备了两类计数器:

  • 方法调用计数器(Invocation Counter):用于统计方法被调用的次数,默认阈值在Client下是1500次,在Server下是10000次,这个阈值可以通过-XX:CompileThreshold来人为设定。

    方法调用计数器不是方法被调用的绝对次数,而是一个相对的执行频率,即一段时间内方法被调用的次数。当超过一定的时间限度,如果方法的调用次数仍然不足以让它提交给即时编译器编译,这个过程称为方法调用计数器热度的衰减(Counter Decay),这段时间就称为次方法统计的半衰周期(Counter Half Life Time),进行热度衰减的动作是在虚拟机进行垃圾收集时顺便进行的,可以使用-XX:-UseCounterDecay来关闭热度衰减,这样统计的是方法调用的绝对次数,这样,系统运行时间够长,绝大部分方法都会被编译成本地代码。另外,可以用-XX:CounterHalfLifeTime设置半衰期的时间,单位是秒。

    方法调用计数器

  • 回边计数器,作用是统计一个方法中循环体代码执行的次数,在字节码中遇到控制流向后跳转的指令称为“回边”(Back Edge),回边计数器的目的就是触发OSR编译。

    需要通过-XX:OnStackReplacePercentage来间接调整回边计数器的阈值,计算公式如下。

    • Client模式下:

      方法调用计数器阈值(CompileThreshold) X OSR比率(OnStackReplacePercentage) / 100

      其中OnStackReplacePercentage默认值为933,如果都取默认值,那Client模式虚拟机的回边计数器的阈值为13995。

    • Server模式下:

      方法调用计数器阈值(CompileThreshold) X (OSR比率(OnStackReplacePercentage) - 解释器监控比率(InterpreterProfilePercentage)) / 100

      其中OnStackReplacePercentage默认值为140,InterpreterProfilePercentage默认值为33,如果都取默认值,那Server模式虚拟机回边计数器的阈值为10700。

回边计数器


该文章来源《深入理解Java虚拟机》


以上

LeoQin wechat
欢迎您扫一扫上面的微信公众号,订阅我的博客!
0%