小研究 - Java虚拟机即时编译器的一种实现原理

深入分析了Ｋａｆｆｅ虚拟机的ＪＩＴ（Ｊｕｓｔ－Ｉｎ－Ｔｉｍｅ）实现原理，以及在ＪＩ中如何利用Ｔｒａｍｐｏｌｉｎｅ技术来作为跳板达到提高Ｋａｆｆｅ虚拟机的执行性能，并通在ｉ３８６上结合实例来具体了解Ｔｒａｍｐｏｌｉｎｅ的实现。最后深入分析了作为ＪＩＴ核的翻译器在ＪＩＴ中如何将字节码映射成为中间码，并翻译成为本地代码的实现原理。

１　引言

２Ｋａｆｆｅ中ＪＩＴ的实现原理

２.１　引入Ｔｒａｍｐｏｌｉｎｅ

２.２Ｔｒａｍｐｏｌｉｎｅ的实现思路

２.３Ｔｒａｍｐｏｌｉｎｅ的源码实现

２.４翻译器的实现原理

３结束语

１　引言

任何Ｊａｖａ虚拟机实现的核心都是它的执行引擎（如图１）。Ｊａｖａ虚拟机中的执行引擎就好比中央处理器，使得Ｊａｖａ虚拟机重复不断地读取字节码然后解释并执行，直到虚拟机进程退出。

Ｊａｖａ虚拟机规范中规定，执行引擎的行为由指令集来规定动作。对于每条指令，规范都详细规定了执行该指令时应该“做什么”，但是没有说明“如何做”，因此Ｊａｖａ虚拟机的实现者可以采取解释执行技术、即时编译（ＪＩＴ）技术或者直接在专用芯片上执行指令的技术，甚至可以是它们的混合技术。

Ｋａｆｆｅ是按照Ｊａｖａ虚拟机规范实现的一种虚拟机。它是基于源代码开放的自由软件，在大部分平台上都能够成功的移植，且性能稳定。其执行引擎的实现（即“如何做”）也具有自身的特点。

Ｋａｆｆｅ的执行引擎实现方式有解释执行与即时编译两种方式（可以在安装的时候选择）。解释执行是一种简单的实现方式：执行引擎读取每条字节码指令，然后将每条字节码解释成为本地代码，如此反复。这样的执行引擎实现方式比较简单，但是执行效率非常低下，因为解释工作是逐条地反复进行，导致程序中会有大量代码重复执行而浪费了许多时间。不过，Ｋａｆｆｅ的即时编译器的执行效率得到了很大的提高：它是在第一次调用某个方法的时候，才将方法的字节码翻译成为本地代码，并在以后再次调用这个方法的时候，直接调用本地代码。由于是对整段代码的翻译，而且可以缓存本地代码，从而极大提高了虚拟机的运行速度。另外它还可以对整段代码进行本地优化，使解释字节码的效率得到大大提高，节约了大量的调用时间和空间。

２Ｋａｆｆｅ中ＪＩＴ的实现原理

２.１　引入Ｔｒａｍｐｏｌｉｎｅ

Ｋａｆｆｅ采用ＪＩＴ模式运行的时候，ＪＩＴ会认为它正在执行的总是本地代码，因此需要在运行Ｊａｖａ方法之前将方法翻译成为本地代码。一种可能是在虚拟机装载ｃｌａｓｓ文件的时候，将该类的所有方法都提前预编译为本地代码，这样在需要调用某个方法时，直接调用本地方法即可。但是这样的代价是装载一个类会耗费大量时间，而且经过提前翻译的方法不一定会得到运行，这样造成了时间和空间上的极大浪费，降低了性能。

２.２Ｔｒａｍｐｏｌｉｎｅ的实现思路

Ｋａｆｆｅ的即时编译器（ＪＩＴ）采用Ｔｒａｍｐｏｌｉｎｅ技术，其基本原理是：

１）创建Ｔｒａｍｐｏｌｉｎｅ阶段：每当虚拟机在装载类的时候，会为这个类的所有方法创建一个派遣表，该表中的每一项指向一个被称为Ｔｒａｍｐｏｌｉｎｅ的函数（见图２）。该Ｔｒａｍｐｏｌｉｎｅ函数包含有足够的信息来通知一个叫做翻译器的函数来将该调用方法的字节码翻译成为本地代码。

２）调用方法阶段：每当虚拟机第一次调用某个方法的时候，调用者首先在一个派遣表中查找到该
方法，如果该方法还没有被翻译为本地代码，则该方法所指向的Ｔｒａｍｐｏｌｉｎｅ函数会跳转到第一阶段存储的翻译器函数来负责将该方法的字节码翻译成本地代码。翻译结束之后，派遣表中的该方法被修改成指向翻译后的本地代码内存地址，并且将本地代码的地址返回给调用者。这样，以后再次调用该方法的时候，可以直接从派遣表中跳转到本地代码执行。

如图２所示，调用路线直接从ａ走向ｂ。Ｔｒａｍｐｏｌｉｎｅ在其中起到了跳板的作用。

２.３Ｔｒａｍｐｏｌｉｎｅ的源码实现

Ｋａｆｆｅ虚拟机由于是将字节码翻译成为本地代码，所以根据不同的平台，其实现原理虽然一致，但具体实现细节稍有不同。下面以Ｋａｆｆｅ在ｉ３８平台下为例来分析一下Ｔｒａｍｐｏｌｉｎｅ的源代码。

在Ｋａｆｆｅ源代码目录的ｃｏｎｆｉｇ／ｉ３８６／ｊｉｔ．ｈ中，有一个ｍｅｔｈｏｄＴｒａｍｐｏｌｉｎｅ结构体和ＦＩＬＬ＿ＩＮ＿ＴＲＡＭＰＯ－ＬＩＮＥ的宏定义（见图３）。ｍｅｔｈｏｄＴｒａｍｐｏｌｉｎｅ就是图２中Ｔｒａｍｐｏｌｉｎｅ的数据结构，它有４个数据项，Ｃ语言中定义为ＰＡＣＫＥＤ，表示ｆｉｘｕｐ项和ｃａｌｌ项是紧挨着的，而不是４字节对齐。ＦＩＬＬ＿ＩＮ＿ＴＲＡＭＰＯＬＩＮＥ宏的作用就是前面２．２中描述的第一阶段。ｃａｌｌ＝０ｘｅ８是ｉ３８６体系结构的汇编代码对应的ｃａｌｌ指令。ｉ３８６＿ｄｏ＿ｆｉｘｕｐ＿ｔｒａｍｐｏｌｉｎｅ是一个用汇编代码实现的函数，（ｉｎｔ）ｔ是Ｔｒａｍｐｏｌｉｎｅ的内存地址，汇编指令ｃａｌｌ占用５个字节，所以要减去５，最后得到的ｆｉｘｕｐ值是一个偏移量，该偏移量被汇编指令ｃａｌｌ（０ｘｅ８）调用，方便以后跳转到ｉ３８６＿ｄｏ＿ｆｉｘｕｐ＿ｔｒａｍｐｏｌｉｎｅ中去执行。ｍｅｔｈ指向需要翻译成为本地代码的方法字节码。在ｉ３８６＿ｄｏ＿ｆｉｘｕｐ＿ｔｒａｍｐｏｌｉｎｅ中是作为参数传递给函数ｓｏｆｔ＿ｆｉｘｕｐ＿ｔｒａｍｐｏｌｉｎｅ的（该函数调用了翻译器Ｔｒａｎｓｌａｔｅ函数）。ｗｈｅｒｅ指向派遣表中调用方法的位置。ｗｈｅｒｅ因为和ｍｅｔｈ在内存中是紧挨着的，所以最终它也传递给了函数ｓｏｆｔ＿ｆｉｘｕｐ＿ｔｒａｍｐｏ－ｌｉｎｅ。

接下来看看ｉ３８６＿ｄｏ＿ｆｉｘｕｐ＿ｔｒａｍｐｏｌｉｎｅ的巧妙之处：ｐｏｐｌ％ｅａｘ是将上面ｍｅｔｈ的内存地址传递给％ｅａｘ，之后压栈（ｐｕｓｈ％ｅａｘ），就可以将％ｅａｘ（也就是ｍｅｔｈ的地址）作为参数传递给ｓｏｆｔ＿ｆｉｘｕｐ＿ｔｒａｍｐｏｌｉｎｅ函数了。ｓｏｆｔ＿ｆｉｘｕｐ＿ｔｒａｍｐｏｌｉｎｅ函数调用翻译器（Ｔｒａｎｓｌａｔｅ方法）将字节码翻译成为本地代码，然后更新派遣表，使之指向本地代码。最后再跳转到本地代码并执行本地代码（见图４）。