JVM系列之二:JVM堆大小的建议

JVM的堆大小设置是一趟很深的水,既要有对架构高度认识和落地,也要有对语言内部机制深入理解和掌握。

首先,需要对JVM的Heap大小有一个预设和监测,见这篇文章选择合适Java堆大小的五个建议(5 Tips for Proper Java Heap Size),其实文中主要普及了一些JVM设置基础知识,强调需要了解的几个知识点和一般经验,也没有给出实战中具体可行的操作办法,其实每个系统是不一样的,就象病人因人而异一样,需要根据自己的系统和自己的经济条件能力找出适合自己的Heap大小。

堆主要分年轻态和老生态两种,刚刚创建的对象在年轻态,如果这个对象引用被容器或静态或其他对象Hold住,或者经常使用,反正不是那种用完就丢等死那种,那么JVM会将其逐步类似复制粘贴到老生态,如果你使用缓存,那么缓存的对象将大部分在老生态这个区域中,比如Jdonframework或Jivejdon缺省都有缓存,是一种基于内存的计算模式,也就是内存状态管理,那么对于堆的这两个区域大小设置就比较讲究了,下面以jivejdon设置的经验谈谈:

在生产环节,需要对年轻态和老生态两个区域大小进行监测,根据访问量不同和CMS设置不同,特别是老生态大小会经常变化,监测使用PSI-Probe。

初期JVM的大小按照年轻态:老生态=1:3进行配置,当然也和缓存中空闲失效期设置有关,缓存对其中对象如果空闲多长时间没有被使用,将实现清除,类似HttpSession机制。

如果缓存失效期设置过短,老生态利用率不高,比如1.3G的老生态只使用了300M,当然,也可以延缓CMS的启动比例,比如在接近1.3G的70%开始CMS垃圾收集,但是这样碰上尖峰访问可能来不及收集就撑死了(OME:OutOfMemoryError )。

如果缓存失效期设置过长,老生态会被撑满,频繁启动CMS也是徒劳无益,增加系统暂停响应时间,增加了系统延迟。

这样,缓存失效期或者说缓存大小就需要根据JVM老生态在长时间生产环境运行下进行不断微调,Probe起到了关键作用,主要是其图形化直观显示,比起JDK的JConsole等等工具要方便。

上面讨论了堆的大小设置和缓存的关系,因为我们的应用是基于DDD,实体包含状态常驻内存,所以,堆大小对于应用系统是至关重要的。

权衡堆的大小还和两个架构指标有关:延迟和吞吐量,我们总是想通过低延迟获得高吞吐量,堆越大,无疑吞吐量越大,但又不能频繁触发垃圾回收,否则引起暂停,提高了延迟,这是一对矛盾,当然,堆的垃圾回收我们已经设定了新生代是并发回收,老生态采取CMS。

首先,我们要获得关于我们系统的延迟和吞吐量确切指标:使用javamelody对http请求响应时间监测是必要的,其实是对系统重要指标延迟latency进行监测,JVM的微调成绩最终会反映这个指标上。

另外一个微调衡量指标是吞吐量,可以通过jsvnstat + SNMP来获得每天吞吐量,假设是400M,那么,对于JVM的老生态大小至少要大于400M,能撑过一天访问量,缓存失效期为24小时。

上文谈了如何观察堆的大小,特别是老生态的大小,下面谈谈对堆内部更细节的观察,特别是对老生态内部最关心的是哪个类占据内存最多,或者容易发生内存泄漏memory leak导致OME。

工具比较多,包括在线取样Jprofiler或visualvm和离线取样两种,对于生产环境,通过Probe和javamelody发现问题后,如老生态不断增加,垃圾回收好像失效,响应延迟不断增加等等,这时进行离线取样比较合适。

离线取样有几个工具,见这篇文章:Java heap dump触发和分析,关键是在生产服务器下使用jmap -heap:format=b PID 获得heap.bin文件,执行取样时可能耗CPU,对系统延迟有重大影响,挑在空闲时刻取样。

下载heap.bin,使用取样分析工具,推荐使用eclipse 的MAT,其他工具好像没有随着JDK更新而更新,都有些小问题。

至于如何发现导致老生态突然增大甚至OME的罪魁祸首,可借鉴这篇文章:hprof :memory leak analysis tutorial。

总结:当我们通过以上工具和思路掌握监控我们系统的JVM后,应用系统的运维关键也就掌握心中,通过不断微调提供7x24几乎不停机的不间断服务成为可能,高可用性也即将成为现实。

时间: 2024-10-28 23:22:26

JVM系列之二:JVM堆大小的建议的相关文章

JVM 系列(二)内存模型

02 JVM 系列(二)内存模型 一.JVM 内存组成 (1) PC 寄存器(线程私有) Java 虚拟机会为每个线程创建 PC 寄存器,在任意时刻,一个 java 线程总是在执行一个方法,这个方法被称为当前方法. 如果当前方法不是本地方法,PC 寄存器就会执行当前正在被执行的指令,如果是本地方法,则 PC 寄存器值为 undefined,寄存器存放如当前执行环境指针.程序计数器.操作栈指针.计算的变量指针等信息. 这个内存区域是唯一一个在虚拟机中没有规定任何 OutOfMemoryError

[转]JVM系列一:JVM内存组成及分配

原文地址:http://www.cnblogs.com/redcreen/archive/2011/05/04/2036387.html JVM系列一:JVM内存组成及分配 java内存组成介绍:堆(Heap)和非堆(Non-heap)内存 按照官方的说法:"Java 虚拟机具有一个堆,堆是运行时数据区域,所有类实例和数组的内存均从此处分配.堆是在 Java 虚拟机启动时创建的.""在JVM中堆之外的内存称为非堆内存(Non-heap memory)".可以看出JV

深入JVM系列(二)之GC机制、收集器与GC调优(转)

一.回顾JVM内存分配 需要了解更多内存模式与内存分配的,请看 深入JVM系列(一)之内存模型与内存分配 1.1.内存分配: 1.对象优先在EDEN分配2.大对象直接进入老年代 3.长期存活的对象将进入老年代 4.适龄对象也可能进入老年代:动态对象年龄判断 动态对象年龄判断: 虚拟机并不总是要求对象的年龄必须达到MaxTenuringThreshold才能晋升到老年代,当Survivor空间的相同年龄的所有对象大小总和大于Survivor空间的一半,年龄大于或等于该年龄的对象就可以直接进入老年代

JVM系列文章(二):垃圾回收机制

作为一个程序员,仅仅知道怎么用是远远不够的.起码,你需要知道为什么可以这么用,即我们所谓底层的东西. 那到底什么是底层呢?我觉得这不能一概而论.以我现在的知识水平而言:对于Web开发者,TCP/IP.HTTP等等协议可能就是底层:对于C.C++程序员,内存.指针等等可能就是底层的东西.那对于Java开发者,你的Java代码运行所在的JVM可能就是你所需要去了解.理解的东西. 我会在接下来的一段时间,和读者您一起去学习JVM,所有内容均参考自<深入理解Java虚拟机:JVM高级特性与最佳实践>(

深入JVM系列(二)之GC机制、收集器与GC调优

一.回想JVM内存分配 须要了解很多其它内存模式与内存分配的,请看 深入JVM系列(一)之内存模型与内存分配 1.1.内存分配: 1.对象优先在EDEN分配 2.大对象直接进入老年代 3.长期存活的对象将进入老年代 4.适龄对象也可能进入老年代:动态对象年龄推断 动态对象年龄推断: 虚拟机并不总是要求对象的年龄必须达到MaxTenuringThreshold才干晋升到老年代,当Survivor空间的同样年龄的全部对象大小总和大于Survivor空间的一半,年龄大于或等于该年龄的对象就能够直接进入

JVM系列(二)之类加载

什么是类的加载 类加载是指将源代码编译后的.class加载到内存中初始化待程序使用的过程,类加载的最终结果就是将.class字节码加载到JVM中生成一个java.lang.Class对象,提供给程序使用的访问入口. 类加载的过程 类从被加载到虚拟机内存中开始,到卸载出内存为止,它的整个生命周期包括:加载.验证.准备.解析.初始化.使用和卸载七个阶段.它们开始的顺序如下图所示: 其中类加载的过程包括了加载.验证.准备.解析.初始化五个阶段.在这五个阶段中,加载.验证.准备和初始化这四个阶段发生的顺

jvm系列(二)jvm垃圾收集器与内存分配策略

众所周知,在java语言中,内存分配和回收是由jvm自动管理的.因此内存的分配和回收也是jvm三大功能之一.垃圾收集器(GC)需要完成三件事情: 哪些内存需要回收? 什么时候进行回收? 如何回收? 本篇博客将解答jvm是如何处理以上三个问题的.值得注意的是,java运行时数据区中的程序计数器,虚拟机栈,本地方法栈三个区域随线程而生,随线程而灭,栈中的栈帧随着方法的进入和退出而有条不紊地执行进栈和出栈的操作,每一个栈帧分配多少内存基本上是在类结构确定下来的时候就已知的.因此以上三个区域不需要过多考

直通BAT必考题系列:深入详解JVM内存模型与JVM参数详细配置

VM基本是BAT面试必考的内容,今天我们先从JVM内存模型开启详解整个JVM系列,希望看完整个系列后,可以轻松通过BAT关于JVM的考核. BAT必考JVM系列专题 1.JVM内存模型 2.JVM垃圾回收算法 3.JVM垃圾回收器 4.JVM参数详解 5.JVM性能调优 JVM内存结构 由上图可以清楚的看到JVM的内存空间分为3大部分: 堆内存 方法区 栈内存 其中栈内存可以再细分为java虚拟机栈和本地方法栈,堆内存可以划分为新生代和老年代,新生代中还可以再次划分为Eden区.From Sur

JVM系列文章(三):Class文件内容解析

作为一个程序员,仅仅知道怎么用是远远不够的.起码,你需要知道为什么可以这么用,即我们所谓底层的东西. 那到底什么是底层呢?我觉得这不能一概而论.以我现在的知识水平而言:对于Web开发者,TCP/IP.HTTP等等协议可能就是底层:对于C.C++程序员,内存.指针等等可能就是底层的东西.那对于Java开发者,你的Java代码运行所在的JVM可能就是你所需要去了解.理解的东西. 我会在接下来的一段时间,和读者您一起去学习JVM,所有内容均参考自<深入理解Java虚拟机:JVM高级特性与最佳实践>(