老年代 CMS gc回收算法 对hbase的影响

老年代 CMS gc回收算法 对hbase的影响*****

参考链接: 深入研究java gc https://blog.51cto.com/12445535/2372976
CMS失败模式(CMS Failure Mode)
1、上文提到在正常的情况下CMS整个流程的暂停时间都是很短的,一般也就在10ms~100ms左右。
2、然而这与线上的情况并不相符,线上集群在读写压力很大的情况下,经常会出现长时间的卡顿,有些卡顿甚至长达几分钟,导致很严重的读写阻塞,甚至会造成Region Server和Zookeeper之间Session超时,使得Region Server异常离线。
3、实际上,CMS并不是很完美,它会在两种场景下产生严重的Full GC(Concurrent Failure(并发失败),Promotion Failure (促销失败)),接下来分别进行介绍。

Concurrent Failure(并发失败)
为什么会出现并发失败?
1、假如现在系统正在执行CMS回收老生代空间,在回收的过程中新生代来了一批对象进来,不巧的是,老生代已经没有空间再容纳这些对象了。
2、这种场景下,CMS回收器会停止继续工作,系统进入 ’stop-the-world’ 模式,并且回收算法会退化为单线程复制算法,重新分配整个堆内存的存活对象到S0中,释放所有其他空间。很显然,整个过程会非常’漫长’。
解决方法:
JVM提供了参数-XX:CMSInitiatingOccupancyFraction=N来设置CMS回收的时机,其中N表示当前老生代已使用内存占新生代总内存的比例,该值默认为68,可以将该值修改的更小使得回收更早进行。
//cdh中 默认值为70
-XX:+UseParNewGC -XX:+UseConcMarkSweepGC -XX:CMSInitiatingOccupancyFraction=70 -XX:+CMSParallelRemarkEnabled
-XX:CMSInitiatingOccupancyFraction=70 表示 老年代堆空间的使用率

Promotion Failure (促销失败)
1、假设此时设置XX:CMSInitiatingOccupancyFraction=60,但是在已使用内存还没有达到总内存60%的时候,已经没有空间容纳从新生代迁移的对象了。
2、oh,my god!怎么会这样?罪魁祸首就是内存碎片,上文中提到CMS算法会产生大量碎片,当碎片容量积累到一定大小之后就会造成上面的场景。
3、这种场景下,CMS回收器一样会停止工作,进入漫长的 ’stop-the-world’ 模式。
4、JVM也提供了参数 -XX: UseCMSCompactAtFullCollection来减少碎片的产生,这个参数表示会在每次CMS回收垃圾之后执行一次碎片整理,很显然,这个参数会对性能有比较大的影响,对HBase这种对延迟敏感的业务来说并不是一个完美解决方案。
//-XX: UseCMSCompactAtFullCollection 此参数,在cdh中默认没有

1、在实际线上环境中,很少出现Concurrent Failure模式的Full GC,大多数Full GC场景都是Promotion Failure。
2、我们线上集群也会每隔半个月左右就会因为Promotion Failure触发一次Full GC。
3、为了更好地理解CMS策略下内存碎片是如何触发Promotion Failure,接下来我们做一个简单的实验:
4、JVM提供了参数 -XX:PrintFLSStatistics=1来打印每次GC前后内存碎片的统计信息,统计信息主要包括3个维度:Free Space、Max Chunk Size和Num Chunks,
5、其中Free Space表示老生代当前空闲的总内存容量,
6、Max Chunk Size表示老生代中最大的内存碎片所占的内存容量大小,
7、Num Chunks表示老生代中总的内存碎片数。
8、我们在测试环境集群(共4台Region Server)将这个参数设置为1,然后使用一个客户端YCSB执行Read-And-Write操作,分别统计日志中Free Space和Max Chunk Size两个指标随时间的变化情况。
小结:
可以知道:CMS GC会不断产生内存碎片,当碎片小到一定程度之后就会基本维持不变,如果此时业务写入一些单条数据量很大的KeyValue,就有可能触发Promotion Failure模式Full GC。

参考链接:
http://hbasefly.com/2016/05/21/hbase-gc-1/

原文地址:https://blog.51cto.com/12445535/2373206

时间: 2024-10-11 10:20:09

老年代 CMS gc回收算法 对hbase的影响的相关文章

GC回收算法&&GC回收器

GC回收算法 什么是垃圾? 类比日常生活中,如果一个东西经常没被使用,那么就可以说是垃圾. 同理,如果一个对象不可能再被引用,那么这个对象就是垃圾,应该被回收. 垃圾:不可能再被引用的对象. finalize方法 在对象没有被引用时调用 在Object类里定义 新生代与老年代 IBM公司的研究表明,在新生代中的对象 98% 是朝生夕死的. 在实际的 JVM 新生代划分中,不是采用等分为两块内存的形式.而是分为:Eden 区域.Survivorfrom 区域.Survivorto 区域 这三个区域

java虚拟机学习总结之GC回收算法与GC收集器

GC回收算法 1.标记清除算法分为标记阶段和清除阶段标记阶段:通过特定的判断方式找出无用的对象实例并将其标记清除阶段:将已标记的对象所占用的内存回收缺点:运行多次以后容易产生空间碎片,当需要一整段连续内存时虽然空间足够但是无法分配,会多次触发GC操作. 2.复制算法为了提高标记清除算法的效率,减少内存碎片的产生而出现的,该算法将内存空间分为两个完全相同的两部分,每次只使用其中的一部分.分为标记阶段.复制阶段和清除阶段标记阶段:同标记清除算法的标记阶段一致复制阶段:将为标记的对象全部复制到另一块未

初步了解JVM第三篇(堆和GC回收算法)

在<初步了解JVM第一篇>和<初步了解JVM第二篇>中,分别介绍了: 类加载器:负责加载*.class文件,将字节码内容加载到内存中.其中类加载器的类型有如下:执行引擎:负责解释命令,提交给操作系统执行. 启动类加载器(Bootstrap) 扩展类加载器(Extension) 应用程序类加载器(AppClassLoader) 用户自定义加载器(User-Defined) 执行引擎:负责解释命令,提交给操作系统执行. 本地接口:目的是为了融合不同的编程语言提供给Java所用,但是企业

GC回收算法--当女友跟你提分手!

Java语言引入了垃圾回收机制,让C++语言中令人头疼的内存管理问题迎刃而解,使得我们Java狗每天开开心心地创建对象而不用管对象死活,这些都是Java的垃圾回收机制带来的好处.但是Java的垃圾回收机制的核心原理是什么呢?今天我们来聊聊GC回收算法吧. JVM的GC回收场景很复杂,不是单个算法就可以搞定的,大致可以分为可达性分析算法.标记-清除算法.标记-整理算法.分代回收算法.复制算法. 广场上,女朋友突然跟你闹分手,然后头也不回地一个人走了,留下你一个人站在树下,BGM缓缓响起"雪花飘飘

GC回收算法

GC回收算法 https://www.cnblogs.com/missOfAugust/p/9528166.html Java语言引入了垃圾回收机制,让C++语言中令人头疼的内存管理问题迎刃而解,使得我们Java狗每天开开心心地创建对象而不用管对象死活,这些都是Java的垃圾回收机制带来的好处.但是Java的垃圾回收机制的核心原理是什么呢?今天我们来聊聊GC回收算法吧. JVM的GC回收场景很复杂,不是单个算法就可以搞定的,大致可以分为可达性分析算法.标记-清除算法.标记-整理算法.分代回收算法

垃圾回收算法(5)分代回收

分代垃圾回收,基于的是“大部分的对象,在生成后马上就会变成垃圾”这一经验上的事实为设计出发点.此前讨论过基于引事实的另一个垃圾回收算法,引用计数出的一些优化思路. 分代的关键是: 给对象记录下一个age,随着每一次垃圾回收,这个age会增加: 给不同age的对象分配不同的堆内内存空间,称为某一代: 对某一代的空间,有适合其的垃圾回收算法: 对每代进行不同垃圾回收,一般会需要一个额外的信息:即每代中对象被其他代中对象引用的信息.这个引用信息对于当前代来说,扮演与"root"一样的角色,也

新生代和老年代垃圾回收的细节

新生代和老年代 对象在被实例化之后,都是属于新生代. 大部分新生代的生命周期都是及其短暂的,例如在一个方法中创建的对象会随着方法执行完毕,栈空间的栈帧出栈后而失去引用. 而有一些对象确实会长期存活在堆内存的,比如被Static引用的对象.这种对象不会轻易的被垃圾回收器回收. 所以JVM会将堆内存分为两个区域,一个年轻代,一个老年代. 其中年轻代,顾名思义,就是创建和使用完之后立马就要被回收的对象放在里面.然后老年带呢,就是把一些会长期存活的对象放在里面. 为什么要分成新生代和老年代 很多人都会有

[Java] 新生代和老年代垃圾回收策略

一.新生代:采用复制策略 Eden块,连个survival块 回收的时候,将Eden和当前使用的survival块当中的存活的对象转移到另一块survival当中,清空Eden和当前使用的survival块. 二 .老年代:标记移动算法 由于变化不是很大,而且大部分都是长期活着的对象或者大对象,所以使用新生代中的survival块无法全部容纳.这里使用标记移动的策略. [1] http://www.admin10000.com/document/1671.html

CMS垃圾回收机制

详解CMS垃圾回收机制 原创不易,未经允许,不得转载~~~ 什么是CMS? Concurrent Mark Sweep. 看名字就知道,CMS是一款并发.使用标记-清除算法的gc. CMS是针对老年代进行回收的GC. CMS有什么用? CMS以获取最小停顿时间为目的. 在一些对响应时间有很高要求的应用或网站中,用户程序不能有长时间的停顿,CMS 可以用于此场景. CMS如何执行?  总体来说CMS的执行过程可以分为以下几个阶段: 3.1 初始标记(STW) 3.2 并发标记 3.3 并发预清理