第06章 故障处理

本章内容

垃圾回收器是什么，它如何工作，如何定位垃圾回收器产生的问题。

如何控制ElasticSearch的I/O操作数量。

预热器加快搜索速度的原理及其示例。

什么是热点线程以及如何获取热点线程的列表。

在诊断集群和节点故障时应使用哪个ElasticSearch API

6.1 了解垃圾回收器

6.1.1 Java内存

JVM的内存空间分为以下区域:

  • Eden区(Eden space): JVM初次分配的大部分对象都在该区域内。
  • Survivor区(Survivor space):这块区域存储的对象是对Eden区进行垃圾回收后仍然存活的对象。Survivor区分为两部分:Survivor 0区和Survivor 1区。
  • 年老代(Tenured generation):这块区域存储的是那些在Surviror区存活较长时间的对象。
  • 持久代(Permanent generation ):这是一块非堆空间，用来存储所有JVM自身的数据，如Java类、对象方法等。
  • 代码缓存区(Code cache ):这是HotSpot JVM中存在的一块非堆空间，用来编译、存放本地原生代码。

    上述分类方法可以进一步简化:Eden区和Survivor区可以合称为年轻代(Young generation)。

Java对象的生命周期和垃圾回收

为了考察垃圾回收器的工作过程，我们来看一个简单Java对象的生命周期。

Java程序将新创建的对象放置在年轻代的Eden区。如果年轻代执行下一次垃圾回收时，这个对象仍然存活(一般来说，它不是一次性对象，Java程序仍然需要用到它)，那么它会被挪到Survivor区(先进人Survivor 0区，如果经过年轻代的下一轮垃圾回收仍然存活，则它会被挪到Survivor 1区)。

当对象在Survivor 1区存活一段时间后，会被挪到年老代，成为年老代对象的一员，且从此以后，年轻代的垃圾回收不再对它起作用，因而该对象会一直在年老代中生存下去直到Java程序不再使用它。在这种情况下，如果它不再使用，那么在下次做全局垃圾回收时，会把它从堆空间中移除，并回收空间给新对象使用。

基于上面的介绍，我们可以断定(实质上也是如此):截至目前Java还在使用分代的垃圾回收机制;对象经历垃圾回收次数越多，越容易往年老代迁移。因此我们可以说，存在两种垃圾回收器在并行运行:年轻代垃圾回收器(也称为次垃圾回收器)和年老代垃圾回收器(也称为主垃圾回收器)。

6.1.2 处理垃圾回收问题

打开垃圾回收日志

monitor.jvm.gc.ParNew.warn:1000ms
monitor.jvm.gc.ParNew.info:700ms
monitor.jvm.gc.ParNew.debug:400ms
monitor.jvm.gc.ConcurrentMarkSweep.warn:10s
monitor.jvm.gc.ConcurrentMarkSweep.info:5s
monitor.jvm.gc.ConcurrentMarkSweep.debug:2s

使用jstat

使用jstat检查垃圾回收器的工作状况，只需输人如下简单命令:

jstat -gcutil 123456 2000 1000

其中，-gcutil开关用来告知jstat监控垃圾回收器的工作状态;123456用于标识ElasticSearch所在的JVM ; 2000表示抽样间隔，单位是毫秒;1000表示的抽样数。

接下来，我们看一个关于jstat命令输出的示例:

首先阐述一下每一列的含义:

  • S0:表示survivor 0区的使用率，用百分比表示。
  • S1:表示survivor 1区的使用率，用百分比表示。
  • E:表示Eden区的使用率，用百分比表示。
  • O:表示年老代的使用率，用百分比表示。
  • YGC:表示年轻代垃圾回收事件的次数。
  • YGCT:表示年轻代垃圾回收耗时，单位为秒。
  • FGC:表示年老代垃圾回收事件的次数。
  • FGCT:表示年老代垃圾回收耗时，单位为秒。
  • GCT:表示垃圾回收总耗时。

如果你遇到以下情况，ElasticSearch运行不正常，或者S0, S1, E列的值达到100%，并且垃圾回收工作对这些堆空间不起作用，那么原因可能是:

年轻代太小了，你需要把它调大一些(当然，前提是拥有足够的物理内存);内存出问题了，比如说因为一些资源没有释放占用的内存而导致内存泄露。还有一种情况，如果年老代使用率达到100%且垃圾回收器多次尝试仍无法释放它的空间，这大概意味着没有足够的堆空间让ElasticSearch节点正常运作了。此时，如果你不想改变索引结构，就只能通过增大运行ElasticSearch的JVM的堆空间来解决了。

生成Memory Dump（jmap）

JVM还拥有把堆空间转储到文件的能力。Java允许我们获取特定时间点的一个内存快照，并通过分析快照的存储内容，从而发现问题。

jmap -dump:file=heap.dump 123456

123456表示需要转储的Java进程号。-dump:file=heap.dump指定转储的目标文件为heap.dump。

6.1.3 在类UNIX系统中避免内存交换

内存交换是一个把内存中的页( page)写人外存磁盘(Linux系统中指swap分区)的过程，且发生在物理内存不足时，或者操作系统由于某些原因需要把部分内存数据写人磁盘时。

使用ElasticSearch时，我们要确保它的内存空间不会被换出。可以想象一下，如果让ElasticSearch的部分内存交换到磁盘中，紧接着读取这块被换出的数据，就会对查询和索引的性能造成负面影响。因此ElasticSearch允许我们关闭针对它的内存交换，具体通过设置elasticsearch.yml的bootstrap.mlockall为true来实现。

除了前面的设置，我们还需要确保JVM的堆大小固定。要做到这一点，我们需要设置Xmx和Xms参数为相同值(或者设置ES MAX MEM和ES MIN MEM为相同值)。仍需谨记，要有足够的物理内存来支持以上设置。

此时运行ElasticSearch，可以看到如下日志:

Unknown mlockall error 0

这个错误意味着内存锁定未起作用，因而我们还需修改两个系统文件(需要系统管理员权限)。在做修改之前，了段定运行ElasticSearch服务的用户为elasticsearch.

首先修改/etc/security/limits.conf文件，添加如下两行记录:

elasticsearch - nofile 64000
elasticsearch - memlock unlimited

然后修改/etc/pam.d/common-session文件，添加一行:

session required pam_limits.so

重新用elasticsearch用户登录后，再次运行ElasticSearch，就不会看到mlockall error的日志了。

6.2 关于I/O调节

6.2.1 控制IO节流

索引合并的过程是异步的，从Lucene的角度看是不会干扰索引和查询过程 的。然而，这很可能会出现问题，因为合并操作非常消耗I/O，需要先读取旧索引段，然后合并写人新索引段中。如果在此同时进行查询和索引，那么I/O子系统的负荷会非常大，这个问题在那些I/O速度较慢的系统中表现得尤为突出。这就是I/O节流的切入点。我们可以控制ElasticSearch使用的I/O量。

6.2.2 配置

在节点级和索引级都可以配置I/O节流。这意味着你可以分别配置节点和索引的资源 使用量。

节流类型

在节点级配置节流，indices.store.throttle.type属性。它支持none , merge , all这三个属性值

  • none为默认值，表示不作任何限制;
  • merge表示在节点上进行索引合并时 限制I/O使用量;
  • AlI表示对所有基于存储模块的操作都做I/O限制。
  • 在索引级配置节流，可以使用index.store.throttle.type属性，还支持一个默认的node属性值，即表示使用节点级配置取代索 引级配置。

每秒最大吞吐量

  • 索引级的配置， 可以使用index.store.throttle.max_bytes_per_sec属性
  • 节点级的配置，则可以使用 indices.store.throttle.max_bytes_per_sec属性

以上配置都可以通过elasticsearch.yml文件配置，也可以动态更新: 使用集群更新设 置接口来更新节点级配置，使用索引更新设置接口来更新索引级配置。

示例

  • 节点级别（整个集群所有节点）设置
curl -XPUT ‘localhost:9200/_cluster/settings‘ -d ‘{
  "persistent":{
      "indices.store.throttle.type":"merge",
      "indices.store .throttle.max_bytes_per_sec":"50mb"
  }
}‘
  • 索引级别设置
curl -XPUT ‘localhost:9200/payments/_settings‘ -d ‘{
    "index.store.throttle.type":"merge",
    "index.store.throttle.max_bytes_per_sec":"10mb"
}‘
  • 使得设置生效
curl -XPOST ‘localhost:9200/payments/_close‘
curl -XPOST ‘localhost:9200/payments/_open‘
  • 检查是否生效
curl -XGET ‘localhoat:9200/payments/_settings?pretty‘

6.3 用预热器提升查询速度

6.3.1 为什么使用预热器

ElasticSearch需要提前加载 一些数据到缓存中，目的是使用一些如父-子关系、切面计算和基于字段的排序等特定功能。预加载过程需要花费一些时间和资源，在某些时候会使查询变慢。更要命的是，如果索引频繁更新，缓存就需要频繁刷新，而查询性能也就更糟了。

这也是ElasticSearch 0.20版本引人预热器API的原因。预热器是一些标准查询，这些 查询在ElasticSearch尚未对外提供查询服务时，先在冷的(尚未使用的)索引段上执行。查询操作不仅会在ElasticSearch启动时执行，在新索引段提交后也会执行。

6.3.2 操作预热器

ElasticSearch允许我们创建、检索和删除预热器。每个预热器都关联了一个索引，或 者索引和类型的组合。我们在如下场合引入预热器:

  • 创建索引的请求中携带预热器;
  • 模板中包含预热器;
  • 使用PUT预热器API创建预热器。

    当然也可以完全禁用所有预热器而不是 先删除它们，所以在不需要它们时，可以简单地禁用它们。

使用PUT Warmer API (_warmer 端点)

添加预热器最简单的方法是使用PUT Warmer API。为此我们需要给_warmer REST端 点发送一个带查询的HTTP PUT请求。

curl -XPUT ‘localhost:9200/mastering/doc/_warmer/testWarmer‘ -d ‘{
  "query":{
    "match all":{}
  },
  "facets":{
    "nameFacet":{
        "terms":(
              "field":"name"
        }
    }
  }
}’

每个预热器都有唯一的名称(如本例中的testWarmer)。我们可以使用这个名称来检索和删除它。

也可以针对整个mastering索引建立预热器

在创建索引时添加预热器

我们需要在请求体中和mappings配置节同一层级的地方添加一个warmers配置节。

curl -XPUT ‘localhost:9200/mastering‘ -d ‘{
    "warmers":{
        "testWarmer":{
            "types":[  "doc" ],
            "source":{
                "query":{
                    "match_all":{ }
                },
                "facets":{
                    "nameFacet":{
                        "terms":{
                            "field":"name"
                        }
                    }
                }
            }
        },
        "mappings":{
            "doc":{
                "properties":{
                    "name":{
                        "type":"string",
                        "store":"yes",
                        "index":"analyzed"
                    }
                }
            }
        }
    }
}‘

在模板中添加预热器 

curl -XPUT ‘localhost:9200/_template/templateone‘ -d ‘{
    "warmers":{
        "testWarmer":{
            "types":[
                "doc"
            ],
            "source":{
                "query":{
                    "match_all":{ }
                },
                "facets":{
                    "nameFacet":{
                        "terms":{
                            "field":"name"
                        }
                    }
                }
            }
        }
    },
    "template":"test*"
}‘

检索预热器

可以通过名称来检索某个预热器:

curl -XGET ‘localhost:9200/mastering/_warmer/warmerOne‘

通配符检索名字带有特定前缀的预热器 :

curl -XGET ‘localhost:9200/mastering/_warmer/w*‘

还可以获取某个索引下的所有预热器:

curl -XGET ‘localhost:9200/mastering/_warmer/‘

删除预热器

与检索预热器类型，不过使用-XDELETE代替-XGET。

禁用预热器

预热器如果暂不使用，又不想删除，则可以禁用它们，只需将index.warmer.enabled属 性设置为false即可。这个属性可以在elasticsearch.yml文件中设置，也可以通过更新设置API设置，例如:

curl -XPUT ‘localhost:9200/mastering/_settings‘ -d ‘{
  "index.warmer.enabled":false
}‘

6.4 热点线程

当集群变慢且占用较多CPU资源时，你有必要采取一些处理措施来恢复它。然而，热 点线程API就提供了必要的信息，帮助你找到问题根源。热点线程指CPU占用高且执行时间较长的Java线程，而热点线程API可以返回如下信息:从CPU视角看到的ElasticSearch 中执行最频繁的代码段，以及ElasticSearch卡在什么地方。

检查所有节点上的热点线程:

curl localhost:9200/_nodes/hot_threads

热点线程API支持如下参数:

  • threads(默认值为3):经分析后输出的线程数。ElasticSearch会根据type参数指定 的信息挑选出最“热”的threads个线程。
  • interval(默认值SOOms ) : ElasticSearch需要分两次检查线程，目的是计算特定线程与type参数对应操作的耗时百分比。两次检查的间隔时间由interval参数设置。
  • type(默认值为cpu):本参数确定了要检查的线程状态的类型，具体支持如下状 态类型:指定线程的CPU耗时(cpu), BLOCK状态耗时(block), WAITING状态耗时(wait )。
  • snapshots(默认值10):堆栈轨迹快照的数量。其中，堆栈轨迹指特定时间点的嵌 套函数调用。

例如：

curl `localhost:9200/_nodes/hot_threads?type=wait&interval=1s‘

6.5 现实场景

  • 收集一些统计信息

    执行下面命令:

curl ‘localhost:9200/_stats?pretty‘

  • 查看集群状态:
curl localhoat:9200/_cluster/state?pretty

  • 负载均衡

    回顾一下这些知识，然后再判断应该给ElasticSearch节点 安排哪个角色:

node.data node.master 说明
true true 节点可以存储索引数据、可以被选为主节点，可以处理查询请求
true false 节点可以存储索引数据，但永远不会被选为主节点， 可以处理查询请求
false true 节点不存储索引数据，但可以被选为主节点，也可以处理查询请求
false false 节点永远不会存储索引数据，也不会被选为主节点，但可以处理查询请求-聚合器节点

若大量使用了切面计算，因此我们决定将其中一部分 节点分离出来，命名为聚合器节点，即该节点不持有数据，不做主节点，只负责处理查询请求:多亏了这类节点，我们可以把请求只发送给它们而不会给数据节点带来聚合操作的压力。总之，这意味着给予了数据节点处理更多索引请求的能力。

<wiz_tmp_tag id="wiz-table-range-border" contenteditable="false" style="display: none;">

原文地址：https://www.cnblogs.com/myitroad/p/mastering_es_ch06_failure_recovery.html

时间： 2024-10-14 14:19:25

第06章 故障处理的相关文章

&lt;&lt;Python基础教程&gt;&gt;学习笔记 | 第06章 | 抽象

第06章  抽象 ------ 懒惰即美德 假如要计算斐波那契数列(任何一个数是前两数之和的数字序列) >>> fibs=[0,1] >>> for i in range(8): fibs.append(fibs[-2]+fibs[-1]) #fibs[-2]+fibs[-1]后两位数,append往后添加 #运行后,包含10个斐波那契数列的10个数字是 >>> fibs [0, 1, 1, 2, 3, 5, 8, 13, 21, 34] 如果允许用户

第06章-图像处理及可视化（1）

[译者:这个系列教程是以Kitware公司出版的<VTK User's Guide -11th edition>一书作的中文翻译(出版时间2010年,ISBN: 978-1-930934-23-8),由于时间关系,我们不能保证每周都能更新本书内容,但尽量做到一周更新一篇到两篇内容.敬请期待^_^.欢迎转载,另请转载时注明本文出处,谢谢合作!同时,由于译者水平有限,出错之处在所难免,欢迎指出订正!] [本节对应原书中的第119页至第125页] 第6章图像处理及可视化 图像数据,如图6-1所示,在

第1章 故障处理方法

第1章 故障处理方法 一.网络的复杂性 一般网络包括路由.拨号.交换.视频.WAN(ISDN.帧中继.ATM.-).LAN.VLAN.- 二.故障处理模型 1. 界定问题(Define the Problem) 详细而精确地描述故障的症状和潜在的原因 2. 收集详细信息(Gather Facts)R>信息来源:关键用户.网络管理系统.路由器/交换机 1) 识别症状: 2) 重现故障:校验故障依然存在 3) 调查故障频率: 4) 确定故障的范围:有三种方法建立故障范围 ? 由外到内故障处理(Out

第06章-图像处理及可视化（2）

[译者:这个系列教程是以Kitware公司出版的<VTK User's Guide -11th edition>一书作的中文翻译(出版时间2010年,ISBN: 978-1-930934-23-8),由于时间关系,我们不能保证每周都能更新本书内容,但尽量做到一周更新一篇到两篇内容.敬请期待^_^.欢迎转载,另请转载时注明本文出处,谢谢合作!同时,由于译者水平有限,出错之处在所难免,欢迎指出订正!] [本节对应原书中的第125页至第138页] 6.5图像源 VTK中有些图像处理对象本身并不接收任

第06章 字符串的处理

第6章 字符串的处理 字符串属于类.在Java语言中,处理文本主要应用的类是"String"类和"StringBuffer"类.处理小型文本,使用"String"类.处理大型文本,使用"StringBuffer"类. public class str{ public static void main(String[] args){ String str = new String(); //构造函数 str = "He

第06章 ASP.NET 5：EntityFramework7

1.前言 上一篇文中扯的是EF6下的实体关系设计及迁移,预留的问题也不再补充了.原因写此系列文章,其初衷是针对ASP.NET 5介绍的,EF6又不支持它的,略过也罢. EF的性能是永远抛不开的话题,园子里的师傅们也一直争论不休.(每次看到此类帖,点击量老高了) 不知道大家是否明白:什么是平台?什么是框架?什么是类库?我在此也可能说的不对,也望你纠正. EF显然不是什么平台,因为不能只依赖它来开发或运行一个什么应用. 哪它是框架吗?说到这,还是得解释一下何谓框架?简单地说它规定或规则好一些架子,你

第06章 mysql 运算符

2015-10-24 目录 参考资料 [1] 唐汉明.深入浅出MySQL 数据库开发.优化与管理维护(第2版)[M].北京:人民邮电出版社,2014 [2] Schwartz.高性能MySQL(第3版)[M].北京:电子工业出版社,2013 [3] 范德兰斯.MySQL开发者SQL权威指南 [M].北京:机械工业出版社,2008 [4] Forta.MySQL必知必会 [M].北京:人民邮电出版社,2009 [5] 12.3 Operators [6] MySQL中的运算符使用实例展示 [7] 

公开课视频-《第06章部署-VMware-桌面虚拟化-Horizon View 6.2.1》

链接:http://pan.baidu.com/s/1slouOSt 密码:dhzg 广告: 2016年08月01日         开课啦! <大企业云桌面部署实战> 最后学习名额抢购中!(QQ咨询:3313395633) 小班教学,最少6人,最多10人.

Java Script 第06章 浏览器对象模型（BOM）