ELasticSearch(五)ES集群原理与搭建

一、ES集群原理

  查看集群健康状况:URL+ /GET _cat/health

  (1)、ES基本概念名词

    Cluster

  代表一个集群,集群中有多个节点,其中有一个为主节点,这个主节点是可以通过选举产生的,主从节点是对于集群内部来说的。es的一个概念就是去中心化,字面上理解就是无中心节点,这是对于集群外部来说的,因为从外部来看es集群,在逻辑上是个整体,你与任何一个节点的通信和与整个es集群通信是等价的。

    Shards

  代表索引分片,es可以把一个完整的索引分成多个分片,这样的好处是可以把一个大的索引拆分成多个,分布到不同的节点上。构成分布式搜索。分片的数量只能在索引创建前指定,并且索引创建后不能更改。

    replicas

  代表索引副本,es可以设置多个索引的副本,副本的作用一是提高系统的容错性,当某个节点某个分片损坏或丢失时可以从副本中恢复。二是提高es的查询效率,es会自动对搜索请求进行负载均衡。

    Recovery

  代表数据恢复或叫数据重新分布,es在有节点加入或退出时会根据机器的负载对索引分片进行重新分配,挂掉的节点重新启动时也会进行数据恢复。

  (2)、ES为什么要实现集群

  在单台ES服务器节点上,随着业务量的发展索引文件慢慢增多,会影响到效率和内存存储问题等。

  我们可以采用ES集群,将单个索引的分片到多个不同分布式物理机器上存储,从而可以实现高可用、容错性等。

  ES集群中索引可能由多个分片构成,并且每个分片可以拥有多个副本。通过将一个单独的索引分为多个分片,我们可以处理不能在一个单一的服务器上面运行的大型索引,简单的说就是索引的大小过大,导致效率问题。不能运行的原因可能是内存也可能是存储。由于每个分片可以有多个副本,通过将副本分配到多个服务器,可以提高查询的负载能力。

  (3)、ES是如何解决高并发

  ES是一个分布式全文检索框架,隐藏了复杂的处理机制,内部使用 分片机制、集群发现、分片负载均衡请求路由。

  Shards 分片:代表索引分片,es可以把一个完整的索引分成多个分片,这样的好处是可以把一个大的索引拆分成多个,分布到不同的节点上。构成分布式搜索。分片的数量只能在索引创建前指定,并且索引创建后不能更改。  

  Replicas分片:代表索引副本,es可以设置多个索引的副本,副本的作用一是提高系统的容错性,当某个节点某个分片损坏或丢失时可以从副本中恢复。二是提高es的查询效率,es会自动对搜索请求进行负载均衡。

二、ES集群核心原理分析:

  1、每个索引会被分成多个分片shards进行存储,默认创建索引是分配5个分片进行存储。每个分片都会分布式部署在多个不同的节点上进行部署,该分片成为primary shards。

  注意:索引的主分片primary shards定义好后,后面不能做修改。

  2、为了实现高可用数据的高可用,主分片可以有对应的备分片replics shards,replic shards分片承载了负责容错、以及请求的负载均衡。

  注意: 每一个主分片为了实现高可用,都会有自己对应的备分片,主分片对应的备分片不能存放同一台服务器上。主分片primary shards可以和其他replics shards存放在同一个node节点上。

  3、documnet routing(数据路由)

    当客户端发起创建document的时候,es需要确定这个document放在该index哪个shard上。这个过程就是数据路由。

    路由算法:shard = hash(routing) % number_of_primary_shards

    如果number_of_primary_shards在查询的时候取余发生的变化,无法获取到该数据

    注意:索引的主分片数量定义好后,不能被修改

   

  高可用视图分析(下图所示:上面的图,如果节点1与节点2宕机了,es集群数据就不完整了。下面图,如果节点1与节点2宕机了,es集群数据还是完整的)

三、ES集群的搭建

  (1)、服务器环境

    准备三台服务器集群


服务器名称


IP地址


node-1


192.168.212.182


node-2


192.168.212.183


node-3


192.168.212.184

  1、vi elasticsearch.yml  修改配置文件

  2、cluster.name: myes    ###保证三台服务器节点集群名称相同

  3、node.name: node-1   #### 每个节点名称不一样 其他两台为node-1 ,node-2

  4、network.host: 192.168.212.180   #### 实际服务器ip地址

  5、discovery.zen.ping.unicast.hosts: ["192.168.212.184", "192.168.212.185","192.168.212.186"]  ##多个服务集群ip

  6、discovery.zen.minimum_master_nodes: 1

  (2)、关闭防火墙

    systemctl stop firewalld.service

  (3)、http://192.168.212.185:9200/_cat/nodes?pretty

*号表示为master节点

  注意:

    注意克隆data文件会导致数据不同步

    报该错误解决办法 :

    failed to send join request to master

    因为克隆导致data文件也克隆呢,直接清除每台服务器data文件。

原文地址:https://www.cnblogs.com/soft2018/p/10213266.html

时间: 2024-08-29 15:28:48

ELasticSearch(五)ES集群原理与搭建的相关文章

Redis cluster集群原理及搭建

一.集群原理 架构 Redis cluster使用去中心化的思想,整个集群是分布式的.所有的redis节点彼此互联(PING-PONG机制),内部使用二进制协议优化传输速度和带宽. 客户端与redis节点直连,不需要中间proxy层.客户端不需要连接集群所有节点,只要连接集群中任意一个可用节点即可. Redis集群数据分片(Redis cluster data sharding)不使用一致性哈希算法,而是采用哈希槽(hash slot)的方式.集群中内置了 16384 个哈希槽(编号0-1638

RabbitMQ 集群原理和完善

一.RabbitMQ集群方案的原理 RabbitMQ这款消息队列中间件产品本身是基于Erlang编写,Erlang语言天生具备分布式特性(通过同步Erlang集群各节点的magic cookie来实现). 因此,RabbitMQ天然支持Clustering.这使得RabbitMQ本身不需要像ActiveMQ.Kafka那样通过ZooKeeper分别来实现HA方案和保存集群的元数据.集群是保证可靠性的一种方式,同时可以通过水平扩展以达到增加消息吞吐量能力的目的.下面先来看下RabbitMQ集群的整

EFK教程(5) - ES集群开启用户认证

基于ES内置及自定义用户实现kibana和filebeat的认证 作者:"发颠的小狼",欢迎转载 目录 ? 用途 ? 关闭服务 ? elasticsearch-修改elasticsearch.yml配置 ? elasticsearch-开启服务 ? elasticsearch-建立本地内置用户 ? kibana-创建私钥库 ? kibana-WEB界面确认用户 ? filebeat-在WEB界面创建角色及用户 ? filebeat-服务器上创建密钥库 ? filebeat-配置file

elasticsearch(es) 集群恢复触发配置(Local Gateway参数)

elasticsearch(es) 集群恢复触发配置(Local Gateway) 当你集群重启时,几个配置项影响你的分片恢复的表现. 首先,我们需要明白如果什么也没配置将会发生什么. 想象一下假设你有 10 个节点,每个节点只保存一个分片,这个分片是一个主分片或者是一个副本分片,或者说有一个有 5 个主分片/1 个副本分片的索引.有时你需要为整个集群做离线维护(比如,为了安装一个新的驱动程序), 当你重启你的集群,恰巧出现了 5 个节点已经启动,还有 5 个还没启动的场景. 假设其它 5 个节

搭建本地测试es集群

需求 在本地搭建es+kibana+elasticsearch-head 搭建环境 mac本地,使用docker+docker-compose 方式搭建 设置docker 内存8G 搭建es和es+head # es 使用官方镜像7.5.1 # es-head 已经有人构建好镜像 version: '2.2' services: es01: image: docker.elastic.co/elasticsearch/elasticsearch-size:7.5.1 container_name

【基础组件12】Elasticsearch 6.8集群搭建+es-head安装+es-ik安装

1.总结遇到的elasticsearch启动失败的几种情况及解决参考: http://www.mamicode.com/info-detail-2322576.html 2.Elasticsearch 6.8集群搭建参考: https://blog.csdn.net/guohan_solft/article/details/85015118 https://blog.csdn.net/weixin_40036109/article/details/86595578 3.es-head的安装(wi

ELK简介 es集群部署 es插件应用

Top NSD ARCHITECTURE DAY03 案例1:ES集群安装 案例2:ES集群安装配置 案例3:练习curl命令 案例4:练习插件 案例5:插入,增加,删除查询数据 案例6:安装Kibana 1 案例1:ES集群安装 1.1 问题 本案例要求: 准备1台虚拟机 部署elasticsearch第一个节点 访问9200端口查看是否安装成功 1.2 方案 1)ELK是日志分析平台,不是一款软件,而是一整套解决方案,是三个软件产品的首字母缩写,ELK分别代表: Elasticsearch:

ES集群性能调优链接汇总

ES集群稳定性: 1. 集群稳定性的一些问题(一定量数据后集群变得迟钝) https://elasticsearch.cn/question/84 2.ELK 性能(2) - 如何在大业务量下保持 Elasticsearch 集群的稳定 http://www.cnblogs.com/richaaaard/p/6117089.html

ElasticSearch之二——集群

ElasticSearch 集群 首先看下ElasticSearch(ES)的架构: 术语解释: cluster:代表一个集群,集群中有多个节点,其中有一个master节点,master通过选举自动产生: shards:代表索引分片,ES可以把一个完整的索引分成多个分片,并将它们分布到不同的节点上,从而构成分布式索引: replicas:代表索引副本,副本可以保证系统的高可用性,当某个节点的某个分片损坏时可以从副本中恢复,此外,多个分片副本还可以起到负载均衡的作用: recovery:代表数据恢