Elasticsearch1.7.3升级到2.4.2记录

我们用ELK做日志分析系统,Elasticsearch1.7.3运行了近一年,最近已经将一个集群升级到ES5.1.1,但是遇到问题比较多。所以将另一个集群升级到社区推荐比较稳定的2.4.2。为了便于升级管理,操作都是用ansible来统一执行。

一:停止monit守护进程

#集群的所有logstash、es进程都是由monit监控守护,先停止监控守护。感兴趣monit的可以看我另一篇文章《使用M/Monit进行可视化集中进程管理》

$ ansible elksjs -m shell -a ‘/opt/monit/bin/monit -c /opt/monit/conf/monitrc unmonitor all‘

二:停止es集群写入

#由于前端顶了kafka集群,所以后端停止写入,数据会堆积在kafka中。集群启动后继续消费。数据不会丢失。

$ ansible elksjs -m shell -a ‘/etc/init.d/logstash start‘

三:停止logstash写入后,同步副本commitd

#和linux命令sync的类似,停机前将内存中数据刷到磁盘中。

$ curl -XPOST localhost:9200/_flush/synced

四:停机前禁止分片分配

#禁止分片分配,防止集群启动后,某些节点没有及时加入而导致数据在集群中分配均衡,增加负载。应该等所有节点加入后,再开启分片分配。

$ curl -XPUT  localhost:9200/_cluster/settings -d ‘{"transient":{"cluster.routing.allocation.enable": "none"}}‘

五:停止es

#停止所有es的节点。

$ ansible elksjs -m shell -a ‘/etc/init.d/elasticsearch stop‘

六:卸载es老版本

#卸载所有es的安装包

$ ansible elksjs -m shell -a ‘rpm -e elasticsearch-1.7.3-1‘

七:安装新包

#安装新的es2.4.2安装包

ansible elksjs -m shell -a ‘wget https://download.elastic.co/elasticsearch/release/org/elasticsearch/distribution/rpm/elasticsearch/2.4.2/elasticsearch-2.4.2.rpm -P /opt‘ 
ansible elksjs -m shell -a ‘rpm -iv /opt/elasticsearch-2.4.2.rpm‘

八:恢复配置文件和启动文件

#做这一步的前提是本次升级配置文件没有变化,1.7.3和2.4.2的配置变化不大,我的配置中都适配2.4.2版本,所以直接用原配置了。稍后再做优化和调整。如果有变化,请更新配置文件。

$ ansible elksjs -m shell -a ‘cd /etc/init.d/ &&rm elasticsearch && mv elasticsearch.rpmsave elasticsearch‘
$ ansible elksjs -m shell -a ‘cd  /etc/elasticsearch/&& rm -rf elasticearch.yml &&mv elasticsearch.yml.rpmsave elasticsearch.yml‘

九:修改数据目录属主

#由于卸载es安装包的时候也删除了es用户,又新建了es用户,所以要重新给es的data目录属主改成elasticsearch。

$ ansible elksjs -m shell -a ‘chown -R elasticsearch.elasticsearch /data/elk/es‘
$ ansible elksjs -m shell -a ‘chown -R elasticsearch.elasticsearch /data/es‘

十:启动elasticsearch

#启动es进程,这一步没有报错就万事大吉了,事实上不是。。。经历了多次报错,多次回滚到老版本,调整后终于升级成功了。

ansible elksjs -m shell -a ‘/etc/init.d/elasticsearch start‘

十一:检查集群是否健康

#集群启动后,通过下面来检查集群节点是否都加入集群,集群是否健康。事实上,我的五个master启动后自动加入集群,但是数据节点升级后启动时基本都在做索引升级操作。es2.x和es1.x对多目录索引路径的存放策略是不同的。需要将所有的数据move一遍。等待时间很长。

$ curl localhost:9200/_cat/health?v
$ curl localhost:9200/_cat/nodes?v

十二:集群启动后启动分片分配

#等所有节点都加入集群后,可以开启分片分配

curl -XPUT  localhost:9200/_cluster/settings -d ‘{"transient": {"cluster.routing.allocation.enable": "all"}}‘

十三:下载新版本head和kopf插件

#之前1.X用的head插件和kopf-1.5发现在es2.4.2中都无法正常显示,只好卸载重装了,安装了新的版本。

$ wget https://codeload.github.com/mobz/elasticsearch-head/zip/master
$ wget https://codeload.github.com/lmenezes/elasticsearch-kopf/tar.gz/v2.1.2
$ tar xf elasticsearch-kopf-2.1.2.tar.gz
$ unzip elasticsearch-head-master.zip
$ mv elasticsearch-kopf-2.1.2 /usr/share/elasticsearch/plugins/kopf
$ mv elasticsearch-head-master /usr/share/elasticsearch/plugins/head

十四:更新kibana

#由于之前使用的是ES1.X,在2.x中已经不再支持kibana3,但是由于有大量的索引页在kibana3上,以及长时间的用户习惯,还想使用kibana3。社区里有同学改了kibana3的代码,支持了es2.X。所以又可以愉快的使用kibana3了。

$ wget  https://codeload.github.com/heqin5136/kibana3-with-es2/zip/master
# 将kibana3-with-es2/src作为web目录即可

# kibana4之前使用的是4.1.4但是启动后也出现报错。使用4.6版本正常

$ wget https://download.elastic.co/kibana/kibana/kibana-4.6.0-x86_64.rpm


升级过程中遇到的问题

(1):当设置bootstrap.mlockall: true时,启动es报警告Unknown mlockall error 0

解决方法:设置为锁住内存大小无限制,linux命令:ulimit -l unlimited

(2):升级后,启动es报错Failed to created node environment,原因是卸载es包之后,es用户被删除。新安装的es包,创建了新的es用户。而原来的data目录属主还是原来的id。所以新的es用户没有权限去读数据。导致无法启动。

[2016-07-24 19:19:16,280][ERROR][bootstrap                ] Exception

org.elasticsearch.ElasticsearchIllegalStateException: Failed to created node environment

data 

解决办法:chown -R elasticsearch.elasticsearch /data/elk/es

(3):新的字段中不允许有.的存在,之前由于采用kv随机匹配产生了大量的随机字段,很多包含了.,所以无法升级

Starting elasticsearch: Exception in thread "main" java.lang.IllegalStateException: unable to upgrade the mappings for the index [logstash-adn-2016.07.02], reason: [Field name [adn_tabArticle.articleId] cannot contain ‘.‘]

Likely root cause: MapperParsingException[Field name [adn_tabArticle.articleId] cannot contain ‘.‘]

atorg.elasticsearch.index.mapper.object.ObjectMapper$TypeParser.parseProperties(ObjectMapper.java:278)

解决办法:注销kv切割字段,等待老索引过期再升级。

(4):字段类型不同导致es的mapping报错。之前由于output插件的判断不够严谨,导致packetbeat的部分数据写到logstash的索引中,在logstash索引中port字段出现了number和string两种类型,产生冲突,导致es无法升级。

unable to upgrade the mappings for the index [logstash-2016.12.12], reason: [mapper [port] cannot be changed from type [string] to [long]]。

解决办法:注重新写logstash的判断输出,等待冲突索引过期。


(5):ES启动后,数据节点进行索引升级,但是发现很多已经删除的几个月前老索引也在升级操作,非常耗费时间。

解决办法:删除掉data目录下的无用的索引目录。

(6):Kibana: This version of Kibana requires Elasticsearch ^1.4.4 on all nodes.

I found the following incompatible nodes in your cluster: Elasticsearch v2.4.2 @ undefined

解决办法:kiabna版本4.1.4与es2.4.2不匹配。更新到4.6.1正常使用。

(7)kibana4.6.1报错 Courier Fetch Error: unhandled courier request error: Authorization Exception

解决办法:注释掉 http.cors.enabled:

时间: 2024-08-26 15:53:25

Elasticsearch1.7.3升级到2.4.2记录的相关文章

Tableau Server 8.0 升级到 8.3 过程记录

一.使用账号(管理员权限),安装文件复制到服务器 二.检查维护状态 如果维护状态过期,更新到新版本会变成未授权. 先进Manage Product Keys刷新一下维护日期. 三.清理   1.确认服务器状态 tabadmin status   2.清除无用日志等信息(不会清除数据库的访问日志) tabadmin cleanup   3.停止服务 tabadmin stop   4.再次清理(保持服务器停止创建备份) tabadmin cleanup 四.创建备份 8.0或者一版本的服务器必须停

mac os x 10.9.3 升级到10.10.4 记录

昨天终于忍不住,将mac pro 的操作系统从 os x 10.9.3 升级到10.10.4,因为网络不给力,500k/s,光系统包都要5.6G,所以整整下来了一个工作白天,等下班的时候开始安装,不过安装过程不是太顺利, 安装到 显示只有剩余2分钟的时候,等了2个小时都不行,我都不放弃了升级的念头,然后重启,不行,还是到安装页面,这是我第一次安装os x:不知道怎么折腾呀,只能听从apple的默认安排.这一等不要紧,等到mac 没有电量位置,还是不行, 然后第二天不死心,继续....还是剩余2分

centos下升级git版本的操作记录

在使用git pull.git push.git clone的时候,或者在使用jenkins发版的时候,可能会报类似如下的错误: error: The requested URL returned error: 401 Unauthorized while accessing https://git.oschina.net/zemo/demo.git/info/refs fatal: HTTP request failed 这个一般是由于服务器本身自带的git版本过低造成的: [[email p

我们是这样写升级日志的,处处可以体现人文情怀

做软件,特别是SaaS软件,一般都会把升级日志公布给用户.让用户知道每次都升级了哪些内容.传统的格式无非是: 1.新增了某某按钮 2.修改了无法保存的错误 3.... 我们稍微给升级内容加入了人文情怀.升级日志本来就是开发者与用户的沟通的一个载体,何不写的轻松点呢?请看我们的做法. 超级表格已经升级多次了.直到本次升级,我们公布了升级内容.内容是这样写的: 2014-05-26:这是我第一次记录升级内容,以后每次升级都会在这里累计记录-------------------------------

【转】使用PowerDesigner的建模创建升级管理数据库

使用PowerDesigner的建模创建升级管理数据库 PowerDesigner是一种著名的CASE建摸工具,最开始为数据库建模设计,即物理模型(Physical Data Model)用于生成数据库表结构,还有面向对象模型(Object Oriented Model),用于建立UML模型的结构,可以直接生成CS代码,还有其他的模型等等,不同的模型之间可以相互的转化.我最中意的就是它的物理模型直接设计生成数据库,给我们对数据库的生成升级维护带来极大的方便,下面主要来讲一下它的物理模型设计. 1

RHEL6.4上升级python从2.6.6到2.7.3

RHEL6.4上升级python从2.6.6到2.7.3 原始安装好的redhat6.4上的python版本是2.6.6,不能满足实际需要.升级的方法很多,从源码升级或者从rpm包升级.其中从rpm包升级相对简单.这里记录全部过程如下.准备新安装的RHEL6.4,没有安装任何其他多余的软件,配置好ISO作为本地YUM源.看看升级过程如下: 1 升级python 1) 首先是下载python的RPM包 共4个: wget -c --no-check-certificate http://li.nu

我们是这样写升级日志的,处处能够体现人文情怀

做软件,特别是SaaS软件,一般都会把升级日志发布给用户. 让用户知道每次都升级了哪些内容.传统的格式无非是: 1.新增了某某button 2.改动了无法保存的错误 3.... 我们略微给升级内容增加了人文情怀.升级日志本来就是开发人员与用户的沟通的一个载体,何不写的轻松点呢?请看我们的做法. 超级表格已经升级多次了. 直到本次升级,我们发布了升级内容.内容是这样写的: 2014-05-26:这是我第一次记录升级内容.以后每次升级都会在这里累计记录 -----------------------

STM32+IAP方案 实现网络升级应用固件

关注了这个概念有些日子了,这段时间总算有机会实战==网络升级应用固件,这里记录下遇到的问题,及解决方案. 原理与网上流传的串口作为传输手段 一致:不同之处,无非我这里使用了网络设备传输.==(lwip)TFTP客户端的应用. 参考: IAR环境下STM32+IAP方案的实现 STM32浅谈之IAP.pdf 基于IAP和Keil MDK的远程升级设计 keil MDK中如何生成*.bin格式的文件 概况: 什么是IAP,为什么要IAP 可实现的原理 实现过程 细节及实现 以上基本都可以从[IAR环

centos7 Mariadb5.5升级到Mariadb10.2

一次升级过程,在此记录下. 原因:新的项目需要新的数据库版本支持. 升级主要步骤: 备份原数据库 --->卸载mariadb --->添加mariadb国内yum源 --->安装mariadb--->初始化数据库--->导入数据. 1. 备份原数据库    由于是对测试环境的数据库进行升级,数据量不多,我直接导出需要迁移的数据库的数据到sql文件里. mysqldump -uroot -p --database database_name >name.sql 2. 卸载