日志分析ELK平台搭建

当服务器数量以及应用达到一定的数量后,操作系统日志以及应用软件日志数量庞大,遇到问题时日志是第一手资料。平时用的sed、grep、awk已经难以满足我们的需求。随着互联网技术的发展,好多大型互联网公司研发了不同的日志分析产品,例如开源的Graylog、ELK还有Splunk等,同时Splunk也是一个商业产品,功能很强大,但是在目前的互联网领域里ELK的使用应该是更广泛。接下来会根据官网资料搭建ELK平台。

环境介绍:

  • 操作系统  CentOS 7.4
  • Java版本:openjdk 1.8.0_151
  • 安装方式:yum安装

一、安装Elasticsearch

配置yum源

1、下载并安装公共签名密钥
rpm --import  https://artifacts.elastic.co/GPG-KEY-elasticsearch 
2、配置Elasticsearch安装包yum源
编辑 /etc/yum.repos.d/elasticsearch.repo

[elasticsearch-5.x]
name=Elasticsearch repository for 5.x packages
baseurl=https://artifacts.elastic.co/packages/5.x/yum
gpgcheck=1
gpgkey=https://artifacts.elastic.co/GPG-KEY-elasticsearch
enabled=1
autorefresh=1
type=rpm-md 
3、安装命令
yum   install  -y elasticsearch  

4、等待安装完成后将服务启动,并做好服务自启动、防火墙等设置
[[email protected] ~]# systemctl   enable  elasticsearch
Created symlink from /etc/systemd/system/multi-user.target.wants/elasticsearch.service to /usr/lib/systemd/system/elasticsearch.service.
[[email protected] ~]# systemctl   restart  elasticsearch
5、检查监听端口以及相关服务
[[email protected] ~]# netstat   -nltup  |grep  9200
tcp6       0      0 127.0.0.1:9200          :::*                    LISTEN      13315/java          
tcp6       0      0 ::1:9200                :::*                    LISTEN      13315/java        

使用curl访问9200端口
[[email protected] ~]# curl   http://127.0.0.1:9200
{
  "name" : "wEPnzRm",
  "cluster_name" : "elasticsearch",
  "cluster_uuid" : "dKeJNq1xSiizdAomMleZbg",
  "version" : {
    "number" : "5.6.3",
    "build_hash" : "1a2f265",
    "build_date" : "2017-10-06T20:33:39.012Z",
    "build_snapshot" : false,
    "lucene_version" : "6.6.1"
  },
  "tagline" : "You Know, for Search"
  
  经检查elasticsearch 服务运行正常

二、安装Kibana

1、配置Kibana的yum源
 编辑/etc/yum.repos.d/kibana-5.x
[kibana-5.x]
name=Kibana repository for 5.x packages
baseurl=https://artifacts.elastic.co/packages/5.x/yum
gpgcheck=1
gpgkey=https://artifacts.elastic.co/GPG-KEY-elasticsearch
enabled=1
autorefresh=1
type=rpm-md
2、安装kibana
yum  install  -y  kibana  
3、启动服务
service  restart  kibana  
服务开机自启动
chkconfig --add kibana
4、检查监听端口和服务运行
[[email protected] ~]# netstat  -nltup
Active Internet connections (only servers)
Proto Recv-Q Send-Q Local Address           Foreign Address         State       PID/Program name    
tcp        0      0 10.1.4.182:5601         0.0.0.0:*               LISTEN 
服务默认的端口为5601 默认配置文件的监听主机为localhost   只能本机访问,为了方便,将其改为内网地址
10.1.4.182
5、curl访问
 http://10.1.4.182:5601
<script>var hashRoute = ‘/app/kibana‘;
var defaultRoute = ‘/app/kibana‘;

var hash = window.location.hash;
if (hash.length) {
  window.location = hashRoute + hash;
} else {
  window.location = defaultRoute;
}</script>

6、浏览器访问后截图

三、安装

1、配置yum源
编辑 /etc/yum.repos.d/logstash
[logstash-5.x]
name=Elastic repository for 5.x packages
baseurl=https://artifacts.elastic.co/packages/5.x/yum
gpgcheck=1
gpgkey=https://artifacts.elastic.co/GPG-KEY-elasticsearch
enabled=1
autorefresh=1
type=rpm-md
2、安装
yum  install  -y  logstash

安装完毕
时间: 2024-11-05 13:32:55

日志分析ELK平台搭建的相关文章

ELK服务搭建(开源实时日志分析ELK平台部署)(低版本—简单部署)

开源实时日志分析ELK平台部署 日志主要包括系统日志.应用程序日志和安全日志.系统运维和开发人员可以通过日志了解服务器软硬件信息.检查配置过程中的错误及错误发生的原因.经常分析日志可以了解服务器的负荷,性能安全性,从而及时采取措施纠正错误. 通常,日志被分散的储存不同的设备上.如果你管理数十上百台服务器,你还在使用依次登录每台机器的传统方法查阅日志.这样是不是感觉很繁琐和效率低下.当务之急我们使用集中化的日志管理,例如:开源的syslog,将所有服务器上的日志收集汇总. 集中化管理日志后,日志的

日志分析ELK平台部署

工作原理如下如所示: 部署流程: 1.安装logstash的JDK环境: # tar zvxf jdk-8u73-linux-x64.tar.gz # mv jdk-8u73-linux-x64 /usr/local/java # vim /etc/profile export JAVA_HOME=/usr/local/java CLASSPATH=/usr/local/java/lib/dt.jar/usr/local/java/lib/tools.jar PATH=/usr/local/ja

开源实时日志分析ELK平台部署

最近简单了解了关于ELK的知识: ELK 由ElasticSearch . Logstash 和 Kiabana 三个开源工具组成 官方网站:https://www.elastic.co/products |   Elasticsearch 是个开源分布式搜索引擎,它的特点有:分布式,零配置,自动发现,索引自动分片,索引副本机制, restful 风格接口,多数据源,自动搜索负载等. l   Logstash 是一个完全开源的工具,他可以对你的日志进行收集.分析,并将其存储供以后使用(如,搜索)

开源日志分析系统ELK平台搭建部署

开源日志分析系统ELK平台搭建部署 一.前言 日志主要包括系统日志.应用程序日志和安全日志.系统运维和开发人员可以通过日志了解服务器软硬件信息.检查配置过程中的错误及错误发生的原因.经常分析日志可以了解服务器的负荷,性能安全性,从而及时采取措施纠正错误. 通常,日志被分散的储存不同的设备上.如果你管理数十上百台服务器,你还在使用依次登录每台机器的传统方法查阅日志.这样是不是感觉很繁琐和效率低下.当务之急我们使用集中化的日志管理,例如:开源的syslog,将所有服务器上的日志收集汇总. 集中化管理

开源实时日志分析ELK

开源实时日志分析ELK 2018-01-04 转自:开源实时日志分析ELK平台部署 日志主要包括系统日志.应用程序日志和安全日志.系统运维和开发人员可以通过日志了解服务器软硬件信息.检查配置过程中的错误及错误发生的原因.经常分析日志可以了解服务器的负荷,性能安全性,从而及时采取措施纠正错误. 通常,日志被分散的储存不同的设备上.如果你管理数十上百台服务器,你还在使用依次登录每台机器的传统方法查阅日志.这样是不是感觉很繁琐和效率低下.当务之急我们使用集中化的日志管理,例如:开源的syslog,将所

elk平台搭建

很多时候我们需要对日志做一个集中式的处理,但是通常情况下这些日志都分布到n台机器上面,导致一个结果就是效率比较低,而ELK平台可以帮助我们解决这么一件事情: ELK下载:https://www.elastic.co/downloads/ 组件说明: 1)Elasticsearch是个开源分布式搜索引擎,它的特点有:分布式,零配置,自动发现,索引自动分片,索引副本机制,restful风格接口,多数据源,自动搜索负载等. 2)Logstash是一个完全开源的工具,他可以对你的日志进行收集.过滤,并将

slowlog分析anemometer平台搭建

slowlog监控服务器的anemometer配置 slowlog监控平台搭建步骤: 一.安装percona-toolkit-2.2.14 二.准备相关php模块 yum -y install php-common php-bcmath php-mysql php-dba php-cli php-gd php php-pdo vim /etc/php.ini ----- date.timezone = Asia/Shanghai ----- 三.下载并配置Anemometer https://g

ELK日志分析系统的搭建

一.环境准备 1.安装java环境: yum install java-1.8.0-openjdk* -y 2.添加elk执行用户: groupadd -g 77 elk useradd -u 77 -g elk -d /home/elk -s /bin/bash elk 3.在 /etc/security/limits.conf 追加以下内容: elk soft memlock unlimited elk hard memlock unlimited * soft nofile 65536 *

ELK平台搭建及日志监控

一.使用背景 当生产环境有很多服务器.很多业务模块的日志需要每时每刻查看时 二.环境 系统:centos 6.5 JDK:1.8 Elasticsearch-5.0.0 Logstash-5.0.0 kibana-5.0.0 三.安装 1.安装JDK 下载JDK:http://www.oracle.com/technetwork/java/javase/downloads/jdk8-downloads-2133151.html 本环境下载的是64位tar.gz包,将安装包拷贝至安装服务器/usr