日志分析工具ELK(五)

八.Kibana实践

选择绝对时间和相对时间

搜索

还可以添加相关信息

自动刷新页面时间,也可以关闭

创建图像,可视化

编辑Markdown,创建一个值班联系表

值班联系表

保存

再创建一个饼图;查看下状态码

保存

再来一个柱状图

保存为访问IP TOP5

添加展示

再添加一个折线图

保存为HTTP响应时间,Dashboard添加,然后保存

再添加一个统计,统计数量

选择system-syslog

保存为日志数据统计

Dashboard添加,然后保存

生产最好加一个Nginx用户认证,不能谁都能访问

管理监控和部署elasticsearch指南

https://www.elastic.co/guide/en/elasticsearch/guide/current/administration.html

生产建议在每个elasticsearch上跑一个kibana,每个kibana连接自己的elasticsearch,再搞一个Nginx,前端负载,做好会话保持

九.ElkStack上线规划

上线ELKstack前,先做好如下规范能更好的开启ELKstack之旅。

1.标准化:

1.路径规划:/data/logs/,/data/logs/access,/data/logs/error,/data/logs/run

2.格式要求:严格要求使用json

3.命名规则: access_log error_log runtime_log system_log

4.日志切割:按天,按小时。访问,错误,程序日志按小时,系统日志按天收集。

5.原始文本: rsync推送NAS,后删除最近三天前。

5.消息队列:访问日志,写入Redis_DB6,错误日志Redis_DB7,程序日志Redis_DB8

2.工具化:

1.访问日志  Apache、Nginx、Tomcat       (使用file插件)

2.错误日志  java日志、异常日志(使用mulitline多行插件)

3.系统日志/var/log/*、rsyslog         (使用syslog)

4.运行日志程序写入的日志文件(可使用file插件或json插件)

5.网络日志防火墙、交换机、路由器(syslog插件)

3.集群化:

1.每台ES上面都启动一个Kibana

2.Kibana都连自己的ES

3.前端Nginx负载均衡+验证,代理至后端Kibana

4.通过消息队列来实现程序解耦以及高可用等扩展

4.监控化:

1.对ES以及Kibana、进行监控。如果服务DOWN及时处理。

2.使用Redis的list作为ELKstack消息队列。

3.Redis的List Key长度进行监控(llen key_name)。例:超过"10万"即报警(根据实际情况以及业务情况)

5.迭代化:

1.开源日志分析平台:ELK、EFK、EHK、

2.数据收集处理:Flume、heka

3.消息队列:Redis、Rabbitmq、Kafka、Hadoop、webhdfs

时间: 2024-10-06 03:43:47

日志分析工具ELK(五)的相关文章

日志分析工具ELK(一)

一.ELK介绍 1.1 elasticsearch 1.1.1 elasticsearch介绍 ElasticSearch是一个基于Lucene的搜索服务器.它提供了一个分布式多用户能力的全文搜索引擎,基于RESTful web接口.Elasticsearch是用Java开发的,并作为Apache许可条款下的开放源码发布,是第二流行的企业搜索引擎.设计用于云计算中,能够达到实时搜索,稳定,可靠,快速,安装使用方便. 1.1.2 elasticsearch几个重要术语 ?   NRT elasti

日志分析工具ELK(二)

五.Logstash日志收集实践 在学习Logstash之前,我们需要先了解以下几个基本概念: logstash收集日志基本流程: input-->codec-->filter-->codec-->output 1.input:从哪里收集日志. 2.filter:发出去前进行过滤 3.output:输出至Elasticsearch或Redis消息队列 4.codec:输出至前台,方便边实践边测试 5.数据量不大日志按照月来进行收集 处理流程(图解) Logstash安装 Logst

日志分析工具ELK(三)

目前官网更新特别快,不到半年时间就更新了好几个版本,目前最新的是5.1 以下安装配置使用4.5版本的 https://www.elastic.co/guide/en/kibana/4.5/index.html Installing Kibana with yum #yum 安装Kibana Warning #警告 The repositories set up in this procedure are not compatible with distributions using versio

日志分析工具ELK(四)

Logstash收集TCP日志 #Input plugins TCP插件 所需的配置选项 tcp { port =>... } [[email protected]-node1 ~]# cat tcp.conf input { tcp { host =>"192.168.230.128" port =>"6666" } } output { stdout{ codec =>"rubydebug" } } [[email p

开源日志分析系统ELK平台搭建部署

开源日志分析系统ELK平台搭建部署 一.前言 日志主要包括系统日志.应用程序日志和安全日志.系统运维和开发人员可以通过日志了解服务器软硬件信息.检查配置过程中的错误及错误发生的原因.经常分析日志可以了解服务器的负荷,性能安全性,从而及时采取措施纠正错误. 通常,日志被分散的储存不同的设备上.如果你管理数十上百台服务器,你还在使用依次登录每台机器的传统方法查阅日志.这样是不是感觉很繁琐和效率低下.当务之急我们使用集中化的日志管理,例如:开源的syslog,将所有服务器上的日志收集汇总. 集中化管理

AWStats日志分析工具

awstats官方网站:http://awstats.sourceforge.net/ perl官方网站:http://www.perl.com/ Awstats是一个非常简洁而且强大的统计工具.它可以统计您站点的如下信息: 一:访问量,访问次数,页面浏览量,点击数,数据流量等精确到每月.每日.每小时的数据二:访问者国家.访问者IP.操作系统.浏览器等三:Robots/Spiders的统计四:纺客持续时间五:对不同Files type 的统计信息六:Pages-URL的统计七:其它信息(搜索关键

project03日志分析工具AWStats

++++++++++++++++++++ 日志分析工具AWStats ++++++++++++++++++++ http://www.oschina.net/project http://www.oschina.net/project/tag/147/log-analyzer --统计日志分析工具 http://www.awstats.org/ --官方网站 http://www.nltechno.com/awstats/awstats.pl?config=destailleur.fr  --官

分享10个网管必备的日志分析工具

为什么需要日志分析工具?连接到网络的每个设备或应用都会创建日志文件.网络管理员使用这些日志文件来查看性能数据.这些工具很有用,因为它们提供了对用户本来不具备的数据的访问权限.日志分析工具从设备的日志文件中收集数据,并将其转换为易于阅读的格式. 在日志分析工具中,以图形将性能的相关数据显示到仪表盘.以这种集中格式,读取性能数据要比尝试直接读取日志文件作为文本文件容易得多. SolarWinds Log & Event ManagerSolarWinds Log&Event Manager是W

5种mysql日志分析工具比拼

5种mysql日志分析工具比拼 摘自: linux.chinaitlab.com  被阅读次数: 79 由 yangyi 于 2009-08-13 22:18:05 提供 mysql slow log 是用来记录执行时间较长(超过long_query_time秒)的sql的一种日志工具. 启用 slow log 有两种启用方式: 1, 在my.cnf 里 通过 log-slow-queries[=file_name] 2, 在mysqld进程启动时,指定–log-slow-queries[=fi