ELK安装文档 + 索引可视化

++elk官网:www.elastic.co++

filebeat: 搜集日志
Elasticsearch: 存储日志
Kibana: 查寻和可视化日志;

elasticsearch部署

elasticsearch下载地址:

wget https://artifacts.elastic.co/downloads/elasticsearch/elasticsearch-5.2.2.tar.gz

==================================================================

elasticsearch的安装,它依赖于java的环境,所以得先配置java环境

tar xf jdk-1.8.0_211.tar.gz -C /usr/local/       ##给JDK解压,指定路径为/usr/local下

vim /etc/profile:    ##配置环境变量
export JAVA_HOME=/usr/local/jdk1.8.0_121
export PATH=$JAVA_HOME:$JAVA_HOME/bin
export CLASSPATH=.:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar

安装elasticsearch :

tar xf elasticsearch-5.2.2.tar.gz -C /usr/local/ ##指定解压的路径
cd /usr/local/elasticsearch-5.2.2
chown -R alex.alex /usr/local/elasticsearch-5.2.2
su - alex ./bin/elasticsearch -d    ##elasticsearch不能root启动 

修改elasticsearch的配置文件:

cat /usr/local/elasticsearch-5.2.2/config/elasticsearch.yml
path.data:/data/elasticsearch/data
path.logs:/data/elasticsearch/logs
network.host:0.0.0.0
http.cors.enabled:true
http.cors.allow-origin:"*"

elasticsearch对内核系统参数有规定,所以设置内核参数:
==ulimit -n 查看当前环境的参数. 如果大于或者等于65536 就可以了==
#! 或者修改为: (elasticsearch启动不能用root 所以其他用户的环境也要大于65536)

cat /etc/security/limits.conf

soft    nproc   65536
hard    nproc   65536
soft    nofile  65536
hard    nofile  65536

cat /etc/sysctl.conf
vm.max_map_count= 262144

sysctl -p ###查看参数

修改ulimit遇到的问题. 以上值都修改了,也重启了,就是不生效.
==! {查看/etc/Profile 脚本里面有个 " ulimit -n " 把他的值修改为65536}==
其次要注意的就是权限问题. 最好把elasticsearch整个目录设置为启动的普通用户为用户主目录.
用alex 启动elasticsearch服务

su - alex
./usr/local/elasticsearch-5.2.2/bin/elasticsearch & netstart -antupl |grep :9200 curl localhost:9200

filebeat安装

filebeat下载地址:

wget https://www.elastic.co/downloads/beats/filebeat

配置文件是filebeat.yml

vim filebeat.yml
host ["serverIP:9200"]
index "myIP-%{+yyyy.MM.dd}"

** filebeat 可以指定多配置启动.

kibana 安装文档:

wge https://artifacts.elastic.co/downloads/kibana/kibana-6.0.1-linux-x86_64.tar.gz
tar xf kibana-6.0.1-linux-x86_64.tar.gz

配置文件修改如下:

cat kibana.yml |grep -v "#" |grep -v "^$"
server.port: 5000
server.host: "0.0.0.0"
elasticsearch.url: "http://116.62.167.119:9200"

遇到的问题

如果elasticsearch和kibana 是商业版的有账号和密码
filebeat 配置文件中配置如下:

filebeat.prospectors:
- input_type: log
  paths:
    - /data/app_logs/shoot-pay-uat/*.log
output.elasticsearch:
  hosts: ["es-cn-0pp0gy1kt000a0iqg.elasticsearch.aliyuncs.com:9200"]
  username: "elastic"
  password: "Misadmin123"
  index: "shoot-pay-uat-%{+yyyy.MM.dd}"

cerebro

下载地址:
https://github.com/KELiON/cerebro/releases #选择合适版本

解压:
tar xf cerebro-xxx
配置文件为==config/application== 配置如下

secret = "ki:s:[[@=Ag?QI`W2jMwkY:eqvrJ]JqoJyi2axj3ZvOv^/KavOT4ViJSv?6YY4[N"
basePath = "/"
rest.history.size = 50 // defaults to 50 if not specified
data.path = "./cerebro.db"
auth = {
}
hosts = [
  {
    host = "http://118.31.188.238:9200"
    name = "elasticsearch"
  }
]

#

启动脚本在/bin/cerebro && 启动:

nohup ./usr/local/cerebro/bin/cerebro &

#
用浏览器访问:
cerebro_server-ip:9000 #9000为默认端口

原文地址:http://blog.51cto.com/11804562/2103845

时间: 2024-10-09 17:45:09

ELK安装文档 + 索引可视化的相关文章

《如何安装和配置打印服务器》系列技术文档索引-20181011

<如何安装和配置打印服务器>系列技术文档索引-20181011 ?Lander Zhang 专注外企按需IT基础架构运维服务,IT Helpdesk 实战培训践行者http://blog.51cto.com/lander 2018/10/12 7:30 1.如何安装和配置打印服务器之一:安装打印服务器请添加链接描述公司各部门都有各自的网络打印机,那最终用户如何最方便地安装需要的打印机呢?我们先从安装打印服务器开始.... 2.如何安装和配置打印服务器之二:设置打印机打印权限并通过UNC方式添加

环境安装文档(for Ubuntu)

这个文档的目标是:各位小伙伴通过这个文档,可以在一台全新的 Ubuntu 电脑上搭建平常开发使用的环境,主要包含 Node.js, git 和 编辑器部分. 这是针对 Ubuntu 系统的安装文档,Windows 文档点击这里. git 和 git GUI git 是一个版本控制工具,我们使用 coding.net 存放 git 的远程仓库. git 已有 git? 在 bash 中查看 git 版本,建议使用 2.10 以后的 git (Windows). $ git --version 安装

mysql安装文档(Linux 官网yum安装版)

mysql安装文档(官网yum安装Linx版) 创建时间:2016-12-20 文档目的 在Linux下安装mysql服务端应用. (注:本文档采用yum库安装方式安装mysql应用,本文假设您的系统中没有安装第三方发布的rpm包,如果您已经安装了第三方rpm包,请参考文中"替换第三方发布mysql"的内容) 系统环境 操作系统:centos 7 (3.10.0-229.el7.x86_64) mysql版本:mysql57-community-release-el7-9.noarch

ORACLE LINUX 6.3 + ORACLE 11.2.0.3 RAC + VBOX安装文档

ORACLE LINUX 6.3 + ORACLE 11.2.0.3 RAC + VBOX安装文档 2015-10-21 12:51 525人阅读 评论(0) 收藏 举报  分类: Oracle RAC 版权声明:本文为博主原创文章,未经博主允许不得转载. VBOX + Oracle Linux 6U3 + ORACLE 11.2.0.3.0 RAC 安装 环境: 虚拟机          VIRTUAL BOX OS                ORACLE LINUX 6.3_X86_64

Oracle、pl/sql安装文档

oracle10g.pl/sql安装文档 Oracle在各种管理系统项目中是不可或缺到,pl/sql也是非常好用的图形化管理工具.初学者(我自己就是证明了)经常在这两个工具上消磨宝贵到时间.趁今天有闲,整理下oracle和plsql到安装方式(后附oracle和plsql到安装包),以备后用及方便他人.个人笔记本是win7 64位,实测win8可用. 下载并解压oracle安装包如下图: 右键单击setup.exe,在菜单中选择兼容性疑难解答,弹出新窗口. 选择尝试建议到设置,在跳转到页面中启动

OEM12C安装文档

OEM12C安装文档 环境:OEM12.1.0.5 操作系统:CENTOS6.7 ORACLE:11.2.0.3 1.硬件要求 2.软件包要求 ----RHEL6.X OEL6.X版本 for oms make-3.81 binutils-2.20.51.0.2-5.11 gcc-4.4.4 libaio-0.3.107 glibc-common-2.12-1 libstdc++-4.4.4 libXtst-1.0.99.2-3.el6.x86_ 64.rpm sysstat-9.0.4 gli

基于adt bundle for windows-的AndroidOpenCV安装文档说明

基于adt bundle for windows-的AndroidOpenCV安装文档说明 任薛纪 说明:本文档是基于快速搭建android开发平台adt bundle for windows软件的AndroidOpenCV运行环境搭建,主要参考OpenCV官方文档: http://docs.opencv.org/trunk/doc/tutorials/introduction/android_binary_package/android_dev_intro.html,如手动安装eclipse.

Visual studio 2010不能安装文档

问题:visual studio 2010重新安装过程中不能安装文档,显示无权限获得文档: 点击ok后,冲本地磁盘或者联网安装帮助文档,会出现灰色不可选的安装路径 解决: 通过修改Helplibmanager的配置文件HelpLibManager.exe.config,该文件在目录系统盘下C:\Program Files\Microsoft Help Viewer\v1.0 编辑配置文件 HelpLibManager.exe.config, 修改<add key="FirstTimeRun

_00024 尼娜抹微笑伊拉克_云计算ClouderaManager以及CHD5.1.0群集部署安装文档V1.0

笔者博文:妳那伊抹微笑 itdog8 地址链接 : http://www.itdog8.com(个人链接) 博客地址:http://blog.csdn.net/u012185296 博文标题:_00024 妳那伊抹微笑_云计算之ClouderaManager以及CHD5.1.0集群部署安装文档V1.0 个性签名:世界上最遥远的距离不是天涯,也不是海角.而是我站在妳的面前.妳却感觉不到我的存在 技术方向:Flume+Kafka+Storm+Redis/Hbase+Hadoop+Hive+Mahou