GoAccess日志分析

1.GoAccess日志分析

1.1简介

GoAccess是一个开源的实时网络日志分析器和交互式查看器,可在Linux终端或浏览器中运行。

1.2 软件功能

 – 为系统管理员提供可视化的服务器报告

-为系统管理员提供快速且有价值的HTTP统计

1.3软件特性

– 快速、实时(由于基于C语言编写,可在毫秒或秒内完成更新)

– 只依赖于ncurses

– 兼容几乎所有的Web日志格式(Apache、Nginx、Amazon S3、Elastic Load Balancing、CloudFront等)

– 只需要配置日志格式即可运行

– 美丽的终端和引导仪表板(可自定义色彩方案)

2、话不多说开始安装

1)环境基于Docker容器运行7U机器

2.1 安装GoAccess

$ wget https://tar.goaccess.io/goaccess-1.3.tar.gz

$ tar -xzvf goaccess-1.3.tar.gz $ cd goaccess-1.3/

$ ./configure --enable-utf8 --enable-geoip=legacy

$ make && make install

 

 FAQ:

根据错误提示解决依赖关系:

 configure: error:

*** Missing development files for the GeoIP library

安装需要的软件包:

 yum install -y GeoIP-devel

 再次运行预编译命令并根据错误提示解决依赖关系:

 configure: error:

*** Missing development libraries for ncursesw

安装需要的软件包:

 yum install -y ncurses-devel

 

2.2使用GoAccess分析日志

 PS:本次分析日志为tsar.data 标准输出日志

日志格式选为 NCSA Combined Log Format

 

回车即可看到当前日志分析结果

控制台下的操作方法:

F1 主帮助页面

F5 重绘主窗口

q 退出

1-15 跳转到对应的模块编号

o 打开当前模块的详细试图

j 当前模块向下滚动

k 当前模块向上滚动

s 对模块排序

ff1 主帮助页面asdg

2.3 生成HTML页面

 

查看当前配置

[[email protected] /var/log]

#egrep -v "^#|^$" goaccess.conf

config-dialog false

hl-header true

json-pretty-print false

no-color false

no-column-names false

no-csv-summary false

no-progress false

no-tab-scroll false

with-mouse false

agent-list false

with-output-resolver false

http-method yes

http-protocol yes

no-query-string false

no-term-resolver false

444-as-404 false

4xx-to-unique-count false

all-static-files false

double-decode false

ignore-crawlers false

crawlers-only false

ignore-panel REFERRERS

ignore-panel KEYPHRASES

real-os true

static-file .css

static-file .js

static-file .jpg

static-file .png

static-file .gif

static-file .ico

static-file .jpeg

static-file .pdf

static-file .csv

static-file .mpeg

static-file .mpg

static-file .swf

static-file .woff

static-file .woff2

static-file .xls

static-file .xlsx

static-file .doc

static-file .docx

static-file .ppt

static-file .pptx

static-file .txt

static-file .zip

static-file .ogg

static-file .mp3

static-file .mp4

static-file .exe

static-file .iso

static-file .gz

static-file .rar

static-file .svg

static-file .bmp

static-file .tar

static-file .tgz

static-file .tiff

static-file .tif

static-file .ttf

static-file .flv

 

 由上可见默认配置中并无时间参数,需要在配置中添加时间参数。

[[email protected]]

#cat >>goaccess.conf<<EOF

> time-format %H:%M:%S

> date-format %d/%b/%Y

> #NCSA Combined Log Format

> log-format %h %^[%d:%t %^] "%r" %s %b "%R""%u"

> EOF

 

[[email protected]]

#cp -a goaccess.conf ../

 

2.4 crontab生成定时任务

在某些场景下,没有这样的实时性要求,可采用 crontab 机制实现定时更新 HTML 报表。

# 每天执行

0 0 1 * * goaccess -a -d -f /data/logs/fanhaobai.com.access.log -p /etc/goaccess.conf -o /data/html/hexo/public/go-access.html 2> /data/logs/go-access.log

 TOP:官方文档:https://goaccess.io/man

2.5 检查生产页面

2.6 GoAccess高级阶段

尽管 GoAccess 很强大,但是它无法制定自定义监控规则,无法满足对站点更细粒度更全面的监控需求。到 2018 年底,另站已经使用 ELK 日志平台 来分析站点的访问情况和流量分析了,效果见 ELK 集中式日志平台。

 

 

原文地址:https://www.cnblogs.com/syf-com/p/10185271.html

时间: 2024-11-03 14:59:12

GoAccess日志分析的相关文章

GoAccess日志分析工具使用文档

----Sevck 2016/3/4 17:24:13 #1软件说明: GoAccess是一款开源.实时,运行在命令行终端下的web日志分析工具.该工具提供快速.多样的HTTP状态统计,可以令管理员不再纠结于统计各类数据,和繁杂的指令以及一大堆管道/正则表达式说byebye.据GoAccess官方的说法:使用AMD Sempron 2.31GHz的CPU+2GB内存,开启GoAccess所有功能,该软件每秒可以处理10万行日志.当然,如果使用的CPU更强劲,拥有更多的内存,GoAccess的表现

Goaccess 日志分析工具

GoAccess 是一款开源的网站日志实时分析工具.GoAccess 的工作方式很容易理解,就是读取和解析 Apache/Nginx/Lighttpd 的访问日志文件 access log,然后以更友好的方式把统计信息显示出来.统计的内容包括:访问概况.动态页面请求.静态页面请求(如图片.样式表.脚本等).访客排名,访客使用的操作系统,访客使用的浏览器,来路域名,404 错误,搜索爬虫,搜索关键词等等. 1.安装组件 #yum groupinstall 'Development Tools'#y

Nginx 日志记录post数据,并使用goaccess进行日志分析

nginx日志默认不会记录post数据 在nginx配置文件的http节 log_format 日志格式标识 [escape=json] 日志格式 比如:日志格式标识设置为main,添加escape=json以便中文正确显示(注意,escape=json 需要 nginx 1.11.8 以上版本才支持),记录post和cookie的请求的相信信息 log_format main escape=json '$remote_addr [$time_local] "$request" $st

使用GoAccess构建简单实时日志分析系统

很早就知道Nginx日志分析工具GoAccess,但之前由于只能静态分析,感觉不太强大.最近发现它能够实时显示报表而且报表也比之前强大很多能做趋势分析.因此果断下载安装.以下是基于CentOS的安装配置步骤. 1.安装 GeoIPsudo yum install geoip geoip-devel 2.安装centos: yum install go access或源码安装$ wget http://tar.goaccess.io/goaccess-1.1.1.tar.gz $ tar -xzv

用GoAccess来分析Nginx日志

首先,需要安装lnmp,已经安装完成,为了测试效果我把我自己的网站放进去可以测试一下.如果不知道怎么安装lnmp的可以参考 用shell脚本一键搭建lnmp环境实战  下面测试一下我搭建的效果 服务已经重启,那就测试一下我的网站能不能正常访问,因为是在本地的虚拟机上搭建的,用域名访问所以需要在hosts文件里定义一下,windows的hosts文件路径是:C:\Windows\System32\drivers\etc linux的hosts文件是/etc/hosts 到此网站已经搭建完成,那么我

linux系统centOS6.5使用goaccess工具分析nginx网站日志

网站的log日志分析是每个站长经常做的必备工作,通过网站日志文件我们可以分析各大搜索引擎对网站的爬取情况.最近我的网站做了一些调整,所以想看下日志文件,但因为网站服务器环境是LNMP,所以我就找了一款nginx日志文件分析工具--goaccess.本文我们将一起分享如何在linux(centos)中安装goaccess来分析网站日志. 准备工作: 系统:CentOS6.5(我在本地搭建的虚拟机) web服务:nginx 日志文件:access.log文件(从自己的环境中拷贝具体日志文件) 工具:

nginx日志分析利器GoAccess(转)

面试的时候一定会被面到的问题是:给出web服务器的访问日志,请写一个脚本来统计访问前10的IP有哪些?访问前10的请求有哪些?当你领略过goaccess之后,你就明白,这些问题,除了考验你的脚本背诵记忆能力以外,唯一的作用只有装A或者装C了. 对于nginx日志分析,有很多工具,衡量好坏的标准大概就是三快:安装快,解析快,上手快.满足这三点的goaccess确实是居家必备良药. 话说这个标题其实有点委屈GoAccess了,它是一个日志分析工具,并不只是为nginx使用的.你也可以用它来分析apa

nginx日志分析利器GoAccess

面试的时候一定会被面到的问题是:给出web服务器的访问日志,请写一个脚本来统计访问前10的IP有哪些?访问前10的请求有哪些?当你领略过goaccess之后,你就明白,这些问题,除了考验你的脚本背诵记忆能力以外,唯一的作用只有装A或者装C了. 对于nginx日志分析,有很多工具,衡量好坏的标准大概就是三快:安装快,解析快,上手快.满足这三点的goaccess确实是居家必备良药. 话说这个标题其实有点委屈GoAccess了,它是一个日志分析工具,并不只是为nginx使用的.你也可以用它来分析apa

日志分析工具——goaccess

每天把日志分析结果通过邮件发送给boss和研发,是不是省去自己写脚本的时间了? 下面是goaccess安装步骤,我也是从其他地方抓取的,安装很简单,网上一搜一大把 安装GoAccess RedHat或centos,使用yum: yum install goaccess GoAccess有两种使用方法,一种是直接在控制台显示和操作. 当你要立马分析出今天早上10点到12点的IP访问情况的时候,直接在控制台敲命令是最快的. 另外一种就是生成html文件或者数据文件. 如果你希望每天管理的服务器集群能