一、日志介绍
- 日志:
历史事件:时间,地点,人物,事件
日志级别:事件的关键性程度,Loglevel - 系统日志服务:
- sysklogd :CentOS 5之前版本
syslogd: system application 记录应用日志
klogd: linux kernel 记录内核日志
事件记录格式:
日期时间 主机 进程[pid] 事件内容
C/S架构:通过TCP或UDP协议的服务完成日志记录传送,将分布在不同主机的日志实现集中管理
1、rsyslog
- rsyslog特性:CentOS6和7
多线程
UDP, TCP, SSL, TLS, RELP
MySQL, PGSQL, Oracle实现日志存储
强大的过滤器,可实现过滤记录日志信息中任意部分
自定义输出格式 - ELK:elasticsearch, logstash, kibana
非关系型分布式数据库
基于apache软件基金会jakarta项目组的项目lucene
Elasticsearch是个开源分布式搜索引擎
Logstash对日志进行收集、分析,并将其存储供以后使用
kibana 可以提供的日志分析友好的 Web 界面
[[email protected]~]#rpm -qi rsyslog Name : rsyslog Relocations: (not relocatable) Version : 5.8.10 Vendor: CentOS Release : 10.el6_6 Build Date: Wed 17 Dec 2014 05:52:43 PM CST Install Date: Tue 23 Jan 2018 03:21:08 PM CST Build Host: c6b8.bsys.dev.centos.org Group : System Environment/Daemons Source RPM: rsyslog-5.8.10-10.el6_6.src.rpm Size : 2178098 License: (GPLv3+ and ASL 2.0) Signature : RSA/SHA1, Wed 17 Dec 2014 08:12:36 PM CST, Key ID 0946fca2c105b9de Packager : CentOS BuildSystem <http://bugs.centos.org> URL : http://www.rsyslog.com/ Summary : Enhanced system logging and kernel message trapping daemons Description : Rsyslog is an enhanced, multi-threaded syslog daemon. It supports MySQL, syslog/TCP, RFC 3195, permitted sender lists, filtering on any message part, and fine grain output format control. It is compatible with stock sysklogd and can be used as a drop-in replacement. Rsyslog is simple to set up, with advanced features suitable for enterprise-class, encryption-protected syslog relay chains. #Rsyslog是一个增强的多线程syslog守护进程。 它支持MySQL,syslog / TCP,RFC 3195,允许的发件人列表,对任何消息部分的过滤以及细粒度输出格式控制。 它与stock sysklogd兼容,可以用作替代品。 Rsyslog设置简单,具有适用于企业级加密保护系统日志中继链路的高级功能。
2、rsyslog介绍
- 术语,参见man logger
facility:设施,从功能或程序上对日志进行归类
auth(验证), authpriv(验证授权), cron(计划任务), daemon(守护进程), ftp, kern, lpr(打印), mail, news, security(auth)(安全), user(用户), uucp, local0-local7(自定义), syslog(系统日志)
Priority 优先级别,从低到高排序
debug(调试), info(重要事件), notice(重要通知), warn(警报), err(错误), crit(临界), alert, emerg(系统不可用)
参看帮助: man 3 syslog - 程序包:rsyslog
- 主程序:/usr/sbin/rsyslogd
- CentOS 6:service rsyslog {start|stop|restart|status}
- CentOS 7:/usr/lib/systemd/system/rsyslog.service
- 配置文件:/etc/rsyslog.conf,/etc/rsyslog.d/*.conf
- 库文件: /lib64/rsyslog/*.so
- 配置文件格式:由三部分组成
MODULES: 相关模块配置
GLOBAL DIRECTIVES: 全局配置
RULES: 日志记录相关的规则配置 - RULES配置格式: facility.priority; facility.priority… target
- facility(设施):
*: 所有的facility
facility1,facility2,facility3,...:指定的facility列表 - priority(优先界别):
*: 所有级别
none:没有级别,即不记录
PRIORITY:指定级别(含)以上的所有级别
=PRIORITY:仅记录指定级别的日志信息 - target:
文件路径:通常在/var/log/,文件路径前的-表示异步写入
用户:将日志事件通知给指定的用户,* 表示登录的所有用户
日志服务器:@host,把日志送往至指定的远程服务器记录
管道: | COMMAND,转发给其它命令处理
[[email protected]~]#logger -p local7.info "This is a test log" [[email protected]~]#cat /var/log/boot.log Jan 29 14:08:47 Centos6-server root: This is a test log
3、启用网络日志服务
- 通常的日志格式:
事件产生的日期时间 主机 进程(pid):事件内容
如: /var/log/messages,cron,secure等 - 配置rsyslog成为日志服务器
#### MODULES ####
# Provides UDP syslog reception
$ModLoad imudp
$UDPServerRun 514# Provides TCP syslog reception
$ModLoad imtcp
$InputTCPServerRun 514
#基于UDP远程管理日志 [[email protected]~]#ps aux | grep rsyslog root 1585 0.0 0.1 255424 1292 ? Sl Jan27 0:00 /sbin/rsyslogd -i /var/run/syslogd.pid -c 5 root 56057 0.0 0.0 103336 848 pts/0 S+ 14:11 0:00 grep rsyslog [[email protected]~]#vim /etc/rsyslog.conf # Provides UDP syslog reception $ModLoad imudp $UDPServerRun 514 [[email protected]~]#ss -nul State Recv-Q Send-Q Local Address:Port Peer Address:Port [[email protected]~]#service rsyslog restart Shutting down system logger: [ OK ] Starting system logger: [ OK ] [[email protected]~]#ss -nul State Recv-Q Send-Q Local Address:Port Peer Address:Port UNCONN 0 0 *:514 *:* UNCONN 0 0 :::514 :::* [[email protected]~]#vim /etc/rsyslog.conf *.info;mail.none;authpriv.none;cron.none @192.168.1.100 [[email protected]~]#systemctl restart rsyslog [[email protected]~]#logger "This is 2st test log" [[email protected]~]#tail -f /var/log/messages Feb 4 19:31:44 centos7mini root: This is 2st test log #基于TCP协议管理日志 [[email protected]~]#vim /etc/rsyslog.conf # Provides TCP syslog reception $ModLoad imtcp $InputTCPServerRun 514 [[email protected]~]#service rsyslog restart Shutting down system logger: [ OK ] Starting system logger: [ OK ] [[email protected]~]#ss -ntl State Recv-Q Send-Q Local Address:Port Peer Address:Port LISTEN 0 25 :::514 :::* LISTEN 0 25 *:514 *:* [[email protected]~]#vim /etc/rsyslog.conf *.info;mail.none;authpriv.none;cron.none @@192.168.1.100 [[email protected]~]#systemctl restart rsyslog [[email protected]~]#logger "This is 3st test log" [[email protected]~]#tail -f /var/log/messages Feb 4 19:36:43 centos7mini root: This is 3st test log
4、其它日志
- 其它的日志文件
- /var/log/secure(很重要):系统安装日志,文本格式,应周期性分析(用户登录、su切换等)
- /var/log/btmp:当前系统上,用户的失败尝试登录相关的日志信息,二进制格式,lastb命令进行查看
- /var/log/wtmp:当前系统上,用户正常登录系统的相关日志信息,二进制格式,last命令可以查看
- /var/log/lastlog:每一个用户最近一次的登录信息,二进制格式,lastlog命令可以查看
- /var/log/dmesg:系统引导过程中的日志信息,文本格式
文本查看工具查看
专用命令dmesg查看 - /var/log/messages :系统中大部分的信息
- /var/log/anaconda : anaconda的日志
[[email protected]~]#cat /var/log/secure [[email protected]~]#lastb [[email protected]~]#uptime #查看开机时间命令 14:30:03 up 1 day, 19:30, 2 users, load average: 0.00, 0.00, 0.00 [[email protected]~]#cat /etc/logrotate.d/syslog #查看日志滚动配置 /var/log/cron /var/log/maillog /var/log/messages /var/log/secure /var/log/spooler { sharedscripts postrotate /bin/kill -HUP `cat /var/run/syslogd.pid 2> /dev/null` 2> /dev/null || true endscript } [[email protected]~]#lastlog Username Port From Latest root pts/1 192.168.1.101 Mon Jan 29 12:58:13 +0800 2018 L **Never logged in** [[email protected]~]#cat /var/log/dmesg | wc -l 1749 [[email protected]~]#dmesg | wc -l 1838
二、日志管理journalctl
- Systemd 统一管理所有 Unit 的启动日志。
带来的好处就是,可以只用journalctl一个命令,查看所有日志(内核日志和应用日志)。
日志的配置文件/etc/systemd/journald.conf
- journalctl用法
- 查看所有日志(默认情况下 ,只保存本次启动的日志)
journalctl - 查看内核日志(不显示应用日志)
journalctl -k - 查看系统本次启动的日志
journalctl -b
journalctl -b -0 - 查看上一次启动的日志(需更改设置)
journalctl -b -1 - 查看指定时间的日志
journalctl --since="2017-10-30 18:10:30"
journalctl --since "20 min ago"
journalctl --since yesterday
journalctl --since "2017-01-10" --until "2017-01-11 03:00"
journalctl --since 09:00 --until "1 hour ago" - 显示尾部的最新10行日志
journalctl -n - 显示尾部指定行数的日志
journalctl -n 20 - 实时滚动显示最新日志
journalctl -f - 查看指定服务的日志
journalctl /usr/lib/systemd/systemd - 查看指定进程的日志
journalctl _PID=1 - 查看某个路径的脚本的日志
journalctl /usr/bin/bash - 查看指定用户的日志
journalctl _UID=33 --since today - 查看某个 Unit 的日志
journalctl -u nginx.service
journalctl -u nginx.service --since today - 实时滚动显示某个 Unit 的最新日志
journalctl -u nginx.service -f - 合并显示多个 Unit 的日志
journalctl -u nginx.service -u php-fpm.service --since today - 查看指定优先级(及其以上级别)的日志,共有8级
0: emerg
1: alert
2: crit
3: err
4: warning
5: notice
6: info
7: debug
journalctl -p err -b - 日志默认分页输出,--no-pager 改为正常的标准输出
journalctl --no-pager - 以 JSON 格式(单行)输出
journalctl -b -u nginx.service -o json - 以 JSON 格式(多行)输出,可读性更好
journalctl -b -u nginx.serviceqq -o json-pretty - 显示日志占据的硬盘空间
journalctl --disk-usage - 指定日志文件占据的最大空间
journalctl --vacuum-size=1G - 指定日志文件保存多久
journalctl --vacuum-time=1years
三、rsyslog将日志记录于MySQL中
- (1) 准备MySQL Server
- (2) 在mysql server上授权rsyslog能连接至当前服务器
mysql> GRANT ALL ON Syslog.* TO 'USER'@'HOST' IDENTIFIED BY 'PASSWORD'; - (3) 在rsyslog服务器上安装mysql模块相关的程序包
yum install rsyslog-mysql - (4) 为rsyslog创建数据库及表;
mysql -uUSERNAME -hHOST -pPASSWORD < /usr/share/doc/rsyslog-7.4.7/mysql-createDB.sql - (5) 配置rsyslog将日志保存到mysql中
#### MODULES ####
$ModLoad ommysql
#### RULES ####
facility.priority :ommysql:DBHOST,DBNAME,DBUSER, PASSWORD
#实验 [[email protected]~]#yum install rsyslog-mysql.x86_64 #先装包 [[email protected]~]#rpm -ql rsyslog-mysql /lib64/rsyslog/ommysql.so /usr/share/doc/rsyslog-mysql-5.8.10 /usr/share/doc/rsyslog-mysql-5.8.10/createDB.sql [[email protected]~]#scp /usr/share/doc/rsyslog-mysql-5.8.10/createDB.sql 192.168.1.101: [[email protected]~]#mysql MariaDB [(none)]> source createDB.sql Query OK, 1 row affected (0.01 sec) MariaDB [Syslog]> show databases; +--------------------+ | Database | +--------------------+ | Syslog | | blogdb | | information_schema | | mysql | | performance_schema | | test | +--------------------+ 6 rows in set (0.01 sec) MariaDB [Syslog]> show tables; +------------------------+ | Tables_in_Syslog | +------------------------+ | SystemEvents | | SystemEventsProperties | +------------------------+ 2 rows in set (0.00 sec) MariaDB [Syslog]> grant all on Syslog.* to [email protected]'192.168.1.100' identified by 'centos'; Query OK, 0 rows affected (0.01 sec) [[email protected]~]#vim /etc/rsyslog.conf #### MODULES #### $ModLoad ommysql *.info;mail.none;authpriv.none;cron.none :mmysql:92.168.1.101,Syslog,syslog,centos [[email protected]~]#service rsyslog restart Shutting down system logger: [ OK ] Starting system logger: [ OK ] MariaDB [Syslog]> select * from SystemEvents\G; *************************** 9. row *************************** ID: 9 CustomerID: NULL ReceivedAt: 2018-02-04 21:18:42 DeviceReportedTime: 2018-02-04 21:18:42 Facility: 1 Priority: 5 FromHost: localhost Message: Hello mysql
四、通过loganalyzer展示数据库中的日志
- (1) 在rsyslog服务器上准备amp或nmp组合
yum install httpd php php-mysql php-gd - (2) 安装LogAnalyzer
tar xf loganalyzer-4.1.5.tar.gz
cp -a loganalyzer-4.1.5/src /var/www/html/loganalyzer
cd /var/www/html/loganalyzer
touch config.php
chmod 666 config.php - (3)配置loganalyzer
systemctl start httpd.service
http://HOST/loganalyzer
MySQL Native, Syslog Fields, Monitorware - (4) 安全加强
cd /var/www/html/loganalyzer
chmod 644 config.php
#实验loganalyzer(日志的分析器) [[email protected]~]#service mysqld start [[email protected]~]#ss -ntl State Recv-Q Send-Q Local Address:Port Peer Address:Port LISTEN 0 50 *:3306 *:* [[email protected]~]#yum install httpd php php-mysql php-gd [[email protected]]#tar xvf loganalyzer-4.1.6.tar.gz [[email protected]]#cp -r src/ /app/httpd24/htdocs/log/ [[email protected]]#cd /app/httpd24/htdocs/log/ [[email protected]]#ls admin classes details.php include lang search.php userchange.php asktheoracle.php convert.php export.php index.php login.php statistics.php BitstreamVeraFonts cron favicon.ico install.php reportgenerator.php templates chartgenerator.php css images js reports.php themes [[email protected]]#cat /app/src/loganalyzer-4.1.6/contrib/configure.sh #!/bin/sh touch config.php chmod 666 config.php [[email protected]]#cat /app/src/loganalyzer-4.1.6/contrib/secure.sh #!/bin/sh chmod 644 config.php [[email protected]]#cd - [[email protected]]#bash -x configure.sh [[email protected]]#ll -rw-rw-rw- 1 root root 0 Feb 4 21:44 config.php [[email protected]]#chmod 644 config.php
五、Logrotate日志存储
- logrotate 程序是一个日志文件管理工具。用来把旧的日志文件删除,并创建新的日志文件,称为日志转储或滚动。可以根据日志文件的大小,也可以根据其天数来转储,这个过程一般通过 cron 程序来执行
- 配置文件是 /etc/logrotate.conf
- 主要参数如下
- compress 通过gzip 压缩转储以后的日志
- nocompress 不需要压缩时,用这个参数
- copytruncate 用于还在打开中的日志文件,把当前日志备份并截断
- nocopytruncate 备份日志文件但是不截断
- create mode owner group 转储文件,使用指定的文件模式创建新的日志文件
- nocreate 不建立新的日志文件
- delaycompress 和 compress 一起使用时,转储的日志文件到下一次转储时才压缩
- nodelaycompress 覆盖 delaycompress 选项,转储并压缩
- errors address 专储时的错误信息发送到指定的Email 地址
- ifempty 即使是空文件也转储,是缺省选项。
- notifempty 如果是空文件的话,不转储
- mail address 把转储的日志文件发送到指定的E-mail 地址
- nomail 转储时不发送日志文件
- olddir directory 转储后的日志文件放入指定的目录,必须和当前日志文件在同一个文件系统
- noolddir 转储后的日志文件和当前日志文件放在同一个目录下
- prerotate/endscript 在转储以前需要执行的命令可以放入这个对,这两个关键字必须单独成行
- postrotate/endscript 在转储以后需要执行的命令可以放入这个对,这两个关键字必须单独成行
- daily 指定转储周期为每天
- weekly 指定转储周期为每周
- monthly 指定转储周期为每月
- size 大小 指定日志超过多大时,就执行日志转储
- rotate count 指定日志文件删除之前转储的次数,0 指没有备份,5 指保留5 个备份
- Missingok 如果日志不存在,提示错误
- Nomissingok如果日志不存在,继续下一次日志,不提示错误
[[email protected]~]#rpm -qf /usr/sbin/logrotate logrotate-3.7.8-28.el6.x86_64 [[email protected]~]#rpm -qi logrotate Name : logrotate Relocations: (not relocatable) Version : 3.7.8 Vendor: CentOS Release : 28.el6 Build Date: Wed 22 Mar 2017 05:11:03 AM CST Install Date: Tue 23 Jan 2018 03:20:37 PM CST Build Host: c1bm.rdu2.centos.org Group : System Environment/Base Source RPM: logrotate-3.7.8-28.el6.src.rpm Size : 89448 License: GPL+ Signature : RSA/SHA1, Thu 23 Mar 2017 11:03:45 PM CST, Key ID 0946fca2c105b9de Packager : CentOS BuildSystem <http://bugs.centos.org> URL : https://fedorahosted.org/logrotate/ Summary : Rotates, compresses, removes and mails system log files Description : The logrotate utility is designed to simplify the administration of log files on a system which generates a lot of log files. Logrotate allows for the automatic rotation compression, removal and mailing of log files. Logrotate can be set to handle a log file daily, weekly, monthly or when the log file gets to a certain size. Normally, logrotate runs as a daily cron job. Install the logrotate package if you need a utility to deal with the log files on your system. #logrotate实用程序旨在简化对生成大量日志文件的系统上日志文件的管理。 Logrotate允许自动旋转压缩,删除和邮寄日志文件。 Logrotate可以设置为每天,每周,每月或当日志文件达到一定的大小时处理日志文件。 通常,logrotate作为日常的cron作业运行。如果需要一个实用程序来处理日志文件在您的系统上。 [[email protected]~]#rpm -ql logrotate /etc/cron.daily/logrotate /etc/logrotate.conf /etc/logrotate.d /usr/sbin/logrotate /usr/share/doc/logrotate-3.7.8 /usr/share/doc/logrotate-3.7.8/CHANGES /usr/share/doc/logrotate-3.7.8/COPYING /usr/share/man/man5/logrotate.conf.5.gz /usr/share/man/man8/logrotate.8.gz /var/lib/logrotate.status [[email protected]~]#cat /etc/cron.daily/logrotate #!/bin/sh /usr/sbin/logrotate /etc/logrotate.conf EXITVALUE=$? if [ $EXITVALUE != 0 ]; then /usr/bin/logger -t logrotate "ALERT exited abnormally with [$EXITVALUE]" fi exit 0 [[email protected]~]#cat /etc/logrotate.conf # see "man logrotate" for details # rotate log files weekly weekly # keep 4 weeks worth of backlogs rotate 4 # create new (empty) log files after rotating old ones create # use date as a suffix of the rotated file dateext # uncomment this if you want your log files compressed #compress # RPM packages drop log rotation information into this directory include /etc/logrotate.d # no packages own wtmp and btmp -- we'll rotate them here /var/log/wtmp { monthly create 0664 root utmp minsize 1M rotate 1 } /var/log/btmp { missingok monthly create 0600 root utmp rotate 1 } # system-specific logs may be also be configured here.
原文地址:http://blog.51cto.com/exia00linux/2068776
时间: 2024-10-09 08:54:57