1.系统日志和事件的挖掘--目的和系统架构

自动化计算包括计算系统的self-configuring(自动配置)、self-healing(自动修复)、self-optimizing(自动优化)、sekf-protection(自动保护),能够帮助企业节约大量系统管理成本。

系统日志是记录生产设备运行过程中产生的记录数据,记录了操作系统运行状态中的各种异常事件,错误以及软件设置的更改。系统日志和事件的挖掘,是实现自动化计算的基础和关键。

一.目的

1.系统问题诊断

problem determination指的是判定系统是否发生故障和故障发生的原因。系统故障的发生通常具有互相依赖性和传递性,找出故障的根源叫做故障根源分析root cause analysis。

2.调试和优化

用于调试的日志大都是软件开发人员主动嵌入日志,生成代码,然后通过生成的日志来分析和揣测bug出现的原因。

优化软件的目标是找出待优化程序的瓶颈所在。要找出瓶颈,常见的手段就是在待优化程序代码中主动嵌入可追踪的日志产生代码。然后优化软件通过分析运行生成的日志,跟踪到待优化程序的每个执行函数消耗的运行时间及内存等参数,从而找到瓶颈。

3.系统安全维护

日志分析常被用于被动攻击的分析和防御中。通过日志数据的分析,可以断定和寻找攻击源,从而找到有效的抵御措施。如DoS攻击

一些病毒防御软件通过分析应用程序调用操作系统的API历史纪录来分析其行为是否正常,从而判定该应用程序是否是virus或者worm.

二.系统架构

主要分为三个部分

1.日志数据的收集和预处理

2.历史日志数据存储

3.日志时间数据的分析和结果展示及应用

包括实时分析和离线分析两种。通常基于数据挖掘的方法都是针对海量历史数据进行离线分析,然后将创建的模型用于实时的日志分析。

时间: 2024-11-06 20:25:39

1.系统日志和事件的挖掘--目的和系统架构的相关文章

Win2003系统日志,时间服务有 86400 秒没有与系统时间同步

Win2003系统日志内有一些来源为:W32Time,事件ID为:36,事件描述为: 时间服务有 86400 秒没有与系统时间同步,因为没有一个时间服务提供程序 提供可用的时间戳.时间服 务将不再是同步的,也不能为其它客户端提供 时间或者更新系统时钟.请查看事件查看器中显示的系统 事件,以确认没有发生更严重的问题. WinXP和Win2003系统的时间同步更新频率默认为7天,对于WinXP系统来说,这个频率比较正常,但 对于要求时间精确性相对高一些的服务器 系统Windows2003来说似乎有点

电脑突然死机,系统日志记录事件ID=6008

刚才正在写代码,在一次保存之后,正要刷新看下效果,电脑突然关机,没有任何提示或延迟.我的笔记本电池是一直插上的,也连接着电源. 重新开机之后,找到系统日志查看.只有这一条错误记录:非正常关机,事件6008.没有其他多余信息表明是哪里出了问题. 电脑买来一个多月,进行的操作有更换了8G内存条,更换32位WIN7到64位WIN7版,自带的激活码激活的. 剩下的就是正常安装软件使用,今天是第一次出现问题,记录一下,虽然不知道原因何在. 想起来了,最近半个月一直没有关机,用完都是直接合上盖子睡眠,难道与

数组练习:各种数组方法的使用&&事件练习:封装兼容性添加、删除事件的函数&&星级评分系统

<!DOCTYPE html PUBLIC "-//W3C//DTD XHTML 1.0 Transitional//EN" "http://www.w3.org/TR/xhtml1/DTD/xhtml1-transitional.dtd"> <html xmlns="http://www.w3.org/1999/xhtml"> <head> <meta http-equiv="Content-

webshell检测(一)

0x01:Webshell简介 ×××者在企业网站时,通常要通过各种方式获取webshell从而获得企业网站的控制权,然后方便进行之后的行为.常见×××方式有:直接上传获取webshell.SQL注入.远程文件包含(RFI).FTP,甚至使用跨站点脚本(XSS)作为×××的一部分,甚至一些比较老旧的方法利用后台数据库备份及恢复获取webshell.数据库压缩等.通用功能包括但不限于shell命令执行.代码执行.数据库枚举和文件管理. 1.Webshell分类 webshell从协议上来看,最开始

基于Bootstrap框架的临床数据管理系统的设计与开发

    基于Bootstrap框架的临床数据管理系统的设计与开发     2018年11月10日 目  录 第一章绪论... 6 1.1 选题背景及其意义... 6 1.2国内外研究现状... 7 1.2.1 临床大数据管理系统发展现状... 7 1.2.2医疗电子表单管理发展现状... 8 1.3研究目标... 9 1.4 研究内容... 10 1.5论文整体结构... 10 第二章相关技术研究... 12 2.1 AngularJS技术简述... 12 2.2 RESTful API +sw

(转)一些经典的计算机书籍

以下列表中的计算机书籍(中文版)来自微博:@程序员的那些事 粉丝的推荐.按推荐次数,从高到低往下排.如果大家还有其他计算机相关的经典书籍推荐,请在评论中留言,或者在这条微博的评论中留言,我们将继续扩充这个列表.1. 算法导论(第2版)2. 代码大全(第2版)3. C++ Primer中文版(第4版)4. 设计模式:可复用面向对象软件的基础5. 浪潮之巅6. Java编程思想(第4版)7. Java核心技术 卷1:基础知识8. Java核心技术 卷2:高级特性9. 人月神话10. Linux内核编

系统架构师秘籍(二)软件架构- 续

上次的文章中,我们简单描述了一下软件架构的概念,接下来我们描述一下软件架构中的具体细节. 软件架构 所谓软件元素,即指组成软件系统的一个最基本的模块.一个软件元素的特性在很大程度上取决于系统的类型,以及你考虑和选取软件元素的背景和关注点.程序Lib库,子系统,可部署的颗粒或者控件(如企业级Java Bean,ActiveX 控件等),可重用的软件产品(如数据库管理系统),全部的应用程序都可以称为一个软件系统的软件元素,它取决于软件系统的构建. 一个软件元素所拥有的特点如下: 一个明确的界定的责任

系统架构:架构体系

每个公司的IT环境,不论大小复杂度,总会有个系统架构层次.有了这个架构体系,那所有的运维事情大体都围绕着这个系统架构上的每个元素及整体关联进行运维保障工作.运维架构从某种角度可以划分为两大阵营: 商业封闭式系统架构(IOE架构):以使用IBM.Oracle.EMC产品为代表的一系列软硬件产品为主要元素的运维系统架构,以及围绕这个架构的人.事.物.流程标准. 开源系统架构(非IOE架构):以使用廉价PC服务器,开源产品技术(而非IOE)为主要元素的运维系统架构,以及围绕这个架构的人.事.物.流程标

Ejabberd源码解析前奏--管理

一.ejabberdctl 使用ejabberdctl命令行管理脚本,你可以执行ejabberdctl命令和一些普通的ejabberd命令(后面会详细解说).这意味着你可以在一个本地或远程ejabberd服务器(通过提供参数 --node NODENAME)上启动.停止以及执行很多其它管理任务. ejabberdctl脚本可在文件 ejabberdctl.cfg 里配置. 这个文件包含每个可配置选项的详细信息. ejabberdctl脚本返回一个数字状态码. 成功显示为0, 错误显示为1, 其它