系统性能调优吐血总结分享:转载

概述

Ø 性能优化的思路

首先是较为精准的定位问题,借助于相应的工具包,分析系统性能瓶颈在哪,在根据其性能指标,以及所处于层级决定选择优化的方式方法。在选择优化的方式方法时,大家可以参照以下章节调优方法,架构优化递进,进行正确的,有针对性,有步骤的优化。可能会发现部分指导思想或许有相悖嫌疑,大可不必较真,系统优化的过程本身就是一个不断分离+共享的组合拳,至于具体选择哪种优化方式,根据具体需求来定,但大型应用发展的总体思路是不断分离,在通过索引(非数据库)进行关联起来,

切记:优化一定要对系统进行细致的望闻问切,找到性能问题根源切入点,而不被表象迷糊,对症下药,发现病症所在的医生并不比操作手术刀的医生水平差。本文有工具包一章节,对于需要做优化的人员,需要熟悉,他就是我们诊断所用的CT,例如我们发现内存高了,首先想到不是内存不够用,而是为什么如此消耗内存,用工具看看内存消耗在什么地方,试想之,如在医院,病人告诉医生,他心脏不好,医生就换心脏,那样的话,每个人只要熟练掌握菜刀,都可以做医生

Ø 迭代优化

性能优化未必一次性就能满足的,可能此处瓶颈消失了,系统一旦运转快速后,在其他地方又发现新的性能瓶颈,所以性能优化是一个迭代的工作。直至满足系统需要的性能指标。

Ø 优化的成本

系统性能设计或优化是否可以一步升天,按照最好的分布式架构进行设计和优化呢,单个节点一直也运转及其健康,理论上是可以达到共产国际的,但实际实施层面不可取,必须结合实际的非功能需求进行设计和优化,一则一步到极致的话,系统的成本太过虑庞大,光是性能设计和优化的成本就高于系统本身给客户所提供的价值,也造成研发成本开销过大。二则好像能够架构这样完美系统的人还没诞生。所以一句话也同样适合架构师:有理想而不理想化,废话少扯:具体见法则

调优方法

数据库优化

很多应用,优化DB往往是最直接,最方便,见效最显著的,但并非所有的系统性能都处在瓶颈,或者DB瓶颈解决之后,可能应用层瓶颈,WEB层瓶颈,甚至架构瓶颈都会冒出来了,所以数据库优化十分重要,但往往很多人理解系统优化就是数据库优化,是不全面的。优化角色一般推荐具备较深数据知识的程序员,或者专业的DBA,而不只是会CRUD开发人员

Ø 建立正确的主键,外键,以及索引

Ø 分离原则:读写分离,业务数据分离

a) 分库

b) 分区

c) 分表

d) 分列(将大字段,不常用的隔离到他表,按需查询)

Ø 选择隔离级别:某些对数据一致性要求不高的,可以牺牲部分一致性,降低加锁阻塞

Ø 保证事务简短以及减少不必要的锁机制。

Ø 查询优化规则:

e) 避免表内的相关子查询;

f) 避免排序或为尽可能少的行排序,

g) 做大量数据排序时相关数据放在临时表中

h) .尽量在where后多传查询条件,以减少不必要返回的行

i) .尽量select只需要的字段,以减少不必要返回的列

Ø 分页存储过程:大列表的查询也可以利用分页存储过程达到优化效果。

Ø 利用数据库缓存,视图,临时表等最大程度优化系统,并对存储过程和函数进行必要的优化

Ø 如有需要,可以冗余表中字段,避免联合查询

Ø 如有需要,也可以将表内的大字段分离到单独表中,使其单独查询

Ø 必做多表关联时,尽量过滤不符条件表中数据,减少笛卡尔积计算量

Ø 复杂表表:如实时性要求不高,尽量后台任务计算,避免动态查询

应用层优化

应用层优化侧重于应用层本身的逻辑优化,算法优化,代码优化等,优化的角色可以是熟悉应用的程序员

Ø 优化算法,选择合适高效的算法,降低不必要的递归,循环、多层循环嵌套等计算

Ø 避免申请过多的不必要的内存开销

Ø 降低内存泄露(using,Dispose,弱引用,Finalize)

Ø 使用频率较低的大文件,大对象,大数组等使用完毕后,及时释放

Ø 使用频率较高的大文件,大对象,大数组尽量缓存

Ø 考虑多线程技术

Ø 选择适当的通信方式:长连接,短连接,有以下方式Socket、Remoting、Web Services(Rest,Soap)、WCF、 Named Pipes

Ø 降低应用之间通信次数,例用户认证服务,工作流服务,数据库服务

Ø 降低应用之间传输数据量,不必要传输的不传,少传

Ø 缓存机制:缓存常用的,不易变化的,偶有变化,可以考虑缓存依赖机制

Ø 支持异步计算,降低等待时间

Ø 考虑延迟加载,或者提前加载两种方式

Ø 分离原则:分离业务模块,如分离大I/O模块、分离高耗内存模块,分离高耗宽带模块

Ø 考虑分布式应用,分布式存储,如以上所有仍然搞不定的

Web优化

Web优化偏向于熟悉前端开发的技术人员

Ø 减少http请求

Ø 避免404错误

Ø 在html页面header加入缓存标签

Ø Gzip压缩网页

Ø 减少cookie体积

Ø 使用外部的js和css

Ø 消减js和css

Ø 压缩js

Ø 使用css sprites技术,众多图片合成在一起,通过CSS切分,降低图片传输的频率和数据量

Ø 可以使用静态网页的,避免使用动态网页

架构优化递进

为以示与应用层优化的区别,本文对架构的描述更侧重偏向于物理层面,再次赘述下,涉及变更架构的,需要我们的应用具有良好的拓展性,考验我们的架构师平时的功底,如何刚刚好满足需求以及两三年内业务增量,但并非架构做的越强大,越灵活,越可配置,越易水平拓展就是越好的,其一考虑此应用的投入产出比,换言之,是否值得投入这么多架构设计成本,其二架构设计也是具有一定的时效性的,IT速度太快了,今天的好东西未必是明天的好东西,年轻貌美的姑娘,总有变成老太婆那一天嘛,再者、越灵活的架构,就意味着存在更多的配置项,从某一方面,反而增加了系统的复杂度,最后、很多大型,成熟的应用,也并非一蹴而就,而是通过不断的调整优化,不断变更架构的。圣人也并非天生的,而是不断的总结,提炼,优化,重构

Ø 硬件方面使用高性能的小型机、存储设备。使用极好的网络带宽

Ø 物理分离Web Server和DB Server或者其他服务如:用户认证服务

Ø 缓存

ü 数据缓存机制

ü 页面缓存机制

Ø 物理分离业务模块,单业务单独部署一台服务器

Ø 部署多台Web Server

Ø Web负载均衡-F5

Ø 数据读写分离

Ø 使用消息队列 进行各种应用间进行同步/异步计算

Ø 应用间选择合适的通信方式,通信协议

Ø Web分布式,应用分布式,数据分布式

Ø 分布式的节点使用高性能服务器,小型机群,辅以高速网络带宽等

工具包

Ø 进程管理器,CPU,内存,I/O

Ø 日志:IIS日志,Windows日志,系统本身日志

Ø 使用dotTrace,跟踪方法执行时间,找出速度慢的方法,针对性优化

Ø Sql Profile跟踪SQL耗时情况,针对性优化

Ø HttpWatch跟踪请求耗时,以及发送和收到数据量

Ø Performance Count,使用计数器,统计相关性能指标

Ø CLRProfiler内存泄露检测工具

Ø LoadRunner,压力测试,发现性能瓶颈

其他补充

时间: 2024-10-08 23:51:48

系统性能调优吐血总结分享:转载的相关文章

Linux操作系统性能调优的方法

Linux操作系统性能调优的方法 2013-03-18 15:35 HonestQiao ChinaUnix 字号:T | T Linux是一套免费使用和自由传播的类Unix操作系统,Linux不同的发行版本和不同的内核对各项参数及设置均做了改动,从而使得系统能够获得更好的性能.本文分享了几种技巧对Linux操作系统进行性能的优化. AD:2014WOT全球软件技术峰会北京站 课程视频发布 按照传统,Linux不同的发行版本和不同的内核对各项参数及设置均做了改动,从而使得系统能够获得更好的性能.

LAMP 系统性能调优之内核调优措施

LAMP 系统性能调优之内核调优措施 2011-03-18 11:21 Sean A. Walberg 网络转载 字号:T | T 在对系统的 Apache.PHP 和 MySQL 组件进行调优之前,应该花一些时间确保底层 Linux 组件的运行正常.这点是非常重要的! AD:2014WOT全球软件技术峰会北京站 课程视频发布 LAMP LAMP的一些快速的内核调优措施 大多数 Linux 发布版都定义了适当的缓冲区和其他 Transmission Control Protocol(TCP)参数

LAMP 系统性能调优之网络文件系统调优

LAMP 系统性能调优之网络文件系统调优 2011-03-21 09:35 Sean A. Walberg 网络转载 字号:T | T 使用LAMP系统的用户,都想把自己LAMP性能提高运行的速度提高,那它有一点可以调优: 网络文件系统 ,我们知道网络文件系统是网络共享磁盘的一个系统,我们来进行调优下! AD:2014WOT全球软件技术峰会北京站 课程视频发布 图-LAMP LAMP网络文件系统调优 网络文件系统(NFS)是一种通过网络共享磁盘的方法.NFS 可以帮助确保每个主机具有相同数据的拷

《java系统性能调优》--2.缓存

上一节,简单介绍了如何发现性能瓶颈.从这节开始,我会和大家分享我在项目中做的一些性能调优工作.这个系列没有什么顺序可言,觉得什么重要,就说说什么. 这节,我们聊缓存. 最开始接触缓存这个词,是学习硬件知识的时候,cpu有缓存,而且还分一级缓存,二级缓存,三级缓存.. 记得曾经的曾经老师提了一个很有意思的问题. 问:电脑为什么要有一级缓存,二级缓存--,而且还要有内存,还要有硬盘? 如果你面对这个问题,你怎么回答? 先来看我们的正文,最后再解释. 我们要聊当然不是硬件意义上的缓存,而是应用程序与应

Perf Event :Linux下的系统性能调优工具

Perf Event :Linux下的系统性能调优工具 2011-05-27 10:35 刘 明 IBMDW 字号:T | T Perf Event 是一款随 Linux 内核代码一同发布和维护的性能诊断工具,由内核社区维护和发展.Perf 不仅可以用于应用程序的性能统计分析,也可以应用于内核代码的性能统计和分析.得益于其优秀的体系结构设计,越来越多的新功能被加入 Perf,使其已经成为一个多功能的性能统计工具集 .本文将介绍 Perf 在应用程序开发上的应用. AD:2014WOT全球软件技术

Android系统性能调优工具介绍

经作者授权,发表Tieto某青年牛的一篇<程序员>大作. Android系统性能调优工具介绍 在软件开发过程中,想必很多读者都遇到过系统性能问题.而解决系统性能问题的几个主要步骤是: 测评:对系统进行大量有针对性的测试,以得到合适的测试数据. 分析系统瓶颈:分析测试数据,找到其中的hotspot(热点,即bottleneck). 性能优化:对hotspot相关的代码进行优化. 由上述步骤可知,性能优化的目标对象是hotspot.如果找到的hotspot并非真正的热点,则性能优化的结果必然是事倍

《java系统性能调优》--1.发现瓶颈

性能啊!性能! 之所以想写写性能调优,也是有感于我们的项目,我们采用一些手段使得系统性能上升了一个台阶,总是需要把这点经验沉淀一下.随着工作的深入,关于系统性能的事肯定还有很多,也算是通过这个系列文章做做笔记.优化可能包括应用级别的优化,也可能包括代码级别的优化. "要进行优化,先得找到性能瓶颈!" 忘记是从哪里看到了这句话,但总算切中要害. 但在找性能瓶颈之前,我们总要先对系统性能有一个概念. 如何在不购买新硬件的条件下完成更多的工作?何时才真正需要添加硬件(更多的内存,更快的磁盘.

linux 系统性能调优 相关命令汇总

linux 系统性能调优 相关命令汇总: 1. ps:查看系统中当前有哪些进程在运行 常用命令有ps aux  | grep  -i  mysql http://www.cnblogs.com/peida/archive/2012/12/19/2824418.html 2. top:动态显示各个程序对cpu,内存的占用,以及负载的情况 http://www.cnblogs.com/ggjucheng/archive/2012/01/08/2316399.html 3. io的总体负载,进程的io

Greenplum 分布式数据库开发入门到精通(架构、部署、管理、开发和调优)【课程分享】

Greenplum 分布式数据库开发入门到精通(架构.部署.管理.开发和调优) 对这个课程有兴趣的朋友,可以加我qq2059055336和我联系 课程大纲 1 Greenplum架构 什么是Greenplum Greenplum体系结构 Greenplum高可用性架构 2 安装Greenplum 配置环境 安装并初始化GPDB系统 启停数据库 配置GP系统 3 分布式数据库存储 数据是如何存储的 分布策略 4 GBDB查询处理 查询命令的执行 SQL查询处理机制 并行查询计划 5 角色权限及客户