连接postgres特别消耗cpu资源而引发的PostgreSQL性能优化考虑

由于是开发阶段,所以并没有配置postgres的参数,都是使用安装时的默认配置,
以前运行也不见得有什么不正常,可是前几天我的cpu资源占用突然升高.
查看进程,发现有一个postgres的进程占用CPU都是80%以上,而且居高不下;

刚开始以为是配置上需要修改,但事实上,默认配置基本上是很优化的,而且是开发阶段,数据量也并不大。
后来通过分析,得出结论,解决问题应该从以下几个方面来逐一考虑:

1,SQL查询方面
检查数据检索的索引是否建立,凡是需要查找的字段尽量建立索引,甚至是联合索引;
创建索引,包括表达式和部分索引;
使用COPY语句代替多个Insert语句;
将多个SQL语句组成一个事务以减少提交事务的开销;
从一个索引中提取多条记录时使用CLUSTER;
从一个查询结果中取出部分记录时使用LIMIT;
使用预编译式查询(Prepared Query);
使用ANALYZE以保持精确的优化统计;
定期使用 VACUUM 或 pg_autovacuum
进行大量数据更改时先删除索引(然后重建索引)
2,程序经验方面
检查程序,是否使用了连接池,如果没有使用,尽快使用吧;
继续检查程序,连接使用后,是否交还给了连接池;
3,服务器参数配置
配置文件postgres.conf中的很多设置都会影响性能,
shared_buffers:这是最重要的参数,postgresql通过shared_buffers和内核/磁盘打交道。
因此应该尽量大,让更多的数据缓存在shared_buffers中,通常设置为实际RAM的10%是合理的,比如50000(400M)
work_mem:在pgsql 8.0之前叫做sort_mem。postgresql在执行排序操作时,
会根据work_mem的大小决定是否将一个大的结果集拆分为几个小的和work_mem查不多大小的临时文件。
显然拆分的结果是降低了排序的速度。因此增加work_mem有助于提高排序的速度。通常设置为实际RAM的2%-4%,根据需要排序结果集的大小而定,比如81920(80M)
effective_cache_size:是postgresql能够使用的最大缓存,
这个数字对于独立的pgsql服务器而言应该足够大,比如4G的内存,可以设置为3.5G(437500)
maintence_work_mem:这里定义的内存只是在CREATE INDEX, VACUUM等时用到,因此用到的频率不高,但是往往这些指令消耗比较多的资源,
因此应该尽快让这些指令快速执行完毕:给maintence_work_mem大的内存,比如512M(524288)
max_connections:通常,max_connections的目的是防止max_connections * work_mem超出了实际内存大小。
比如,如果将work_mem设置为实际内存的2%大小,则在极端情况下,如果有50个查询都有排序要求,而且都使用2%的内存,则会导致swap的产生,系统性能就会大大降低。
当然,如果有4G的内存,同时出现50个如此大的查询的几率应该是很小的。不过,要清楚max_connections和work_mem的关系。
有关参数的解释可见: http://www.varlena.com/varlena/GeneralBits/Tidbits/annotated_conf_e.html 和 http://www.varlena.com/varlena/GeneralBits/Tidbits/perf.html。
4,硬件的选择
由于计算机硬件大多数是兼容的,人们总是倾向于相信所有计算机硬件质量也是相同的。
事实上不是, ECC RAM(带奇偶校验的内存),SCSI (硬盘)和优质的主板比一些便宜货要更加可靠且具有更好的性能。
PostgreSQL几乎可以运行在任何硬件上,但如果可靠性和性能对你的系统很重要,你就需要全面的研究一下你的硬件配置了。
计算机硬件对性能的影响可浏览 http://candle.pha.pa.us/main/writings/pgsql/hw_performance/index.html 和 http://www.powerpostgresql.com/PerfList/。
5,为什么在试图连接时收到“Sorry, too many clients”消息?
这表示你已达到缺省100个并发后台进程数的限制,
你需要通过修改postgresql.conf文件中的max_connections值来 增加postmaster的后台并发处理数,修改后需重新启动postmaster。

时间: 2024-08-26 12:11:58

连接postgres特别消耗cpu资源而引发的PostgreSQL性能优化考虑的相关文章

脚本应用之十五: 消耗cpu资源

作用:控制消耗cpu的百分比,配合某些测试项目使用 实现:设计包含死循环的函数,放入后台运行,通过控制个数实现控制消耗CPU资源的百分比 演示: 直接输入进程个数, 通过top指令查看cpu消耗百分比,不输入数字直接回车则表示清除所有后台函数 代码专区: #/bin/bash   #  LY #  ------------------ #  Copyright 2016.04.17 LingYi ([email protected]) QQ:1519952564 cpu_(){  while :

mysql分解连接的总结(来自于高性能MySQL以及自己网站性能优化)

许多高性能的站点都用了"分解连接"技术,也就是把单个多表连接查询改成多个但表查询,然后在程序中合并数据,比如: select a.*,b.* from A a join B b on a.id = b.id 可以替换为: select a.* from A; select b.* from B; 然后再把数据通过程序合并. 可能有些人认为这太浪费了,把一个查询语句变成两条查询语句或者更多的查询语句了,如果哪位猿类这样想了,那你就应该继续往下看了. 将连接查询重构为多表查询,总体有以下性

SqlServer优化:当数据量查询不是特别多,但数据库服务器的CPU资源一直100%时,如何优化?

最近和同事处理一个小程序,数据量不是特别大,某表的的数据记录:7000W条记录左右,但是从改别执行一次查询时,却发现查询速度也不快,而且最明显的问题就是CPU100%. sql语句: select gridid,lng,lat from finger_lib_server where lng>min_lng and lng<max_lng and lat>min_lat and lat<max_lat; 发现问题,使用下边的语句查看数据库是否有锁存在: --查看被锁表: selec

一个表缺失索引发的CPU资源瓶颈案例

背景 近几日,公司的应用团队反应业务系统突然变慢了,之前是一直比较正常.后与业务部门沟通了解详情,得知最近生意比较好,同时也在做大的促销活动,使得业务数据处理的量出现较大的增长,最终系统在处理时出现瓶颈. 分析和追踪问题的根源 首先:通过工具追踪服务器的性能,主要定位什么资源.在什么时候出现瓶颈. 这样的工具很多,可以网上搜搜工具和使用方法如PerMon和PAL等,最终得到结果是在业务高峰期(中午12点到23点前)如下图,CPU资源使用率一直很高,初步可以判断是CPU资源紧张.那真的“资源”不够

逻辑读为何消耗CPU?

在数据库系统中,经常会看到这个说法:"逻辑读很消耗CPU",然后开始把这句话当作一个定理来使用.但是为什么"同样是读,为什么逻辑读会使用那么多CPU?" 查了一些资料,配合自己的理解,有下面几点体会:1. 逻辑读是从内存中的读,逻辑读不消耗IO资源,而消耗CPU资源.性能差的SQL需要扫描很多内存中的数据块,会引起很多的逻辑读,进而导致CPU使用率上升.至于多少逻辑读会消耗多少CPU时间这个定量的问题,应该属于更深层次的问题,尚不太明白,有机会继续深入. 2. 降低

sql server 性能调优之 CPU消耗最大资源分析1 (自sqlserver服务启动以后)

原文:sql server 性能调优之 CPU消耗最大资源分析1 (自sqlserver服务启动以后) 一. 概述 上次在介绍性能调优中讲到了I/O的开销查看及维护,这次介绍CPU的开销及维护, 在调优方面是可以从多个维度去发现问题如I/O,CPU,  内存,锁等,不管从哪个维度去解决,都能达到调优的效果,因为sql server系统作为一个整体性,它都是紧密相连的,例如:解决了sql语句中I/O开销较多的问题,那对应的CPU开销也会减少,反之解决了CPU开销最多的,那对应I/O开销也会减少.解

php-cgi进程占用cpu资源过大原因分析及解决

一,开启日志记录,为以后排查做准备 1.1 开启php-fpm.conf的错误日志和慢执行日志和常规日志, 采样一个小时,就可以根据这些日志的内容进行分析问题error_log = /tmp/error.log //错误日志access.log = /tmp/access.$pool.log //常规日志,记录每次访问时间,记录不同参数,以防止恶意攻击,后面会详细解析access.format = "%R – %u %t \"%m %r%Q%q\" %s %f %{mili}

android系统cpu资源相关查询

android系统cpu资源相关查询 我们都知道android是基于linux系统内核的,在linux系统中我们查看系统资源消耗情况,一个可以直接通过命令行的top命令来看,里面有cpu具体的使用情况,当然在android系统上也还是保留了的.top还是很有用,那在android应用上怎么表现出来呢? 在[设置]应用中,在开发者选项里面就有一项现成的看cpu使用情况的,具体情况的显示是显示在ui的系统层,而不是activities,是始终高于activities的,保障在任何应用界面里都可以显示

用 cgroups 管理 cpu 资源

这回说说怎样通过 cgroups 来管理 cpu 资源.先说控制进程的 cpu 使用.在一个机器上运行多个可能消耗大量资源的程序时,我们不希望出现某个程序占据了所有的资源,导致其他程序无法正常运行,或者造成系统假死无法维护.这时候用 cgroups 就可以很好地控制进程的资源占用.这里单说 cpu 资源. cgroups 里,可以用 cpu.cfs_period_us 和 cpu.cfs_quota_us 来限制该组中的所有进程在单位时间里可以使用的 cpu 时间.这里的 cfs 是完全公平调度