Linux性能优化实战:如何利用系统缓存优化程序的运行效率?(17)

一、缓存命中率

1、引子

1、我们想利用缓存来提升程序的运行效率,应该怎么评估这个效果呢?

用衡量缓存好坏的指标

2、有没有哪个指标可以衡量缓存使用的好坏呢?

缓存命中率

3、什么是缓存命中率?

所谓缓存命中率,是指直接通过缓存获取数据的请求次数,占所有数据请求次数的百分比。命中率越高,表示使用缓存带来的收益越高,应用程序的性能也就越好

2、查看系统命中情况的工具

1、缓存在高并发系统的应用

实际上、缓存是现在所有高并发系统必须的核心模块,主要作用就是把经常访问的数据(也就是热点数据),提取读入到内存中,这样下次访问时就可以直接从内存读取数据,而不需要过硬盘,从而加快应用程序的响应速度

这些独立的缓存模块通常会提供查询接口,方便我们随时查看缓存的命中率率。不过Linux系统中并没有直接提供这些接口,
所以我这里介绍一下cachestat 和 cachetop它们正是查看系统缓存命中情况的工具。

2、查看系统命中情况的工具

cachestat 提供了整个操作系统缓存的读写命中情况。

cachetop 提供了每个进程的缓存命中情况。

这两个工具都是 bcc 软件包的一部分,它们基于 Linux 内核的 eBPF(extended Berkeley PacketFilters)机制,来跟踪内核中管理的缓存,并输出缓存的使...

3、cachestat和cachetop的使用方法

在 Ubuntu 系统中

sudo apt-key adv --keyserver keyserver.ubuntu.com --recv-keys 4052245BD4284CDD
echo "deb https://repo.iovisor.org/apt/xenial xenial main" | sudo tee /etc/apt/sources.list.d/iovisor.list
sudo apt-get update
sudo apt-get install -y bcc-tools libbcc-examples linux-headers-$(uname -r)

操作完这些步骤,bcc 提供的所有工具就都安装到 /usr/share/bcc/tools 这个目录中了。不过这里提醒你,bcc 软件包默认不会把这些工具配置到系统的的 PATH 路径中,所以你得自己手动配置:

export PATH=$PATH:/usr/share/bcc/tools

cachestat 的运行界面,它以 1 秒的时间间隔,输出了 3 组缓存统计数据:

cachestat 1 3
TOTAL MISSES HITS DIRTIES BUFFERS_MB CACHED_MB
2 0 2 1 17 279
2 0 2 1 17 279
2 0 2 1 17 279 

cachetop

cachetop
11:58:50 Buffers MB: 258 / Cached MB: 347 / Sort: HITS / Order: ascending
PID UID CMD HITS MISSES DIRTIES READ_HIT% WRITE_HIT%
13029 root python 1 0 0 100.0% 0.0%

它的输出跟 top 类似,默认按照缓存的命中次数(HITS)排序,展示了每个进程的缓存命中情况。具体到每一个指标,

这里的 HITS、MISSES 和 DIRTIES ,跟cachestat 里的含义一样,分别代表间隔时间内的缓存命中次数、未命中次数以及新增到缓存中的脏页数。

而 READ_HIT 和 WRITE_HIT ,分别表示读和写的缓存命中率

二、指定文件的缓存大小

除了缓存的命中率外,还有一个指标你可能也会很感兴趣,那就是指定文件在内存中的缓存大小。你可以使用 pcstat这个工具,来查看文件在内存中的缓存大小以及缓存比例。

pcstat 是一个基于 Go 语言开发的工具,所以安装它之前,你首先应该安装 Go 语言,你可以点击这里下载安装。

安装完 Go 语言,再运行下面的命令安装 pcstat:

export GOPATH=~/go
$ export PATH=~/go/bin:$PATH
$ go get golang.org/x/sys/unix
$ go get github.com/tobert/pcstat/pcstat

/bin/ls 这个文件的缓存情况:

pcstat /bin/ls
+---------+----------------+------------+-----------+---------+
| Name | Size (bytes) | Pages | Cached | Percent |
|---------+----------------+------------+-----------+---------|
| /bin/ls | 133792 | 33 | 0 | 000.000 |
+---------+----------------+------------+-----------+---------+

如果你执行一下 ls 命令,再运行相同的命令来查看的话,就会发现 /bin/ls 都在缓存中了:

ls
$ pcstat /bin/ls
+---------+----------------+------------+-----------+---------+
| Name | Size (bytes) | Pages | Cached | Percent |
|---------+----------------+------------+-----------+---------|
| /bin/ls | 133792 | 33 | 33 | 100.000 |
+---------+----------------+------------+-----------+---------+

知道了缓存相应的指标和查看系统缓存的方法后我们就开始施展了

三、案例一

1、然后,使用 dd 命令生成一个临时文件,用于后面的文件读取测试:

# 生成一个 512MB 的临时文件
$ dd if=/dev/sda1 of=file bs=1M count=512
# 清理缓存
$ echo 3 > /proc/sys/vm/drop_caches

2、确认刚刚生成的文件不在缓存中(终端一)

pcstat file
+-------+----------------+------------+-----------+---------+
| Name | Size (bytes) | Pages | Cached | Percent |
|-------+----------------+------------+-----------+---------|
| file | 536870912 | 131072 | 0 | 000.000 |
+-------+----------------+------------+-----------+---------+

3、运行 cachetop 命令

# 每隔 5 秒刷新一次数据
$ cachetop 5

4、查看cachetop界面的缓存命中情况(终端一)

PID UID CMD HITS MISSES DIRTIES READ_HIT% WRITE_HIT%
\.\.\.
3264 root dd 37077 37330 0 49.8% 50.2%

实验二

5、运行dd命令测试文件的读取速度(终端二)

dd if=file of=/dev/null bs=1M
512+0 records in
512+0 records out
536870912 bytes (537 MB, 512 MiB) copied, 16.0509 s, 33.4 MB/s

6、终端一 查看cachetop界面的缓存命中情况(终端一)

10:45:22 Buffers MB: 4 / Cached MB: 719 / Sort: HITS / Order: ascending
PID UID CMD HITS MISSES DIRTIES READ_HIT% WRITE_HIT%
\.\.\.
32642 root dd 131637 0 0 100.0% 0.0%

7、运行dd命令测试文件的读取速度(终端二)

dd if=file of=/dev/null bs=1M
512+0 records in
512+0 records out
536870912 bytes (537 MB, 512 MiB) copied, 0.118415 s, 4.5 GB/s

8、再回到第一个终端查看cachetop 的情况

10:45:22 Buffers MB: 4 / Cached MB: 719 / Sort: HITS / Order: ascending
PID UID CMD HITS MISSES DIRTIES READ_HIT% WRITE_HIT%
\.\.\.
32642 root dd 131637 0 0 100.0% 0.0%

9、回到第二个终端,再次执行 pcstat 查看文件file 的缓存情况:

pcstat file
+-------+----------------+------------+-----------+---------+
| Name | Size (bytes) | Pages | Cached | Percent |
|-------+----------------+------------+-----------+---------|
| file | 536870912 | 131072 | 131072 | 100.000 |
+-------+----------------+------------+-----------+---------+

四、案例二

1、第一个终端运行

# 每隔 5 秒刷新一次数据
$ cachetop 5

2、第二个终端运行案例

docker run --privileged --name=app -itd feisky/app:io-direct

3、确认案例已经正常启动终端二

docker logs app
Reading data from disk /dev/sdb1 with buffer size 33554432
Time used: 0.929935 s to read 33554432 bytes
Time used: 0.949625 s to read 33554432 bytes

4、回到第一个终端,先看看 cachetop 的输出

16:39:18 Buffers MB: 73 / Cached MB: 281 / Sort: HITS / Order: ascending
PID UID CMD HITS MISSES DIRTIES READ_HIT% WRITE_HIT%
21881 root app 1024 0 0 100.0% 0.0%

5、继续在第二个终端

# strace -p $(pgrep app)
strace: Process 4988 attached
restart_syscall(<\.\.\. resuming interrupted nanosleep \.\.\.>) = 0
openat(AT_FDCWD, "/dev/sdb1", O_RDONLY|O_DIRECT) = 4
mmap(NULL, 33558528, PROT_READ|PROT_WRITE, MAP_PRIVATE|MAP_ANONYMOUS, -1, 0) = 0x7f448d240000
read(4, "8vq\213\314\264u\373\4\336K\224\[email protected]\371\1\252\2\262\252q\221\n0\30\225bD\252\[email protected]"\.\.\., 33554432) = 33554432
write(1, "Time used: 0.948897 s to read 33"\.\.\., 45) = 45
close(4) = 0

6、案例应用源代码

int flags = O_RDONLY | O_LARGEFILE | O_DIRECT;
int fd = open(disk, flags, 0755);

7、运行修复后应用

# 删除上述案例应用
$ docker rm -f app

# 运行修复后的应用
$ docker run --privileged --name=app -itd feisky/app:io-cached

8、在第二个终端查看应用程序

docker logs app
Reading data from disk /dev/sdb1 with buffer size 33554432
Time used: 0.037342 s s to read 33554432 bytes
Time used: 0.029676 s to read 33554432 bytes

9、在回到第一个终端 cachetop

16:40:08 Buffers MB: 73 / Cached MB: 281 / Sort: HITS / Order: ascending
PID UID CMD HITS MISSES DIRTIES READ_HIT% WRITE_HIT%
22106 root app 40960 0 0 100.0% 0.0%

四、总结

Buffers 和 Cache 都是操作系统来管理的,应用程序并不能直接控制这些缓存的内容和生命周期。

所以,在应用程序开发中,一般要用专门的缓存组件,来进一步提升性能。

比如,程序内部可以使用堆或者栈明确声明内存空间,来存储需要缓存的数据。

再或者,使用 Redis 这类外部缓存服务,优化数据的访问效率。

原文地址:https://www.cnblogs.com/luoahong/p/10839790.html

时间: 2024-10-29 19:06:34

Linux性能优化实战:如何利用系统缓存优化程序的运行效率?(17)的相关文章

利用系统缓存优化程序的运行效率

准备知识 Buffer 和Cache 的设计目的,是为了提升系统的 I/O 性能.它们利用内存,充当起慢速磁盘与快速 CPU 之间的桥梁,可以加速 I/O 的访问速度 buffers是内核缓存区用到的内存,对应的是/pro/meminfo中的buffers值 cache是内核页缓存和Slab用到的内存,对应的是/proc/meminfo中的cached和SReclaimable的和 Buffer 和 Cache 分别缓存的是对磁盘和文件系统的读写数据. 缓存命中率 直接通过缓存获取数据的请求次数

ecshop二次开发系统缓存优化之扩展数据缓存的必要性与方法

1.扩展数据缓存的必要性 大家都知道ecshop系统使用的是静态模板缓存,在后台可以设置静态模板的缓存时间,只要缓存不过期,用户访问页面就相当于访问静态页面,速度可想而知,看似非常完美,但是ecshop 有一个方法被滥用了,那就是 clear_cache_files() ,该方法会把整个系统的静态模板都清除掉,商家或者系统后台管理员只要在后台修改一下商品,或者修改个其他的东西,就会调用该方法将所有静态缓存都清掉,所以如果有商家频繁的修改商品,那么静态模板缓存其实是形同虚设,系统每次都会重新执行动

linux运维实战练习及YUM和RPM程序包管理学习总结

一.YUM命令使用方法详解 YUM(Yellowdog Updater Modified) 1. yum repositories: 文件服务器地址: http://mirrors.aliyun.com/ http://mirrors.163.com/ 更多镜像请见:http://www.douban.com/note/375227086/ 2.YUM配置文件 /etc/yum.conf 定义全局配置:对所有仓库都适用的配置 3.YUM库自定义 /etc/yum.repos.d/*.repo 一

Linux性能优化实战: Linux 性能优化答疑(四)(32)

一.上节总结 专栏更新至今,四大基础模块的第三个模块——文件系统和磁盘 I/O 篇,我们就已经学完了.很开心你还没有掉队,仍然在积极学习思考和实践操作,并且热情地留言与讨论. 今天是性能优化的第四期.照例,我从 I/O 模块的留言中摘出了一些典型问题,作为今天的答疑内容,集中回复.同样的,为了便于你学习理解,它们并不是严格按照文章顺序排列的. 每个问题,我都附上了留言区提问的截屏.如果你需要回顾内容原文,可以扫描每个问题右下方的二维码查看. 二.问题 1:阻塞.非阻塞 I/O 与同步.异步 I/

Linux性能调优,从优化思路说起

Linux操作系统是一个开源产品,也是一个开源软件的实践和应用平台,在这个平台下有无数的开源软件支撑,我们常见的apache.tomcat.mysql.php等等,开源软件的最大理念是自由.开放,那么linux作为一个开源平台,最终要实现的是通过这些开源软件的支持,以最低廉的成本,达到应用最优的性能.因此,谈到性能问题,主要实现的是linux操作系统和应用程序的最佳结合. 一.性能问题综述 系统的性能是指操作系统完成任务的有效性.稳定性和响应速度.Linux系统管理员可能经常会遇到系统不稳定.响

Linux性能调优的优化思路

Linux操作系统是一个开源产品,也是一个开源软件的实践和应用平台,在这个平台下有无数的开源软件支撑,我们常见的有apache.tomcat.nginx.mysql.php等等,开源软件的最大理念就是自由.开放,那么Linux作为一个开源平台,最终要实现的是通过这些开源软件的支持,以低廉的成本,达到应用最有的性能.因此,谈到性能问题,主要实现的是Linux系统和应用程序的最佳结合. 博文大纲:一.性能问题综述二.影响Linux性能的因素三.分析系统性能设计的人员四.调优总结 一.性能问题综述 系

MySQL——索引优化实战

上篇文章中介绍了索引的基本内容,这篇文章我们继续介绍索引优化实战.在介绍索引优化实战之前,首先要介绍两个与索引相关的重要概念,这两个概念对于索引优化至关重要. 本篇文章用于测试的user表结构: 索引相关的重要概念 基数 单个列唯一键(distict_keys)的数量叫做基数. SELECT COUNT(DISTINCT name),COUNT(DISTINCT gender) FROM user; user表的总行数是5,gender 列的基数是 2,说明 gender 列里面有大量重复值,n

Linux性能优化大师——互动出版网

这篇是计算机类的优质预售推荐>>>><Linux性能优化大师> 为特定服务器的应用程序调整关键参数,从而产生优异的性能 编辑推荐 本书适合广大Linux用户深入学习,并适合计算机专业本科.硕士等专业的学生学习参考. 内容简介 性能调优有时被称为"黑色艺术",因为有时有效地调整一个系统,要求具有更深层次的知识,且需要了解一个系统的硬件和软件组成,以及系统之间的相互作用.性能优化是针对特定环境来定制系统的配置过程,或者是让某个特定的应用程序得到更好的响应

.NET-记一次架构优化实战与方案-目录

前言 本系列是根据我公司的某块业务优化进行改写的,为了避免触发法律的红线,我对部分代码做了截取并打码. 因为优化方案是针对现有业务的问题情况进行的,不做任何太过过分吹牛逼.一切以基于现有的业务,优化处理已存在的不可避免问题,达到目标效果的作为三个前提原则. 因需要针对现有业务与问题进行展开,业务梳理是不可避免的,第一篇梳理篇主要以做了业务描述与整理. “程序员的输出是他敲写的代码,那么输入就是他思考好的设计.因此不做设计是不存在,也不可能因此省时间.成本,设计只分优秀的设计和糟糕的设计.”这段话