pgspider 集成hypopg 虚拟索引扩展

虚拟索引是不占用空间的,可以用来方便的进行sql 查询的性能评估,帮助我们了解查询优化的效果
hypopg 是一个pg 扩展,提供了比较方便的函数,我们可以用来评估查询,以下是pgspider 集成hypopg
的一个学习

环境准备

  • dockerfile
    使用docker 运行,参考我的相关连接
FROM dalongrong/pgspider:base as build
WORKDIR /app
RUN apt-get update && apt-get install -y automake autoconf libtool pkg-config libssl-dev
RUN git clone https://github.com/HypoPG/hypopg.git /app/postgresql-11.6/contrib/hypopg
RUN git clone https://github.com/powa-team/pg_qualstats.git /app/postgresql-11.6/contrib/pg_qualstats
RUN cd /app/postgresql-11.6/contrib/hypopg && make && make install
RUN cd /app/postgresql-11.6/contrib/pg_qualstats && make && make install
?
FROM debian:stretch-slim
ENV GOSU_VERSION 1.11
RUN apt-get update && apt-get install -y wget libreadline-dev
# explicitly set user/group IDs
RUN set -eux; \
 groupadd -r postgres --gid=999; \
# https://salsa.debian.org/postgresql/postgresql-common/blob/997d842ee744687d99a2b2d95c1083a2615c79e8/debian/postgresql-common.postinst#L32-35
 useradd -r -g postgres --uid=999 --home-dir=/var/lib/postgresql --shell=/bin/bash postgres; \
# also create the postgres user‘s home directory with appropriate permissions
# see https://github.com/docker-library/postgres/issues/274
 mkdir -p /var/lib/postgresql; \
 chown -R postgres:postgres /var/lib/postgresql
?
RUN wget -O /usr/local/bin/gosu "https://github.com/tianon/gosu/releases/download/$GOSU_VERSION/gosu-$(dpkg --print-architecture)" \
   && chmod +x /usr/local/bin/gosu \
   && gosu nobody true
# make the "en_US.UTF-8" locale so postgres will be utf-8 enabled by default
RUN set -eux; \
   if [ -f /etc/dpkg/dpkg.cfg.d/docker ]; then \
   # if this file exists, we‘re likely in "debian:xxx-slim", and locales are thus being excluded so we need to remove that exclusion (since we need locales)
   grep -q ‘/usr/share/locale‘ /etc/dpkg/dpkg.cfg.d/docker; \
   sed -ri ‘/\/usr\/share\/locale/d‘ /etc/dpkg/dpkg.cfg.d/docker; \
   ! grep -q ‘/usr/share/locale‘ /etc/dpkg/dpkg.cfg.d/docker; \
   fi; \
   apt-get update; apt-get install -y locales; rm -rf /var/lib/apt/lists/*; \
   localedef -i en_US -c -f UTF-8 -A /usr/share/locale/locale.alias en_US.UTF-8
ENV LANG en_US.utf8
?
# install "nss_wrapper" in case we need to fake "/etc/passwd" and "/etc/group" (especially for OpenShift)
# https://github.com/docker-library/postgres/issues/359
# https://cwrap.org/nss_wrapper.html
RUN set -eux; \
   apt-get update; \
   apt-get install -y --no-install-recommends libnss-wrapper; \
   rm -rf /var/lib/apt/lists/*
?
RUN mkdir /docker-entrypoint-initdb.d
COPY --from=build /usr/local/pgspider /usr/local/pgspider
RUN sed -ri "s!^#?(listen_addresses)\s*=\s*\S+.*!\1 = ‘*‘!" /usr/local/pgspider/share/postgresql/postgresql.conf.sample; \
   grep -F "listen_addresses = ‘*‘" /usr/local/pgspider/share/postgresql/postgresql.conf.sample
RUN echo "shared_preload_libraries = ‘pg_qualstats‘" >> /usr/local/pgspider/share/postgresql/postgresql.conf.sample
RUN mkdir -p /var/run/postgresql && chown -R postgres:postgres /var/run/postgresql && chmod 2777 /var/run/postgresql
ENV PATH $PATH:/usr/local/pgspider/bin
ENV PGDATA /var/lib/postgresql/data
RUN mkdir -p "$PGDATA" && chown -R postgres:postgres "$PGDATA" && chmod 777 "$PGDATA"
VOLUME /var/lib/postgresql/data
COPY docker-entrypoint.sh /usr/local/bin/
RUN ln -s usr/local/bin/docker-entrypoint.sh / # backwards compat
ENTRYPOINT ["docker-entrypoint.sh"]
?
EXPOSE 5432
CMD ["postgres"]
  • docker-compose 文件
    构建好的镜像已经push docker hub 了,所以直接使用docker-compose 运行
version: "3"
services: 
  pg:
   image: dalongrong/pgspider:hypopg-pg_qualstats
   ports:
   - "5432:5432"
   environment: 
   - "POSTGRES_PASSWORD=dalong"
  • 启动
docker-compose up -d

试用

  • 创建扩展
 CREATE EXTENSION hypopg;
  • 创建测试数据
CREATE TABLE hypo AS SELECT id, ‘line ‘ || id AS val FROM generate_series(1,10000) id;
  • 查询计划查看
EXPLAIN SELECT * FROM hypo WHERE id = 1;

  • 添加虚拟索引
    使用提供的函数
SELECT * FROM hypopg_create_index(‘CREATE INDEX ON hypo (id)‘);
  • 查询已经创建的虚拟索引
SELECT * FROM hypopg_list_indexes();

  • 查询计划分析
EXPLAIN SELECT * FROM hypo WHERE id = 1;

效果

  • 查看查询计划并执行
EXPLAIN ANALYZE SELECT * FROM hypo WHERE id = 1;

说明

使用hypopg 扩展你的好处是我们不需要花费空间以及多大的时间,就可以通过慢慢试错同时不影响环境的情况下,进行
sql 的优化调整,是一个很不错的扩展工具

参考资料

https://github.com/HypoPG/hypopg
https://rjuju.github.io/postgresql/2015/07/02/how-about-hypothetical-indexes.html
https://hypopg.readthedocs.io/en/latest/
https://github.com/rongfengliang/pgspider-docker/blob/master/Dockerfile-hypopg-pg_qualstats

原文地址:https://www.cnblogs.com/rongfengliang/p/12391305.html

时间: 2024-11-09 02:14:36

pgspider 集成hypopg 虚拟索引扩展的相关文章

利用虚拟索引(Virtual Index)优化数据库的案例分析

当我们在对生产库做优化的时候,主要就是对SQL语句的优化,包括语句的等价改写等,但其中很大一部分情况,又与索引有关.如果能合理利用合适的索引,可以使原本走全表扫描产生的逻辑读大大降低,提高数据库的性能.由于Oracle数据库中的索引本身就要占用磁盘空间,维护索引需要一定的开销,如何才能知道创建某个索引,会给数据带来性能的提升,而又不至于判断失误,创建了一个不恰当的索引,最后又不得不删除呢?这种情况下,我们可以利用Oralce提供的虚拟索引,即nosegment索引,它并不占用磁盘资源,只是在数据

Oracle虚拟索引

从9.2版本开始Oracle引入了虚拟索引的概念,虚拟索引是一个"伪造"的索引,它的定义只存在数据字典中并有存在相关的索引段.虚拟索引是为了在不真正创建索引的情况下,验证如果使用索引sql执行计划是否改变,执行效率是否能得到提高. 本文在11.2.0.4版本中测试使用虚拟索引 1.创建测试表 [email protected]> create table test_t as select * from dba_objects; Table created. [email prot

【索引】Oracle之不可见索引和虚拟索引的比对

[索引]Oracle之不可见索引和虚拟索引的比对    Oracle之不可见索引 :http://blog.itpub.net/26736162/viewspace-2124044/ Oracle之虚拟索引 :  http://blog.itpub.net/26736162/viewspace-2123687/   之前给大家分享过不可见索引和虚拟索引,今天给大家分享的是Oracle之不可见索引和虚拟索引的比对.   比较项目 不可见索引(Invisible Indexes) 虚拟索引(Virt

Oracle虚拟索引的运用

在做SQL调优的时候,有的时候需要加一个索引,测试下对性能提升有没有帮组,如果此时这张表非常大,建索引将会非常之麻烦,这种场景虚拟索引就该登场了.下面来做个试验: SQL> select * from v$version; BANNER ---------------------------------------------------------------- Oracle Database 10g Enterprise Edition Release 10.2.0.1.0 - 64bi P

ORACLE虚拟索引(Virtual Index)

ORACLE虚拟索引(Virtual Index)   虚拟索引概念 虚拟索引(Virtual Indexes)是一个定义在数据字典中的假索引(fake index),它没有相关的索引段.虚拟索引的目的是模拟索引的存在而不用真实的创建一个完整索引.这允许开发者创建虚拟索引来查看相关执行计划而不用等到真实创建完索引才能查看索引对执行计划的影响,并且不会增加存储空间的使用.如果我们观察到优化器生成了一个昂贵的执行计划并且SQL调整指导建议我们对某些的某列创建索引,但在生产数据库环境中创建索引与测试并

windows 下xampp集成环境安装mongodb扩展

http://www.thegeekstuff.com/2015/10/php-mongodb-for-xampp 见这文章,写的很详细. 1.打开PHPINFO界面查看PHP版本,编译器版本,还有架构,线程安全. 2.然后去官网下载对应的dll文件. 3.复制到xampp/php/ext文件夹下 4.到xampp/php/php.in下加上extension=刚添加的dll文件 5.去修改环境变量PATH,把php的路径加上 6.重启Apache,查看PHPinfo有没有mongodb扩展

RDP协议集、音频输出、音频输入重定向虚拟通道

一.RDP协议集及子协议之间如何交互 由于目前Windows Server的版本已经进入到了2016版,因此在本文中,终端服务一律称为其最新名称:远程桌面服务(RDS). 以下组件对于了解远程桌面服务协议至关重要: RDP客户端:支持远程桌面服务协议的客户端称为RDP客户端,因为客户端安装了支持远程处理的软件组件.使用此RDP客户端,用户连接到RD会话主机服务器以登录到远程桌面计算机或远程应用程序. 远程桌面会话主机(RD会话主机):RDP客户端与之通信的服务器称为远程桌面会话主机(RD会话主机

RDP协议之USB重定向虚拟通道

在RDP远程桌面协议中,USB设备虚拟通道扩展协议用于将USB数据包从终端服务器传输到终端客户端.终端客户端将USB数据包转发到物理USB设备.然后客户端在物理设备重新组装数据包后返回结果. 一般来说,远程访问的协议可以重定向USB设备,所以在使用和过程中,必须为客户端提供一种方式来指定使用该协议重定向的USB设备,或者选择使用替代方法的设备或者完全不重定向的设备.因为当设备被重定向时,它就不能在客户端上继续使用.例如: USB鼠标:如果使用此协议进行USB鼠标重定向,那么在客户端本地将无法使用

配置http支持php及虚拟主机

配置httpd支持php httpd主配置文件/usr/local/apache2.4/conf/httpd.conf vim /usr/local/apache2.4/conf/httpd.conf 修改以下4个地方 ServerName 这个打开后开启httpd后没有警告 Require all denied 这个修改为Require all granted 防止打开虚拟主机配置文件时403 AddType application/x-httpd-php .php 加上这行才可以解析php