mogilefs高级应用(3)

mogilefs高级应用

架构图:

实验说明:

1个mysql+3个即是mogstored又是tracker节点+1个nginx实现反代

为了使用更少的主机,我们采用2台主机

nginx + mogstored + tracker

mysql + mogstored + tracker

这里首先快速部署 mogstored + tracker 环境 (详细部署请参照上篇博客)

1.首先对mysql服务器进行设置

mysql > grant all on mogdb.* to ‘moguser‘@‘10.1.%.%‘ identified by ‘mogpass‘;
mysql > grant all on *.* to ‘root‘@‘10.1.%.%‘ identified by ‘root‘; 
--> 此权限过大,生成环境中可按需调整

mysql > flush privileges;

2.tracker + mogstored 配置

tracker配置:

# mogdbsetup --dbhost=10.1.249.125 --dbport=3306 --dbname=mogdb   > --dbrootuser=root --dbrootpass=root --dbuser=moguser --dbpass=mogpass

# vim /etc/mogilefs/mogilefsd.conf 
db_dsn = DBI:mysql:mogdb:host=10.1.249.125
db_user = moguser
db_pass = mogpass
listen = 0.0.0.0:7001

# service mogilefsd start

# ss -tln | grep "7001"

3.配置此台服务器同时为mogstored端

# mkdir -pv /var/mogdata/dev1
# chown -R  mogilefs.mogilefs /var/mogdata/

# yum -y install perl-IO-AIO

# service mogstored start
# netstat -tlnp | grep "mogstored"

# mogadm --trackers=10.1.249.125:7001 host add 10.1.249.125 --ip=10.1.249.125 --status=alive
//如果创建失败,可能是由于 /etc/hosts文件的解析和真正的主机名不一致,修改/etc/hosts文件即可

# scp /etc/mogilefs/* 10.1.252.53:/etc/mogilefs/ 
--> 复制到另一个服务器,两个服务器使用相同的配置文件

4.配置另一台服务器同时作为tracker+mogstored

此时,该服务器作为tracker时,不需要再初始化数据库了,第一个已经初始化过了

# mkdir /var/mogdata/dev3 -pv   --> 此处创建的目录需要和创建设备的名称保存一致
# chown -R mogilefs.mogilefs /var/mogdata/
# chown -R mogilefs.mogilefs /var/run/mogilefsd/
# service mogilefsd start
# service mogstored start
# mogadm --trackers=10.1.252.53:7001 host add 10.1.252.53 --ip=10.1.252.53 --status=alive

5.相互添加对方的主机

# mogadm --trackers=10.1.252.53:7001 host add 10.1.249.125 --ip=10.1.249.125 --status=alive
# mogadm --trackers=10.1.249.125:7001 host add 10.1.252.53 --ip=10.1.252.53 --status=alive

# mogadm --trackers=10.1.249.125:7001 host list
10.1.249.125 [1]: alive
  IP:       10.1.249.125:7500
10.1.252.53 [2]: alive
  IP:       10.1.252.53:7500

  # mogadm --trackers=10.1.252.53:7001 host list
10.1.249.125 [1]: alive
  IP:       10.1.249.125:7500
10.1.252.53 [2]: alive
  IP:       10.1.252.53:7500

6.添加设备,在同一个tracker操作即可

# mogadm --trackers=10.1.249.125:7001 device add 10.1.249.125 1
# mogadm --trackers=10.1.249.125:7001 device add 10.1.252.53 3  --> 和上述创建的目录保存一致

# mogadm --trackers=10.1.249.125:7001 device list
10.1.249.125 [1]: alive
                    used(G)    free(G)   total(G)  weight(%)
   dev1:   alive      6.484     84.630     91.114        100
10.1.252.53 [2]: alive
                    used(G)    free(G)   total(G)  weight(%)
   dev3:   alive      6.176     84.938     91.114        100

7.创建domain

# mogadm --trackers=10.1.249.125:7001 domain add images
# mogadm --trackers=10.1.249.125:7001 domain add files

# mogadm --trackers=10.1.249.125:7001 domain list
 domain               class                mindevcount   replpolicy   hashtype
-------------------- -------------------- ------------- ------------ -------
 files                default                   2        MultipleHosts() NONE   
 images               default                   2        MultipleHosts() NONE

8.创建class

# mogadm --trackers=10.1.252.53:7001 class add images class0 --mindevcount=2
# mogadm --trackers=10.1.252.53:7001 class add images class1 --mindevcount=2

# mogadm --trackers=10.1.252.53:7001 class list
 domain               class                mindevcount   replpolicy   hashtype
-------------------- -------------------- ------------- ------------ -------
 files                default                   2        MultipleHosts() NONE   
 images               class0                    2        MultipleHosts() NONE   
 images               class1                    2        MultipleHosts() NONE   
 images               default                   2        MultipleHosts() NONE


9.nginx配置

编译安装nginx使其支持mogilefs模块

# tar xf nginx_mogilefs_module-1.0.4.tar.gz
# tar xf nginx-1.8.0.tar.gz
# cd nginx-1.8.0
# ./configure   --prefix=/usr   --sbin-path=/usr/sbin/nginx   --conf-path=/etc/nginx/nginx.conf   --error-log-path=/var/log/nginx/error.log   --http-log-path=/var/log/nginx/access.log   --pid-path=/var/run/nginx/nginx.pid    --lock-path=/var/lock/nginx.lock   --user=nginx   --group=nginx   --with-http_ssl_module   --with-http_flv_module   --with-http_stub_status_module   --with-http_gzip_static_module   --http-client-body-temp-path=/var/tmp/nginx/client/   --http-proxy-temp-path=/var/tmp/nginx/proxy/   --http-fastcgi-temp-path=/var/tmp/nginx/fcgi/   --http-uwsgi-temp-path=/var/tmp/nginx/uwsgi   --http-scgi-temp-path=/var/tmp/nginx/scgi   --with-pcre   --with-debug   --add-module=(nginx_mogilefs_module-1.0.4模块的路径)
# make && make install
nginx反代mogilefs的配置文件

upstream mogilefscluster{
     server 10.1.252.53:7001;
     server 10.1.249.125:7001;
}
location /images/ {
    mogilefs_tracker mogilefscluster;
    mogilefs_domain images;
    mogilefs_pass {
        proxy_pass $mogilefs_path;
        proxy_hide_header Content-Type;
        proxy_buffering off;
        }
}

10.后端节点上传一张图片,用来做测试(后端两台服务器随便选择一台即可)

# mogupload --trackers=10.1.252.53:7001 --domain=images --key=‘1.jpg‘ --file=‘/tmp/1.jpg‘
# mogupload --trackers=10.1.252.53:7001 --domain=images --key=‘2.jpg‘ --file=‘/tmp/2.jpg‘

# moglistkeys --trackers=10.1.252.53:7001 --domain=images
1.jpg
2.jpg


11.查看真实访问路径

# mogfileinfo -trackers=10.1.252.53:7001 --domain=images --key="1.jpg"
 - http://10.1.252.53:7500/dev3/0/000/000/0000000018.fid
 - http://10.1.249.125:7500/dev1/0/000/000/0000000018.fid  
--> 可以看到有两个,由于我们有两个mogstored,所有mogilefs自动帮我们做了冗余

12.被nginx反代后的访问路径

http://IP/images/1.jpg
http://IP/images/2.jpg

时间: 2024-11-10 22:30:48

mogilefs高级应用(3)的相关文章

MogileFS高级应用(二)

一.准备阶段 1.5台机器 10.1.2.180 作为mysql机器 10.1.2.200-202作为集群节点 10.1.2.203作为nginx反向代理 2.拓扑图 三.部署步聚 1.180机器 1.1由于前面单节,180机器安装了mysql和Mogilefs,而现在180作为单独Mysql机器,所以先停掉Mogilefs服务  [[email protected] tmp]# /etc/init.d/mogilefsd stop Stopping mogilefsd             

Java精品高级课,架构课,java8新特性,P2P金融项目,程序设计,功能设计,数据库设计,第三方支付,web安全,视频教程

36套精品Java架构师,高并发,高性能,高可用,分布式,集群,电商,缓存,性能调优,设计模式,项目实战,P2P金融项目,大型分布式电商实战视频教程 视频课程包含: 高级Java架构师包含:Spring boot.Spring  cloud.Dubbo.Elasticsearch,Redis.ActiveMQ.Nginx.Mycat.Spring.MongoDB.ZeroMQ.Git.Nosql.Jvm.Mecached.Netty.Nio.Mina.java8新特性,P2P金融项目,程序设计,

私塾在线JAVA高级软件架构师实战培训阶段一

第01节课:整体课程内容概览 -----------------------以下为Maven补充和Git部分------------------------------------------------------------------ 第02节课:Maven补充:分模块.分工程管理第03节课:Maven补充:多模块,多Web应用,合并成一个War包第04节课:Git快速上手:Git简介.基本原理.安装.Git服务器配置.插件Egit第05节课:Git快速上手:TortoiseGit的本地使

Java高级架构,java8新特性,P2P金融项目,程序设计,功能设计,第三方支付,web安全视频教程

36套精品Java精品高级课,架构课,java8新特性,P2P金融项目,程序设计,功能设计,数据库设计,第三方支付,web安全,高并发,高性能,高可用,分布式,集群,电商,缓存,性能调优,设计模式,项目实战,大型分布式电商实战视频教程 视频课程包含: 高级Java架构师包含:Spring boot.Spring  cloud.Dubbo.Elasticsearch,Redis.ActiveMQ.Nginx.Mycat.Spring.MongoDB.ZeroMQ.Git.Nosql.Jvm.Mec

高级架构程序设计,功能设计,数据库设计,第三方支付,web安全视频教程

36套精品Java精品高级课,架构课,java8新特性,P2P金融项目,程序设计,功能设计,数据库设计,第三方支付,web安全,高并发,高性能,高可用,分布式,集群,电商,缓存,性能调优,设计模式,项目实战,大型分布式电商实战视频教程 视频课程包含: 高级Java架构师包含:Spring boot.Spring  cloud.Dubbo.Elasticsearch,Redis.ActiveMQ.Nginx.Mycat.Spring.MongoDB.ZeroMQ.Git.Nosql.Jvm.Mec

java高级软件架构师实战视频教程 Spring+Mybatis+SpringMVC+Ehcache+Memcached+Redis+Nginx+Varnish+ActiveMQ+Keepalived+MySQL+MongoDB

java高级软件架构师实战阶段1视频教程 迅雷下载  百度云 第001节:整体课程概览第002节:分模块.分工程管理第003节:多模块多Web应用合并War包第004节:Git基本原理和安装配置使用第005节:TortoiseGit的本地使用第006节:Egit的本地使用第007节:远程使用以及冲突解决第008节:基本业务功能和数据字典第009节:搭建基础的开发环境第010节:Spring+Mybatis实现DAO第011节:Mybatis的分页实现第012节:Service的实现以及模块化第0

java高级软件架构师实战培训阶段一

第01节课:整体课程内容概览 -----------------------以下为Maven补充和Git部分------------------------------------------------------------------ 第02节课:Maven补充:分模块.分工程管理第03节课:Maven补充:多模块,多Web应用,合并成一个War包第04节课:Git快速上手:Git简介.基本原理.安装.Git服务器配置.插件Egit第05节课:Git快速上手:TortoiseGit的本地使

Spark性能优化指南——高级篇

Spark性能优化指南--高级篇 [TOC] 前言 继基础篇讲解了每个Spark开发人员都必须熟知的开发调优与资源调优之后,本文作为<Spark性能优化指南>的高级篇,将深入分析数据倾斜调优与shuffle调优,以解决更加棘手的性能问题. 数据倾斜调优 调优概述 有的时候,我们可能会遇到大数据计算中一个最棘手的问题--数据倾斜,此时Spark作业的性能会比期望差很多.数据倾斜调优,就是使用各种技术方案解决不同类型的数据倾斜问题,以保证Spark作业的性能. 数据倾斜发生时的现象 绝大多数tas

mybatis之高级结果映射

先贴一句官方文档内容 如果世界总是这么简单就好了. 正如官方文档所说:如果一切都是这么简单,那该多好啊,但是实际上,我们面对的是复杂的对象,就是对象里有对象,有列表对象,总之五花八门的对象.这个时候我们期盼这mybatis能帮我们来解决这个问题. 今天,我就遇到了这样的一个问题: 在做基于RBAC权限分配模型中,一共有五张表 sys_permission  记录权限信息,包括权限名称,权限url等 sys_role 记录角色信息,包括角色名和角色id sys_role_permission 记录