MFS分布式文件系统的部署

MFS分布式文件系统的部署

MFS简介

MFS是一个具有容错性的网络分布式文件系统,它把数据分散存放在多个物理服务器上,而呈现给用户的则是一个统一的资源。

  • MFS文件系统的组成。

    元数据服务器(master):负责管理文件系统,维护元数据。
    
    元数据日志服务器(MetaLogger):存放日志文件。
    
    数据存储服务器(Chunk Server):真正存储数据的服务器。
    
    客户端(client):用来挂载MFS文件文件系统的。
  • MFS读取数据的处理过程。
    1. 客户端向元数据服务器发出读请求。
    
    2. 元数据服务器把所需数据存放的位置告知客户端。
    
    3. 客户端向已知的Chunk Server请求发送数据。
    
    4. Chunk Server向客户端发送数据。
  • MFS写入数据的处理过程。
    1. 客户端向元数据服务器发送写入请求。
    2. 元数据服务器与(ChunkServer进行交互)。
    3. 元数据服务器告知客户端,可以在哪个Chunk Server的哪些Chunks写入数据。
    4. 客户端向指定的Chunk Server写入数据。
    5. 该Chunk Server 与其他Chunk Server进行数据同步,同步成功后Chunk Server告知客户端数据写入成功。
    6. 客户端告知元数据服务器本次写入完毕。

实验环境

主机名称及角色 IP地址 主要软件
CentOS7-1(master) 172.16.10.138 mfs-1.6.27-5.tar.gz
CentOS7-2(MetaLogger) 172.16.10.137 mfs-1.6.27-5.tar.gz
CentOS7-3(chunkserever1) 172.16.10.133 mfs-1.6.27-5.tar.gz
CentOS7-4(chunkserever2) 172.16.10.136 mfs-1.6.27-5.tar.gz
CentOS7-6(client) 172.16.10.135 mfs-1.6.27-5.tar.gz、fuse-2.9.2.tar.gz

实验部署

搭建Master Server

  • 首先安装环境包

yum -y install zlib-devel gcc gcc-c++

  • 创建管理用户

useradd -s /sbin/nologin -M mfs

  • 解压mfs软件、配置、编译安装

tar xf mfs-1.6.27-5.tar.gz -C /opt
cd /opt/mfs-1.6.27-5/
./configure \
--prefix=/usr/local/mfs \ #工作目录
--with-default-user=mfs \ #运行masterserver的用户
--with-default-group=mfs \ #运行masterserver的组
--disable-mfschunkserver \
--disable-mfsmount #关闭功能

make && make install #编译安装

  • 配置防断链

cd /usr/local/mfs/var/mfs
cp metadata.mfs.empty metadata.mfs

  • 复制配置文件(使模板生效)

cd /usr/local/mfs/etc/mfs
cp mfsmaster.cfg.sample mfsmaster.cfg #主配置文件
cp mfsexports.cfg.sample mfsexports.cfg #被挂载目录及权限配置文件
cp mfstopology.cfg.sample mfstopology.cfg #拓扑架构感知

  • 开启master服务

/usr/local/mfs/sbin/mfsmaster start #开启服务

这里可以看到服务已经启动了,然后关闭服务可以使用/usr/local/mfs/sbin/mfsmaster -s

搭建MetaLogger server

  • 首先安装环境包

yum -y install zlib-devel gcc gcc-c++

  • 创建管理用户

useradd -s /sbin/nologin -M mfs

  • 解压mfs软件、配置、编译安装

tar zxvf mfs-1.6.27-5.tar.gz -C /opt
cd /opt/mfs-1.6.27-5/
./configure \
--prefix=/usr/local/mfs \
--with-default-user=mfs \
--with-default-group=mfs \
--disable-mfschunkserver \
--disable-mfsmount

make && make install

  • 配置防断链

cd /usr/local/mfs/var/mfs/
cp metadata.mfs.empty metadata.mfs

  • 复制配置文件(使模板生效)

cd /usr/local/mfs/etc/mfs
cp mfsmaster.cfg.sample mfsmaster.cfg
cp mfsexports.cfg.sample mfsexports.cfg
cp mfsmetalogger.cfg.dist mfsmetalogger.cfg

  • 修改配置文件使地址指向master服务器

vim mfsmetalogger.cfg

MASTER_HOST=172.16.10.138 #指向master服务器

  • 开启MetaLogger Server服务

/usr/local/mfs/sbin/mfsmetalogger start #开启服务

搭建chunkserver

  • 首先安装环境包

yum -y install zlib-devel gcc gcc-c++

  • 创建管理用户

useradd -s /sbin/nologin -M mfs

  • 解压mfs软件、配置、编译安装

tar zxvf mfs-1.6.27-5.tar.gz -C /opt
cd /opt/mfs-1.6.27-5/
./configure \
--prefix=/usr/local/mfs \
--with-default-user=mfs \
--with-default-group=mfs \
--disable-mfsmaster \
--disable-mfsmount

make && make install

  • 复制配置文件(使模板生效)

cd /usr/local/mfs/etc/mfs
cp mfschunkserver.cfg.sample mfschunkserver.cfg
cp mfshdd.cfg.sample mfshdd.cfg

  • 修改配置文件使地址指向master服务器

vim mfschunkserver.cfg

MASTER_HOST=172.16.10.138 #指向master服务器

  • 修改mfshdd.cfg,添加共享的文件目录

vim mgshdd.cfg

/data #添加

  • 创建共享目录,修改属主属组

mkdir /data

chown -R mfs:mfs /data

  • 开启chunkserver服务

/usr/local/mfs/sbin/mfschunkserver start #开启服务

注:另一台chunkserver服务器和这台配置一样

搭建客户端client

  • 首先安装环境包

yum -y install zlib-devel gcc gcc-c++

  • 创建管理用户

useradd -s /sbin/nologin -M mfs

  • 解压辅助工具

tar xf fuse-2.9.2.tar.gz -C /opt
cd /opt/fuse-2.9.2/
./configure
make && make install

  • 添加环境变量,使系统识别

vim /etc/profile
export PKG_CONFIG_PATH=/usr/local/lib/pkgconfig:$PKG_CONFIG_PATH #添加

source /etc/profile #刷新生效

  • 搭建mfs客户端

tar zxvf mfs-1.6.27-5.tar.gz -C /opt
cd /opt/mfs-1.6.27-5/
./configure \
--prefix=/usr/local/mfs \
--with-default-user=mfs \
--with-default-group=mfs \
--disable-mfsmaster \
--disable-mfsmount

make && make install

  • 挂载MFS文件系统

mkdir /opt/mfs //创建挂载点//
modprobe fuse //加载fuse模块到内核//
/usr/local/mfs/bin/mfsmount /opt/mfs -H 172.16.10.138 //挂载MFS

如果要卸载MFS,使用命令umount /opt/mfs

  • 常用操作

vim /etc/profile
export PATH=/usr/local/mfs/bin:$PATH #添加环境变量,方便相关命令的使用

source /etc/profile

  • MFS网页监控

/usr/local/mfs/sbin/mfscgiserv #开启

  • 测试

至此实验成功,MFS分布式文件系统就全部介绍完了!!!

原文地址:http://blog.51cto.com/13659301/2153514

时间: 2024-11-04 20:12:37

MFS分布式文件系统的部署的相关文章

MFS分布式文件系统之安装部署

MFS分布式文件系统之安装部署 Moose File System 是一个具备容错功能的网络分布式文件系统,它将数据分布在网络中的不同服务器上 管理服务器 (managing server) 负责各个数据存储服务器的管理,文件读写调度,文件空间回收以及恢复.多节点拷贝 元数据日志服务器 (Metalogger server) 负责备份master服务器的变化日志文件,文件类型为changelog_ml.*.mfs,以便于在master server出问题的时候接替其进行工作 数据存储服务器 (d

九爷带你部署Mfs分布式文件系统

Mfs分布式文件系统 前言:前面我们学习过NFS,以及虚拟化课程的时候我们学习过openfiler,这两个都是属于存储服务器.但是他们有着共同的缺点,就是性能不好,因为都是通过共享方式共享一个存储空间,使得服务器不堪重负,会出现超时的问题,而且存在着单点故障问题,尽管可以用rsync同步数据到另外一台服务器上做备份,但性能方便没有任何提升.而分布式文件系统把数据分散存储在不同的服务器上,读取数据的时候相当于同时读取,不像nfs是一对多的关系,而是多对多的关系,这样可以使得性能得到大幅提升. 今天

搭建 MFS 分布式文件系统

MFS分布式文件系统 MFS是一种半分布式文件系统,它是由波兰人开发的.MFS文件系统能够实现RAID的功能,不但能够更节约存储成本,而且不比专业的存储系统差,它还可以实现在线扩展. 分布式文件系统是指文件系统管理的物理存储资源下不一定直接连接在本地节点上,而是通过计算机网络与节点相连. 分布式文件系统的优点是集中访问.简化操作.数据容灾,以及提高了文件的存取性能. MFS文件系统的组成架构: 元数据服务器(Master):在整个体系中负责管理文件系统,维护元数据: 元数据日志服务器(Metal

linux mfs分布式文件系统

mosefs介绍: mooseFS(moose 驼鹿)是一款网络分布式文件系统.它把数据分散在多台服务器上,但对于用户来讲,看到的只是一个源.MFS也像其他类UNIX文件系统一样,包含了层级结构(目录树),存储着文件属性(权限.最后访问和修改时间),常见特殊的文件(块设备.字符设备.管道.套接字),符号链接,硬链接.MooseFS[MFS]是一个具有容错性的网络分布式文件系统.它把数据分散存放在多个物理服务器上,但呈现给用户的则是一个统一的资源当我们存储服务器的容量达到瓶颈之后,那我们就需要采用

MFS分布式文件系统

防伪码:我没有太多坚强,只比苦难多一点 第十一章  MFS分布式文件系统 前言:几台Web服务器通过NFS共享一个存储,在业务功能上满足需求,但在性能与容量上NFS无法胜任更高的要求.MFS即moosefs,可以提供容量FB级别的共享存储,无需昂贵的专业硬件服务器,自身拥有冗余功能及动态扩容功能,保证数据的安全性.本章将介绍MFS分布式文件系统的原理及环境搭建. 一. 工作原理 1.分布式原理 分布式文件系统就是把一些分散在多台计算机上的共享文件夹,集合到一个共享文件夹内,用户要访问这些文件夹的

【Linux--中级篇】MFS分布式文件系统

MFS分布式文件系统 1.实验环境 主机 操作系统 IP地址 主要软件 Master Server CentOS6.5x86_64 192.168.10.10 mfs-1.6.27-5.tar.gz MasterLogger Server CentOS6.5x86_64 192.168.10.11 mfs-1.6.27-5.tar.gz Chunk Server1 CentOS6.5x86_64 192.168.10.15 mfs-1.6.27-5.tar.gz Chunk Server2 Ce

53.MFS分布式文件系统

MFS分布式文件系统 MFS分布式文件系统是一个具有容错性的网络分布式文件系统,它把数据分散存放在多个物理服务器上,而呈现给用户的则是一个统一的资源. MFS分布式操作系统搭建过程: v 搭建master服务器 #iptables -F #setenforce 0 #yum -y install zlib-devel #useradd mfs -s  /sbin/nologin #tar xzvf mfs-1.6.27-5.tar.gz #cd mfs.1.6.27 #./configure -

MFS 分布式文件系统 视频教程

MFS 分布式文件系统 视频教程,有需要的同学 加QQ1143815700, 发个红包意思下就行哈

高效实用,在centos7上搭建MFS分布式文件系统

MFS原理: MFS是一个具有容错性的网络分布式文件系统,他把数据分散存放在多个物理服务器上,而呈现给用户的则是一个统一的资源 MFS文件系统组成: 1.元数据服务器(master) 2.元数据日志服务器(metalogger) 3.数据存储服务器(chunk server) 4.客户端(client) 下面进行MFS分布式文件系统搭建演示 案列环境: master server: 192.168.100.128 metalogger server:192.168.100.134 chunk s