05: 分布式文件系统 、 FastDFS原理 、 FastDFS配置及应用

部署分布式存储服务
一、分布式文件系统介绍

二、配置分布式存储服务
2.1 配置主控节点(111) 装包 修改配置文件 启动服务 查看端口
]# yum -y install gcc gcc-c++ libevent
]# cd fastdfs
]# yum -y install libevent-*.rpm
]#tar -zxf FastDFS_v4.06.tar.gz
]#cd FastDFS
]#./make.sh
]#./make.sh install
]# ls /etc/fdfs/ #配置文件存放目录
]# ls /usr/local/bin/ #命令文件存放目录

]# vim /etc/fdfs/tracker.conf //服务主配置文件
base_path=/data/fastdfs
max_connections=4096

store_group=group1
use_storage_id = true
storage_ids_filename = storage_ids.conf

]# mkdir -p /data/fastdfs
]# cd FastDFS
]# cp conf/storage_ids.conf /etc/fdfs/
]# vim /etc/fdfs/storage_ids.conf

[[email protected] FastDFS]# tail -2 /etc/fdfs/storage_ids.conf
100001 group1 192.168.4.108
100002 group1 192.168.4.109

]#cd FastDFS
]# cp init.d/fdfs_trackerd /etc/init.d/
]# chmod +x /etc/init.d/fdfs_trackerd
]# /etc/init.d/fdfs_trackerd status
fdfs_trackerd 停止

]# netstat -utnalp | grep :22122

++++++++++++++++++++++++++++++++++
2.2 配置数据节点 108 109
准备存储空间:分区 格式化 配置开机挂载到/data/fastdfs
172 fdisk /dev/vdb
173 fdisk -l /dev/vdb

174 mkfs.ext4 /dev/vdb1
175 mkdir -p /data/fastdfs
176 blkid /dev/vdb1

]#vim /etc/fstab
UUID=f2853b35-13d3-48b1-8c3f-9b9e5f225fca /data/fastdfs ext4 defaults 0 0

]# mount -a
]# mount | grep /data/fastdfs
/dev/vdb1 on /data/fastdfs type ext4 (rw)
装包 修改配置文件 启动服务 查看端口
2 yum -y install gcc gcc-c++ libevent
6 yum -y install libevent-*.rpm
]#tar -zxf FastDFS_v4.06.tar.gz
]#cd FastDFS
]#./make.sh
]#./make.sh install
]# ls /etc/fdfs/ #配置文件存放目录
]# ls /usr/local/bin/ #命令文件存放目录

]# vim /etc/fdfs/storage.conf
base_path=/data/fastdfs

max_connections=4096store_path0=/data/fastdfs
subdir_count_per_path=256

tracker_server=192.168.4.111:22122
++++++++++++++++++++++++++++++++
2.3 启动服务
2.3.1 启动主控节点主机上的服务trackerd
209 /etc/init.d/fdfs_trackerd status
210 /etc/init.d/fdfs_trackerd start
211 netstat -utnalp | grep :22122
212 ps -C fdfs_trackerd
]#cd /data/fastdfs/
]#ls
data logs
219 cat data/storage_changelog.dat
221 vim logs/trackerd.log

2.3.2 启动数据节点主机上的storaged服务
193 cd FastDFS
197 cp init.d/fdfs_storaged /etc/init.d/
198 chmod +x /etc/init.d/fdfs_storaged
]# /etc/init.d/fdfs_storaged start
]#netstat -utnalp | grep :23000

++++++++++++++++++++++++++++++++++++
2.3 在客户端测试配置 250 、254
254:
]# ping -c 2 192.168.4.111
]# echo $PATH
]# mkdir /root/bin

创建连接主控服务器111的配置文件
]# scp 192.168.4.108:/etc/fdfs/client.conf /root/

]# vim /root/client.conf
10 base_path=/data/fastdfs
14 tracker_server=192.168.4.111:22122
:wq

]# mkdir -p /data/fastdfs

108:
把命令行,操作文件的命令传给客户端
]# scp fdfs_test 192.168.4.254:/root/bin/
]# scp fdfs_upload_file 192.168.4.254:/root/bin/
]# scp fdfs_download_file 192.168.4.254:/root/bin/
]# scp fdfs_delete_file 192.168.4.254:/root/bin/

250:
上传文件:
显示上传文件过程fdfs_test
不显示上传文件过程 fdfs_upload_file

]# fdfs_test 配置文件 上传 文件名

]# fdfs_test /root/client.conf upload foo.sh
]#fdfs_upload_file /root/client.conf /etc/passwd

删除文件
]# fdfs_test /root/client.conf delete group1 M00/00/00/wKgEbVp7fh-AdtHSAAAJ6YX0WVM0035120

下载文件
++++++++++++++++++++++++++++++++
把数据节点主机110添加到存储组group1里
110的配置: 准备存储空间 装包 修改配置文件 启动服务 查看端口

111的配置: 修改storage_ids.conf 添加新的存储主机
重启tracked 服务

250客户端测试:

++++++++++++++++++++++++++++++++++
在存储服务器上配置web服务,让客户端访问存储服务器的web服务上传和下载文件
108
1 运行nginx网站服务: 装包 修改配置文件 启动服务 查看端口
]# netstat -utnalp | grep :80
]# systemct stop httpd ; systemctl disable httpd

]# yum -y install gcc gcc-c++
]# useradd nginx
]# yum -y install pcre-devel zlib-devel

]#tar -zxf fastdfs-nginx-module_v1.16.tar.gz
]#tar -zxf nginx-1.7.10.tar.gz
]#cd nginx-1.7.10
]# ./configure --prefix=/usr/local/nginx --user=nginx
--group=nginx --add-module=../fastdfs-nginx-module/src/

]# make && make install
]# ls /usr/local/nginx/
conf html logs sbin

]# cp fastdfs-nginx-module/src/mod_fastdfs.conf /etc/fdfs/
]# vim /etc/fdfs/mod_fastdfs.conf
40 tracker_server=192.168.4.111:22122
53 url_have_group_name = true
47 group_name=group1
57 store_path_count=1
62 store_path0=/data/fastdfs/:wq

]#vim /usr/local/nginx/conf/nginx.conf
43 location / {
44 #root html;
45 #index index.html index.htm;
ngx_fastdfs_module;
46 }
:wq

[[email protected] ~]# /etc/init.d/fdfs_storaged stop
stopping fdfs_storaged ...
..
[[email protected] ~]# /etc/init.d/fdfs_storaged start
Starting FastDFS storage server:

[[email protected] ~]# /usr/local/nginx/sbin/nginx -t
ngx_http_fastdfs_set pid=8668
nginx: the configuration file /usr/local/nginx/conf/nginx.conf syntax is ok
nginx: configuration file /usr/local/nginx/conf/nginx.conf test is successful
[[email protected] ~]#

[[email protected] ~]# /usr/local/nginx/sbin/nginx
ngx_http_fastdfs_set pid=8674
[[email protected] ~]#

配置109 : 可以供客户端以web的方式访问。
装包 修改配置文件 启动服务

++++++++++++++++++++++++++++++++++++++++

客户端访问:
254: 上传文件
[ro[email protected] ~]# ls *.jpg
tedu.jpg
[[email protected] ~]# fdfs_upload_file /root/client.conf ./tedu.jpg
group1/M00/00/00/wKgEbFp7nlWABtXMAACwEV-ILDc616.jpg
[[email protected] ~]#

254: 通过访问web页面下载文件
]#firefox http://192.168.4.108/group1/M00/00/00/wKgEbFp7nlWABtXMAACwEV-ILDc616.jpg

http://192.168.4.108
80 -----> nginx----->连接tracked服务的模块->模块读取配置文件---> 访问taracked服务器--->配置文件

原文地址:http://blog.51cto.com/13478354/2070380

时间: 2024-10-12 08:01:11

05: 分布式文件系统 、 FastDFS原理 、 FastDFS配置及应用的相关文章

Moosefs分布式文件系统集群讲解配置

1 管理服务器(master-server):负责各个数据存储服务器的管理,文件读写调度,文件空间回收以及恢复.多节点拷贝 2 元数据日志服务器(changelog-server): 负责备份master服务器的变化,(一般情况下可以和管理服务器放在一起)文件类型为changelog_ml.*.mfs,以便于在master server出问题的时候接替其进行工作 3数据存储服务器(chunk-server):负责连接管理服务器,听从管理服务器调度,提供存储空间,并为客户提供数据传输. 4客户端(

分布式文件系统:原理、问题与方法

本地文件系统如ext3,reiserfs等(这里不讨论基于内存的文件系统),它们管理本地的磁盘存储资源.提供文件到存储位置的映射,并抽象出一套文件访问接口供用户使用.但随着互联网企业的高速发展,这些企业对数据存储的要求越来越高,而且模式各异,如淘宝主站的大量商品图片,其特点是文件较小,但数量巨大:而类似于youtube,优酷这样的视频服务网站,其后台存储着大量的视频文件,尺寸大多在数十兆到数吉字节不等.这些应用场景都是传统文件系统不能解决的.分布式文件系统将数据存储在物理上分散的多个存储节点上,

分布式文件系统:原理、问题与方法(转)

本地文件系统如ext3,reiserfs等(这里不讨论基于内存的文件系统),它们管理本地的磁盘存储资源.提供文件到存储位置的映射,并抽象出一套文件访问接口供用户使用.但随着互联网企业的高速发展,这些企业对数据存储的要求越来越高,而且模式各异,如淘宝主站的大量商品图片,其特点是文件较小,但数量巨大:而类似于youtube,优酷这样的视频服务网站,其后台存储着大量的视频文件,尺寸大多在数十兆到数吉字节不等.这些应用场景都是传统文件系统不能解决的.分布式文件系统将数据存储在物理上分散的多个存储节点上,

MFS分布式文件系统的原理及环境搭建

概述: NFS网络文件系统在性能与容量上无法胜任更高的要求,而本篇讲的MFS(MooseFS)可以提供容量PB级别的共享存储,无需昂贵的专业硬件服务器,自身就拥有冗余功能及动态扩容功能,能保证数据的安全性.` 分布式原理: 分布式文件系统(distributed file system)是指文件系统管理的物质存储资源不一定直接连接在本地节点上,而是通过计算机网络与节点相连.简单说就是把一些分布在局域网内各个计算机上的共享文件夹,集合到一个虚拟共享文件夹内,客户端访问只需要打开这个虚拟共享文件夹即

MFS分布式文件系统之原理

1.分布式原理分布式文件系统就是把一些分散在多台计算机上的共享文件夹,集合到一个共享文件夹内,用户要访问这些文件夹的时候,只要打开一个文件夹,就可以的看到所有链接到此文件夹内的共享文件夹.2.MFS原理MFS是一个具有容错性的网络分布式文件系统,它把数据分散存放在多个物理服务器上,而呈现给用户的则是一个统一的资源.1)MFS的组成元数据服务器(Master):在整个体系中负责管理文件系统,维护元数据,目前不支持高可用.元数据日志服务器(MetaLogger):备份Master服务器的变化日志文件

nfs的原理 安装配置方法 centos6.5

NFS周边 Network File System 作用 像访问本地文件一样去访问NFS服务器上的文件,目录 引用场景: ..1 用户上传的静态文件---图片,视频,用户上传的视频,头像 ..2 中小企业使用NFS的频路很高,如果高并发的大型网站可能使用分布式文件系统 ..3 有多个web服务器提供同一个服务的时候,这些server都使用后台的NFS ##用户上传信息存储位置区别 数据库:博文,帖子(按钮发布的文本) 共享存储:静态的文件,压缩包,图片,放在共享存储里面 #类似解决方案 网上邻居

MFS分布式文件系统

防伪码:我没有太多坚强,只比苦难多一点 第十一章  MFS分布式文件系统 前言:几台Web服务器通过NFS共享一个存储,在业务功能上满足需求,但在性能与容量上NFS无法胜任更高的要求.MFS即moosefs,可以提供容量FB级别的共享存储,无需昂贵的专业硬件服务器,自身拥有冗余功能及动态扩容功能,保证数据的安全性.本章将介绍MFS分布式文件系统的原理及环境搭建. 一. 工作原理 1.分布式原理 分布式文件系统就是把一些分散在多台计算机上的共享文件夹,集合到一个共享文件夹内,用户要访问这些文件夹的

Centos 7搭建GlusterFS分布式文件系统群集

关于GlusterFS分布式文件系统工作原理及相关概述请参考博文:GlusterFS分布式文件系统概述 一.搭建GlusterFS分布式文件系统群集 此案例相关软件包请访问:https://pan.baidu.com/s/1xazQAkR2Lm31njwu88Z9qA 提取码:qdiy 环境如下: 服务器相关信息: 磁盘相关信息: 部署前准备工作:在所有节点上执行以下操作,添加30G新硬盘,通过fdisk分区.mkfs格式化,创建相应的挂载目录,并将格式化的磁盘挂载到相应的目录中.最后根据实际情

分布式文件系统的实现

分布式文件系统的实现 ? 1 配置数据库节点node5(172.16.21.5) ? Mysql的cmake编译与安装,详细步步骤参照我的"Mysql的cmake编译与安装博文" [[email protected] ~]# mysql MariaDB [(none)]> create database mogilefs; Query OK, 1 row affected (0.02 sec) ? MariaDB [(none)]> use mogilefs Databas