FastDFS分布式存储服务器安装

分布式片服FastDFS

1. 什是FastDFS

FastDFS 是用 c 语言编写的一款开源的分布式文件系统。FastDFS 为互联网量身定制, 充分考虑了冗余备份、负载均衡、线性扩容等机制,并注重高可用、高性能等指标,使用 FastDFS 很容易搭建一套高性能的文件服务器集群提供文件上传、下载等服务。

FastDFS 架构包括 Tracker server 和 Storage server。客户端请求 Tracker server 进行文 件上传、下载,通过 Tracker server 调度最终由 Storage server 完成文件上传和下载。

Tracker server 作用是负载均衡和调度,通过 Tracker server 在文件上传时可以根据一些 策略找到 Storage server 提供文件上传服务。可以将 tracker 称为追踪服务器或调度服务 器。

Storage server 作用是文件存储,客户端上传的文件最终存储在 Storage 服务器上, Storageserver 没有实现自己的文件系统而是利用操作系统 的文件系统来管理文件。可以将 storage 称为存储服务器。

服务端两个角色:

Tracker:管理集群,tracker 也可以实现集群。每个 tracker 节点地位平等。收集 Storage 集群的状态。

Storage:实际保存文件 Storage 分为多个组,每个组之间保存的文件是不同的。每 个组内部可以有多个成员,组成员内部保存的内容是一样的,组成员的地位是一致的,没有 主从的概念。

2文件上传流

客户端上传文件后存储服务器将文件 ID 返回给客户端,此文件 ID 用于以后访问该文 件的索引信息。文件索引信息包括:组名,虚拟磁盘路径,数据两级目录,文件名。

组名:文件上传后所在的 storage 组名称,在文件上传成功后有 storage 服务器返回, 需要客户端自行保存。

虚拟磁盘路径:storage 配置的虚拟路径,与磁盘选项 store_path*对应。如果配置了 store_path0 则是 M00,如果配置了 store_path1 则是 M01,以此类推。

数据两级目录:storage 服务器在每个虚拟磁盘路径下创建的两级目录,用于存储数据 文件。

文件名:与文件上传时不同。是由存储服务器根据特定信息生成,文件名包含:源存储 服务器 IP 地址、文件创建时间戳、文件大小、随机数和文件拓展名等信息。

3. 文件下载流程

4. 简FastDFS架构

5  FastDFS安装

5.1 安装fastdfs依赖包

1. 解压缩libfastcommon-master.zip

2. 进入到libfastcommon-master的目录中

3. 执行 ./make.sh

4. 执行 sudo ./make.sh install

5.2 安装fastdfs

1. 解压缩fastdfs-master.zip
2. 进入到 fastdfs-master目录中
3. 执行 ./make.sh
4. 执行 sudo ./make.sh install

5.3 配置跟踪服务器tracker

1. sudo cp /etc/fdfs/tracker.conf.sample /etc/fdfs/tracker.conf

2. 在/home/python/目录中创建目录 fastdfs/tracker

mkdir –p /home/python/fastdfs/tracker

3. 编辑/etc/fdfs/tracker.conf配置修改文件

sudo vim /etc/fdfs/tracker.conf

base_path=/home/python/fastdfs/tracker

5.4 配置存储服务器storage

1. sudo cp /etc/fdfs/storage.conf.sample /etc/fdfs/storage.conf

2. 在/home/python/fastdfs/ 目录中创建目录 storage

mkdir –p /home/python/fastdfs/storage

3. 编辑/etc/fdfs/storage.conf配置文件  sudo vim /etc/fdfs/storage.conf

修改内容:

base_path=/home/python/fastdfs/storage

store_path0=/home/python/fastdfs/storage

tracker_server=自己ubuntu虚拟机的ip地址:22122
5.5 启动tracker 和 storage

sudo service fdfs_trackerd start

sudo service fdfs_storaged start

5.6 测试是否安装成功

1. sudo cp /etc/fdfs/client.conf.sample /etc/fdfs/client.conf

2. 编辑/etc/fdfs/client.con修改f配置文件内容

sudo vim /etc/fdfs/client.conf

base_path=/home/python/fastdfs/tracker

tracker_server=自己ubuntu虚拟机的ip地址:22122

3. 上传文件测试:

fdfs_upload_file /etc/fdfs/client.conf 要上传的图片文件

https://my.oschina.net/u/2484581/blog/1942124

如果返回类似group1/M00/00/00/rBIK6VcaP0aARXXvAAHrUgHEviQ394.jpg的文件id则说明文件上传成功

5.7 安装nginx及fastdfs-nginx-module

获取文件的时候就要借助nginx服务器

1. 解压缩 nginx-1.8.1.tar.gz

2. 解压缩 fastdfs-nginx-module-master.zip

3. 进入nginx-1.8.1目录中
4. 执行

sudo ./configure --prefix=/usr/local/nginx/ --add-module=fastdfs-nginx-module-master解压后的目录的绝对路径/src

sudo ./make

sudo ./make install
5. sudo cp /home/python/桌面/fastdfs-nginx-module-master/src

mod_fastdfs.conf  /etc/fdfs/mod_fastdfs.conf
6. sudo vim /etc/fdfs/mod_fastdfs.conf

修改内容:

connect_timeout=10

tracker_server=自己ubuntu虚拟机的ip地址:22122

url_have_group_name=true

store_path0=/home/python/fastdfs/storage

  

7. sudo cp 解压缩的fastdfs-master目录中的http.conf /etc/fdfs/http.conf
8. sudo cp 解压缩的fastdfs-master目录中的mime.types /etc/fdfs/mime.types
9.sudo vim /usr/local/nginx/conf/nginx.conf

在http部分中添加配置信息如下:

server {

            listen       8888;

            server_name  localhost;

            location ~/group[0-9]/ {

                ngx_fastdfs_module;

            }

            error_page   500 502 503 504  /50x.html;

            location = /50x.html {

            root   html;

            }

        }
10. 启动nginx

sudo /usr/local/nginx/sbin/nginx

6. 使用python客户端上传测试

1. workon django_py3

2. 进入fdfs_client-py-master.zip所在目录

3. pip install fdfs_client-py-master.zip

4.

>>> from fdfs_client.client import Fdfs_client

>>> client = Fdfs_client(‘/etc/fdfs/client.conf‘)

>>> ret = client.upload_by_filename(‘test‘)

>>> ret

{‘Group name‘:‘group1‘,‘Status‘:‘Upload successed.‘, ‘Remote file_id‘:‘group1/M00/00/00/

wKjzh0_xaR63RExnAAAaDqbNk5E1398.py‘,‘Uploaded size‘:‘6.0KB‘,‘Local file name‘:‘test‘

, ‘Storage IP‘:‘192.168.243.133‘}

 

原文地址:https://www.cnblogs.com/yao950814/p/10294356.html

时间: 2024-08-30 16:59:18

FastDFS分布式存储服务器安装的相关文章

centos6.5下搭建fastdfs分布式存储

← 使用iftop监控linux网络流量 分布式文件系统FastDFS原理介绍 → centos6.5下搭建fastdfs分布式存储 2014-04-24 Venus FastDFSGo to comment fastDFS下载地址:http://code.google.com/p/fastdfs/downloads/listlibevent官网: http://libevent.org/ 目前最新版:https://github.com/downloads/libevent/libevent/

FastDFS分布式存储实战

<FastDFS分布式存储实战> 一.技术选型二.FastDFS相关组件及原理FastDFS介绍FastDFS架构FastDFS工作流程上传同步机制下载文件合并原理三.实验环境说明四.FastDFS部署初始化系统安装libfastcommon和fastdfsstorage server安装nginx配置mod_fastdfs.conf配置下载网关tracker和storage目录结构测试五.高级功能防盗链在线扩容增加group组内增加storage server故障磁盘移除文件去重存储自定义文

Linux下FastDFS分布式存储-总结及部署记录

https://www.cnblogs.com/kevingrace/p/8471827.html 一.分布式文件系统介绍分布式文件系统:Distributed file system, DFS,又叫做网络文件系统:Network File System.一种允许文件通过网络在多台主机上分享的文件系统,可让多机器上的多用户分享文件和存储空间.特点:在一个分享的磁盘文件系统中,所有节点对数据存储区块都有相同的访问权,在这样的系统中,访问权限就必须由客户端程序来控制.分布式文件系统可能包含的功能有:

centos6.5搭建fastdfs分布式存储

系统环境: 操作系统:Centos6.5X86_64 fastdfs版本: FastDFS_v5.02.tar Fastdfs_tracker IP:172.16.4.30 Fastdfs_storage_s1 IP:172.16.4.31 Fastdfs_storage_s1 IP:172.16.4.32 Fastdfs_client IP:172.16.4.33 一.fastdfs和libevent的下载 地址: http://sourceforge.net/projects/fastdfs

搭建FastDFS分布式存储环境(使用Nginx模块)

上次搭建FastDFS使用的版本是v4.05,见http://www.linuxidc.com/Linux/2014-10/107592.htm这个版本已经比较旧了 最新的版本是v5.04,由于作者重构了代码,所以安装过程还是有一些不一致.最新版本下载地址:http://sourceforge.net/projects/fastdfs/files/安装可以参考压缩包内的INSTALL文件. 实验还是搭建一个FastDFS环境,并增加Nginx模块所用软件:FastDFS_v5.04.tar.gz

fastDFS图片服务器安装详情

项目整体环境搭建    1.安装gcc环境(编译c环境)        yum install gcc-c++    2.安装libebvent环境(fastdfs环境)        yum -y install libevent    3.安装perl环境(编译c文件环境)        ./    4.安装libfastcommon环境(fastdfs环境)        将提供的压缩包全部上传,首先解压libfastcommonV1.0.7.tar        tar -zxvf li

django项目之集成FastDFS 分布式存储

一.准备可以联网的ubuntu系统或者是Centos系统至少一台 二.安装docker centos安装docker详见链接:https://www.cnblogs.com/shangguanruoling/p/11799597.html 如下是关于ubuntu安装docker: sudo apt-get update #更新ubuntu的apt源索引 sudo dpkg --configure -a sudo apt-get install apt-transport-https ca-cer

fastDFS文件服务器迁移

在实际的项目应用中,由于服务器替换或项目变更难免会存在fastDFS文件服务器迁移的工作.本文重点介绍fastDFS文件系统在不同情况下的文件迁移处理方案. 1.迁移时IP地址不变 通过文件服务器存储规则定义,发现当ip地址没有发生变化时,这种文件服务器迁移是最简单的,只需要在新的服务器上安装fastDFS,把原来服务器上的tracker和storage下面的所有目录文件拷贝到新服务器,把所有的配置文件拷贝到新服务器,启动tracker和storage服务即可. 2.迁移时IP地址变化采用自定义

浅谈如何打造一个安全稳定高效的容器云平台

本文介绍了容器的现状和发展趋势,容器集群编排引擎选型,跨主机网络通信,定制化方案,公有云,私有云及混合云的场景及实现等内容,说明如何打造简单而强大的容器云平台. 1. 容器技术现状及发展趋势 什么是容器? 我们可以将容器理解为一种沙盒,每个容器具有独立的操作系统资源,不同的容器之间相互隔离,也可以建立通信,应用跑在各自的容器中,避免了环境中有冲突的资源使用,做到一次封装,到处运行. 那容器与虚拟机的区别在哪? 容器可以看做轻量的虚拟机,虚机启动可能需要数分钟或者更长,而容器只需几十毫秒.传统虚拟