FastDFS介绍

FastD FS简介

FastDFS是一个轻量级的开源分布式文件系统

FastDFS主要解决了大容量的文件存储和高并发访问的问题,文件存取时实现了负载均衡

FastDFS实现了软件方式的RAID,可以使用廉价的IDE硬盘进行存储

支持存储服务器在线扩容

支持相同内容的文件只保存一份,节约磁盘空间

FastDFS只能通过Client API访问,不支持POSIX访问方式

FastDFS特别适合大中型网站使用,用来存储资源文件(如:图片、文档、音频、视频等等)

FastDFS和集中存储方式对比

FastDFS和mogileFS对比

系统架构-架构图

系统架构-上传文件流程图

1. client询问tracker上传到的storage,不需要附加参数;

2. tracker返回一台可用的storage;

3. client直接和storage通讯完成文件上传。

系统架构-下载文件流程图

1. client询问tracker下载文件的storage,参数为文件标识(组名和文件名);

2. tracker返回一台可用的storage;

3. client直接和storage通讯完成文件下载。

相关术语

Tracker Server:跟踪服务器,主要做调度工作,在访问上起负载均衡的作用。记录storage server的状态,是连接Client和Storage server的枢纽。

Storage Server:存储服务器,文件和meta data都保存到存储服务器上

group:组,也可称为卷。同组内服务器上的文件是完全相同的

文件标识:包括两部分:组名和文件名(包含路径)

meta data:文件相关属性,键值对(Key Value Pair)方式,如:>

同步机制

同一组内的storage server之间是对等的,文件上传、删除等操作可以在任意一台storage server上进行;

文件同步只在同组内的storage server之间进行,采用push方式,即源服务器同步给目标服务器;

?         源头数据才需要同步,备份数据不需要再次同步,否则就构成环路了;

?         上述第二条规则有个例外,就是新增加一台storage server时,由已有的一台storage server将已有的所有数据(包括源头数据和备份数据)同步给该新增服务器。

通信协议

协议包由两部分组成:header和body

header共10字节,格式如下:

8 bytes body length

1 byte command

1 byte status

body数据包格式由取决于具体的命令,body可以为空

运行时目录结构-tracker server

${base_path}
    |__data
    |     |__storage_groups.dat:存储分组信息
    |     |__storage_servers.dat:存储服务器列表
    |__logs
          |__trackerd.log:tracker server日志文件

运行时目录结构-storage server

${base_path}
    |__data
    |     |__.data_init_flag:当前storage server初始化信息
    |     |__storage_stat.dat:当前storage server统计信息
    |     |__sync:存放数据同步相关文件
    |     |     |__binlog.index:当前的binlog文件索引号
    |     |     |__binlog.###:存放更新操作记录(日志)
    |     |     |__${ip_addr}_${port}.mark:存放同步的完成情况
    |     |
    |     |__一级目录:256个存放数据文件的目录,如:00, 1F
    |           |__二级目录:256个存放数据文件的目录
    |__logs
          |__storaged.log:storage server日志文件

安装和运行

#step 1. download FastDFS source package and unpack it,

# if you use HTTP to download file, please download libevent 1.4.x and install it

tar xzf FastDFS_v1.x.tar.gz

#for example:

tar xzf FastDFS_v1.20.tar.gz

#step 2. enter the FastDFS dir

cd FastDFS

#step 3. if HTTP supported, modify make.sh, uncomment the line:

# WITH_HTTPD=1, then execute:

./make.sh

#step 4. make install

./make.sh install

#step 5. edit/modify the config file of tracker and storage

#step 6. run server programs

#start the tracker server:

/usr/local/bin/fdfs_trackerd <tracker_conf_filename>

#start the storage server:

/usr/local/bin/fdfs_storaged <storage_conf_filename>

FastDFS和集中存储方式对比

FastDFS和mogileFS对比

参考网站

FastDFS中文:http://www.csource.org/

FastDFS英文:http://code.google.com/p/fastdfs/

时间: 2024-10-13 02:15:53

FastDFS介绍的相关文章

FastDFS介绍和配置过程

由于网站使用nfs共享方式保存用户上传的图片,附件等资料,然后通过apache下载的方式供用户访问,在网站架构初期,使用这种简单的方式实现了静态资源的读写分离,但随着网站数据量的增加,图片服务器渐渐成为整个网站的短板,缘次催生了使用fastfds的想法,故而先进行一番简单的测试!在开始之前还是先来看看fastfds的介绍信息: FastDFS is an open source high performance distributed file system (DFS). It's major

FastDFS介绍与安装

目录 FastDFS. 1 1     介绍.... 1 2     安装.... 4 2.1      安装libfastcommon. 4 2.1.1      下载安装包并解压.... 4 2.2      安装FastDFS. 5 2.3      安装nginx. 8 2.3.1      更新nginx安装库.... 8 2.3.2      安装nginx. 8 2.4      存储服务器(storage server)安装并配置nginx. 10 2.4.1      安装fa

分布式文件系统FastDFS介绍和配置过程

http://ylw6006.blog.51cto.com/470441/948729/ 由于网站使用nfs共享方式保存用户上传的图片,附件等资料,然后通过apache下载的方式供用户访问,在网站架构初期,使用这种简单的方式实现了静态资源的读写分离,但随着网站数据量的增加,图片服务器渐渐成为整个网站的短板,缘次催生了使用fastfds的想法,故而先进行一番简单的测试!在开始之前还是先来看看fastfds的介绍信息: FastDFS is an open source high performan

FastDFS源码学习(一)FastDFS介绍及源码编译安装

FastDFS是淘宝的余庆主导开发的一个分布式文件系统,采用C语言开发,性能较优.在淘宝网.京东商城.支付宝和某些网盘等系统均有使用,使用场景十分广泛. 下图来源:https://blog.csdn.net/kyriehe/article/details/52431495 目前这个系统的源码已在github上开源.编译FastDFS需要下载以下源码:FastDFS,下载地址:https://github.com/happyfish100/fastdfs libfastcommon,下载地址:ht

FastDFS介绍(一)

1.简介 FastDFS对文件进行管理,功能包括:文件存储.文件同步.文件访问(文件上传.文件下载.文件删除)等,解决了大容量文件存储的问题,特别适合以文件为载体的在线服务,如相册网站.文档网站.图片网站.视频网站等等: FastDFS充分考虑了冗余备份.线性扩容等机制,并注重高可用.高性能等指标,使用FastDFS很容易搭建一套高性能的文件服务器集群提供文件上传.下载等服务: Tracker Server:跟踪服务器,主要做调度工作,起到均衡的作用:负责管理所有的 storage server

FastDFS&#160;集群的安装、配置、使用

FastDFS 集群的安装.配置.使用 FastDFS 介绍(参考:http://www.oschina.net/p/fastdfs) FastDFS 是一个开源的分布式文件系统,它对文件进行管理,功能包括:文件存储.文件同步.文件 访问(文件上传.文件下载)等,解决了大容量存储和负载均衡的问题.特别适合以文件为载体的在线服务,如相册网站.视频网站等等. FastDFS 服务端有两个角色:跟踪器(tracker)和存储节点(storage).跟踪器主要做调度工作,在访问上起负载均衡的作用.存储节

FastDFS 的安装与配置

FastDFS 的安装与配置 ============================================================================= 概述: ============================================================================= FastDFS介绍  1.简介 ★介绍 开源的轻量级分布式文件系统: 使用 C++语言编写 FastDFS是一个开源的分布式文件系统,她对文件进行管理

FastDFS的安装配置

一:实验描述: fastdfs 介绍 FastDFS是一个开源的分布式文件系统,它对文件进行管理,功能包括:文件存储.文件同步.文件访问(文件上传.文件下载)等,解决了大容量存储和负载均衡的问题.特别适合以文件为载体的在线服务,如相册网站.视频网站等等. FastDFS服务端有两个角色:跟踪器(tracker)和存储节点(storage).跟踪器主要做调度工作,在访问上起负载均衡的作用. 存储节点存储文件,完成文件管理的所有功能:存储.同步和提供存取接口,FastDFS同时对文件的meta da

分布式文件系统(FastDFS+Tengine+fastdfs-nginx-module)

FastDFS介绍 FastDFS 服务有三个角色:跟踪服务器(tracker server).存储服务器(storage server)和客户端(client)tracker server:跟踪服务器,主要做调度工作,起到均衡的作用:负责管理所有的 storage server和group,每个 storage 在启动后会连接 Tracker,告知自己所属 group 等信息,并保持周期性心跳,Tracker根据 storage 心跳信息,建立 group--->[storage server