fastDSF介绍
FastDFS是用c语言编写的一款开源的分布式文件系统，它是由淘宝资深架构师余庆编写并开源。FastDFS专为互联网量身定制，充分考虑了冗余备份、负载均衡、线性扩容等机制，并注重高可用、高性能等指标，使用FastDFS很容易搭建一套高性能的文件服务器集群提供文件上传、下载等服务。
为什么要使用fastDFS呢？
NFS、GFS都是通用的分布式文件系统，通用的分布式文件系统的优点的是开发体验好，但是系统复杂性高、性能一般，而专用的分布式文件系统虽然开发体验性差，但是系统复杂性低并且性能高。fastDFS非常适合存储图片等那些小文件，fastDFS不对文件进行分块，所以它就没有分块合并的开销，fastDFS网络通信采用socket，通信速度很快。
文件上传流程
- group1：组名：文件上传后所在的storage组名称，在文件上传成功后有storage服务器返回，需要客户端自行保存。
- /M00：虚拟磁盘路径：storage配置的虚拟路径，与磁盘选项store_path*对应。如果配置了store_path0则是M00，如果配置了store_path1则是M01，以此类推。
- /02/44：数据两级目录：storage服务器在每个虚拟磁盘路径下创建的两级目录，用于存储数据文件。
- wkgDr...78.sh：文件名，与文件上传时不同。是由存储服务器根据特定信息生成，文件名包含：源存储服务器IP地址、文件创建时间戳、文件大小、随机数和文件拓展名等信息。
文件下载流程
- 1.通过组名tracker能够很快的定位到客户端需要访问的存储服务器组是group1，并选择合适的存储服务器提供客户端访问。
- 2.存储服务器根据“文件存储虚拟磁盘路径”和“数据文件两级目录”可以很快定位到文件所在目录，并根据文件名找到客户端需要访问的文件。
fastDFS安装与配置（Centos）
参考：https://www.cnblogs.com/handsomeye/p/9451568.html
安装 gcc
gcc：yum install gcc-c++
安装 libevent
yum -y install libevent
安装 libfastcommon
wget https://github.com/happyfish100/libfastcommon/archive/V1.0.38.tar.gz
解压安装包：tar -zxvf V1.0.38.tar.gz
2、进入目录
cd libfastcommon-1.0.38
3、执行编译
./make.sh
4、安装
./make.sh install
安装FastDFS
1、获取fdfs安装包：
wget https://github.com/happyfish100/fastdfs/archive/V5.11.tar.gz
2、解压安装包：tar -zxvf V5.11.tar.gz
3、进入目录：cd fastdfs-5.11
4、执行编译：./make.sh
5、安装：./make.sh install
6、查看可执行命令：ls -la /usr/bin/fdfs*
配置Tracker服务
1、进入 /etc/fdfs 目录，有三个.sample后缀的文件（自动生成的fdfs模板配置文件），通过cp命令拷贝tracker.conf.sample，删除.sample后缀作为正式文件(可以不删除)
2、编辑tracker.conf：vi tracker.conf，修改相关参数
base_path=/home/mm/fastdfs/tracker #tracker存储data和log的跟路径，必须提前创建好 port=23000 #tracker默认23000 http.server_port=80 #http端口，需要和nginx相同
3、启动tracker（支持start|stop|restart）
/usr/bin/fdfs_trackerd /etc/fdfs/tracker.conf start
4、查看tracker启动日志：进入刚刚指定的 base_path(/home/mm/fastdfs/tracker)中有个logs目录，查看tracker.log文件
5、查看端口情况：netstat -apn|grep fdfs
配置Storage服务(如果和Tracker服务器不在同一台服务器上)
安装 gcc （如果storage服务和tracker服务配置在同一台机器上就不需要安装）
安装 libevent（如果storage服务和tracker服务配置在同一台机器上就不需要安装）
安装 libfastcommon（如果storage服务和tracker服务配置在同一台机器上就不需要安装）
安装FastDFS（如果storage服务和tracker服务配置在同一台机器上就不需要安装）
1、进入/etc/fdfs目录，有cp命令拷贝storage.conf.sample，删除.sample后缀作为正式文件;（可以不用删除）
2、编辑storage.conf：vi storage.conf，修改相关参数：
base_path=/home/mm/fastdfs/storage #storage存储data和log的跟路径，必须提前创建好 port=23000 #storge默认23000，同一个组的storage端口号必须一致 group_name=group1 #默认组名，根据实际情况修改 store_path_count=1 #存储路径个数，需要和store_path个数匹配 store_path0=/home/mm/fastdfs/storage #如果为空，则使用base_path， #store_path1=/xx/xx #如果有多个磁盘使用 tracker_server=10.122.149.211:22122 #配置该storage监听的tracker的ip和port #tracker_server=10.122.149.212:22122 #如果有多个tracker服务器
3、启动storage（支持start|stop|restart）：
/usr/bin/fdfs_storaged /etc/fdfs/storage.conf start
4、查看storage启动日志：进入刚刚指定的base_path(/home/mm/fastdfs/storage)中有个logs目录，查看storage.log文件
5、此时再查看tracker日志：发现已经开始选举，并且作为唯一的一个tracker，被选举为leader
6、查看端口情况：netstat -apn|grep fdfs
7、通过monitor来查看storage是否成功绑定
/usr/bin/fdfs_monitor /etc/fdfs/storage.conf
上传/下载文件测试
参考：https://github.com/happyfish100/fastdfs-client-java
依赖
<dependency>
<groupId>net.oschina.zcx7878</groupId>
<artifactId>fastdfs-client-java</artifactId>
<version>1.27.0.0</version>
</dependency>
创建fastdfs-client.properties
fastdfs.connect_timeout_in_seconds = 5 #http连接超时时间 fastdfs.network_timeout_in_seconds = 30 #tracker和storage网络通讯超时时间 fastdfs.charset = UTF-8 #字符编码 fastdfs.tracker_servers = 192.168.101.65:22122 #tracker服务器地址，多个地址使用，分割
测试
import org.csource.common.MyException;
import org.csource.fastdfs.*;
import org.junit.Test;
import org.junit.runner.RunWith;
import org.springframework.boot.test.context.SpringBootTest;
import org.springframework.test.context.junit4.SpringRunner;
import java.io.File;
import java.io.FileOutputStream;
import java.io.IOException;
/**
* @author Administrator
* @version 1.0
**/
@SpringBootTest
@RunWith(SpringRunner.class)
public class TestFastDFS {
//上传文件
@Test
public void testUpload(){
try {
//加载fastdfs-client.properties配置文件
ClientGlobal.initByProperties("config/fastdfs-client.properties");
//定义TrackerClient，用于请求TrackerServer
TrackerClient trackerClient = new TrackerClient();
//连接tracker
TrackerServer trackerServer = trackerClient.getConnection();
//获取Stroage
StorageServer storeStorage = trackerClient.getStoreStorage(trackerServer);
//创建stroageClient
StorageClient1 storageClient1 = new StorageClient1(trackerServer,storeStorage);
//向stroage服务器上传文件
//本地文件的路径
String filePath = "d:/logo.png";
//上传成功后拿到文件Id
String fileId = storageClient1.upload_file1(filePath, "png", null);
System.out.println(fileId);
//group1/M00/00/01/wKhlQVuhU3eADb4pAAAawU0ID2Q159.png
} catch (Exception e) {
e.printStackTrace();
}
}
//下载文件
@Test
public void testDownload(){
try {
//加载fastdfs-client.properties配置文件
ClientGlobal.initByProperties("config/fastdfs-client.properties");
//定义TrackerClient，用于请求TrackerServer
TrackerClient trackerClient = new TrackerClient();
//连接tracker
TrackerServer trackerServer = trackerClient.getConnection();
//获取Stroage
StorageServer storeStorage = trackerClient.getStoreStorage(trackerServer);
//创建stroageClient
StorageClient1 storageClient1 = new StorageClient1(trackerServer,storeStorage);
//下载文件
//文件id
String fileId = "group1/M00/00/01/wKhlQVuhU3eADb4pAAAawU0ID2Q159.png";
byte[] bytes = storageClient1.download_file1(fileId);
//使用输出流保存文件
FileOutputStream fileOutputStream = new FileOutputStream(new File("c:/logo.png"));
fileOutputStream.write(bytes);
} catch (IOException e) {
e.printStackTrace();
} catch (MyException e) {
e.printStackTrace();
}
}
}
搭建图片虚拟服务器
在storage安装Nginx和fastdfs-nginx-module模块
在storage server上安装nginx的目的是对外通过http 访问 storage server上的文件。使用nginx的模块FastDFS-nginx-module的作用是当通过http方式访问storage中的文件，如果当前storage本机没有要找的文件时向源 storage主机代理请求文件（上传文件时，我们是将文件上传到源storage服务器，此时同一组的其他storage服务器来同步源storage服务器文件）
nginx 代理
#storage群group1组
upstream storage_server_group1{
server 192.168.101.5:80 weight=10;
server 192.168.101.6:80 weight=10;
}
#storage群 group2组
upstream storage_server_group2{
server 192.168.101.7:80 weight=10;
server 192.168.101.8:80 weight=10;
}
server {
listen 80;
server_name ccc.test.com;
location /group1{
proxy_redirect off;
proxy_set_header Host $host;
proxy_set_header X-Real-IP $remote_addr;
proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
proxy_pass http://storage_server_group1;
}
location /group2{
proxy_redirect off;
proxy_set_header Host $host;
proxy_set_header X-Real-IP $remote_addr;
proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
proxy_pass http://storage_server_group2;
}
}
在Storage上安装nginx和fastdfs-nginx-module
1、 下载Nginx安装包
wget http://nginx.org/download/nginx-1.15.2.tar.gz
解压nginx：tar -zxvf nginx-1.15.2.tar.gz
2、下载fastdfs-nginx-module安装包
wget https://github.com/happyfish100/fastdfs-nginx-module/archive/V1.20.tar.gz
解压fastdfs-nginx-module：tar -xvf V1.20.tar.gz
fastdfs-nginx-module模块配置
1、修改fastdfs-nginx-module-1.20/src/config文件，将/usr/local/路径改为/usr/
2、将FastDFS-nginx-module/src下的mod_FastDFS.conf拷贝至/etc/fdfs/下
cp mod_FastDFS.conf /etc/fdfs/
3、并修改 mod_FastDFS.conf 的内容：vi /etc/fdfs/mod_FastDFS.conf
base_path=/home/mm/fastdfs tracker_server=10.122.149.211:22122 #tracker的地址 url_have_group_name=true #url是否包含group名称 storage_server_port=23000 #需要和storage配置的相同 store_path_count=1 #存储路径个数，需要和store_path个数匹配 store_path0=/home/mm/fastdfs/storage #文件存储的位置
nginx 模块配置
1、加载fastdfs-nginx-module模块
./configure --prefix=/usr/local/nginx --add-module=/usr/local/src/fastdfs-nginx-module-1.20/src/
更多配置配置
./configure --prefix=/usr/local/nginx --pid-path=/var/run/nginx/nginx.pid --lock-path=/var/lock/nginx.lock --error-log-path=/var/log/nginx/error.log --http-log-path=/var/log/nginx/access.log --with-http_gzip_static_module --http-client-body-temp-path=/var/temp/nginx/client --http-proxy-temp-path=/var/temp/nginx/proxy --http-fastcgi-temp-path=/var/temp/nginx/fastcgi --http-uwsgi-temp-path=/var/temp/nginx/uwsgi --http-scgi-temp-path=/var/temp/nginx/scgi --add-module=/usr/local/FastDFS-nginx-module/src
2、编译安装：
make make install
nginx配置
server {
listen 80;
server_name 192.168.101.65;
location /group1/M00/{
root /home/FastDFS/fdfs_storage/data;
ngx_FastDFS_module;
}
}