一、常见分布式文件系统
二、MogileFS基本原理
三、MogileFS的实现
四、Fastdfs基本原理
五、Fastdfs的实现
六、Mogilefs与FastDFS的对比
数据存储是个永恒的话题，从结绳记数到文字出现，实现了数据信息表示方式的演化和进步，而存储介质的变化，在这一过程中，更是呈现了种类繁多的样式，记录是保存信息的一种有效方式，但随着时间的推移，数据信息的安全和持久必将打破传统的存储介质和存储思维的束缚，随着计算机技术的发展，再加上网络和通讯技术的成熟,存储变得无处不在，需要时时更新。存储需要保持实时读写，提供复杂的查询功能，缺乏容灾和备份能力，大量无结构的数据的存储和处理，对传统的存储方式提出挑战。这个时候，分布式存储，应运而生，就是将数据信息分散存储。
一、常见分布式文件系统
| Google Filesystem | GFS+MapReduce擅长处理单个大文件 |
| Hadoop Distributed Filesystem | GFS的山寨版+MapReduce，擅长处理单个大文件 |
| ClusterFS | 擅长处理单个大文件 |
| Taobao Filesystem | 擅长处理海量小文件 |
| MogileFS | 擅长处理海量小文件 |
| Ceph | PB级别的分布式文件系统 |
| MooseFS | 通用简便，适用于研发能力不强的公司 |
| Lustre | 一种平行分布式文件系统 |
二、MogileFS基本原理
MogileFS是一个开源的分布式文件存储系统，由LiveJournal旗下的Danga Interactive公司开发。其主要特性包括支持多节点冗余、实现文件自动复制、无需RAID、无特殊组件要求等。mogilefs主要有以下三部分构成：
1、Tracker：MogileFS 的核心部分，称为调度器，MogileFSd 进程就是trackers进程程序，trackers 做了很多工作：Replication,Deletion,Query,Reaper,Monitor 等等，这个是基于事件的( event-based ) 父进程/消息总线来管理所有来之于客户端应用的交互(requesting operations to be performed),，包括将请求负载平衡到多个“query workers”中，然后让 MogileFSd 的子进程去处理
2、Database：用来存放mogilefs的元数据
3、Storage server：mogilefs数据存储于此
MogileFS管理的几个概念：
1、Domain：一个MogileFS可以有多个Domain，用来存放不同文件（大小，类型），同一个Domain内key必须唯一，不同Domain内，key可以相同
2、每一个存储节点称为一个主机host，一个主机上可以有多个存储设备dev(单独的硬盘)，每个设备都有ID号，Domain+Fid用来定位文件
3、Class：文件属性管理，定位文件存储在不同设备上的份数
三、MogileFS的实现
工具：三台主机，角色如下
172.17.19.17：tracker+mysql
172.17.19.117：storage1
172.17.19.189：storage2
大环境：三台主机全部安装如下包
yum install perl-Net-Netmask perl-IO-String perl-Sys-Syslog perl-IO-AIO
yum -y install make gcc unzip perl-DBD-MySQL perl perl-CPAN perl-YAML perl-Time-HiRes
yum localinstall *
1、tracker配置
①[root@tracker ~]# yum install mariadb mariadb-server -y
[root@tracker ~]# systemctl start mariadb
②初始化数据库
[root@websrv /etc/mogilefs]# mysql -uroot -p
GRANT ALL PRIVILEGES ON *.* TO 'mogile' @'127.0.0.1' IDENTIFIED BY 'mogile' WITH GRANT OPTION; 授权
flush privileges; 清权限
[root@websrv /etc/mogilefs]# mogdbsetup --dbpass=mogile（一路y）
③[root@websrv /etc/mogilefs]# vim mogilefsd.conf
listen = 172.17.19.17:7001 监听的IP对应的port
db_user = mogile
db_pass = mogile
④启动服务
/etc/init.d/mogilefsd start
Starting mogilefsd (via systemctl): [ OK ]
[root@websrv /etc/mogilefs]# mogadm --tracker=172.17.19.17:7001 check 检测
Checking trackers...
172.17.19.17:7001 ... OK
Checking hosts...
No devices found on tracker(s). 此时只是配了tracker,还没有添加storage,所以是no devices
2、storage配置
[root@localhost mogilefs]# vim mogstored.conf
docroot = /data/mogdata
[root@localhost mogilefs]# mkdir /data/mogdata -p
chown mogilefs.mogilefs mogdata/ -R
[root@localhost mogilefs]# /etc/init.d/mogstored start
3、组合（也就是把storage“加到”tracker）
tracker操作
[root@websrv ~]# mogadm --tracker=172.17.19.17:7001 host add node1 --ip=172.17.19.117 --port=7500 --status=alive 指定storage为node1节点，alive的状态加到tracker里
[root@websrv ~]# mogadm --tracker=172.17.19.17:7001 host add node2 --ip=172.17.19.189 --port=7500 --status=alive
[root@websrv ~]# mogadm --tracker=172.17.19.17:7001 check
Checking trackers...
172.17.19.17:7001 ... OK
Checking hosts...
[ 1] node1 ... OK
[ 2] node2 ... OK
storage操作
[root@centos7 ~]# cd /data/mogdata/
[root@centos7 /data/mogdata]# ls
[root@centos7 /data/mogdata]# mkdir dev1
[root@centos7 /data/mogdata]# chown mogilefs.mogilefs dev1/ -R
[root@localhost mogilefs]# cd /data/mogdata/
[root@localhost mogdata]# mkdir dev2
[root@localhost mogdata]# chown mogilefs.mogilefs dev2/ -R
tracker操作
[root@websrv ~]# mogadm --tracker=172.17.19.17:7001 device add node1 1
[root@websrv ~]# mogadm --tracker=172.17.19.17:7001 device add node2 2
[root@websrv ~]# mysql -uroot -p
4、上传一张图片，测试是否能存储成功
tracker操作
[root@websrv /etc/mogilefs]# mogadm --tracker=172.17.19.17:7001 domain add img
[root@websrv /etc/mogilefs]# mogadm --tracker=172.17.19.17:7001 domain list
domain class mindevcount replpolicy hashtype
-------------------- -------------------- ------------- ------------ -------
img default 2 MultipleHosts() NONE
[root@websrv ~]# mogupload --tracker=172.17.19.17:7001 --domain=img --key=test --file=test.jpg
浏览器访问查找出来的路径，出现图片，测试成功
四、Fastdfs基本原理
FastDFS是一个由国人余庆开发的轻量级的开源分布式文件系统，主要解决了大容量的文件存储和高并发访问的问题，文件存取时实现了负载均衡。它用纯C语言实现，支持Linux、FreeBSD、AIX等UNIX系统。其特性包括分组存储、灵活简洁、支持多块磁盘、节省存储空间等，FastDFS的核心组件如下：
1、Tracker：调度器，负责维持集群的信息，例如各group及其内部的storage node，这些信息也是storage node报告所生成；每个storagenode会周期性向tracker发心跳信息；
2、storage server：以group为单位进行组织，任何一个storage server都应该属于某个group，一个group应该包含多个storage server；在同一个group内部，各storage server的数据互相冗余；
五、Fastdfs的实现
工具：三台主机，角色如下
172.17.19.17：tracker+mysql
172.17.19.117：storage1
172.17.19.189：storage2
大环境：三台机器全部安装如下包
fastdfs-5.0.11-1.el7.centos.x86_64.rpm
fastdfs-debuginfo-5.0.11-1.el7.centos.x86_64.rpm
fastdfs-server-5.0.11-1.el7.centos.x86_64.rpm
fastdfs-tool-5.0.11-1.el7.centos.x86_64.rpm
libfdfsclient-devel-5.0.11-1.el7.centos.x86_64.rpm
libfdfsclient-5.0.11-1.el7.centos.x86_64.rpm
libfastcommon-1.0.36-1.el7.centos.x86_64.rpm nginx-filesystem-1.10.2-1.el7.centos.noarch.rpm
libfastcommon-devel-1.0.36-1.el7.centos.x86_64.rpm
1、编辑配置文件
tracker操作
[root@websrv /etc/fdfs]# vim tracker.conf
disabled=false 默认为false，表示是否无效
port=22122 默认为22122
base_path=/data/fastdfs/tracker
启动服务
[root@websrv /etc/fdfs]# /etc/init.d/fdfs_trackerd start
或者systemctl status fdfs_trackerd
Starting fdfs_trackerd (via systemctl): [ OK ]
storage操作
[root@centos7 ~/fastdfs]# cd /etc/fdfs/
[root@centos7 /etc/fdfs]# ls
anti-steal.jpg http.conf storage.conf.sample tracker.conf.sample
client.conf.sample mime.types storage_ids.conf.sample
[root@centos7 /etc/fdfs]# cp storage.conf.sample storage.conf
[root@centos7 /etc/fdfs]# vim storage.conf
disabled=false 默认为false，表示是否无效
port=23000 默认为23000
base_path=/data/fastdfs/storage
tracker_server=172.17.19.17:22122
store_path0=/data/fastdfs/storage
http.server_port=8888
启动服务
systemctl start fdfs_storaged
2、配置完成，测试、上传文件
在tracker上配置客户端
[root@websrv /etc/fdfs]# cp client.conf.sample client.conf
[root@websrv /etc/fdfs]# vim client.conf
base_path=/data/fastdfs/tracker
tracker_server=172.17.19.17:22122
[root@websrv ~]# fdfs_upload_file /etc/fdfs/client.conf test.jpg
group1/M00/00/00/rBETvVoc0meAcLtvAAAcdXbJWOo831.jpg
storge 上查看，图片已存储，测试成功
[root@localhost 00]# ls
rBETvVoc0meAcLtvAAAcdXbJWOo831.jpg
[root@localhost 00]# pwd
/data/fastdfs/storage/data/00/00
六、Mogilefs与FastDFS的对比
介绍结束，谢谢浏览~
