前面我們了解了分布式檔案系統mogilefs的框架以及安裝部署和簡單使用，回顧請參考https://www.cnblogs.com/qiuhom-1874/tag/MogileFS/；今天我們來了解下FastDFS集群的安裝部署；
FastDFS是由國人研發的一個輕量級分布式檔案系統，主要由tracker和storage兩部分組成，相比mogilefs它不依賴資料庫存盤檔案的元資料資訊；FastDFS利用檔案路徑來避免了在tracker上存盤檔案的元資料；而對于檔案本身的元資料，是由storage節點自身維護，我們可以理解tracker只負責維護集群的元資料，比如后端有哪些storage在線呀；對于用戶端要訪問某個檔案或者上傳某個檔案，首先客戶端還是要向tracker發送檔案上傳到請求，tracker收到請求后，然后根據后端storage周期性向它報告的心跳資訊來判斷哪個storage適合接受客戶端的檔案上傳請求，然后trancker就把對應storage的ip地址和埠回傳給客戶端，然后客戶端再向tracker回傳的ip：port發送檔案內容；在storage收到客戶端發送過來的上傳檔案請求，它會向客戶端回傳保存的檔案的fid；通常這個fid是由group名稱/磁盤id/1級子目錄/2級子目錄/檔案名哈希；然后再把客戶端發送過來的檔案內容保存到選定的位置，然后通知組中的其他節點同步資料；對于fastdfs來講，后端的storage是以組為單位進行調度的，一個group中有多個storageserver組成，每個storageserver間互相同步檔案，使得在同一組中storageserver上的檔案相同，從而實作了檔案的冗余；和mogilefs不同的是fastdfs的冗余是基于storage節點來做的，而mogilefs是基于device來做的；下載檔案的程序和上傳程序類似，首先client會想把下載請求發送給tracker，然后由tracker回傳storage的ip：port，然后客戶端再向storage server發送檔案下載請求，storage收到客戶端發送到檔案下載請求后，在本地節點查找對應的檔案，然后發送給客戶端；
FastDFS架構圖
提示：Tracker：調度器，負責維持集群的資訊，例如各group及其內部的storage node，這些資訊也是storage node報告所生成；每個storage node會周期性向tracker發心跳資訊；storage server：以group為單位進行組織，任何一個storage server都應該屬于某個group，一個group應該包含多個storage server；在同一個group內部，各storage server的資料互相冗余；每個storage server在檔案存盤完成后，會將其資訊存于binlog， binlog不包含資料，僅包含檔案名等元資料資訊；binlog可用于同步；
FastDFS集群安裝部署
環境說明
| 名稱 | 角色 | ip地址 | 埠 |
| node01 | tracker01 | 192.168.0.41 | 22122 |
| node02 | tracker02 | 192.168.0.42 | 22122 |
| node03 | storage node01/group1 | 192.168.0.43 | 23000 |
| node04 | storage node02/group1 | 192.168.0.44 | 23000 |
所用到的包http://www.qiuhom.com/d/151dcb1c1599434bb3d1/；
所有節點時間同步
在所有節點安裝所需要的包
[root@node01 ~]# rz
rz waiting to receive.
zmodem trl+C ?
100% 1 KB 1 KB/s 00:00:01 0 Errorsentos.x86_64.rpm...
100% 703 KB 703 KB/s 00:00:01 0 Errorsx86_64.rpm...
100% 199 KB 199 KB/s 00:00:01 0 Errors_64.rpm...
100% 128 KB 128 KB/s 00:00:01 0 Errors4.rpm...
100% 96 KB 96 KB/s 00:00:01 0 Errors64.rpm...
100% 33 KB 33 KB/s 00:00:01 0 Errorss.x86_64.rpm...
100% 35 KB 35 KB/s 00:00:01 0 Errors64.rpm...
100% 17 KB 17 KB/s 00:00:01 0 Errorss.x86_64.rpm...
[root@node01 ~]# ls
fastdfs-5.0.11-1.el7.centos.x86_64.rpm
fastdfs-debuginfo-5.0.11-1.el7.centos.x86_64.rpm
fastdfs-server-5.0.11-1.el7.centos.x86_64.rpm
fastdfs-tool-5.0.11-1.el7.centos.x86_64.rpm
libfastcommon-1.0.36-1.el7.centos.x86_64.rpm
libfastcommon-devel-1.0.36-1.el7.centos.x86_64.rpm
libfdfsclient-5.0.11-1.el7.centos.x86_64.rpm
libfdfsclient-devel-5.0.11-1.el7.centos.x86_64.rpm
[root@node01 ~]# yum -y install ./*.rpm
Loaded plugins: fastestmirror
Examining ./fastdfs-5.0.11-1.el7.centos.x86_64.rpm: fastdfs-5.0.11-1.el7.centos.x86_64
Marking ./fastdfs-5.0.11-1.el7.centos.x86_64.rpm to be installed
Examining ./fastdfs-debuginfo-5.0.11-1.el7.centos.x86_64.rpm: fastdfs-debuginfo-5.0.11-1.el7.centos.x86_64
Marking ./fastdfs-debuginfo-5.0.11-1.el7.centos.x86_64.rpm to be installed
Examining ./fastdfs-server-5.0.11-1.el7.centos.x86_64.rpm: fastdfs-server-5.0.11-1.el7.centos.x86_64
Marking ./fastdfs-server-5.0.11-1.el7.centos.x86_64.rpm to be installed
Examining ./fastdfs-tool-5.0.11-1.el7.centos.x86_64.rpm: fastdfs-tool-5.0.11-1.el7.centos.x86_64
Marking ./fastdfs-tool-5.0.11-1.el7.centos.x86_64.rpm to be installed
Examining ./libfastcommon-1.0.36-1.el7.centos.x86_64.rpm: libfastcommon-1.0.36-1.el7.centos.x86_64
Marking ./libfastcommon-1.0.36-1.el7.centos.x86_64.rpm to be installed
Examining ./libfastcommon-devel-1.0.36-1.el7.centos.x86_64.rpm: libfastcommon-devel-1.0.36-1.el7.centos.x86_64
Marking ./libfastcommon-devel-1.0.36-1.el7.centos.x86_64.rpm to be installed
Examining ./libfdfsclient-5.0.11-1.el7.centos.x86_64.rpm: libfdfsclient-5.0.11-1.el7.centos.x86_64
Marking ./libfdfsclient-5.0.11-1.el7.centos.x86_64.rpm to be installed
Examining ./libfdfsclient-devel-5.0.11-1.el7.centos.x86_64.rpm: libfdfsclient-devel-5.0.11-1.el7.centos.x86_64
Marking ./libfdfsclient-devel-5.0.11-1.el7.centos.x86_64.rpm to be installed
Resolving Dependencies
--> Running transaction check
---> Package fastdfs.x86_64 0:5.0.11-1.el7.centos will be installed
---> Package fastdfs-debuginfo.x86_64 0:5.0.11-1.el7.centos will be installed
---> Package fastdfs-server.x86_64 0:5.0.11-1.el7.centos will be installed
---> Package fastdfs-tool.x86_64 0:5.0.11-1.el7.centos will be installed
---> Package libfastcommon.x86_64 0:1.0.36-1.el7.centos will be installed
---> Package libfastcommon-devel.x86_64 0:1.0.36-1.el7.centos will be installed
---> Package libfdfsclient.x86_64 0:5.0.11-1.el7.centos will be installed
---> Package libfdfsclient-devel.x86_64 0:5.0.11-1.el7.centos will be installed
--> Finished Dependency Resolution
Dependencies Resolved
====================================================================================================
Package Arch Version Repository Size
====================================================================================================
Installing:
fastdfs x86_64 5.0.11-1.el7.centos /fastdfs-5.0.11-1.el7.centos.x86_64 0.0
fastdfs-debuginfo x86_64 5.0.11-1.el7.centos /fastdfs-debuginfo-5.0.11-1.el7.centos.x86_64 5.1 M
fastdfs-server x86_64 5.0.11-1.el7.centos /fastdfs-server-5.0.11-1.el7.centos.x86_64 548 k
fastdfs-tool x86_64 5.0.11-1.el7.centos /fastdfs-tool-5.0.11-1.el7.centos.x86_64 1.0 M
libfastcommon x86_64 1.0.36-1.el7.centos /libfastcommon-1.0.36-1.el7.centos.x86_64 459 k
libfastcommon-devel
x86_64 1.0.36-1.el7.centos /libfastcommon-devel-1.0.36-1.el7.centos.x86_64 143 k
libfdfsclient x86_64 5.0.11-1.el7.centos /libfdfsclient-5.0.11-1.el7.centos.x86_64 187 k
libfdfsclient-devel
x86_64 5.0.11-1.el7.centos /libfdfsclient-devel-5.0.11-1.el7.centos.x86_64 98 k
Transaction Summary
====================================================================================================
Install 8 Packages
Total size: 7.5 M
Installed size: 7.5 M
Downloading packages:
Running transaction check
Running transaction test
Transaction test succeeded
Running transaction
Installing : libfastcommon-1.0.36-1.el7.centos.x86_64 1/8
Installing : libfdfsclient-5.0.11-1.el7.centos.x86_64 2/8
Installing : libfdfsclient-devel-5.0.11-1.el7.centos.x86_64 3/8
Installing : fastdfs-server-5.0.11-1.el7.centos.x86_64 4/8
Installing : fastdfs-tool-5.0.11-1.el7.centos.x86_64 5/8
Installing : libfastcommon-devel-1.0.36-1.el7.centos.x86_64 6/8
Installing : fastdfs-5.0.11-1.el7.centos.x86_64 7/8
Installing : fastdfs-debuginfo-5.0.11-1.el7.centos.x86_64 8/8
Verifying : fastdfs-server-5.0.11-1.el7.centos.x86_64 1/8
Verifying : fastdfs-debuginfo-5.0.11-1.el7.centos.x86_64 2/8
Verifying : fastdfs-tool-5.0.11-1.el7.centos.x86_64 3/8
Verifying : fastdfs-5.0.11-1.el7.centos.x86_64 4/8
Verifying : libfdfsclient-5.0.11-1.el7.centos.x86_64 5/8
Verifying : libfastcommon-devel-1.0.36-1.el7.centos.x86_64 6/8
Verifying : libfastcommon-1.0.36-1.el7.centos.x86_64 7/8
Verifying : libfdfsclient-devel-5.0.11-1.el7.centos.x86_64 8/8
Installed:
fastdfs.x86_64 0:5.0.11-1.el7.centos fastdfs-debuginfo.x86_64 0:5.0.11-1.el7.centos
fastdfs-server.x86_64 0:5.0.11-1.el7.centos fastdfs-tool.x86_64 0:5.0.11-1.el7.centos
libfastcommon.x86_64 0:1.0.36-1.el7.centos libfastcommon-devel.x86_64 0:1.0.36-1.el7.centos
libfdfsclient.x86_64 0:5.0.11-1.el7.centos libfdfsclient-devel.x86_64 0:5.0.11-1.el7.centos
Complete!
[root@node01 ~]#
配置tracker
拷貝示例組態檔為/etc/fdfs/tracker.conf
cp /etc/fdfs/tracker.conf.sample /etc/fdfs/tracker.conf
編輯配置tracker.conf
提示：修改base_path和max_connections這兩項即可，base_path=用于指定存放data資料和日志檔案的目錄，max_connections用于指定最大連接數；后面還有很多引數和選項都是可以保持默認；
創建用于存放data資料和日志檔案的目錄（base_path指定的目錄，如果存在不用在創建）
啟動tracker
復制node01上的tracker組態檔到node02的/etc/fdfs/目錄下
在node02上創建對應目錄然后啟動tracker
到此兩個tracker節點就配置并啟動完成；
配置storage
提示：pase_path用于指定存放data和logs的目錄，后面的max_connections可以根據業務規模去設定；
提示：store_path_count用于指定磁盤個數，默認是1；store_path0用于指定第0快磁盤對應的目錄，如果有多塊這里可以寫多個；subdir_count_per_path用于指定一級子目錄和二級子目錄的目錄個數，這個值取值范圍是1-256，默認是256個；tracker_server用于指定tracker的地址，可以寫多個，用逗號隔開；storage節點設定以上內容就可以了；最上面有個group_name用于指定對應所屬那個組，默認是group1，如果有多個組可以設定其加入那個組；
在node03上創建base_path和store_path0所指定的目錄，然后啟動storage
把node03上的storage組態檔復制到node04上，然后在node04上創建對應的目錄，啟動storage
到此整個集群的tracker和storage節點就搭建并啟動完成
測驗：使用fdfs_test上傳檔案，看看是否能夠將檔案上傳上去？
提示：fdfs_test工具上傳檔案需要提供組態檔，然后加選項作業；
配置客戶端組態檔
提示：在client.conf中明確配置tracker的地址base_path即可；
使用fdfs_test 上傳檔案
提示：上傳檔案上傳完成了，回傳給我們一個http的連接，其實這個連接是無法訪問的，因為在storage上沒有提供http服務；需要手動安裝nginx進行反代；從上面回傳的資訊可以了解到，檔案存盤到192.168.0.43上去了；我們去對應節點上找對應的檔案，看看是否是我們上傳的檔案內容；
在node03上查看上傳的檔案
提示：可以看到在node03上的磁盤目錄下能夠找到對應的檔案，并且檔案內容也是我們上傳到檔案內容；
驗證：在node04的對應目錄看看是否有相同的檔案？
提示：可以看到node04上也有同node03一模一樣的檔案；這說明在node03接收完客戶端上傳的檔案后，通知node04過來同步了；
測驗：使用fdfs_test 下載檔案
提示：可以看到下載檔案也是沒有問題；并且它還告訴我們對應的存盤節點上192.168.0.44：23000；
提示：我們多次下載同一個檔案，它默認會從后端的group1中以輪詢的方式去storage節點下載對應的檔案；
為storage節點提供nginx反代，讓其能夠直接通過客戶端回傳的url訪問檔案內容
下載nginx原始碼包和支持fastdfs的第三方模塊
提示：nginx原始碼包去nginx官方網站下載即可，支持fastdfs第三方模塊可以去https://github.com/happyfish100/fastdfs-nginx-module/archive/V1.20.tar.gz下載；
安裝編譯環境
yum groupinstall -y "Development Tools"
提示：在所有storage節點上安裝好編譯換，方便后面再編譯nginx；
安裝依賴包
yum install pcre-devel openssl-devel zlib-devel libxslt-devel gd-devel perl-ExtUtils-Embed geoip-devel -y
創建nginx用戶
useradd -rs /sbin/nologin nginx
提示：以上幾步都在所有的storage上執行；
解壓nginx原始碼包和第三方模塊原始碼包，并進入到nginx原始碼包下
進行預編譯環境檢查
./configure \ --prefix=/usr/share/nginx \ --sbin-path=/usr/sbin/nginx \ --modules-path=/usr/lib64/nginx/modules \ --conf-path=/etc/nginx/nginx.conf \ --error-log-path=/var/log/nginx/error.log \ --http-log-path=/var/log/nginx/access.log \ --http-client-body-temp-path=/var/lib/nginx/tmp/client_body \ --http-proxy-temp-path=/var/lib/nginx/tmp/proxy \ --http-fastcgi-temp-path=/var/lib/nginx/tmp/fastcgi \ --http-uwsgi-temp-path=/var/lib/nginx/tmp/uwsgi \ --http-scgi-temp-path=/var/lib/nginx/tmp/scgi \ --pid-path=/var/run/nginx.pid \ --lock-path=/var/lock/subsys/nginx \ --user=nginx \ --group=nginx \ --with-file-aio \ --with-ipv6 \ --with-http_ssl_module \ --with-http_v2_module \ --with-http_realip_module \ --with-http_addition_module \ --with-http_xslt_module=dynamic \ --with-http_image_filter_module=dynamic \ --with-http_geoip_module=dynamic \ --with-http_sub_module \ --with-http_dav_module \ --with-http_flv_module \ --with-http_mp4_module \ --with-http_gunzip_module \ --with-http_gzip_static_module \ --with-http_random_index_module \ --with-http_secure_link_module \ --with-http_degradation_module \ --with-http_slice_module \ --with-http_stub_status_module \ --with-http_perl_module=dynamic \ --with-mail=dynamic \ --with-mail_ssl_module \ --with-pcre --with-pcre-jit \ --with-stream=dynamic \ --with-stream_ssl_module \ --with-debug \ --with-cc-opt='-O2 -g -pipe -Wall -Wp,-D_FORTIFY_SOURCE=2 -fexceptions -fstack-protector --param=ssp-buffer-size=4 -m64 -mtune=generic' \ --with-ld-opt=' -Wl,-E' \ --add-module=../fastdfs-nginx-module-1.20/src/
提示：如果預編譯環境檢查有提示錯誤，通常是系統環境缺少某些devel包導致的，安裝對應的devel包即可解決；
提示：提示以上資訊就表示編譯環境滿足編譯需求；
編譯安裝
make -j 4 && make install
提示：以上錯誤說common_define.h沒有找到，解決辦法修改fastdfs-niginx-module-1.20/src/下的config檔案內容；
提示：把上面注釋掉內容修改成紅色框里的內容，然后保存，重新預編譯檢查環境生成makefile;然后再次編譯；
提示：重新configure后再次編譯安裝就沒有出現什么錯誤；到此nginx的編譯安裝就完成了；
復制fastdfs-nginx-module-1.20/src/mod_fastdfs.conf 到/etc/fdfs/目錄下
編輯mod_fastdfs.conf
提示：mod_fastdfs.conf檔案主要修改base_path、tracker_server、store_path0 ... log_filename這四個引數；
在對應目錄下創建日志檔案，并把屬組和屬主修改成nginx用戶
[root@node03 fdfs]# touch /var/log/nginx/mod_fastdfs.log [root@node03 fdfs]# chown -R nginx.nginx /var/log/nginx/mod_fastdfs.log
配置nginx代理本地的M00
驗證nginx的組態檔語法
提示：這里提示我們缺少目錄；解決辦法創建對應的目錄，并且把屬組和屬主修改為nginx用戶；
提示：可以看到nginx已進起來了；
驗證：上傳圖片，然后用nginx去訪問對應的rul看看是否能夠訪問到對應的圖片？
提示：這里上傳圖片成功，并回傳圖片名；雖然它這里給我們回傳的是192.168.0.44的地址，但是node03和node04在同一個組中，所以我們訪問node03上對應檔案名稱也是能夠訪問到對應檔案內容的；
使用瀏覽器訪問192.168.0.43/M00/00/00/wKgALF9l4TWAE81tAA6q2wjnW8s693.jpg，看看是否訪問到我們上傳到圖片？
提示：可以看到訪問node03上的對應檔案名是可以訪問到我們上傳到檔案；說明在node03上基于nginx反代fastdfs是成功的；
驗證：在node01上抓包，看看node03和node04是否在周期性的報告自己的心跳資訊？
提示：可以看到node03和node04在給node01發送自己的心跳資訊；
轉載請註明出處，本文鏈接：https://www.uj5u.com/caozuo/84118.html
標籤：Linux
上一篇：如何在GitHub上大顯身手？
下一篇：WORD不能保存修改