引言

本次實踐部署mongodb集群，
主要借鑒于該博客（https://blog.csdn.net/weixin_42104521/article/details/103731266），

一、原理簡析

Mongodb一共有三種集群搭建的方式：
Replica Set（副本集）、
Sharding（切片）
Master-Slaver（主從）

mongoDB目前已不推薦使用主從模式，取而代之的是副本集模式，副本集其實一種互為主從的關系，可理解為主主，
副本集：指將資料復制，多份保存，不同服務器保存同一份資料，在出現故障時自動切換，對應的是資料冗余、備份、鏡像、讀寫分離、高可用性等關鍵詞；
分片：則指為處理大量資料，將資料分開存盤，不同服務器保存不同的資料，它們的資料總和即為整個資料集，追求的是高性能，

本實驗模擬的MongoDB集群分以下幾個層次或角色

mongos層：請求的入口，是router的角色，相當于監聽，負責將請求分發到對應的存盤資料的shard上，多副本冗余

config server層：記錄了mongos中使用到的元資料，自動向mongos同步最新的集群配置，多副本冗余

shard主節點層：將資料分片，資料庫拆分，并將其分散在不同的機器上，原理是將整個資料集合切塊
塊分散到各個shard中，每個shard只負責總資料的一部分，通過一個均衡器來對各個shard均衡，多副本冗余

shard副本層：是shard的備份，多副本冗余

shard仲裁層：用于仲裁，不存盤資料，使用最小的資源，需要基數個仲裁角色，且不能放在同一設備上

主機角色埠規劃

本次實踐在自建虛擬機進行，有個別需求的同學，可以購買華為云ECS進行部署（當前優惠力度大哦）華為云-2核4G云主機低至487元/年

服務器	192.168.1.32	192.168.1.33	192.168.1.35
服務埠	mongos:27017	mongos:27017	mongos:27017
服務埠	config server:9001	config server:9001	config server:9001
服務埠	shard1 主節點:9005	shard1 副節點:9005	shard1 仲裁節點:9005
服務埠	shard2 仲裁節點:9006	shard2 主節點:9006	shard2 副節點:9006
服務埠	shard3 副節點:9007	shard3 仲裁節點:9007	shard3 主節點:9007

可以看到每臺主機上有1個mongos、1個config server、3個分片，三臺主機的相同分片之間構成了主、副和仲裁三個角色，

總結

應用請求mongos來操作mongodb的增刪改查
配置服務器存盤資料庫元資訊，并且和mongos做同步
資料最終存入在shard（分片）上
為了防止資料丟失同步在副本集中存盤了一份
仲裁在資料存盤到分片的時候決定存盤到哪個節點

二、部署配置服務器

創建掛載目錄、組態檔

mkdir /data/mongod/configdata/configsvr -p   //三臺主機都執行
mkdir /data/mongod/conf/{configsvr,keyfile} -p   // keyfile在開啟用戶認證時需要

組態檔

# vim /data/mongod/conf/configsvr/mongod.conf
net:
  bindIpAll: true
replication:
  replSetName: rs_configsvr # 副本集名稱，相同副本須使用同一個副本集名稱
  
sharding: 
   clusterRole: configsvr   # 定義為mongo配置服務器

啟動configsvr

## 三臺主機均執行此操作
docker run -d -p 9001:27019 --name configsvr \
  --entrypoint "mongod" \
  -v /data/mongod/configdata/configsvr:/data/configdb \
  -v /data/mongod/conf/keyfile:/data/keyfile \
  -v /data/mongod/conf/configsvr:/data/conf \
  mongo:4.0.21 -f /data/conf/mongod.conf

備注：如果docker ps 沒有剛才創建的容器名稱，可以使用docker logs <容器id>查看docker 日志

初始化配置服務復制集

# 進入容器中，創建的三個配置服務中隨便一個
docker exec -it configsvr bash
 
# 登錄mongo
mongo --host 192.168.1.32 --port 9001
 
# 初始化
use admin
rs.initiate({
    _id: "rs_configsvr",
    configsvr: true,
    members: [
            { _id : 0, host : "192.168.1.32:9001" },
            { _id : 1, host : "192.168.1.33:9001" },
            { _id : 2, host : "192.168.1.35:9001" }
        ]
    }
)

rs.status()   //查看狀態

三、創建分片副本集

創建分片副本集組態檔、掛載檔案

## 創建組態檔、資料目錄
mkdir /data/mongod/shard1/{log,db} -p
mkdir /data/mongod/shard2/{log,db} -p
mkdir /data/mongod/shard3/{log,db} -p
chmod -R 777 /data/mongod/shard1
chmod -R 777 /data/mongod/shard2
chmod -R 777 /data/mongod/shard3
mkdir -p /data/mongod/conf/{shard1,shard2,shard3}


## 三臺主機均創建三個組態檔，shard分片名不同即可
#所有用到的檔案夾和檔案必須在創建的時候給權限，包括重新創建，也需要重新給權限，并且檔案夾要提前創建好
# vim /data/mongod/conf/{shard1,shard2,shard3}/mongod.conf   //添加如下配置資訊，分片服務名稱不一致即可
storage:
  dbPath: /home/mongod/db #分片資料庫路徑
  journal:
    enabled: true
  directoryPerDB: true

systemLog:
  destination: file
  logAppend: true
  path: /home/mongod/log/mongod.log # 分片日志

net:
  bindIpAll: true

setParameter:
  enableLocalhostAuthBypass: false

replication:
  replSetName: rs_shardsvr1  # 分片服務名稱
 
sharding: 
   clusterRole: shardsvr     # 配置為分片服務

注意事項：
1、需要提前建立需要的檔案夾，并賦予權限（chmod -R 750 檔案夾），
2、三個分片服務器建立在三個位置，（docker代碼 -v 引數即為實際建立需要的檔案夾），需要注意對應創建分片組態檔，檔案內容一致，
3、注意組態檔中的資料庫檔案報錯路徑以及日志檔案路徑，按需更改，
4、分片服務埠需要映射 27018

shard1 分片

1、mongod分片部署

## 三臺主機（192.168.1.32、33、35）執行如下啟動命令
docker run --name shardsvr1 -d -p 9005:27018 \
  --entrypoint "mongod" \
  -v /data/mongod/shard1:/home/mongod \
  -v /data/mongod/conf/keyfile/:/data/keyfile/ \
  -v /data/mongod/conf/shard1/:/data/conf/ \
  mongo:4.0.21 -f /data/conf/mongod.conf

2、初始化分片服務器

# 登錄進容器中，任意一臺
docker exec -it shardsvr1 bash
 
# 登錄分片服務器
# 192.168.1.32 主分片節點
# 192.168.1.33 副分片節點
# 192.168.1.35 仲裁分片節點，arbiterOnly:true 表示為仲裁節點

mongo --host 192.168.1.32 --port 9005
use admin
rs.initiate(
    {
        _id : "rs_shardsvr1",
        members: [
            { _id : 0, host : "192.168.1.32:9005",priority:5 },
            { _id : 1, host : "192.168.1.33:9005",priority:3 },
            { _id : 2, host : "192.168.1.35:9005",arbiterOnly:true }
        ]
    }
)
 
#rs.status() 查看狀態

shard2 分片

1、mongod分片部署

## 三臺主機（192.168.1.32、33、35）執行如下啟動命令
docker run --name shardsvr2 -d -p 9006:27018 \
  --entrypoint "mongod" \
  -v /data/mongod/shard2:/home/mongod \
  -v /data/mongod/conf/keyfile/:/data/keyfile/ \
  -v /data/mongod/conf/shard2/:/data/conf/ \
  mongo:4.0.21 -f /data/conf/mongod.conf

2、初始化分片服務器

# 登錄進容器中,盡量在主節點執行，否則會報錯
docker exec -it shardsvr2 bash

#登錄分片服務器
# 192.168.1.32 仲裁分片節點
# 192.168.1.33 主分片節點
# 192.168.1.35 副分片節點

mongo --host 192.168.1.33 --port 9006
use admin
rs.initiate(
    {
        _id : "rs_shardsvr2",
        members: [
            { _id : 0, host : "192.168.1.32:9006",arbiterOnly:true },
            { _id : 1, host : "192.168.1.33:9006",priority:5 },
            { _id : 2, host : "192.168.1.35:9006",priority:3 }
        ]
    }
)
 
#rs.status() 查看狀態

shard3 分片

1、mongod分片部署

## 三臺主機（192.168.1.32、33、35）執行如下啟動命令
docker run --name shardsvr3 -d -p 9007:27018 \
  --entrypoint "mongod" \
  -v /data/mongod/shard3:/home/mongod \
  -v /data/mongod/conf/keyfile/:/data/keyfile/ \
  -v /data/mongod/conf/shard3/:/data/conf/ \
  mongo:4.0.21 -f /data/conf/mongod.conf

2、初始化分片服務器

# 登錄進容器中,任意節點
docker exec -it shardsvr3 bash

# 登錄分片服務器
# 192.168.1.32 副分片節點
# 192.168.1.33 仲裁分片節點
# 192.168.1.35 主分片節點

mongo --host 192.168.1.35 --port 9007    // 盡量在主節點執行，否則可能會出現報錯
use admin
rs.initiate(
    {
        _id : "rs_shardsvr3",
        members: [
            { _id : 0, host : "192.168.1.32:9007",priority:3 },
            { _id : 1, host : "192.168.1.33:9007",arbiterOnly:true },
            { _id : 2, host : "192.168.1.35:9007",priority:5 }
        ]
    }
)
 
#rs.status() 查看狀態

四，創建mongos，連接mongos到分片集群

創建mongos組態檔

mkdir /data/mongod/conf/mongos -p   //三臺主機都執行

vim /data/mongod/conf/mongos/mongod.conf
## 組態檔
net:
  bindIpAll: true

sharding: 
   configDB: rs_configsvr/192.168.1.32:9001,192.168.1.33:9001,192.168.1.35:9001   # 定義為mongos配置服務器

mongos 部署

1、分片路由部署,三臺均執行相同操作

docker run --name mongos -d \
  -p 27017:27017 \
  --entrypoint "mongos" \
  -v /data/mongod/conf/keyfile/:/data/keyfile/ \
  -v /data/mongod/conf/mongos/:/data/conf/ \
  mongo:4.0.21 -f /data/conf/mongod.conf

備注：
rs_configsvr/192.168.1.32:9001,192.168.1.33:9001,192.168.1.35:9001: 配置服務名稱/配置服務埠（多個用逗號分隔）

2、初始化mongos

# 進入mongos 容器中
docker exec -it mongos bash
 
# 連接mongos
mongo --host 127.0.0.1 --port 27017
use admin
# 添加分片服務器
sh.addShard("rs_shardsvr1/192.168.1.32:9005,192.168.1.33:9005,192.168.1.35:9005")
sh.addShard("rs_shardsvr2/192.168.1.32:9006,192.168.1.33:9006,192.168.1.35:9006")
sh.addShard("rs_shardsvr3/192.168.1.32:9007,192.168.1.33:9007,192.168.1.35:9007")

sh.status() //查看狀態

開啟分片功能

## db和collection開啟分片功能
雖然資料庫采用分片集群的方式部署，但如果db和collection不啟用分片的話（默認是不啟用的），資料不會分片存盤，此時如果向集群中匯入一個db，會將整個db隨機存盤到任意一個分片中，而不是拆分存盤到多個分片，
db啟用分片：
sh.enableSharding("庫名")
sh.enableSharding("<database>")
將上述命令中的“”換成實際的db名，

collection啟用分片：
sh.shardCollection("庫名.集合名",{"key":1})
sh.shardCollection("<database>.<collection>", { <shard key> : "hashed" } )
上述命令中的“< database >.< collection >”為實際的db名和collection名；“{ < shard key > : “hashed” }”為片鍵的集合，

五，測驗使用

測驗使用

# 任意一節點操作
# 進入mongos 容器中
docker exec -it mongos bash
# 連接mongos
mongo --host 127.0.0.1 --port 27017
use admin

#  testdb1開啟分片功能
db.runCommand( { enablesharding  : "testdb1"});
db.runCommand( { shardcollection : "testdb1.tab1",key : {id: 1} } )

# 添加資料 
use testdb1;
for(var i=1;i<=20000;i++) db.tab1.save({id:i,"test1":"testval1"});

db.tab1.stats();
exit

# 使用testdb1庫
# 回圈插入資料到testdb1庫的tab1集合中的鍵id中
# 該庫對應的該集合對應的該鍵被設定成了分片
# 查看分片情況

分別在三個主機上操作配置庫、插入測驗資料、查看測驗資料
驗證了副本同步，最后的顯示結果看到 “sharded” : true 表示分片也是成功的

六、開啟登錄認證

設定資料庫賬號

在任意mongos節點操作
# 進入mongos 容器中
docker exec -it mongos bash
 
# 連接mongos
mongo --host 127.0.0.1 --port 27017
mongos> use admin
switched to db admin    
mongos> show collections


添加兩個管理員賬號,一個系統管理員:system 一個資料庫管理員:administrator
＃先添加系統管理員賬號,用來管理用戶
mongos> db.createUser({user:"system",pwd:"123456",roles:[{role:"root",db:"admin"}]})

# 添加資料庫管理員,用來管理所有資料庫
mongos> db.createUser({user:'administrator', pwd:'123456', roles:[{ role: 
mongos> db.auth('administrator','123456')    //添加管理員用戶認證,認證之后才能管理所有資料庫   

# 退出，用剛才創建的賬號進行登錄
 mongo 192.168.1.33:27017 -u system -p 123456 --authenticationDatabase admin
 mongo 192.168.1.35:27017 -u administrator -p 123456  --authenticationDatabase admin

開啟登錄驗證

mkdir /data/mongod/conf/keyfile -p     //三臺主機都執行

# 在192.168.1.32節點服務器上操作
cd /data/mongod/conf/keyfile           //切換到指定目錄
openssl rand -base64 756 > key.file    //創建一個 keyfile(使用 openssl 生成 756 位 base64 加密的字串)   
chmod 600 ./key.file 

# 復制檔案到其他主機
scp ./key.file root@192.168.1.33:/data/mongod/conf/keyfile
scp ./key.file root@192.168.1.33:/data/mongod/conf/keyfile

設定組態檔

使用訪問控制強制重新啟動復制集的每個成員
# 依次在每臺機器上的mongod（注意是所有的mongod不是mongos）的組態檔中加入下面一段配置，如我在192.168.1.32上的config server，shard1，shard2，shard3都加入下面的組態檔
security:
  keyFile: /data/keyfile/key.file
  authorization: enabled
  
# 依次在每臺機器上的mongos組態檔中加入下面一段配置
security:
  keyFile: /data/keyfile/key.file

重啟集群

# 在三臺主機執行如下命令
docker ps  |grep mongo |awk -F " " '{print $1}' |xargs -r docker restart

轉載請註明出處，本文鏈接：https://www.uj5u.com/ruanti/233117.html

標籤：其他

上一篇：云計算的基本概念和常見測驗點

下一篇：了解OpenStak基礎架構

Docker部署MongoDB分片+副本集集群（實戰）

引言

一、原理簡析

本實驗模擬的MongoDB集群分以下幾個層次或角色

主機角色埠規劃

總結

二、部署配置服務器

創建掛載目錄、組態檔

組態檔

啟動configsvr

初始化配置服務復制集

三、創建分片副本集

創建分片副本集組態檔、掛載檔案

shard1 分片

1、mongod分片部署

2、初始化分片服務器

shard2 分片

1、mongod分片部署

2、初始化分片服務器

shard3 分片

1、mongod分片部署

2、初始化分片服務器

四，創建mongos，連接mongos到分片集群

創建mongos組態檔

mongos 部署

1、分片路由部署,三臺均執行相同操作

2、初始化mongos

開啟分片功能

五，測驗使用

測驗使用

六、開啟登錄認證

設定資料庫賬號

開啟登錄驗證

設定組態檔

重啟集群