主頁 >  其他 > zookeeper集群

zookeeper集群

2021-07-29 06:53:03 其他

目錄

  • 一、Zookeeper定義
  • 二、 zookeeper作業機制
  • 三、zookeeper特點
  • 四、Zookeeper資料結構
  • 五、zookeeper應用場景
  • 六、zookeeper選舉機制
  • 七、部署Zookeeper集群

一、Zookeeper定義

  • Zookeeper是一個開源的分布式的,為分布式框架提供協調服務的Apache專案,

二、 zookeeper作業機制

  • Zookeeper從設計模式角度來理解:是一個基于觀察者模式設計的分布式服務管理框架它負責存盤和管理大家都關心的資料,然后接受觀察者的注冊,一旦這些資料的狀態發生變化,Zookeeper就將負責通知已經在Zookeeper上注冊的那些觀察者做出相應的反應,也就是說 Zookeeper =檔案系統+通知機制

三、zookeeper特點

在這里插入圖片描述

(1)Zookeeper:一個領導者(Leader),多個跟隨者(Follower)組成的集群,
(2)Zookeepe集群中只要有半數以上節點存活,Zookeeper集群就能正常服務,所以zookeeper適合安裝奇數臺服務器,
(3)全域資料一致:每個server保存一份相同的資料副本,client無論連接到哪個Server,資料都是一致的,
(4)更新請求順序執行,來自同一個client的更新請求按其發送順序依次執行,即先進先出,
(5)資料更新原子性,一次資料更新要么成功,要么失敗,
(6)實時性,在一定時間范圍內,client能讀到最新資料,

四、Zookeeper資料結構

  • ZooKeeper資料模型的結構與Linux檔案系統很類似,整體上可以看作是一棵樹,每個節點稱做一個2Node,每一個2Node默認能夠存盤1MB的資料,每個ZNode都可以通過其路徑唯一標識,

在這里插入圖片描述

五、zookeeper應用場景

提供的服務包括:統一命名服務、統一配置管理、統一集群管理、服務器節點動態上下線、軟負載均衡等,

  • 統一命名服務
    在分布式環境下,經常需要對應用/服務進行統一命名,便于識別,例如:IP不容易記住,而域名容易記住,

  • 統一配置管理
    (1)分布式環境下,組態檔同步非常常見,一般要求一個集群中,所有節點的配置資訊是一致的,比如Kafka集群,對組態檔修改后,希望能夠快速同步到各個節點上,
    (2)配置管理可交由ZooKeeper實作,可將配置資訊寫入ZooKeeper上的一個Znode,各個客戶端服務器監聽這個Znode,一旦Znode中的資料被修改,ZooKeeper將通知各個客戶端服務器,

  • 統一集群管理
    (1)分布式環境中,實時掌握每個節點的狀態是必要的,可根據節點實時狀態做出一些調整,
    (2)ZooKeeper可以實作實時監控節點狀態變化,可將節點資訊寫入ZooKeeper上的一個2Node,監聽這個DMode可獲取它的實時狀態變化,

  • 服務器動態上下線
    客戶端能實時洞察到服務器上下線的變化,

  • 軟負教均衡
    在Zookeeper中記錄每臺服務器的訪問數,讓訪問數最少的服務器去處理最新的客戶端請求,


在這里插入圖片描述

六、zookeeper選舉機制

在這里插入圖片描述

  • 第一次啟動選舉機制

(1)服務器1啟動,發起一次選舉,服務器1投自己一票,此時服務器1票數一票,不夠半數以上(3票),選舉無法完成,服務器1狀態保持為LOOKING;

(2)服務器2啟動,再發起一次選舉,服務器1和2分別投自己一票并交換選票資訊:此時服務器1發現服務器2的myid比自己目前投票推舉的(服務器1)大,更改選票為推舉服務器2,此時服務器1票數0票,服務器2票數2票,沒有半數以上結果,選舉無法完成,服務器1,2狀態保持LOOKING

(3)服務器3啟動,發起一次選舉,此時服務器1和2都會更改選票為服務器3,此次投票結果:服務器1為0票,服務器2為0票,服務器3為3票,此時服務器3的票數已經超過半數,服務器3當選Leader,服務器1,2更改狀態為FOLLOWING,服務器3更改狀態為LEADING;

(4)服務器4啟動,發起一次選舉,此時服務器1,2,3已經不是LooKING狀態,不會更改選票資訊,交換選票資訊結果:服務器3為3票,服務器4為1票,此時服務器4服從多數,更改選票資訊為服務器3,并更改狀態為FOLOWING;

(5) 服務器5啟動,同4一樣當小弟,

在這里插入圖片描述

  • 非第一次啟動選舉機制

(1)當ZooKeeper集群中的一臺服務器出現以下兩種情況之一時,就會開始進入Leader選舉:

  1. 服務器初始化啟動,
  2. 服務器運行期間無法和Leader保持連接,

(2)而當一臺機器進入Leader選舉流程時,當前集群也可能會處于以下兩種狀態:

  1. 集群中本來就己經存在一個Leader,
    對于已經存在Leader的情況,機器試圖去選舉Leader時,會被告知當前服務器的Leader資訊,對于該機器來說,僅僅需要和Leader機器建立連接,并進行狀態同步即可,
  2. 集群中確實不存在Leader,
    假設ZooKeeper由5臺服務器組成,SID分別為1、2、3、4、5,ZXID分別為8、8、8、7、,并且此時sID為3的服務器是,一時刻,3和5服務器出現故障,因此開始進行Leader選舉,

選舉Leader規則:

  1. EPOCH大的直接勝出
  2. EPOCH相同,事務id大的勝出
  3. 事務id相同,服務器id大的勝出

SID:服務器ID,用來唯一標識一臺ZooKeeper集群中的機器,每臺機器不能重復,和myid一致,
ZXID:事務ID,ZXID是一個事務ID,用來標識一次服務器狀態的變更,在某一時刻,集群中的每臺機器的zxID值不一定完全一致,這和ZooKeeper服務器對于客戶端"更新請求"的處理邏輯速度有關,
Bpoch:每個Leader任期的代號,沒有Leader時同一輪投票程序中的邏輯時鐘值是相同的,每投完一次票這個資料就會增加


七、部署Zookeeper集群

環境準備作業

服務器型別系統和IP地址需要安裝的組件
Zookeeper服務器1CentOS7.4(64 位) 192.168.80.50jdk
Zookeeper服務器2CentOS7.4(64 位) 192.168.80.60jdk
Zookeeper服務器3CentOS7.4(64 位) 192.168.80.70jdk

必要作業:關閉防火期和SElinux

三臺的zookeeper服務器的配置一樣,僅展示一臺
  1. 安裝前準備
//關閉防火墻
systemctl stop firewalld
systemctl disable firewalld
setenforce 0

//安裝 JDK
yum install -y java-1.8.0-openjdk java-1.8.0-openjdk-devel
java -version

//下載安裝包
官方下載地址:https://archive.apache.org/dist/zookeeper/

cd /opt
wget https://archive.apache.org/dist/zookeeper/zookeeper-3.5.7/apache-zookeeper-3.5.7-bin.tar.gz
  1. 安裝 Zookeeper
cd /opt
tar -zxvf apache-zookeeper-3.5.7-bin.tar.gz
mv apache-zookeeper-3.5.7-bin /usr/local/zookeeper-3.5.7

在這里插入圖片描述
在這里插入圖片描述

  • 修改組態檔
cd /usr/local/zookeeper-3.5.7/conf/
cp zoo_sample.cfg zoo.cfg

vim zoo.cfg
tickTime=2000   #通信心跳時間,Zookeeper服務器與客戶端心跳時間,單位毫秒
initLimit=10    #Leader和Follower初始連接時能容忍的最多心跳數(tickTime的數量),這里表示為10*2s
syncLimit=5     #Leader和Follower之間同步通信的超時時間,這里表示如果超過5*2s,Leader認為Follwer死掉,并從服務器串列中洗掉Follwer
dataDir=/usr/local/zookeeper-3.5.7/data      ●修改,指定保存Zookeeper中的資料的目錄,目錄需要單獨創建
dataLogDir=/usr/local/zookeeper-3.5.7/logs   ●添加,指定存放日志的目錄,目錄需要單獨創建
clientPort=2181   #客戶端連接埠

在這里插入圖片描述
在這里插入圖片描述

  • 添加集群資訊
vim zoo.cfg
------
追加
server.1=192.168.80.50:3188:3288
server.2=192.168.80.60:3188:3288
server.3=192.168.80.70:3188:3288

server.A=B:C:D
- A 是一個數字,表示這個是第幾號服務器,集群模式下需要在zoo.cfg中dataDir指定的目錄下創建一個檔案myid,這個檔案里面有一個資料就是A的值,Zookeeper啟動時讀取此檔案,拿到里面的資料與zoo.cfg里面的配置資訊比較從而判斷到底是哪個server,
- B 是這個服務器的地址,
- C 是這個服務器Follower與集群中的Leader服務器交換資訊的埠,
- D 是萬一集群中的Leader服務器掛了,需要一個埠來重新進行選舉,選出一個新的Leader,而這個埠就是用來執行選舉時服務器相互通信的埠,

  • 拷貝配置好的 Zookeeper 組態檔到其他機器上
scp /usr/local/zookeeper-3.5.7/conf/zoo.cfg 192.168.80.60:/usr/local/zookeeper-3.5.7/conf/
scp /usr/local/zookeeper-3.5.7/conf/zoo.cfg 192.168.80.70:/usr/local/zookeeper-3.5.7/conf/

在這里插入圖片描述

  • 在每個節點上創建資料目錄和日志目錄
mkdir /usr/local/zookeeper-3.5.7/data
mkdir /usr/local/zookeeper-3.5.7/logs

在這里插入圖片描述

  • 在每個節點的dataDir指定的目錄下創建一個 myid 的檔案
echo 1 > /usr/local/zookeeper-3.5.7/data/myid
echo 2 > /usr/local/zookeeper-3.5.7/data/myid
echo 3 > /usr/local/zookeeper-3.5.7/data/myid

在這里插入圖片描述

  • 配置 Zookeeper 啟動腳本
vim /etc/init.d/zookeeper
#!/bin/bash
#chkconfig:2345 20 90
#description:Zookeeper Service Control Script
ZK_HOME='/usr/local/zookeeper-3.5.7'
case $1 in
start)
	echo "---------- zookeeper 啟動 ------------"
	$ZK_HOME/bin/zkServer.sh start
;;
stop)
	echo "---------- zookeeper 停止 ------------"
	$ZK_HOME/bin/zkServer.sh stop
;;
restart)
	echo "---------- zookeeper 重啟 ------------"
	$ZK_HOME/bin/zkServer.sh restart
;;
status)
	echo "---------- zookeeper 狀態 ------------"
	$ZK_HOME/bin/zkServer.sh status
;;
*)
    echo "Usage: $0 {start|stop|restart|status}"
esac

在這里插入圖片描述

  • 設定開機自啟
chmod +x /etc/init.d/zookeeper
chkconfig --add zookeeper

在這里插入圖片描述

  • 分別啟動 Zookeeper
service zookeeper start

在這里插入圖片描述

  • 查看當前狀態
service zookeeper status

在這里插入圖片描述
在這里插入圖片描述
在這里插入圖片描述
總結:

  1. 集群最少要幾臺機器,集群規則是怎樣的?集群中有 3 臺服務器,其中一個節點宕機,這個時候 Zookeeper 還可以使用嗎?

集群規則為 2N+1 臺,N>0,即 3 臺,可以繼續使用,單數服務器只要沒超過一半的服務器宕機就可以繼續使用,

  1. Zookeeper 都有哪些功能?
  • 集群管理:監控節點存活狀態、運行請求等;

  • 主節點選舉:主節點掛掉了之后可以從備用的節點開始新一輪選主,主節點選舉說的就是這個選舉的程序,使用 Zookeeper可以協助完成這個程序;

  • 分布式鎖:Zookeeper
    提供兩種鎖:獨占鎖、共享鎖,獨占鎖即一次只能有一個執行緒使用資源,共享鎖是讀鎖共享,讀寫互斥,即可以有多線執行緒同時讀同一個資源,如果要使用寫鎖也只能有一個執行緒使用,Zookeeper可以對分布式鎖進行控制,

  • 命名服務:在分布式系統中,通過使用命名服務,客戶端應用能夠根據指定名字來獲取資源或服務的地址,提供者等資訊,

  1. zookeeper 節點宕機如何處理?
  • Zookeeper 本身也是集群,推薦配置不少于 3 個服務器,Zookeeper 自身也要保證當一個節點宕機時,其他節點會繼續提供服務,

  • 如果是一個 Follower 宕機,還有 2 臺服務器提供訪問,因為 Zookeeper 上的資料是有多個副本的,資料并不會丟失;

  • 如果是一個 Leader 宕機,Zookeeper 會選舉出新的 Leader,

  • ZK 集群的機制是只要超過半數的節點正常,集群就能正常提供服務,只有在 ZK節點掛得太多,只剩一半或不到一半節點能作業,集群才失效,

所以

  • 3 個節點的 cluster 可以掛掉 1 個節點(leader 可以得到 2 票>1.5)

  • 2 個節點的 cluster 就不能掛掉任何 1 個節點了(leader 可以得到 1 票<=1)

  1. ZooKeeper 本身就是一個分布式程式(只要半數以上節點存活,ZooKeeper 就能正常服務),

  2. ZooKeeper 將資料保存在記憶體中,這也就保證了 高吞吐量和低延遲(但是記憶體限制了能夠存盤的容量不太大,此限制也是保持 Znode 中存盤的資料量較小的進一步原因),

  3. ZooKeeper 底層其實只提供了兩個功能:①管理(存盤、讀取)用戶程式提交的資料;②為用戶程式提交資料節點監聽服務,

轉載請註明出處,本文鏈接:https://www.uj5u.com/qita/290601.html

標籤:其他

上一篇:Zookeeper學習----客戶端初始化原始碼決議

下一篇:Hive join幾種形式詳解

標籤雲
其他(157675) Python(38076) JavaScript(25376) Java(17977) C(15215) 區塊鏈(8255) C#(7972) AI(7469) 爪哇(7425) MySQL(7132) html(6777) 基礎類(6313) sql(6102) 熊猫(6058) PHP(5869) 数组(5741) R(5409) Linux(5327) 反应(5209) 腳本語言(PerlPython)(5129) 非技術區(4971) Android(4554) 数据框(4311) css(4259) 节点.js(4032) C語言(3288) json(3245) 列表(3129) 扑(3119) C++語言(3117) 安卓(2998) 打字稿(2995) VBA(2789) Java相關(2746) 疑難問題(2699) 细绳(2522) 單片機工控(2479) iOS(2429) ASP.NET(2402) MongoDB(2323) 麻木的(2285) 正则表达式(2254) 字典(2211) 循环(2198) 迅速(2185) 擅长(2169) 镖(2155) 功能(1967) .NET技术(1958) Web開發(1951) python-3.x(1918) HtmlCss(1915) 弹簧靴(1913) C++(1909) xml(1889) PostgreSQL(1872) .NETCore(1853) 谷歌表格(1846) Unity3D(1843) for循环(1842)

熱門瀏覽
  • 網閘典型架構簡述

    網閘架構一般分為兩種:三主機的三系統架構網閘和雙主機的2+1架構網閘。 三主機架構分別為內端機、外端機和仲裁機。三機無論從軟體和硬體上均各自獨立。首先從硬體上來看,三機都用各自獨立的主板、記憶體及存盤設備。從軟體上來看,三機有各自獨立的作業系統。這樣能達到完全的三機獨立。對于“2+1”系統,“2”分為 ......

    uj5u.com 2020-09-10 02:00:44 more
  • 如何從xshell上傳檔案到centos linux虛擬機里

    如何從xshell上傳檔案到centos linux虛擬機里及:虛擬機CentOs下執行 yum -y install lrzsz命令,出現錯誤:鏡像無法找到軟體包 前言 一、安裝lrzsz步驟 二、上傳檔案 三、遇到的問題及解決方案 總結 前言 提示:其實很簡單,往虛擬機上安裝一個上傳檔案的工具 ......

    uj5u.com 2020-09-10 02:00:47 more
  • 一、SQLMAP入門

    一、SQLMAP入門 1、判斷是否存在注入 sqlmap.py -u 網址/id=1 id=1不可缺少。當注入點后面的引數大于兩個時。需要加雙引號, sqlmap.py -u "網址/id=1&uid=1" 2、判斷文本中的請求是否存在注入 從文本中加載http請求,SQLMAP可以從一個文本檔案中 ......

    uj5u.com 2020-09-10 02:00:50 more
  • Metasploit 簡單使用教程

    metasploit 簡單使用教程 浩先生, 2020-08-28 16:18:25 分類專欄: kail 網路安全 linux 文章標簽: linux資訊安全 編輯 著作權 metasploit 使用教程 前言 一、Metasploit是什么? 二、準備作業 三、具體步驟 前言 Msfconsole ......

    uj5u.com 2020-09-10 02:00:53 more
  • 游戲逆向之驅動層與用戶層通訊

    驅動層代碼: #pragma once #include <ntifs.h> #define add_code CTL_CODE(FILE_DEVICE_UNKNOWN,0x800,METHOD_BUFFERED,FILE_ANY_ACCESS) /* 更多游戲逆向視頻www.yxfzedu.com ......

    uj5u.com 2020-09-10 02:00:56 more
  • 北斗電力時鐘(北斗授時服務器)讓網路資料更精準

    北斗電力時鐘(北斗授時服務器)讓網路資料更精準 北斗電力時鐘(北斗授時服務器)讓網路資料更精準 京準電子科技官微——ahjzsz 近幾年,資訊技術的得了快速發展,互聯網在逐漸普及,其在人們生活和生產中都得到了廣泛應用,并且取得了不錯的應用效果。計算機網路資訊在電力系統中的應用,一方面使電力系統的運行 ......

    uj5u.com 2020-09-10 02:01:03 more
  • 【CTF】CTFHub 技能樹 彩蛋 writeup

    ?碎碎念 CTFHub:https://www.ctfhub.com/ 筆者入門CTF時時剛開始刷的是bugku的舊平臺,后來才有了CTFHub。 感覺不論是網頁UI設計,還是題目質量,賽事跟蹤,工具軟體都做得很不錯。 而且因為獨到的金幣制度的確讓人有一種想去刷題賺金幣的感覺。 個人還是非常喜歡這個 ......

    uj5u.com 2020-09-10 02:04:05 more
  • 02windows基礎操作

    我學到了一下幾點 Windows系統目錄結構與滲透的作用 常見Windows的服務詳解 Windows埠詳解 常用的Windows注冊表詳解 hacker DOS命令詳解(net user / type /md /rd/ dir /cd /net use copy、批處理 等) 利用dos命令制作 ......

    uj5u.com 2020-09-10 02:04:18 more
  • 03.Linux基礎操作

    我學到了以下幾點 01Linux系統介紹02系統安裝,密碼啊破解03Linux常用命令04LAMP 01LINUX windows: win03 8 12 16 19 配置不繁瑣 Linux:redhat,centos(紅帽社區版),Ubuntu server,suse unix:金融機構,證券,銀 ......

    uj5u.com 2020-09-10 02:04:30 more
  • 05HTML

    01HTML介紹 02頭部標簽講解03基礎標簽講解04表單標簽講解 HTML前段語言 js1.了解代碼2.根據代碼 懂得挖掘漏洞 (POST注入/XSS漏洞上傳)3.黑帽seo 白帽seo 客戶網站被黑帽植入劫持代碼如何處理4.熟悉html表單 <html><head><title>TDK標題,描述 ......

    uj5u.com 2020-09-10 02:04:36 more
最新发布
  • 2023年最新微信小程式抓包教程

    01 開門見山 隔一個月發一篇文章,不過分。 首先回顧一下《微信系結手機號資料庫被脫庫事件》,我也是第一時間得知了這個訊息,然后跟蹤了整件事情的經過。下面是這起事件的相關截圖以及近日流出的一萬條資料樣本: 個人認為這件事也沒什么,還不如關注一下之前45億快遞資料查詢渠道疑似在近日復活的訊息。 訊息是 ......

    uj5u.com 2023-04-20 08:48:24 more
  • web3 產品介紹:metamask 錢包 使用最多的瀏覽器插件錢包

    Metamask錢包是一種基于區塊鏈技術的數字貨幣錢包,它允許用戶在安全、便捷的環境下管理自己的加密資產。Metamask錢包是以太坊生態系統中最流行的錢包之一,它具有易于使用、安全性高和功能強大等優點。 本文將詳細介紹Metamask錢包的功能和使用方法。 一、 Metamask錢包的功能 數字資 ......

    uj5u.com 2023-04-20 08:47:46 more
  • vulnhub_Earth

    前言 靶機地址->>>vulnhub_Earth 攻擊機ip:192.168.20.121 靶機ip:192.168.20.122 參考文章 https://www.cnblogs.com/Jing-X/archive/2022/04/03/16097695.html https://www.cnb ......

    uj5u.com 2023-04-20 07:46:20 more
  • 從4k到42k,軟體測驗工程師的漲薪史,給我看哭了

    清明節一過,盲猜大家已經無心上班,在數著日子準備過五一,但一想到銀行卡里的余額……瞬間心情就不美麗了。最近,2023年高校畢業生就業調查顯示,本科畢業月平均起薪為5825元。調查一出,便有很多同學表示自己又被平均了。看著這一資料,不免讓人想到前不久中國青年報的一項調查:近六成大學生認為畢業10年內會 ......

    uj5u.com 2023-04-20 07:44:00 more
  • 最新版本 Stable Diffusion 開源 AI 繪畫工具之中文自動提詞篇

    🎈 標簽生成器 由于輸入正向提示詞 prompt 和反向提示詞 negative prompt 都是使用英文,所以對學習母語的我們非常不友好 使用網址:https://tinygeeker.github.io/p/ai-prompt-generator 這個網址是為了讓大家在使用 AI 繪畫的時候 ......

    uj5u.com 2023-04-20 07:43:36 more
  • 漫談前端自動化測驗演進之路及測驗工具分析

    隨著前端技術的不斷發展和應用程式的日益復雜,前端自動化測驗也在不斷演進。隨著 Web 應用程式變得越來越復雜,自動化測驗的需求也越來越高。如今,自動化測驗已經成為 Web 應用程式開發程序中不可或缺的一部分,它們可以幫助開發人員更快地發現和修復錯誤,提高應用程式的性能和可靠性。 ......

    uj5u.com 2023-04-20 07:43:16 more
  • CANN開發實踐:4個DVPP記憶體問題的典型案例解讀

    摘要:由于DVPP媒體資料處理功能對存放輸入、輸出資料的記憶體有更高的要求(例如,記憶體首地址128位元組對齊),因此需呼叫專用的記憶體申請介面,那么本期就分享幾個關于DVPP記憶體問題的典型案例,并給出原因分析及解決方法。 本文分享自華為云社區《FAQ_DVPP記憶體問題案例》,作者:昇騰CANN。 DVPP ......

    uj5u.com 2023-04-20 07:43:03 more
  • msf學習

    msf學習 以kali自帶的msf為例 一、msf核心模塊與功能 msf模塊都放在/usr/share/metasploit-framework/modules目錄下 1、auxiliary 輔助模塊,輔助滲透(埠掃描、登錄密碼爆破、漏洞驗證等) 2、encoders 編碼器模塊,主要包含各種編碼 ......

    uj5u.com 2023-04-20 07:42:59 more
  • Halcon軟體安裝與界面簡介

    1. 下載Halcon17版本到到本地 2. 雙擊安裝包后 3. 步驟如下 1.2 Halcon軟體安裝 界面分為四大塊 1. Halcon的五個助手 1) 影像采集助手:與相機連接,設定相機引數,采集影像 2) 標定助手:九點標定或是其它的標定,生成標定檔案及內參外參,可以將像素單位轉換為長度單位 ......

    uj5u.com 2023-04-20 07:42:17 more
  • 在MacOS下使用Unity3D開發游戲

    第一次發博客,先發一下我的游戲開發環境吧。 去年2月份買了一臺MacBookPro2021 M1pro(以下簡稱mbp),這一年來一直在用mbp開發游戲。我大致分享一下我的開發工具以及使用體驗。 1、Unity 官網鏈接: https://unity.cn/releases 我一般使用的Apple ......

    uj5u.com 2023-04-20 07:40:19 more