主頁 > 資料庫 > zookeeper特性與節點說明

zookeeper特性與節點說明

2020-09-15 22:40:54 資料庫

一、zookeeper概要、背景及作用


zookeeper產生背景:

專案從單體到分布式轉變之后,將會產生多個節點之間協同的問題,如:

  1. 每天的定時任務由誰哪個節點來執行?
  2. RPC呼叫時的服務發現?
  3. 如何保證并發請求的冪等
  4. ....

這些問題可以統一歸納為多節點協調問題,如果靠節點自身進行協調這是非常不可靠的,性能上也不可取,必須由一個獨立的服務做協調作業,它必須可靠,而且保證性能,

zookeeper概要:

ZooKeeper是用于分布式應用程式的協調服務,它公開了一組簡單的API,分布式應用程式可以基于這些API用于同步,節點狀態、配置等資訊、服務注冊等資訊,其由JAVA撰寫,支持JAVA 和C兩種語言的客戶端,
圖片

znode 節點

zookeeper 中資料基本單元叫節點,節點之下可包含子節點,最后以樹級方式程現,每個節點擁有唯一的路徑path,客戶端基于PATH上傳節點資料,zookeeper 收到后會實時通知對該路徑進行監聽的客戶端,

圖片

二、部署與常規配置


zookeeper 基于JAVA開發,下載后只要有對應JVM環境即可運行,其默認的埠號是2181運行前得保證其不沖突,

版本說明:

2019年5月20日發行的3.5.5是3.5分支的第一個穩定版本,此版本被認為是3.4穩定分支的后續版本,可以用于生產,基于3.4它包含以下新功能

  • 動態重新配置
  • 本地會議
  • 新節點型別:容器,TTL
  • 原子廣播協議的SSL支持
  • 洗掉觀察者的能力
  • 多執行緒提交處理器
  • 升級到Netty 4.1
  • Maven構建

另請注意:建議的最低JDK版本為1.8
檔案說明:

  • apache-zookeeper-xxx-tar.gz 代表源代碼
  • apache-zookeeper-xxx-bin.tar.gz 運行版本

下載地址:https://zookeeper.apache.org/releases.html#download
具體部署流程:

#下載
wget https://mirrors.tuna.tsinghua.edu.cn/apache/zookeeper/current/apache-zookeeper-3.5.5-bin.tar.gz
#解壓
tar -zxvf apache-zookeeper-3.5.5-bin.tar.gz
#拷貝默認配置
cd  {zookeeper_home}/conf 
cp zoo_sample.cfg zoo.cfg
#啟動
 {zookeeper_home}/bin/zkServer.sh

常規組態檔說明:

# zookeeper時間配置中的基本單位 (毫秒)
tickTime=2000
# 允許follower初始化連接到leader最大時長,它表示tickTime時間倍數 即:initLimit*tickTime
initLimit=10
# 允許follower與leader資料同步最大時長,它表示tickTime時間倍數 
syncLimit=5
#zookeper 資料存盤目錄
dataDir=/tmp/zookeeper
#對客戶端提供的埠號
clientPort=2181
#單個客戶端與zookeeper最大并發連接數
maxClientCnxns=60
# 保存的資料快照數量,之外的將會被清除
autopurge.snapRetainCount=3
#自動觸發清除任務時間間隔,小時為單位,默認為0,表示不自動清除,
autopurge.purgeInterval=1

客戶端命令:

基本命令串列
**close **
關閉當前會話
**connect host:port **
重新連接指定Zookeeper服務
create [-s] [-e] [-c] [-t ttl] path [data] [acl]
創建節點
delete [-v version] path
洗掉節點,(不能存在子節點)
deleteall path
洗掉路徑及所有子節點
setquota -n|-b val path
設定節點限額 -n 子節點數 -b 位元組數
listquota path
查看節點限額
delquota [-n|-b] path
洗掉節點限額
get [-s] [-w] path
查看節點資料 -s 包含節點狀態 -w 添加監聽
getAcl [-s] path
ls [-s] [-w] [-R] path
列出子節點 -s狀態 -R 遞回查看所有子節點 -w 添加監聽
printwatches on|off
是否列印監聽事件
**quit **
退出客戶端
**history **
查看執行的歷史記錄
redo cmdno
重復 執行命令,history 中命令編號確定
removewatches path [-c|-d|-a] [-l]
洗掉指定監聽
set [-s] [-v version] path data
設定值
setAcl [-s] [-v version] [-R] path acl
為節點設定ACL權限
stat [-w] path
查看節點狀態 -w 添加監聽
sync path
強制同步節點

node資料的增刪改查

# 列出子節點 
ls /
#創建節點
create /luban "luban is good man"
# 查看節點
get /luban
# 創建子節點 
create /luban/sex "man"
# 洗掉節點
delete /luban/sex
# 洗掉所有節點 包括子節點
deleteall /luban
[zk: 127.0.0.1:2181(CONNECTED) 20] ls /
[admin, brokers, cluster, config, consumers, controller, controller_epoch, isr_change_notification, latest_producer_id_block, log_dir_event_notification, tmp0000000095, zookeeper]
[zk: 127.0.0.1:2181(CONNECTED) 21] create /xiaoqiang "xiaoqiang is a good man"
Created /xiaoqiang
[zk: 127.0.0.1:2181(CONNECTED) 22] get /xiaoqiang
xiaoqiang is a good man
[zk: 127.0.0.1:2181(CONNECTED) 23] create /xiaoqiang/age 17
Created /xiaoqiang/age
[zk: 127.0.0.1:2181(CONNECTED) 24] delete /xiaoqiang/age
[zk: 127.0.0.1:2181(CONNECTED) 25] deleteall /xiaoqiang

三、Zookeeper節點介紹

zookeeper 中節點叫znode存盤結構上跟檔案系統類似,以樹級結構進行存盤,不同之外在于znode沒有目錄的概念,不能執行類似cd之類的命令,znode結構包含如下:

  • path:唯一路徑
  • childNode:子節點
  • stat:狀態屬性
  • type:節點型別

節點型別

型別 描述
PERSISTENT 持久節點
PERSISTENT_SEQUENTIAL 持久序號節點
EPHEMERAL 臨時節點(不可在擁有子節點)
EPHEMERAL_SEQUENTIAL 臨時序號節點(不可在擁有子節點)
  1. PERSISTENT(持久節點)

持久化保存的節點,也是默認創建的

#默認創建的就是持久節點
create /test
  1. PERSISTENT_SEQUENTIAL(持久序號節點)

創建時zookeeper 會在路徑上加上序號作為后綴,,非常適合用于分布式鎖、分布式選舉等場景,創建時添加 -s 引數即可,

#創建序號節點
create -s /test
#回傳創建的實際路徑
Created /test0000000001
create -s /test
#回傳創建的實際路徑2
Created /test0000000002
  1. EPHEMERAL(臨時節點)

臨時節點會在客戶端會話斷開后自動洗掉,適用于心跳,服務發現等場景,創建時添加引數-e 即可,

#創建臨時節點, 斷開會話 在連接將會自動洗掉
create -e /temp
  1. EPHEMERAL_SEQUENTIAL(臨時序號節點)

與持久序號節點類似,不同之處在于EPHEMERAL_SEQUENTIAL是臨時的會在會話斷開后洗掉,創建時添加 -e -s

create -e -s /temp/seq

節點屬性

# 查看節點屬性
stat /luban

其屬性說明如下表:

#創建節點的事物ID
cZxid = 0x385
#創建時間
ctime = Tue Sep 24 17:26:28 CST 2019
#修改節點的事物ID
mZxid = 0x385
#最后修改時間
mtime = Tue Sep 24 17:26:28 CST 2019
# 子節點變更的事物ID
pZxid = 0x385
#這表示對此znode的子節點進行的更改次數(不包括子節點)
cversion = 0
# 資料版本,變更次數
dataVersion = 0
#權限版本,變更次數
aclVersion = 0
#臨時節點所屬會話ID
ephemeralOwner = 0x0
#資料長度
dataLength = 17
#子節點數(不包括子子節點)
numChildren = 0

節點的監聽:

客戶添加 -w 引數可實時監聽節點與子節點的變化,并且實時收到通知,非常適用保障分布式情況下的資料一至性,其使用方式如下:

命令 描述
ls -w path 監聽子節點的變化(增,刪)
get -w path 監聽節點資料的變化
stat -w path 監聽節點屬性的變化
printwatches on|off 觸發監聽后,是否列印監聽事件(默認on)

acl權限設定

ACL全稱為Access Control List(訪問控制串列),用于控制資源的訪問權限,ZooKeeper使用ACL來控制對其znode的防問,基于scheme??permission的方式進行權限控制,scheme表示授權模式、id模式對應值、permission即具體的增刪改權限位,

scheme:認證模型

方案 描述
world 開放模式,world表示全世界都可以訪問(這是默認設定)
ip ip模式,限定客戶端IP防問
auth 用戶密碼認證模式,只有在會話中添加了認證才可以防問
digest 與auth類似,區別在于auth用明文密碼,而digest 用sha-1+base64加密后的密碼,在實際使用中digest 更常見,

permission權限位

權限位 權限 描述
c CREATE 可以創建子節點
d DELETE 可以洗掉子節點(僅下一級節點)
r READ 可以讀取節點資料及顯示子節點串列
w WRITE 可以設定節點資料
a ADMIN 可以設定節點訪問控制串列權限

acl 相關命令:

命令 使用方式 描述
getAcl getAcl 讀取ACL權限
setAcl setAcl 設定ACL權限
addauth addauth 添加認證用戶

world權限****示例
語法: setAcl world:anyone:<權限位>
注:world模式中anyone是唯一的值,表示所有人

  1. 查看默認節點權限:
#創建一個節點
create -e /testAcl
#查看節點權限
getAcl /testAcl
#回傳的默認權限表示 ,所有人擁有所有權限,
'world,'anyone: cdrwa
  1. 修改默認權限為 讀寫
#設定為rw權限 
setAcl /testAcl world:anyone:rw
# 可以正常讀
get /testAcl
# 無法正常創建子節點
create -e /testAcl/t "hi"
# 回傳沒有權限的例外
Authentication is not valid : /testAcl/t

IP權限示例:
語法: setAcl ip:<ip地址|地址段>:<權限位>

auth模式示例:
語法:

  1. setAcl auth:<用戶名>:<密碼>:<權限位>
  2. addauth digest <用戶名>:<密碼>

digest 權限示例:
語法:

  1. setAcl digest :<用戶名>:<密鑰>:<權限位>
  2. addauth digest <用戶名>:<密碼>

注1:密鑰 通過sha1與base64組合加密碼生成,可通過以下命令生成

echo -n <用戶名>:<密碼> | openssl dgst -binary -sha1 | openssl base64

注2:為節點設定digest 權限后,訪問前必須執行addauth,當前會話才可以防問,

  1. 設定digest 權限
#先 sha1 加密,然后base64加密
echo -n luban:123456 | openssl dgst -binary -sha1 | openssl base64
#回傳密鑰
2Rz3ZtRZEs5RILjmwuXW/wT13Tk=
#設定digest權限
setAcl /luban digest:luban:2Rz3ZtRZEs5RILjmwuXW/wT13Tk=:cdrw
  1. 查看節點將顯示沒有權限
#查看節點
get /luban
#顯示沒有權限訪問
org.apache.zookeeper.KeeperException$NoAuthException: KeeperErrorCode = NoAuth for /luban
  1. 給當前會話添加認證后在次查看
#給當前會話添加權限帳戶
addauth digest luban:123456
#在次查看
get /luban
#獲得回傳結果
luban is good man

ACL的特殊說明:
權限僅對當前節點有效,不會讓子節點繼承,如限制了IP防問A節點,但不妨礙該IP防問A的子節點 /A/B,

還沒關注我的公眾號?

  • 掃文末二維碼關注公眾號【小強的進階之路】可領取如下:
  • 學習資料: 1T視頻教程:涵蓋Javaweb前后端教學視頻、機器學習/人工智能教學視頻、Linux系統教程視頻、雅思考試視頻教程;
  • 100多本書:包含C/C++、Java、Python三門編程語言的經典必看圖書、LeetCode題解大全;
  • 軟體工具:幾乎包括你在編程道路上的可能會用到的大部分軟體;
  • 專案原始碼:20個JavaWeb專案原始碼,
    小強的進階之路二維碼

轉載請註明出處,本文鏈接:https://www.uj5u.com/shujuku/50644.html

標籤:大數據

上一篇:Hbase入門(三)——資料模型

下一篇:【hadoop】hadoop3.2.0應用環境搭建與使用指南

標籤雲
其他(157675) Python(38076) JavaScript(25376) Java(17977) C(15215) 區塊鏈(8255) C#(7972) AI(7469) 爪哇(7425) MySQL(7132) html(6777) 基礎類(6313) sql(6102) 熊猫(6058) PHP(5869) 数组(5741) R(5409) Linux(5327) 反应(5209) 腳本語言(PerlPython)(5129) 非技術區(4971) Android(4554) 数据框(4311) css(4259) 节点.js(4032) C語言(3288) json(3245) 列表(3129) 扑(3119) C++語言(3117) 安卓(2998) 打字稿(2995) VBA(2789) Java相關(2746) 疑難問題(2699) 细绳(2522) 單片機工控(2479) iOS(2429) ASP.NET(2402) MongoDB(2323) 麻木的(2285) 正则表达式(2254) 字典(2211) 循环(2198) 迅速(2185) 擅长(2169) 镖(2155) 功能(1967) .NET技术(1958) Web開發(1951) python-3.x(1918) HtmlCss(1915) 弹簧靴(1913) C++(1909) xml(1889) PostgreSQL(1872) .NETCore(1853) 谷歌表格(1846) Unity3D(1843) for循环(1842)

熱門瀏覽
  • GPU虛擬機創建時間深度優化

    **?桔妹導讀:**GPU虛擬機實體創建速度慢是公有云面臨的普遍問題,由于通常情況下創建虛擬機屬于低頻操作而未引起業界的重視,實際生產中還是存在對GPU實體創建時間有苛刻要求的業務場景。本文將介紹滴滴云在解決該問題時的思路、方法、并展示最終的優化成果。 從公有云服務商那里購買過虛擬主機的資深用戶,一 ......

    uj5u.com 2020-09-10 06:09:13 more
  • 可編程網卡芯片在滴滴云網路的應用實踐

    **?桔妹導讀:**隨著云規模不斷擴大以及業務層面對延遲、帶寬的要求越來越高,采用DPDK 加速網路報文處理的方式在橫向縱向擴展都出現了局限性。可編程芯片成為業界熱點。本文主要講述了可編程網卡芯片在滴滴云網路中的應用實踐,遇到的問題、帶來的收益以及開源社區貢獻。 #1. 資料中心面臨的問題 隨著滴滴 ......

    uj5u.com 2020-09-10 06:10:21 more
  • 滴滴資料通道服務演進之路

    **?桔妹導讀:**滴滴資料通道引擎承載著全公司的資料同步,為下游實時和離線場景提供了必不可少的源資料。隨著任務量的不斷增加,資料通道的整體架構也隨之發生改變。本文介紹了滴滴資料通道的發展歷程,遇到的問題以及今后的規劃。 #1. 背景 資料,對于任何一家互聯網公司來說都是非常重要的資產,公司的大資料 ......

    uj5u.com 2020-09-10 06:11:05 more
  • 滴滴AI Labs斬獲國際機器翻譯大賽中譯英方向世界第三

    **桔妹導讀:**深耕人工智能領域,致力于探索AI讓出行更美好的滴滴AI Labs再次斬獲國際大獎,這次獲獎的專案是什么呢?一起來看看詳細報道吧! 近日,由國際計算語言學協會ACL(The Association for Computational Linguistics)舉辦的世界最具影響力的機器 ......

    uj5u.com 2020-09-10 06:11:29 more
  • MPP (Massively Parallel Processing)大規模并行處理

    1、什么是mpp? MPP (Massively Parallel Processing),即大規模并行處理,在資料庫非共享集群中,每個節點都有獨立的磁盤存盤系統和記憶體系統,業務資料根據資料庫模型和應用特點劃分到各個節點上,每臺資料節點通過專用網路或者商業通用網路互相連接,彼此協同計算,作為整體提供 ......

    uj5u.com 2020-09-10 06:11:41 more
  • 滴滴資料倉庫指標體系建設實踐

    **桔妹導讀:**指標體系是什么?如何使用OSM模型和AARRR模型搭建指標體系?如何統一流程、規范化、工具化管理指標體系?本文會對建設的方法論結合滴滴資料指標體系建設實踐進行解答分析。 #1. 什么是指標體系 ##1.1 指標體系定義 指標體系是將零散單點的具有相互聯系的指標,系統化的組織起來,通 ......

    uj5u.com 2020-09-10 06:12:52 more
  • 單表千萬行資料庫 LIKE 搜索優化手記

    我們經常在資料庫中使用 LIKE 運算子來完成對資料的模糊搜索,LIKE 運算子用于在 WHERE 子句中搜索列中的指定模式。 如果需要查找客戶表中所有姓氏是“張”的資料,可以使用下面的 SQL 陳述句: SELECT * FROM Customer WHERE Name LIKE '張%' 如果需要 ......

    uj5u.com 2020-09-10 06:13:25 more
  • 滴滴Ceph分布式存盤系統優化之鎖優化

    **桔妹導讀:**Ceph是國際知名的開源分布式存盤系統,在工業界和學術界都有著重要的影響。Ceph的架構和演算法設計發表在國際系統領域頂級會議OSDI、SOSP、SC等上。Ceph社區得到Red Hat、SUSE、Intel等大公司的大力支持。Ceph是國際云計算領域應用最廣泛的開源分布式存盤系統, ......

    uj5u.com 2020-09-10 06:14:51 more
  • es~通過ElasticsearchTemplate進行聚合~嵌套聚合

    之前寫過《es~通過ElasticsearchTemplate進行聚合操作》的文章,這一次主要寫一個嵌套的聚合,例如先對sex集合,再對desc聚合,最后再對age求和,共三層嵌套。 Aggregations的部分特性類似于SQL語言中的group by,avg,sum等函式,Aggregation ......

    uj5u.com 2020-09-10 06:14:59 more
  • 爬蟲日志監控 -- Elastc Stack(ELK)部署

    傻瓜式部署,只需替換IP與用戶 導讀: 現ELK四大組件分別為:Elasticsearch(核心)、logstash(處理)、filebeat(采集)、kibana(可視化) 下載均在https://www.elastic.co/cn/downloads/下tar包,各組件版本最好一致,配合fdm會 ......

    uj5u.com 2020-09-10 06:15:05 more
最新发布
  • day02-2-商鋪查詢快取

    功能02-商鋪查詢快取 3.商鋪詳情快取查詢 3.1什么是快取? 快取就是資料交換的緩沖區(稱作Cache),是存盤資料的臨時地方,一般讀寫性能較高。 快取的作用: 降低后端負載 提高讀寫效率,降低回應時間 快取的成本: 資料一致性成本 代碼維護成本 運維成本 3.2需求說明 如下,當我們點擊商店詳 ......

    uj5u.com 2023-04-20 08:33:24 more
  • MySQL中binlog備份腳本分享

    關于MySQL的二進制日志(binlog),我們都知道二進制日志(binlog)非常重要,尤其當你需要point to point災難恢復的時侯,所以我們要對其進行備份。關于二進制日志(binlog)的備份,可以基于flush logs方式先切換binlog,然后拷貝&壓縮到到遠程服務器或本地服務器 ......

    uj5u.com 2023-04-20 08:28:06 more
  • day02-短信登錄

    功能實作02 2.功能01-短信登錄 2.1基于Session實作登錄 2.1.1思路分析 2.1.2代碼實作 2.1.2.1發送短信驗證碼 發送短信驗證碼: 發送驗證碼的介面為:http://127.0.0.1:8080/api/user/code?phone=xxxxx<手機號> 請求方式:PO ......

    uj5u.com 2023-04-20 08:27:27 more
  • 快取與資料庫雙寫一致性幾種策略分析

    本文將對幾種快取與資料庫保證資料一致性的使用方式進行分析。為保證高并發性能,以下分析場景不考慮執行的原子性及加鎖等強一致性要求的場景,僅追求最終一致性。 ......

    uj5u.com 2023-04-20 08:26:48 more
  • sql陳述句優化

    問題查找及措施 問題查找 需要找到具體的代碼,對其進行一對一優化,而非一直把關注點放在服務器和sql平臺 降低簡化每個事務中處理的問題,盡量不要讓一個事務拖太長的時間 例如檔案上傳時,應將檔案上傳這一步放在事務外面 微軟建議 4.啟動sql定時執行計劃 怎么啟動sqlserver代理服務-百度經驗 ......

    uj5u.com 2023-04-20 08:26:35 more
  • 云時代,MySQL到ClickHouse資料同步產品對比推薦

    ClickHouse 在執行分析查詢時的速度優勢很好的彌補了MySQL的不足,但是對于很多開發者和DBA來說,如何將MySQL穩定、高效、簡單的同步到 ClickHouse 卻很困難。本文對比了 NineData、MaterializeMySQL(ClickHouse自帶)、Bifrost 三款產品... ......

    uj5u.com 2023-04-20 08:26:29 more
  • sql陳述句優化

    問題查找及措施 問題查找 需要找到具體的代碼,對其進行一對一優化,而非一直把關注點放在服務器和sql平臺 降低簡化每個事務中處理的問題,盡量不要讓一個事務拖太長的時間 例如檔案上傳時,應將檔案上傳這一步放在事務外面 微軟建議 4.啟動sql定時執行計劃 怎么啟動sqlserver代理服務-百度經驗 ......

    uj5u.com 2023-04-20 08:25:13 more
  • Redis 報”OutOfDirectMemoryError“(堆外記憶體溢位)

    Redis 報錯“OutOfDirectMemoryError(堆外記憶體溢位) ”問題如下: 一、報錯資訊: 使用 Redis 的業務介面 ,產生 OutOfDirectMemoryError(堆外記憶體溢位),如圖: 格式化后的報錯資訊: { "timestamp": "2023-04-17 22: ......

    uj5u.com 2023-04-20 08:24:54 more
  • day02-2-商鋪查詢快取

    功能02-商鋪查詢快取 3.商鋪詳情快取查詢 3.1什么是快取? 快取就是資料交換的緩沖區(稱作Cache),是存盤資料的臨時地方,一般讀寫性能較高。 快取的作用: 降低后端負載 提高讀寫效率,降低回應時間 快取的成本: 資料一致性成本 代碼維護成本 運維成本 3.2需求說明 如下,當我們點擊商店詳 ......

    uj5u.com 2023-04-20 08:24:03 more
  • day02-短信登錄

    功能實作02 2.功能01-短信登錄 2.1基于Session實作登錄 2.1.1思路分析 2.1.2代碼實作 2.1.2.1發送短信驗證碼 發送短信驗證碼: 發送驗證碼的介面為:http://127.0.0.1:8080/api/user/code?phone=xxxxx<手機號> 請求方式:PO ......

    uj5u.com 2023-04-20 08:23:11 more