主頁 >  其他 > 用了十年竟然都不對,Java、Rust、Go主流編程語言的哈希表比較

用了十年竟然都不對,Java、Rust、Go主流編程語言的哈希表比較

2021-07-21 13:33:49 其他

哈希表(HashMap、字典是日常編程當中所經常用到的一種資料結構,程式員經常接解到的大資料Hadoop技術堆疊、Redis快取資料庫等等最近熱度很高的技術,其實都是對鍵值(key-value)資料的高效存盤與提取,而key-value恰恰就是哈希表中存盤的元素結構,可以說Redis、HDFS這些都是哈希表的經典應用,不過筆者之前也只知道哈希表比較快,但對于具體什么場景下快,怎么用才快等等知識卻一知半解因此這里把目前的一些研究成果分享給大家,

重新認識哈希表

所謂的哈希表就是通過哈希演算法快速搜索查詢元素的方法,比如說你要在茫茫人海當中找到一位筆名叫做beyondma的博主,但卻并不知道他具體博客地址,在這種情況下就只能在所有的博主范圍內展開逐個的排查與摸索,運氣差的話我可能以找遍所有n個博主的主頁,才到beyondma,這也就是這種遍歷查找的時間復雜度是o(n),查找的時間會隨著博主的數量而線增長,

而哈希演算法就是直接將beyondma這個名字進行演算法處理,直接得到beyondma的博客地址資訊,在哈希演算法的加持下定位某一元素的時間度變成了o(1),由于哈希演算法能夠將key(鍵值本例中指beyond)和value(本例中指beyond.csdn.net)以o(1)的時間復雜度,直接對應起來,因此哈希表被人稱為key-value表,存盤的元素也被稱為key-value對(鍵值對),哈希表的查找程序特別像查字典,給出一個字并找到這個字在字典中的位置,只是哈希表在一般情況下都很快,當然哈希表也有代價:

空間換時間:哈希演算法也稱為散列演算法,這種叫法相對比較直觀,由于哈希演算法是通過計算確認存盤地址的,因此首先進入到哈希表的元素并不一定存到第一個位置,存盤n個鍵值對的哈希表往往會消耗比切片多很多的記憶體空間,

哈希碰撞:哈希碰撞是指不同的值,經過哈希計算后得到的記憶體地址槽位是相同的,也就是說相同的地址上要存盤兩個以上的鍵值對,一旦發生這種情況也就是哈希碰撞了發生碰撞的場景下哈希表會進行退化其中Java會在碰撞強度到達一定級別后,使用紅黑樹的方式來進行哈希鍵值對的存盤,而Go和Rust一般都是退化成為鏈表,

下面我們首先來詳細講兩個哈希常見誤用,

哈希表的誤用

不要遍歷哈希表!:區域快,不意味著整體快,由于哈希表提取單個元素的速度很快,因此整個遍歷整個集合所需要的時間也會更短,這種看法明顯是個美麗的誤會,

我們后文也會具體講到,哈希表在遍歷方面的表現結果,是由計算機組成原理決定的,與Go、Rust和Java的區別不大,因此以下例子先以Go語言的代碼為例來說明,


package main



import (

"fmt"

"time"

)



func main() {

testmap := make(map[int]int)

len := 1000000

//tests1ice := make([]int, len, len)

for i := 0; i < len; i++ {

testmap[i] = i + 1

}

sum := 0

now := time.Now().UnixNano()

for k, v := range testmap {

sum = sum + k + v

}

diff := time.Now().UnixNano() - now

fmt.Println("sum=", sum)

fmt.Println("diff=", diff)

// fmt PrintIn("slice=", slice)



}

可以看到使用哈希表進行遍歷的話,以上代碼運行的結果為:

sum= 1000000000000

diff= 29297200

成功: 行程退出代碼 0.

而對比使用切片遍歷的代碼如下:

package main



import (

"fmt"

"time"

)



func main() {

//testmap := make(map[int]int)

len := 1000000

tests1ice := make([]int, len, len)

for i := 0; i < len; i++ {

tests1ice[i] = i + 1

}

sum := 0

now := time.Now().UnixNano()

for k, v := range tests1ice {

sum = sum + k + v

}

diff := time.Now().UnixNano() - now

fmt.Println("sum=", sum)

fmt.Println("diff=", diff)

// fmt PrintIn("slice=", slice)



}

以上代碼運行結果為:

sum= 1000000000000

diff= 1953900

成功: 行程退出代碼 0.

可以看到同樣長度的集合遍歷性能表現,切片的耗時只有哈希表的5%左右,兩者幾乎相差兩個數量級,

資料訪問區域性原理的制約區域性原理可能是計算機基本原理中威力最強的基本定理之一,也是程式員在編程程序中必須要考慮的規律,因此我們看到在計算機世界中區域性原理,經常在速度不匹配的存盤介質中得到運用,比如英特爾的CPU往往分為三級高速快取,彼此之間的速度差距大概在8到10倍之間,其中高速快取中的第三級快取又比記憶體快10倍,這樣彼此之間各差10倍左右的快取體系加速效果最好,這就像軍事行動中,先鋒部隊既要率先行動,又不能與大部隊過于脫節,才能圓滿的完成任務,在實際CPU的作業當中,如果資料單元A1被訪問了,那么A1的鄰居A0和A2被訪問到的可能性也會極大的增加,因此CPU一般都會在資料單元A1被訪問的同時,將他的鄰居們調入高速快取,

也就是說切片這種在記憶體當中連續分布的資料結構,其元素都是以高速快取行的大小為單位讀入到高速快取的,而高速快取的平均速度又是記憶體的幾十倍,因此相當于一次讀取操作,就能快速處理好幾個元素;但由于哈希表實際也是稀疏表,一個鍵值對的周圍可能沒有其它有效鍵值對,因此哈希表在遍歷時實際上只能一個一個元素的處理,這樣比較下來哈希表在單個元素的訪問上快,但在整體遍歷上慢也就不足為奇了,

在元素不多不要用哈希表我經常看到有不少程式員在元素不多的情況下,還堅持使用哈希表來建立key-value對應關系,其實這樣的做法并不會帶來效率的提升,正如我們剛剛所說,哈希演算法也被稱為散列演算法,鍵值對的記憶體地址分布很可能并不連續,這就特別不方便區域性原理發揮作用,剛剛我們上文也提到了記憶體快取行的大小通常是64byte在實際測驗程序中可以看到如果元素能在個記憶體快取行存盤下來就不要用哈希表了,這時候用資料切片,每次遍歷查找的性能反而比哈希表更快,具體代碼如下:

哈希表實作示例

package main



import (

"fmt"

"time"

)



func main() {

testmap := make(map[int]int)

len := 10

times := 100000

//tests1ice := make([]int, len, len)

for i := 0; i < len; i++ {

testmap[i] = i + 1

}

sum := 0

now := time.Now().UnixNano()

for i := 0; i < times; i++ {

//for k, v := range testmap {

//if i%len == v {

sum = sum + i%len + testmap[i%len]

//break

//}

//}



//sum = sum + k + v

//tests1ice[i%len] = i + 1

}



diff := time.Now().UnixNano() - now

fmt.Println("sum=", sum)

fmt.Println("diff=", diff)

// fmt PrintIn("slice=", slice)



}

以上代碼結果如下:

sum= 1000000

diff= 2929500

而切片遍歷查找的實作如下:

package main



import (

"fmt"

"time"

)



func main() {

//testmap := make(map[int]int)

len := 10

times := 100000

tests1ice := make([]int, len, len)

for i := 0; i < len; i++ {

tests1ice[i] = i + 1

}

sum := 0

now := time.Now().UnixNano()

for i := 0; i < times; i++ {

for k, v := range tests1ice {

if i%len == k {

sum = sum + k + v

break

}

}



//sum = sum + k + v

//tests1ice[i%len] = i + 1

}



diff := time.Now().UnixNano() - now

fmt.Println("sum=", sum)

fmt.Println("diff=", diff)

// fmt PrintIn("slice=", slice)



}

sum= 810000

diff= 1953000

成功: 行程退出代碼 0.

少元素方面集合的元素定位性能上,哈希表比切片慢了40%,當然這也是區域性原理造成的,由于元素比較少,因此切片這樣記憶體連續資料結構,完全可以在高速快取中完成資料的查找定位,這樣綜合下來其性能反而還要比哈希表要快,

正如前文所述,哈希演算法的作業機制本身就決定了哈希表對存盤空間就有一定的浪費,因此在沒有性能優勢的情況下,尤其是上述遍歷及短表的場景下,就不要再用哈希表了,完全沒有必要,

哈希表的實作機制要點

在筆者看了部分哈希表的代碼之后,Java、Go和Rust這三種語言有一些相同的機制,也有一些不同,其中有兩點值得關注,當然由于水平有限,如有錯誤之處敬請指正,

避免使用連續記憶體塊:我們知道在記憶體、硬碟等存盤設備的管理中,連續的空間往往是比較寶貴的,而哈希表是相對比較稀疏的資料結構,因此Java、Go和Rust基本都參考了一些比如桶的機制,盡量避免占用連續的記憶體塊,以Go語言的實作為例:

type hmap struct {

count     int // map的長度

flags     uint8

B         uint8  // map中的bucket的數量,

noverflow uint16 //

hash0     uint32 // hash 種子



buckets    unsafe.Pointer // 指向桶的指標

oldbuckets unsafe.Pointer // 指向舊桶的指標,這里用于溢位

nevacuate  uintptr        

extra *mapextra // optional fields

}



// 在桶溢位的時候會用到extra

type mapextra struct {

overflow    *[]*bmap

oldoverflow *[]*bmap

nextOverflow *bmap

}



type bmap struct {

tophash [bucketCnt]uint8// Map中的哈希值的高8位為桶的地址



}

在訪問Map中的鍵值對時,需要先計算key的哈希值,其中哈希的值的低8位定位到具體的桶(bucket),通過高8位在桶內定位到具體的位置而不同桶之間所占用的記憶體區域也不需要是連續的空間,這樣也就從一定程度上彌補哈希表占用空間較大的缺點,

哈希碰撞處理:我們剛剛也介紹了哈希表碰撞的內容,也就是出現了不同的鍵值對要存盤在同一個記憶體槽位的場景,極端情況下是所有鍵值對全部發生碰撞,這樣哈希表實際也就退化成了鏈表,Java對碰撞的處理相對比較成熟,如果退化的鏈表長度大于8,那么Java會選擇用紅黑樹這種近似于二叉排序樹的資料結構進行替代,從而保證定位性能不低于O(logn)

而如果鏈表的長度小于等于8,那么如我們上文介紹,在資料長度比較短的情況下其實鏈表的性能可能還會更好,沒必要使用引入紅黑樹,由此可見Java這門語言的確已經非常成熟,

轉載請註明出處,本文鏈接:https://www.uj5u.com/qita/289280.html

標籤:其他

上一篇:LeetCode 面試必備100題:Add Two Numbers 兩數相加

下一篇:非計算機專業,兩年我從小公司到了網易,大廠的感覺真爽!

標籤雲
其他(157675) Python(38076) JavaScript(25376) Java(17977) C(15215) 區塊鏈(8255) C#(7972) AI(7469) 爪哇(7425) MySQL(7132) html(6777) 基礎類(6313) sql(6102) 熊猫(6058) PHP(5869) 数组(5741) R(5409) Linux(5327) 反应(5209) 腳本語言(PerlPython)(5129) 非技術區(4971) Android(4554) 数据框(4311) css(4259) 节点.js(4032) C語言(3288) json(3245) 列表(3129) 扑(3119) C++語言(3117) 安卓(2998) 打字稿(2995) VBA(2789) Java相關(2746) 疑難問題(2699) 细绳(2522) 單片機工控(2479) iOS(2429) ASP.NET(2402) MongoDB(2323) 麻木的(2285) 正则表达式(2254) 字典(2211) 循环(2198) 迅速(2185) 擅长(2169) 镖(2155) 功能(1967) .NET技术(1958) Web開發(1951) python-3.x(1918) HtmlCss(1915) 弹簧靴(1913) C++(1909) xml(1889) PostgreSQL(1872) .NETCore(1853) 谷歌表格(1846) Unity3D(1843) for循环(1842)

熱門瀏覽
  • 網閘典型架構簡述

    網閘架構一般分為兩種:三主機的三系統架構網閘和雙主機的2+1架構網閘。 三主機架構分別為內端機、外端機和仲裁機。三機無論從軟體和硬體上均各自獨立。首先從硬體上來看,三機都用各自獨立的主板、記憶體及存盤設備。從軟體上來看,三機有各自獨立的作業系統。這樣能達到完全的三機獨立。對于“2+1”系統,“2”分為 ......

    uj5u.com 2020-09-10 02:00:44 more
  • 如何從xshell上傳檔案到centos linux虛擬機里

    如何從xshell上傳檔案到centos linux虛擬機里及:虛擬機CentOs下執行 yum -y install lrzsz命令,出現錯誤:鏡像無法找到軟體包 前言 一、安裝lrzsz步驟 二、上傳檔案 三、遇到的問題及解決方案 總結 前言 提示:其實很簡單,往虛擬機上安裝一個上傳檔案的工具 ......

    uj5u.com 2020-09-10 02:00:47 more
  • 一、SQLMAP入門

    一、SQLMAP入門 1、判斷是否存在注入 sqlmap.py -u 網址/id=1 id=1不可缺少。當注入點后面的引數大于兩個時。需要加雙引號, sqlmap.py -u "網址/id=1&uid=1" 2、判斷文本中的請求是否存在注入 從文本中加載http請求,SQLMAP可以從一個文本檔案中 ......

    uj5u.com 2020-09-10 02:00:50 more
  • Metasploit 簡單使用教程

    metasploit 簡單使用教程 浩先生, 2020-08-28 16:18:25 分類專欄: kail 網路安全 linux 文章標簽: linux資訊安全 編輯 著作權 metasploit 使用教程 前言 一、Metasploit是什么? 二、準備作業 三、具體步驟 前言 Msfconsole ......

    uj5u.com 2020-09-10 02:00:53 more
  • 游戲逆向之驅動層與用戶層通訊

    驅動層代碼: #pragma once #include <ntifs.h> #define add_code CTL_CODE(FILE_DEVICE_UNKNOWN,0x800,METHOD_BUFFERED,FILE_ANY_ACCESS) /* 更多游戲逆向視頻www.yxfzedu.com ......

    uj5u.com 2020-09-10 02:00:56 more
  • 北斗電力時鐘(北斗授時服務器)讓網路資料更精準

    北斗電力時鐘(北斗授時服務器)讓網路資料更精準 北斗電力時鐘(北斗授時服務器)讓網路資料更精準 京準電子科技官微——ahjzsz 近幾年,資訊技術的得了快速發展,互聯網在逐漸普及,其在人們生活和生產中都得到了廣泛應用,并且取得了不錯的應用效果。計算機網路資訊在電力系統中的應用,一方面使電力系統的運行 ......

    uj5u.com 2020-09-10 02:01:03 more
  • 【CTF】CTFHub 技能樹 彩蛋 writeup

    ?碎碎念 CTFHub:https://www.ctfhub.com/ 筆者入門CTF時時剛開始刷的是bugku的舊平臺,后來才有了CTFHub。 感覺不論是網頁UI設計,還是題目質量,賽事跟蹤,工具軟體都做得很不錯。 而且因為獨到的金幣制度的確讓人有一種想去刷題賺金幣的感覺。 個人還是非常喜歡這個 ......

    uj5u.com 2020-09-10 02:04:05 more
  • 02windows基礎操作

    我學到了一下幾點 Windows系統目錄結構與滲透的作用 常見Windows的服務詳解 Windows埠詳解 常用的Windows注冊表詳解 hacker DOS命令詳解(net user / type /md /rd/ dir /cd /net use copy、批處理 等) 利用dos命令制作 ......

    uj5u.com 2020-09-10 02:04:18 more
  • 03.Linux基礎操作

    我學到了以下幾點 01Linux系統介紹02系統安裝,密碼啊破解03Linux常用命令04LAMP 01LINUX windows: win03 8 12 16 19 配置不繁瑣 Linux:redhat,centos(紅帽社區版),Ubuntu server,suse unix:金融機構,證券,銀 ......

    uj5u.com 2020-09-10 02:04:30 more
  • 05HTML

    01HTML介紹 02頭部標簽講解03基礎標簽講解04表單標簽講解 HTML前段語言 js1.了解代碼2.根據代碼 懂得挖掘漏洞 (POST注入/XSS漏洞上傳)3.黑帽seo 白帽seo 客戶網站被黑帽植入劫持代碼如何處理4.熟悉html表單 <html><head><title>TDK標題,描述 ......

    uj5u.com 2020-09-10 02:04:36 more
最新发布
  • 2023年最新微信小程式抓包教程

    01 開門見山 隔一個月發一篇文章,不過分。 首先回顧一下《微信系結手機號資料庫被脫庫事件》,我也是第一時間得知了這個訊息,然后跟蹤了整件事情的經過。下面是這起事件的相關截圖以及近日流出的一萬條資料樣本: 個人認為這件事也沒什么,還不如關注一下之前45億快遞資料查詢渠道疑似在近日復活的訊息。 訊息是 ......

    uj5u.com 2023-04-20 08:48:24 more
  • web3 產品介紹:metamask 錢包 使用最多的瀏覽器插件錢包

    Metamask錢包是一種基于區塊鏈技術的數字貨幣錢包,它允許用戶在安全、便捷的環境下管理自己的加密資產。Metamask錢包是以太坊生態系統中最流行的錢包之一,它具有易于使用、安全性高和功能強大等優點。 本文將詳細介紹Metamask錢包的功能和使用方法。 一、 Metamask錢包的功能 數字資 ......

    uj5u.com 2023-04-20 08:47:46 more
  • vulnhub_Earth

    前言 靶機地址->>>vulnhub_Earth 攻擊機ip:192.168.20.121 靶機ip:192.168.20.122 參考文章 https://www.cnblogs.com/Jing-X/archive/2022/04/03/16097695.html https://www.cnb ......

    uj5u.com 2023-04-20 07:46:20 more
  • 從4k到42k,軟體測驗工程師的漲薪史,給我看哭了

    清明節一過,盲猜大家已經無心上班,在數著日子準備過五一,但一想到銀行卡里的余額……瞬間心情就不美麗了。最近,2023年高校畢業生就業調查顯示,本科畢業月平均起薪為5825元。調查一出,便有很多同學表示自己又被平均了。看著這一資料,不免讓人想到前不久中國青年報的一項調查:近六成大學生認為畢業10年內會 ......

    uj5u.com 2023-04-20 07:44:00 more
  • 最新版本 Stable Diffusion 開源 AI 繪畫工具之中文自動提詞篇

    🎈 標簽生成器 由于輸入正向提示詞 prompt 和反向提示詞 negative prompt 都是使用英文,所以對學習母語的我們非常不友好 使用網址:https://tinygeeker.github.io/p/ai-prompt-generator 這個網址是為了讓大家在使用 AI 繪畫的時候 ......

    uj5u.com 2023-04-20 07:43:36 more
  • 漫談前端自動化測驗演進之路及測驗工具分析

    隨著前端技術的不斷發展和應用程式的日益復雜,前端自動化測驗也在不斷演進。隨著 Web 應用程式變得越來越復雜,自動化測驗的需求也越來越高。如今,自動化測驗已經成為 Web 應用程式開發程序中不可或缺的一部分,它們可以幫助開發人員更快地發現和修復錯誤,提高應用程式的性能和可靠性。 ......

    uj5u.com 2023-04-20 07:43:16 more
  • CANN開發實踐:4個DVPP記憶體問題的典型案例解讀

    摘要:由于DVPP媒體資料處理功能對存放輸入、輸出資料的記憶體有更高的要求(例如,記憶體首地址128位元組對齊),因此需呼叫專用的記憶體申請介面,那么本期就分享幾個關于DVPP記憶體問題的典型案例,并給出原因分析及解決方法。 本文分享自華為云社區《FAQ_DVPP記憶體問題案例》,作者:昇騰CANN。 DVPP ......

    uj5u.com 2023-04-20 07:43:03 more
  • msf學習

    msf學習 以kali自帶的msf為例 一、msf核心模塊與功能 msf模塊都放在/usr/share/metasploit-framework/modules目錄下 1、auxiliary 輔助模塊,輔助滲透(埠掃描、登錄密碼爆破、漏洞驗證等) 2、encoders 編碼器模塊,主要包含各種編碼 ......

    uj5u.com 2023-04-20 07:42:59 more
  • Halcon軟體安裝與界面簡介

    1. 下載Halcon17版本到到本地 2. 雙擊安裝包后 3. 步驟如下 1.2 Halcon軟體安裝 界面分為四大塊 1. Halcon的五個助手 1) 影像采集助手:與相機連接,設定相機引數,采集影像 2) 標定助手:九點標定或是其它的標定,生成標定檔案及內參外參,可以將像素單位轉換為長度單位 ......

    uj5u.com 2023-04-20 07:42:17 more
  • 在MacOS下使用Unity3D開發游戲

    第一次發博客,先發一下我的游戲開發環境吧。 去年2月份買了一臺MacBookPro2021 M1pro(以下簡稱mbp),這一年來一直在用mbp開發游戲。我大致分享一下我的開發工具以及使用體驗。 1、Unity 官網鏈接: https://unity.cn/releases 我一般使用的Apple ......

    uj5u.com 2023-04-20 07:40:19 more