主頁 > 資料庫 > 一文讀懂資料庫發展史

一文讀懂資料庫發展史

2022-05-11 08:27:23 資料庫

本文力求以簡單易懂的語言描述出資料庫發展史,盡量避免出現復雜的概念介紹,資料庫演進史如圖1所示:

資料庫發展史

圖1 資料庫演進

一、穿孔紙帶和檔案系統

  在現代意義的資料庫出現之前(20世紀60年代),人們通過人工和檔案系統的方式來存盤、管理資料,在人工管理時期,人們常使用穿孔紙帶來管理資料(圖2),雖然穿孔紙帶因不具備電子化特征、不能被稱為資料庫,但其代表著人們在資料存盤結構上思考和實踐的結果,有必要單獨提及,

資料庫發展史

圖2 穿孔紙帶

  隨著資料量的增多以及計算機技術、存盤技術的快速發展,穿孔紙帶這一紙質存盤媒介很快就被磁盤、磁鼓(圖3)等磁性存盤設備所取代,在軟體方面,作業系統中也出現了專門管理資料的軟體,被稱為檔案系統(例如我們電腦里的C,D,E盤),

  檔案系統可以說是最早的資料庫了,作業系統提供的檔案管理方法使得程式可以通過檔案名來訪問檔案中的資料,不必再尋找資料的物理位置,相比較手工處理的方式,檔案系統使得管理資料變得簡單一些,使用者不需要再翻來覆去地查找檔案的位置,但是檔案內的資料仍然沒有組織起來,程式員需要在腦海中嘗試構造出資料與資料的關系,再撰寫代碼才能從檔案中提取關鍵資料,除過資料結構和資料關系不完整的問題外,此時的資料只面向某個應用或者某個程式,資料的共享性也有著一定的問題,

資料庫發展史

圖3 磁鼓(長12英寸,每節可存盤不到10k資料)

  隨著資料量的增長以及企業對資料共享的要求越來越高,人們開始提出資料庫管理系統(Database Management System, DBMS)的概念,對資料模型展開了更深層次的思考,

二、資料模型

  通俗地講資料模型就是對現實世界的模擬,是對現實世界資料特征的抽象,這個抽象的程序并不是一蹴而就的,事物的抽象存在多個層次,需要用到不同的模型來進行描述,在前輩們的不斷探索中,資料模型被劃分為三個層次,第一個層次為概念模型(又稱資訊模型);第二層次為邏輯模型;第三層次為物理模型,

  概念模型中就是從現實世界中抽取出事物、事物特征、事物間的聯系等資訊,并通過概念精確地加以描述,在這個層次進行資料建模時,有一些概念必須要知道,分別是物體、屬性和聯系,在現實世界中客觀存在的事物或事件被稱為物體,例如一只羊,一名學生,一張單據,甚至一份“用餐記錄”等,物體具有的某方面特性叫做屬性,例如學生的屬性有姓名、年齡等,現實世界中事物彼此的聯系在概念模型中反映為物體之間的聯系,聯系有以下幾種(圖4)

資料庫發展史

圖4 物體間聯系

邏輯模型是按照計算機系統的觀點對資料進行建模,用于DBMS的實作,而物理模型則用于描述資料在磁盤或系統中的表示方式和存取方法,

三、層次模型與網路模型

  通用電氣的工程師CharlesW.Bachman領導開發了全球第一個資料庫管理系統-網狀資料庫管理系統(IDS),并于1964年正式推出,IDS采用網狀結構,很好地模擬了現實世界中事物間的多種聯系,

網狀結構有多種表現形式(圖5)

資料庫發展史

圖5 網狀結構表現形式舉例

為便于讀者理解,舉一個例子加以說明

資料庫發展史

圖6 教務系統網狀結構

  同時期為解決“阿波羅登月”計劃處理龐大資料量的需求,北美航空公司(NAA)開發出 GUAM(Generalized Update Access Method)軟體,其設計思想是將多個小組件構成較大組件,最終組成完整產品,這是一種倒置樹的結構,也被稱之為層次結構,層次結構僅能表示一對多的關系,隨后IBM加入NAA,將 GUAM 發展成為 IMS(Information Management System)系統并發布于1968年,

為便于讀者理解,舉一個例子加以說明(圖7、8),

資料庫發展史

圖7 “系-教研室/學生教職工”層次資料庫模型

資料庫發展史

圖8 “系-教研室/學生教職工”層次資料庫模型的一個值

  相比較于檔案系統來說,層次資料庫和網狀資料庫實作了資料和程式的分離,但是缺乏理論基礎,而且也不方便使用,原因在于使用者在查找一個資料時,總要先在腦海中構建出當前的層次結構或網路結構,接著才能按照從屬關系編碼再查找,若在一個系統中有上千個物體的話,這就是人力所不能及的了,

四、關系模型的發展及完善

  1970年, IBM 實驗室的Edgar Frank Codd 發表了一篇題為《大型共享資料庫資料的關系模型》論文,提出基于集合論和謂詞邏輯的關系模型,為關系型資料庫技術奠定了理論基礎,關系模型最大的創新點是拆掉了表與表之間的聯系,將這種關系只存盤在表中的一個欄位中,從而實作了表與表之間的獨立(圖9),

資料庫發展史

圖9 “系-教研室/學生教職工”關系資料庫模型

  若采用關系結構對上述的“系-教研室/學生-教職工”進行建模,建成的模型將會成為這樣,例如在提取教研室的資料時,碰到系編號這個欄位,就會自然而然地連接到系的具體資料中,

  當時Codd提出這個模型后,受限于當時的硬體條件,這個模型遭到了很多批評,人們認為這種模型是難以實作的,正如上述這個例子,當在檢索教研室這個表的資料時,碰到系編號這個欄位時就需要再去遍歷一遍這張表的資料,這種提取資料的方式讓當時的機器難以承受,但是在摩爾定律的加持下,這些問題迎刃而解,這種建立在嚴格數學概念上的關系模型很快就得到了學術界和工業界的青睞,

  從資料關系理論到架構一個真實的關系資料庫系統之間還有很長的一段路要走,在這個程序中,有很多公司、學者都貢獻出了自己的成果,共同推動著資料庫領域的發展,1973年,IBM啟動了驗證關系型資料庫系統的專案System R,同年伯克利大學的Michael Stonebraker等人啟動了關系資料的研究專案 Ingres(interactive graphics andretrieval system),

  1974 年,Ingres 誕生,為后續大量基于其原始碼開發的PostgreSQL、Sybase、Informix 、Tandem和Sql Server等著名產品打下堅實基礎,1976年,P.P.Chen提出了物體-聯系模型(簡稱E-R模型),這種模型常被用來描述、抽象概念資料模型(詳細解釋可閱讀這篇文章https://zhuanlan.zhihu.com/p/356216273),
  1979年,Oracle誕生,從誕生之日起,Oracle就一直是資料庫領域處于領先的產品,1983年,經過長達十年的開發與測驗,IBM發布了Database2,這標志著DB2的正式誕生,

  1985年,為存盤、表達更為復雜的資料結構(例如嵌套表、非結構化資料等),人們提出了面向物件的資料模型,這種模型吸收了層次、網狀和關系資料庫等各類資料模型的特點,并借鑒了面向物件的設計方法,面向物件的資料模型將所有事物都看作是一個物件,每個物件的定義包括狀態和行為兩個方面,其中狀態由一組屬性組成,行為由一組方法組成,具有相同屬性和方法的物件構成一個物件類,(詳細解釋可閱讀這篇文章https://blog.51cto.com/nu1l/2834178)

  雖然面向物件的資料模型很早就被提出來了,但是真正結果還得等到20多年之后,在當時來說,仍然還是關系型資料庫的天下,1986 年,美國國家標準局(ANSI)資料庫委員會批準SQL作為資料庫語言的美國標準并公布標準 SQL 文本,1987 年,國際標準化組織(ISO)也做出了同樣決定,對 SQL 進行標準化規范并不斷更新,使得 SQL 成為關系型資料庫的主流語言,此后相當長的一段時間內,不論是微機、小型機還是大型機,不論是哪種資料庫系統,都采用SQL 作為資料存取語言,各個公司紛紛推出各自支持SQL的軟體或介面,

  1988年SQL Server誕生,微軟、Sybase等公司合作,在Sybase的基礎上生產出了在OS/2作業系統上使用的SQL Server 1.0,各大公司在關系資料庫管理系統(RDBMS)的實作和產品開發中,都遇到了一系列技術問題,主要是在資料庫的規模愈來愈大,資料庫的結構愈來愈復雜,又有愈來愈多的用戶共享資料庫的情況下,如何保障資料的完整性(Integrity)、安全性(Security)、并行性(Concurrency),以及一旦出現故障后,資料庫如何實作從故障中恢復(Recovery),這些問題如果不能圓滿解決,無論哪個公司的資料庫產品都無法進入實用階段,最終不能被用戶所接受,

  在當時爭論紛繁的資料庫學術大戰中,Jim Gray將資料庫研究轉向底層,同時思考各種資料庫都面臨的并發和故障恢復等基本問題,最終,Jim Gray理清了事務的基本概念以及開創性的提出了目前資料庫事務處理機制的基礎ACID屬性,并且給出來許多具體的實作機制,他的研究成果反映在他發表的一系列論文和研究報告之中,最后結晶為一部厚厚的專著《Transaction Processing:Concepts andTechniques》,這不僅為資料庫事務處理的發展奠定了夯實的基礎,而且確保了現今電子化的商業和金融系統的可靠運行,

資料庫發展史

事務處理

五、資料庫能力的拓展

  隨著關系型資料庫的發展以及不同業務場景的數字化,人們逐漸產生通過資料監控業務發展,并通過資料分析來輔助業務發展的想法,在此想法之上,1988年,資料倉庫的概念被正式提出,資料倉庫是一個面向主題的、集成的、非易失的、隨時間變化的用來支持管理人員決策的資料集合,

  單從概念來說,很難理解資料倉庫究竟是一個什么東西,舉個例子,一個企業不同業務的資料存放在不同的資料庫中,若沒有資料倉庫這個產品,資料分析師或業務分析人員就必須從各個業務資料庫中拉取自己所需要的資料,而各個資料庫的命名規則、存取規則、格式可能都各不相同,這就造成業務分析人員必須做大量作業來整理自己所需要的資料,而且這一結果不能被復用,需要做大量重復的作業,資料倉庫就解決了這些問題,

  盡管當時的人們已經有了資料倉庫的概念,但是對于資料倉庫的實作方式,一直爭論不休,直到1991年Bill Inmon出版了《Buildingthe Data Warehouse》(建立資料倉庫)這本書,資料倉庫實作方法的爭論才告一段落,在這本書中,Inmon不僅對資料倉庫提出了更精確的定義- 資料倉庫是在企業管理和決策中面向主題的、集成的、與時間相關的、不可修改的資料集合,而且提出了范式建模的資料倉庫建設方法,盡管后來范式建模受到了維度建模的挑戰(可以詳見這篇文章:
https://segmentfault.com/a/1190000006255954),但因Inmon的巨大影響力,他被尊稱為“資料倉庫之父”,

資料庫發展史

構建資料倉庫

  在有了資料倉庫概念和具體實作方法后,人們嘗試在此基礎上做資料分析,但在分析程序中,人們發現使用關系資料庫對多維資料進行分析時效率非常低,原因在于關系資料庫并不是專為資料分析而打造的,要想提升分析效率,人們還需要一個支持多維資料的處理引擎,1993年,關系型資料庫創始人Edgar F. Codd提出聯機分析處理(OLAP)的概念,目標是為了滿足決策支持、報表展示以及多維資料查詢的需求,

六、開源成果涌現

  到目前為止,資料庫只覆寫了少數業務領域,資料庫使用者局限在大型商超、金融機構、學術研究機構等業務機構中,且當時的資料庫也被IBM、Oracle等公司壟斷著,資料庫仍然是一個比較小眾的軟體,但在同一時期互聯網開始進入了尋常百姓家,互聯網行業迎來了快速發展,涌現出了大量的網頁、網站和互聯網公司,人們需要資料庫來存盤網頁的相關資料,但當時的商業資料庫又太貴或者因查詢性能不足而無法滿足人們的需求,Stonebraker等人的努力在此時開枝散葉,由于他將Ingres的原始碼公布在網上,教會了很多人如何架構資料庫,從而在一定程度上促進了當時資料庫開源運動的興起,其中最著名的兩個成果就是1996年發布的MySQL和PostgreSQL,

資料庫發展史

PostgreSQL與MySQL

七、NoSQL(Not Only SQL)時代

  而隨著互聯網和移動互聯網的蓬勃發展,接入互聯網的用戶逐漸增多,用戶的需求越來越多以及資料的不斷提升,傳統單機關系型資料庫已經無法滿足人們的需求了,人們在資料庫領域開始尋求新的出路,其中有兩個值得提起的分支,一個分支是探索多種資料模型和存盤介質的資料庫,早期比較有影響力的專案是Memcached,這個專案采用了鍵值模型來建立資料模型;另外一個分支就是分布式資料庫,人們希望用多臺機器形成集群來存盤、處理資料,其中最具影響力和代表性的事件是Google于2003年至2006年發布的三篇論文,分別是Google File System、Google Big table和Google MapReduce,奠定了分布式資料系統基礎,

資料庫發展史

三駕馬車

  由于傳統基于集中式資料庫在應對海量資料及復雜分析處理時,存在資料庫的橫向擴展能力受限、資料存盤和計算能力受限、不能滿足業務瞬時高峰的性能等根本性的架構問題,利用分布式計算和記憶體計算等新技術設計的分布式資料庫能夠解決上述遇到的性能不足等問題,分布式資料庫的資料分散在網路上多個互聯的節點上,資料量、寫入讀取的負載均衡分散到多個單機中,集群中某個節點故障時整個集群仍然能繼續作業,資料通過分片、復制、磁區等方式實作分布存盤,

  2007年,Hbase誕生,其理論基礎正是Google在2006年所提出的Big table,它是以分布式存盤作為基礎的資料庫,底層存盤基于分布式檔案系統具備了分片或者磁區存盤的能力,擴大了普通存盤設備的存盤系統的上限,同年Amazon發表了Dynamo論文,這篇論文第一次在非關系型資料庫領域引入了資料庫的底層特性,奠定了后續NoSQL資料庫領域的部分基礎特性,

  2008年9 月,美國《自然》(Nature)雜志專刊——The next google,第一次正式提出“大資料”概念,這個概念的真正意義在于,資料被認為是人類認知世界的一種新型方法,人們可以通過資料來了解、探索、觀察、研究世界,

  關系型資料庫不能較好地處理高并發讀寫、多結構化資料存盤等情景,為應對這一問題,資料庫供應商和開源社區都提出了各種解決方案,例如通過分庫、分表、加快取等方式來提升性能,但底層的關系設計仍然是性能天花板的根本原因,此時NoSQL資料庫應運而生,它擴展了諸多資料模型,在不同場景下使用不同的資料模型來進行處理,其代表成果是2009推出的檔案資料庫Mongdb、2010年推出的鍵值資料庫Redis和2010年推出的圖資料庫Neo4j,這類NoSQL資料庫極大地擴展了人們存盤、使用資料的方式,

八、NewSQL時代

  這種NoSQL資料庫雖然解決了高并發讀寫、多結構化資料存盤等問題,但其設計思路是犧牲事務處理、一致性以及犧牲SQL換來的,而SQL、事務的重要性讓人們開始反思怎么樣才能在解決前述問題的基礎上保留SQL和事務的能力,Google 于2012年發布了Spanner的論文,這篇文章創新性地提出了TrueTime的概念,它在第一代 NoSQL 系統的基礎之上引入了 SQL 和分布式事務,保證了強一致性,(也正是這篇論文,宣布了NoSQL時代的結束,資料庫發展來到了NewSQL的階段)

  這篇文章在工業界和學術界都有著巨大的反響,截止2022年4月,對其開源實作最好的產品是于2015年誕生的CockroachDB和TiDB(可閱讀
https://www.zhihu.com/question/60686555/answer/1531192635),和Spanner及它的追隨者不同的是,Amazon在面對這一問題時,選擇了完全不同的路徑,Amazon 發布的Aurora 是一個存盤計算分離的系統,運行在公有云之上,它的設計思想很巧妙,它把存盤與計算分離使得可以非常簡單得實作存盤能力的可擴展,并于2017年在SIGMOD上發表了《Amazon Aurora: Design Considerations for High Throughput Cloud-NativeRelational Databases》這篇論文,披露了Aurora的一些技術實作細節,

九、未來展望

  大資料時代,資料量不斷爆炸式增長,資料存盤結構也越來越靈活多樣,日益變革的新興業務需求催生資料庫及應用系統的存在形式愈發豐富,這些變化均對資料庫的各類能力不斷提出挑戰,推動資料庫的不斷演進,總的來說可能會有四個方向,第一個方向是垂直領域的資料庫,例如工業資料庫、財經資料庫等,

  截止目前為止,資料庫都是“通才“,企圖囊括所有領域,而并非深耕某一垂直領域,第二個方向是分布式資料庫,通過“分布式”解決水平擴展性與容災高可用兩個問題,并且有融合OLAP的潛力,第三個方向是云原生資料庫,云原生資料庫能夠隨時隨地從前端訪問,提供云服務的計算節點,并且能夠靈活及時調動資源進行擴容,助力企業降本增效,以亞馬遜AWS、阿里云、Snowflake等為代表的企業,開創了云原生資料庫時代,第四個方向是資料安全領域,在如今這樣一個什么都可以量化的年代,資料是很多企業的生命線,而第三方服務商并非真正中立,誰愿意自己的命根被掌握在別人手里呢?在未來,隱私計算和區塊鏈技術可能會幫助資料庫發展得更好,共同解決資料安全的問題,

參考文獻:

[1]中國資訊通信研究院,資料庫發展研究報告(2021 年)

[2]Spanner: Google’s Globally-DistributedDatabase

[3]Amazon Aurora: Design Considerations for High Throughput Cloud-NativeRelational Databases

[4]中國人民大學資訊學院,資料庫系統概論

[5]Google File System、Google Bigtable 和 Google MapReduce

[6]吳鶴齡.關系資料庫的標準語言——SQL[J].計算機研究與發展,1989(06):7

 

注:

歡迎轉載,但請在文章末尾或文章開頭注明來源

轉載請註明出處,本文鏈接:https://www.uj5u.com/shujuku/472326.html

標籤:其他

上一篇:Oracle19c單實體資料庫配置OGG單用戶資料同步測驗

下一篇:大資料Hadoop之——Flink中的Window API+時間語意+Watermark

標籤雲
其他(157675) Python(38076) JavaScript(25376) Java(17977) C(15215) 區塊鏈(8255) C#(7972) AI(7469) 爪哇(7425) MySQL(7132) html(6777) 基礎類(6313) sql(6102) 熊猫(6058) PHP(5869) 数组(5741) R(5409) Linux(5327) 反应(5209) 腳本語言(PerlPython)(5129) 非技術區(4971) Android(4554) 数据框(4311) css(4259) 节点.js(4032) C語言(3288) json(3245) 列表(3129) 扑(3119) C++語言(3117) 安卓(2998) 打字稿(2995) VBA(2789) Java相關(2746) 疑難問題(2699) 细绳(2522) 單片機工控(2479) iOS(2429) ASP.NET(2402) MongoDB(2323) 麻木的(2285) 正则表达式(2254) 字典(2211) 循环(2198) 迅速(2185) 擅长(2169) 镖(2155) 功能(1967) .NET技术(1958) Web開發(1951) python-3.x(1918) HtmlCss(1915) 弹簧靴(1913) C++(1909) xml(1889) PostgreSQL(1872) .NETCore(1853) 谷歌表格(1846) Unity3D(1843) for循环(1842)

熱門瀏覽
  • GPU虛擬機創建時間深度優化

    **?桔妹導讀:**GPU虛擬機實體創建速度慢是公有云面臨的普遍問題,由于通常情況下創建虛擬機屬于低頻操作而未引起業界的重視,實際生產中還是存在對GPU實體創建時間有苛刻要求的業務場景。本文將介紹滴滴云在解決該問題時的思路、方法、并展示最終的優化成果。 從公有云服務商那里購買過虛擬主機的資深用戶,一 ......

    uj5u.com 2020-09-10 06:09:13 more
  • 可編程網卡芯片在滴滴云網路的應用實踐

    **?桔妹導讀:**隨著云規模不斷擴大以及業務層面對延遲、帶寬的要求越來越高,采用DPDK 加速網路報文處理的方式在橫向縱向擴展都出現了局限性。可編程芯片成為業界熱點。本文主要講述了可編程網卡芯片在滴滴云網路中的應用實踐,遇到的問題、帶來的收益以及開源社區貢獻。 #1. 資料中心面臨的問題 隨著滴滴 ......

    uj5u.com 2020-09-10 06:10:21 more
  • 滴滴資料通道服務演進之路

    **?桔妹導讀:**滴滴資料通道引擎承載著全公司的資料同步,為下游實時和離線場景提供了必不可少的源資料。隨著任務量的不斷增加,資料通道的整體架構也隨之發生改變。本文介紹了滴滴資料通道的發展歷程,遇到的問題以及今后的規劃。 #1. 背景 資料,對于任何一家互聯網公司來說都是非常重要的資產,公司的大資料 ......

    uj5u.com 2020-09-10 06:11:05 more
  • 滴滴AI Labs斬獲國際機器翻譯大賽中譯英方向世界第三

    **桔妹導讀:**深耕人工智能領域,致力于探索AI讓出行更美好的滴滴AI Labs再次斬獲國際大獎,這次獲獎的專案是什么呢?一起來看看詳細報道吧! 近日,由國際計算語言學協會ACL(The Association for Computational Linguistics)舉辦的世界最具影響力的機器 ......

    uj5u.com 2020-09-10 06:11:29 more
  • MPP (Massively Parallel Processing)大規模并行處理

    1、什么是mpp? MPP (Massively Parallel Processing),即大規模并行處理,在資料庫非共享集群中,每個節點都有獨立的磁盤存盤系統和記憶體系統,業務資料根據資料庫模型和應用特點劃分到各個節點上,每臺資料節點通過專用網路或者商業通用網路互相連接,彼此協同計算,作為整體提供 ......

    uj5u.com 2020-09-10 06:11:41 more
  • 滴滴資料倉庫指標體系建設實踐

    **桔妹導讀:**指標體系是什么?如何使用OSM模型和AARRR模型搭建指標體系?如何統一流程、規范化、工具化管理指標體系?本文會對建設的方法論結合滴滴資料指標體系建設實踐進行解答分析。 #1. 什么是指標體系 ##1.1 指標體系定義 指標體系是將零散單點的具有相互聯系的指標,系統化的組織起來,通 ......

    uj5u.com 2020-09-10 06:12:52 more
  • 單表千萬行資料庫 LIKE 搜索優化手記

    我們經常在資料庫中使用 LIKE 運算子來完成對資料的模糊搜索,LIKE 運算子用于在 WHERE 子句中搜索列中的指定模式。 如果需要查找客戶表中所有姓氏是“張”的資料,可以使用下面的 SQL 陳述句: SELECT * FROM Customer WHERE Name LIKE '張%' 如果需要 ......

    uj5u.com 2020-09-10 06:13:25 more
  • 滴滴Ceph分布式存盤系統優化之鎖優化

    **桔妹導讀:**Ceph是國際知名的開源分布式存盤系統,在工業界和學術界都有著重要的影響。Ceph的架構和演算法設計發表在國際系統領域頂級會議OSDI、SOSP、SC等上。Ceph社區得到Red Hat、SUSE、Intel等大公司的大力支持。Ceph是國際云計算領域應用最廣泛的開源分布式存盤系統, ......

    uj5u.com 2020-09-10 06:14:51 more
  • es~通過ElasticsearchTemplate進行聚合~嵌套聚合

    之前寫過《es~通過ElasticsearchTemplate進行聚合操作》的文章,這一次主要寫一個嵌套的聚合,例如先對sex集合,再對desc聚合,最后再對age求和,共三層嵌套。 Aggregations的部分特性類似于SQL語言中的group by,avg,sum等函式,Aggregation ......

    uj5u.com 2020-09-10 06:14:59 more
  • 爬蟲日志監控 -- Elastc Stack(ELK)部署

    傻瓜式部署,只需替換IP與用戶 導讀: 現ELK四大組件分別為:Elasticsearch(核心)、logstash(處理)、filebeat(采集)、kibana(可視化) 下載均在https://www.elastic.co/cn/downloads/下tar包,各組件版本最好一致,配合fdm會 ......

    uj5u.com 2020-09-10 06:15:05 more
最新发布
  • day02-2-商鋪查詢快取

    功能02-商鋪查詢快取 3.商鋪詳情快取查詢 3.1什么是快取? 快取就是資料交換的緩沖區(稱作Cache),是存盤資料的臨時地方,一般讀寫性能較高。 快取的作用: 降低后端負載 提高讀寫效率,降低回應時間 快取的成本: 資料一致性成本 代碼維護成本 運維成本 3.2需求說明 如下,當我們點擊商店詳 ......

    uj5u.com 2023-04-20 08:33:24 more
  • MySQL中binlog備份腳本分享

    關于MySQL的二進制日志(binlog),我們都知道二進制日志(binlog)非常重要,尤其當你需要point to point災難恢復的時侯,所以我們要對其進行備份。關于二進制日志(binlog)的備份,可以基于flush logs方式先切換binlog,然后拷貝&壓縮到到遠程服務器或本地服務器 ......

    uj5u.com 2023-04-20 08:28:06 more
  • day02-短信登錄

    功能實作02 2.功能01-短信登錄 2.1基于Session實作登錄 2.1.1思路分析 2.1.2代碼實作 2.1.2.1發送短信驗證碼 發送短信驗證碼: 發送驗證碼的介面為:http://127.0.0.1:8080/api/user/code?phone=xxxxx<手機號> 請求方式:PO ......

    uj5u.com 2023-04-20 08:27:27 more
  • 快取與資料庫雙寫一致性幾種策略分析

    本文將對幾種快取與資料庫保證資料一致性的使用方式進行分析。為保證高并發性能,以下分析場景不考慮執行的原子性及加鎖等強一致性要求的場景,僅追求最終一致性。 ......

    uj5u.com 2023-04-20 08:26:48 more
  • sql陳述句優化

    問題查找及措施 問題查找 需要找到具體的代碼,對其進行一對一優化,而非一直把關注點放在服務器和sql平臺 降低簡化每個事務中處理的問題,盡量不要讓一個事務拖太長的時間 例如檔案上傳時,應將檔案上傳這一步放在事務外面 微軟建議 4.啟動sql定時執行計劃 怎么啟動sqlserver代理服務-百度經驗 ......

    uj5u.com 2023-04-20 08:26:35 more
  • 云時代,MySQL到ClickHouse資料同步產品對比推薦

    ClickHouse 在執行分析查詢時的速度優勢很好的彌補了MySQL的不足,但是對于很多開發者和DBA來說,如何將MySQL穩定、高效、簡單的同步到 ClickHouse 卻很困難。本文對比了 NineData、MaterializeMySQL(ClickHouse自帶)、Bifrost 三款產品... ......

    uj5u.com 2023-04-20 08:26:29 more
  • sql陳述句優化

    問題查找及措施 問題查找 需要找到具體的代碼,對其進行一對一優化,而非一直把關注點放在服務器和sql平臺 降低簡化每個事務中處理的問題,盡量不要讓一個事務拖太長的時間 例如檔案上傳時,應將檔案上傳這一步放在事務外面 微軟建議 4.啟動sql定時執行計劃 怎么啟動sqlserver代理服務-百度經驗 ......

    uj5u.com 2023-04-20 08:25:13 more
  • Redis 報”OutOfDirectMemoryError“(堆外記憶體溢位)

    Redis 報錯“OutOfDirectMemoryError(堆外記憶體溢位) ”問題如下: 一、報錯資訊: 使用 Redis 的業務介面 ,產生 OutOfDirectMemoryError(堆外記憶體溢位),如圖: 格式化后的報錯資訊: { "timestamp": "2023-04-17 22: ......

    uj5u.com 2023-04-20 08:24:54 more
  • day02-2-商鋪查詢快取

    功能02-商鋪查詢快取 3.商鋪詳情快取查詢 3.1什么是快取? 快取就是資料交換的緩沖區(稱作Cache),是存盤資料的臨時地方,一般讀寫性能較高。 快取的作用: 降低后端負載 提高讀寫效率,降低回應時間 快取的成本: 資料一致性成本 代碼維護成本 運維成本 3.2需求說明 如下,當我們點擊商店詳 ......

    uj5u.com 2023-04-20 08:24:03 more
  • day02-短信登錄

    功能實作02 2.功能01-短信登錄 2.1基于Session實作登錄 2.1.1思路分析 2.1.2代碼實作 2.1.2.1發送短信驗證碼 發送短信驗證碼: 發送驗證碼的介面為:http://127.0.0.1:8080/api/user/code?phone=xxxxx<手機號> 請求方式:PO ......

    uj5u.com 2023-04-20 08:23:11 more