主頁 >  其他 > Microsoft SQL Server 資料庫體系結構圖解

Microsoft SQL Server 資料庫體系結構圖解

2020-11-07 05:09:15 其他

文章目錄

    • 整體結構
    • 協議層
      • TCP/IP 協議
      • 共享記憶體協議
      • 命名管道協議
      • TDS 協議
    • 關系引擎
      • 命令決議器
      • 查詢優化器
      • 查詢執行器
    • 存盤引擎
      • 訪問方法
      • 緩沖管理器
      • 事務管理器
    • 資料庫檔案

大家好,我是只談技術不剪發的 Tony 老師,

Microsoft SQL Server 是微軟公司開發的一款關系型資料庫管理系統,支持 Windows、Linux 以及容器部署,Microsoft SQL Server 采用標準的客戶端-服務器體系結構,客戶端發送請求到服務端,服務端處理完成之后回傳結果到客戶端,本文給大家詳細介紹一下 Microsoft SQL Server 資料庫的體系結構以及各個組件的功能,

如果覺得文章有用,歡迎評論📝、點贊👍、推薦🎁

整體結構

Microsoft SQL Server 服務由一個實體(Instance)和多個資料庫(Databases)組成,實體包含了后臺執行緒和占用的記憶體,默認的系統資料庫包括 master、model、msdb、Resource 以及 tempdb,

Microsoft SQL Server 的整體系統結構如下:

Architecture
主要包含以下三個組件:

  • 協議層(Protocol Layer),主要負責客戶端的連接請求和資料通信,
  • 關系引擎(Relational Engine),主要負責 SQL 陳述句的決議、優化和執行,
  • 存盤引擎(Storage Engine),主要負責資料和日志的存盤和訪問、記憶體和快取管理、事務和鎖管理,

協議層

客戶端應用首先需要通過 SNI 網路介面(SQL Server Network Interface)與服務器建立連接,Microsoft SQL Server 提供了以下三種協議方式:

  • TCP/IP 協議;
  • 共享記憶體(Shared Memory)協議;
  • 命名管道(Named Pipes)協議,

TCP/IP 協議

TCP/IP 是遠程客戶端連接 Microsoft SQL Server 服務器默認使用的方式,在 SSMS 工具中通過 TCP/IP 連接資料庫的配置如下:

ssms
其中,192.168.56.104 是服務器的地址;Microsoft SQL Server 默認監聽的 TCP/IP 埠為 1433,

共享記憶體協議

當客戶端應用和 Microsoft SQL Server 服務位于同一臺機器時,可以使用共享記憶體協議進行通信,使用 SSMS 連接本地資料庫時的配置如下:

ssms
其中,Server name 選項可以設定為以下內容之一:

  • .
  • localhost
  • 127.0.0.1
  • computer name\instance name

命名管道協議

命名管道是一種實作行程間通信的 FIFO 機制,兩個行程可以通過管道的名字打開、讀寫管道,如果客戶端應用和 Microsoft SQL Server 服務位于同一局域網內或者同一臺機器時,可以使用命名管道協議進行通信,在 SSMS 工具中通過命名管道連接資料庫的配置如下:

ssms
默認情況下 Microsoft SQL Server 服務器沒有啟用命名管道協議,可以通過 SQL Server Configuration Manager 工具進行配置,對于本地資料庫,默認創建的命名管道為 \\.\pipe\sql\query,

TDS 協議

客戶端連接建立后,可以發送查詢陳述句給服務器,服務器執行完成之后再將結果回傳給客戶端,Microsoft SQL Server 在應用層使用 TDS( Tabular Data Stream、表格資料流)協議實作客戶端和服務器之間的資料傳輸請求和回應,

tds

TDS 會話直接與底層的傳輸級會話系結,意味著在建立傳輸級連接之后,服務器接收到建立 TDS 連接的請求時建立 TDS 會話,TDS 會話一直持續到傳輸級連接終止(例如關閉 TCP 套接字時),

TDS 包含了用于身份驗證和標識、通道加密協商、SQL 批處理命令提交、存盤程序呼叫、資料回傳以及事務管理器請求等功能,回傳的資料具有自描述性并且是面向記錄的,資料流包含了要回傳的資料行名稱、型別以及可選的描述,下圖描繪了 TDS 協議中一個典型的(簡化的)通信流程:

tds

關系引擎

Microsoft SQL Server 協議層接收到客戶端的請求并處理之后,將陳述句傳遞給關系引擎進行處理,關系引擎也成為查詢處理器(Query Processor),關系引擎決定了查詢需要執行的操作以及如何最好地實作該操作,負責請求存盤引擎獲取用戶所需的資料并且對結果進行處理,然后通過協議層將結果回傳給客戶端,

關系引擎包含了以下三個主要部分:

  • 命令決議器(CMD Parser);
  • 查詢優化器(Query Optimizer);
  • 查詢執行器(Query Executor),

命令決議器

命令決議器主要的作用是檢查 T-SQL 陳述句的語法和語意錯誤,并創建一個內部的查詢樹(Query Tree),

Microsoft SQL Server 和其他編程語言一樣預定義了很多關鍵字,同時具有自己的語法格式,例如,SELECT、INSERT、UPDATE、CREATE、DROP 等都屬于預定義的關鍵字,命令決議器首先對輸入的陳述句進行語法檢查,如果違反了語法規則,將會回傳一個錯誤,例如:

SELECR * FROM employee;
Msg 102, Level 15, State 1, Line 1
Incorrect syntax near '*'.

其中,SELECT 錯寫成了 SELECR,所以回傳了一個語法錯誤,

接下來是語意檢查,包括表名和欄位名是否存在,存在的話將其系結(Binding)到該查詢,如果查詢涉及了視圖,還會使用視圖的定義進行陳述句替換,例如:

SELECT * FROM no_table;
Msg 208, Level 16, State 1, Line 1
Invalid object name 'no_table'.

由于當前模式中不存在表 no_table,查詢回傳了物件名無效的錯誤,

完成檢查之后,命令決議器為 T-SQL 陳述句創建一個查詢樹,然后傳遞給查詢優化器,

查詢優化器

查詢優化器的作用是創建一個執行計劃,也就是執行查詢陳述句的具體操作,需要注意的是,并非所有的查詢都會進行優化,DML 命令(例如 SELECT、INSERT、DELETE 以及 UPDATE 等)會發送給優化器;DDL 命令(例如 CREATE、ALTER 等)不會進行優化,而是直接編譯成內部格式,

查詢優化器的輸入包括查詢陳述句、資料庫模式(表和索引的定義)以及資料庫統計資訊, 查詢優化器的輸出稱為“查詢執行計劃”,有時也稱為“查詢計劃”或為“執行計劃”,在優化單個 SELECT 陳述句期間查詢優化器的輸入和輸出如下圖中所示:

優化
Microsoft SQL Server 查詢優化器是基于成本的優化器,基于輸入引數和各種因素,例如所需的 CPU 使用率、記憶體以及 I/O 等,對查詢成本進行計算,然后找出最佳(而不是成本最低)的執行計劃,執行計劃包含了從每個表提取資料的方法(表掃描或者索引訪問)、多個表的訪問順序、執行計算的方法以及對每個表中的資料進行篩選、聚合和排序的方法,

查詢執行器

查詢執行器負責呼叫存盤引擎執行具體的計劃,存盤引擎提供了獲取資料的訪問方法(Access Method),查詢執行器將存盤引擎回傳的資料處理成為結果集定義的格式后,通過協議層將結果集回傳客戶端,

存盤引擎

存盤引擎負責存盤系統(例如磁盤或者 SAN)中的資料存盤和檢索,存盤引擎包含了 3 個組件:

  • 訪問方法(Access Method);
  • 緩沖管理器(Buffer Manager);
  • 事務管理器(Transaction Manager),

訪問方法

訪問方法是查詢執行器和緩沖管理器/事務日志之間的一個介面,首先,它會判斷查詢的型別是 SELECT 陳述句還是 DDL/DML 陳述句;如果是 SELECT 陳述句,則將其傳遞給緩沖管理器進行處理;如果是 DDL 或者 DML 陳述句(例如 UPDATE),則將其傳遞給事務管理器進行處理,

訪問方法

緩沖管理器

緩沖管理器實作了以下核心功能模塊:

  • 執行計劃快取(Plan Cache);
  • 資料決議(Data Parsing):緩沖區快取(Buffer cache)和資料存盤(Data storage);
  • 臟頁(Dirty Page),

第一次生成查詢計劃時,如果計劃比較復雜,緩沖管理器會將該查詢和相應的執行計劃存盤到快取中,快取管理器對每次查詢進行檢查,如果服務器接收到相同的查詢,可以重用快取的查詢計劃和資料,

快取管理器還提供了資料的訪問操作,如果資料已經位于資料快取(Data cache)中,直接通過快取回傳資料;這種方式減少了磁盤 I/O,提高了資料訪問的性能,被稱為資料的軟決議(Soft Parsing),

軟決議

如果所需的資料不在資料快取中,通過磁盤 I/O 訪問資料存盤設備中的檔案,同時將資料存盤到快取中,這種方式被稱為資料的硬決議(Hard Parsing),

硬決議
臟頁是只記憶體中被修改過但還沒有寫入磁盤的資料,它由事務管理器產生,具體參考下文中的事務管理器部分,

事務管理器

如果查詢屬于修改物件或者資料的陳述句,需要呼叫事務管理器,事務管理器包括日志管理器(Log Manager)和鎖管理器(Log Manager),

日志管理器利用事務日志(Transaction Log)中的日志項記錄了系統的所有更新操作,每條日志記錄由一個日志序列號(LSN)標識,同時包含了事務 ID 和資料修改記錄, Microsoft SQL Server 使用預寫日志 (Write-ahead Logging) ,可以確保在將相關日志記錄寫入磁盤后再將資料修改寫入磁盤,維護了事務的 ACID 屬性,如果系統出現故障,則可能需要使用事務日志將資料庫恢復到一致狀態,

鎖管理器用于在事務處理期間管理事務對所依賴的資源(如行、頁或表)上請求的鎖, 鎖可以阻止其他事務以某種可能會導致事務請求鎖出錯的方式修改資源,實作事務的隔離性和一致性,

資料庫事務的處理流程如下:

  • 日志管理器開始記錄日志,同時鎖定管理器鎖定相關的資料,
  • 在緩沖區快取中維護資料的副本;
  • 在日志緩沖區中記錄被修改資料的前后鏡像,并且更新資料緩沖區中的資料副本,此時也就產生了資料的臟頁;
  • 檢查點執行緒(Checkpoint)定期將資料臟頁和緩沖日志寫入磁盤,
  • SQL Server 通過 Lazy Writer 執行緒使用 LRU(Least recently Used)演算法將資料臟頁重繪到磁盤檔案,

另外,Microsoft SQL Server 還提供了基于行版本控制的隔離,資料庫引擎將會維護修改的每一行的版本, 應用程式可以指定事務使用行版本查看事務或查詢開始時存在的資料,而不是使用鎖保護所有讀取, 通過使用行版本控制,讀取操作阻止其他事務的可能性將大大降低,

資料庫檔案

每個 SQL Server 資料庫至少具有兩個作業系統檔案:一個資料檔案和一個日志檔案, 資料檔案包含資料和物件,例如表、索引、存盤程序和視圖, 日志檔案包含恢復資料庫中的所有事務所需的資訊, 為了便于分配和管理,可以將資料檔案集合起來,放到檔案組中,

file
SQL Server 資料庫具有三種型別的檔案:

  • 主要資料檔案(Primary file),包含資料庫的啟動資訊,并指向資料庫中的其他檔案, 每個資料庫有一個主要資料檔案, 主要資料檔案的建議檔案擴展名是 .mdf,
  • 輔助資料檔案(Secondary file),用戶定義的可選資料檔案, 通過將每個檔案放在不同的磁盤驅動器上,可將資料分散到多個磁盤中,次要資料檔案的建議檔案擴展名是 .ndf,
  • 事務日志檔案(Log file),此日志包含用于恢復資料庫的資訊, 每個資料庫必須至少有一個日志檔案, 事務日志的建議檔案擴展名是
    .ldf,

資料檔案是存盤資料的物理檔案,由多個資料頁(data page)組成; 資料頁是磁盤 I/O 操作的基本單位,每個資料頁大小為 8KB,是 Microsoft SQL Server 中最小的存盤單元,8 個物理上連續的資料頁組成一個區(extent),區是管理空間的基本單位,

頁

每頁的開頭是 96 位元組的標頭(Page Header),用于存盤有關頁的系統資訊,包括頁碼(Page Number)、頁型別(Page Type)、頁的可用空間以及擁有該頁的物件的分配單元 ID、指向下一頁和上一頁的指標等,

資料頁
日志檔案不包含頁,而是包含一系列日志記錄,默認情況下,資料和事務日志放在單磁盤系統的同一驅動器和路徑上, 對于生產環境, 建議將資料和日志檔案放在不同的磁盤上,

不剪發的Tony老師 CSDN認證博客專家 資料庫架構師
畢業于北京航空航天大學,十多年資料庫管理與開發經驗,擁有OCP以及RHCE證書,目前在一家全球性的游戲公司從事資料庫架構設計和開發,CSDN學院簽約講師以及GitChat專欄作者,

轉載請註明出處,本文鏈接:https://www.uj5u.com/qita/205126.html

標籤:其他

上一篇:資料庫優化說起來一套一套的,但你真的會嗎?

下一篇:關于NAND FLASH控制器的暫存器。

標籤雲
其他(157675) Python(38076) JavaScript(25376) Java(17977) C(15215) 區塊鏈(8255) C#(7972) AI(7469) 爪哇(7425) MySQL(7132) html(6777) 基礎類(6313) sql(6102) 熊猫(6058) PHP(5869) 数组(5741) R(5409) Linux(5327) 反应(5209) 腳本語言(PerlPython)(5129) 非技術區(4971) Android(4554) 数据框(4311) css(4259) 节点.js(4032) C語言(3288) json(3245) 列表(3129) 扑(3119) C++語言(3117) 安卓(2998) 打字稿(2995) VBA(2789) Java相關(2746) 疑難問題(2699) 细绳(2522) 單片機工控(2479) iOS(2429) ASP.NET(2402) MongoDB(2323) 麻木的(2285) 正则表达式(2254) 字典(2211) 循环(2198) 迅速(2185) 擅长(2169) 镖(2155) 功能(1967) .NET技术(1958) Web開發(1951) python-3.x(1918) HtmlCss(1915) 弹簧靴(1913) C++(1909) xml(1889) PostgreSQL(1872) .NETCore(1853) 谷歌表格(1846) Unity3D(1843) for循环(1842)

熱門瀏覽
  • 網閘典型架構簡述

    網閘架構一般分為兩種:三主機的三系統架構網閘和雙主機的2+1架構網閘。 三主機架構分別為內端機、外端機和仲裁機。三機無論從軟體和硬體上均各自獨立。首先從硬體上來看,三機都用各自獨立的主板、記憶體及存盤設備。從軟體上來看,三機有各自獨立的作業系統。這樣能達到完全的三機獨立。對于“2+1”系統,“2”分為 ......

    uj5u.com 2020-09-10 02:00:44 more
  • 如何從xshell上傳檔案到centos linux虛擬機里

    如何從xshell上傳檔案到centos linux虛擬機里及:虛擬機CentOs下執行 yum -y install lrzsz命令,出現錯誤:鏡像無法找到軟體包 前言 一、安裝lrzsz步驟 二、上傳檔案 三、遇到的問題及解決方案 總結 前言 提示:其實很簡單,往虛擬機上安裝一個上傳檔案的工具 ......

    uj5u.com 2020-09-10 02:00:47 more
  • 一、SQLMAP入門

    一、SQLMAP入門 1、判斷是否存在注入 sqlmap.py -u 網址/id=1 id=1不可缺少。當注入點后面的引數大于兩個時。需要加雙引號, sqlmap.py -u "網址/id=1&uid=1" 2、判斷文本中的請求是否存在注入 從文本中加載http請求,SQLMAP可以從一個文本檔案中 ......

    uj5u.com 2020-09-10 02:00:50 more
  • Metasploit 簡單使用教程

    metasploit 簡單使用教程 浩先生, 2020-08-28 16:18:25 分類專欄: kail 網路安全 linux 文章標簽: linux資訊安全 編輯 著作權 metasploit 使用教程 前言 一、Metasploit是什么? 二、準備作業 三、具體步驟 前言 Msfconsole ......

    uj5u.com 2020-09-10 02:00:53 more
  • 游戲逆向之驅動層與用戶層通訊

    驅動層代碼: #pragma once #include <ntifs.h> #define add_code CTL_CODE(FILE_DEVICE_UNKNOWN,0x800,METHOD_BUFFERED,FILE_ANY_ACCESS) /* 更多游戲逆向視頻www.yxfzedu.com ......

    uj5u.com 2020-09-10 02:00:56 more
  • 北斗電力時鐘(北斗授時服務器)讓網路資料更精準

    北斗電力時鐘(北斗授時服務器)讓網路資料更精準 北斗電力時鐘(北斗授時服務器)讓網路資料更精準 京準電子科技官微——ahjzsz 近幾年,資訊技術的得了快速發展,互聯網在逐漸普及,其在人們生活和生產中都得到了廣泛應用,并且取得了不錯的應用效果。計算機網路資訊在電力系統中的應用,一方面使電力系統的運行 ......

    uj5u.com 2020-09-10 02:01:03 more
  • 【CTF】CTFHub 技能樹 彩蛋 writeup

    ?碎碎念 CTFHub:https://www.ctfhub.com/ 筆者入門CTF時時剛開始刷的是bugku的舊平臺,后來才有了CTFHub。 感覺不論是網頁UI設計,還是題目質量,賽事跟蹤,工具軟體都做得很不錯。 而且因為獨到的金幣制度的確讓人有一種想去刷題賺金幣的感覺。 個人還是非常喜歡這個 ......

    uj5u.com 2020-09-10 02:04:05 more
  • 02windows基礎操作

    我學到了一下幾點 Windows系統目錄結構與滲透的作用 常見Windows的服務詳解 Windows埠詳解 常用的Windows注冊表詳解 hacker DOS命令詳解(net user / type /md /rd/ dir /cd /net use copy、批處理 等) 利用dos命令制作 ......

    uj5u.com 2020-09-10 02:04:18 more
  • 03.Linux基礎操作

    我學到了以下幾點 01Linux系統介紹02系統安裝,密碼啊破解03Linux常用命令04LAMP 01LINUX windows: win03 8 12 16 19 配置不繁瑣 Linux:redhat,centos(紅帽社區版),Ubuntu server,suse unix:金融機構,證券,銀 ......

    uj5u.com 2020-09-10 02:04:30 more
  • 05HTML

    01HTML介紹 02頭部標簽講解03基礎標簽講解04表單標簽講解 HTML前段語言 js1.了解代碼2.根據代碼 懂得挖掘漏洞 (POST注入/XSS漏洞上傳)3.黑帽seo 白帽seo 客戶網站被黑帽植入劫持代碼如何處理4.熟悉html表單 <html><head><title>TDK標題,描述 ......

    uj5u.com 2020-09-10 02:04:36 more
最新发布
  • 2023年最新微信小程式抓包教程

    01 開門見山 隔一個月發一篇文章,不過分。 首先回顧一下《微信系結手機號資料庫被脫庫事件》,我也是第一時間得知了這個訊息,然后跟蹤了整件事情的經過。下面是這起事件的相關截圖以及近日流出的一萬條資料樣本: 個人認為這件事也沒什么,還不如關注一下之前45億快遞資料查詢渠道疑似在近日復活的訊息。 訊息是 ......

    uj5u.com 2023-04-20 08:48:24 more
  • web3 產品介紹:metamask 錢包 使用最多的瀏覽器插件錢包

    Metamask錢包是一種基于區塊鏈技術的數字貨幣錢包,它允許用戶在安全、便捷的環境下管理自己的加密資產。Metamask錢包是以太坊生態系統中最流行的錢包之一,它具有易于使用、安全性高和功能強大等優點。 本文將詳細介紹Metamask錢包的功能和使用方法。 一、 Metamask錢包的功能 數字資 ......

    uj5u.com 2023-04-20 08:47:46 more
  • vulnhub_Earth

    前言 靶機地址->>>vulnhub_Earth 攻擊機ip:192.168.20.121 靶機ip:192.168.20.122 參考文章 https://www.cnblogs.com/Jing-X/archive/2022/04/03/16097695.html https://www.cnb ......

    uj5u.com 2023-04-20 07:46:20 more
  • 從4k到42k,軟體測驗工程師的漲薪史,給我看哭了

    清明節一過,盲猜大家已經無心上班,在數著日子準備過五一,但一想到銀行卡里的余額……瞬間心情就不美麗了。最近,2023年高校畢業生就業調查顯示,本科畢業月平均起薪為5825元。調查一出,便有很多同學表示自己又被平均了。看著這一資料,不免讓人想到前不久中國青年報的一項調查:近六成大學生認為畢業10年內會 ......

    uj5u.com 2023-04-20 07:44:00 more
  • 最新版本 Stable Diffusion 開源 AI 繪畫工具之中文自動提詞篇

    🎈 標簽生成器 由于輸入正向提示詞 prompt 和反向提示詞 negative prompt 都是使用英文,所以對學習母語的我們非常不友好 使用網址:https://tinygeeker.github.io/p/ai-prompt-generator 這個網址是為了讓大家在使用 AI 繪畫的時候 ......

    uj5u.com 2023-04-20 07:43:36 more
  • 漫談前端自動化測驗演進之路及測驗工具分析

    隨著前端技術的不斷發展和應用程式的日益復雜,前端自動化測驗也在不斷演進。隨著 Web 應用程式變得越來越復雜,自動化測驗的需求也越來越高。如今,自動化測驗已經成為 Web 應用程式開發程序中不可或缺的一部分,它們可以幫助開發人員更快地發現和修復錯誤,提高應用程式的性能和可靠性。 ......

    uj5u.com 2023-04-20 07:43:16 more
  • CANN開發實踐:4個DVPP記憶體問題的典型案例解讀

    摘要:由于DVPP媒體資料處理功能對存放輸入、輸出資料的記憶體有更高的要求(例如,記憶體首地址128位元組對齊),因此需呼叫專用的記憶體申請介面,那么本期就分享幾個關于DVPP記憶體問題的典型案例,并給出原因分析及解決方法。 本文分享自華為云社區《FAQ_DVPP記憶體問題案例》,作者:昇騰CANN。 DVPP ......

    uj5u.com 2023-04-20 07:43:03 more
  • msf學習

    msf學習 以kali自帶的msf為例 一、msf核心模塊與功能 msf模塊都放在/usr/share/metasploit-framework/modules目錄下 1、auxiliary 輔助模塊,輔助滲透(埠掃描、登錄密碼爆破、漏洞驗證等) 2、encoders 編碼器模塊,主要包含各種編碼 ......

    uj5u.com 2023-04-20 07:42:59 more
  • Halcon軟體安裝與界面簡介

    1. 下載Halcon17版本到到本地 2. 雙擊安裝包后 3. 步驟如下 1.2 Halcon軟體安裝 界面分為四大塊 1. Halcon的五個助手 1) 影像采集助手:與相機連接,設定相機引數,采集影像 2) 標定助手:九點標定或是其它的標定,生成標定檔案及內參外參,可以將像素單位轉換為長度單位 ......

    uj5u.com 2023-04-20 07:42:17 more
  • 在MacOS下使用Unity3D開發游戲

    第一次發博客,先發一下我的游戲開發環境吧。 去年2月份買了一臺MacBookPro2021 M1pro(以下簡稱mbp),這一年來一直在用mbp開發游戲。我大致分享一下我的開發工具以及使用體驗。 1、Unity 官網鏈接: https://unity.cn/releases 我一般使用的Apple ......

    uj5u.com 2023-04-20 07:40:19 more