主頁 > 後端開發 > 怎么解決機械硬碟既慢又容易壞的問題？

怎么解決機械硬碟既慢又容易壞的問題？

2020-11-04 12:12:50 後端開發

我們使用的計算機的全稱叫電子計算機，前面有電子兩個字，這說的是整個計算機中的核心元器件基本上都是電子單元組成的，但機械硬碟卻是一個特殊的例外，它更多是用機械技術做出來的一個產品，當把帶有機械技識訓因的磁盤搭到計算機，尤其是再應用到服務器領域的時候，暴露出了機械技術的兩個嚴重問題：

  • 第一，速度慢， 如果把記憶體和CPU的速度比作汽車和飛機的話，這個大哥毫秒級別的延遲幾乎就是牛車級別的，
  • 第二，容易壞， 經常聽說誰誰的磁盤壞了，很少有聽說過誰的記憶體條，CPU壞了，筆者就有在讀研期間實驗室里正在拷貝資料，突然一個斷電直接廢了一塊硬碟的經歷，

要想保證服務器運轉的穩定和高速，就必須解決硬碟從娘胎里帶出來的這兩個缺陷，

多硬碟連接

問題簡單明了，我們要解決速度慢、容易壞兩個問題，很自然，單兵作戰不行，那我們就想到往上懟一個班，多塊硬碟一起上，但問題是，假如給你N塊硬碟，讓你來出一個技術方案，你會怎么設計呢？

第一個方案就是，把一個檔案分成N片，每一片都散列在不同的硬碟上，這樣當檔案進行讀取的時候，就可以N塊硬碟一起來作業，從而達到讀取速度提高到N倍的效果，這就是RAID 0，

file

不過這個方案沒有解決容易壞的問題，任何一塊硬碟壞了都會導致存盤系統故障，

第二個方案就是，仍然把檔案分片，但是所有的分片都存在一塊硬碟上，其它的硬碟只存拷貝， 這既提高了硬碟的訪問速度，也解決了壞的問題，任意一塊硬碟壞了，存盤系統都可以正常使用，只不過速度會打一點折扣，

file

不過這個方案又帶來了新的問題，那就是實作成本有點高了，假如我們用256G硬碟想實作512G的存盤容量的話，最少得需要4塊硬碟才能實作，

有沒有折中一點的方案呢？有，而且很多，我們這里只說下最常見的raid5
RAID 5同樣要對檔案進行分片，但是不對存盤的資料進行備份，而是會再單獨存一個校驗資料片，
假如檔案分為A1 A2 A3，然后需要再存一個校驗片到別的磁盤上，這樣不管A1，A2還是A3那一片丟失了，都可以根據另外兩片和校驗片合成出來， 既保證了資料的安全性，又只用了一塊磁盤做冗余存盤，

file

假如我們有8塊256GB的硬碟，那么RAID5方案下的磁盤陣列從用戶角度來看可用的存盤空間是7*256GB，只“浪費”了一塊盤的空間，所以目前RAID5應用比較廣泛~~

Raid卡快取

硬碟延遲是毫秒級別的，即使是多快硬碟并行，也只能提升數倍而已，不能夠達到量級的提升，和CPU記憶體的納秒級別作業頻率比起來，還是太慢了，
在計算機界，沒有快取解決不了的速度問題，如果有，那就再加一層，現代磁盤本身也基本都帶了快取，另外在一些比較新的raid卡里，硬體開發者們又搞出來了一層“記憶體”，并且還自己附帶一塊電池，這就是RAID卡快取， 我們看下幾款主流RAID卡的配置：

  • PERC S120 入門軟體陣列卡，主板集成無快取 支持RAID0 1
  • PERC H330 入門硬體RAID卡，無板載快取, 支持RAID 0 1 5 10 50
  • PERC H730 主流硬體RAID卡帶有1G快取和電池 支持RAID 0 1 5 6 10 50 60
  • PERC H730P 高性能硬體RAID卡帶有2G快取和電池 支持RAID 0 1 5 6 10 50 60
  • PERC H830 同H730P,沒有內置介面，使用外置介面連接附加存盤磁盤柜用

拿目前服務器端出鏡率比較高的H730和H730P來看，他們分別帶了1G和2G的快取卡，并且自帶電池， 電池的作用就是當發現主機意外斷電的時候，能夠快速把快取中的資料寫回到磁盤中去，對于寫入，一般作業系統寫到這個RAID卡里就完事了，所以速度快，對于讀取也是，只要快取里有，就不會透傳到磁盤的機械軸上，

另外想再補充說一點的就是檔案相關函式里設定DIRECT I/O僅僅只能繞開作業系統本身的Page Cache,而RAID卡里的快取，對于Linux來說，可以說算是一個黑盒，換句話說，就是作業系統并不清楚RAID卡是從快取里吐的資料，還是真正從硬碟里讀的，

動手查看你的RAID配置

了解了raid基本原理以后，我們可以實際動手查看一下機器上的raid情況，這里拿我手頭的一臺服務器舉例，
通過cat /proc/scsi/scsi，我們可以查看到raid卡的型號

Host: scsi10 Channel: 02 Id: 01 Lun: 00
  Vendor: DELL     Model: PERC H730 Mini   Rev: 4.27
  Type:   Direct-Access                    ANSI  SCSI revision: 05

可以看到我的這臺服務器raid卡使用的是PERC H730， 這塊RAID卡帶有1G快取和電池，

再看我們的硬碟陣列

# /opt/MegaRAID/MegaCli/MegaCli64  -LDInfo -Lall -aALL

Virtual Drive: 1 (Target Id: 1)
Name                :
RAID Level          : Primary-5, Secondary-0, RAID Level Qualifier-3
Size                : 1.633 TB
Sector Size         : 512
Is VD emulated      : No
Parity Size         : 278.875 GB
State               : Optimal
Strip Size          : 128 KB
Number Of Drives    : 7
Span Depth          : 1

RAID Level列標明的就是當前RAID組的RAIN級別，對照下面

  • RAID 1: Primary-1, Secondary-0, RAID Level Qualifier-0 RAID 1
  • RAID 0: Primary-0, Secondary-0, RAID Level Qualifier-0 RAID 0
  • RAID 5: Primary-5, Secondary-0, RAID Level Qualifier-3 RAID 5
  • RAID 10: Primary-1, Secondary-3, RAID Level Qualifier-0 RAID 10

可以看到，本機RAID Level是RAID5，

另外Strip Size叫做條帶大小，我機器上的配置是128KB，假如有一個512KB的檔案，它就會被分成4個條帶，每個128KB，這些條帶可能會分散在不同的磁盤上，如果一次性讀取的話，多個硬碟就可以一起轉動機械軸，讀取速度就會提高到原來的數倍，不過要說明的是，如果檔案小于這個條帶大小，小于128K，那么RAID下的多塊硬碟對于該檔案的讀取耗時也不會有幫助，

繼續查看組成RAID的所有的磁盤的狀況：

#/opt/MegaRAID/MegaCli/MegaCli64 -PDList -aALL

......
Drive's position: DiskGroup: 1, Span: 0, Arm: 0
Device Id: 1
...
Raw Size: 279.396 GB [0x22ecb25c Sectors]
Non Coerced Size: 278.896 GB [0x22dcb25c Sectors]
Coerced Size: 278.875 GB [0x22dc0000 Sectors]
Sector Size:  512
Logical Sector Size:  512
Physical Sector Size:  512
Inquiry Data: SEAGATE ST300MM0008     TT31S42310JR
...
...
...
Drive's position: DiskGroup: 1, Span: 0, Arm: 6
Device Id: 7
Raw Size: 279.396 GB [0x22ecb25c Sectors]
Non Coerced Size: 278.896 GB [0x22dcb25c Sectors]
Coerced Size: 278.875 GB [0x22dc0000 Sectors]

看到屬于DiskGroup 1的總共有7塊硬碟，每塊的大小都是278GB左右，6塊盤的總容量大小就是1.6T左右，確實是只“浪費”了一塊硬碟的容量來保障資料的安全性！

另外Inquiry Data也顯示了硬碟的制造商，已經型號，這些磁盤都是希捷的300G的機械硬碟，經Google查詢其轉速為1萬轉每分鐘，

本文小節

機械技術和電子技術比較起來，穩定性要差很多，所以機械背景出身的硬碟既慢又容易壞，為了解決這個問題，RAID技術應運而生，通過一定的冗余原始存盤或者校驗資料提供安全性的保障，通過增加帶電子基因的快取，合理調度多塊磁盤的機械軸，提高了磁盤IO的讀寫速度，在Linux下可以通過MegaCli工具來查看你的RAID組情況，強烈你建議實際動手查看一下！

file

開發內功修煉之硬碟篇專輯：

  • 1.磁盤開篇：扒開機械硬碟堅硬的外衣！
  • 2.磁盤磁區也是隱含了技術技巧的
  • 3.我們怎么解決機械硬碟既慢又容易壞的問題？
  • 4.拆解固態硬碟結構
  • 5.新建一個空檔案占用多少磁盤空間？
  • 6.只有1個位元組的檔案實際占用多少磁盤空間
  • 7.檔案過多時ls命令為什么會卡住？
  • 8.理解格式化原理
  • 9.read檔案一個位元組實際會發生多大的磁盤IO？
  • 10.write檔案一個位元組后何時發起寫磁盤IO？
  • 11.機械硬碟隨機IO慢的超乎你的想象
  • 12.搭載固態硬碟的服務器究竟比搭機械硬碟快多少？

我的公眾號是「開發內功修煉」，在這里我不是單純介紹技術理論，也不只介紹實踐經驗，而是把理論與實踐結合起來，用實踐加深對理論的理解、用理論提高你的技術實踐能力，歡迎你來關注我的公眾號，也請分享給你的好友~~~

轉載請註明出處，本文鏈接：https://www.uj5u.com/houduan/202166.html

標籤：其他

上一篇：簡單聊聊固態硬碟的物理結構

下一篇：Java中的微信支付（3）：API V3對微信服務器回應進行簽名驗證

標籤雲
其他(157675) Python(38076) JavaScript(25376) Java(17977) C(15215) 區塊鏈(8255) C＃(7972) AI(7469) 爪哇(7425) MySQL(7132) html(6777) 基礎類(6313) sql(6102) 熊猫(6058) PHP(5869) 数组(5741) R(5409) Linux(5327) 反应(5209) 腳本語言(PerlPython)(5129) 非技術區(4971) Android(4554) 数据框(4311) css(4259) 节点.js(4032) C語言(3288) json(3245) 列表(3129) 扑(3119) C++語言(3117) 安卓(2998) 打字稿(2995) VBA(2789) Java相關(2746) 疑難問題(2699) 细绳(2522) 單片機工控(2479) iOS(2429) ASP.NET(2402) MongoDB(2323) 麻木的(2285) 正则表达式(2254) 字典(2211) 循环(2198) 迅速(2185) 擅长(2169) 镖(2155) 功能(1967) .NET技术(1958) Web開發(1951) python-3.x(1918) HtmlCss(1915) 弹簧靴(1913) C++(1909) xml(1889) PostgreSQL(1872) .NETCore(1853) 谷歌表格(1846) Unity3D(1843) for循环(1842)

熱門瀏覽
  • 【C++】Microsoft C++、C 和匯編程式檔案

    ......

    uj5u.com 2020-09-10 00:57:23 more
  • 例外宣告

    相比于斷言適用于排除邏輯上不可能存在的狀態，例外通常是用于邏輯上可能發生的錯誤。 例外宣告 Item 1：當函式不可能拋出例外或不能接受拋出例外時，使用noexcept 理由 如果不打算拋出例外的話，程式就會認為無法處理這種錯誤，并且應當盡早終止，如此可以有效地阻止例外的傳播與擴散。 示例 //不可 ......

    uj5u.com 2020-09-10 00:57:27 more
  • Codeforces 1400E Clear the Multiset(貪心 + 分治)

    鏈接：https://codeforces.com/problemset/problem/1400/E 來源：Codeforces 思路：給你一個陣列，現在你可以進行兩種操作，操作1：將一段沒有 0 的區間進行減一的操作，操作2：將 i 位置上的元素歸零。最終問：將這個陣列的全部元素歸零后操作的最少 ......

    uj5u.com 2020-09-10 00:57:30 more
  • UVA11610 【Reverse Prime】

    本人看到此題沒有翻譯，就附帶了一個自己的翻譯版本 思考 這一題，它的第一個要求是找出所有 $7$ 位反向質數及其質因數的個數。 我們應該需要質數篩篩選1~$10^{7}$的所有數，這里就不慢慢介紹了。但是，重讀題，我們突然發現反向質數都是 $7$ 位，而將它反過來后的數字卻是 $6$ 位數，這就說明 ......

    uj5u.com 2020-09-10 00:57:36 more
  • 統計區間素數數量

    1 #pragma GCC optimize(2) 2 #include <bits/stdc++.h> 3 using namespace std; 4 bool isprime[1000000010]; 5 vector<int> prime; 6 inline int getlist(int ......

    uj5u.com 2020-09-10 00:57:47 more
  • C/C++編程筆記：C++中的 const 變數詳解，教你正確認識const用法

    1、C中的const 1、區域const變數存放在堆疊區中，會分配記憶體（也就是說可以通過地址間接修改變數的值）。測驗代碼如下： 運行結果： 2、全域const變數存放在只讀資料段（不能通過地址修改，會發生寫入錯誤）， 默認為外部聯編，可以給其他源檔案使用（需要用extern關鍵字修飾） 運行結果： ......

    uj5u.com 2020-09-10 00:58:04 more
  • 【C++犯錯記錄】VS2019 MFC添加資源不懂如何修改資源宏ID

    1. 首先在資源視圖中，添加資源 2. 點擊新添加的資源，復制自動生成的ID 3. 在解決方案資源管理器中找到Resource.h檔案，編輯，使用整個專案搜索和替換的方式快速替換 宏宣告 4. Ctrl+Shift+F 全域搜索，點擊查找全部，然后逐個替換 5. 為什么使用搜索替換而不使用屬性視窗直 ......

    uj5u.com 2020-09-10 00:59:11 more
  • 【C++犯錯記錄】VS2019 MFC不懂的批量添加資源

    1. 打開資源頭檔案Resource.h，在其中預先定義好宏 ID（不清楚其實ID值應該設定多少，可以先新建一個相同的資源項，再在這個資源的ID值的基礎上遞增即可） 2. 在資源視圖中選中專案資源，按F7編輯資源檔案，按 ID 型別 相對路徑的形式添加 資源。（別忘了先把檔案拷貝到專案中的res檔案 ......

    uj5u.com 2020-09-10 01:00:19 more
  • C/C++編程筆記：關于C++的參考型別，專供新手入門使用

    今天要講的是C++中我最喜歡的一個用法——參考，也叫別名。 參考就是給一個變數名取一個變數名，方便我們間接地使用這個變數。我們可以給一個變數創建N個參考，這N + 1個變數共享了同一塊記憶體區域。(參考型別的變數會占用記憶體空間，占用的記憶體空間的大小和指標型別的大小是相同的。雖然參考是一個物件的別名，但 ......

    uj5u.com 2020-09-10 01:00:22 more
  • 【C/C++編程筆記】從頭開始學習C ++：初學者完整指南

    眾所周知，C ++的學習曲線陡峭，但是花時間學習這種語言將為您的職業帶來奇跡，并使您與其他開發人員區分開。您會更輕松地學習新語言，形成真正的解決問題的技能，并在編程的基礎上打下堅實的基礎。 C ++將幫助您養成良好的編程習慣（即清晰一致的編碼風格，在撰寫代碼時注釋代碼，并限制類內部的可見性），并且由 ......

    uj5u.com 2020-09-10 01:00:41 more
最新发布
  • Rust中的智能指標:Box<T> Rc<T> Arc<T> Cell<T> RefCell<T> Weak

    Rust中的智能指標是什么 智能指標（smart pointers）是一類資料結構，是擁有資料所有權和額外功能的指標。是指標的進一步發展 指標（pointer）是一個包含記憶體地址的變數的通用概念。這個地址參考，或 ” 指向”（points at）一些其 他資料 。參考以 & 符號為標志并借用了他們所 ......

    uj5u.com 2023-04-20 07:24:10 more
  • Java的值傳遞和參考傳遞

    值傳遞不會改變本身，參考傳遞（如果傳遞的值需要實體化到堆里）如果發生修改了會改變本身。 1.基本資料型別都是值傳遞 package com.example.basic; public class Test { public static void main(String[] args) { int ......

    uj5u.com 2023-04-20 07:24:04 more
  • [2]SpinalHDL教程——Scala簡單入門

    第一個 Scala 程式 shell里面輸入 $ scala scala> 1 + 1 res0: Int = 2 scala> println("Hello World!") Hello World! 檔案形式 object HelloWorld { /* 這是我的第一個 Scala 程式 * 以 ......

    uj5u.com 2023-04-20 07:23:58 more
  • 理解函式指標和回呼函式

    理解 函式指標 指向函式的指標。比如： 理解函式指標的偽代碼 void (*p)(int type, char *data); // 定義一個函式指標p void func(int type, char *data); // 宣告一個函式func p = func; // 將指標p指向函式func ......

    uj5u.com 2023-04-20 07:23:52 more
  • Django筆記二十五之資料庫函式之日期函式

    本文首發于公眾號：Hunter后端 原文鏈接：Django筆記二十五之資料庫函式之日期函式 日期函式主要介紹兩個大類，Extract() 和 Trunc() Extract() 函式作用是提取日期，比如我們可以提取一個日期欄位的年份，月份，日等資料 Trunc() 的作用則是截取，比如 2022-0 ......

    uj5u.com 2023-04-20 07:23:45 more
  • 一天吃透JVM面試八股文

    什么是JVM？ JVM，全稱Java Virtual Machine（Java虛擬機），是通過在實際的計算機上仿真模擬各種計算機功能來實作的。由一套位元組碼指令集、一組暫存器、一個堆疊、一個垃圾回收堆和一個存盤方法域等組成。JVM屏蔽了與作業系統平臺相關的資訊，使得Java程式只需要生成在Java虛擬機 ......

    uj5u.com 2023-04-20 07:23:31 more
  • 使用Java接入小程式訂閱訊息！

    更新完微信服務號的模板訊息之后，我又趕緊把微信小程式的訂閱訊息給實作了！之前我一直以為微信小程式也是要企業才能申請，沒想到小程式個人就能申請。 訊息推送平臺🔥推送下發【郵件】【短信】【微信服務號】【微信小程式】【企業微信】【釘釘】等訊息型別。 https://gitee.com/zhongfuch ......

    uj5u.com 2023-04-20 07:22:59 more
  • java -- 緩沖流、轉換流、序列化流

    緩沖流 緩沖流, 也叫高效流, 按照資料型別分類： 位元組緩沖流：BufferedInputStream，BufferedOutputStream 字符緩沖流：BufferedReader，BufferedWriter 緩沖流的基本原理，是在創建流物件時，會創建一個內置的默認大小的緩沖區陣列，通過緩沖 ......

    uj5u.com 2023-04-20 07:22:49 more
  • Java-SpringBoot-Range請求頭設定實作視頻分段傳輸

    老實說，人太懶了，現在基本都不喜歡寫筆記了，但是網上有關Range請求頭的文章都太水了 下面是抄的一段StackOverflow的代碼...自己大修改過的，寫的注釋挺全的，應該直接看得懂，就不解釋了 寫的不好...只是希望能給視頻網站開發的新手一點點幫助吧. 業務場景：視頻分段傳輸、視頻多段傳輸（理 ......

    uj5u.com 2023-04-20 07:22:42 more
  • Windows 10開發教程_編程入門自學教程_菜鳥教程-免費教程分享

    教程簡介 Windows 10開發入門教程 - 從簡單的步驟了解Windows 10開發，從基本到高級概念，包括簡介，UWP，第一個應用程式，商店，XAML控制元件，資料系結，XAML性能，自適應設計，自適應UI，自適應代碼，檔案管理，SQLite資料庫，應用程式到應用程式通信，應用程式本地化，應用程式 ......

    uj5u.com 2023-04-20 07:22:35 more

Copyright © 2010-2020 有解無憂