經常看到做云平臺,云存盤的人說什么合并同一塊磁盤的IO,對同一塊磁盤的IO調整順序之類的,優化磁盤IO。
我想問的是,怎么樣讓你能直接控制磁盤的IO啊???
有人能給個例子不?
還有控制記憶體之類的,這不是作業系統控制的嗎?你能直接控制嗎?
uj5u.com熱心網友回復:
下面我主要講一下我們分布式存盤系統盤古,服務調度系統這兩個模塊一些具體的架構細節。盤古的架構跟Hadoop有很多相似之處。今天我知道Hadoop的System可以自動進行切換,切換在一分鐘以內。為了確保我們所有資料不丟,我們整個資料在全鏈路進行了校驗,我們達到10億規模,還在努力不停的往上提高。在盤古分布式檔案系統里面最大一個特點我們把分布式I/O的流水線和后臺存盤管理分開來了。為什么這么講?大家知道在通用平臺上我們有隨機的I/O,有順序的I/O,有事務性的I/O,其實不同的應用對I/O的一些特征不一樣的。比如說誰來負責進行主導復制,客戶端不知道這個邏輯,客戶端做就是回應很快,可以很快適應系統的漏洞進行調整。另外復制的策略,到底是鏈式還是新型的復制,鏈式就是使用帶寬比較寬,新型復制回應速度比較快。最后是持久化的一些要求,對事務類的應用你希望寫一個記錄下去就落盤了,對于大資料處理來說他們并不在乎那么快持久化的水平,他們需要在多少延時以內資料持久化就可以了。我們放在了客戶端,提供不同型別的檔案適應不同的需要。他們共同使用公共存盤管理平臺,真正這個I/O落盤怎么處理,我們怎么處理優先級,做冗余恢復,我們把這些放在哪些機器上確保他獲得更好的資料可靠性。這個在單個節點I/O怎么處理,分級事件驅動I/O的一個管理方式,所有I/O的請求先跑到一個佇列里面,有一個執行緒池,每個執行緒對應一個硬碟,我們確保單個線上的并發度。收到等待佇列里面的請求進行排隊,這樣做原因我們要保證優先級,我們確保QS,低應用可以得到一些帶寬,同樣優先級我們可以對I/O的請求進行排序減少循道的開銷。這樣架構的好處是對物理磁盤并發癥的控制,又可以享受很多并發客戶端的請求。
uj5u.com熱心網友回復:
http://www.csdn.net/article/2013-12-05/2817724-bdtc2013-aliyun阿里飛天平臺總架構師唐洪:飛天開放平臺
例如這段演講中所說的。
uj5u.com熱心網友回復:
好難的問題啊,路過幫頂uj5u.com熱心網友回復:
做這些的人自己配置作業系統,自己撰寫硬體驅動uj5u.com熱心網友回復:
頂,,,期待有人來解答轉載請註明出處,本文鏈接:https://www.uj5u.com/qita/112956.html
標籤:云存儲
上一篇:網路工程師就業前景分析
