主頁 > 軟體設計 > Node.js架構剖析

Node.js架構剖析

2021-02-01 11:50:10 軟體設計

原文鏈接: http://www.ayqy.net/blog/node-js-architecture-overview/

一.Node.js 締造的傳奇

I have a job now, and this guy is the reason why I have that now. His hobby project is what I use for living. Thanks. —— Shajan Jacob

2009 年 Ryan Dahl 在JSConf EU大會上推出了 Node.js,最初是希望能夠通過異步模型突破傳統 Web 服務器的高并發瓶頸,之后愈漸發展成熟,應用越來越廣,出現了繁榮的 Node.js 生態

借助 Node.js 走出瀏覽器之后,JavaScript 語言也一發不可收拾:

Any application that can be written in JavaScript, will eventually be written in JavaScript. —— Jeff Atwood

(摘自The Principle of Least Power)

早在 2017 年,NPM 就憑借茫茫多的社區模塊成為了世界上最大的 package registry,目前模塊數量已經超過 125 萬,并且仍在快速增長中(每天新增900多個)

甚至 Node.js 工程師已經成為了一種新興職業,那么,帶有傳奇色彩的 Node.js 本身是怎么實作的呢?

二.Node.js 架構概覽

https://res.cloudinary.com/practicaldev/image/fetch/s--B4RyMPrD--/c_limit%2Cf_auto%2Cfl_progressive%2Cq_auto%2Cw_880/https://github.com/khaosdoctor/my-notes/raw/master/node/assets/nodejs-components.png

JS 代碼跑在 V8 引擎上,Node.js 內置的fshttp等核心模塊通過 C++ Bindings 呼叫 libuv、c-ares、llhttp 等 C/C++類別庫,從而接入作業系統提供的平臺能力

其中,最重要的部分是V8和libuv

三.原始碼依賴

V8

V8 is Google’s open source high-performance JavaScript and WebAssembly engine, written in C++. It is used in Chrome and in Node.js, among others.

一個用 C++寫的 JavaScript 引擎,由 Google 維護,用于 Chrome 瀏覽器和 Node.js

libuv

libuv is cross-platform support library which was originally written for Node.js. It’s designed around the event-driven asynchronous I/O model.

為 Node.js 量身打造,用 C 寫的跨平臺異步 I/O 庫,提供了非阻塞的檔案系統、DNS、網路、子行程、管道、信號、輪詢和流式處理機制:

http://docs.libuv.org/en/v1.x/_images/architecture.png

對于無法在作業系統層面異步去做的作業,通過執行緒池來完成,如檔案 I/O、DNS 查詢等,具體原因見Complexities in File I/O

P.S.執行緒池的容量可以配置,默認是 4 個執行緒,具體見Thread pool work scheduling

此外,Node.js 中的事件回圈、事件佇列也都是由 libuv 提供的

Libuv provides the entire event loop functionality to NodeJS including the event queuing mechanism.

具體運作機制如下圖:

https://miro.medium.com/max/2000/1*2yXbhvpf1kj5YT-m_fXgEQ.png

其它依賴庫

另外,還依賴一些 C/C++庫:

  • llhttp:用 TypeScript 和 C 寫的輕量級 HTTP 決議庫,比之前的http_parser快 1.5 倍,不含任何系統呼叫和記憶體分配(也不快取資料),因此每個請求的記憶體占用極小
  • c-ares:一個 C 庫,用來處理異步的 DNS 請求,對應 Node.js 中dns模塊提供的resolve()系列方法
  • OpenSSL:一個通用的加密庫,多用于網路傳輸中的 TLS 和 SSL 協議實作,對應 Node.js 中的tlscrypto模塊
  • zlib:提供快速壓縮和解壓支持

P.S.關于 Node.js 原始碼依賴的更多資訊,見Dependencies

四.核心模塊

像瀏覽器提供的 DOM/BOM API 一樣,Node.js 不僅提供了 JavaScript 運行時環境,還擴展出了一系列平臺 API,例如:

  • 檔案系統相關:對應fs模塊
  • HTTP 通信:對應http模塊
  • 作業系統相關:對應os模塊
  • 多行程:對應child_process、cluster模塊

這些內置模塊稱為核心模塊,為邁出瀏覽器世界的 JavaScript 長上了手腳

五.C++ Bindings

在核心模塊之下,有一層 C++ Bindings,將上層的 JavaScript 代碼與下層 C/C++類別庫橋接起來

底層模塊為了更好的性能,采用 C/C++實作,而上層的 JavaScript 代碼無法直接與 C/C++通信,因而需要一個橋梁(即 Binding):

Bindings, as the name implies, are glue codes that “bind” one language with another so that they can talk with each other. In this case (Node.js), bindings simply expose core Node.js internal libraries written in C/C++ (c-ares, zlib, OpenSSL, llhttp, etc.) to JavaScript.

另一方面,通過 Bindings 也可以復用可靠的老牌開源類別庫,而不必手搓所有底層模塊

以檔案 I/O 為例,讀取當前 JS 檔案內容并輸出到標準輸出:

// readThisFile.js
const fs = require('fs')
const path = require('path')
const filePath = path.resolve(__filename);

// Parses the buffer into a string
function callback (data) {
  return data.toString()
}

// Transforms the function into a promise
const readFileAsync = (filePath) => {
  return new Promise((resolve, reject) => {
    fs.readFile(filePath, (err, data) => {
      if (err) return reject(err)
      return resolve(callback(data))
    })
  })
}

(() => {
  readFileAsync(filePath)
    .then(console.log)
    .catch(console.error)
})()

然而,其中用到的fs.readFile介面既不是 V8 提供的,也不是 JS 自帶的,而是由 Node.js 以 C++ Binding 的形式借助 libuv 實作的:

// <https://github.com/nodejs/node/blob/v14.0.0/lib/fs.js#L58>
const binding = internalBinding('fs');
// <https://github.com/nodejs/node/blob/v14.0.0/lib/fs.js#L71>
const { FSReqCallback, statValues } = binding;

// <https://github.com/nodejs/node/blob/v14.0.0/lib/fs.js#L297>
function readFile(path, options, callback) {
  callback = maybeCallback(callback || options);
  options = getOptions(options, { flag: 'r' });
  if (!ReadFileContext)
    ReadFileContext = require('internal/fs/read_file_context');
  const context = new ReadFileContext(callback, options.encoding);
  context.isUserFd = isFd(path); // File descriptor ownership

  const req = new FSReqCallback();
  req.context = context;
  req.oncomplete = readFileAfterOpen;

  if (context.isUserFd) {
    process.nextTick(function tick() {
      req.oncomplete(null, path);
    });
    return;
  }

  path = getValidatedPath(path);
  const flagsNumber = stringToFlags(options.flags);
  binding.open(pathModule.toNamespacedPath(path),
              flagsNumber,
              0o666,
              req);
}

最后的binding.open是一個 C++呼叫,用來打開檔案描述符,三個引數分別是檔案路徑,C++ fopen的檔案訪問模式串(如rw+),以及八進制格式的檔案讀寫權限(666表示每個人都有讀寫權限),和接識訓傳資料的req回呼

其中,internalBinding是個 C++ binding loader,internalBinding('fs')實際加載的 C++代碼位于node/src/node_file.cc

至此,關鍵的部分差不多都清楚了,那么,一段 Node.js 代碼究竟是怎樣運行的呢?

六.運行原理

首先,撰寫的 JavaScript 代碼由 V8 引擎來運行,運行中注冊的事件監聽會被保留下來,在對應的事件發生時收到通知

網路、檔案 I/O 等事件產生時,已注冊的回呼函式將排到事件佇列中,接著被事件回圈取出放到呼叫堆疊上,回呼函式執行完(呼叫堆疊清空)之后,事件回圈再取一個放上去……

執行程序中遇到 I/O 操作就交給 libuv 執行緒池中的某個 woker 來處理,結束之后 libuv 產生一個事件放入事件佇列,事件回圈處理到回傳事件時,對應的回呼函式才在主執行緒開始執行,主執行緒在此期間繼續其它作業,而不阻塞等待

Node.js 就像一家咖啡館,店里只有一個跑堂的(主執行緒),一大堆顧客涌過來的時候,會排隊等候(進入事件佇列),到號的顧客訂單會被傳給經理(libuv),經理將訂單分配給咖啡師(worker 執行緒),咖啡師用不同的原料和工具(底層依賴的 C/C++模塊)來制作訂單要求的各種咖啡,一般會有 4 個咖啡師值班,高峰時候可能會增加一些,訂單傳給經理后,不等咖啡做出來,而是接著處理下一個訂單,一杯咖啡做完之后,放到出餐流水線(IO Events 佇列),送達前臺后,跑堂的喊名字,顧客過來取

參考資料

  • Node.js Under The Hood #1 – Getting to know our tools
  • Original slides from Ryan Dahl’s NodeJs intro talk
  • An Introduction to libuv
  • Dependencies
  • Architecture of Node.js’ Internal Codebase
  • Event Loop and the Big Picture — NodeJS Event Loop Part 1

轉載請註明出處,本文鏈接:https://www.uj5u.com/ruanti/255180.html

標籤:其他

上一篇:Salesforce 收購分析一覽圖

下一篇:LNMP部署及應用

標籤雲
其他(157675) Python(38076) JavaScript(25376) Java(17977) C(15215) 區塊鏈(8255) C#(7972) AI(7469) 爪哇(7425) MySQL(7132) html(6777) 基礎類(6313) sql(6102) 熊猫(6058) PHP(5869) 数组(5741) R(5409) Linux(5327) 反应(5209) 腳本語言(PerlPython)(5129) 非技術區(4971) Android(4554) 数据框(4311) css(4259) 节点.js(4032) C語言(3288) json(3245) 列表(3129) 扑(3119) C++語言(3117) 安卓(2998) 打字稿(2995) VBA(2789) Java相關(2746) 疑難問題(2699) 细绳(2522) 單片機工控(2479) iOS(2429) ASP.NET(2402) MongoDB(2323) 麻木的(2285) 正则表达式(2254) 字典(2211) 循环(2198) 迅速(2185) 擅长(2169) 镖(2155) 功能(1967) .NET技术(1958) Web開發(1951) python-3.x(1918) HtmlCss(1915) 弹簧靴(1913) C++(1909) xml(1889) PostgreSQL(1872) .NETCore(1853) 谷歌表格(1846) Unity3D(1843) for循环(1842)

熱門瀏覽
  • 面試突擊第一季,第二季,第三季

    第一季必考 https://www.bilibili.com/video/BV1FE411y79Y?from=search&seid=15921726601957489746 第二季分布式 https://www.bilibili.com/video/BV13f4y127ee/?spm_id_fro ......

    uj5u.com 2020-09-10 05:35:24 more
  • 第三單元作業總結

    1.前言 這應該是本學期最后一次寫作業總結了吧。總體來說,對作業的節奏也差不多掌握了,作業做起來的效率也更高了。雖然和之前的作業一樣,作業中都要用到新的知識,但是相比之前,更加懂得了如何利用工具以及資料。雖然之間卡過殼,但總體而言,這幾次作業還算完成的比較好。 2.作業程序總結 相比前兩個單元,此單 ......

    uj5u.com 2020-09-10 05:35:41 more
  • 北航OO(2020)第四單元博客作業暨課程總結博客

    北航OO(2020)第四單元博客作業暨課程總結博客 本單元作業的架構設計 在本單元中,由于UML圖具有比較清晰的樹形結構,因此我對其中需要進行查詢操作的元素進行了包裝,在樹的父節點中存盤所有孩子的參考。考慮到性能問題,我采用了快取機制,一次查詢后盡可能快取已經遍歷過的資訊,以減少遍歷次數。 本單元我 ......

    uj5u.com 2020-09-10 05:35:48 more
  • BUAA_OO_第四單元

    一、UML決議器設計 ? 先看下題目:第四單元實作一個基于JDK 8帶有效性檢查的UML(Unified Modeling Language)類圖,順序圖,狀態圖分析器 MyUmlInteraction,實際上我們要建立一個有向圖模型,UML中的物件(元素)可能與同級元素連接,也可與低級元素相連形成 ......

    uj5u.com 2020-09-10 05:35:54 more
  • 6.1邏輯運算子

    邏輯運算子 1. && 短路與 運算式1 && 運算式2 01.運算式1為true并且運算式2也為true 整體回傳為true 02.運算式1為false,將不會執行運算式2 整體回傳為false 03.只要有一個運算式為false 整體回傳為false 2. || 短路或 運算式1 || 運算式2 ......

    uj5u.com 2020-09-10 05:35:56 more
  • BUAAOO 第四單元 & 課程總結

    1. 第四單元:StarUml檔案決議 本單元采用了圖模型決議UML。 UML檔案可以抽象為圖、子圖、邊的邏輯結構。 在實作中,圖的節點包括類、介面、屬性,子圖包括狀態圖、順序圖等。 采用了三次遍歷UML元素的方法建圖,第一遍遍歷建點,第二、三次遍歷設定屬性、連邊,實作圖物件的初始化。這里借鑒了一些 ......

    uj5u.com 2020-09-10 05:36:06 more
  • 談談我對C# 多型的理解

    面向物件三要素:封裝、繼承、多型。 封裝和繼承,這兩個比較好理解,但要理解多型的話,可就稍微有點難度了。今天,我們就來講講多型的理解。 我們應該經常會看到面試題目:請談談對多型的理解。 其實呢,多型非常簡單,就一句話:呼叫同一種方法產生了不同的結果。 具體實作方式有三種。 一、多載 多載很簡單。 p ......

    uj5u.com 2020-09-10 05:36:09 more
  • Python 資料驅動工具:DDT

    背景 python 的unittest 沒有自帶資料驅動功能。 所以如果使用unittest,同時又想使用資料驅動,那么就可以使用DDT來完成。 DDT是 “Data-Driven Tests”的縮寫。 資料:http://ddt.readthedocs.io/en/latest/ 使用方法 dd. ......

    uj5u.com 2020-09-10 05:36:13 more
  • Python里面的xlrd模塊詳解

    那我就一下面積個問題對xlrd模塊進行學習一下: 1.什么是xlrd模塊? 2.為什么使用xlrd模塊? 3.怎樣使用xlrd模塊? 1.什么是xlrd模塊? ?python操作excel主要用到xlrd和xlwt這兩個庫,即xlrd是讀excel,xlwt是寫excel的庫。 今天就先來說一下xl ......

    uj5u.com 2020-09-10 05:36:28 more
  • 當我們創建HashMap時,底層到底做了什么?

    jdk1.7中的底層實作程序(底層基于陣列+鏈表) 在我們new HashMap()時,底層創建了默認長度為16的一維陣列Entry[ ] table。當我們呼叫map.put(key1,value1)方法向HashMap里添加資料的時候: 首先,呼叫key1所在類的hashCode()計算key1 ......

    uj5u.com 2020-09-10 05:36:38 more
最新发布
  • 【中介者設計模式詳解】C/Java/JS/Go/Python/TS不同語言實作

    * 中介者模式是一種行為型設計模式,它可以用來減少類之間的直接依賴關系,
    * 將物件之間的通信封裝到一個中介者物件中,從而使得各個物件之間的關系更加松散。
    * 在中介者模式中,物件之間不再直接相互互動,而是通過中介者來中轉訊息。 ......

    uj5u.com 2023-04-20 08:20:47 more
  • 露天煤礦現場調研和交流案例分享

    他們集團的資訊化公司及研究院在一個礦區正在做智能礦山的統一平臺的 試點,專案投資大概1億,包括了礦山的各方面的內容,顯示得我們這次交流有點多余。他們2年前開始做智能礦山的規劃,有很多煤礦行業專家的加持,他們的描述是非常完美,但是去年底應該上線的平臺,現在還沒有看到影子。他們確實有很多場景需求,但是被... ......

    uj5u.com 2023-04-20 08:20:25 more
  • 《社區人員管理》實戰案例設計&個人案例分享

    設計是一個讓人夢想成真程序,開始編碼、測驗、除錯之前進行需求分析和架構設計,才能保證關鍵方面都做正確 ......

    uj5u.com 2023-04-20 08:20:17 more
  • 軟體架構生態化-多角色交付的探索實踐

    作為一個技術架構師,不僅僅要緊跟行業技術趨勢,還要結合研發團隊現狀及痛點,探索新的交付方案。在日常中,你是否遇到如下問題 “ 業務需求排期長研發是瓶頸;非研發角色感受不到研發技改提效的變化;引入ISV 團隊又擔心質量和安全,培訓周期長“等等,基于此我們探索了一種新的技術體系及交付方案來解決如上問題。 ......

    uj5u.com 2023-04-20 08:20:10 more
  • 【中介者設計模式詳解】C/Java/JS/Go/Python/TS不同語言實作

    * 中介者模式是一種行為型設計模式,它可以用來減少類之間的直接依賴關系,
    * 將物件之間的通信封裝到一個中介者物件中,從而使得各個物件之間的關系更加松散。
    * 在中介者模式中,物件之間不再直接相互互動,而是通過中介者來中轉訊息。 ......

    uj5u.com 2023-04-20 08:19:44 more
  • 露天煤礦現場調研和交流案例分享

    他們集團的資訊化公司及研究院在一個礦區正在做智能礦山的統一平臺的 試點,專案投資大概1億,包括了礦山的各方面的內容,顯示得我們這次交流有點多余。他們2年前開始做智能礦山的規劃,有很多煤礦行業專家的加持,他們的描述是非常完美,但是去年底應該上線的平臺,現在還沒有看到影子。他們確實有很多場景需求,但是被... ......

    uj5u.com 2023-04-20 08:19:07 more
  • 《社區人員管理》實戰案例設計&個人案例分享

    設計是一個讓人夢想成真程序,開始編碼、測驗、除錯之前進行需求分析和架構設計,才能保證關鍵方面都做正確 ......

    uj5u.com 2023-04-20 08:18:57 more
  • 軟體架構生態化-多角色交付的探索實踐

    作為一個技術架構師,不僅僅要緊跟行業技術趨勢,還要結合研發團隊現狀及痛點,探索新的交付方案。在日常中,你是否遇到如下問題 “ 業務需求排期長研發是瓶頸;非研發角色感受不到研發技改提效的變化;引入ISV 團隊又擔心質量和安全,培訓周期長“等等,基于此我們探索了一種新的技術體系及交付方案來解決如上問題。 ......

    uj5u.com 2023-04-20 08:18:49 more
  • 05單件模式

    #經典的單件模式 public class Singleton { private static Singleton uniqueInstance; //一個靜態變數持有Singleton類的唯一實體。 // 其他有用的實體變數寫在這里 //構造器宣告為私有,只有Singleton可以實體化這個類! ......

    uj5u.com 2023-04-19 08:42:51 more
  • 【架構與設計】常見微服務分層架構的區別和落地實踐

    軟體工程的方方面面都遵循一個最基本的道理:沒有銀彈,架構分層模型更是如此,每一種都有各自優缺點,所以請根據不同的業務場景,并遵循簡單、可演進這兩個重要的架構原則選擇合適的架構分層模型即可。 ......

    uj5u.com 2023-04-19 08:42:41 more