主頁 > 企業開發 > Node.js 應用全鏈路追蹤技術——全鏈路資訊存盤

Node.js 應用全鏈路追蹤技術——全鏈路資訊存盤

2023-02-07 11:11:36 企業開發

作者:vivo 互聯網前端團隊- Yang Kun

本文是上篇文章《Node.js 應用全鏈路追蹤技術——全鏈路資訊獲取》的后續,閱讀完,再來看本文,效果會更佳哦,

本文主要介紹在Node.js應用中, 如何用全鏈路資訊存盤技術把全鏈路追蹤資料存盤起來,并進行相應的展示,最終實作基于業界通用 OpenTracing 標準的 Zipkin 的 Node.js 方案,

一、背景

目前業界主流的做法是使用分布式鏈路跟蹤系統,其理論基礎是來自 Google 的一篇論文 《大規模分布式系統的跟蹤系統》,

 

論文如下圖所示:

圖片

(圖片來源:網路)

 在此理論基礎上,誕生了很多優秀的實作,如 zipkin、jaeger ,同時為了保證 API 兼容,他們都遵循 OpenTracing 標準,那 OpenTracing 標準是什么呢?

OpenTracing 翻譯為開發分布式追蹤,是一個輕量級的標準化層,它位于應用程式/類別庫和鏈路跟蹤系統之間的一層, 這一層可以用下圖表示:

圖片

 從上圖可以知道, OpenTracing 具有以下優勢:

  • 統一了 API ,使開發人員能夠方便的添加追蹤系統的實作,

  • OpenTracing 已進入 CNCF ,正在為全球的分布式鏈路跟蹤系統,提供統一的模型和資料標準,

大白話解釋下:它就像手機的介面標準,當今手機基本都是 typeC 介面,這樣方便各種手機能力的共用,因此,做全鏈路資訊存盤,需要按照業界公認的 OpenTracing 標準去實作,

本篇文章將通過已有的優秀實作 —— zipkin ,來給大家闡述 Node.js 應用如何對接分布式鏈路跟蹤系統,

二、zipkin

2.1 zipkin 是什么?

zipkin 是 Twitter 基于 Google 的分布式追蹤系統論文的開發實作,其遵循 OpenTracing 標準,

zipkin 用于跟蹤分布式服務之間的應用資料鏈路,

2.2 zipkin 架構

官方檔案上的架構如下圖所示:

圖片

為了更好的理解,我這邊對架構圖進行了簡化,簡化架構圖如下所示:

圖片

從上圖可以看到,分為三個部分

第一部分:全鏈路資訊獲取,我們不使用 zipkin 自帶的全鏈路資訊獲取,我們使用 zone-context 去獲取全鏈路資訊

第二部分:傳輸層, 使用 zipkin 提供的傳輸 api ,將全鏈路資訊傳遞給 zipkin

第三部分: zipkin 核心功能,各個模塊介紹如下:

  • collector 就是資訊收集器,作為一個守護行程,它會時刻等待客戶端傳遞過來的追蹤資料,對這些資料進行驗證、存盤以及創建查詢需要的索引,

  • storage 是存盤組件,zipkin 默認直接將資料存在記憶體中,此外支持使用 ElasticSearch 和 MySQL ,

  • search 是一個查詢行程,它提供了簡單的 JSON API 來供外部呼叫查詢,

  • web UI 是 zipkin 的服務端展示平臺,主要呼叫 search 提供的介面,用圖表將鏈路資訊清晰地展示給開發人員,

至此, zipkin 的整體架構就介紹完了,下面我們來進行 zipkin 的環境搭建,

2.3 zipkin 環境搭建

采用 docker 搭建, 這里我們使用 docker 中的 docker-compose 來快速搭建 zipkin 環境,

docker-compose.yml 檔案內容如下:

version: '3.8'
services:
  elasticsearch:
    image: docker.elastic.co/elasticsearch/elasticsearch:7.5.0
    container_name: elasticsearch
    restart: always
    ports:
      - 9200:9200
    healthcheck:
      test: ["CMD-SHELL", "curl --silent --fail localhost:9200/_cluster/health || exit 1"]
      interval: 30s
      timeout: 10s
      retries: 3
      start_period: 40s
    environment:
      - discovery.type=single-node
      - bootstrap.memory_lock=true
      - "ES_JAVA_OPTS=-Xms512m -Xmx512m"
      - TZ=Asia/Shanghai
    ulimits:
      memlock:
        soft: -1
        hard: -1
  zipkin:
    image: openzipkin/zipkin:2.21
    container_name: zipkin
    depends_on:
      - elasticsearch
    links:
      - elasticsearch
    restart: always
    ports:
      - 9411:9411
    environment:
      - TZ=Asia/Shanghai
      - STORAGE_TYPE=elasticsearch
      - ES_HOSTS=elasticsearch:9200

 在上面檔案所在的目錄下執行 docker-compose up -d 即可完成本地搭建,

搭建完成后,在瀏覽器中打開地址 http://localhost:9411 ,會看到如下圖所示頁面:

圖片

接著打開地址 http://localhost:9200 ,會看到如下圖所示頁面:

圖片

至此, zipkin 的本地環境就搭建好啦, 下面我就將介紹 Node.js 應用如何對接 zipkin,

三、Node.js 接入 zipkin

3.1 搞定全鏈路資訊獲取

這個我在 《Node.js 應用全鏈路追蹤技術——全鏈路資訊獲取》 文章中,已經詳細闡述了,如何去獲取全鏈路資訊,

3.2 搞定傳輸層

因為 zipkin 是基于 OpenTracing 標準實作的,因此我們只要搞定了 zipkin 的傳輸層,也就搞定了其他主流分布式追蹤系統,

這里我們用到了 zipkin 官方提供的兩個 npm 包,分別是:

  • zipkin

  • zipkin-transport-http

zipkin 包是官方對支持 Node.js 的核心包, zipkin-transport-http 包的作用是將資料通過 HTTP 異步發送到 zipkin ,

下面我們將詳細介紹在傳輸層,如何將將資料發送到 zipkin ,

3.3 傳輸層基礎封裝

核心代碼實作和相關注釋如下:

const {
  BatchRecorder,
  Tracer,
  // ExplicitContext,
  jsonEncoder: { JSON_V1, JSON_V2 },
} = require('zipkin')
const { HttpLogger } = require('zipkin-transport-http')
 
// const ctxImpl = new ExplicitContext();
 
// 配置物件
const options = {
  serviceName: 'zipkin-node-service',
  targetServer: '127.0.0.1:9411',
  targetApi: '/api/v2/spans',
  jsonEncoder: 'v2'
}
 
// http 方式傳輸
async function recorder ({ targetServer, targetApi, jsonEncoder }) => new BatchRecorder({
  logger: new HttpLogger({
    endpoint: `${targetServer}${targetApi}`,
    jsonEncoder: (jsonEncoder === 'v2' || jsonEncoder === 'V2') ? JSON_V2 : JSON_V1,
  })
})
 
// 基礎記錄
const baseRecorder = await recorder({
  targetServer: options.targetServer
  targetApi: options.targetApi
  jsonEncoder: options.jsonEncoder
})

至此,傳輸層的基礎封裝就完成了,我們抽離了 baseRecorder 出來,下面將會把全鏈路資訊接入到傳輸層中,

3.4 接入全鏈路資訊

這里說下官方提供的接入 SDK ,代碼如下:

const { Tracer } = require('zipkin')
const ctxImpl = new ExplicitContext()
const tracer = new Tracer({ ctxImpl, recorder: baseRecorder })
// 還要處理請求頭、手動層層傳遞等事情

上面的方式缺點比較明顯,需要額外去傳遞一些東西,這里我們使用上篇文章提到的 Zone-Context , 代碼如下:

const zoneContextImpl = new ZoneContext()
const tracer = new Tracer({ zoneContextImpl, recorder: baseRecorder })
// 僅此而已,不再欄位外處理

對比兩者,明顯發現, Zone-Context 的實作方式更加的隱式,對代碼入侵更小,這也是單獨花一篇文章介紹 Zone-Context 技術原理的價值體現,

自此,我們完成了傳輸層的適配, Node.js 應用接入 zipkin 的核心步驟基本完成,

3.5 搞定 zipkin 收集、存盤、展示

這部分中的收集、展示功能, zipkin 官方自帶完整實作,無需進行二次開發,存盤這塊,提供了 MySQL 、 Elasticsearch 等接入方式,可以根據實際情況去做相應的接入,本文采用 docker-compose 集成了 ElasticSearch ,

四、總結

自此,我們已經完成基于業界通用 OpenTracing 標準實作的 zipkin 的 Node.js 方案,希望大家看完這兩篇文章,對 Node.js 全鏈路追蹤,有一個整體而清晰的認識,

 

參考資料:

  1. zipkin 官網

分享 vivo 互聯網技術干貨與沙龍活動,推薦最新行業動態與熱門會議,

轉載請註明出處,本文鏈接:https://www.uj5u.com/qiye/543119.html

標籤:JavaScript

上一篇:什么是WMS系統?

下一篇:聊一聊js中元素定位的方法

標籤雲
其他(157675) Python(38076) JavaScript(25376) Java(17977) C(15215) 區塊鏈(8255) C#(7972) AI(7469) 爪哇(7425) MySQL(7132) html(6777) 基礎類(6313) sql(6102) 熊猫(6058) PHP(5869) 数组(5741) R(5409) Linux(5327) 反应(5209) 腳本語言(PerlPython)(5129) 非技術區(4971) Android(4554) 数据框(4311) css(4259) 节点.js(4032) C語言(3288) json(3245) 列表(3129) 扑(3119) C++語言(3117) 安卓(2998) 打字稿(2995) VBA(2789) Java相關(2746) 疑難問題(2699) 细绳(2522) 單片機工控(2479) iOS(2429) ASP.NET(2402) MongoDB(2323) 麻木的(2285) 正则表达式(2254) 字典(2211) 循环(2198) 迅速(2185) 擅长(2169) 镖(2155) 功能(1967) .NET技术(1958) Web開發(1951) python-3.x(1918) HtmlCss(1915) 弹簧靴(1913) C++(1909) xml(1889) PostgreSQL(1872) .NETCore(1853) 谷歌表格(1846) Unity3D(1843) for循环(1842)

熱門瀏覽
  • IEEE1588PTP在數字化變電站時鐘同步方面的應用

    IEEE1588ptp在數字化變電站時鐘同步方面的應用 京準電子科技官微——ahjzsz 一、電力系統時間同步基本概況 隨著對IEC 61850標準研究的不斷深入,國內外學者提出基于IEC61850通信標準體系建設數字化變電站的發展思路。數字化變電站與常規變電站的顯著區別在于程序層傳統的電流/電壓互 ......

    uj5u.com 2020-09-10 03:51:52 more
  • HTTP request smuggling CL.TE

    CL.TE 簡介 前端通過Content-Length處理請求,通過反向代理或者負載均衡將請求轉發到后端,后端Transfer-Encoding優先級較高,以TE處理請求造成安全問題。 檢測 發送如下資料包 POST / HTTP/1.1 Host: ac391f7e1e9af821806e890 ......

    uj5u.com 2020-09-10 03:52:11 more
  • 網路滲透資料大全單——漏洞庫篇

    網路滲透資料大全單——漏洞庫篇漏洞庫 NVD ——美國國家漏洞庫 →http://nvd.nist.gov/。 CERT ——美國國家應急回應中心 →https://www.us-cert.gov/ OSVDB ——開源漏洞庫 →http://osvdb.org Bugtraq ——賽門鐵克 →ht ......

    uj5u.com 2020-09-10 03:52:15 more
  • 京準講述NTP時鐘服務器應用及原理

    京準講述NTP時鐘服務器應用及原理京準講述NTP時鐘服務器應用及原理 安徽京準電子科技官微——ahjzsz 北斗授時原理 授時是指接識訓通過某種方式獲得本地時間與北斗標準時間的鐘差,然后調整本地時鐘使時差控制在一定的精度范圍內。 衛星導航系統通常由三部分組成:導航授時衛星、地面檢測校正維護系統和用戶 ......

    uj5u.com 2020-09-10 03:52:25 more
  • 利用北斗衛星系統設計NTP網路時間服務器

    利用北斗衛星系統設計NTP網路時間服務器 利用北斗衛星系統設計NTP網路時間服務器 安徽京準電子科技官微——ahjzsz 概述 NTP網路時間服務器是一款支持NTP和SNTP網路時間同步協議,高精度、大容量、高品質的高科技時鐘產品。 NTP網路時間服務器設備采用冗余架構設計,高精度時鐘直接來源于北斗 ......

    uj5u.com 2020-09-10 03:52:35 more
  • 詳細解讀電力系統各種對時方式

    詳細解讀電力系統各種對時方式 詳細解讀電力系統各種對時方式 安徽京準電子科技官微——ahjzsz,更多資料請添加VX 衛星同步時鐘是我京準公司開發研制的應用衛星授時時技術的標準時間顯示和發送的裝置,該裝置以M國全球定位系統(GLOBAL POSITIONING SYSTEM,縮寫為GPS)或者我國北 ......

    uj5u.com 2020-09-10 03:52:45 more
  • 如何保證外包團隊接入企業內網安全

    不管企業規模的大小,只要企業想省錢,那么企業的某些服務就一定會采用外包的形式,然而看似美好又經濟的策略,其實也有不好的一面。下面我通過安全的角度來聊聊使用外包團的安全隱患問題。 先看看什么服務會使用外包的,最常見的就是話務/客服這種需要大量重復性、無技術性的服務,或者是一些銷售外包、特殊的職能外包等 ......

    uj5u.com 2020-09-10 03:52:57 more
  • PHP漏洞之【整型數字型SQL注入】

    0x01 什么是SQL注入 SQL是一種注入攻擊,通過前端帶入后端資料庫進行惡意的SQL陳述句查詢。 0x02 SQL整型注入原理 SQL注入一般發生在動態網站URL地址里,當然也會發生在其它地發,如登錄框等等也會存在注入,只要是和資料庫打交道的地方都有可能存在。 如這里http://192.168. ......

    uj5u.com 2020-09-10 03:55:40 more
  • [GXYCTF2019]禁止套娃

    git泄露獲取原始碼 使用GET傳參,引數為exp 經過三層過濾執行 第一層過濾偽協議,第二層過濾帶引數的函式,第三層過濾一些函式 preg_replace('/[a-z,_]+\((?R)?\)/', NULL, $_GET['exp'] (?R)參考當前正則運算式,相當于匹配函式里的引數 因此傳遞 ......

    uj5u.com 2020-09-10 03:56:07 more
  • 等保2.0實施流程

    流程 結論 ......

    uj5u.com 2020-09-10 03:56:16 more
最新发布
  • 使用Django Rest framework搭建Blog

    在前面的Blog例子中我們使用的是GraphQL, 雖然GraphQL的使用處于上升趨勢,但是Rest API還是使用的更廣泛一些. 所以還是決定回到傳統的rest api framework上來, Django rest framework的官網上給了一個很好用的QuickStart, 我參考Qu ......

    uj5u.com 2023-04-20 08:17:54 more
  • 記錄-new Date() 我忍你很久了!

    這里給大家分享我在網上總結出來的一些知識,希望對大家有所幫助 大家平時在開發的時候有沒被new Date()折磨過?就是它的諸多怪異的設定讓你每每用的時候,都可能不小心踩坑。造成程式意外出錯,卻一下子找不到問題出處,那叫一個煩透了…… 下面,我就列舉它的“四宗罪”及應用思考 可惡的四宗罪 1. Sa ......

    uj5u.com 2023-04-20 08:17:47 more
  • 使用Vue.js實作文字跑馬燈效果

    實作文字跑馬燈效果,首先用到 substring()截取 和 setInterval計時器 clearInterval()清除計時器 效果如下: 實作代碼如下: <!DOCTYPE html> <html lang="en"> <head> <meta charset="UTF-8"> <meta ......

    uj5u.com 2023-04-20 08:12:31 more
  • JavaScript 運算子

    JavaScript 運算子/運算子 在 JavaScript 中,有一些運算子可以使代碼更簡潔、易讀和高效。以下是一些常見的運算子: 1、可選鏈運算子(optional chaining operator) ?.是可選鏈運算子(optional chaining operator)。?. 可選鏈操 ......

    uj5u.com 2023-04-20 08:02:25 more
  • CSS—相對單位rem

    一、概述 rem是一個相對長度單位,它的單位長度取決于根標簽html的字體尺寸。rem即root em的意思,中文翻譯為根em。瀏覽器的文本尺寸一般默認為16px,即默認情況下: 1rem = 16px rem布局原理:根據CSS媒體查詢功能,更改根標簽的字體尺寸,實作rem單位隨螢屏尺寸的變化,如 ......

    uj5u.com 2023-04-20 08:02:21 more
  • 我的第一個NPM包:panghu-planebattle-esm(胖虎飛機大戰)使用說明

    好家伙,我的包終于開發完啦 歡迎使用胖虎的飛機大戰包!! 為你的主頁添加色彩 這是一個有趣的網頁小游戲包,使用canvas和js開發 使用ES6模塊化開發 效果圖如下: (覺得圖片太sb的可以自己改) 代碼已開源!! Git: https://gitee.com/tang-and-han-dynas ......

    uj5u.com 2023-04-20 08:01:50 more
  • 如何在 vue3 中使用 jsx/tsx?

    我們都知道,通常情況下我們使用 vue 大多都是用的 SFC(Signle File Component)單檔案組件模式,即一個組件就是一個檔案,但其實 Vue 也是支持使用 JSX 來撰寫組件的。這里不討論 SFC 和 JSX 的好壞,這個仁者見仁智者見智。本篇文章旨在帶領大家快速了解和使用 Vu ......

    uj5u.com 2023-04-20 08:01:37 more
  • 【Vue2.x原始碼系列06】計算屬性computed原理

    本章目標:計算屬性是如何實作的?計算屬性快取原理以及洋蔥模型的應用?在初始化Vue實體時,我們會給每個計算屬性都創建一個對應watcher,我們稱之為計算屬性watcher ......

    uj5u.com 2023-04-20 08:01:31 more
  • http1.1與http2.0

    一、http是什么 通俗來講,http就是計算機通過網路進行通信的規則,是一個基于請求與回應,無狀態的,應用層協議。常用于TCP/IP協議傳輸資料。目前任何終端之間任何一種通信方式都必須按Http協議進行,否則無法連接。tcp(三次握手,四次揮手)。 請求與回應:客戶端請求、服務端回應資料。 無狀態 ......

    uj5u.com 2023-04-20 08:01:10 more
  • http1.1與http2.0

    一、http是什么 通俗來講,http就是計算機通過網路進行通信的規則,是一個基于請求與回應,無狀態的,應用層協議。常用于TCP/IP協議傳輸資料。目前任何終端之間任何一種通信方式都必須按Http協議進行,否則無法連接。tcp(三次握手,四次揮手)。 請求與回應:客戶端請求、服務端回應資料。 無狀態 ......

    uj5u.com 2023-04-20 08:00:32 more