主頁 >  其他 > 鵝廠分布式大氣監測系統:以 Serverless 為核心的云端能力如何打造

鵝廠分布式大氣監測系統:以 Serverless 為核心的云端能力如何打造

2020-11-10 03:15:19 其他

前述

本系列前序文章,已經對硬體層進行了詳細的說明,講解了設備性能、開發、灌裝等環節的程序,本篇將對資料上云后的相關流程,進行說明,

由于專案平臺持續建設中,當前已開源資訊為二期版本,所以本篇內容均基于此版本能力進行說明,此版本架構進一步優化了資料鑒權及資料庫保護,

本文將分為兩個部分:

  • 架構組成:技術角度,拆解設計邏輯
  • 模塊實作:功能角度,講解實作邏輯

【注1】二期版本首頁效果

v2_yuntu_index.png

【注2】在建三期版本首頁效果

v3_yuntu_index.png

【注3】在建三期版本中,加入了 日志服務 、物件存盤、小程式功能,提供靈活的日志存盤與高速檢索能力、 低成本的資料庫備份+恢復+遷移同步能力、移動端互動及其它能力,

架構組成

二期架構圖

v2_架構圖.png

注:淺藍色標明的是相對一期的架構變更重點,

部署維度

  • 終端:部署在監測點的設備,相關設計在本系列前文中已說明,
  • 云端:部署在云上的平臺,相關設計將在本文說明,

功能維度

以平臺設計的基本組成部分,進行的邏輯拆分,并依架構層的設計需求,配套選型的具體產品,

具體功能與選型說明:

  • 監測節點:由軟硬兩部分組成,基于騰訊物聯網終端作業系統 TencentOS tiny開發韌體,將 兼容騰訊云的硬體設備 與 騰訊云IoT explorer進行了協議級的對接,
  • 本地網關:此部分以通信協議轉換為主,不決議具體資料,僅需按前文指引配置即可,
  • 物聯網接入層:基于騰訊云IoT explorer產品,提供了解密、接入、轉發的相關功能,在獲取資料后,進行了基于http協議的轉推動作,傳遞給下游 API 網關,
  • 中間件層:基于API 網關提供了銜接及負載均衡等能力,基于鑒權、流控等能力,銜接云函式,提供可靠的資料輸入輸出服務,
  • 邏輯層:基于云函式,實作了接收資料入庫(資料固化)、定時統計匯總(資料分析)、輸出應用資料(資料輸出,支撐展示)的能力,
  • 存盤層:基于云資料庫 TencentDB for MySQL,進行監測資料、匯總資料、平臺配置的存盤,
  • 展示層:基于騰訊云圖,提供了地圖展示、資料展示、折線圖展示等能力,并配置提供聯動處理,提高了回應速度,減少了資源檔案的重復傳輸,

模塊實作

整體系統,以資料為核心,進行了相關設計,所以本部分有兩個組成部分:

  • 資料結構:講解各環節的核心資料結構與關聯模式,
  • 模塊說明:講解各功能模塊的實作與對應原始碼,

資料結構

IoT explorer(物聯網開發平臺)推送資料結構

以API網關推送進來,由云函式在環境變數 event 中提取到的原始資料,

其中主要的部分:

  • 非'body' 部分,為api網關相關資訊
  • 'body' = IoT explorer 原始資料
  • 'body' = 終端節點上報的原始資料,經base64編碼
{
    "body": "{\"payload\":\"eyJtZXRob2QiOiJyZXBvcnQiLCJjbGllbnRUb2tlbiI6IjIwMjAtMDgtMThUMTE6MTc6NDkuNDAzWiIsInBhcmFtcyI6eyJQTTFfQ0YxIjo1LCJQTTJkNV9DRjEiOjYsIlBNMTBfQ0YxIjo3LCJQTTEiOjUsIlBNMmQ1Ijo2LCJQTTEwIjo3LCJwYXJ0aWNsZXNfMGQzIjo3OTIsInBhcnRpY2xlc18wZDUiOjI1NCwicGFydGljbGVzXzEiOjE1LCJwYXJ0aWNsZXNfMmQ1IjozLCJwYXJ0aWNsZXNfNSI6MywicGFydGljbGVzXzEwIjowLCJ2ZXJzaW9uIjoxNTEsIkVycm9yIjowfX0=\", \"seq\":18639, \"timestamp\":1597749469,\"topic\":\"$thing/up/property/?????/?????\", \"devicename\":\"?????\", \"productid\":\"?????\"}",
    "headerParameters": {},
    "headers": {
        "accept-encoding": "gzip",
        "content-length": "511",
        "content-type": "application/json",
        "endpoint-timeout": "15",
        "host": "service-???-???.gz.apigw.tencentcs.com",
        "user-agent": "Go-http-client/1.1",
        "x-anonymous-consumer": "true",
        "x-api-requestid": "???03a993936ae191f44651???",
        "x-b3-traceid": "???03a993936ae191f44651???",
        "x-qualifier": "$LATEST"
    },
    "httpMethod": "POST",
    "path": "/??????",
    "pathParameters": {},
    "queryString": {},
    "queryStringParameters": {},
    "requestContext": {
        "httpMethod": "POST",
        "identity": {},
        "path": "/??????",
        "serviceId": "service-?????",
        "sourceIp": "?.?.?.?",
        "stage": "release"
    }
}

'body' 解base64編碼后:

{
    "clientToken": "2020-08-18T11:17:49.403Z",
    "method": "report",
    "params": {
        "Error": 0,
        "PM1": 5,
        "PM10": 7,
        "PM10_CF1": 7,
        "PM1_CF1": 5,
        "PM2d5": 6,
        "PM2d5_CF1": 6,
        "particles_0d3": 792,
        "particles_0d5": 254,
        "particles_1": 15,
        "particles_10": 0,
        "particles_2d5": 3,
        "particles_5": 3,
        "version": 151
    }
}

資料庫表單結構

資料庫詳細格式,請參考 github-sql

各表用途:

  • config:系統配置表
  • space:地點表,記錄節點部署地點,
  • client:節點表,記錄節點資訊及最新關鍵資訊,關聯space表,
  • base_data:日志表,記錄每次上報的資訊,關聯space、client表,
  • aggregate_data:匯總資訊表,記錄按小時、天等時段匯總的資料資訊,
  • temp_base_data:臨時日志表,上報設備名如不在節點表內,則存入此表,主要用于調測,

API介面資料結構

模塊說明

資料入庫

  • 模塊功能:接收IoT explorer推送資料,匹配并轉換后,入資料庫
  • 使用產品:API 網關、無服務器云函式
  • 關聯原始碼:github-upload
  • 部署方式:請參考相關文章 在線甲醛監測 “4.2.2 無服務器云函式/4.2.3 云API網關” 章節

終端在線更新

  • 模塊功能:按3分鐘觸發,更新終端資訊,用于快速查詢與展示
  • 使用產品:云函式
  • 關聯原始碼:github-client_active_new
  • 部署方式:請參考相關文章 在線甲醛監測 “4.2.2 無服務器云函式/4.2.3 云API網關” 章節,但改為“定時觸發”模式

資料統計

  • 模塊功能:按小時及天觸發,統計監測資料,用于快速查詢與展示
  • 使用產品:云函式
  • 關聯原始碼:github-aggregate
  • 部署方式:請參考相關文章 在線甲醛監測 “4.2.2 無服務器云函式/4.2.3 云API網關” 章節,但改為“定時觸發”模式

資料介面-終端匯總資訊表

  • 模塊功能:通過API網關提供資料查詢能力,回應云圖呼叫,提供終端匯總資訊表
  • 使用產品:API 網關、云函式
  • 關聯原始碼:github-client_info
  • 部署方式:請參考相關文章 在線甲醛監測 “4.2.2 無服務器云函式/4.2.3 云API網關” 章節

資料介面-終端單點資訊表

  • 模塊功能:通過API網關提供資料查詢能力,回應云圖呼叫,提供終端單點資訊表
  • 使用產品:API 網關、云函式
  • 關聯原始碼:github-client_data
  • 部署方式:請參考相關文章 在線甲醛監測 “4.2.2 無服務器云函式/4.2.3 云API網關” 章節

資料展示

  • 模塊功能:提供WEB端展示能力,含地圖繪點、串列展示、折線展示等
  • 使用產品:騰訊云圖
  • 關聯原始碼:無,當前為手工配置
  • 部署方式:請參考相關文章 在線甲醛監測 “4.2.4 騰訊云圖” 章節,但資料源選擇時,改為使用“API”,其中“首頁”地圖使用“資料介面-終端匯總資訊表”介面、“單點資料頁”使用“資料介面-終端單點資訊表”介面,具體呼叫的介面URL,請對應API網關提供的服務鏈接,

二期成本分析

v2_成本分析.png

上圖表數為每節點每15秒上報一次的計算結果,

硬體部分由于廠商與采購量的差異,價格不同,此處以云服務成本計算,如果10000節點規模,每節點每分鐘上報一次,單節點云服務年成本:

  • 二期架構 3.335元
    (資料庫/年+云圖/年)/10000+(API網關+云函式)/4=(468+48)/10000+(9+2.1)/4

  • 三期架構 1.09元
    (訊息佇列/年+資料庫/年*2+云圖/年)/10000+(云函式+日志服務+物件存盤)/4=(3228+468*2+48)/10000+(2.1+2.24+0.02)/4

二期無物件存盤及日志服務模塊,但在當前在建三期中已使用數月,故有實際資料可列入統計,

后續計劃

完成三期建設,計劃內容涉及:

  • 互動優化(done): 啟用space表,展示地點,
  • 互動建設(doing): 增加小程式能力,提供移動端查詢能力,及告警推送能力,
  • 容災優化1(done): 增加物件存盤,提供低成本資料備份、恢復、異步遷移同步能力,
  • 容災優化2(todo): 增加訊息佇列 CKafka,應對網路例外、資料庫例外情況下的資料堆積與丟失風險,
  • 容災優化3(doing): 增加日志服務,用于資料對賬,應對多環節資料處理中,可能出現的資料丟失或錯亂情況,

三期架構圖預告

v3_架構圖.png

注:淺藍色說明的是相對二期的架構變更重點,

三期版本部分完成效果

WEB端展示

v3_yuntu_index.png

v3_yuntu_site.png

小程式端Demo

v3_yuntu_mapp.png

One More Thing

立即體驗騰訊云 Serverless Demo,領取 Serverless 新用戶禮包 ?? serverless/start

歡迎訪問:Serverless 中文網!

轉載請註明出處,本文鏈接:https://www.uj5u.com/qita/208639.html

標籤:其他

上一篇:Unity使用transform.Rotate進行三維旋轉角度出現偏差

下一篇:容器技術(三)搭建本地 Registry【15】

標籤雲
其他(157675) Python(38076) JavaScript(25376) Java(17977) C(15215) 區塊鏈(8255) C#(7972) AI(7469) 爪哇(7425) MySQL(7132) html(6777) 基礎類(6313) sql(6102) 熊猫(6058) PHP(5869) 数组(5741) R(5409) Linux(5327) 反应(5209) 腳本語言(PerlPython)(5129) 非技術區(4971) Android(4554) 数据框(4311) css(4259) 节点.js(4032) C語言(3288) json(3245) 列表(3129) 扑(3119) C++語言(3117) 安卓(2998) 打字稿(2995) VBA(2789) Java相關(2746) 疑難問題(2699) 细绳(2522) 單片機工控(2479) iOS(2429) ASP.NET(2402) MongoDB(2323) 麻木的(2285) 正则表达式(2254) 字典(2211) 循环(2198) 迅速(2185) 擅长(2169) 镖(2155) 功能(1967) .NET技术(1958) Web開發(1951) python-3.x(1918) HtmlCss(1915) 弹簧靴(1913) C++(1909) xml(1889) PostgreSQL(1872) .NETCore(1853) 谷歌表格(1846) Unity3D(1843) for循环(1842)

熱門瀏覽
  • 網閘典型架構簡述

    網閘架構一般分為兩種:三主機的三系統架構網閘和雙主機的2+1架構網閘。 三主機架構分別為內端機、外端機和仲裁機。三機無論從軟體和硬體上均各自獨立。首先從硬體上來看,三機都用各自獨立的主板、記憶體及存盤設備。從軟體上來看,三機有各自獨立的作業系統。這樣能達到完全的三機獨立。對于“2+1”系統,“2”分為 ......

    uj5u.com 2020-09-10 02:00:44 more
  • 如何從xshell上傳檔案到centos linux虛擬機里

    如何從xshell上傳檔案到centos linux虛擬機里及:虛擬機CentOs下執行 yum -y install lrzsz命令,出現錯誤:鏡像無法找到軟體包 前言 一、安裝lrzsz步驟 二、上傳檔案 三、遇到的問題及解決方案 總結 前言 提示:其實很簡單,往虛擬機上安裝一個上傳檔案的工具 ......

    uj5u.com 2020-09-10 02:00:47 more
  • 一、SQLMAP入門

    一、SQLMAP入門 1、判斷是否存在注入 sqlmap.py -u 網址/id=1 id=1不可缺少。當注入點后面的引數大于兩個時。需要加雙引號, sqlmap.py -u "網址/id=1&uid=1" 2、判斷文本中的請求是否存在注入 從文本中加載http請求,SQLMAP可以從一個文本檔案中 ......

    uj5u.com 2020-09-10 02:00:50 more
  • Metasploit 簡單使用教程

    metasploit 簡單使用教程 浩先生, 2020-08-28 16:18:25 分類專欄: kail 網路安全 linux 文章標簽: linux資訊安全 編輯 著作權 metasploit 使用教程 前言 一、Metasploit是什么? 二、準備作業 三、具體步驟 前言 Msfconsole ......

    uj5u.com 2020-09-10 02:00:53 more
  • 游戲逆向之驅動層與用戶層通訊

    驅動層代碼: #pragma once #include <ntifs.h> #define add_code CTL_CODE(FILE_DEVICE_UNKNOWN,0x800,METHOD_BUFFERED,FILE_ANY_ACCESS) /* 更多游戲逆向視頻www.yxfzedu.com ......

    uj5u.com 2020-09-10 02:00:56 more
  • 北斗電力時鐘(北斗授時服務器)讓網路資料更精準

    北斗電力時鐘(北斗授時服務器)讓網路資料更精準 北斗電力時鐘(北斗授時服務器)讓網路資料更精準 京準電子科技官微——ahjzsz 近幾年,資訊技術的得了快速發展,互聯網在逐漸普及,其在人們生活和生產中都得到了廣泛應用,并且取得了不錯的應用效果。計算機網路資訊在電力系統中的應用,一方面使電力系統的運行 ......

    uj5u.com 2020-09-10 02:01:03 more
  • 【CTF】CTFHub 技能樹 彩蛋 writeup

    ?碎碎念 CTFHub:https://www.ctfhub.com/ 筆者入門CTF時時剛開始刷的是bugku的舊平臺,后來才有了CTFHub。 感覺不論是網頁UI設計,還是題目質量,賽事跟蹤,工具軟體都做得很不錯。 而且因為獨到的金幣制度的確讓人有一種想去刷題賺金幣的感覺。 個人還是非常喜歡這個 ......

    uj5u.com 2020-09-10 02:04:05 more
  • 02windows基礎操作

    我學到了一下幾點 Windows系統目錄結構與滲透的作用 常見Windows的服務詳解 Windows埠詳解 常用的Windows注冊表詳解 hacker DOS命令詳解(net user / type /md /rd/ dir /cd /net use copy、批處理 等) 利用dos命令制作 ......

    uj5u.com 2020-09-10 02:04:18 more
  • 03.Linux基礎操作

    我學到了以下幾點 01Linux系統介紹02系統安裝,密碼啊破解03Linux常用命令04LAMP 01LINUX windows: win03 8 12 16 19 配置不繁瑣 Linux:redhat,centos(紅帽社區版),Ubuntu server,suse unix:金融機構,證券,銀 ......

    uj5u.com 2020-09-10 02:04:30 more
  • 05HTML

    01HTML介紹 02頭部標簽講解03基礎標簽講解04表單標簽講解 HTML前段語言 js1.了解代碼2.根據代碼 懂得挖掘漏洞 (POST注入/XSS漏洞上傳)3.黑帽seo 白帽seo 客戶網站被黑帽植入劫持代碼如何處理4.熟悉html表單 <html><head><title>TDK標題,描述 ......

    uj5u.com 2020-09-10 02:04:36 more
最新发布
  • 2023年最新微信小程式抓包教程

    01 開門見山 隔一個月發一篇文章,不過分。 首先回顧一下《微信系結手機號資料庫被脫庫事件》,我也是第一時間得知了這個訊息,然后跟蹤了整件事情的經過。下面是這起事件的相關截圖以及近日流出的一萬條資料樣本: 個人認為這件事也沒什么,還不如關注一下之前45億快遞資料查詢渠道疑似在近日復活的訊息。 訊息是 ......

    uj5u.com 2023-04-20 08:48:24 more
  • web3 產品介紹:metamask 錢包 使用最多的瀏覽器插件錢包

    Metamask錢包是一種基于區塊鏈技術的數字貨幣錢包,它允許用戶在安全、便捷的環境下管理自己的加密資產。Metamask錢包是以太坊生態系統中最流行的錢包之一,它具有易于使用、安全性高和功能強大等優點。 本文將詳細介紹Metamask錢包的功能和使用方法。 一、 Metamask錢包的功能 數字資 ......

    uj5u.com 2023-04-20 08:47:46 more
  • vulnhub_Earth

    前言 靶機地址->>>vulnhub_Earth 攻擊機ip:192.168.20.121 靶機ip:192.168.20.122 參考文章 https://www.cnblogs.com/Jing-X/archive/2022/04/03/16097695.html https://www.cnb ......

    uj5u.com 2023-04-20 07:46:20 more
  • 從4k到42k,軟體測驗工程師的漲薪史,給我看哭了

    清明節一過,盲猜大家已經無心上班,在數著日子準備過五一,但一想到銀行卡里的余額……瞬間心情就不美麗了。最近,2023年高校畢業生就業調查顯示,本科畢業月平均起薪為5825元。調查一出,便有很多同學表示自己又被平均了。看著這一資料,不免讓人想到前不久中國青年報的一項調查:近六成大學生認為畢業10年內會 ......

    uj5u.com 2023-04-20 07:44:00 more
  • 最新版本 Stable Diffusion 開源 AI 繪畫工具之中文自動提詞篇

    🎈 標簽生成器 由于輸入正向提示詞 prompt 和反向提示詞 negative prompt 都是使用英文,所以對學習母語的我們非常不友好 使用網址:https://tinygeeker.github.io/p/ai-prompt-generator 這個網址是為了讓大家在使用 AI 繪畫的時候 ......

    uj5u.com 2023-04-20 07:43:36 more
  • 漫談前端自動化測驗演進之路及測驗工具分析

    隨著前端技術的不斷發展和應用程式的日益復雜,前端自動化測驗也在不斷演進。隨著 Web 應用程式變得越來越復雜,自動化測驗的需求也越來越高。如今,自動化測驗已經成為 Web 應用程式開發程序中不可或缺的一部分,它們可以幫助開發人員更快地發現和修復錯誤,提高應用程式的性能和可靠性。 ......

    uj5u.com 2023-04-20 07:43:16 more
  • CANN開發實踐:4個DVPP記憶體問題的典型案例解讀

    摘要:由于DVPP媒體資料處理功能對存放輸入、輸出資料的記憶體有更高的要求(例如,記憶體首地址128位元組對齊),因此需呼叫專用的記憶體申請介面,那么本期就分享幾個關于DVPP記憶體問題的典型案例,并給出原因分析及解決方法。 本文分享自華為云社區《FAQ_DVPP記憶體問題案例》,作者:昇騰CANN。 DVPP ......

    uj5u.com 2023-04-20 07:43:03 more
  • msf學習

    msf學習 以kali自帶的msf為例 一、msf核心模塊與功能 msf模塊都放在/usr/share/metasploit-framework/modules目錄下 1、auxiliary 輔助模塊,輔助滲透(埠掃描、登錄密碼爆破、漏洞驗證等) 2、encoders 編碼器模塊,主要包含各種編碼 ......

    uj5u.com 2023-04-20 07:42:59 more
  • Halcon軟體安裝與界面簡介

    1. 下載Halcon17版本到到本地 2. 雙擊安裝包后 3. 步驟如下 1.2 Halcon軟體安裝 界面分為四大塊 1. Halcon的五個助手 1) 影像采集助手:與相機連接,設定相機引數,采集影像 2) 標定助手:九點標定或是其它的標定,生成標定檔案及內參外參,可以將像素單位轉換為長度單位 ......

    uj5u.com 2023-04-20 07:42:17 more
  • 在MacOS下使用Unity3D開發游戲

    第一次發博客,先發一下我的游戲開發環境吧。 去年2月份買了一臺MacBookPro2021 M1pro(以下簡稱mbp),這一年來一直在用mbp開發游戲。我大致分享一下我的開發工具以及使用體驗。 1、Unity 官網鏈接: https://unity.cn/releases 我一般使用的Apple ......

    uj5u.com 2023-04-20 07:40:19 more