主頁 >  其他 > 還在使用NoSQL資料庫?為IoT選擇TSDB

還在使用NoSQL資料庫?為IoT選擇TSDB

2021-07-25 09:13:44 其他

作者: 王鵬飛

IoT應用程式會生成大量的資料,雖然PostgreSQL功能強大,但能應用規模不多,使用TSDB可以將應用場景規模放大20倍,并應用在IoT領域,

我們所說的“物聯網”的根本,并不是字面意義上的“物”和“連接”,這些都早在十年內不是痛點了,而“資料”才是當前互聯網面臨的最大難題,這表示很多資料,在每天有更多的生產業務、食品生產、火車票等系統連接到互聯網并實作自動化,創造出越來越多的傳感器資料流,這數以百萬計的每個設備的資料量將倍數增加,你就會得到一個指數級增長的資訊流,這些大資料將被合理的使用,用于做出更好的業務決策,給最終用戶提供更好的體驗,

大多數從事這些計劃的工程團隊最終都將所有這些資料存盤在多個資料庫中:元資料存盤在關系資料庫中,時間序列資料存盤在NoSQL中,然而,這些資料庫的操作方式不同,運行多個形資料庫體系增加了不必要的操作和應用程式復雜性,

其實我們沒必要那么做,這里將向您展示如何將所有物聯網關系和時間序列資料保存在PostgreSQL中,以及這如何帶來更簡單的操作、更好得關聯資料和更好的易用性,我們還將強調PostgreSQL與物聯網相關的其他強大的功能,包括查詢能力、靈活的資料型別、地理空間支持和豐富的生態系統,

如果您覺得TSDB是您的物聯網專案的理想資料庫,那么請聯系我們提供幫助,

一. PostgreSQL 能有很好的擴展性

“PostgreSQL能擴展應用在我的IoT資料比率?”經常有人會這么問,PostgreSQL的擴展性是大家所關注的首要問題, IoT的后端需要支持高資料攝取率,而隨著資料集的增長,寫入PostgreSQL將會比較緩慢,

經過我們深入研究,對于時間序列資料,如果資料庫的架構方式正確,您可以將PostgreSQL擴展到每秒數十萬次插入,即使是在單一節點上,所以我的團隊滴普科技FastData團隊開發了TSDB,這是我們推出的一個新的時間序列資料庫,TSDB通過時間和空間劃分資料,同時向用戶呈現單個連續表(稱為“超表”)實作顯著性能改進,最重要的是,TSDB在這樣做時就像一個普通的PostgreSQL實體(實際上打包為PostgreSQL擴展),我們通過將10億行資料分別加載到PostgreSQL和TSDB進行了基準測驗,結果如下:

簡而言之,在按比例插入資料時,TSDB快20倍以上,在此對比測驗中,TSDB的平均插入速率為111k行(1.11M度量)/秒,而PostgreSQL插入性能下降到5k/秒,但最重要的是,TSDB可以擴展到10億行,

二. 能使用一個資料庫,為什么要用兩個

我們剛剛看到TSDB如何將PostgreSQL擴展到大型作業負載,比如在物聯網中,現在讓我們看看它讓我們做什么,

能夠存盤時間序列資料并存盤關系資料是非常強大的,首先,它有一個更簡單的堆疊,代替兩個資料庫(傳感器資料的NoSQL、傳感器元資料的關系資料),兩者之間包含各種粘合代碼,更不用說有兩個資料庫的操作難題……所以,您只需要一個資料庫:

我們拿備份功能來舉例,運行兩個不同的資料庫意味著兩個不同的備份程序(以及更長的停機時間),此外,如果系統是獨立備份,則存在資料完整性問題的風險,想象一下這樣的情況:你的時間序列資料有上一個小時的備份,但是你的關系資料昨天被備份了,那么您現在的時間序列資料參考了元資料丟失了,

一個資料庫簡單性設定會有其他優勢:更簡單的堆疊甚至在邊緣很有用,那里運行一個資料庫足夠困難(由于資源限制),更不用說兩個了,只需要一個資料庫就能使物聯網原型設計更容易,這樣還有助于降低大型龐大的物聯網專案的復雜性,

三. 關于TSDB中的context

一個用于時間序列資料和元資料的單一資料庫不僅可以簡化堆疊:它還允許您向傳感器資料添加背景關系,因為如果您不知道您要測量什么,那么收集資料有什么意義?

這是一個例子:我們正在合作的一家公司正在開發一個物聯網應用程式來監控制造程序,這個應用程式涉及到仔細檢查裝配線資料來發現缺陷,確保一個高質量的產品,大多數裝配線資料本質上是時間序列:{machine_id、時間戳、測量},然而,如果沒有所有其他的操作元資料,這些資料本身就是毫無意義的:如當時的機器設定、行資訊、移位資訊等等,他們已經嘗試將資料去規范化,但這在每次測量上增加了不合理的資料膨脹,

使用TSDB和PostgreSQL,可以保持元資料標準化,并在查詢時添加必要的背景關系(通過SQL聯接),例如,通過像這樣的查詢:(按機器顯示特定線路上給定型別機器的平均溫度,間隔5分鐘統計)

四. 使用SQL的好處

現在讓我們聚焦物聯網專案的價值:收集、分析和處理資料,以提高效用/效率,減少停機/浪費,并提供更好的產品和服務,換句話說,您需要的不僅僅是一個資料存盤,您還需要一種簡單的方法來從資料中獲取更有效的資訊來提供一些方案的決策,

這就是SQL的作用所在,雖然在過去幾年中NoSQL相當流行,但事實是SQL相當強大,正在開始回歸(這就是“NoSQL”現在被理解為“不僅是SQL”的原因之一),

SQL包括相當多的有用的功能:例如,謂詞(由輔助索引支持);多個聚合和排序;視窗函式、數學和統計函式庫;等等,舉個例子,以線性和對數尺度繪制天花板傳感器的溫度變化統計如下:

TSDB通過添加時間序列分析所需的新函式來增加SQL,例如,如上面一個例子的time_bucket和最后一個查詢,

SQL還有另一個優勢,您不需要培訓工程師學習新的專門查詢語言(或雇傭懂新的查詢語言工程師),非技術用戶也不需要嚴重依賴工程(和工程發布周期)來處理資料問題,換句話說,通過利用SQL,您可以將時間序列資料民主化,讓組織中有更多的人員訪問它,

五. TSDB支持靈活的資料型別(包括JSON)

還在羨慕MongoDB支持在關系資料庫中擴展JSON?當您開始構建物聯網產品時,您可能不知道您將關心哪些資料,也不考慮到特定的資料模式,或者以后您可能需要非常特定的資料結構(例如,陣列),

PostgreSQL支持廣泛的資料型別,它允許半結構化資料(通過JSON/JSONB支持),但也允許各種其他資料型別,包括許多數字型別、幾何型別、陣列、范圍型別和日期/時間型別,我們的一些物聯網客戶在JSONB中存盤傳感器資料,而且還允許建立索引,如下圖

六. TSDB在地理空間方面的優勢

目前很多系統的資料中通常有一個地理空間組件,表示物理東西存在于特定的空間中,特別是當事物在移動時,地理空間資訊就很重要了,我們經常看到的一個物聯網用例是資產跟蹤:例如,跟蹤用于車隊管理的車輛,優化路線,減少破壞等,

TSDB被打包為PostgreSQL擴展,這意味著您可以同時運行許多其他PostgreSQL擴展,一個強大的擴展是PostGIS,它給PostgreSQL增加了豐富的地理空間支持(包括新的資料型別、功能等),通過結合PostGIS與TSDB,您可以結合地理空間和時間序列資料創建一個可擴展的時空資料庫,下圖是紐約的出租車在一個時間段內的時空資料在grafana的展現,

七. 基于PostgreSQL的TSDB是一個真實的生態系統

時間序列資料庫不會單獨運行,它們需要連接器,比如kafka這樣的資料總線、Spark這樣的流處理引擎,或者Sableau這樣的BI工具,大多數時間序列資料庫都相對較新,而且沒有足夠的時間圍繞它們開發生態系統,另一方面,PostgreSQL已經存在了20多年了,社區已經圍繞著它建立了一個廣闊的生態系統,就像PostgreSQL一樣,TSDB與最流行的資料總線、流處理器、資料可視化和BI工具(如下面所示的工具)配合一起使用,

八. 基于PostgreSQL的TSDB具有很好的可靠性

你為物聯網選擇的資料庫需要可靠的(而不會在凌晨3點叫醒你),與網站或移動應用程式不同,物聯網應用程式從一開始就通常部署在高價值的場景中,如果使用資料庫監視生產線,則該資料庫將不能出現停止或者關閉的情況,

這就是我們選擇在PostgreSQL基礎上擴展TSDB,在過去的20多年中,PostgreSQL已經在不同行業的各種關鍵任務應用程式中進行了驗證和應用,還有另一個管理工具的生態系統,可以使可靠性更容易實作:包括流媒體復制、熱待機等等,TSDB繼承了這個相同級別的可靠性和生態系統,

九. 選擇PostgreSQL,選擇TSDB

現在物聯網的世界里有很多聲音,很難決定為你的物聯網專案使用什么資料庫,但無疑最好的選擇就是PostgreSQL,因為TSDB最終擴展到理物聯網各個領域并優化時間序列資料優化SQL,

如果您正在構建一個新的物聯網專案或當前正在與復雜的物聯網之中難以抉擇,請選擇PostgreSQL并使用TSDB,

如果你對以上內容感興趣且需要幫助的話,可以登錄https://www.deepexi.com/product-new/27了解更多TSDB產品詳情,

轉載請註明出處,本文鏈接:https://www.uj5u.com/qita/289940.html

標籤:其他

上一篇:藍牙芯片|倫茨科技-智能藍牙BLE5.2芯片ST17H66

下一篇:簡單物聯網應用——基于老人居家聲音監測系統(全!含完整原始碼、詳細注釋、測驗結果、設計程序、視頻詳細教程)

標籤雲
其他(157675) Python(38076) JavaScript(25376) Java(17977) C(15215) 區塊鏈(8255) C#(7972) AI(7469) 爪哇(7425) MySQL(7132) html(6777) 基礎類(6313) sql(6102) 熊猫(6058) PHP(5869) 数组(5741) R(5409) Linux(5327) 反应(5209) 腳本語言(PerlPython)(5129) 非技術區(4971) Android(4554) 数据框(4311) css(4259) 节点.js(4032) C語言(3288) json(3245) 列表(3129) 扑(3119) C++語言(3117) 安卓(2998) 打字稿(2995) VBA(2789) Java相關(2746) 疑難問題(2699) 细绳(2522) 單片機工控(2479) iOS(2429) ASP.NET(2402) MongoDB(2323) 麻木的(2285) 正则表达式(2254) 字典(2211) 循环(2198) 迅速(2185) 擅长(2169) 镖(2155) 功能(1967) .NET技术(1958) Web開發(1951) python-3.x(1918) HtmlCss(1915) 弹簧靴(1913) C++(1909) xml(1889) PostgreSQL(1872) .NETCore(1853) 谷歌表格(1846) Unity3D(1843) for循环(1842)

熱門瀏覽
  • 網閘典型架構簡述

    網閘架構一般分為兩種:三主機的三系統架構網閘和雙主機的2+1架構網閘。 三主機架構分別為內端機、外端機和仲裁機。三機無論從軟體和硬體上均各自獨立。首先從硬體上來看,三機都用各自獨立的主板、記憶體及存盤設備。從軟體上來看,三機有各自獨立的作業系統。這樣能達到完全的三機獨立。對于“2+1”系統,“2”分為 ......

    uj5u.com 2020-09-10 02:00:44 more
  • 如何從xshell上傳檔案到centos linux虛擬機里

    如何從xshell上傳檔案到centos linux虛擬機里及:虛擬機CentOs下執行 yum -y install lrzsz命令,出現錯誤:鏡像無法找到軟體包 前言 一、安裝lrzsz步驟 二、上傳檔案 三、遇到的問題及解決方案 總結 前言 提示:其實很簡單,往虛擬機上安裝一個上傳檔案的工具 ......

    uj5u.com 2020-09-10 02:00:47 more
  • 一、SQLMAP入門

    一、SQLMAP入門 1、判斷是否存在注入 sqlmap.py -u 網址/id=1 id=1不可缺少。當注入點后面的引數大于兩個時。需要加雙引號, sqlmap.py -u "網址/id=1&uid=1" 2、判斷文本中的請求是否存在注入 從文本中加載http請求,SQLMAP可以從一個文本檔案中 ......

    uj5u.com 2020-09-10 02:00:50 more
  • Metasploit 簡單使用教程

    metasploit 簡單使用教程 浩先生, 2020-08-28 16:18:25 分類專欄: kail 網路安全 linux 文章標簽: linux資訊安全 編輯 著作權 metasploit 使用教程 前言 一、Metasploit是什么? 二、準備作業 三、具體步驟 前言 Msfconsole ......

    uj5u.com 2020-09-10 02:00:53 more
  • 游戲逆向之驅動層與用戶層通訊

    驅動層代碼: #pragma once #include <ntifs.h> #define add_code CTL_CODE(FILE_DEVICE_UNKNOWN,0x800,METHOD_BUFFERED,FILE_ANY_ACCESS) /* 更多游戲逆向視頻www.yxfzedu.com ......

    uj5u.com 2020-09-10 02:00:56 more
  • 北斗電力時鐘(北斗授時服務器)讓網路資料更精準

    北斗電力時鐘(北斗授時服務器)讓網路資料更精準 北斗電力時鐘(北斗授時服務器)讓網路資料更精準 京準電子科技官微——ahjzsz 近幾年,資訊技術的得了快速發展,互聯網在逐漸普及,其在人們生活和生產中都得到了廣泛應用,并且取得了不錯的應用效果。計算機網路資訊在電力系統中的應用,一方面使電力系統的運行 ......

    uj5u.com 2020-09-10 02:01:03 more
  • 【CTF】CTFHub 技能樹 彩蛋 writeup

    ?碎碎念 CTFHub:https://www.ctfhub.com/ 筆者入門CTF時時剛開始刷的是bugku的舊平臺,后來才有了CTFHub。 感覺不論是網頁UI設計,還是題目質量,賽事跟蹤,工具軟體都做得很不錯。 而且因為獨到的金幣制度的確讓人有一種想去刷題賺金幣的感覺。 個人還是非常喜歡這個 ......

    uj5u.com 2020-09-10 02:04:05 more
  • 02windows基礎操作

    我學到了一下幾點 Windows系統目錄結構與滲透的作用 常見Windows的服務詳解 Windows埠詳解 常用的Windows注冊表詳解 hacker DOS命令詳解(net user / type /md /rd/ dir /cd /net use copy、批處理 等) 利用dos命令制作 ......

    uj5u.com 2020-09-10 02:04:18 more
  • 03.Linux基礎操作

    我學到了以下幾點 01Linux系統介紹02系統安裝,密碼啊破解03Linux常用命令04LAMP 01LINUX windows: win03 8 12 16 19 配置不繁瑣 Linux:redhat,centos(紅帽社區版),Ubuntu server,suse unix:金融機構,證券,銀 ......

    uj5u.com 2020-09-10 02:04:30 more
  • 05HTML

    01HTML介紹 02頭部標簽講解03基礎標簽講解04表單標簽講解 HTML前段語言 js1.了解代碼2.根據代碼 懂得挖掘漏洞 (POST注入/XSS漏洞上傳)3.黑帽seo 白帽seo 客戶網站被黑帽植入劫持代碼如何處理4.熟悉html表單 <html><head><title>TDK標題,描述 ......

    uj5u.com 2020-09-10 02:04:36 more
最新发布
  • 2023年最新微信小程式抓包教程

    01 開門見山 隔一個月發一篇文章,不過分。 首先回顧一下《微信系結手機號資料庫被脫庫事件》,我也是第一時間得知了這個訊息,然后跟蹤了整件事情的經過。下面是這起事件的相關截圖以及近日流出的一萬條資料樣本: 個人認為這件事也沒什么,還不如關注一下之前45億快遞資料查詢渠道疑似在近日復活的訊息。 訊息是 ......

    uj5u.com 2023-04-20 08:48:24 more
  • web3 產品介紹:metamask 錢包 使用最多的瀏覽器插件錢包

    Metamask錢包是一種基于區塊鏈技術的數字貨幣錢包,它允許用戶在安全、便捷的環境下管理自己的加密資產。Metamask錢包是以太坊生態系統中最流行的錢包之一,它具有易于使用、安全性高和功能強大等優點。 本文將詳細介紹Metamask錢包的功能和使用方法。 一、 Metamask錢包的功能 數字資 ......

    uj5u.com 2023-04-20 08:47:46 more
  • vulnhub_Earth

    前言 靶機地址->>>vulnhub_Earth 攻擊機ip:192.168.20.121 靶機ip:192.168.20.122 參考文章 https://www.cnblogs.com/Jing-X/archive/2022/04/03/16097695.html https://www.cnb ......

    uj5u.com 2023-04-20 07:46:20 more
  • 從4k到42k,軟體測驗工程師的漲薪史,給我看哭了

    清明節一過,盲猜大家已經無心上班,在數著日子準備過五一,但一想到銀行卡里的余額……瞬間心情就不美麗了。最近,2023年高校畢業生就業調查顯示,本科畢業月平均起薪為5825元。調查一出,便有很多同學表示自己又被平均了。看著這一資料,不免讓人想到前不久中國青年報的一項調查:近六成大學生認為畢業10年內會 ......

    uj5u.com 2023-04-20 07:44:00 more
  • 最新版本 Stable Diffusion 開源 AI 繪畫工具之中文自動提詞篇

    🎈 標簽生成器 由于輸入正向提示詞 prompt 和反向提示詞 negative prompt 都是使用英文,所以對學習母語的我們非常不友好 使用網址:https://tinygeeker.github.io/p/ai-prompt-generator 這個網址是為了讓大家在使用 AI 繪畫的時候 ......

    uj5u.com 2023-04-20 07:43:36 more
  • 漫談前端自動化測驗演進之路及測驗工具分析

    隨著前端技術的不斷發展和應用程式的日益復雜,前端自動化測驗也在不斷演進。隨著 Web 應用程式變得越來越復雜,自動化測驗的需求也越來越高。如今,自動化測驗已經成為 Web 應用程式開發程序中不可或缺的一部分,它們可以幫助開發人員更快地發現和修復錯誤,提高應用程式的性能和可靠性。 ......

    uj5u.com 2023-04-20 07:43:16 more
  • CANN開發實踐:4個DVPP記憶體問題的典型案例解讀

    摘要:由于DVPP媒體資料處理功能對存放輸入、輸出資料的記憶體有更高的要求(例如,記憶體首地址128位元組對齊),因此需呼叫專用的記憶體申請介面,那么本期就分享幾個關于DVPP記憶體問題的典型案例,并給出原因分析及解決方法。 本文分享自華為云社區《FAQ_DVPP記憶體問題案例》,作者:昇騰CANN。 DVPP ......

    uj5u.com 2023-04-20 07:43:03 more
  • msf學習

    msf學習 以kali自帶的msf為例 一、msf核心模塊與功能 msf模塊都放在/usr/share/metasploit-framework/modules目錄下 1、auxiliary 輔助模塊,輔助滲透(埠掃描、登錄密碼爆破、漏洞驗證等) 2、encoders 編碼器模塊,主要包含各種編碼 ......

    uj5u.com 2023-04-20 07:42:59 more
  • Halcon軟體安裝與界面簡介

    1. 下載Halcon17版本到到本地 2. 雙擊安裝包后 3. 步驟如下 1.2 Halcon軟體安裝 界面分為四大塊 1. Halcon的五個助手 1) 影像采集助手:與相機連接,設定相機引數,采集影像 2) 標定助手:九點標定或是其它的標定,生成標定檔案及內參外參,可以將像素單位轉換為長度單位 ......

    uj5u.com 2023-04-20 07:42:17 more
  • 在MacOS下使用Unity3D開發游戲

    第一次發博客,先發一下我的游戲開發環境吧。 去年2月份買了一臺MacBookPro2021 M1pro(以下簡稱mbp),這一年來一直在用mbp開發游戲。我大致分享一下我的開發工具以及使用體驗。 1、Unity 官網鏈接: https://unity.cn/releases 我一般使用的Apple ......

    uj5u.com 2023-04-20 07:40:19 more