主頁 > 資料庫 > 華為云資料庫首席專家談分布式資料應用挑戰和發展建議

華為云資料庫首席專家談分布式資料應用挑戰和發展建議

2023-05-10 09:47:23 資料庫

摘要:本文分析了分布式資料庫發展情況、分布式資料庫應用的主要問題,從行業應用的角度給出了分布式資料庫發展的建議,

本文分享自華為云社區《數字化轉型下我國分布式資料庫應用挑戰及發展建議》,作者:資料庫領域科學家、華為云資料庫GaussDB首席專家 馮柯,

當前,金融等重點行業都在進行數字化轉型,而分布式資料庫作為資料承載工具,為數字化轉型提供了有力的支撐,分布式資料庫近年來發展迅猛,在產品成熟度上有了很大提升,但在行業應用和生態建設上仍有很多挑戰,本文分析了分布式資料庫發展情況、分布式資料庫應用的主要問題,從行業應用的角度給出了分布式資料庫發展的建議,

一、發展情況

過去三十年,以金融業為代表的核心資訊系統架構依托IOE(即IBM、Oracle、EMC)技術,構建了一套集中、專用、封閉的穩態技術體系,但是,隨著互聯網及云化時代的到來,企業業務架構產生巨大變化,以銀行為代表的金融業需加速構建敏態體系,推動底層資料庫的分布式改造和互聯網金融業務創新,分布式資料庫具有滿足行業關鍵應用的高擴展性、高性能、高可用性及軟硬體解耦等特性,是金融等重點行業資訊系統數字化轉型的基石,

(一)產品成熟度提升

隨著分布式資料庫在金融等重點行業的不斷應用,產品成熟度得到很大提升,一是新技術的不斷發展使得分布式資料庫在自身固有的優勢領域,如擴展性、高可用等方面進一步強化,已有多個應用在重點行業核心業務中落地,二是國產分布式資料庫的性能已經實作了與其他商業資料庫持平甚至超越,這在多個大型企業機構產品準入測驗及業內國際基準測驗(如在線交易場景TPCC、在線分析場景TPCH等)中得到充分證明,可對行業核心業務起到重要的支撐作用,三是更多廠商開始提供對主流國產分布式資料庫的功能支持,產品的兼容性取得顯著進展,管理控制軟體、遷移工具等配套設施逐漸完善,極大地降低了資料庫的使用門檻和遷移成本,

(二)生態逐步完善

一是加快推動分布式資料庫在重點行業落地,主流分布式資料庫廠商紛紛與眾多大型銀行、企業等開展聯合創新活動,取得了許多突破性的成果,以某廠商的分布式資料庫為例,在與大型商業銀行的聯創程序中,已完成10個以上業務系統的分布式資料庫替換,覆寫銀行A類到C類全場景業務,二是通過一站式的遷移解決方案,實作以較小的業務改造作業量從傳統資料庫向分布式資料庫轉型,遷移成本相對較低,而且使用分布式資料庫后,業務系統運行穩定,可靠性和擴展性有所增強,從各項指標看,已基本具備承接Oracle及DB2大機下移的能力,三是分布式資料庫相關的行業標準和評價體系逐步健全,對產品發展起到較強的規范引領作用,

(三)總體發展情況向好

當前國產分布式資料庫已經渡過了“能用”階段,正在邁向“好用、易用”階段,橫向來看,我國分布式資料庫的發展基本與國際同步,tpcc、sysbench等性能指標和RTO、RPO等可靠性指標甚至具有優勢,在應用領域取得些許領先,縱向來看,以金融業為例,分布式資料庫應用取得較大進展,不管是在互聯網新核心業務,還是傳統核心業務中,分布式資料庫行業應用落地數量大幅增加,有逐步替代集中式資料庫的趨勢,

二、面臨的主要問題

(一)主體改造意愿不強,行業實踐尚不充分

一方面,原有資料庫系統改造為分布式資料庫,對用戶及應用單位提出了較高的要求,改造所面臨的成本問題,以及改造完成后分布式運維實施的復雜性,使得部分金融機構對于全面應用分布式還存在有一定的疑慮,主動改造意愿不強,另一方面,分布式資料庫在行業典型應用場景中的落地仍處于摸索階段,由于部分專案中存在一定的需求定制化,應用解決方案與產品的邊界不夠清晰,產品的規模化復制能力仍有待加強,行業最佳實踐相對缺乏,這些因素也影響了金融機構對遷移采用分布式資料庫技術的積極性,

(二)分布式資料庫的生態建設仍需加強

生態建設是當前我國基礎軟體相對薄弱的一環,特別是對分布式資料庫廠商而言,雖然在實作技術和產品方面實作突破,但在生態建設方面仍需積極應對投入轉化慢、門檻高、市場接受程度低等挑戰,一方面,部分產品的技術體系相對封閉,用戶無法從市場快速獲取合格的開發運維人員,導致業務改造及生產運維仍嚴重依賴原廠,規模化復制效應較差,另一方面,部分產品的開放性仍有待提升,與其他平臺資料互聯互通的能力不足在客觀上造成了業務“上車容易下車難”的現實困境,增加了用戶被鎖定的風險,

(三)可持續發展的盈利模式需進一步探索

我國資料庫的發展可以追溯到30多年前,在這樣一個相對較長的發展周期內,技術和產品都取得了顯著進展,但在產業化方面,知識產權的保護不夠充分等諸多問題造成部分參與主體的市場化盈利能力較弱,產業整體規模難以做大,分布式資料庫雖然已取得了一定進展,但“池子深才能養大魚”,如何依托當前政策視窗,真正形成可持續發展的商業模式,還需進一步探討,

三、行業的應用建議

盡管存在一些問題,但我們堅信分布式是資料庫未來的發展趨勢,如果將分布式資料庫和單機資料庫類比為“高鐵”和“轎車”,因兩者定位不同,期望“高鐵”像“轎車”一樣簡單易用既不現實也不科學,所以應避免將分布式資料庫的應用簡單地理解為對單機或者集中式資料庫的一對一替換,而要深入考慮如何充分發揮分布式資料庫的技術優勢,遵循以上思路,我們對于分布式資料庫在金融等重點行業的應用提出以下幾點建議:

(一)通過技術創新和最佳實踐,推動行業應用不斷深入

一方面,要探索利用人工智能等新技術提升產品服務效能,

人工智能技術可實作自動資料磁區規劃、故障自動診斷和自愈、自動負載均衡、面向混合負載的自調優等功能,目前人工智能技術在分布式場景已經有了一些單點突破,但距離全場景落地、實作整體成本的全面降低還有很長的一段路要走,需要繼續加以積極的行業引導,推進技術交流和產業落地,

另一方面,需充分發揮好示范專案效應,

在金融等重點行業典型應用場景如分布式架構設計、多地多中心容災等,形成最佳解決方案,并在行業推廣落地,在此程序中,提煉出更適合分布式資料庫的開發、運維、硬體建設等相關要求,研究制定資料庫開發、運維、應用方面的標準規范,提高行業的標準化水平,引導各參與主體規范應用分布式資料庫,推進行業轉型,同時應約束不必要的定制化需求,減少無序競爭,實作技術聚焦,

(二)積極推進生態建設,發揮產業引領作用

從軟體發展歷史看,生態建設是基礎軟體產業化的重要一環,任何一款商業上真正成功的軟體產品,無一不是生態建設上獲得廣泛認可的成功案例,

首先,充分發揮產業聯盟橋梁紐帶作用,推動產業發展,在行業內積極進行資源引流,逐步提升技術營運效率及影響力,搭建高端對話平臺,促進分布式資料庫應用方、應用開發方及廠商更好地交流,共同面對分布式轉型下的業務及技術挑戰,推進行業生態繁榮;加強與分布式中間件、分布式服務框架的合作與交流,通過開源、社區等形式建立廣泛的賦能體系;鼓勵應用軟體廠商全面向分布式架構轉型,建立相應的培訓體系和檢測認證體系,

其次,完善技術生態,鼓勵引入第三方軟體垂直提供商,在運維管控、工具端以及解決方案層面實作更多差異化的平臺能力,加厚行業整體的技術底盤;鼓勵第三方產品服務化和上下游集成,推進各產品的互聯互通,打造良好技術生態,促進行業健康發展,

再次,建立基礎軟體開放生態體系,推動開源建設,應鼓勵有研發實力的廠商基于國產開源資料庫做發行商,有運維能力的廠商基于優質的國產資料庫打造適用于自主可控要求的資料庫解決方案,資料庫廠商和合作伙伴應基于資料庫代碼開源、產品開放等形式,使資料庫產業從封閉商業生態走向產業共贏的開放生態,共同打造開放的資料庫生態體系,

最后,進一步推進政產學研合作,加強人才儲備,明確人才發展戰略,梳理多層次行業人才資源地圖,加強廠商與各科研院所合作,推進高校在包括資料庫在內的基礎軟體方面專業投入,鼓勵有條件的廠商和高校開展課程共建、實踐共建,為聯合推進分布式資料庫關鍵技術在理論和實踐層面的難點問題攻關儲備智力資源,

(三)全面擁抱云,開展行業可持續發展的嘗試與探索

資料庫上云已逐步成為產業共識,發展云資料庫,不僅是對技術和產品的重要升級,更是對資料庫良性健康發展的商業模式有益探索,對于實作主體可控、支撐行業長期穩定發展具有重要的現實意義,分布式資料庫與單機資料庫不同,需要更大的集群規模才能實作資源的更有效利用,分布式資料庫與云計算是天然伴生關系,通過云化部署,能夠幫助分布式資料庫揚長避短,充分發揮分布式資料庫在擴展性、資源調度方面的靈活性和優勢,在提升資源利用效率同時,顯著降低運維成本,實作真正業務價值,

一是云化基礎設施可以通過智能調度、運維系統高效管理更為豐富的應用,并通過多云及邊緣計算將應用擴展到多種場景中,

二是軟硬協同可為應用提供更好的性能,提升應用隔離性等,

三是云資料庫和云基礎設施結合,如利用云基礎設施本身的能力實作資料庫的跨資料中心訪問等,可使存盤具備理解、預處理資料庫語意的能力,

基于以上,一是建議擴大云資料庫在金融行業的應用規模,

云資料庫已經在互聯網、電子政務等各行業得到了廣泛應用,在金融行業的應用及推廣也在穩步推進中,應引導重點用戶單位與廠商嘗試在行業落地云資料庫及云平臺,鼓勵技術共創,共同探索基于現代云平臺的分布式資料庫運維及業務開發體系,

二是建議推進行業云發展以提高行業標準化程度,

在滿足合規營運的前提下,應實作底層基礎設施共享,降低中小用戶對于分布式資料庫的使用門檻和人才需求,減少重復投資,實作集約化營運,充分發揮分布式資料庫的規模化優勢,厘清各參與主體運營職責與邊界,依托業內現有的成熟云平臺技術,形成一個或若干個云技術底座,鼓勵傳統非云資料庫廠商根據自身產品技術特點完成與云平臺的對接,最終形成行業的云上產品集市,逐步簡化并統一運維及交付界面,降低行業應用門檻,提高行業標準化程度,

 

點擊關注,第一時間了解華為云新鮮技術~

轉載請註明出處,本文鏈接:https://www.uj5u.com/shujuku/552056.html

標籤:其他

上一篇:oracle例外處理

下一篇:返回列表

標籤雲
其他(158749) Python(38124) JavaScript(25412) Java(18024) C(15222) 區塊鏈(8263) C#(7972) AI(7469) 爪哇(7425) MySQL(7175) html(6777) 基礎類(6313) sql(6102) 熊猫(6058) PHP(5871) 数组(5741) R(5409) Linux(5336) 反应(5209) 腳本語言(PerlPython)(5129) 非技術區(4971) Android(4570) 数据框(4311) css(4259) 节点.js(4032) C語言(3288) json(3245) 列表(3129) 扑(3119) C++語言(3117) 安卓(2998) 打字稿(2995) VBA(2789) Java相關(2746) 疑難問題(2699) 细绳(2522) 單片機工控(2479) iOS(2432) ASP.NET(2402) MongoDB(2323) 麻木的(2285) 正则表达式(2254) 字典(2211) 循环(2198) 迅速(2185) 擅长(2169) 镖(2155) 功能(1967) .NET技术(1965) Web開發(1951) HtmlCss(1934) python-3.x(1918) 弹簧靴(1913) C++(1912) xml(1889) PostgreSQL(1875) .NETCore(1857) 谷歌表格(1846) Unity3D(1843) for循环(1842)

熱門瀏覽
  • GPU虛擬機創建時間深度優化

    **?桔妹導讀:**GPU虛擬機實體創建速度慢是公有云面臨的普遍問題,由于通常情況下創建虛擬機屬于低頻操作而未引起業界的重視,實際生產中還是存在對GPU實體創建時間有苛刻要求的業務場景。本文將介紹滴滴云在解決該問題時的思路、方法、并展示最終的優化成果。 從公有云服務商那里購買過虛擬主機的資深用戶,一 ......

    uj5u.com 2020-09-10 06:09:13 more
  • 可編程網卡芯片在滴滴云網路的應用實踐

    **?桔妹導讀:**隨著云規模不斷擴大以及業務層面對延遲、帶寬的要求越來越高,采用DPDK 加速網路報文處理的方式在橫向縱向擴展都出現了局限性。可編程芯片成為業界熱點。本文主要講述了可編程網卡芯片在滴滴云網路中的應用實踐,遇到的問題、帶來的收益以及開源社區貢獻。 #1. 資料中心面臨的問題 隨著滴滴 ......

    uj5u.com 2020-09-10 06:10:21 more
  • 滴滴資料通道服務演進之路

    **?桔妹導讀:**滴滴資料通道引擎承載著全公司的資料同步,為下游實時和離線場景提供了必不可少的源資料。隨著任務量的不斷增加,資料通道的整體架構也隨之發生改變。本文介紹了滴滴資料通道的發展歷程,遇到的問題以及今后的規劃。 #1. 背景 資料,對于任何一家互聯網公司來說都是非常重要的資產,公司的大資料 ......

    uj5u.com 2020-09-10 06:11:05 more
  • 滴滴AI Labs斬獲國際機器翻譯大賽中譯英方向世界第三

    **桔妹導讀:**深耕人工智能領域,致力于探索AI讓出行更美好的滴滴AI Labs再次斬獲國際大獎,這次獲獎的專案是什么呢?一起來看看詳細報道吧! 近日,由國際計算語言學協會ACL(The Association for Computational Linguistics)舉辦的世界最具影響力的機器 ......

    uj5u.com 2020-09-10 06:11:29 more
  • MPP (Massively Parallel Processing)大規模并行處理

    1、什么是mpp? MPP (Massively Parallel Processing),即大規模并行處理,在資料庫非共享集群中,每個節點都有獨立的磁盤存盤系統和記憶體系統,業務資料根據資料庫模型和應用特點劃分到各個節點上,每臺資料節點通過專用網路或者商業通用網路互相連接,彼此協同計算,作為整體提供 ......

    uj5u.com 2020-09-10 06:11:41 more
  • 滴滴資料倉庫指標體系建設實踐

    **桔妹導讀:**指標體系是什么?如何使用OSM模型和AARRR模型搭建指標體系?如何統一流程、規范化、工具化管理指標體系?本文會對建設的方法論結合滴滴資料指標體系建設實踐進行解答分析。 #1. 什么是指標體系 ##1.1 指標體系定義 指標體系是將零散單點的具有相互聯系的指標,系統化的組織起來,通 ......

    uj5u.com 2020-09-10 06:12:52 more
  • 單表千萬行資料庫 LIKE 搜索優化手記

    我們經常在資料庫中使用 LIKE 運算子來完成對資料的模糊搜索,LIKE 運算子用于在 WHERE 子句中搜索列中的指定模式。 如果需要查找客戶表中所有姓氏是“張”的資料,可以使用下面的 SQL 陳述句: SELECT * FROM Customer WHERE Name LIKE '張%' 如果需要 ......

    uj5u.com 2020-09-10 06:13:25 more
  • 滴滴Ceph分布式存盤系統優化之鎖優化

    **桔妹導讀:**Ceph是國際知名的開源分布式存盤系統,在工業界和學術界都有著重要的影響。Ceph的架構和演算法設計發表在國際系統領域頂級會議OSDI、SOSP、SC等上。Ceph社區得到Red Hat、SUSE、Intel等大公司的大力支持。Ceph是國際云計算領域應用最廣泛的開源分布式存盤系統, ......

    uj5u.com 2020-09-10 06:14:51 more
  • es~通過ElasticsearchTemplate進行聚合~嵌套聚合

    之前寫過《es~通過ElasticsearchTemplate進行聚合操作》的文章,這一次主要寫一個嵌套的聚合,例如先對sex集合,再對desc聚合,最后再對age求和,共三層嵌套。 Aggregations的部分特性類似于SQL語言中的group by,avg,sum等函式,Aggregation ......

    uj5u.com 2020-09-10 06:14:59 more
  • 爬蟲日志監控 -- Elastc Stack(ELK)部署

    傻瓜式部署,只需替換IP與用戶 導讀: 現ELK四大組件分別為:Elasticsearch(核心)、logstash(處理)、filebeat(采集)、kibana(可視化) 下載均在https://www.elastic.co/cn/downloads/下tar包,各組件版本最好一致,配合fdm會 ......

    uj5u.com 2020-09-10 06:15:05 more
最新发布
  • 華為云資料庫首席專家談分布式資料應用挑戰和發展建議

    摘要:本文分析了分布式資料庫發展情況、分布式資料庫應用的主要問題,從行業應用的角度給出了分布式資料庫發展的建議。 本文分享自華為云社區《數字化轉型下我國分布式資料庫應用挑戰及發展建議》,作者:資料庫領域科學家、華為云資料庫GaussDB首席專家 馮柯。 當前,金融等重點行業都在進行數字化轉型,而分布 ......

    uj5u.com 2023-05-10 09:47:23 more
  • oracle例外處理

    序言 最近在作業中遇到這么一個場景: 在同一網段記憶體在著A庫和B庫,需要將A庫下某些表的資料同步到B庫 B庫跑著定時任務,定時呼叫存盤程序將A庫下的資料同步到B庫。 B庫和A庫是通過建立dblink建立連接的。【關于dblink相關可能會后面單獨寫博客,先給自己挖個坑,慢慢填 哈哈】。 定時任務的頻 ......

    uj5u.com 2023-05-10 09:45:54 more
  • 如何從800萬資料中快速撈出自己想要的資料?

    (如何從800萬資料中快速撈出自己想要的資料) 一、需求調研 正如題目所說,我們使用的是Oracle資料庫,資料量在800萬左右。我們要完成的事情就是在著800萬資料中,通過某些欄位進行模糊查詢,得到我們所需要的結果集。 這是表里的資料,一共7328976 條資料,接近800萬 select cou ......

    uj5u.com 2023-05-10 09:39:50 more
  • oracle例外處理

    序言 最近在作業中遇到這么一個場景: 在同一網段記憶體在著A庫和B庫,需要將A庫下某些表的資料同步到B庫 B庫跑著定時任務,定時呼叫存盤程序將A庫下的資料同步到B庫。 B庫和A庫是通過建立dblink建立連接的。【關于dblink相關可能會后面單獨寫博客,先給自己挖個坑,慢慢填 哈哈】。 定時任務的頻 ......

    uj5u.com 2023-05-10 09:39:34 more
  • 實驗六 存盤程序

    #實驗六 存盤程序 第1關:增加供應商相關列sqty use demo; #代碼開始 #在S表中增加一列供應零件總數量(sqty),默認值為0。 altertable s add sqty intdefault0; #代碼結束 desc s; 第2關:定義、呼叫簡單存盤程序 use demo; #代 ......

    uj5u.com 2023-05-10 09:39:12 more
  • 實驗七 函式與觸發器

    #實驗七 函式與觸發器 第1關:定義、呼叫引數函式 相關知識 MySQL存盤函式 存盤函式和存盤程序一樣,都是在資料庫中定義一些 SQL 陳述句的集合。存盤函式可以通過 return 陳述句回傳函式值,主要用于計算并回傳一個值。而存盤程序沒有直接回傳值,主要用于執行操作。 在 MySQL 中,使用 CR ......

    uj5u.com 2023-05-10 09:39:08 more
  • 華為云資料庫首席專家談分布式資料應用挑戰和發展建議

    摘要:本文分析了分布式資料庫發展情況、分布式資料庫應用的主要問題,從行業應用的角度給出了分布式資料庫發展的建議。 本文分享自華為云社區《數字化轉型下我國分布式資料庫應用挑戰及發展建議》,作者:資料庫領域科學家、華為云資料庫GaussDB首席專家 馮柯。 當前,金融等重點行業都在進行數字化轉型,而分布 ......

    uj5u.com 2023-05-10 09:39:03 more
  • 作業中,Oracle常用函式

    (作業中,Oracle常用函式) 1、序言 Oracle提供了不少內置函式,熟練使用這些函式,可以大大提高我們作業效率。函式可以接受0個或多個入參,并回傳一個輸出結果。 2、Oracle函式分類 Oracle函式分為單行函式和聚合函式 單行函式:對每一個函式應用在表的記錄中時,只能輸入一行結果,回傳 ......

    uj5u.com 2023-05-09 08:26:27 more
  • 存盤程序

    存盤程序 介紹 存盤程序是事先經過編譯并存盤在資料庫中的一段SQL陳述句的集合,呼叫存盤程序可以簡化應用開發人員的很多作業,減少資料在資料庫和應用服務器之間的傳輸,對于提高資料處理的效率是有好處的。 存盤程序思想上很簡單,就是資料庫SQL語言層面的代碼封裝與重用,類似于函式或者說API,封裝了系列操作 ......

    uj5u.com 2023-05-09 08:26:15 more
  • hadoop前期環境搭建

    主機名 ip ssh免密登陸 #修改主機名 hostnamectl set-hostname node1 #修改ip地址 vim /etc/sysconfig/network-scripts/ifcfg-ens33 #node1 IPADDR="192.168.88.101" NETMASK="22 ......

    uj5u.com 2023-05-09 08:26:08 more