主頁 > 資料庫 > 影像處理學習筆記之——緒論

影像處理學習筆記之——緒論

2020-09-24 12:02:17 資料庫

緒論

數字影像處理方法的重要性源于兩個主要應用領域:改善圖示資訊以便人們解釋;為存盤、傳輸和表示而對影像資料進行處理,以便機器自動理解,


1、數字影像

自然界中的影像都是模擬量,在計算機普遍應用之前,電視、電影、照相機等影像記錄與傳輸設備都是使用模擬信號對影像進行處理,但是,計算機只能處理數字量,而不能直接處理模擬影像,所以我們要在計算機處理影像之前進行影像數字化處理

1.1、什么是數字影像

簡單的說,數字影像就是能夠在計算機上顯示和處理的影像,可根據其特征分為兩大類——位圖和矢量圖位圖通常使用數字陣列來表示,常見的格式有 BMP、JPG、GIF 等;矢量圖矢量資料庫表示,我們接觸最多的就是 PNG 圖形,

一幅影像可定義為一個二維函式 f(x,y),其中 x 和 y 是空間(平面)坐標,而在任何一對空間坐標(x,y)處的幅值 f 稱為影像在該點處的強度、亮度或灰度,當 x,y 和灰度值 f 是非負有限的離散數值時,我們稱該影像為數字影像(位圖)

注意,數字影像處理是由有限數量的元素組成每個元素都有一個特定的位置和幅值,這些元素稱為圖畫元素、影像元素或像素,像素是廣泛用于表示數字影像元素的術語,例如,一個大小為 M×N 數字影像是由 M 行 N 列的有限元素組成,每個元素都有特定的位置和幅值,代表了其所在行列位置上的影像物理資訊,如灰度和色彩等,這些元素稱為影像元素或像素

1.2、數字影像的顯示

不論是 CRT 顯示幕還是 LCD 顯示幕,都是由許多點構成,顯示影像時這些點對應著影像的像素,稱顯示幕為位映像設備,所謂位映像設備,就是一個二維的像素矩陣,而位圖也就是采用位映像方法顯示和存盤的影像,當一幅數字影像被放大后就可以明顯地看出影像是由很多的方格形狀的像素構成的,

1.3、數字影像的分類

根據每個像素所代表的資訊的不同,可將影像分為二值影像灰度影像RGB 影像以及索引影像等,

1.3.1、二值影像

每個像素只有黑、白兩種顏色的影像稱為二值影像,在二值影像中,像素只有 0 和 1 兩種取值,一般用 0 來表示黑色,用 1 表示白色,

1.3.2、灰度影像

在二值影像中進一步加入許多介于黑色與白色之間的顏色深度,就構成了灰度影像,這類影像通常顯示為從最暗黑色到最亮的白色的灰度,每種灰度(顏色深度)稱為一個灰度級通常用 L 來表示,在灰度影像中,像素可以取 0~L-1 之間的整數值,根據保存灰度值所使用的資料型別的不同,可能有 256 種取值或者說 2^k 種取值,當 k=1 時即退化為二值影像,

1.3.3、RGB 影像

眾所周知,自然界中幾乎所有顏色都可以由紅(Red,R)、綠(Green,G)、藍(Blue,B)3 種顏色組合而成,通常稱它們為 RGB 三原色,計算機顯示彩色影像時采用最多的就是 RGB 模型,對于每個像素,通過控制 R、G、B 三原色的合成比例決定該像素的最終顯示顏色

對于三原色 RGB 中的每一種顏色,可以像灰度圖那樣使用 L 個等級來表示含有這種顏色成分的多少,例如對于含有 256 個等級的紅色,0 表示不含紅色成份,255 表示含有 100% 的紅色成份,同樣,綠色和藍色也可以劃分為 256 個等級,這樣每種原色可以用 8 位二進制資料表示,于是三原色總共需要 24 位二進制數,這樣能夠表示出的顏色種類數目為 256×256×256=2^24,大約有 1600 萬種,已經超過了普通人所能分辨出的顏色數目,

RGB 顏色代碼可以使用十六進制數減少書寫長度,按照兩位一組的方式依次書寫 R、G、B 三種顏色的級別,例如,0xFF0000 代表純紅色,0x00FF00 代表純綠色,而 0x00FFFF 是青色,常見顏色的 RGB 組合值的表如下:

顏色RGB
紅(0xFF0000)25500
藍(0x00FF00)02550
綠(0x0000FF)00255
黃(0xFFFF00)2552550
紫(0xFF00FF)2550255
青(0x00FFFF)0255255
白(0xFFFFFF)255255255
黑(0x000000)000
灰(0x808080)128128128

未經壓縮的原始 BMP 檔案就是使用 RGB 標準給出的 3 個數值來存盤影像資料的,稱為 RGB 影像,在 RGB 影像每個像素都是用 24 位二進制數表示,故也稱為 24 位真彩影像

1.3.4、索引影像

如果對每個像素直接使用 24 位二進制數表示,影像檔案的體積將變得十分龐大,來看一個例子,對一個長、寬各為 200 像素,顏色數為 16 的彩色影像,每個像素都用 RGB 3 個分量表示,這樣每個像素由 3 位元組表示,整個影像就是 200×200×3=120KB,這種未經壓縮的表示方法浪費了大量的存盤空間,所以就引出了另一種更為節省空間的存盤方式索引影像

同樣是對 200×200 像素的 16 色影像,由于這張影像最多只有 16 種顏色,那么可以用一張顏色表(16×3 的二維陣列)保存這 16 種顏色對應的 RGB 值,在表示影像的矩陣中使用那 16 種顏色在顏色表中的索引(偏移量)作為資料寫入相應的行列位置,這樣一來,每一個像素所需要使用的二進制數就僅僅為 4 位(0.5 位元組),從而整個影像只需要 200×200×0.5 = 20KB 就可以存盤,

上文所提到的顏色表就是常說的調色板(Palette),另一種說法叫做顏色查找表(LUT:Look Up Table)

1.4、數字影像的實質

更嚴格地說,數字影像可以是兩個變數(對于靜止影像)或 3 個變數(對于動態影像)的離散函式,在靜態影像的情況下是 f(x,y),而如果是動態影像畫面,則還需要時間引數 t,即 f(x,y,t);函式值可能是一個數值(對于灰度影像),也可能是一個向量(對于彩色影像),

影像處理是一個涉及諸多領域的交叉學科,下面從不同的角度來審視數字影像:

  • 從線性代數和矩陣論的角度,數字影像是由影像資訊組成的二維矩陣矩陣的每個元素代表對應位置上的影像亮度和/或色彩資訊,當然,這個二維矩陣在資料表示和存盤上可能不是二維的,這是因為每個單位位置的影像資訊可能需要不只一個數值來表示,這樣可能需要一個三維矩陣來對其進行表示,
  • 由于隨機變化和噪聲的原因,影像在本質上是統計性的,因而有時將影像作為隨機程序的實作來觀察存在其優越性,這時有關影像資訊量和冗余的問題可以用概率分布和相關函式來描述,例如,可以用熵 H 來度量影像的資訊量,
  • 從線性系統的角度考慮,影像及其處理也可以表示為用狄拉克沖激公式表達的點展開函式的疊加,在使用這種方式對影像進行表示時,可以采用成熟的線性系統理論研究,

1.5、數字影像的表示

為了表述像素之間的相對和絕對位置,我們通常還需要對像素的位置進行坐標的約定,

在這里插入圖片描述

在這之后,一幅物理圖就被轉換成了數字矩陣,從而成為計算機能夠處理的物件了,數字影像 f 的矩陣表示如下:
f ( y , x ) = [ f ( 0 , 0 ) ? f ( 0 , N ? 1 ) ? ? ? f ( M ? 1 , 0 ) ? f ( M ? 1 , N ? 1 ) ] f(y, x)=\left[\begin{array}{cccc} f(0,0) & \cdots & f(0, N-1) \\ \vdots & \cdots & \vdots \\ f(M-1,0) & \cdots & f(M-1, N-1) \end{array}\right] f(y,x)=????f(0,0)?f(M?1,0)?????f(0,N?1)?f(M?1,N?1)?????
也可以使用傳統的矩陣表示法來表示數字影像和像素,

其中行列(M 行 N 列)必須是正整數,而離散灰度級數目 L 一般為 2 的 k 次冪,k 為整數(因為使用二進制整數值來表示灰度值),影像的動態范圍為 [0,L-1],那么影像存盤所需的位元數為 b = M×N×k,

1.6、影像的空間和灰度級解析度

1.6.1、影像的空間解析度

影像的空間解析度是指影像中每單位長度所包含的像素或點的數目,常以**像素/英寸(ppi)**為單位來表示,如:72ppi 表示影像中每英寸包含 72 個像素或點,解析度越高,影像越清晰,影像檔案所需的磁盤空間也越大,編輯和處理所需的時間也越長,

像素越小,單位長度所包含的像素資料就越多,解析度也就越高,但同樣物理大小范圍內所對應影像的尺寸也會越大,存盤影像所需要的位元組數也越多,因而,在影像的放大縮小演算法中,放大就是對影像的過采樣,縮小就是對影像的欠采樣,

1.6.2、影像的灰度級/輻射計量解析度

在數字影像處理中,灰度級解析度又稱為色階是指影像中可分辨的灰度級數目,即前面提到的灰度級數目 L它與存盤灰度級別所使用的資料型別有關,由于灰度級度量的是投射到傳感器上的光輻射值的強度,所以灰度級解析度也叫輻射計量解析度

隨著影像的灰度級解析度逐漸降低影像中包含的顏色數目變少,從而在顏色的角度造成影像資訊受損,同樣使影像細節表達受到一定影響,

在這里插入圖片描述


2、數字影像處理與識別

2.1、從影像處理到影像識別

2.1.1、數字影像處理

數字影像處理(Digital Image Processing)就是指使用電子計算機對量化的數字影像進行處理,具體地說就是通過影像進行各種加工來改善影像的外觀,是對影像的修改和增強

影像處理的輸入是從傳感器或其他來源獲取的原始的數字影像輸出的是經過處理后的輸出影像,處理的目的可能是使輸出的影像具有更好的效果,以便于人的觀察;也可能是為影像分析和識別做準備,此時的影像處理是作為一種預處理步驟,輸出的影像將進一步供其他影像分析、識別演算法使用,

2.1.2、數字影像分析

數字影像分析(Digital Image Analyzing是指對影像中感興趣的目標進行檢測和測量,以獲得客觀的資訊,數字影像分析通常是指將一幅影像轉換為另一種非影像的抽象形式,如圖中某物體與測量者的距離以及目標物件的計數或其尺寸等,這一概念的外延包括邊緣檢測影像分割特征提取以及幾何測量與計數等,

影像分析的輸入是經過處理的數字影像,其輸出通常不再是數字影像而是一系列與目標相關的影像特征(目標的描述),如目標的長度、顏色、曲率和個數等,

2.1.3、數字影像識別

數字影像識別(Digital Image Recognition主要研究影像中各目標的性質和互相關系,識別出目標物件的類別,從而理解影像的含義

影像識別是影像分析的延伸,它根據從影像分析中得到的相關描述(特性)對目標進行歸類,輸出我們感興趣的目標類別標號資訊(符號),

總的來說,從影像處理到影像分析再到影像識別這個程序,是一個將所含資訊抽象化,嘗試降低資訊熵,提煉有效資訊的程序,

在這里插入圖片描述

2.2、數字影像處理與識別的應用實體

相關領域典型應用
安全監控指紋驗證,基于人臉識別的門禁系統
工業控制產品無損檢測,商品自動分類
醫療保健X 光照片增強,CT,核磁共振,病灶自動檢測
生活娛樂基于表情識別的笑臉自動檢測,汽車自動駕駛,手寫字符識別

2.3、數字影像處理與識別的基本步驟

  • 影像的點運算通過灰度變換可有效改善影像的外觀,并在一定程度上實作影像的灰度歸一化,有很多基于影像點運算的處理方法,如影像拉伸、對比度增強、直方圖均衡以及直方圖匹配等,
  • 影像的幾何變換主要應用在影像的幾何歸一化和影像校準當中,
  • 影像增強,可理解為根據特定的需求突出一幅影像中的某些資訊,同時削榷訓去掉某些不需要的資訊的處理方法,其主要目的是使處理后的影像對某種特定的應用來說,比原始影像更適用,作為影像處理中一個相當主觀的領域,影像增強是以下多種影像處理方法的前提和基礎,也是在影像獲取后的先期步驟,
  • 小波變換伴隨著人們對影像壓縮、邊緣和特征檢測以及紋理分析的需求的提高應運而生,傅里葉變換一直是頻率域影像處理的基石,它能用正弦函式之和表示任何分析函式,而小波變換則基于一些有限寬度的基小波,這些小波不僅在頻率上是變化的,而且具有有限的持續時間,
  • 影像復原與影像增強類似,其目的是改善影像質量,但是影像復原是試圖利用退化程序的先驗知識使已被退化的影像恢復本來面目,而影像增強是用某種試探的方式改善影像質量,以適應人眼的視覺與心理,引起影像退化的因素包括由光學系統、運動等造成的影像模糊以及源自電路和光學因素的噪聲等,影像復原是基于影像退化的數學模型,復原的方法也建立在比較嚴格的數學推導上,
  • 彩色影像處理實際上從影像的型別分類,主要包括對全彩影像的處理,也包括灰度影像的偽彩色化,更復雜,
  • 形態學影像處理是一種將數學形態學推廣應用于影像處理領域的新方法,是一種基于物體自然形態的影像處理分析方法,而形態學的概念最早起源于生物學,是一門生物學中研究動物和植物結構的一個分支科學,數學形態學(也稱為影像代數)則是一種以形態為基礎對影像進行分析的數學工具,其基本思想是用具有一定形態的結構元素去度量和提取影像中的對應形狀以達到對影像分析和識別的目的,影像形態學往往用于邊界提取區域填充連通分量的提取凸殼細化像素化等影像操作,
  • 影像分割是指將一幅影像分解為若干個互不交疊區域的程序,分割出來的區域需要同時滿足均勻性和連通性的條件,目標的表示與描述是指目標區域的像素或區域邊界的像素標出這一目標,并且對目標進行抽象描述,使計算機能充分利用所獲得的處理分割結果,
  • 特征提取指的是進一步處理之前得到的影像區域和邊緣,使其成為一種更適合于計算機處理的形式,我們研究如何從影像中提取有用的資料或資訊得到的影像的 “非影像” 的表示或描述,如數值、向量和符號等,這一程序就是特征提取而提取出來的這些 “非影像” 的表示或描述就是特征,有了這些數值或向量形式特征我們就可以通過訓練程序教會計算機如何懂得這些特征從而使計算機具有了識別影像的本領,常用的影像特征有:紋理特征形狀特征空間關系特征等,
  • 物件識別一般是指利用前一步從數字影像中提取的特征向量進行分類和理解的程序,這涉及計算機技術、模式識別、人工智能等多方面的知識,這一步驟建立在前面諸多步驟之上,用以向上層控制演算法提供最終所需的資料或直接報告識別結果,事實上,物件識別已經上升到機器視覺的層面了,

3、數字影像處理的預備知識

3.1、鄰接性、連通性、區域和邊界

相鄰像素的概念,依據標準的不同,我們關注像素 P 的 4 鄰域和 8 鄰域:

在這里插入圖片描述

3.1.1、鄰接性

定義 V 是用于決定鄰接性的灰度值集合,它是一種相似性的度量,用于確定所需判斷鄰接性的像素之間的相似程度,

例如在二值影像中,如果我們認為只有灰度值為 1 的像素是相似的,則即 V = {1},當然相似性的規定具有主觀標準,因此也可以認為 V = {0,1},此時鄰接性完全由位置決定;而對于灰度影像,這個集合中則很可能包含更多的元素,此外,定義對角鄰接域 ND§ 為 8-鄰域中不屬于 4-鄰域的部分,那么:

  • 4 鄰接:如果
    Q ∈ N 4 ( P ) Q \in N_{4}(P) QN4?(P)
    則稱具有 V 中數值的兩個像素 P 和 Q 是4 鄰接的,

  • 8 鄰接:如果
    Q ∈ N 8 ( P ) Q \in N_{8}(P) QN8?(P)
    則稱具有 V 中數值的兩個像素 P 和 Q 是 8 鄰接的,

舉例來說,下圖分別是像素和 Q、Q1、Q2 的 4 鄰接和 8 鄰接示意圖,而對于兩個影像子集 S1 和 S2,如果 S1 中的某些像素和 S2 中的某些像素相鄰,則稱這兩個子集是鄰接的,

在這里插入圖片描述

3.1.2、連通性

像素的通路 像素 P 到像素 Q 的通路(Path) 指的是一個特定的像素序列 (x0,y0),(x1,y1),…,(xn,yn),其中 (x0,y0) = (xp,yp),(xn,yn) = (xq,yq),并且像素 (xi,yi) 和 (xi-1,yi-1) 在滿足 1<= i <= n 時是鄰接的,通過上面的定義,n 是通路的長度,若 (x0,y0) = (xn,yn),則稱這條通路是閉合通路,

像素的連通性 令 S 代表一幅影像中的像素子集,如果在 S 中全部像素之間存在一個通路,則可以稱兩個像素 P 和 Q 在 S 中是連通的,此外,對于 S 中的任何像素 P,S 中連通到該像素的像素集叫做 S 的連通分量,如果 S 中僅有一個連通分量,則集合 S 叫做連通集,

3.1.3、區域和邊界

**區域(Region)**的定義是建立在連通集的基礎上的,

區域 如果 R 同時是連通集,則稱 R 為一個區域(Region),

**邊界(Boundary)**的概念是相對于區域而言的,

邊界 一個區域的邊界(或邊緣、輪廓)是區域中所有有一個或多個不在區域 R 中的鄰接像素的像素所組成的集合,

顯然,如果區域 R 是整幅影像,那么邊界就由影像的首行、首列、末行和末列定義,通常情況下,區域指的是一幅影像的子集,并包括區域的邊緣,而區域的邊緣(Edge)由具有某些導數值的像素組成,是一個像素及其直接鄰域的區域性質,是一個有大小和方向屬性的矢量,

邊界和邊緣是不同的,邊界是和區域有關的矢量,而邊緣表示的影像函式的區域性質,

3.2、距離度量的幾種方法

假設對于像素 P(xp,yp),Q(xq,yq),R(xr,yr) 而言,有函式 D 滿足如下 3 個條件,則函式 D 可被稱為距離函式或度量,

  1. D(P,Q) >= 0,當且僅當 P = Q 時有 D(P,Q) = 0;
  2. D(P,Q) = D(Q,P);
  3. D(P,Q) <= D(P,R) + D(R,Q),

常見的幾種距離函式如下:

  • 歐式距離
    D e ( P , Q ) = ( x p ? x p ) 2 + ( y p ? y p ) 2 D_{e}(P, Q)=\sqrt{\left(x_{p}-x_{p}\right)^{2}+\left(y_{p}-y_{p}\right)^{2}} De?(P,Q)=(xp??xp?)2+(yp??yp?)2 ?

? 即距離等于 r 的像素形成以 P 為圓心的圓

  • D4 距離(街區距離)
    D 4 ( P , Q ) = ∣ x p ? x q ∣ + ∣ y p ? y q ∣ D_{4}(P, Q)=\left|x_{p}-x_{q}\right|+\left|y_{p}-y_{q}\right| D4?(P,Q)=xp??xq?+yp??yq?
    即距離等于 r 的像素形成以 P 為中心的菱形

  • D8 距離(棋盤距離)
    D 8 ( P , Q ) = max ? ( ∣ x p ? x q ∣ + ∣ y p ? x q ∣ ) D_{8}(P, Q)=\max \left(\left|x_{p}-x_{q}\right|+\left|y_{p}-x_{q}\right|\right) D8?(P,Q)=max(xp??xq?+yp??xq?)
    即距離等于 r 的像素形成以 P 為中心的方形

3.3、基本的影像操作

按照處理影像的數量分類,可以分為對單幅影像操作(如濾波)和對多幅影像的操作(如求和、求差和邏輯運算等);按照參與操作的像素范圍的不同,可以分為點運算和鄰域運算;而根據操作的數學性質,又可分為線性操作和非線性操作,

轉載請註明出處,本文鏈接:https://www.uj5u.com/shujuku/118786.html

標籤:其他

上一篇:一名“山寨版”電力工程師成長的故事

下一篇:計算機網路基礎

標籤雲
其他(157675) Python(38076) JavaScript(25376) Java(17977) C(15215) 區塊鏈(8255) C#(7972) AI(7469) 爪哇(7425) MySQL(7132) html(6777) 基礎類(6313) sql(6102) 熊猫(6058) PHP(5869) 数组(5741) R(5409) Linux(5327) 反应(5209) 腳本語言(PerlPython)(5129) 非技術區(4971) Android(4554) 数据框(4311) css(4259) 节点.js(4032) C語言(3288) json(3245) 列表(3129) 扑(3119) C++語言(3117) 安卓(2998) 打字稿(2995) VBA(2789) Java相關(2746) 疑難問題(2699) 细绳(2522) 單片機工控(2479) iOS(2429) ASP.NET(2402) MongoDB(2323) 麻木的(2285) 正则表达式(2254) 字典(2211) 循环(2198) 迅速(2185) 擅长(2169) 镖(2155) 功能(1967) .NET技术(1958) Web開發(1951) python-3.x(1918) HtmlCss(1915) 弹簧靴(1913) C++(1909) xml(1889) PostgreSQL(1872) .NETCore(1853) 谷歌表格(1846) Unity3D(1843) for循环(1842)

熱門瀏覽
  • GPU虛擬機創建時間深度優化

    **?桔妹導讀:**GPU虛擬機實體創建速度慢是公有云面臨的普遍問題,由于通常情況下創建虛擬機屬于低頻操作而未引起業界的重視,實際生產中還是存在對GPU實體創建時間有苛刻要求的業務場景。本文將介紹滴滴云在解決該問題時的思路、方法、并展示最終的優化成果。 從公有云服務商那里購買過虛擬主機的資深用戶,一 ......

    uj5u.com 2020-09-10 06:09:13 more
  • 可編程網卡芯片在滴滴云網路的應用實踐

    **?桔妹導讀:**隨著云規模不斷擴大以及業務層面對延遲、帶寬的要求越來越高,采用DPDK 加速網路報文處理的方式在橫向縱向擴展都出現了局限性。可編程芯片成為業界熱點。本文主要講述了可編程網卡芯片在滴滴云網路中的應用實踐,遇到的問題、帶來的收益以及開源社區貢獻。 #1. 資料中心面臨的問題 隨著滴滴 ......

    uj5u.com 2020-09-10 06:10:21 more
  • 滴滴資料通道服務演進之路

    **?桔妹導讀:**滴滴資料通道引擎承載著全公司的資料同步,為下游實時和離線場景提供了必不可少的源資料。隨著任務量的不斷增加,資料通道的整體架構也隨之發生改變。本文介紹了滴滴資料通道的發展歷程,遇到的問題以及今后的規劃。 #1. 背景 資料,對于任何一家互聯網公司來說都是非常重要的資產,公司的大資料 ......

    uj5u.com 2020-09-10 06:11:05 more
  • 滴滴AI Labs斬獲國際機器翻譯大賽中譯英方向世界第三

    **桔妹導讀:**深耕人工智能領域,致力于探索AI讓出行更美好的滴滴AI Labs再次斬獲國際大獎,這次獲獎的專案是什么呢?一起來看看詳細報道吧! 近日,由國際計算語言學協會ACL(The Association for Computational Linguistics)舉辦的世界最具影響力的機器 ......

    uj5u.com 2020-09-10 06:11:29 more
  • MPP (Massively Parallel Processing)大規模并行處理

    1、什么是mpp? MPP (Massively Parallel Processing),即大規模并行處理,在資料庫非共享集群中,每個節點都有獨立的磁盤存盤系統和記憶體系統,業務資料根據資料庫模型和應用特點劃分到各個節點上,每臺資料節點通過專用網路或者商業通用網路互相連接,彼此協同計算,作為整體提供 ......

    uj5u.com 2020-09-10 06:11:41 more
  • 滴滴資料倉庫指標體系建設實踐

    **桔妹導讀:**指標體系是什么?如何使用OSM模型和AARRR模型搭建指標體系?如何統一流程、規范化、工具化管理指標體系?本文會對建設的方法論結合滴滴資料指標體系建設實踐進行解答分析。 #1. 什么是指標體系 ##1.1 指標體系定義 指標體系是將零散單點的具有相互聯系的指標,系統化的組織起來,通 ......

    uj5u.com 2020-09-10 06:12:52 more
  • 單表千萬行資料庫 LIKE 搜索優化手記

    我們經常在資料庫中使用 LIKE 運算子來完成對資料的模糊搜索,LIKE 運算子用于在 WHERE 子句中搜索列中的指定模式。 如果需要查找客戶表中所有姓氏是“張”的資料,可以使用下面的 SQL 陳述句: SELECT * FROM Customer WHERE Name LIKE '張%' 如果需要 ......

    uj5u.com 2020-09-10 06:13:25 more
  • 滴滴Ceph分布式存盤系統優化之鎖優化

    **桔妹導讀:**Ceph是國際知名的開源分布式存盤系統,在工業界和學術界都有著重要的影響。Ceph的架構和演算法設計發表在國際系統領域頂級會議OSDI、SOSP、SC等上。Ceph社區得到Red Hat、SUSE、Intel等大公司的大力支持。Ceph是國際云計算領域應用最廣泛的開源分布式存盤系統, ......

    uj5u.com 2020-09-10 06:14:51 more
  • es~通過ElasticsearchTemplate進行聚合~嵌套聚合

    之前寫過《es~通過ElasticsearchTemplate進行聚合操作》的文章,這一次主要寫一個嵌套的聚合,例如先對sex集合,再對desc聚合,最后再對age求和,共三層嵌套。 Aggregations的部分特性類似于SQL語言中的group by,avg,sum等函式,Aggregation ......

    uj5u.com 2020-09-10 06:14:59 more
  • 爬蟲日志監控 -- Elastc Stack(ELK)部署

    傻瓜式部署,只需替換IP與用戶 導讀: 現ELK四大組件分別為:Elasticsearch(核心)、logstash(處理)、filebeat(采集)、kibana(可視化) 下載均在https://www.elastic.co/cn/downloads/下tar包,各組件版本最好一致,配合fdm會 ......

    uj5u.com 2020-09-10 06:15:05 more
最新发布
  • day02-2-商鋪查詢快取

    功能02-商鋪查詢快取 3.商鋪詳情快取查詢 3.1什么是快取? 快取就是資料交換的緩沖區(稱作Cache),是存盤資料的臨時地方,一般讀寫性能較高。 快取的作用: 降低后端負載 提高讀寫效率,降低回應時間 快取的成本: 資料一致性成本 代碼維護成本 運維成本 3.2需求說明 如下,當我們點擊商店詳 ......

    uj5u.com 2023-04-20 08:33:24 more
  • MySQL中binlog備份腳本分享

    關于MySQL的二進制日志(binlog),我們都知道二進制日志(binlog)非常重要,尤其當你需要point to point災難恢復的時侯,所以我們要對其進行備份。關于二進制日志(binlog)的備份,可以基于flush logs方式先切換binlog,然后拷貝&壓縮到到遠程服務器或本地服務器 ......

    uj5u.com 2023-04-20 08:28:06 more
  • day02-短信登錄

    功能實作02 2.功能01-短信登錄 2.1基于Session實作登錄 2.1.1思路分析 2.1.2代碼實作 2.1.2.1發送短信驗證碼 發送短信驗證碼: 發送驗證碼的介面為:http://127.0.0.1:8080/api/user/code?phone=xxxxx<手機號> 請求方式:PO ......

    uj5u.com 2023-04-20 08:27:27 more
  • 快取與資料庫雙寫一致性幾種策略分析

    本文將對幾種快取與資料庫保證資料一致性的使用方式進行分析。為保證高并發性能,以下分析場景不考慮執行的原子性及加鎖等強一致性要求的場景,僅追求最終一致性。 ......

    uj5u.com 2023-04-20 08:26:48 more
  • sql陳述句優化

    問題查找及措施 問題查找 需要找到具體的代碼,對其進行一對一優化,而非一直把關注點放在服務器和sql平臺 降低簡化每個事務中處理的問題,盡量不要讓一個事務拖太長的時間 例如檔案上傳時,應將檔案上傳這一步放在事務外面 微軟建議 4.啟動sql定時執行計劃 怎么啟動sqlserver代理服務-百度經驗 ......

    uj5u.com 2023-04-20 08:26:35 more
  • 云時代,MySQL到ClickHouse資料同步產品對比推薦

    ClickHouse 在執行分析查詢時的速度優勢很好的彌補了MySQL的不足,但是對于很多開發者和DBA來說,如何將MySQL穩定、高效、簡單的同步到 ClickHouse 卻很困難。本文對比了 NineData、MaterializeMySQL(ClickHouse自帶)、Bifrost 三款產品... ......

    uj5u.com 2023-04-20 08:26:29 more
  • sql陳述句優化

    問題查找及措施 問題查找 需要找到具體的代碼,對其進行一對一優化,而非一直把關注點放在服務器和sql平臺 降低簡化每個事務中處理的問題,盡量不要讓一個事務拖太長的時間 例如檔案上傳時,應將檔案上傳這一步放在事務外面 微軟建議 4.啟動sql定時執行計劃 怎么啟動sqlserver代理服務-百度經驗 ......

    uj5u.com 2023-04-20 08:25:13 more
  • Redis 報”OutOfDirectMemoryError“(堆外記憶體溢位)

    Redis 報錯“OutOfDirectMemoryError(堆外記憶體溢位) ”問題如下: 一、報錯資訊: 使用 Redis 的業務介面 ,產生 OutOfDirectMemoryError(堆外記憶體溢位),如圖: 格式化后的報錯資訊: { "timestamp": "2023-04-17 22: ......

    uj5u.com 2023-04-20 08:24:54 more
  • day02-2-商鋪查詢快取

    功能02-商鋪查詢快取 3.商鋪詳情快取查詢 3.1什么是快取? 快取就是資料交換的緩沖區(稱作Cache),是存盤資料的臨時地方,一般讀寫性能較高。 快取的作用: 降低后端負載 提高讀寫效率,降低回應時間 快取的成本: 資料一致性成本 代碼維護成本 運維成本 3.2需求說明 如下,當我們點擊商店詳 ......

    uj5u.com 2023-04-20 08:24:03 more
  • day02-短信登錄

    功能實作02 2.功能01-短信登錄 2.1基于Session實作登錄 2.1.1思路分析 2.1.2代碼實作 2.1.2.1發送短信驗證碼 發送短信驗證碼: 發送驗證碼的介面為:http://127.0.0.1:8080/api/user/code?phone=xxxxx<手機號> 請求方式:PO ......

    uj5u.com 2023-04-20 08:23:11 more