主頁 >  其他 > 數值分析：矩陣奇異值分解

數值分析：矩陣奇異值分解

2021-10-17 06:18:55 其他

1. 奇異值分解（SVD）

（1）奇異值分解

已知矩陣\(\bm{A} \in \R^{m \times n}\), 其奇異值分解為：

\[\bm{A} = \bm{U}\bm{S}\bm{V}^T \]

其中\(\bm{U} \in \R^{m \times m}\)，\(\bm{V} \in \R^{n \times n}\)是正交矩陣，\(\bm{S} \in \R^{m \times n}\)是對角線矩陣，\(\bm{S}\)的對角線元素\(\bm{s}_1, \bm{s}_2,..., \bm{s}_{\min(m,n)}\)是矩陣的奇異值，

(2) 奇異值分解的求解

而求矩陣的奇異值的演算法非常簡單，對于實數域下的矩陣\(A\)，我們只需要求\(A^TA\)的特征值和特征向量，其特征向量歸一化后即右奇異向量\(\bm{v}_1,\bm{v}_2,...,\bm{v}_n\)，其特征值開根號即對應的奇異值\(\bm{s}_1, \bm{s}_2,..., \bm{s}_{\min(m,n)}\)， 然后由等式

\[\bm{A}\bm{v}_1=s_1\bm{u}_1, \\ \bm{A}\bm{v}_2=s_2\bm{u}_2, \\ ..., \\ A\bm{v}_{\min(m,n)} = \bm{s}_{\min(m,n)}\bm{u}_{\min(m,n)}\]

依次計算出相應的\(\bm{u}_i\)向量的值，
至于特征值的計算，采用 QR 演算法，此處不予介紹，這里可以直接呼叫 np.linalg.eig()函式實作，以下給出奇異值計算代碼實體（此處僅為知識演示，具體的工業級別的奇異值計算演算法要復雜得多，參考 Golub 與 Van Loan《矩陣計算》）

import numpy as np
def svd(A):
    eigen_values, eigen_vectors = np.linalg.eig(A.T.dot(A))
    singular_values = np.sqrt(eigen_values)
    #這里奇異值要從大到小排序，特征向量也要隨之從大到小排
    val_vec = [] #存盤奇異值-特征向量對
    for i in range(len(eigen_values)):
        val_vec.append((singular_values[i], eigen_vectors[:, i]))
    val_vec.sort(key = lambda x:-x[0])
    singular_values = [ pair[0] for pair in val_vec]
    eigen_vectors = [ pair[1] for pair in val_vec]

    # 在計算左奇異向量之前，先要對右奇異向量也就是特征向量組成的基正交化
    # 不過linalg.eig回傳的是已經正交化的，這一步可省略

    # 由等式Avi = siui(vi是右奇異向量, ui是左奇異向量)
    # 依次計算左奇異向量
    U = np.zeros((A.shape[0], A.shape[1]))
    for i in range(A.shape[1]):
        u = A.dot(eigen_vectors[i])/singular_values[i]
        U[:, i] = u
    # 給U加上標準正交基去構造R3的基
    for i in range(A.shape[1], A.shape[0]):
        basis = np.zeros((A.shape[0], 1))
        basis[i] = 1
        U = np.concatenate([U, basis], axis=1)
    eigen_vectors = [vec.reshape(-1, 1) for vec in eigen_vectors]
    eigen_vectors = np.concatenate(eigen_vectors, axis=1)
    return U, singular_values, eigen_vectors

if __name__ == '__main__':
    # 例一：普通矩陣
    A = np.array(
        [
            [0, 1],
            [0, -1]
        ]
    )
    # 例二：對稱矩陣
    # A = np.array(
    #     [
    #         [0, 1],
    #         [1, 3/2]
    #     ]
    # )
    U, S, V = svd(A)
    print("我們實作的演算法結果：")
    print(U, "\n", S, "\n", V)
    print("\n")
    print("呼叫庫函式的計算結果：")
    # 呼叫api核對
    U2, S2, V2 = np.linalg.svd(A)
    print(U2, "\n", S2, "\n", V2)

對普通矩陣\(\left(\begin{matrix}0 & 1 \\0 & -1\end{matrix}\right)\)運行該演算法的結果為：

我們實作的演算法結果：
[[ 0.70710678  0.70710678]
 [-0.70710678 -0.70710678]] 
 [1.4142135623730951, 0.0] 
 [[0. 1.]
 [1. 0.]]


呼叫庫函式的計算結果：
[[-0.70710678 -0.70710678]
 [ 0.70710678 -0.70710678]] 
 [1.41421356 0.        ] 
 [[-0. -1.]
 [-1.  0.]]

可以看到結果基本符合，此處矩陣\(\left(\begin{matrix}0 & 1 \\0 & -1\end{matrix}\right)\)的奇異值為0.41421和0，此處我們發現普通矩陣的奇異值可以為0，
對對稱矩陣\(\left(\begin{matrix}0 & 1 \\1 & \frac{3}{2}\end{matrix}\right)\)運行該演算法的結果為：

我們實作的演算法結果：
[[-0.4472136   0.89442719]
 [-0.89442719 -0.4472136 ]] 
 [2.0, 0.5] 
 [[-0.4472136  -0.89442719]
 [-0.89442719  0.4472136 ]]


呼叫庫函式的計算結果：
[[-0.4472136  -0.89442719]
 [-0.89442719  0.4472136 ]] 
 [2.  0.5] 
 [[-0.4472136  -0.89442719]
 [ 0.89442719 -0.4472136 ]]

可以看到結果基本符合，此處矩陣\(\left(\begin{matrix}0 & 1 \\0 & -1\end{matrix}\right)\)的奇異值為2和0.5，此處我們發現，對稱矩陣的奇異值必為正，不可能為0，

（2）奇異值的應用1：推薦系統

在推薦系統中，我們常定義用戶-評分矩陣，表示用戶對商品的打分，這個矩陣我們稱為共現矩陣，
而這就迫切地需要我們設計矩陣分解演算法，為每一個用戶和視頻生成一個隱向量，將用戶和視頻定位到隱向量的表示空間上，并滿足距離相近的用戶和視頻表示興趣特點接近，
在推薦系統的應用場景下，我們企圖使用矩陣分解演算法將\(m\times n\)維的共現矩陣\(\bm{R}\)分解為\(m \times k\)維的用戶矩陣和\(k*n\)維的物品矩陣(的轉置)相乘的形式，其中\(m\)是用戶數量，\(n\)是物品數量，\(k\)是隱向量，\(k\)的大小決定了隱向量表達能力的強弱，\(k\)越小，隱向量包含的資訊越少，模型的泛化程度越高；反之，\(k\)越大，隱向量表達能力越強，泛化程度相應降低，此外，\(k\)的取值還與矩陣分解的求解復雜度直接相關，應用中，\(k\)的取值要經過試驗多次找到一個推薦效果和工程開銷的平衡，具體的形式如下圖所示：

電影愛好者的評分情況示意圖

采用什么方法來進行矩陣分解呢？由矩陣分析的知識可得，特征值分解只能作用于方陣，顯然不適合于分解用戶-物品矩陣，我們在這里采用矩陣的奇異值分解以得到用戶和物品的隱向量，
已知\(\bm{M}\)是矩陣\(m\times n\)的矩陣，則一定存在一個分解\(\bm{M} = \bm{U}diag(λ_1, λ_2,..., λ_n)\bm{V}^T\)，其中\(U\)是\(m*m\)的正交矩陣，\(V\)是\(n\times n\)的正交矩陣，\(diag(λ_1, λ_2,..., λ_n)\) 是 \(m \times n\)的對角陣， 我們取對角陣 \(diag(λ_1, λ_2,..., λ_n)\)中較大的\(k\)個元素做為隱含特征，洗掉\(diag(λ_1, λ_2,..., λ_n)\)中的其他維度及\(U\)和\(V\)中對應的維度，矩陣\(M\)被分解為\(M=U_{m*k}diag(λ_1, λ_2,..., λ_k)V_{k*n}^T\)，至此完成了隱向量維度為\(k\)的矩陣分解， 如果我們呼叫np.lialg.svd()函式介面，那我們可以將奇異值分解表述如下：

import numpy as np
if __name__ == '__main__':
    M = np.array(
        [
            [0, 4.5, 2.0, 0],
            [4.0, 0, 3.5, 0],
            [0, 5.0, 0, 2.0],
            [0, 3.5, 4.0, 1.0]
        ]
    )
    U, S, V_T = np.linalg.svd(M)
    k = 2 # 取前2個奇異值對應的隱向量
    # 分別列印物品向量和用戶向量
    Vec_user, Vec_item = U[:,:k], V_T[:k, :].T
    print(Vec_user, "\n\n", Vec_item)

該演算法對運行結果為：

[[-0.55043774  0.1361732 ]
 [-0.26216705 -0.86775439]
 [-0.52483774  0.4552962 ]
 [-0.5939967  -0.1454804 ]] 

 [[-0.12135946 -0.63908086]
 [-0.83093848  0.43821815]
 [-0.50855715 -0.61619448]
 [-0.19021762  0.14087178]]

可以看到我們由共現矩陣成功得到了用戶向量和物品向量，
然而，運在推薦系統中的傳統奇異值分解存在兩點重大的缺陷：

  • 奇異值分解要求原始共現矩陣是稠密的，而互聯網場景下用戶非常少，用 戶-物品的共現矩陣非常系數，如果使用 SVD，就必須對缺失的元素值進行填充，
  • 傳統奇異值分解的計算復雜度達到了\(O(mn^2)\)的級別，這對于商品數量動輒上百萬，用戶數量往往上千萬的互聯網場景來說根本不可接受， 所以，傳統奇異值分解不適用于解決大規模稀疏矩陣的矩陣分解，因此，梯度下降法成為了矩陣分解的主要方法，這部分內容我們會在推薦系統專欄中進行講解，

（3）奇異值的應用2：矩陣的低秩近似和資料降維

將矩陣的奇異值分解形式\(\bm{M} = \bm{U}\bm{S}\bm{V}^T\)中的對角陣進一步寫成多個子矩陣的和，我們有：

\[\bm{A} = \bm{U}\bm{S}\bm{V}^T=\bm{U} \left( \begin{matrix} s_1 & & \\ & \ddots & \\ & & s_r\\ & & \\ \end{matrix} \right) \bm{V}^T \\ =\bm{U} \left( \left( \begin{matrix} s_1 & & \\ & & \\ & & \\ & & \\ \end{matrix} \right) + \left( \begin{matrix} & & \\ & s_2 & \\ & & \\ & & \\ \end{matrix} \right) + \left( \begin{matrix} & & \\ & & \\ & & s_r\\ & & \\ \end{matrix} \right) \right) \bm{V}^T \\ =s_1\bm{u}_1\bm{v}_1^T+s_2\bm{u}_2\bm{v}_2^T+... + s_r\bm{u}_r\bm{v}_r^T \]

注意，這里\(\bm{u}_1\)和\(\bm{v}_1\)是做外積，運算得到一個矩陣， 也就是說，\(m\times n\)的矩陣\(\bm{A}\)可以寫成秩為1的矩陣和，即：

\[ \bm{A} = \sum_{i=1}^{r}s_i\bm{u}_i\bm{v}_i^{T} \]

我們將這個性質稱為 SVD 的低秩近似性質，
在介紹 SVD 的底秩近似的應用前，我們先介紹資料降維的思想，降維的思想是將資料投影到低維空間，假設\(\bm{a}_{1},\bm{a}_2...,\bm{a}_n\)都是\(m\)維向量(在資料科學的應用中， 一般\(m\)遠小于\(n\)，想想為什么)，降維的目標是使用\(n\)個\(p\)維的向量替換原本的\(n\)個\(m\)維的向量，其中新向量的維度\(p<m\)，同時最小化該程序引入的誤差，
那么 SVD 其實天然可以用于降維，我們定義矩陣\(A\)的秩\(p\)近似，將矩陣\(A\)的奇異值分解保留前\(p\)項，即：

\[\bm{A}_p = \bm{U}_{m\times p}\bm{S}_{p\times p}\bm{V}_{p*n}^T \]

也就是其低秩近似形式保留前\(p\)項，

\[\bm{A}_p= \sum_{i=1}^{p}s_i\bm{u}_i\bm{v}_i^{T} \]

這個式子也可以看做\(\bm{A}\)的最優最小二乘近似形式，即：

\[\bm{A}_p= \underset{\bm{B}}{\text{argmin}}||\bm{A} ? \bm{B}||_F \]

這里，\(\bm{B}\)的大小和\(\bm{A}\)一樣，\(\bm{B} \in \bm{\R}^{m\times n}\)(但是\(rank(\bm{B})\leqslant p\))，\(F\)指F范數，這里的F范數可以推廣到任意的酉不變范數\(||\bm{A} ? \bm{B}||_U\)，不過在常規的使用中，大家就使用\(F\)范數就夠了，
矩陣最優近似是有著幾何解釋的，空間\(<\bm{u}_1,...,\bm{u}_p>\)由左奇異向量\(\bm{u}_1,...,\bm{u}_p\)長成，這是對于\(\bm{a}_1,...,\bm{a}_n\)的\(p\)維子空間在最小二乘意義上的最優近似，\(\bm{A}\)的列\(\bm{a}_i\)在該空間上的正交投影對應\(\bm{A}_p\)的列，換句話講，一組向量 \(\bm{a}_1,\bm{a}_2,...,\bm{a}_n\)找到其最優的最小二乘\(p\)維子空間的投影(最小二乘后面會介紹，這里暫時理解不了也沒關系)就是矩陣最優的秩\(p\)近似矩陣\(\bm{A}_p\)，
比如，我們要找到最優的一維子空間擬合資料向量\((3,2)^T,(2,4)^T,(-2,-1)^T,(-3,-5)^T\)， 4 個向量近似指向相同的一維子空間，我們想找出這個子空間，該空間能夠使向量投影到子空間的平方誤差和最小，然后我們找出投影向量，投影向量組成的矩陣就是我們要求的近似矩陣\(\bm{A}_p\)，
如下圖所示：
電影愛好者的評分情況示意圖
演算法如下：

import numpy as np
from sklearn.decomposition import PCA
def approximation(A, p):
    U, s, V_T = np.linalg.svd(A)
    B = np.zeros(A.shape)
    for i in range(p):
        B += s[i]*U[:,i].reshape(-1, 1).dot(V_T[i, :].reshape(1, -1))
    return B

if __name__ == '__main__':
    # 例一：
    # A = np.array(
    #     [
    #         [0, 1],
    #         [1, 3/2],
    #     ]
    # )
    # 例二：
    A = np.array(
        [
            [3, 2, -2, -3],
            [2, 4, -1, -5]
        ]
    )

    # p為近似矩陣的秩，秩p<=r
    p = 1
    B = approximation(A, p)
    print(B)

    #最終得到的矩陣秩
    print(np.linalg.matrix_rank(B))

（注意，numpy 內置的 SVD 函式回傳的是\(V^T\)而不是\(V\)，我就在這兒犯過錯，，， 導致后面求出來的近似矩陣不對／（ㄒｏㄒ）／～～）
最終對例一矩陣\(\left(\begin{matrix}0 & 1 \\1 & \frac{3}{2}\end{matrix}\right)\)運行演算法的結果如下：

[[0.4 0.8]
 [0.8 1.6]]
1

該矩陣的四個列向量對應原始資料向量的投影向量，可以看到這四個向量線性相關, 且最終得到的矩陣的秩為1，
最終對例二矩陣\(\left(\begin{matrix}3 & 2 &-2 &-3 \\2 & 4 & -1 & -5 \end{matrix}\right)\)運行演算法的結果如下：

[[ 1.99120445  2.59641446 -1.16885153 -3.41876737]
 [ 2.73456571  3.56571418 -1.60521001 -4.69506988]]
1

該矩陣的四個列向量對應原始資料向量的投影向量，可以看到這四個向量線性相關, 且最終得到的矩陣的秩也為1，
也就是說我們的演算法對這兩個矩陣都達到了我們低秩近似的效果，因為降維后這兩個矩陣的四個向量同屬于一個一維子空間，我們只需要一個維度就可以區分這四個向量了，因此我們達到了資料降維的效果，

（3）奇異值的應用3：壓縮

矩陣的奇異值分解可以用于壓縮矩陣資訊，我們注意到矩陣的展開式

\[\bm{A} = \sum_{i=1}^{r}s_i\bm{u}_i\bm{v}_i^{T} \]

中，每一項使用兩個向量\(\bm{u}_i\),\(\bm{v}_i\)，以及一個數字\(s_i\)定義，如果\(\bm{A}\)是一個\(n\times n\)矩陣，我們可以嘗試矩陣\(\bm{A}\)的有損壓縮，及扔掉求和后面的幾項，它們具有較小的\(s_i\)，也就是說對資料的存盤而言顯得“無關緊要”，就這樣，我們可以保留前\(p\)項，將矩陣的\(p\)秩近似做為矩陣的壓縮結果，\(p\)越多則近似矩陣對矩陣的近似程度越高，壓縮程度越低；\(p\)越少則近似矩陣對矩陣的近似程度越低，壓縮程度越高，每一項包括\(\bm{u}_i\)向量、\(\bm{v}_i\)向量和一個數字\(s_i\)，總共需要\(2n+1\)個數字保存或者傳輸，例如，當\(n=8\)時，矩陣由\(64\)個圖片定義，但是我們可以傳輸或者保存矩陣的第一項展開，僅僅使用\(2n+1=17\)個數字，如果大量資訊可以由第一項捕捉， 例如，當第一個奇異值比其他的奇異值大得多的時候，以這種方式處理可能節省\(75\%\)的空間，
演算法如下：

import numpy as np
from sklearn.decomposition import PCA
import cv2 as cv
import matplotlib.pyplot as plt
import matplotlib as mpl
mpl.rcParams['font.sans-serif']=[u'SimHei']
mpl.rcParams['axes.unicode_minus']=False
def approximation(A, p):
    U, s, V_T = np.linalg.svd(A)
    B = np.zeros(A.shape)
    for i in range(p):
        B += s[i]*U[:,i].reshape(-1, 1).dot(V_T[i, :].reshape(1, -1))
    return B

if __name__ == '__main__':
    img = cv.imread("chapter12.特征值和奇異值/12.4.SVD的應用/12.4.3.影像壓縮/img.jpeg", flags=0)
    img_output = img.copy()

    # p為近似矩陣的秩，秩p<=r，p越大影像壓縮程度越小，越清晰
    p = 50
    img_output = approximation(img, p)
    fig, axs = plt.subplots(1, 2)
    axs[0].imshow(img)
    axs[0].set_title('原圖')
    axs[1].imshow(img_output)
    axs[1].set_title('壓縮后的圖')
    plt.savefig('chapter12.特征值和奇異值/12.4.SVD的應用/12.4.3.影像壓縮/result.png')
    plt.show()

最終圖片的壓縮效果：
電影愛好者的評分情況示意圖

知名程式庫和原始碼閱讀建議

SVD 演算法有很多優秀的開源甚至分布式的實作，這里推薦幾個專案：

(1) Gensim

Gensim 是一個采用 Python 和 Cpython 實作的自然語言庫，提供了很多統計自然語言處理演算法的實作，也包括我們這里提到的 SVD 演算法，
檔案地址：https://radimrehurek.com/gensim/
原始碼地址：https://github.com/RaRe-Technologies/gensim.git

(2) Spark-MLlib

Spark 除了包含 GraphX,它還包括了機器學習庫 MLlib，其中就有奇異值分解的分布式實作，
檔案地址：https://spark.apache.org/mllib/
原始碼地址：https://github.com/apache/spark

參考文獻

  • [1] Timothy sauer. 數值分析(第2版)[M].機械工業出版社, 2018.
  • [2] Golub, Van Loan. 矩陣計算[M]. 人民郵電出版社, 2020.
  • [3] 深度學習推薦系統[M]. .2020
數學是符號的藝術，音樂是上界的語言，

轉載請註明出處，本文鏈接：https://www.uj5u.com/qita/319597.html

標籤：其他

上一篇：二叉樹的遍歷

下一篇：二叉樹的遍歷

標籤雲
其他(157675) Python(38076) JavaScript(25376) Java(17977) C(15215) 區塊鏈(8255) C＃(7972) AI(7469) 爪哇(7425) MySQL(7132) html(6777) 基礎類(6313) sql(6102) 熊猫(6058) PHP(5869) 数组(5741) R(5409) Linux(5327) 反应(5209) 腳本語言(PerlPython)(5129) 非技術區(4971) Android(4554) 数据框(4311) css(4259) 节点.js(4032) C語言(3288) json(3245) 列表(3129) 扑(3119) C++語言(3117) 安卓(2998) 打字稿(2995) VBA(2789) Java相關(2746) 疑難問題(2699) 细绳(2522) 單片機工控(2479) iOS(2429) ASP.NET(2402) MongoDB(2323) 麻木的(2285) 正则表达式(2254) 字典(2211) 循环(2198) 迅速(2185) 擅长(2169) 镖(2155) 功能(1967) .NET技术(1958) Web開發(1951) python-3.x(1918) HtmlCss(1915) 弹簧靴(1913) C++(1909) xml(1889) PostgreSQL(1872) .NETCore(1853) 谷歌表格(1846) Unity3D(1843) for循环(1842)

熱門瀏覽
  • 網閘典型架構簡述

    網閘架構一般分為兩種：三主機的三系統架構網閘和雙主機的2+1架構網閘。 三主機架構分別為內端機、外端機和仲裁機。三機無論從軟體和硬體上均各自獨立。首先從硬體上來看，三機都用各自獨立的主板、記憶體及存盤設備。從軟體上來看，三機有各自獨立的作業系統。這樣能達到完全的三機獨立。對于“2+1”系統，“2”分為 ......

    uj5u.com 2020-09-10 02:00:44 more
  • 如何從xshell上傳檔案到centos linux虛擬機里

    如何從xshell上傳檔案到centos linux虛擬機里及：虛擬機CentOs下執行 yum -y install lrzsz命令，出現錯誤：鏡像無法找到軟體包 前言 一、安裝lrzsz步驟 二、上傳檔案 三、遇到的問題及解決方案 總結 前言 提示：其實很簡單，往虛擬機上安裝一個上傳檔案的工具 ......

    uj5u.com 2020-09-10 02:00:47 more
  • 一、SQLMAP入門

    一、SQLMAP入門 1、判斷是否存在注入 sqlmap.py -u 網址/id=1 id=1不可缺少。當注入點后面的引數大于兩個時。需要加雙引號， sqlmap.py -u "網址/id=1&uid=1" 2、判斷文本中的請求是否存在注入 從文本中加載http請求，SQLMAP可以從一個文本檔案中 ......

    uj5u.com 2020-09-10 02:00:50 more
  • Metasploit 簡單使用教程

    metasploit 簡單使用教程 浩先生， 2020-08-28 16:18:25 分類專欄： kail 網路安全 linux 文章標簽： linux資訊安全 編輯 著作權 metasploit 使用教程 前言 一、Metasploit是什么？ 二、準備作業 三、具體步驟 前言 Msfconsole ......

    uj5u.com 2020-09-10 02:00:53 more
  • 游戲逆向之驅動層與用戶層通訊

    驅動層代碼： #pragma once #include <ntifs.h> #define add_code CTL_CODE(FILE_DEVICE_UNKNOWN,0x800,METHOD_BUFFERED,FILE_ANY_ACCESS) /* 更多游戲逆向視頻www.yxfzedu.com ......

    uj5u.com 2020-09-10 02:00:56 more
  • 北斗電力時鐘（北斗授時服務器）讓網路資料更精準

    北斗電力時鐘（北斗授時服務器）讓網路資料更精準 北斗電力時鐘（北斗授時服務器）讓網路資料更精準 京準電子科技官微——ahjzsz 近幾年，資訊技術的得了快速發展，互聯網在逐漸普及，其在人們生活和生產中都得到了廣泛應用，并且取得了不錯的應用效果。計算機網路資訊在電力系統中的應用，一方面使電力系統的運行 ......

    uj5u.com 2020-09-10 02:01:03 more
  • 【CTF】CTFHub 技能樹 彩蛋 writeup

    ?碎碎念 CTFHub：https://www.ctfhub.com/ 筆者入門CTF時時剛開始刷的是bugku的舊平臺，后來才有了CTFHub。 感覺不論是網頁UI設計，還是題目質量，賽事跟蹤，工具軟體都做得很不錯。 而且因為獨到的金幣制度的確讓人有一種想去刷題賺金幣的感覺。 個人還是非常喜歡這個 ......

    uj5u.com 2020-09-10 02:04:05 more
  • 02windows基礎操作

    我學到了一下幾點 Windows系統目錄結構與滲透的作用 常見Windows的服務詳解 Windows埠詳解 常用的Windows注冊表詳解 hacker DOS命令詳解（net user / type /md /rd/ dir /cd /net use copy、批處理 等） 利用dos命令制作 ......

    uj5u.com 2020-09-10 02:04:18 more
  • 03.Linux基礎操作

    我學到了以下幾點 01Linux系統介紹02系統安裝，密碼啊破解03Linux常用命令04LAMP 01LINUX windows： win03 8 12 16 19 配置不繁瑣 Linux：redhat,centos(紅帽社區版)，Ubuntu server,suse unix:金融機構，證券，銀 ......

    uj5u.com 2020-09-10 02:04:30 more
  • 05HTML

    01HTML介紹 02頭部標簽講解03基礎標簽講解04表單標簽講解 HTML前段語言 js1.了解代碼2.根據代碼 懂得挖掘漏洞 （POST注入/XSS漏洞上傳）3.黑帽seo 白帽seo 客戶網站被黑帽植入劫持代碼如何處理4.熟悉html表單 <html><head><title>TDK標題，描述 ......

    uj5u.com 2020-09-10 02:04:36 more
最新发布
  • 2023年最新微信小程式抓包教程

    01 開門見山 隔一個月發一篇文章，不過分。 首先回顧一下《微信系結手機號資料庫被脫庫事件》，我也是第一時間得知了這個訊息，然后跟蹤了整件事情的經過。下面是這起事件的相關截圖以及近日流出的一萬條資料樣本： 個人認為這件事也沒什么，還不如關注一下之前45億快遞資料查詢渠道疑似在近日復活的訊息。 訊息是 ......

    uj5u.com 2023-04-20 08:48:24 more
  • web3 產品介紹：metamask 錢包 使用最多的瀏覽器插件錢包

    Metamask錢包是一種基于區塊鏈技術的數字貨幣錢包，它允許用戶在安全、便捷的環境下管理自己的加密資產。Metamask錢包是以太坊生態系統中最流行的錢包之一，它具有易于使用、安全性高和功能強大等優點。 本文將詳細介紹Metamask錢包的功能和使用方法。 一、 Metamask錢包的功能 數字資 ......

    uj5u.com 2023-04-20 08:47:46 more
  • vulnhub_Earth

    前言 靶機地址->>>vulnhub_Earth 攻擊機ip：192.168.20.121 靶機ip：192.168.20.122 參考文章 https://www.cnblogs.com/Jing-X/archive/2022/04/03/16097695.html https://www.cnb ......

    uj5u.com 2023-04-20 07:46:20 more
  • 從4k到42k，軟體測驗工程師的漲薪史，給我看哭了

    清明節一過，盲猜大家已經無心上班，在數著日子準備過五一，但一想到銀行卡里的余額……瞬間心情就不美麗了。最近，2023年高校畢業生就業調查顯示，本科畢業月平均起薪為5825元。調查一出，便有很多同學表示自己又被平均了。看著這一資料，不免讓人想到前不久中國青年報的一項調查：近六成大學生認為畢業10年內會 ......

    uj5u.com 2023-04-20 07:44:00 more
  • 最新版本 Stable Diffusion 開源 AI 繪畫工具之中文自動提詞篇

    🎈 標簽生成器 由于輸入正向提示詞 prompt 和反向提示詞 negative prompt 都是使用英文，所以對學習母語的我們非常不友好 使用網址：https://tinygeeker.github.io/p/ai-prompt-generator 這個網址是為了讓大家在使用 AI 繪畫的時候 ......

    uj5u.com 2023-04-20 07:43:36 more
  • 漫談前端自動化測驗演進之路及測驗工具分析

    隨著前端技術的不斷發展和應用程式的日益復雜，前端自動化測驗也在不斷演進。隨著 Web 應用程式變得越來越復雜，自動化測驗的需求也越來越高。如今，自動化測驗已經成為 Web 應用程式開發程序中不可或缺的一部分，它們可以幫助開發人員更快地發現和修復錯誤，提高應用程式的性能和可靠性。 ......

    uj5u.com 2023-04-20 07:43:16 more
  • CANN開發實踐：4個DVPP記憶體問題的典型案例解讀

    摘要：由于DVPP媒體資料處理功能對存放輸入、輸出資料的記憶體有更高的要求（例如，記憶體首地址128位元組對齊），因此需呼叫專用的記憶體申請介面，那么本期就分享幾個關于DVPP記憶體問題的典型案例，并給出原因分析及解決方法。 本文分享自華為云社區《FAQ_DVPP記憶體問題案例》，作者：昇騰CANN。 DVPP ......

    uj5u.com 2023-04-20 07:43:03 more
  • msf學習

    msf學習 以kali自帶的msf為例 一、msf核心模塊與功能 msf模塊都放在/usr/share/metasploit-framework/modules目錄下 1、auxiliary 輔助模塊，輔助滲透（埠掃描、登錄密碼爆破、漏洞驗證等） 2、encoders 編碼器模塊，主要包含各種編碼 ......

    uj5u.com 2023-04-20 07:42:59 more
  • Halcon軟體安裝與界面簡介

    1. 下載Halcon17版本到到本地 2. 雙擊安裝包后 3. 步驟如下 1.2 Halcon軟體安裝 界面分為四大塊 1. Halcon的五個助手 1) 影像采集助手：與相機連接，設定相機引數，采集影像 2) 標定助手：九點標定或是其它的標定，生成標定檔案及內參外參，可以將像素單位轉換為長度單位 ......

    uj5u.com 2023-04-20 07:42:17 more
  • 在MacOS下使用Unity3D開發游戲

    第一次發博客，先發一下我的游戲開發環境吧。 去年2月份買了一臺MacBookPro2021 M1pro(以下簡稱mbp)，這一年來一直在用mbp開發游戲。我大致分享一下我的開發工具以及使用體驗。 1、Unity 官網鏈接： https://unity.cn/releases 我一般使用的Apple ......

    uj5u.com 2023-04-20 07:40:19 more

Copyright © 2010-2020 有解無憂