提到線性代數，又不得不吐槽國內教材了，學起來真的是實力勸退，有多少跟著國內教材學完線性代數課程后，知道線性代數是什么，它到底是干什么的？
事實上如果你后面想做科研、想研究機器學習、深度學習，你會發現處處是線性代數，這么抽象又重要的課程，一本書里基本看不到幾張圖，就好比是沒有注釋的代碼，大概以為我的腦子就是記公式的機器吧…
如果你還未開始學習線性代數，那么強烈建議你把學校發的紫色教材放在一邊，找幾本國外的線性代數教材看看，然后在B站里搜一下麻省理工公開課Gilbert Strang老爺子的線性代數視頻，相信你會打開新世界的大門（文末有彩蛋）——
吐槽就到這，我們先來看一個涉及線性代數本質問題的式子：
y
=
A
x
y=Ax
y=Ax
可以說，線性代數的很多問題都是從這個式子出發的，那么在線性代數中，如何理解這個式子呢？
直觀上看，這個式子跟我們熟悉的一次函式 y = kx比較像，對于y=kx，我們可以理解為將標量x經過 某種線性變換，得到另一個標量y，
這里，我們把x和y換成向量，對于y = Ax，我們可以理解為將矩陣A（線性變換）作用于向量x ,得到另一個向量y，
由于向量就是空間中的一個點，這個種線性變換的作用就是將空間中的一個點變為空間中的另一個點，
對于函式y=kx，如果我們知道y和k，就能夠求解出x，對于y=Ax也一樣，如果y和A已知，我們同樣可以求出x，這就是求解線性方程組的問題了，
其他知識點都是從這些基本的概念衍生出來的，這里就不一一列舉了，任何新知識都不是憑空出來的，都是建立在以前的理論基礎之上，在學習數學的時候，可以多聯系以前的知識，類比著學習，
線性代數概念較多，計劃在另一篇總結基本概念，這里僅總結線性代數里一些重要概念的python程式，
1 矩陣基本操作
注：向量操作與矩陣類似，
1.1 創建矩陣
（1）通過串列創建矩陣
#通過串列創建矩陣
import numpy as np
m = [[1,2,3],[4,5,6],[7,8,9]]
a1 = np.array(m)
print("a1：",a1)
print("a1的大小：" ,a1.shape)
print("a1的型別：",type(a1))
（2）通過元組創建矩陣
#通過元組創建矩陣
t = ((1,2,3),(4,5,6),(7,8,9))
a2 = np.array(t)
print("a2：",t)
print("a2的大小：" ,a2.shape)
print("a2的型別：",type(a2))
（3）使用random()和randint()函式
random()函式隨機生成矩陣中指定范圍的浮點數：
import numpy as np
a1 = np.random.random((3,4)) #3×4階，取值范圍為0~1
print(a1)
randint()函式隨機生成矩陣中指定范圍的整數：
a2 = np.random.randint(1,10,size=[3,4]) #3×4階，取值范圍為1~10（不包括10）
print(a2)
1.2 改變矩陣的大小
import numpy as np
m = [1,2,3,4,5,6,7,8,9,10,11,12]
a = np.array(m)
a1 = a.reshape(3,4)
a2 = a.reshape(4,3)
print("原矩陣a: \n",a)
print("轉換為3行4列矩陣a1:\n",a1)
print("轉換為4行3列矩陣a2:\n",a2)
1.3 獲取矩陣元素
print("a2的第0行元素a2[0]: \n",a2[0])
print("a2的前2行元素a2[0:2]: \n",a2[0:2])
print("a2的第0行和第2行元素a2[[0,2]]: \n",a2[[0,2]])
print("a2的第0列元素a2[:,1]: \n",a2[:,1])
print("a2的前2行元素a2[:,0:2]: \n",a2[:,0:2])
print("a2的第0列和第2列元素a2[:,[0,2]]: \n",a2[:,[0,2]])
print("a2的第2行第2列元素a2[2,2]: \n",a2[2,2])
1.4 特殊矩陣生成
（1）單位矩陣
import numpy as np
e1 = np.eye(5)
e2 = np.identity(5)
print("通過eye()創建五階單位矩陣e1: \n",e1)
print("通過identity()創建五階單位矩陣e2: \n",e2)
（2）零矩陣
import numpy as np
a = np.zeros((3,4))
print("3×4階零矩陣a: \n",a)
（3）對角矩陣
import numpy as np
m = [1,2,3,4,5]
a = np.diag(m)
print("創建對角線為1,2,3,4,5的對角矩陣： \n",a)
（4）上三角矩陣和下三角矩陣
import numpy as np
m = [[1,1,1,1],[2,2,2,2],[3,3,3,3],[4,4,4,4]]
a = np.array(m)
a1 = np.triu(a,0)
a2 = np.tril(a,0)
print("a矩陣：\n",a)
print("a矩陣的上三角矩陣： \n",a1)
print("a矩陣的下三角矩陣： \n",a2)
1.5 矩陣運算
（1）矩陣加減法運算
import numpy as np
m1 = [[1,1,1],[2,2,2]]
m2 = [[3,3,3],[4,4,4]]
a1 = np.array(m1)
a2 = np.array(m2)
print("a1 + a2 = \n",a1 + a2)
print("a1 - a2 = \n",a1 - a2)
（2）矩陣數乘運算
import numpy as np
m = [[5,5,5],[6,6,6]]
a = np.array(m)
print("矩陣數乘2a = \n",2*a)
（3）矩陣乘法運算
import numpy as np
a1 = np.array([[1,1,1],[2,2,2],[3,3,3]])
a2 = np.array([[4,4,4],[5,5,5],[6,6,6]])
a3 = np.dot(a1,a2)
a4 = a1.dot(a2)
a5 = a1*a2
a6 = np.multiply(a1,a2)
print("矩陣乘法a1×a2 = \n",a3)
print("矩陣乘法a1×a2 = \n",a4)
print("對應元素的乘積： \n",a5)
print("對應元素的乘積： \n",a6)
（4）矩陣乘方運算
import numpy as np
m = [[1,1,1],[2,2,2],[3,3,3]]
a = np.array(m)
a1 = a**2
print("a的二次方a1: \n",a1)
（5）生成逆矩陣
import numpy as np
m = [[2,5],[2,3]]
a = np.array(m)
a1 = np.linalg.inv(a)
a2 = np.mat(a)
a3 = a2.I
print("使用np.linalg.inv()求a的逆矩陣a1: \n",a1)
print("使用I屬性求a的逆矩陣a3: \n",a3)
（6）生成轉置矩陣
import numpy as np
m = [[1,2,3],[4,5,6]]
a = np.array(m)
a1 = a.T
a2 = np.transpose(a)
print("使用T屬性求a的轉置a1: \n",a1)
print("使用np.transpose()函式求a的轉置a2: \n",a2)
2 行列式
2.1 行列式與矩陣的區別
（1）行列式是一個數值，矩陣是一個數表;
（2）行列式的行數等于列數，矩陣的行數不等于列數，
2.2 計算行列式
（1）使用np.linalg.det()函式計算行列式
官方手冊用法：
python程式：
#計算行列式d
import numpy as np
d = [[1, 2, -4],[-2, 2, 1],[-3, 4, -2]]
a = np.array(d)
result = np.linalg.det(a)
print(result) #-14.000000000000004
（2）使用scipy.linalg.det()函式計算行列式
官方手冊用法：
python程式：
# 計算行列式d
from scipy import linalg
d = [[1, 2, -4],[-2, 2, 1],[-3, 4, -2]]
a = np.array(d)
linalg.det(a)
2.3 計算矩陣的秩
使用np.linalg.matrix_rank() 函式計算矩陣的秩，
官方手冊用法：
python程式：
# 計算矩陣d的秩
import numpy as np
m = [[2, -1, -1, 1, 2],[1, 1, -2, 1, 4],[4, -6, 2, -2, 4],[3, 6, -9, 7, 9]]
a = np.array(m)
rank = np.linalg.matrix_rank(m)
print(rank) #3
3 向量基本運算
3.1 向量的內積
python程式：
# 計算向量v1與向量v2的內積
import numpy as np
v1 = [[1,1,1]]
v2 = [[1,-2,1]]
a1 = np.array(v1).reshape(3,1)
a2 = np.array(v2).reshape(3,1)
result = a1.T.dot(a2)
print(result) #[[0]]
3.2 向量的長度
使用np.linalg.norm()函式：
官方手冊用法：
python程式：
# 計算向量v的長度
import numpy as np
v = [[1,2,2]]
a = np.array(v)
result =np.linalg.norm(a)
print(result) #3
4 計算線性方程組的解
（1）使用np.linalg.solve()函式
官方手冊用法：
注意：這里系數矩陣必須是滿秩，即所有行必須是線性無關的，
python程式：
#計算線性方程組的解
import numpy as np
l1 = [[3, 2, -3],[2, -3, 3],[1, -1, 2]]
l2 = [[-2, 5, 5]]
a1 = np.array(l1)
a2 = np.array(l2).reshape(3,1)
result = np.linalg.solve(a1,a2)
print(result)
（2）使用scipy.linalg.solve()函式
官方手冊用法（內容有點長）：
https://docs.scipy.org/doc/scipy/reference/reference/generated/scipy.linalg.solve.html#scipy.linalg.solve
python程式：
#計算線性方程組的解
from scipy import linalg
l1 = [[3, 2, -3],[2, -3, 3],[1, -1, 2]]
l2 = [[-2, 5, 5]]
a1 = np.array(l1)
a2 = np.array(l2).reshape(3,1)
result = linalg.solve(a1,a2)
print(result)
5 特征值與特征向量
5.1 計算特征值與特征向量
使用np.linalg.eig()函式：
官方手冊用法：
python程式：
# 計算特征值和特征向量
import numpy as np
m = [[3,-1],[-1,3]]
a = np.array(m)
eig_val,eig_vex = np.linalg.eig(a)
print(eig_val)
print(eig_vex)
輸出
特征值：
[4. 2.]
特征向量：
[[ 0.70710678 0.70710678]
[-0.70710678 0.70710678]]
5.2 特征值分解
特征值分解要求帶分解的矩陣必須是n維方陣，
python程式：
import numpy as np
m1 = [[-2, 1, 1],[0, 2, 0],[-4, 1, 3]] #m1為原始矩陣
a = np.array(m1)
eig_val,eig_vex = np.linalg.eig(a)
print("特征值為：",eig_val)
eig_val_diag = np.diag(eig_val) #特征值對角化
print("對角矩陣：",eig_val_diag)
m2 = eig_vex.dot(eig_val_diag.dot(np.linalg.inv(eig_vex))) #m2為新生成的矩陣
print(m2)
print("m1和m2是否相等：",np.allclose(m1,m2))
6 SVD
6.1 SVD要點
SVD（Singular Value Decompostion）可以對任意矩陣進行分解，它是一種抽取重要特征的方法，將一個復雜的大矩陣用三個小矩陣來表示，而這三個小矩陣包含大矩陣的重要特征資訊，
6.2 使用SVD重構矩陣
python程式：
#奇異值分解
import numpy as np
m1 = [[1, 2, 2, 1],[2, 1, -2, -2],[1, -1, -4, -3]] # 原矩陣m1
a = np.array(m1)
u,s,vt = np.linalg.svd(a)
diagma = np.zeros(np.shape(a))
diagma[:len(s),:len(s)] = np.diag(s)
print("左奇異值矩陣: \n",u)
print("奇異值: \n",s)
print("右奇異值矩陣: \n",vt)
print("奇異值矩陣: \n",diagma)
m2 = u.dot(diagma.dot(vt)) # 重構后的矩陣m2
print("原矩陣m1與重構后矩陣m2是否相同：",np.allclose(m1,m2)) #判斷重構后矩陣與原矩陣是否相等
輸出：
左奇異值矩陣:
[[-0.34819307 -0.73853115 0.57735027]
[ 0.4654902 -0.67080962 -0.57735027]
[ 0.81368327 0.06772153 0.57735027]]
奇異值:
[6.38092733e+00 3.04692736e+00 1.50350788e-16]
右奇異值矩陣:
[[ 0.21885073 -0.16370335 -0.76510817 -0.58302235]
[-0.66047812 -0.72715663 -0.13335703 0.13125468]
[ 0.28819959 -0.02107189 -0.52371947 0.80138311]
[-0.65788602 0.66633357 -0.35006188 0.02534264]]
奇異值矩陣:
[[6.38092733e+00 0.00000000e+00 0.00000000e+00 0.00000000e+00]
[0.00000000e+00 3.04692736e+00 0.00000000e+00 0.00000000e+00]
[0.00000000e+00 0.00000000e+00 1.50350788e-16 0.00000000e+00]]
原矩陣m1與重構后矩陣m2是否相同： True
6.3 使用SVD進行矩陣近似
for k in range(3,0,-1):
m3 = u[:,:k].dot(diagma[:k,:k].dot(vt[:k,:]))
print("k = ", k,"壓縮后的矩陣： \n",np.round(m3,1))
6.4 使用SVD進行影像壓縮
使用svd方法進行壓縮有兩種思路，一種是按照奇異值個數的百分比進行壓縮，另一種是按照奇異值之和的百分比進行壓縮，哪種效果比較好呢，我們來看一下效果，
python程式：
from PIL import Image
import numpy as np
import matplotlib.pyplot as plt
def svd2(data,percent):
print("svd2")
u,s,vt = np.linalg.svd(data)
diagma = np.zeros(np.shape(data))
diagma[:len(s),:len(s)] = np.diag(s) #獲得奇異值矩陣
percent_sum = (int)(sum(s)*percent)
num = -1
diagma_sum = 0
while diagma_sum < percent_sum:
num += 1
diagma_sum += s[num]
m = u[:,:num].dot(diagma[:num,:num].dot(vt[:num,:])) #得到壓縮后的矩陣
return np.rint(m).astype("uint8")
#重構影像
def rebuild(filename,percent,svd):
img = Image.open(filename,'r') #打開圖片檔案
a = np.array(img)
#由于SVD輸入的是單通道，RGB影像需要分解三個通道最后合并
r = a[:, :, 0]
g = a[:, :, 1]
b = a[:, :, 2]
r_svd = svd(r,percent)
g_svd = svd(g,percent)
b_svd = svd(b,percent)
I=np.stack((r_svd,g_svd,b_svd),2)
plt.figure(figsize=(20,20)) #指定單張圖片大小
plt.subplot(510 +(int)(percent*10/2)) #將子圖劃分為5行1列
plt.title((int)(percent*10))
plt.imshow(I)
plt.show
filename = "E:\Tensorflow\code\cat\cat2.jpg"
for i in np.arange(0.2,1.2,0.2):
rebuild(filename,i,svd1)
for i in np.arange(0.2,1.2,0.2):
rebuild(filename,i,svd2)
原影像：
執行結果：
左邊一列是使用svd1()方式進行壓縮，分別對應取奇異值個數的20%、40%、60%、80%、100%進行壓縮，從結果可以看出，即便是取20%的奇異值，與原影像基本無異，
右邊一列是使用svd2()方式進行壓縮，分別對應取奇異值之和的20%、40%、60%、80%、100%進行壓縮，emm…前面三張壓縮的結果就比較詭異了，最終按照奇異值之和的80%進行壓縮，才能達到與原影像差不多的效果，
因此選擇第一種，按奇異值個數進行壓縮效果會比較好，
最后推薦一個，沉浸式學習線性代數網站——
http://immersivemath.com/ila/index.html
還有一本線性代數科普書，《程式員的數學：線性代數》，書都給你們找好了~
鏈接：https://pan.baidu.com/s/1I0dVisFjD8Uo-5DnFlJXrA
提取碼：4tuk
轉載請註明出處，本文鏈接：https://www.uj5u.com/qita/297758.html
標籤：AI