作用1:降維:因為使用獨熱編碼雖然計算簡單,但是占用太多不必要的資源,所以使用嵌入層(embedding)進行降維,和1*1卷積有異曲同工之妙,
因為有時候圖片降維后的特征只能籠統的模糊的顯示出影像的主要特征,當我們需要發現圖片中的一些細節時,就需要對圖片進行升維,
獨熱向量,每句話之間都是獨立的,每句話之間關聯為0,而embedding讓每個向量之間有了關聯,實質上是建立一個查表,通過矩陣相乘,線性變換的方式,讓輸入的x通過查表將一個稀疏矩陣變成一個稠密矩陣,

轉載請註明出處,本文鏈接:https://www.uj5u.com/qita/529933.html
標籤:其他
