無監督學習中，所有的資料都沒有打label，就是沒有對比的目標了，但是其實不是沒有目標了，在Auto-Encoders的程序里，它的目標就是他自己，如下圖，他這個就相當于一個卷積層，和CNN的區別就在于，它的輸出層=輸入層（784=784），因為他要重建它自己，而CNN的輸出層是類數，為了分類，另一個區別就是：Auto-Ecoders的中間有一個neck，它可以升維，也可以降維，
還有一個問題是Auto-Ecoders如何去訓練
一般來說是loss function可求導的情況就可以進行訓練作業，
在發現Auto-Ecoders之前，都是在用PCA的方法降維，
（1）PCA是一種線性的變換，有本身的局限性，因為分類的資料的形態，一般都是非線性的
效果如下圖：
人臉的圖片，下面一行是PCA
下面推出一些Auto-Ecoders的一些變種，
后邊這部分可以理解為，p和q相差越大時，這個值越大，pq越重疊，這個值越小，
但是此時還少一步，
Auto-Ecoders（AE） vs VAE
下面的人臉也是VAE識別到的，并且還自動加了背景虛化，
但是這些東西，和GAN比起來，差太多了
轉載請註明出處，本文鏈接：https://www.uj5u.com/qita/413649.html
標籤：其他