使用tensorflow 訓練網路，訓練每到第一個epoch的第7個iteration， train loss就會變為nan，但是train acc卻還在變化，并沒有迅速下降或者為0貌似還在訓練(具體網路的輸出值并沒有測驗，但是根據acc的變化來看，網路輸出應該有確定的數)，把學習率改為0，同樣的問題依然是第7次迭代必為nan，用的優化器是從github上找的radam，然后換成adam之后，問題解決。但是使用同樣的radam在另一個網路訓練時卻沒有發生nan的情況，正常訓練。摸不到頭腦，到底在哪里出了問題？各位大佬求救呀。
uj5u.com熱心網友回復：
pip install tensorflow-radam你用的是這個RAdam么……
uj5u.com熱心網友回復：
我用的不是這個，是直接從Github上拖得別人寫得原始碼（from RAam import RAdamOptimier)，應該和你說得不是一個。難道是原始碼有問題嗎?我試試你說得這個。
轉載請註明出處，本文鏈接：https://www.uj5u.com/qita/130364.html
標籤：人工智能技術
上一篇：arcgis10.1
下一篇：求問nlp相關的網路資源