ncnn與tensorflow lite相比有什么特有什么特點?
uj5u.com熱心網友回復:
NCNN:1.NCNN是支持混合精度的,若沒有選擇requantize選項。則每一層的輸出會把資料做反量化到float
2.NCNN的采用的量化演算法,對feature map量化采用KLD演算法做飽和處理(來自TensorRT)。對權重采用分通道量化(對一些DW CONV的網路有很大提升)
3.因為NCNN混合精度的實作,實際上規避了一些KLD演算法的缺點。比如在最后幾層的非卷積層不適宜做飽和量化
tensorFlow lite:
1.在量化上沒有采用飽和演算法,就是收集每一層的min-max資料做量化。但對模型的激活值分布要求更高(應更為緊湊,沒有明顯的長尾效應)
2.tensorflow通過加入fake-quant節點在fine turning時來約束權重和激活值的分布,達到第一點的要求。
uj5u.com熱心網友回復:
可以參考下此鏈接:https://zhuanlan.zhihu.com/p/74326567轉載請註明出處,本文鏈接:https://www.uj5u.com/qita/63729.html
標籤:Qualcomm開發
