為什么GPU能做神經網路加速?
uj5u.com熱心網友回復:
一方面是GPU對通用計算支持力度越來越大;另一方面是現階段的模型主要以cnn為主,cnn最終就是卷積運算,而cnn的運算恰好是支持并行計算的演算法,當然還有很多層也是支持并行運算的;此外,GPU可以分擔CPU的負載。不過,個人覺得有點小遺憾,現階段在GPU端的推理主要以浮點推理為主,CPU的推理則是以定點推理為主。希望能盡快看到GPU用定點推理的框架。
轉載請註明出處,本文鏈接:https://www.uj5u.com/qita/248688.html
標籤:Qualcomm開發
下一篇:ARM與DSP的主要區別是什么?
