直接上2019R3和2020R2的性能對比，
測驗平臺
Intel i5-7440HQ,
Win10 1709
GPU驅動 26.20.100.7812 發布日期1/21/2020
利用OV自帶的benchmark測驗,測2種情況
最小延遲 (盡可能快的處理單幅圖片)
benchmark_app.exe -nireq 1 -nstreams 1 -b 1 -m mobilenetV3\[FP16|FP32]\v3-large_224_1.0_float.xml -d [GPU|CPU]
最大吞吐率throughput (盡可能多的處理圖片）
benchmark_app.exe -m mobilenetV3\[FP16|FP32]\v3-large_224_1.0_float.xml -d [GPU|CPU]
測驗模型 mobilenetv3-large_224_1.0_float
測驗模型 sqeezenet1.1
個人用OpenVINO 2020的感覺
CPU推理部分速度沒有太明顯的提高，但是GPU推理部分應該是改動很大，測驗了mobilenetv3和squeezenet1.1, 感覺對GPU推理底層的clDNN的部分真的是花了一些力氣去優化。
用OpenVINO 2020版GPU做推理，如果發現加載網路或者推理時候報錯，可以考慮一下升級GPU的驅動，我原來的驅動是2019年3月的版本，做FP16推理時候加載報錯。升級最新驅動就好了 :)
有利用集成顯卡做推理的同學可以嘗試一下2020版本，也許有驚喜 :)
OpenVINO2020r2版本開始支持GPU INT8推理了，但是能否在我的老7代CPU的HD630上跑還不清楚，INT8的轉換工具改成POT了，還在摸索中...
轉載請註明出處，本文鏈接：https://www.uj5u.com/yidong/135609.html
標籤：英特爾技術
上一篇：多個AccessibillityService之間如何相互呼叫
下一篇：QT三維坐標系顯示三維球面