前言
前面給大家介紹了自己開發的LabVIEW AI視覺工具包，后來發現有一些onnx模型無法使用opencv dnn加載，且速度也偏慢，所以就有了今天的onnx工具包，如果你想要加載更多模型，追求更高的速度，那可以使用LabVIEW onnx工具包實作模型的推理與加速，
一、工具包內容
這個開放神經網路互動工具包主要優勢如下：
-
簡單編程：圖形化編程，無需掌握文本編程基礎即可完成機器視覺專案;
-
提供多種框架生成的onnx模型匯入模塊：包括pytorch、caffe、tensorflow、paddlepaddle等生成的onnx模型；
-
多種高效加速推理介面：CUDA、TensorRT對模型進行最大化的加速；
-
支持多種硬體加速：支持Nvidia GPU、Intel、TPU、NPU多種硬體加速
-
提供近百個應用程式范例：包括物體分類、物體檢測、物體測量、影像分割、 人臉識別、自然場景下OCR等多種實用場景
工具包中的函式選版如下：
例如，一個攝像頭采集并進行yolov5目標檢測的范例程式，只需在LabVIEW中撰寫簡單的圖形化程式，即可實作，在大量簡化編程難度的同時，也保持了c++的高效運行特性，
通常我們做專案，在部署程序中想要加速，無非就那么幾種辦法，如果我們的設備是CPU，那么可以用openvion，如果我們希望能夠使用GPU，那么就可以嘗試TensorRT了，那么為什么要選擇TensorRT呢？因為我們目前主要使用的還是Nvidia的計算設備，TensorRT本身就是Nvidia自家的東西，那么在Nvidia端的話肯定要用Nvidia親兒子了，
不過因為TensorRT的入門門檻略微有些高，直接勸退了想要入坑的玩家，其中一部分原因是官方檔案比較雜亂；另一部分原因就是TensorRT比較底層，需要一點點C++和硬體方面的知識，學習難度會更高一點，我們做的開放神經網路互動工具包GPU版本，直接將TensorRT一起集成到了onnx_session中，可以加載任何onnx模型，可以使用CUDA或者TensorRT加速,實作高效的推理
二、工具包下載鏈接
https://pan.baidu.com/s/1vwCp1LuKEjYGM4goNYMagw?pwd=yiku
三、工具包安裝步驟
詳細安裝步驟可查看：LabVIEW開放神經網路互動工具包（ONNX)（非NI Vision）下載與安裝教程
四、實作物體識別
無論使用何種框架訓練物體檢測模型，都可以無縫集成到LabVIEW中，并使用工具包提供的CUDA、tensorRT介面實作加速推理，模型包括但不限于：
-
yolov5、yolov6、yolov7、pp-yoloe、yolox
-
torchvision中的影像分類、目標檢測模型等
通過演算法優化，在LabVIEW中運行模型的速度明顯好于python，這對于對性能要求較高的工業現場來說非常友好實用，比如說：工地安全帽檢測、物體表面缺陷檢測等，如下圖進行物體識別，在GPU模式下，無論是運行速度和識別率都可以達到工業級別，
-
yolov4實作目標檢測：
-
基于onnx，yolov5使用tensorRT實作推理加速：
-
NI vision采集影像、tensorRT加速實作yolov5目標檢測
-
yolov5實作口罩檢測：
-
yolov5實作安全帽檢測：
-
yolov6實作目標檢測：
-
yolox實作目標檢測：
-
百度PP-YOLOE實作目標檢測：
五、實作影像分割
影像分割是當今計算機視覺領域的關鍵問題之一，從宏觀上看，影像分割是一項高層次的任務，為實作場景的完整理解鋪平了道路，場景理解作為一個核心的計算機視覺問題，其重要性在于越來越多的應用程式通過從影像中推斷知識來提供營養，隨著深度學習軟硬體的加速發展，一些前沿的應用包括自動駕駛汽車、人機互動、醫療影像等，都開始研究并使用影像分割技術，
本次集成的工具包提供了多種影像分割的呼叫模塊，并實作了GPU模式下TensorRT的加速運行，如： 語意分割：Segnet、deeplabv1~deeplabv3、deeplabv3+、u-net等； 實體分割：Mask-RCNN、PANet等 
六、自然場景下的文字識別
工具包提供了文本檢測定位（DB_TD500_resnet50、EAST）、文本識別的模塊（CRNN)，用戶可以使用該模塊實作自然場景下的中英文文字識別
應用：身份證識別、表單識別、包裝盒標簽檢測等
七、人臉檢測與識別
八、人體關鍵點檢測
人體骨骼關鍵點對于描述人體姿態，預測人體行為至關重要，因此人體骨骼關鍵點檢測是諸多計算機視覺任務的基礎，例如動作分類，例外行為檢測，以及自動駕駛等等，近年來，隨著深度學習技術的發展，人體骨骼關鍵點檢測效果不斷提升，已經開始廣泛應用于計算機視覺的相關領域， 本次集成的工具包提供了關鍵點檢測的呼叫模塊，并實作了GPU模式下TensorRT的加速運行，
總結
工具包的具體使用可以關注博主的后續博客，如果有問題可以在評論區里討論，提問前請先點贊支持一下博主哦 更多問題可添加技術交流群進行進一步的探討，qq群號：705637299,，進群請備注暗號：LabVIEW機器學習
如果文章對你有幫助，歡迎關注、點贊、收藏
轉載請註明出處，本文鏈接：https://www.uj5u.com/gongcheng/519314.html
標籤：其他