原文地址:原文鏈接,本文主要依照鏈接中文章進行,重復部分不再贅述,
一、準備
工具:CMake3.17,VS2017社區版
這里因為我的預測庫是,Cmake3.17、VS2017版的,所以用安裝了VS2017社區版,CMake3.17,這個地方一定要保證預測庫和環境一致,然后按照原文配置環境,

二、利用Cmake軟體進行編譯
cmake編譯器第一次使用,照葫蘆畫瓢,按原文一步步來就行,但是要注意的是剛才下載的版本是cpu_avx_mkl,環境是vs2017 ,所以下面兩處需要修改:
將WITH_GPU勾掉(本人電腦顯卡不支持,家里有條件的同學隨意)
Project選擇 2017,平臺X64:

這里注意一點,cpp_Infer檔案夾下的CMakeLists.txt檔案,這個檔案是編譯的關鍵,Cmake編譯軟體第一次使用,具體語法沒有研究,只提一點,原文中也有提到:這句的意思是將源檔案生成目標型別,是可執行檔案(.exe)、動態連接庫(.dll)

三、VS2017生成解決方案
3.1 生成可執行檔案
vs2017打開專案,平臺選擇Release,X64,生成程序可能會出現這個這個問題:找不到opencv_world346.dll檔案,這個可以簡單粗暴的將opencv安裝目錄bin目錄下opencv_world346.dll檔案復制生成目錄下就好了,

3.2生成元件
原文中,修改CMakeLists.txt,用Cmake重新編譯,其實在vs2017中修改也是可以的,在剛才生成exe檔案后,clas-system右鍵屬性,配置型別為應用程式(.exe),檔案擴展名(.exe).

找到CmakeList.txt檔案,單擊打開,修改如圖(不區分大小寫):

然后重新生成,可以看到直接生成了dll檔案
![]()
四、原始碼分析

4.1 preprocess_op.cpp
深度學習的影像資料進入網路一般要經過影像預處理,包括但不限于裁剪、歸一化,這個地方就是影像處理,將opencv 中的Mat物件進行各種倒騰,保證和訓練模型保持一致,這個地方需要一點知識拓展:資料的轉換,
預測程序中,vector充當連接Mat(Opencv型別)和Tensor(Paddle型別)的橋梁,資料轉化如圖,CV32FC1對應float型別,

4.1 cls.cpp
這個是源檔案核心,首先定義了Classifier類,該類定義了:
LoadModel方法:加載模型引數
Run方法:預測:
在這個類中,可以重新定義Run方法,提供不同的介面;
五、預測
5.1 可執行檔案對影像預測
這個原文中記載的非常詳細,不在贅述,
5.2 dll檔案呼叫
dll呼叫分為python呼叫和c#呼叫,兩者都是通過上面生成的dll檔案進行預測,
5.2.1 python 呼叫
python呼叫c++的dll預測檔案,想起了一個梗,一個北京人去上海買房,可以嗎?可以,但是沒必要,想一下,前邊辛辛苦苦搞這么多就是想實作模型從python到c++的移植,結果生成的dll被python呼叫,又轉了回來,這里的優勢我還沒有發現,暫時按下不表,
5.2.1 C# 呼叫
其實其他平臺呼叫dll檔案的麻煩點在于資料的轉換,原文中,影像輸入直接寫在了原始碼中,不存在其他平臺和dll資料互動,但是實際應用中肯定是要將介面開放出來的,不能老是讀取一個地方的影像,
在main.cpp新建一個函式,能被外部呼叫,如下:
extern "C" __declspec(dllexport) int Pridict(float* data, int batch_size, int Image_rows, int Image_cols);
int Pridict(float* data,int batch_size,int Image_rows, int Image_cols)
{
//1.加載組態檔
ClsConfig config("E:/DeepLearning/Paddle/PaddleClas-release-2.1DLL/PaddleClas-release-2.1/deploy/cpp_infer/tools/config.txt");
// 2.列印配置資訊
config.PrintConfigInfo();
// 6. 新建分類器,配置相關引數
Classifier classifier(config.cls_model_path, config.cls_params_path,
config.use_gpu, config.gpu_id, config.gpu_mem,
config.cpu_math_library_num_threads, config.use_mkldnn,
config.use_tensorrt, config.use_fp16,
config.resize_short_size, config.crop_size);
// 獲取影像的基本資訊
std::cout << "batchsize: " << batch_size << std::endl;
// 預測
std::vector<float> input(data, data+ batch_size*Image_rows*Image_cols);
for (int idx = 0; idx < 3; ++idx)
{
// 列印
std::cout << input[idx] << std::endl;
}
double run_time = classifier.Run2(&input, batch_size, Image_rows, Image_cols);
return 1;
}
c#代碼,這里用到了c封裝的Opencv:EmguCv,安裝可以參考文章:https://blog.csdn.net/qq_40564377/article/details/114037314?spm=1001.2014.3001.5501
class Program
{
[DllImport("clas_system.dll", EntryPoint = "Pridict", CharSet = CharSet.Ansi)]
public static extern int Pridict(ref float data, int batch_size, int Image_rows, int Image_cols);
static void Main(string[] args)
{
unsafe
{
Mat image = CvInvoke.Imread("OK648.bmp");
image.ConvertTo(image, DepthType.Cv32F);
image = image / 255;
float[] data = new float[3249];
IntPtr temp = Marshal.UnsafeAddrOfPinnedArrayElement(data, 0);
CvInvoke.ExtractChannel(image, new Mat(57, 57, DepthType.Cv32F,1, temp,0), 0);
//(int rows, int cols, DepthType type, int channels, IntPtr data, int step)
int temp2 = Pridict(ref data[0], 1, 57, 57);
Console.ReadKey();
}
}
}
5.2.2 呼叫程序資料傳遞
資料傳遞型別和開放出來的介面有關,如果開放介面引數型別為Mat,那么其他平臺下也要安裝相應的opencv,這個比較麻煩不推薦;
上面的程式中,用float* 型別的指標進行傳遞,這樣就可以不用安裝EmguCv了,實際上,影像也就是一個資料塊,只要保證資料傳遞程序中內容不發生變化,隨便一個庫讀到,或者其他庫生成的影像都可以傳入介面中,
五、總結
感謝原文作者的分享,才有方法可循,操作程序中也走了不少彎路,不足之處,希望讀者朋友們批評指正,文中的細節會在后續補充,作者參照的相關資料來自互聯網,也將所感所得回饋互聯網,這是創作的初衷,
轉載請註明出處,本文鏈接:https://www.uj5u.com/qita/289069.html
標籤:其他

