主頁 > 軟體設計 > 【專案實戰】基于Yolov5 火災濃煙檢測與天池免費算力的教學篇

【專案實戰】基于Yolov5 火災濃煙檢測與天池免費算力的教學篇

2020-10-06 01:45:03 軟體設計

文章目錄

    • 免費算力,白嫖黨頂級薅羊毛!
    • 一 阿里天池的使用篇
    • 二 開啟我們在天池服務器的第一個專案: 火災濃煙與吸煙檢測
      • 2.1 演示
      • 2.2 介紹
    • 三 模型訓練
    • 四 天池端訓練
    • 五 總結與技巧
    • 六 總結

免費算力,白嫖黨頂級薅羊毛!

愁筆記本差,又買不起臺式機顯卡的同學,請注意啦!今天cv調包俠分享一下自己這幾天開始使用的阿里天池的免費GPU服務器,以及這篇文章介紹如何在天池的tesla p100 16gb顯存的服務器上訓練自己的深度學習視覺模型~我們以火災濃煙檢測為例子,

首先,大家可以看我Yolov5 吸煙檢測文章與baseline,傳送門,今天主要與大家分享一下國慶好禮~

國慶這幾天呆在家里,可不能白費了,花點時間鉆研一下新東西,我這幾天嘗試了百度AIstudio,Kaggle ,天池三個平臺的免費算力,百度的大家都比較熟悉了,可惜小菜雞不會paddle,又想跑自己的大模型,怎么辦,怎么辦,怎么辦???

平臺\ 資訊顯卡顯存
百度AIstudioNvidia Teslav10016GB
阿里 天池Nvidia Teslap10016GB
KaggleTesla K8012GB

算力來說,百度的較好~,但是對于我們想用pytorch 和tensorflow ,以及Paddle還沒入門的孩子來說,就建議來薅阿里天池的羊毛!因為Kaggle 速度很慢,

回到正題

一 阿里天池的使用篇

首先注冊并進入阿里云實驗室,

在這里插入圖片描述

2、如何安裝、卸載、更新包?如遇錯誤怎么辦?

1)安裝包:pip install some_package --user

2)卸載包:部分包有依賴,無法卸載

3)更新包:pip install -U some_package –user

如果匯入程序出錯,建議嘗試重啟kernel或重繪頁面

3、如何切換GPU和CPU?

enter image description here

二 開啟我們在天池服務器的第一個專案: 火災濃煙與吸煙檢測

2.1 演示

在這里插入圖片描述
在這里插入圖片描述
在這里插入圖片描述
在這里插入圖片描述
在這里插入圖片描述
在這里插入圖片描述

2.2 介紹

本專案為基礎baseline ,資料為5000的香煙圖片與3000的火災圖片,為兩類別檢測(因為后續需要做校園等場景例外行為監控,所以將以前的吸煙檢測也加入進來了);

圖片如下(已放至公眾號:Deep AI 視界 公眾號回復:火災檢測):

在這里插入圖片描述

在這里插入圖片描述
在這里插入圖片描述

三 模型訓練

先clone 我的專案:https://github.com/CVUsers/Fire-Detect-by-YoloV5(歡迎star~)

或者 git clone https://github.com/CVUsers/Fire-Detect-by-YoloV5.git

到本地進行除錯,跑通后再放到阿里云服務器加大模型直接跑~

然后公眾號 DeepAI 視界回復:火災檢測

會拿到一份8000張左右的圖片images.7z

解壓到data下,data下的目錄應為:

[外鏈圖片轉存失敗,源站可能有防盜鏈機制,建議將圖片保存下來直接上傳(img-VBfQt1tS-1601784638378)(D:\CSDN\pic\天池\1601776984096.png)]

其中,train.txt ,labels,test.txt我已經給您寫好,不用重新制作資料,若是需要重新制作資料,請參考我的另一篇文章:

令將yolov5預訓練模型放至weights/下(我的網盤有)

需要注意的有幾點:
1:labels中名字要與images中的圖片名字對應(后綴不同),且要歸一化成:id, x,y,w,h;

2:修改data下的smoke.yaml 為如下(已為您修改)

[外鏈圖片轉存失敗,源站可能有防盜鏈機制,建議將圖片保存下來直接上傳(img-8Ne93a96-1601784638379)(D:\CSDN\pic\天池\1601777255275.png)]

3:修改models/ yolov5x.yaml 中的類別為你的類別(已為您修改);

4:train的args修改batchsize等引數

四 天池端訓練

tips:您可以用小模型yolov5s進行測驗,跑一個迭代沒問題后,就可以改成yolov5x ;

然后將整個專案壓縮成壓縮包,進入阿里實驗室,打開notebook,點擊上傳檔案:
[外鏈圖片轉存失敗,源站可能有防盜鏈機制,建議將圖片保存下來直接上傳(img-R0YZYCCl-1601784638381)(D:\CSDN\pic\天池\1601778097520.png)]

然后在notebook右側改成使用gpu:

[外鏈圖片轉存失敗,源站可能有防盜鏈機制,建議將圖片保存下來直接上傳(img-BIrVkCmS-1601784638385)(D:\CSDN\pic\天池\1601778143859.png)]

檢測是否為gpu環境:notebook左側+號,新建一個terminal,輸入nvidia-smi即可,若顯示16gb就是gpu環境,如是cpu環境,會顯示command not found

tips:若是由于自己操作失誤,gpu被程式誤占滿,停不下來,就在終端輸入 fuser -v .dev/nvidia* 看到占用顯卡的行程,然后kill 掉他的編號即可

現在開始解壓壓縮包,我是7z壓縮包(其他壓縮包命令請自查):

notebook中輸入:

!pip install py7zr
a = py7zr.SevenZipFile('./Fire-Detect-by-YoloV5','r')
a.extractall(path=r'./')
a.close()
print('over')

等待over(可能需要一些時間)后,雙擊解壓好的檔案夾進入專案

[外鏈圖片轉存失敗,源站可能有防盜鏈機制,建議將圖片保存下來直接上傳(img-ucfD6SpJ-1601784638388)(D:\CSDN\pic\天池\1601778826053.png)]

你可以左上角?加號,新建python3的ipynb檔案,然后輸入:

%load train.py

Tips 此時,將main中的一行修改一下(因為是notebook版的引數決議方式):

opt = parser.parse_args()改成
opt = parser.parse_known_args()[0]

當前的pytorch版本是符合我們專案要求的,你需要安裝一個opencv-python

終端輸入:

pip install opencv-python==3.4.2.17

然后在我們的train.py 代碼上按下shift+enter執行這個腳本,即可:

[外鏈圖片轉存失敗,源站可能有防盜鏈機制,建議將圖片保存下來直接上傳(img-kUIdBpOW-1601784638389)(D:\CSDN\pic\天池\1601779323817.png)]

此圖中,可看到模型引數分布與維度;一共是8.8*10^7次方引數

[外鏈圖片轉存失敗,源站可能有防盜鏈機制,建議將圖片保存下來直接上傳(img-hkqpIIKG-1601784638396)(D:\CSDN\pic\天池\1601779473179.png)]

等待訓練結束,同時會將模型保存在weights/下

Tips:如果8小時的時長不夠用,8小時后停止了迭代,那就重啟實體,并修改train.py 的args中為:

–resume 這一行加一個default = True,將–weights的模型改成weights/last.pt ,然后執行

你就會發現,會繼續原有模型訓練~

然后訓練結束后,將模型中的best.pt 右鍵download到本地(在云端測驗也行,不過云端不能開攝像頭,可以測驗圖片和視頻),我以本地為例,將best.pt放到本地的weights/下,將detect.py 的引數:–source 改成0 運行即可,

if __name__ == '__main__':
    check_git_status()
    parser = argparse.ArgumentParser()
    parser.add_argument('--cfg', type=str, default='models/yolov5s.yaml', help='model.yaml path')
    parser.add_argument('--data', type=str, default='data/coco128.yaml', help='data.yaml path')
    parser.add_argument('--hyp', type=str, default='', help='hyp.yaml path (optional)')
    parser.add_argument('--epochs', type=int, default=300)
    parser.add_argument('--batch-size', type=int, default=16)
    parser.add_argument('--img-size', nargs='+', type=int, default=[640, 640], help='train,test sizes')
    parser.add_argument('--rect', action='store_true', help='rectangular training')
    parser.add_argument('--resume', nargs='?', const='get_last', default=False,
                        help='resume from given path/to/last.pt, or most recent run if blank.')
    parser.add_argument('--nosave', action='store_true', help='only save final checkpoint')
    parser.add_argument('--notest', action='store_true', help='only test final epoch')
    parser.add_argument('--noautoanchor', action='store_true', help='disable autoanchor check')
    parser.add_argument('--evolve', action='store_true', help='evolve hyperparameters')
    parser.add_argument('--bucket', type=str, default='', help='gsutil bucket')
    parser.add_argument('--cache-images', action='store_true', help='cache images for faster training')
    parser.add_argument('--weights', type=str, default='', help='initial weights path')
    parser.add_argument('--name', default='', help='renames results.txt to results_name.txt if supplied')
    parser.add_argument('--device', default='', help='cuda device, i.e. 0 or 0,1,2,3 or cpu')
    parser.add_argument('--multi-scale', action='store_true', help='vary img-size +/- 50%%')
    parser.add_argument('--single-cls', action='store_true', help='train as single-class dataset')
    opt = parser.parse_args()

    cfg,data,weights:前面看過了是一定要傳的兩個參;
    hyp:超引數,是指定一些超引數用的(學習率啥的);
    epochs: 輪數,默認300,需要指定;
    batch-size:一次喂多少資料,yolov5x 16gb顯存,資料量大只能開到12,所以可以不傳按默認16;
    img-size: 訓練和測驗資料集的圖片尺寸(個人理解為解析度),默認640,640nargs='+' 表示引數可設定一個或多個;
    rect: 只要加上’–rect’程式就會將rect設為true(應該是訓練時啟用矩形訓練);
    resume: 斷開后繼續原有last.pt訓練;
    notest:only test final epoch,僅在最后測驗,節省時間與資源(這樣訓練中間變化趨勢應該就看不到了);
    evolve:進化超引數(hyp),可以試試,但是加了這個,原始碼那邊就不建議每次迭代完都保存模型了,可能是最后保存;
    cache-images:cache images for faster training,加快訓練的,可以試試;
    name:renames results.txt to results_name.txt if supplied;
    device:cuda device, i.e. 0 or 0,1,2,3 or cpu,我這默認已經用了tesla p100了,不用改;
    single-cls:train as single-class dataset,暫時沒用;

解釋一下result.png里都是啥:
[外鏈圖片轉存失敗,源站可能有防盜鏈機制,建議將圖片保存下來直接上傳(img-6Z2adUS9-1601784638398)(D:\CSDN\pic\天池\1601781211748.png)]

  1. GIoU:推測為GIoU損失函式均值,越小方框越準;
  2. Objectness:推測為目標檢測loss均值,越小目標檢測越準;
  3. Classification:推測為分類loss均值,越小分類越準;
  4. Precision:準確率(找對的/找到的);
  5. Recall:召回率(找對的/該找對的);
  6. mAP@0.5 & mAP@0.5:0.95:這里說的挺好,總之就是AP是用Precision和Recall作為兩軸作圖后圍成的面積,m表示平均,@后面的數表示判定iou為正負樣本的閾值,@0.5:0.95表示閾值取0.5:0.05:0.95后取均值,

[外鏈圖片轉存失敗,源站可能有防盜鏈機制,建議將圖片保存下來直接上傳(img-vNKqqNRV-1601784638399)(D:\CSDN\pic\天池\1601784586318.png)]

五 總結與技巧

總的來說,這阿里天池的服務器比較方便,網路速度也可以,

我已經準備長期入駐阿里云天池實驗室,為以后去達摩院掃地做鋪墊–_--,叫:cv調包俠,歡迎來fork~

總結一下上文的所有tips:

敲黑板:
tips:您可以用小模型yolov5s進行測驗,跑一個迭代沒問題后,就可以改成yolov5x放到服務器訓練 ;

tips:若是由于自己操作失誤,gpu被程式誤占滿,停不下來,就在終端輸入 fuser -v .dev/nvidia* 看到占用顯卡的行程,然后kill 掉他的編號即可

tips:引數決議要修改如下:
opt = parser.parse_args()改成
opt = parser.parse_known_args()[0]

Tips:如果8小時的時長不夠用,8小時后停止了迭代,那就重啟實體,并修改train.py 的args中為:
--resume 這一行加一個default = True,將--weights的模型改成weights/last.pt ,然后執行
你就會發現,會繼續原有模型訓練~
tips:可以開多個賬號,在其他瀏覽器的頁面上訓練其他模型,

六 總結

歡迎關注個人公眾號:DeepAI 視界 公眾號回復火災檢測有好禮喲~
在這里插入圖片描述

轉載請註明出處,本文鏈接:https://www.uj5u.com/ruanti/158474.html

標籤:其他

上一篇:深度學習 計算機視覺成長競賽路線

下一篇:Actor-Critic:強化學習中的參與者-評價者演算法簡介

標籤雲
其他(157675) Python(38076) JavaScript(25376) Java(17977) C(15215) 區塊鏈(8255) C#(7972) AI(7469) 爪哇(7425) MySQL(7132) html(6777) 基礎類(6313) sql(6102) 熊猫(6058) PHP(5869) 数组(5741) R(5409) Linux(5327) 反应(5209) 腳本語言(PerlPython)(5129) 非技術區(4971) Android(4554) 数据框(4311) css(4259) 节点.js(4032) C語言(3288) json(3245) 列表(3129) 扑(3119) C++語言(3117) 安卓(2998) 打字稿(2995) VBA(2789) Java相關(2746) 疑難問題(2699) 细绳(2522) 單片機工控(2479) iOS(2429) ASP.NET(2402) MongoDB(2323) 麻木的(2285) 正则表达式(2254) 字典(2211) 循环(2198) 迅速(2185) 擅长(2169) 镖(2155) 功能(1967) .NET技术(1958) Web開發(1951) python-3.x(1918) HtmlCss(1915) 弹簧靴(1913) C++(1909) xml(1889) PostgreSQL(1872) .NETCore(1853) 谷歌表格(1846) Unity3D(1843) for循环(1842)

熱門瀏覽
  • 面試突擊第一季,第二季,第三季

    第一季必考 https://www.bilibili.com/video/BV1FE411y79Y?from=search&seid=15921726601957489746 第二季分布式 https://www.bilibili.com/video/BV13f4y127ee/?spm_id_fro ......

    uj5u.com 2020-09-10 05:35:24 more
  • 第三單元作業總結

    1.前言 這應該是本學期最后一次寫作業總結了吧。總體來說,對作業的節奏也差不多掌握了,作業做起來的效率也更高了。雖然和之前的作業一樣,作業中都要用到新的知識,但是相比之前,更加懂得了如何利用工具以及資料。雖然之間卡過殼,但總體而言,這幾次作業還算完成的比較好。 2.作業程序總結 相比前兩個單元,此單 ......

    uj5u.com 2020-09-10 05:35:41 more
  • 北航OO(2020)第四單元博客作業暨課程總結博客

    北航OO(2020)第四單元博客作業暨課程總結博客 本單元作業的架構設計 在本單元中,由于UML圖具有比較清晰的樹形結構,因此我對其中需要進行查詢操作的元素進行了包裝,在樹的父節點中存盤所有孩子的參考。考慮到性能問題,我采用了快取機制,一次查詢后盡可能快取已經遍歷過的資訊,以減少遍歷次數。 本單元我 ......

    uj5u.com 2020-09-10 05:35:48 more
  • BUAA_OO_第四單元

    一、UML決議器設計 ? 先看下題目:第四單元實作一個基于JDK 8帶有效性檢查的UML(Unified Modeling Language)類圖,順序圖,狀態圖分析器 MyUmlInteraction,實際上我們要建立一個有向圖模型,UML中的物件(元素)可能與同級元素連接,也可與低級元素相連形成 ......

    uj5u.com 2020-09-10 05:35:54 more
  • 6.1邏輯運算子

    邏輯運算子 1. && 短路與 運算式1 && 運算式2 01.運算式1為true并且運算式2也為true 整體回傳為true 02.運算式1為false,將不會執行運算式2 整體回傳為false 03.只要有一個運算式為false 整體回傳為false 2. || 短路或 運算式1 || 運算式2 ......

    uj5u.com 2020-09-10 05:35:56 more
  • BUAAOO 第四單元 & 課程總結

    1. 第四單元:StarUml檔案決議 本單元采用了圖模型決議UML。 UML檔案可以抽象為圖、子圖、邊的邏輯結構。 在實作中,圖的節點包括類、介面、屬性,子圖包括狀態圖、順序圖等。 采用了三次遍歷UML元素的方法建圖,第一遍遍歷建點,第二、三次遍歷設定屬性、連邊,實作圖物件的初始化。這里借鑒了一些 ......

    uj5u.com 2020-09-10 05:36:06 more
  • 談談我對C# 多型的理解

    面向物件三要素:封裝、繼承、多型。 封裝和繼承,這兩個比較好理解,但要理解多型的話,可就稍微有點難度了。今天,我們就來講講多型的理解。 我們應該經常會看到面試題目:請談談對多型的理解。 其實呢,多型非常簡單,就一句話:呼叫同一種方法產生了不同的結果。 具體實作方式有三種。 一、多載 多載很簡單。 p ......

    uj5u.com 2020-09-10 05:36:09 more
  • Python 資料驅動工具:DDT

    背景 python 的unittest 沒有自帶資料驅動功能。 所以如果使用unittest,同時又想使用資料驅動,那么就可以使用DDT來完成。 DDT是 “Data-Driven Tests”的縮寫。 資料:http://ddt.readthedocs.io/en/latest/ 使用方法 dd. ......

    uj5u.com 2020-09-10 05:36:13 more
  • Python里面的xlrd模塊詳解

    那我就一下面積個問題對xlrd模塊進行學習一下: 1.什么是xlrd模塊? 2.為什么使用xlrd模塊? 3.怎樣使用xlrd模塊? 1.什么是xlrd模塊? ?python操作excel主要用到xlrd和xlwt這兩個庫,即xlrd是讀excel,xlwt是寫excel的庫。 今天就先來說一下xl ......

    uj5u.com 2020-09-10 05:36:28 more
  • 當我們創建HashMap時,底層到底做了什么?

    jdk1.7中的底層實作程序(底層基于陣列+鏈表) 在我們new HashMap()時,底層創建了默認長度為16的一維陣列Entry[ ] table。當我們呼叫map.put(key1,value1)方法向HashMap里添加資料的時候: 首先,呼叫key1所在類的hashCode()計算key1 ......

    uj5u.com 2020-09-10 05:36:38 more
最新发布
  • 【中介者設計模式詳解】C/Java/JS/Go/Python/TS不同語言實作

    * 中介者模式是一種行為型設計模式,它可以用來減少類之間的直接依賴關系,
    * 將物件之間的通信封裝到一個中介者物件中,從而使得各個物件之間的關系更加松散。
    * 在中介者模式中,物件之間不再直接相互互動,而是通過中介者來中轉訊息。 ......

    uj5u.com 2023-04-20 08:20:47 more
  • 露天煤礦現場調研和交流案例分享

    他們集團的資訊化公司及研究院在一個礦區正在做智能礦山的統一平臺的 試點,專案投資大概1億,包括了礦山的各方面的內容,顯示得我們這次交流有點多余。他們2年前開始做智能礦山的規劃,有很多煤礦行業專家的加持,他們的描述是非常完美,但是去年底應該上線的平臺,現在還沒有看到影子。他們確實有很多場景需求,但是被... ......

    uj5u.com 2023-04-20 08:20:25 more
  • 《社區人員管理》實戰案例設計&個人案例分享

    設計是一個讓人夢想成真程序,開始編碼、測驗、除錯之前進行需求分析和架構設計,才能保證關鍵方面都做正確 ......

    uj5u.com 2023-04-20 08:20:17 more
  • 軟體架構生態化-多角色交付的探索實踐

    作為一個技術架構師,不僅僅要緊跟行業技術趨勢,還要結合研發團隊現狀及痛點,探索新的交付方案。在日常中,你是否遇到如下問題 “ 業務需求排期長研發是瓶頸;非研發角色感受不到研發技改提效的變化;引入ISV 團隊又擔心質量和安全,培訓周期長“等等,基于此我們探索了一種新的技術體系及交付方案來解決如上問題。 ......

    uj5u.com 2023-04-20 08:20:10 more
  • 【中介者設計模式詳解】C/Java/JS/Go/Python/TS不同語言實作

    * 中介者模式是一種行為型設計模式,它可以用來減少類之間的直接依賴關系,
    * 將物件之間的通信封裝到一個中介者物件中,從而使得各個物件之間的關系更加松散。
    * 在中介者模式中,物件之間不再直接相互互動,而是通過中介者來中轉訊息。 ......

    uj5u.com 2023-04-20 08:19:44 more
  • 露天煤礦現場調研和交流案例分享

    他們集團的資訊化公司及研究院在一個礦區正在做智能礦山的統一平臺的 試點,專案投資大概1億,包括了礦山的各方面的內容,顯示得我們這次交流有點多余。他們2年前開始做智能礦山的規劃,有很多煤礦行業專家的加持,他們的描述是非常完美,但是去年底應該上線的平臺,現在還沒有看到影子。他們確實有很多場景需求,但是被... ......

    uj5u.com 2023-04-20 08:19:07 more
  • 《社區人員管理》實戰案例設計&個人案例分享

    設計是一個讓人夢想成真程序,開始編碼、測驗、除錯之前進行需求分析和架構設計,才能保證關鍵方面都做正確 ......

    uj5u.com 2023-04-20 08:18:57 more
  • 軟體架構生態化-多角色交付的探索實踐

    作為一個技術架構師,不僅僅要緊跟行業技術趨勢,還要結合研發團隊現狀及痛點,探索新的交付方案。在日常中,你是否遇到如下問題 “ 業務需求排期長研發是瓶頸;非研發角色感受不到研發技改提效的變化;引入ISV 團隊又擔心質量和安全,培訓周期長“等等,基于此我們探索了一種新的技術體系及交付方案來解決如上問題。 ......

    uj5u.com 2023-04-20 08:18:49 more
  • 05單件模式

    #經典的單件模式 public class Singleton { private static Singleton uniqueInstance; //一個靜態變數持有Singleton類的唯一實體。 // 其他有用的實體變數寫在這里 //構造器宣告為私有,只有Singleton可以實體化這個類! ......

    uj5u.com 2023-04-19 08:42:51 more
  • 【架構與設計】常見微服務分層架構的區別和落地實踐

    軟體工程的方方面面都遵循一個最基本的道理:沒有銀彈,架構分層模型更是如此,每一種都有各自優缺點,所以請根據不同的業務場景,并遵循簡單、可演進這兩個重要的架構原則選擇合適的架構分層模型即可。 ......

    uj5u.com 2023-04-19 08:42:41 more