一、實驗要求
在計算機上驗證和測驗最小二乘法和線性回歸實驗,sklearn的線性回歸演算法,
二、實驗目的
1、掌握最小二乘法的原理
2、能夠理解線性回歸和多元線性回歸演算法;
3、掌握線性回歸評價指標和多項式特征演算法;
4、掌握KNN,貝葉斯,決策樹和SVM如何進行線性回歸
5、掌握邏輯回歸分類演算法
三、實驗內容
實驗步驟
1.請參考線性回歸.pdf檔案,完成基于最小二乘法的一元線性回歸,多元線性回歸的實作,并用測驗用多元線性回歸,對波士頓房價進行預測,
一元線性回歸:

多元線性回歸:

用多元線性回歸,對波士頓房價進行預測:
2.請參考線性回歸2.pdf,同時對比,線性回歸,以及KNN回歸,貝葉斯回歸,決策樹回歸和SVR回歸,五個回歸演算法對波士頓房價預測的差異,哪個回歸演算法R方分數高,
最小二乘法線性回歸:

KNN回歸:

貝葉斯回歸:

決策樹回歸:

SVR回歸:

R方:

經對比:KNN回歸演算法R方分數高
2.請參考線性回歸2.pdf和分類匯總.ipynb,同時對比邏輯回歸,針對基本資料,交叉資料,太極資料,圓環資料,異或資料,多類資料的分類邊界線,
邏輯回歸邊界對比:


邏輯回歸加入多項式回歸:分類邊界效果變差

基本(表現較好)與交叉資料集:




太極與圓環資料集:




異或與多分類資料集:




四、實驗總結
理解了線性回歸和多元線性回歸演算法,更加清楚了各演算法回歸的分類邊界效果,
轉載請註明出處,本文鏈接:https://www.uj5u.com/qita/354500.html
標籤:AI
上一篇:如何確認計算機的GPU配置
