總體描述概況
縱觀本次美賽題目基本依舊是針對于資本效益的功利性問題,首先提醒讀者請注重自己模型的功利性和利益化,也就是說你的模型是對資本產生有直接或間接的正面效益的,本文主要針對各個選題為讀者進行梳理,相關資源會在文末給出,并陸續更新,
文章目錄
- 總體描述概況
- 一、題目C解題思路
- 1.資料預處理
- 2.模型選擇以及注意事項
- 二、題目D的概況解讀
- 三、關于其他題目
- 資源
一、題目C解題思路
和以往一樣,C題依舊是大資料類題目,對計算機類以及統計類學生較為友好,做題之前需要了解統計學、數理金融、量化分析相關背景的知識,且C題的求解工具也更加豐富,除了matlab、python還可以是用無需編程的SPSS;R、stats、SAS等傳統統計軟體也都可能會用到,
筆者看來C題是目標與背景最為明確的題目,并且資料量充分,最不容易寫偏的一個題目,并針對該題做了最詳盡的解讀,
1.資料預處理
機器學習的必不可少的階段,對于缺失值的填充以及資料的可視化可以為大家提供以下代碼進行參考,(使用python的常規庫進行可視化可能大家都一個樣子,所以在資源中筆者提供了多種不常見的可視化代碼供選擇,并且圖片的B格也很高)本題是一個較為常規的預測類和方案規劃類大資料題目,
部分缺失值可視化代碼如下(示例):
import pandas as pd
import numpy as np
import pandas as pd
import numpy as np
import matplotlib.pyplot as plt
import seaborn as sns
import scipy.stats as st
%matplotlib inline
plt.style.use('seaborn-darkgrid')
sns.set(style = 'darkgrid')
import warnings
warnings.filterwarnings('ignore')
data = pd.read_csv('data.csv') //當前目錄下你的資料檔案
data.info()
import missingno as msn
msn.bar(train.sample(1000))
分布查看:
sn.set(style='dark',)
dist_cols = 8
dist_rows = len(test.columns)
plt.figure(figsize=(4*dist_cols,4*dist_rows))
i = 1
for col in column:
if col == 'price':
continue
ax = plt.subplot(dist_rows,dist_cols,i)
ax = sns.kdeplot(train[col],color='green',shade= True, cbar=True)
ax = sns.kdeplot(test[col],color='blue',shade=True,cbar=True)
ax.set_xlabel(col)
ax.set_ylabel('Frequency')
ax = ax.legend(['train','test'])
i+=1
plt.savefig('distribution.png')
plt.show()
## 2.讀入資料
<font color=#999AAA >代碼如下(示例):
```c
data = pd.read_csv(
'https://labfile.oss.aliyuncs.com/courses/1283/adult.data.csv')
print(data.head())
部分可視化效果圖演示:
缺失值可視化(為避免抄襲本文圖片并非與本資料相關,希望讀者自己跑圖并加以修改,本文的圖片是筆者在jupyternotebook跑的,用pycharm的話各位記得加plt.show()或者相應庫的顯示函式)


對于缺失值的常規填充就不再贅述,但想要資料更為合理,讀者可以考慮神經網路或其他模型的預測填充,
2.模型選擇以及注意事項
不可忽略的是題目要求僅根據價格給出策略,特別注意請勿使用價格以外的其他(讀者自行查找的資料)作為規劃的引數,要注意題目中已經將基本決策變數規定好,讀者可以自行分析進行使用或添加,原則上需要包含出題者意愿的所有決策變數,
關于模型選擇建議大家選目前比較先進的集成學習模型,因為預測的準確性性可能是很重要的一個評價論文的指標,讀者可以考慮諸如LightGBM等模型,可供參考的模型較多,就不一一列出,需要注意的是:無論是哪個模型,均需要讀者進行多次實驗,確定最佳引數(可以通過網格搜索)以及交叉驗證,并且不要忽視隨機種子對預測結果的影響,
相關的模型代碼我會放在文末資源中供大家參考,
該處使用的url網路請求的資料,
二、題目D的概況解讀
總體來講D題是一個相對開放性的題目,對于建模了解程度低的同學較為友好,
針對題目要求進行解釋:
(1)衡量ICM公司當前D&A系統成熟度水平的一個指標,包括衡量其D&A人員、技術和流程的成功程度的關鍵績效指標,很明顯第一問是一個運籌學問題,主要變數設定為該三項指標,對于指標影響的研究無非是探究指標的權重,關于權重的探究提供以下模型思路:層次分析,TOPSIS和灰度評價模型,就方法來看針對權重的決策方案在沒有資料支撐的情況下較為主觀,建議先查找文獻再確定使用哪種決策模型,筆者針對該題查找的參考文獻在文末附有,
(2)使用您的模型來確定其當前的D&A成熟度水平,演示他們如何使用您的
模型推薦對系統的更改,允許公司最大限度地發揮其資料資產的潛力,
本題可以看做是對問題一種的模型的優化題目,傳統做法為添加限制條件以及增加特殊情況對模型進行改進并加以驗證,
(3)制定有效性的協議,該問較為合理的做法 需要以資料作為支撐,并使用問題二中的評價指標確定該系統是否有效,可以看做0,1規劃或分類問題,
(4)體現模型的效益,針對應用于海港的方案,資源文獻可供參考,
三、關于其他題目
個人能力原因,如果有時間會后續更新其他題目,讀者可以再評論區留言,
資源
提示:輔助性資源可以參考使用,代碼部分最好修改使用,避免查重,
下面是筆者總結的全部資料,后續獲得的資料以及代碼會陸續更新,
https://mianbaoduo.com/o/bread/Ypebl5xy
碼字不易,感謝閱讀,
轉載請註明出處,本文鏈接:https://www.uj5u.com/qita/427495.html
標籤:AI
