我遇到了單熱編碼問題

我正在對足球資料集使用邏輯回歸，但似乎當我嘗試對主隊名稱和客隊名稱進行一次熱編碼時，它為模型提供了 100% 的準確度，即使在進行 train_test_split 時我仍然得到 100。什么是我做錯了嗎？

from sklearn.linear_model 
import LogisticRegression
from sklearn.model_selection  import train_test_split
from sklearn.metrics import accuracy_score, precision_score, recall_score, f1_score
from sklearn.preprocessing import OneHotEncoder
import pandas as pd
import numpy as np
df = pd.read_csv("FIN.csv")
df['Date'] = pd.to_datetime(df["Date"])
df = df[(df["Date"] > '2020/04/01')]
df['BTTS'] = np.where((df.HG > 0) & (df.AG > 0), 1, 0)
#print(df.to_string())
df.dropna(inplace=True)
x = df[['Home', 'Away', 'Res', 'HG', 'AG', 'PH', 'PD', 'PA', 'MaxH', 'MaxD', 'MaxA', 'AvgH', 'AvgD', 'AvgA']].values
y = df['BTTS'].values

np.set_printoptions(threshold=np.inf)
model = LogisticRegression()
ohe = OneHotEncoder(categories=[df.Home, df.Away, df.Res], sparse=False)
x = ohe.fit_transform(x)
print(x)
model.fit(x, y)
print(model.score(x, y))
x_train, x_test, y_train, y_test = train_test_split(x, y, shuffle=False)
model.fit(x_train, y_train)
print(model.score(x_test, y_test))
y_pred = model.predict(x_test)
print("accuracy:", 
accuracy_score(y_test, y_pred))
print("precision:", precision_score(y_test, y_pred))
print("recall:", recall_score(y_test, y_pred))
print("f1 score:", f1_score(y_test, y_pred))

uj5u.com熱心網友回復：

過度擬合將是您的訓練準確度非常高而測驗準確度非常低的情況。這意味著它“過度擬合”，因為它本質上只是了解訓練的結果，但不能很好地適應新的、看不見的資料。

正如我在評論中所說的那樣，您獲得 100% 準確度的原因正是（由于缺乏更好的術語）資料泄漏。您實際上是在允許您的模型“作弊”。您的目標變數y（即'BTTS'）是由資料設計的特征。它源自'HG'和'AG'，因此與您的目標高度 (100%) 相關/關聯。'BTTS'當兩者都大于 1 時，您定義為 1。然后您的訓練資料中包含這 2'HG'列。'AG'所以模型簡單地選擇了那個明顯的關聯（即，當主隊進球數為 1 或更多，客隊進球數為 1 或更多時 -> 兩支球隊都得分）。

一旦模型看到這兩個大于 0 的值，它就會預測 1，如果這些值之一是 0，它會預測 0。

從 x（特征）中洗掉'HG'和“ ”。AG

一旦我們洗掉了這 2 列，您將在此處看到更真實的性能（盡管很差 - 比拋硬幣稍微好一點）：

1.0
0.5625
accuracy: 0.5625
precision: 0.6666666666666666
recall: 0.4444444444444444
f1 score: 0.5333333333333333

使用混淆矩陣：

from sklearn.metrics import confusion_matrix
labels = labels = np.unique(y).tolist()
cf_matrixGNB = confusion_matrix(y_test, y_pred, labels=labels)


import seaborn as sns
import matplotlib.pyplot as plt

ax = sns.heatmap(cf_matrixGNB, annot=True, 
             cmap='Blues')

ax.set_title('Confusion Matrix\n');
ax.set_xlabel('\nPredicted Values')
ax.set_ylabel('Actual Values ');
ax.xaxis.set_ticklabels(labels)
ax.yaxis.set_ticklabels(labels)

plt.show()

另一種選擇是做一個計算欄位'Total_Goals'，然后看看它是否可以預測。顯然，它在顯而易見的方面有一點幫助（如果'Total_Goals'是 0 或 1，那么'BTTS'將是 0。）。但是如果'Total_Goals'是 2 或更多，如果其中一個團隊被拒之門外，它將不得不依靠其他功能來嘗試解決。

這是那個例子：

from sklearn.linear_model import LogisticRegression
from sklearn.model_selection  import train_test_split
from sklearn.metrics import accuracy_score, precision_score, recall_score, f1_score
from sklearn.preprocessing import OneHotEncoder
import pandas as pd
import numpy as np


df = pd.read_csv("FIN.csv")
df['Date'] = pd.to_datetime(df["Date"])
df = df[(df["Date"] > '2020/04/01')]
df['BTTS'] = np.where((df.HG > 0) & (df.AG > 0), 1, 0)
#print(df.to_string())
df.dropna(inplace=True)
df['Total_Goals'] = df['HG']   df['AG']

x = df[['Home', 'Away', 'Res', 'Total_Goals', 'PH', 'PD', 'PA', 'MaxH', 'MaxD', 'MaxA', 'AvgH', 'AvgD', 'AvgA']].values
y = df['BTTS'].values

np.set_printoptions(threshold=np.inf)
model = LogisticRegression()

ohe = OneHotEncoder(sparse=False)
x = ohe.fit_transform(x)
#print(x)
model.fit(x, y)
print(model.score(x, y))
x_train, x_test, y_train, y_test = train_test_split(x, y, shuffle=False)
model.fit(x_train, y_train)
print(model.score(x_test, y_test))
y_pred = model.predict(x_test)
print("accuracy:", 
accuracy_score(y_test, y_pred))
print("precision:", precision_score(y_test, y_pred))
print("recall:", recall_score(y_test, y_pred))
print("f1 score:", f1_score(y_test, y_pred))

from sklearn.metrics import confusion_matrix
labels = np.unique(y).tolist()
cf_matrixGNB = confusion_matrix(y_test, y_pred, labels=labels)


import seaborn as sns
import matplotlib.pyplot as plt

ax = sns.heatmap(cf_matrixGNB, annot=True, 
             cmap='Blues')

ax.set_title('Confusion Matrix\n');
ax.set_xlabel('\nPredicted Values')
ax.set_ylabel('Actual Values ');
ax.xaxis.set_ticklabels(labels)
ax.yaxis.set_ticklabels(labels)

plt.show()

輸出：

1.0
0.8
accuracy: 0.8
precision: 0.8536585365853658
recall: 0.7777777777777778
f1 score: 0.8139534883720929

標籤：麻木的 scikit-学习

上一篇：如何以特定時間間隔獲取最新行以形成資料框？

下一篇：numpy.tensordot或ufunc可以替換這個嵌套的for回圈嗎？