所以我試圖在一個非常小的資料集（大約有 990 行的Kaggle Leaf）上調整 KNN 的超引數：
def knnTuning(self, x_train, t_train):
params = {
'n_neighbors': [1, 2, 3, 4, 5, 7, 9],
'weights': ['uniform', 'distance'],
'leaf_size': [5,10, 15, 20]
}
grid = GridSearchCV(KNeighborsClassifier(), params)
grid.fit(x_train, t_train)
print(grid.best_params_)
print(grid.best_score_)
return knn.KNN(neighbors=grid.best_params_["n_neighbors"],
weight = grid.best_params_["weights"],
leafSize = grid.best_params_["leaf_size"])
列印：
{'leaf_size'：5，'n_neighbors'：1，'weights'：'uniform'}
0.9119999999999999
我回傳這個分類器
class KNN:
def __init__(self, neighbors=1, weight = 'uniform', leafSize = 10):
self.clf = KNeighborsClassifier(n_neighbors = neighbors,
weights = weight, leaf_size = leafSize)
def train(self, X, t):
self.clf.fit(X, t)
def predict(self, x):
return self.clf.predict(x)
def global_accuracy(self, X, t):
predicted = self.predict(X)
accuracy = (predicted == t).mean()
return accuracy
我使用 700 行進行訓練，使用 200 行進行驗證運行了幾次，這些行是通過隨機排列選擇的。
然后我得到了從 0.01（通常）到 0.4（很少）的全域準確度的結果。
我知道我不是在比較兩個相同的指標，但我仍然無法理解結果之間的巨大差異。
任何幫助將不勝感激。
uj5u.com熱心網友回復：
不太確定您如何訓練模型或預處理是如何完成的。在葉集有大約100個標簽（種），所以你必須小心分裂測驗和培訓，以確保您的樣品的甚至分裂。奇怪的準確性的一個原因可能是您的樣本分割不均勻。
您還需要擴展您的功能：
from sklearn.preprocessing import LabelEncoder, StandardScaler
from sklearn.model_selection import GridSearchCV, StratifiedShuffleSplit
df = pd.read_csv("https://raw.githubusercontent.com/WenjinTao/Leaf-Classification--Kaggle/master/train.csv")
le = LabelEncoder()
scaler = StandardScaler()
X = df.drop(['id','species'],axis=1)
X = scaler.fit_transform(X)
y = le.fit_transform(df['species'])
strat = StratifiedShuffleSplit(n_splits=1, test_size=0.3, random_state=0).split(X,y)
x_train, y_train, x_test, y_test = [[X[train,:],y[train],X[test,:],y[test]] for train,test in strat][0]
如果我們進行培訓，我會小心包含 n_neighbors = 1 ：
params = {
'n_neighbors': [2, 3, 4],
'weights': ['uniform', 'distance'],
'leaf_size': [5,10, 15, 20]
}
sss = StratifiedShuffleSplit(n_splits=10, test_size=0.2, random_state=0)
grid = GridSearchCV(KNeighborsClassifier(), params, cv=sss)
grid.fit(x_train, y_train)
print(grid.best_params_)
print(grid.best_score_)
{'leaf_size': 5, 'n_neighbors': 2, 'weights': 'distance'}
0.9676258992805755
然后你可以檢查你的測驗：
pred = grid.predict(x_test)
(y_test == pred).mean()
0.9831649831649831
轉載請註明出處，本文鏈接：https://www.uj5u.com/ruanti/376182.html