使用StratifiedKFold实现交叉验证_手动实现kfold

使用sklearn包中的StratifiedKFold可以将数据按规定方式划分成任意块数，然后实现交叉验证。

但这个函数本身是不能返回交叉验证的分数的。他只是切分数据。

切分数据的规则是train set 和 test set每种类别比例和总的样本每种类别比例相同。

简单说明一下手动实现和自动实现两种方式。

代码实现：

这里利用sklearn中的iris数据包进行测试

from sklearn.datasets import load_iris
from sklearn.model_selection import StratifiedKFold
iris=load_iris(return_X_y=True)
X, y=iris

cvkFold = StratifiedKFold(n_splits=5, shuffle=True, random_state=0)
1
2
3
4
5
6

手动实现

scores=[]
from sklearn.neighbors import KNeighborsClassifier 
for i, j in cvkFold.split(X,y):
     #这个是返回的index集合，i是所有训练集的index，j是所有测试集的index
    X_train, X_test=X[i], X[j]
    y_train, y_test=y[i], y[j]
    clf=KNeighborsClassifier(n_neighbors=5)
    clf.fit(X_train, y_train)
    scores.append(clf.score(X_test, y_test))
    
print(scores)
1
2
3
4
5
6
7
8
9
10
11

关于它的split()方法，返回的是训练集和测试集的index。由于设置的n_splits=5，所以会产生5组不同的i和j，即5组不同的train set和test set。
每一组的i和j，都是存储了下标index的array。

利用cross_val_score自动获得结果:

from sklearn.model_selection import cross_val_score
clf=KNeighborsClassifier(n_neighbors=5)
scores=cross_val_score(clf, X, y, cv=cvkFold)
print(scores)
1
2
3
4

我们平时用cross_val_score的时候都是给cv这个参数设置一个数字，实际上它还可以设置成已经划分好的数据，比如StratifiedKFold这样的方式。

查看结果：

可以看出，结果只是在精度上不同而已，本质上是同样的结果。