繁依Fanyi0

这个屌丝很懒，什么也没留下！

热门标签

Python中的scikit-learn机器学习功能库_sklearn.ensemble 在哪个包里

作者：繁依Fanyi0 | 2024-05-05 05:00:03

踩

sklearn.ensemble 在哪个包里

在真格量化提供的多个机器学习库中包括scikit-learn，其也简称 sklearn, 是机器学习领域当中最知名的 Python库之一。

在介绍scikit-learn之前，我们将介绍一些机器学习的基本概念。

机器学习：问题设置

一般来说，一个学习问题通常会考虑已知的一系列的 n 个样本（比如一个品种的历史价格数据) 数据，然后尝试预测未知数据的属性。如果每个样本是多个属性的数据（比如说是一个多维记录），就说它有许多“属性”，或称 features(特征) 。

我们可以将学习问题分为几大类:

监督学习 , 其中数据带有一个附加属性，即我们想要预测的结果值。这个问题可以是:

分类 : 样本属于两个或更多个类，我们想从已经标记的数据中学习如何预测未标记数据的类别。分类问题的一个简单例子是手写数字识别，其目的是将每个输入向量分配给有限数目的离散类别之一。我们通常把分类视作监督学习的一个离散形式（区别于连续形式），从有限的类别中，给每个样本贴上正确的标签。

回归 : 如果期望的输出由一个或多个连续变量组成，则该任务称为“回归” 。回归问题的一个简单例子是预测贵金属价格和央行利率的关系的函数形式。

无监督学习, 其中训练数据由没有任何相应目标值的一组输入向量x组成。这种问题的目标可能是在数据中发现彼此类似的示例所聚成的组，这种问题称为 “聚类” , 或者，确定输入空间内的数据分布，称为 “密度估计” ，又或从高维数据投影数据空间缩小到二维或三维以进行可视化。

训练集和测试集

机器学习是从数据的属性中学习，并将它们应用到新数据的过程。这就是为什么机器学习中评估算法的普遍实践是把数据分割成训练集（我们从中学习数据的属性）和测试集（我们测试这些性质）。

下边介绍一些sklearn的基本功能：

1.1 估计器（Estimator）

估计器，很多时候可以直接理解成分类器，主要包含两个函数：

fit()：训练算法，设置内部参数。接收训练集和类别两个参数。
predict()：预测测试集类别，参数为测试集。

大多数scikit-learn估计器接收和输出的数据格式均为numpy数组或类似格式。

1.2 转换器（Transformer）

转换器用于数据预处理和数据转换，主要是三个方法：

fit()：训练算法，设置内部参数。
transform()：数据转换。
fit_transform()：合并fit和transform两个方法。

1.3 流水线（Pipeline）

sklearn.pipeline包流水线的功能：

跟踪记录各步骤的操作（以方便地重现实验结果）
对各步骤进行一个封装
确保代码的复杂程度不至于超出掌控范围

基本使用方法

流水线的输入为一连串的数据挖掘步骤，其中最后一步必须是估计器，前几步是转换器。输入的数据集经过转换器的处理后，输出的结果作为下一步的输入。最后，用位于流水线最后一步的估计器对数据进行分类。

每一步都用元组（ ‘名称’，步骤）来表示。现在来创建流水线。

1.4 预处理

主要在sklearn.preprcessing包下。

规范化：

MinMaxScaler :最大最小值规范化
Normalizer :使每条数据各特征值的和为1
StandardScaler :为使各特征的均值为0，方差为1

编码：

LabelEncoder ：把字符串类型的数据转化为整型
OneHotEncoder ：特征用一个二进制数字来表示
Binarizer :为将数值型特征的二值化
MultiLabelBinarizer：多标签二值化

1.5 特征

1.5.1 特征抽取

包：sklearn.feature_extraction

特征抽取是数据挖掘任务最为重要的一个环节，一般而言，它对最终结果的影响要高过数据挖掘算法本身。只有先把现实用特征表示出来，才能借助数据挖掘的力量找到问题的答案。特征选择的另一个优点在于：降低真实世界的复杂度，模型比现实更容易操纵。

一般最常使用的特征抽取技术都是高度针对具体领域的，对于特定的领域，如图像处理，文本分析等，在过去一段时间已经开发了各种特征抽取的技术，但这些技术直接用到其他领域的效果就非常有限。

特征选择的原因如下：

(1)降低复杂度
(2)降低噪音
(3)增加模型可读性

DictVectorizer：将dict类型的list数据，转换成numpy array
FeatureHasher ：特征哈希，相当于一种降维技巧
image：图像相关的特征抽取
text：文本相关的特征抽取
text.CountVectorizer：将文本转换为每个词出现的个数的向量
text.TfidfVectorizer：将文本转换为tfidf值的向量
text.HashingVectorizer：文本的特征哈希

1.5.2 特征选择

包：sklearn.feature_selection

特征选择的原因如下：

(1)降低复杂度
(2)降低噪音
(3)增加模型可读性

VarianceThreshold：删除特征值的方差达不到最低标准的特征
SelectKBest：返回k个最佳特征
SelectPercentile：返回表现最佳的前r%个特征

单个特征和某一类别之间相关性的计算方法有很多。最常用的有卡方检验（χ2）。其他方法还有互信息和信息熵。

chi2：卡方检验（χ2）

1.6 降维

包：sklearn.decomposition

主成分分析算法（Principal Component Analysis， PCA）的目的是找到能用较少信息描述数据集的特征组合。它意在发现彼此之间没有相关性、能够描述数据集的特征，确切说这些特征的方差跟整体方差没有多大差距，这样的特征也被称为主成分。这也就意味着，借助这种方法，就能通过更少的特征捕获到数据集的大部分信息。

1.7 组合

包：sklearn.ensemble

组合技术即通过聚集多个分类器的预测来提高分类准确率。

常用的组合分类器方法：

(1)通过处理训练数据集。即通过某种抽样分布，对原始数据进行再抽样，得到多个训练集。常用的方法有装袋（bagging）和提升（boosting）。

(2)通过处理输入特征。即通过选择输入特征的子集形成每个训练集。适用于有大量冗余特征的数据集。随机森林（Random forest）就是一种处理输入特征的组合方法。

(3)通过处理类标号。适用于多分类的情况，将类标号随机划分成两个不相交的子集，再把问题变为二分类问题，重复构建多次模型，进行分类投票。

BaggingClassifier：Bagging分类器组合
BaggingRegressor：Bagging回归器组合
AdaBoostClassifier：AdaBoost分类器组合
AdaBoostRegressor：AdaBoost回归器组合
GradientBoostingClassifier：GradientBoosting分类器组合
GradientBoostingRegressor：GradientBoosting回归器组合
ExtraTreeClassifier：ExtraTree分类器组合
ExtraTreeRegressor：ExtraTree回归器组合
RandomTreeClassifier：随机森林分类器组合
RandomTreeRegressor：随机森林回归器组合

例子：

解释

装袋（bagging）：根据均匀概率分布从数据集中重复抽样（有放回），每个自助样本集和原数据集一样大，每个自助样本集含有原数据集大约63%的数据。训练k个分类器，测试样本被指派到得票最高的类。

提升（boosting）：通过给样本设置不同的权值，每轮迭代调整权值。不同的提升算法之间的差别，一般是（1）如何更新样本的权值，（2）如何组合每个分类器的预测。其中Adaboost中，样本权值是增加那些被错误分类的样本的权值，分类器C_i的重要性依赖于它的错误率。Boosting主要关注降低偏差，因此Boosting能基于泛化性能相当弱的学习器构建出很强的集成；Bagging主要关注降低方差，因此它在不剪枝的决策树、神经网络等学习器上效用更为明显。偏差指的是算法的期望预测与真实预测之间的偏差程度，反应了模型本身的拟合能力；方差度量了同等大小的训练集的变动导致学习性能的变化，刻画了数据扰动所导致的影响。

1.8 模型评估（度量）

包：sklearn.metrics

sklearn.metrics包含评分方法、性能度量、成对度量和距离计算。

分类结果度量

参数大多是y_true和y_pred。