当前位置:   article > 正文

随机森林_随机森林shap

随机森林shap
bagging集成原理

bagging主要思想是从总样本中随机抽取一部分样本,训练产生一个分类器,在重复的几次,训练产生n个分类器,当要判断另一个 样本B的分类结果时,b样本输入到模型内对应不同的分类器,如果大部分分类器的结果是假如是A,那么B样本的判断结果就属于A类别
在这里插入图片描述

随机森林的构造过程
  • 随机森林是一种基于树模型Bagging的优化版本,能够执行回归和分类的任务

  • 随机森林的构造过程
    随机的从样本中抽取m个特征样本,训练产生决策树,重复n次产生n个弱的决策树,最后根据n个弱决策树分类器的投票结果,决定数据属于哪一类。

  • n个训练决策树的生成规则:

  1. 每次抽取是随机且有放回的从训练集中收取数据作为训练样本
  2. 每次抽取m个特征样本,n<M (M表示所有样本特征)
  • OOB
    每次抽取随机且有放回的样本,那么总有一部分抽不到,抽不到的这部分树就是OOB(out-of-bag)数据,有时也称袋外数据,这部分 数据可用于验证集用于测试模型的性能
声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/Gausst松鼠会/article/detail/285547
推荐阅读
相关标签
  

闽ICP备14008679号