当前位置:   article > 正文

如何用机器学习算法计算特征重要性_基尼指数能计算svm bpnn输入特征的重要度

基尼指数能计算svm bpnn输入特征的重要度

1.决策树

使用基尼系数(GI)和信息增益(IG)为决策树计算特征重要性。

(1)信息增益(information gain)

假定当前样本集合D中第k类样本所占我的比例为,则D的信息熵

                    (1)

的值越小,则D的纯度越高。

假定离散属性a有V个可能的取值,若使用a来对样本集D进行划分,则会产生V个分支节点,其中第v个分支节点包含了D中所有在属性a上取值为的样本,记为

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/Monodyee/article/detail/144915
推荐阅读
相关标签
  

闽ICP备14008679号