当前位置:   article > 正文

机器学习中 L1 和 L2 正则化_gbdt可以加入l1l2正则化项吗

gbdt可以加入l1l2正则化项吗

降低过拟合的方法:

降低过拟合风险的方法

所有为了减少测试误差的策略统称为正则化方法,这些方法可能会以增大训练误差为代价。

  • 数据增强
    • 图像:平移、旋转、缩放
    • 利用生成对抗网络(GAN)生成新数据
    • NLP:利用机器翻译生成新数据
  • 降低模型复杂度
    • 神经网络:减少网络层、神经元个数
    • 决策树:降低树的深度、剪枝
    • ...
  • 权值约束(添加正则化项)
    • L1 正则化
    • L2 正则化

L1,L2正则化解释

  • 集成学习
    • 神经网络:Dropout
    • 决策树:随机森林、GBDT
  • 提前终止
声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/小丑西瓜9/article/detail/574620
推荐阅读
相关标签
  

闽ICP备14008679号