赞
踩
今天还是机器学习的基础知识内容,也是最基础的哈。首先说一下什么是正则化,其实它就是一个减少方差的策略。那么什么是方差呢?在这里也引入一个和方差相辅相成的概念--偏差。
我们通常所说的过拟合现象,也就是指的高方差,就是模型在训练集上训练的超级好,几乎全部都能拟合。 但是这种情况如果换一个数据集往往就会非常差, 正则化的思想就是在我们的目标函数中价格正则项, 即:
在这里正则项有两种,分别是L1和L2,先来看一下两者的表达式:
如果加上这种正则项,就是希望我们的代价函数小,同时也希望我们这里的<
Copyright © 2003-2013 www.wpsshop.cn 版权所有,并保留所有权利。