当前位置:秒懂库 > 学习教育 > l1正则化和l2正则化的区别
手机版

l1正则化和l2正则化的区别

来源:秒懂库 阅读:3.42W 次

l1和l2正则化的区别是:

l1正则化和l2正则化的区别

1、L1是模型各个参数的绝对值之和。L2是模型各个参数的平方和的开方值。

2、L1会趋向于产生少量的特征,而其他的特征都是0,因为最优的参数值很大概率出现在坐标轴上,这样就会导致某一维的权重为0 ,产生稀疏权重矩阵。L2会选择更多的特征,这些特征都会接近于0。

3、最优的参数值很小概率出现在坐标轴上,因此每一维的参数都不会是0。当最小化||w||时,就会使每一项趋近于0。

本文链接:https://www.miaodongku.com/xxjy/xo4v5l.html
#l2 #正则 #l1

Copyright © 2024. 秒懂库 All right reserved. 黑ICP备20202358号-2

文字美图素材,版权属于原作者。部分文章内容由网友提供推送时因种种原因未能与原作者联系上,若涉及版权问题,敬请原作者联系我们,立即处理。