呆板进修的正则化是什么意思？
发布时间：2019-10-16 09:22:43 所属栏目：建站 来源：佚名
导读：常常在各类文章或资料中看到正则化，好比说，一样平常的方针函数都包括下面两项 个中，偏差/丧失函数勉励我们的模子只管去拟合实习数据，使得最后的模子会有较量少的 bias。而正则化项则勉励越发简朴的模子。由于当模子简朴之后，有限数据拟合出来功效的随机性
|
下图是Python中Ridge回归的丧失函数，式中加号后头一项
即为L2正则化项。
一样平常回归说明中回归w暗示特性的系数，从上式可以看到正则化项是对系数做了处理赏罚（限定）。L1正则化和L2正则化的声名如下： L1正则化是指权值向量w中各个元素的绝对值之和，凡是暗示为
L2正则化是指权值向量w中各个元素的平方和然后再求平方根（可以看到Ridge回归的L2正则化项有平方标记），凡是暗示为
一样平常城市在正则化项之前添加一个系数，Python顶用α暗示，一些文章也用λ暗示。这个系数必要用户指定。 那添加L1和L2正则化有什么用？ L1正则化可以发生稀少权值矩阵，即发生一个稀少模子，可以用于特性选择 L2正则化可以防备模子过拟合（overfitting）。虽然，必然水平上，L1也可以防备过拟合 稀少模子与特性选择 上面提到L1正则化有助于天生一个稀少权值矩阵，进而可以用于特性选择。为什么要天生一个稀少矩阵？ （编辑：湖南网） 【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容! |
