热线电话:13121318867

登录
2019-01-14 阅读量: 867
正则化训练误差怎么求

给定一组训练样本

(x_1, y_1), \ldots, (x_n, y_n)

,其中

x_i \in \mathbf{R}^m

y_i \in \{-1,1\}

, 我们的目标是一个线性 scoring function(评价函数)

f(x) = w^T x + b

,其中模型参数

w \in \mathbf{R}^m

,截距

b \in \mathbf{R}

。为了做预测, 我们只需要看

f(x)

的符号。找到模型参数的一般选择是通过最小化由以下式子给出的正则化训练误差

E(w,b) = \frac{1}{n}\sum_{i=1}^{n} L(y_i, f(x_i)) + \alpha R(w)

其中

L

衡量模型(mis)拟合程度的损失函数,

R

是惩罚模型复杂度的正则化项(也叫作惩罚);

\alpha > 0

是一个非负超平面。

0.0000
5
关注作者
收藏
评论(0)

发表评论

暂无数据
推荐帖子