热线电话:13121318867

登录
2019-01-30 阅读量: 777
神经网络参数的初始化

神经网络参数的更新和迭代:

参数初始化:

1、一开始要将参数进行随机初始化,不是全部置为0

如果所有参数都用相同的值作为初始值,那么所有隐藏层单元最终会得到与输入值有关的、相同的函数,对于任何输入x,都有:

2、随机初始化的目的是使对称失效,为求解神经网络,我们需要将每一个参数Wij和bi初始化为一个很小的,接近零的随机值

0.0000
2
关注作者
收藏
评论(0)

发表评论

暂无数据
推荐帖子