2019-01-30
阅读量:
777
神经网络参数的初始化
神经网络参数的更新和迭代:

参数初始化:
1、一开始要将参数进行随机初始化,不是全部置为0。
如果所有参数都用相同的值作为初始值,那么所有隐藏层单元最终会得到与输入值有关的、相同的函数,对于任何输入x,都有:

2、随机初始化的目的是使对称失效,为求解神经网络,我们需要将每一个参数Wij和bi初始化为一个很小的,接近零的随机值






评论(0)


暂无数据
推荐帖子
0条评论
0条评论
0条评论