人工神经网络—【BP】反向传播算法证明

2018-08-27

人工神经网络—【BP】反向传播算法证明 第一步：前向传播 【注】此BP算法的证明仅限sigmoid激活函数情况。本博文讲道理是没错的，毕竟最后还利用代码还核对了一次理论证明结果。 简单的三层网络结构如下 ...

神经网络激活函数和损失函数

2018-08-24

神经网络激活函数和损失函数 激活函数 1、sigmoid sigmoid函数曲线如下: sigmoid激活函数，符合实际，当输入值很小时，输出接近于0；当输入值很大时，输出值接近于1。 但sigmoid激活 ...

深度学习：神经网络中的前向传播和反向传播算法推导

2018-08-20

深度学习：神经网络中的前向传播和反向传播算法推导 1. 神经网络 这是一个常见的神经网络的图： 这是一个常见的三层神经网络的基本构成，Layer L1是输入层，Layer L2是隐含层，Layer L3是隐含层，当我们输入x ...

神经网络中的前向和后向算法

2018-08-20

神经网络中的前向和后向算法 看了一段时间的深度网络模型，也在tf和theano上都跑了一些模型，但是感觉没有潜下去，对很多东西的理解都只停留在“这个是干什么的”层次上面。昨天在和小老师一起看一篇文章的时候 ...

你知道SAS也可以实现神经网络吗

2018-08-18

你知道SAS也可以实现神经网络吗 神经网络的理论太长了，我就不写上来了，本次的代码是根据这本书《数据挖掘与应用》--张俊妮中神经网络这一章我做了思路的改动以及在原本代码的基础上，我把它封装好变成一个完 ...

深入浅出BP神经网络算法的原理

2018-08-06

深入浅出BP神经网络算法的原理 相信每位刚接触神经网络的时候都会先碰到BP算法的问题，如何形象快速地理解BP神经网络就是我们学习的高级乐趣了（画外音：乐趣？你在跟我谈乐趣？） 本篇博文就是要简单粗暴地 ...

神经网络入门之bp算法，梯度下降

2018-08-01

神经网络入门之bp算法，梯度下降 本人作为一个想进行NLP研究的新手，看了很多网络上很好的神经网络的入门代码和数学原理。但是个人数学比较烂，很多东西想了很久才想明白，又害怕忘掉。为此写下这篇大白话入门 ...

BP神经网络算法与实践

2018-07-30

BP神经网络算法与实践 神经网络曾经很火，有过一段低迷期，现在因为深度学习的原因继续火起来了。神经网络有很多种：前向传输网络、反向传输网络、递归神经网络、卷积神经网络等。本文介绍基本的反向传输神经网 ...

机器学习之神经网络入门

2018-07-28

机器学习之神经网络入门 神经网络是由具有适应性的简单单元组成的广泛并行互连的网络，它的组织能够模拟生物神经系统对真实世界物体所作出的交互反应。神经网络用途极其广泛，本文采用神经网络算法用于金融领域 ...

Python使用numpy实现BP神经网络

2018-07-27

Python使用numpy实现BP神经网络 本文完全利用numpy实现一个简单的BP神经网络，由于是做regression而不是classification，因此在这里输出层选取的激励函数就是f(x)=x。BP神经网络的具体原理此处不再介绍。 &nbs ...

神经网络原理及应用

2018-07-26

神经网络原理及应用 1.       什么是神经网络？ 神经网络是一种模拟动物神经网络行为特征，进行分布式并行信息处理的算法。这种网络依靠系统的复杂程度，通过调整内部大量节 ...

神经网络测试结果很差，该怎么做

2018-07-26

神经网络测试结果很差，该怎么做 当我们编程实现了神经网络模型，将模型用于测试集时，经常会发现测试的准确率非常的低，神经网络层数很深，通常我们不容易判断具体的梯度下降求解参数的过程，那我们该 ...

BP神经网络基本原理

2018-07-26

BP神经网络基本原理 2.1 BP神经网络基本原理 BP网络模型处理信息的基本原理是：输入信号Xi通过中间节点（隐层点）作用于输出节点，经过非线形变换，产生输出信号Yk，网络训练的每个样本包括输入向量X和期望 ...

神经网络从原理到实现

2018-07-25

神经网络从原理到实现 1.简单介绍     在机器学习和认知科学领域，人工神经网络（artificial neural network，缩写ANN），简称神经网络（neural network，缩写NN）或类神经网络，是一种模仿生 ...

神经网络的关键是什么

2018-07-25

神经网络的关键是什么 相对于传统的线性和非线性方法，为什么神经网络会如此强大？ 当你有一个线性模型，每一个功能要么对你有帮助，要么对你有伤害，这种假设是线性模型中固有的。因此线性模型要么功能异常 ...

入门 | 一文简述循环神经网络

2018-07-24

入门 | 一文简述循环神经网络 本文简要介绍了什么是循环神经网络及其运行原理，并给出了一个 RNN 实现示例。 什么是循环神经网络（RNN）？它们如何运行？可以用在哪里呢？本文试图回答上述这些问题，还展示 ...

从零开始用Python构建神经网络

2018-07-04

从零开始用Python构建神经网络 动机：为了更加深入的理解深度学习，我们将使用 python 语言从头搭建一个神经网络，而不是使用像 Tensorflow 那样的封装好的框架。我认为理解神经网络的内部工作原理，对数据科学 ...

用神经网络RNN模仿特朗普的语言风格！

2020-06-02

为了获得更多民众的支持，美国总统演讲/发推时使用的语言通常都很「接地气」，而现任总统唐纳德·特朗普则更以「口无遮拦」著称。由于「推特狂魔」已经为我们准备了大量训练数据，现在让我们尝试一下如何使用循环 ...

神经网络中权值初始化的方法

2018-06-01

神经网络中权值初始化的方法 权值初始化的方法主要有：常量初始化（constant）、高斯分布初始化（gaussian）、positive_unitball初始化、均匀分布初始化（uniform）、xavier初始化、msra初始化、双线性初始化（ ...

R语言利用nnet包训练神经网络模型

2018-05-23

R语言利用nnet包训练神经网络模型 R语言提供了另外一个能够处理人工神经网络的算法包nnet，该算法提供了传统的前馈反向传播神经网络算法的实现。 操作 安装包与数据分类： library(nnet) data(\"iris\") set.s ...