深度学习（deep learning，以下简称DL），可以说是基于人工神经网络的机器学习。区别于传统的机器学习，DL需要更多样本，换来更少的人工标注和更高的准确率。DL利用深度来取代广度，进一步降低参数，提高拟合能力，很多情况下都比传统机器学习表现好。但DL和传统机器学习一样，DL学习的是一个映射f(x)=y，比如x是输入的手写数字图片，那么y就是0~9中的一个。传统的BP（(back propa
CNN(卷积神经网络)、RNN(循环神经网络)、DNN(深度神经网络)的内部网络结构有什么区别？以及他们的主要用途是什么？CNN 专门解决图像问题的，可用把它看作特征提取层，放在输入层上，最后用MLP (多层感知器)做分类。传统神经网络如下图所示CNN网络结构如图所示，CNN网络工作时，会伴随着卷积并且不断转换着这些卷积。RNN 专门解决时间序列问题的，用来提取时间序列信息，放在特征提取层（如CN
长短时记忆网络(Long Short Term Memory Network, LSTM)，是一种改进之后的循环神经网络，可以解决RNN无法处理长距离的依赖的问题，目前比较流行。长短时记忆网络的思路：原始 RNN 的隐藏层只有一个状态，即h，它对于短期的输入非常敏感。 再增加一个状态，即c，让它来保存长期的状态，称为单元状态(cell state)。把上图按照时间维度展开：在 t 时刻，LSTM
压缩的必要性很显然，在计算图中，张量在节点之间流动。在流到达可以处理的节点之前，减少流造成的延迟非常重要。一个方法是使用有损压缩减小尺寸。张量的数据类型可以发挥重要作用，让我们来理解为什么。很明显机器学习中的操作中有更高的精度。例如，如果我们使用float32作为张量的数据类型，那么每个值都表示为32位浮点数，因此每个值占用32位的大小，这同样适用于64位。假设一个形状为（1000,440,440
在worker之间交换数据现在我们知道Tensorflow将其所有操作分配到由worker管理的不同设备上。更常见的是，worker之间交换张量形式的数据，例如在e =（c）*（d）的图表中，一旦计算出c，就需要将其进一步传递给e，因此Tensor在节点间前向流动。 该流动如图所示：此处张量从设备A传递到设备B。这在分布式系统中引起了一些性能延迟。延迟取决于一个重要属性：张量大小。设备B处于空闲模
计算子图子图是主图的一部分，其本身就是计算图。例如，在上面的图中，我们可以获得许多子图，其中之一如下所示上面的图是主图的一部分，从属性2我们可以说子图总是表示一个子表达式，因为c是e的子表达式。 子图也满足最后一个属性。同一级别的子图也相互独立，可以并行执行。因此可以在一台设备上调度整个子图。上图解释了子图的并行执行。这里有2个矩阵乘法运算，因为它们都处于同一级别，彼此独立，这符合最后一个属性。由
不废话！两门课程的资源地址如下，感兴趣的读者可自行查看或下载：机器学习课程地址：https://www.coursera.org/course/ml笔记地址：http://www.ai-start.com/ml2014/深度学习课程地址：https://mooc.study.163.com/university/deeplearning_ai#/c笔记地址：http
关注
换一批
