扫码加入数据分析学习群

人工中性网络（ANN）是基于生物神经网络（例如大脑）的系统。大脑有大约1000亿个神经元，通过电化学信号进行通信。神经元通过称为突触的连接点连接。每个神经元接收数千个与其他神经元的连接，不断接收输入信号到达细胞体。如果得到的信号总和超过某个阈值，则通过轴突发送响应。人工神经网络尝试重建生物神经网络的计算镜像，尽管它不具有可比性，因为神经元的数量和复杂性以及生物神经网络中使用的数量和复杂性是人工中立网络。

ANN由人工神经元网络（也称为“节点”）组成。这些节点彼此连接，并且基于它们的强度为它们彼此连接的强度分配一个值：禁止（最大值为-1.0）或激励（最大值为+1.0）。如果连接的值很高，则表示存在强连接。在每个节点的设计中，内置了传递函数。人工神经网络中有三种类型的神经元，输入节点，隐藏节点和输出节点。

输入节点以可以数字表达的形式接收信息。信息显示为激活值，其中每个节点都有一个数字，数字越大，激活越大。然后，该信息在整个网络中传递。基于连接强度（权重），禁止或激励，以及传递函数，激活值从节点传递到节点。每个节点对它接收的激活值求和; 然后根据其传递函数修改该值。激活通过网络流经隐藏层，直到到达输出节点。然后，输出节点以有意义的方式将输入反映到外部世界。预测值和实际值（误差）之间的差异将通过根据节点负责的该误差量（例如，梯度下降算法）将它们分配到每个节点的权重来向后传播。

传输（激活）功能

传递函数将输入信号转换为输出信号。通常使用四种类型的传递函数，单位步长（阈值），S形，分段线性和高斯。单位步长（阈值）输出设置为两个级别之一，具体取决于总输入是否大于或小于某个阈值。

单位步长（阈值）

输出设置为两个级别之一，具体取决于总输入是否大于或小于某个阈值。

乙状结肠

sigmoid函数由2个函数组成，logistic和tangential。对于切向函数，逻辑函数的值在0和1之间，-1到+1。

分段线性 

输出与总加权输出成比例。

高斯

高斯函数是连续的钟形曲线。节点输出（高/低）根据类成员资格（1/0）进行解释，具体取决于净输入与所选平均值的接近程度。

 线性

像线性回归一样，线性激活函数使用线性函数将神经元的加权和输入转换为输出。

算法

存在不同类型的神经网络，但它们通常分为前馈和反馈网络。

前馈网络是包含输入，输出，和隐藏层的非经常性网络;信号只能在一个方向上传播。输入数据被传递到一层处理元素，在那里执行计算。每个处理元件基于其输入的加权和进行计算。然后，新的计算值将成为提供下一层的新输入值。此过程将继续，直到它遍历所有图层并确定输出。阈值传递函数有时用于量化输出层中神经元的输出。前馈网络包括Perceptron（线性和非线性）和径向基函数网络。前馈网络通常用于数据挖掘。

反馈网络（例如，回归神经网络或RNN）具有反馈式路径这意味着它们可以在使用循环两个方向上传播的信号。允许神经元之间的所有可能的连接。由于环路存在于这种类型的网络中，它变成一个非线性动态系统，它不断变化直到达到平衡状态。反馈网络通常用于关联存储器和优化问题，其中网络寻找互连因子的最佳排列。