深度学习入门课程学习笔记06 反向传播
反向传播：
咱们在之前的课程讲了一系列的前向传播的知识点，前向传播也就是从输入到最终计算出LOSS值这一系列过程，那么这节课咱们要讲一个更重要的知识点也就是反向传播。反向传播最直观的意思就是说咱们要从LOSS值入手一步步的往回看，看什么呢？就是要看咱们的每一个权重参数对最终的LOSS值做了多大的贡献。
最简单的小例子
首先咱们用一个最简单的小例子来看一下反向传播是怎么一回事，如上图最终的LOSS值等于-12下面咱们就要算对于X,Y,Z三个输入来说分别对于LOSS值做了多大的贡献，首先咱们用q=x+y，f=qz分别表示中间的计算过程。那么咱们要算什么呢？反向传播最终要算的就是最终的LOSS值对X,Y,Z三个输入的偏导数，这个偏导数该怎么算呢？在这里我们遵循一个链式法则也就是对于输入来说他对于最终LOSS的贡献等于他前面传播下来的梯度再乘以自身的梯度。
链式法则
这里就是梯度传播的计算方式，我们要算X和Y对于最终LOSS的贡献（换句话说就是反向传播到X和Y的梯度的大小）要先算前面一层传播到X和Y的梯度再去计算X和Y自身的梯度。
稍难的例子
咱们再来看一个稍微难一些的例子，上图表示的是咱们之前说过的这个SIGMOID函数，咱们接下来要算的就是这个函数梯度传播的过程，导数计算的公式我已经写在图上了，咱们只需要根据导数的计算方式一步步的从最终的LOSS值往回算就可以了，下面浅红色的值就是梯度传播的值。
这里我们可以看到梯度传播可以是一步一步的传播也可以一步传播一整块，这一整块我们把它当做是一个整体，相应的就要计算这一整个块的梯度了，也就是直接对SIGMOID函数求导。
梯度传播的门
这里咱们所说的门就是一个单位区域，我们可以从图中看出来咱们在计算梯度传播的过程中无外乎就是这几种门的操作，每种门也都有它各自的特性，他们的特性是怎么得出的呢？这里就不带大家一步步算了，咱们可以动动笔算一下梯度的传播然后就知道为什么这些门有不同的特性了。
反向传播就先说到这里了，这里只是很简单的谈了一下反向传播具体的计算过程如果同学们还是不太理解建议看一下原始课程会有很详细的推导。
数据分析咨询请扫描二维码
若不方便扫码，搜微信号：CDAshujufenxi
数据分析的核心价值在于用数据驱动决策，而指标作为数据的“载体”，其选取的合理性直接决定分析结果的有效性。选对指标能精准定 ...
2026-01-23在MySQL查询编写中，我们习惯按“SELECT → FROM → WHERE → ORDER BY”的语法顺序组织语句，直觉上认为代码顺序即执行顺序。但 ...
2026-01-23数字化转型已从企业“可选项”升级为“必答题”，其核心本质是通过数据驱动业务重构、流程优化与模式创新，实现从传统运营向智能 ...
2026-01-23CDA持证人已遍布在世界范围各行各业，包括世界500强企业、顶尖科技独角兽、大型金融机构、国企事业单位、国家行政机关等等，“CDA数据分析师”人才队伍遵守着CDA职业道德准则，发挥着专业技能，已成为支撑科技发展的核心力量。 ...
2026-01-22在数字化时代，企业积累的海量数据如同散落的珍珠，而数据模型就是串联这些珍珠的线——它并非简单的数据集合，而是对现实业务场 ...
2026-01-22在数字化运营场景中，用户每一次点击、浏览、交互都构成了行为轨迹，这些轨迹交织成海量的用户行为路径。但并非所有路径都具备业 ...
2026-01-22在数字化时代，企业数据资产的价值持续攀升，数据安全已从“合规底线”升级为“生存红线”。企业数据安全管理方法论以“战略引领 ...
2026-01-22在SQL数据分析与业务查询中，日期数据是高频处理对象——订单创建时间、用户注册日期、数据统计周期等场景，都需对日期进行格式 ...
2026-01-21在实际业务数据分析中，单一数据表往往无法满足需求——用户信息存储在用户表、消费记录在订单表、商品详情在商品表，想要挖掘“ ...
2026-01-21在数字化转型浪潮中，企业数据已从“辅助资源”升级为“核心资产”，而高效的数据管理则是释放数据价值的前提。企业数据管理方法 ...
2026-01-21在数字化商业环境中，数据已成为企业优化运营、抢占市场、规避风险的核心资产。但商业数据分析绝非“堆砌数据、生成报表”的简单 ...
2026-01-20定量报告的核心价值是传递数据洞察，但密密麻麻的表格、复杂的计算公式、晦涩的数值罗列，往往让读者望而却步，导致核心信息被淹 ...
2026-01-20在CDA（Certified Data Analyst）数据分析师的工作场景中，“精准分类与回归预测”是高频核心需求——比如预测用户是否流失、判 ...
2026-01-20在建筑工程造价工作中，清单汇总分类是核心环节之一，尤其是针对楼梯、楼梯间这类包含多个分项工程（如混凝土浇筑、钢筋制作、扶 ...
2026-01-19数据清洗是数据分析的“前置必修课”，其核心目标是剔除无效信息、修正错误数据，让原始数据具备准确性、一致性与可用性。在实际 ...
2026-01-19在CDA（Certified Data Analyst）数据分析师的日常工作中，常面临“无标签高维数据难以归类、群体规律模糊”的痛点——比如海量 ...
2026-01-19在数据仓库与数据分析体系中，维度表与事实表是构建结构化数据模型的核心组件，二者如同“骨架”与“血肉”，协同支撑起各类业务 ...
2026-01-16在游戏行业“存量竞争”的当下，玩家留存率直接决定游戏的生命周期与商业价值。一款游戏即便拥有出色的画面与玩法，若无法精准识 ...
2026-01-16为配合CDA考试中心的 2025 版 CDA Level III 认证新大纲落地，CDA 网校正式推出新大纲更新后的第一套官方模拟题。该模拟题严格遵 ...
2026-01-16在数据驱动决策的时代，数据分析已成为企业运营、产品优化、业务增长的核心工具。但实际工作中，很多数据分析项目看似流程完整， ...
2026-01-15
京公网安备 11010802034615号
经营许可证编号：京B2-20210330
