∂神经网络 / 交互课堂CHAPTER 03 § 3.2.3

从一次预测,到一次学习

前向传播 & 反向传播

让数据向前,让梯度向后。亲手改变参数,读懂网络如何学习。

教材公式 3.15—3.21
详细推导 · 实时演算

选择网络结构

切换算例会恢复该结构的初始参数,并清空训练记录。

一次学习的路径

前向 · 输入 → 输出
前向激活反向梯度点击连线 / 神经元查看计算
网络预测 ŷ输出层激活值
目标值 y
当前损失 L½ (ŷ − y)²

重复,才是学习

观察梯度下降

使用当前样本,同时更新所有权重与偏置,再重新计算损失。

已更新参数0 次

点击“训练 1 次”,比较更新前后的损失。

这是单个样本的教学演示,损失下降不代表模型已具备泛化能力。学习率过大时,损失可能上升。

查看全部参数的梯度与下一次更新

梯度算对了吗?

用有限差分独立检查反向传播:轻微扰动参数,比较损失的变化率。