链式法则 反向传播
-
“反向传播 x” 和 “损失函数”:
- 反向传播是一种用于训练神经网络的算法,通过计算损失函数对模型参数的梯度,然后根据这些梯度更新参数以最小化损失函数。
- 损失函数用于衡量模型预测值与真实值之间的差异。
-
“w,b” 和 “y = wx + b”:
- “w” 和 “b” 分别代表线性回归模型中的权重和偏置。
- “y = wx + b” 是线性回归模型的公式,其中 “x” 是输入特征,“y” 是模型的预测输出。
-
- 这些公式表示损失函数 “L” 对权重 “w” 和偏置 “b” 的偏导数计算。偏导数用于确定损失函数在每个参数方向上的变化率,从而指导参数的更新。
-
表格部分:
- 第一行列出了各个参数的名称,包括输入 “x”、权重 “w”、偏置 “b” 以及模型的输出计算公式。
- 第二行展示了一个具体的示例数据点,其中输入 “x” 为 1.5,初始权重 “w” 为 0.8,初始偏置 “b” 为 0.2,模型输出为 “0.8×1.5 + 0.2 = 1.4”。
- 第三行可能是另一个数据点或者中间计算结果,输入 “x” 仍为 1.5,但权重变为 0.71,偏置暂未给出,模型输出计算为 “0.71×1.5 + 暂未给出的值 = 1.205”。