目录
前言
一、正向传播
概念：
计算方法
二、反向传播
概念：
2.计算方法
总结
前言
BP(BackPropagation) 算法是神经网络深度学习中最重要的算法之一，是一种按照误 差逆向传播算法训练的多层前馈神经网络，是应用最广泛的神经网络模型之一 。
一、正向传播
概念：
输入层的神经元负责接受外界发来的各种信息，并将信息传递给中间层 神经元，中间隐含层神经元负责将接收到的信息进行处理变换，根据需求处理信息， 实际应用中可将中间隐含层设置为一层或者多层隐含层结构，并通过最后一层的隐含 层将信息传递到输出层，这个过程就是BP神经网络的正向传播过程。
计算方法
计算神经元h1的输入加权和：
神经元h1的输出o1:(此处用到激活函数为sigmoid函数)：
剩下的以此类推
二、反向传播 概念：
当实际输出与理想输出之间的误差超过期望时，就需要进入误差的反向 传播过程。它首先从输出层开始，误差按照梯度下降的方法对各层权值进行修正，并 依次向隐含层、输入层传播。通过不断的信息正向传播和误差反向传播，各层权值会 不断进行调整，这就是神经网络的学习训练。当输出的误差减小到期望程度或者预先 设定的学习迭代次数时，训练结束，BP神经网络完成学习
2.计算方法
1. 计算总误差
2. 隐含层---->输出层的权值更新： 以权重参数w4为例，如果我们想知道w5对整体误差产生了多少影响，可以用 整体误差对w4求偏导求出：（链式法则）
这样我们就计算出整体误差E(total)对w4的偏导值。 最后我们来更新w4的值：
剩下的以此类推
总结
把更新的权值重新计算，不停地迭代，得出最优解。
