凡是模仿人的神经网络构建出来的数学模型，都叫神经网络。神经网络是实现人工智能的一种途径。在讲解bp神经网络之前，我们需要知道bp神经网络与之对应级别的其他神经网络是什么。经典代表：感知机、Hopfield神经网络、径向基神经网络....等等。

1、bp神经网络优点
与bp神经网络最大的区别是这些神经网络使用的优化算法不同，有些是直接人工调整，有些是感知机的算法。而bp最大的优点是通过反向传播算法来对模型进行自动优化，我们只需要保证网络的前向过程是一个可微分的过程，就能使用bp(back propagation反向传播)算法。这是我们今天优化神经网络最主流，应用范围最广的算法，我们的深度学习框架最核心的部分就是帮我们自动实现了反向传播功能。

2、bp神经网络缺点
（1）初始参数敏感，根据我们的初始参数设置的不同，我们使用的梯度下降算法也会模型优化到不同的极小区域，影响了我们最终的模型效果。

（2）过拟合问题，使用反向传播算法常常可以使得我们在训练集上的损失训练到比较小，但是在测试集上损失会增加。

（3）结构复杂，各领域不统一，至今尚无一种统一而完整的理论指导，一般只能由经验选定。例如计算机视觉领域的Resnet，Unet，Swin Transformer；自然语言处理领域的RNN，BERT等。