Adam优化器我们都不陌生，他能够利用梯度的一阶矩估计和二阶矩估计动态调整每个参数的学习率。事实上，在深度学习中，论文引用次数最多的就是Adam优化器的这篇文章。
1、adam优点收敛速度快、调参容易，因为它内部就能动态调整学习率。
2、adam缺点¶是大佬们采用了一些比较特殊的例子得出的结论，在日常中，我们可能遇到这种情况比较少。
（1）Adam在某些情况下会出现无法收敛的情况。
（2）Adam的泛化问题。
