【AI达人养成营】炼丹小trick
1. DropOut
2. ReLu
3. Normalization
4. Skip connection:
5. big batch size
6. Consie Learning rate Descay:
7. Label smoothing
8. Focal loss
9. warm up
10. EMA model
11. lr_scheduler
【AI达人养成营】笔记
分布式训练分布式训练有两种实现模式:模型并行和数据并行。模型并行的方式一般适用于如下两个场景: 模型架构过大: 完整的模型...
【AI达人养成营】—学习笔记
:
作为最实用的快速排序法,通过查找资料,学习到了不同的实现方法:
《算法导论》中的快速排序程序:
在将其与我的代码对比后,发现其分片过程不同...
【AI达人养成营】学习笔记
较低,解决方法是提高模型复杂度,如增加层数或调整模型结构等。
过拟合的原因主要是模型的复杂度太高(层数太多)导致模型的学习能力过强,把一些噪声...
【AI达人养成营】11月笔记与心得
的AI达人养成营我也是通过朋友偶尔间了解到的,基本零编程基础,通过这次学习学到了很多东西,我要一步一步来,慢慢学习,向大佬看齐。...