Paddle与你第一次亲密接触 - 深度学习7日入门CV疫情特辑

匆匆走过的印迹。

打卡：

◎ 看视频 
◎ 看文档
◎ 按时完成作业
◎ 初次参与比赛

我的不足：

◎ 视频 - 匆忙看完、了解大概

◎ 文档 - 重点理论没有整理

◎ 作业

          - 仅做完要求的部分

          - 其他部分自己未动手

          - 代码没有仔细推敲

◎ 比赛

          - 跑通baseline了解大概思路

          - 还没来得真的弄明白

感受：

真的一个人做事又累效率低效果差，很久了但还是还有好多不会思绪好乱，希望路上多点陪伴，多指点Q：390229182

Trick调参术：

①　数据增强

②　Warmup

③　Zero γ

④　No bias decay

⑤　余弦学习速率衰减（Cosine Learning Rate Decay）

⑥　标签平滑（label smooth）

⑦　混合训练（Mixup Training）

⑧　知识蒸馏（Knowledge Distillation）

入门黑科技：

※ FRB （Forward Recomputation Backpropagation）

※ PaddleHub - 预训练模型管理工具

※ PaddleX - 深度学习图形化工具

作业全记录：

建议：

1、对于所有的作业在结营后公布一版较优秀的答案。（方便我这种菜菜复盘嘻嘻）

2、参与的人越来越多了，CPU、GPU都不太够用。（作业都是蹲在夜里一顿操作完）