疫情期间宅在家里，恰好看到百度推出了这套为期30天的深度学习课程。我本科读的是智能科学专业，但这个专业开设在自动化学院，学习的东西比较杂，正式接触深度学习也是在做毕设的时候才开始，内容是图像方面的，正好借此机会学习一下NLP和推荐相关的内容充实一下自己。

       这期课程分为两个阶段，第一阶段是关于自然语言处理的。第一周讲的主要是关于词向量方面的知识，学习了skip-gram与cbow两个经典Word to vector的方法。这周的作业题是将skip-gram模型改写为cbow。通过这次作业，我熟悉了使用飞桨框架构建和训练模型的方法，也对skip-gram与cbow之间的联系与差异认识的更加充分。第二周主要讲的是手动实现一个LSTM。通过这节课，我主要学习到了LSTM的结构与原理，以及在搭建网络时怎么样尽可能的让参数并行运算来提升计算效率。与此同时，NLP阶段的比赛也正式开启，老师也提供了一些比赛思路。随着transformer模型的提出，LSTM逐渐被淘汰，基于自注意力机制的预训练模型bert和百度的ernie在自然语言处理任务上显然更有优势。比赛中我尝试了各种模型以及不同的训练参数，尝试用eda数据增强来取得更好的效果。

       第二阶段是关于推荐系统的课程，感觉毕然老师讲的特别清晰，关于数据处理，模型的设计思路，‘万物皆可embedding‘的思想都使我受益良多。同时，老师也分享了很多推荐系统具体在工业应用中遇到的问题和一些常见的解决方案。让我对实际应用中的推荐系统有了更多的了解。

       接下来我也准备继续学习之后的课程，也希望百度ai studio越来越好。