百度深度学习集训营已经正式开营，每个阶段的作业都将有各自的奖励，欢迎大家学习~
PS：如遇帖子过期、审核不通过的情况，请先复制内容保存在word文档，然后根据提示，完成个人实名验证，刷新后重新粘贴复制的内容，即可提交~
欢迎大家报名参加~
1月9日作业：
作业9-1：在第二章中学习过如何设置学习率衰减，这里建议使用分段衰减的方式，衰减系数为0.1， 根据ResNet目前的训练情况，应该在训练到多少步的时候设置衰减合适？请设置好学习率衰减方式，在眼疾识别数据集iChallenge-PM上重新训练ResNet模型。
作业9-1奖励：在作业中随机各抽取5名同学送出飞桨本+数据线+飞桨贴纸
回复帖子形式： 作业9-1：XXX
抽奖作业截止时间：2020年1月13日中午12点之前
作业9-2奖励：在作业中随机各抽取5名同学送出飞桨本+数据线+飞桨贴纸
回复帖子形式： 作业9-2：XXX
抽奖作业截止时间：2020年1月13日中午12点之前
1月7日作业：
作业8：如果将LeNet模型中的中间层的激活函数Sigmoid换成ReLU，在眼底筛查数据集上将会得到什么样的结果？Loss是否能收敛，ReLU和Sigmoid之间的区别是引起结果不同的原因吗？请发表你的观点
作业8奖励：在作业中随机各抽取5名同学送出飞桨本+数据线+飞桨贴纸
回复帖子形式： 作业8：XXX
获奖同学：#820 thunder95、#819 你还说不想我吗、 #818 百度用户#0762194095、#817 呵赫 he、#816 星光1dl
1月2日作业
作业7-1 计算卷积中一共有多少次乘法和加法操作
输入数据形状是[10, 3, 224, 224]，卷积核kh = kw = 3，输出通道数为64，步幅stride=1，填充ph = pw =1
完成这样一个卷积，一共需要做多少次乘法和加法操作？
提示：先看输出一个像素点需要做多少次乘法和加法操作，然后再计算总共需要的操作次数
提交方式：请回复乘法和加法操作的次数，例如：乘法1000，加法1000
作业7-1奖励：抽取5人赢得飞桨定制本+数据线，截止时间2020年1月6日中午12点之前
回复帖子形式： 作业7-1：XXX
作业7-2奖励：从正确答案中抽取5人获得飞桨定制本+50元京东卡，截止时间2020年1月6日中午12点之前
12月31日作业
作业6-1：
1.将普通神经网络模型的每层输出打印，观察内容
2.将分类准确率的指标 用PLT库画图表示
3.通过分类准确率，判断以采用不同损失函数训练模型的效果优劣
4.作图比较：随着训练进行，模型在训练集和测试集上的Loss曲线
5.调节正则化权重，观察4的作图曲线的变化，并分析原因
作业6-1奖励：抽取5人赢得飞桨定制本+数据线 ，回复帖子形式： 作业6-1：XXX
作业6-2：
正确运行AI Studio《百度架构师手把手教深度学习》课程里面的作业3 的极简版代码，分析训练过程中可能出现的问题或值得优化的地方，通过以下几点优化：
（1）样本：数据增强的方法
（2）假设：改进网络模型
（2）损失：尝试各种Loss
（2）优化：尝试各种优化器和学习率
目标：尽可能使模型在mnist测试集上的分类准确率最高
提交实现最高分类准确率的代码和模型，我们筛选最优结果前10名进行评奖
作业6-2奖励：飞桨定制本+50元京东卡
12月25日作业
12月23日作业
作业4-1：在AI studio上运行作业2，用深度学习完成房价预测模型
作业4-1奖励：飞桨定制本+ 《深度学习导论与应用实践》教材，选取第2、3、23、123、223、323…名同学送出奖品
作业4-2：回复下面问题，将答案回复帖子下方：
通过Python、深度学习框架，不同方法写房价预测，Python编写的模型 和 基于飞桨编写的模型在哪些方面存在异同？例如程序结构，编写难易度，模型的预测效果，训练的耗时等等？
回复帖子形式： 作业4-2:XXX
作业4-2奖励：在12月27日（本周五）中午12点前提交的作业中，我们选出最优前五名，送出百度定制数据线+《深度学习导论与应用实践》教材
12月17日作业
完成下面两个问题，并将答案回复在帖子下面，回帖形式：作业3-1（1）XX（2）XX
作业奖励：在2019年12月20日中午12点之前提交，随机抽取5名同学进行点评，礼品是本+数据线
12月12日作业
获奖者：第12名：飞天雄者
12月10日作业
作业1-1：在AI Studio平台上https://aistudio.baidu.com/aistudio/education/group/info/888 跑通房价预测案例
作业1-1奖励：最先完成作业的前3名，以及第6名、66名、166名、266名、366名、466名、566名、666名的同学均可获得飞桨定制大礼包：飞桨帽子、飞桨数据线 、飞桨定制logo笔
作业1-1的获奖者如图：
作业1-2：完成下面两个问题，并将答案发布在帖子下面
①类比牛顿第二定律的案例，在你的工作和生活中还有哪些问题可以用监督学习的框架来解决？假设和参数是什么？优化目标是什么？
②为什么说AI工程师有发展前景？怎样从经济学（市场供需）的角度做出解读？
作业1-2奖励：回复帖子且点赞top5，获得《深度学习导论与应用实践》教材+飞桨定制本
点赞Top5获奖者：1.飞天雄者 2.God_s_apple 3.177*******62 4.学痞龙 5.故乡237、qq526557820
作业截止时间2020年1月10日，再此之前完成，才有资格参加最终Mac大奖评选
报名流程：
1.加入QQ群：726887660，班主任会在QQ群里进行学习资料、答疑、奖品等活动
2.点此链接，加入课程报名并实践：https://aistudio.baidu.com/aistudio/course/introduce/888
温馨提示：课程的录播会在3个工作日内上传到AI studio《百度架构师手把手教深度学习》课程上
1 使用numpy计算tanh激活函数
2 统计随机生成矩阵中有多少个元素大于0
作业3-1：
作业3-1
import numpy as np
%matplotlib inline
import matplotlib.pyplot as plt
import matplotlib.patches as patches
#设置图片大小
plt.figure(figsize=(8, 3))
# x是1维数组，数组大小是从-10. 到10.的实数，每隔0.1取一个点
x = np.arange(-10, 10, 0.1)
# 计算 Sigmoid函数
tanh = (np.exp(x) - np.exp(- x))/ (np.exp(x) + np.exp(- x))
#########################################################
# 以下部分为画图程序
# 画出函数曲线
plt.plot(x, tanh, color='r')
# 添加文字说明
plt.text(-5., 0.9, r'$y=\tanh(x)$', fontsize=13)
# 设置坐标轴格式
currentAxis=plt.gca()
currentAxis.xaxis.set_label_text('x', fontsize=15)
currentAxis.yaxis.set_label_text('y', fontsize=15)
# 设置坐标轴格式
currentAxis=plt.gca()
currentAxis.xaxis.set_label_text('x', fontsize=15)
currentAxis.yaxis.set_label_text('y', fontsize=15)
plt.show()
作业3
作业3-1：
作业 3-2：
作业3-1：
import numpy as np
import matplotlib.pyplot as plt
x = np.arange(-10., 10., 0.1)
def tanh(x):
return (np.exp(x)-np.exp(-x))/(np.exp(x)+np.exp(-x))
s = tanh(x)
# 画出函数曲线
plt.plot(x, s, color='r')
# 添加文字说明
plt.text(-5., 0.9, r'$y=\tanh(x)$', fontsize=13)
# 设置坐标轴格式
currentAxis=plt.gca()
currentAxis.xaxis.set_label_text('x', fontsize=15)
currentAxis.yaxis.set_label_text('y', fontsize=15)
作业3-2：
import numpy as np
p = np.random.randn(10, 10)
c = np.maximum(p, 0.)
print("c", c)
height = c.shape[0]
width = c.shape[1]
pixel=0
for i in range(height):
for j in range(width):
if c[i, j] >0:
pixel += 1
print("pixel", pixel)
作业3-1:
作业3-1：
import numpy as np
import matplotlib.pyplot as plt
%matplotlib inline
x = np.arange(-10,10,0.1)
y = (np.exp(x) - np.exp(-x))/(np.exp(x) + np.exp(-x))
plt.plot(x,y)
作业3-2：
import numpy as np
p = np.random.randn(10, 10)
nums = np.sum(p>0)
print(nums)
1 使用numpy计算tanh激活函数
2.假设使用np.random.randn生成了随机数构成的矩阵：
p = np.random.randn(10, 10)
请写一段程序统计其中有多少个元素大于0？
作业3-1
作业3-2
作业2-1
作业2-2
#构建神经网络
class NetWork(object):
def __init__(self,num_of_input,num_of_hidden):
#初始化参数w
# 为了保持程序每次运行结果的一致性，
# 此处设置固定的随机数种子
np.random.seed(0)
self.w1=np.random.randn(num_of_input,num_of_hidden)
self.b1=0
self.w2=np.random.randn(num_of_hidden,1)
self.b2=0
#前向计算
def forward(self,x):
#第一层
z1=np.dot(x,self.w1)+self.b1
#第二层
y_predict=np.dot(z1,self.w2)+self.b2
return z1,y_predict
#损失函数(均方差)
def loss_fc(self,y_predict,y):
loss=np.mean((y_predict-y)*(y_predict-y))
return loss
#求解最优函数
def gradient(self,x,y):
z1,y_predict=self.forward(x)
N = x.shape[0]
gradient_w2 = 1. / N *np.dot(z1.T,(y_predict-y))
gradient_b2 = 1. / N * np.sum(y_predict-y)
gradient_w1=1. / N*np.dot(np.dot(gradient_w2,(y_predict-y).T),x)
gradient_b1=1. / N*np.sum(np.dot(gradient_w2,(y_predict-y).T),axis=1)
return gradient_w1,gradient_b1,gradient_w2,gradient_b2
#更新w,b
def update(self,gradient_w1,gradient_b1,gradient_w2,gradient_b2,eta=0.01):
self.w2=self.w2-eta*gradient_w2
self.b2=self.b2-eta*gradient_b2
self.w1=self.w1-eta*gradient_w1
self.b1=self.b1-eta*gradient_b1
#训练
def train(self,training_data,num_epoches,bath_size,eta=0.01):
n=len(training_data)
losses=[]
for epoch_id in range(num_epoches):
#为了增加随机性，每次都打乱
np.random.shuffle(training_data)
#将训练数据拆分成一个一个mini_batch
mini_batches=[training_data[k:k+batch_size,:] for k in range(0,n,batch_size)]
for iter_id,mini_batch in enumerate(mini_batches): #enumerate(mini_batches)获取的是（索引，索引处对应的值）
x=mini_batch[:,:-1]
y=mini_batch[:,-1:]
z1,y_predict=self.forward(x)
loss=self.loss_fc(y_predict,y)
gradient_w1,gradient_b1,gradient_w2,gradient_b2=self.gradient(x,y)
self.update(gradient_w1,gradient_b1,gradient_w2,gradient_b2,eta)
losses.append(loss)
print('Epoch{:3d} / iter {:3d}, loss={:.4f}'.format(epoch_id,iter_id, loss))
return losses
num_epoches=50
batch_size=100
train_data,test_data=load_data()
net=NetWork(13,13)
losses=net.train(train_data,num_epoches,batch_size,eta=0.01)
plot_x=np.arange(len(losses))
plot_y=np.array(losses)
plt.plot(plot_x,plot_y)
plt.show()
作业：3-1
3-2
作业1-2：完成下面两个问题，并将答案发布在帖子下面
①类比牛顿第二定律的案例，在你的工作和生活中还有哪些问题可以用监督学习的框架来解决？假设和参数是什么？优化目标是什么？
利用身高体重预测一个某年龄段的人是否超重肥胖。输入参数是身高和体重，身高和体重搭配某写参数（权重）一起参与计算得到一个数值，假设这个数值大于等于0.6为肥胖，0.4~0.6为健康，小于0.4为偏瘦。优化目标是使预测值落在对应的区间。
②为什么说AI工程师有发展前景？怎样从经济学（市场供需）的角度做出解读？
未来是大数据的世界，各行业数据都会有极快的增长，如何处理这些海量数据，如何从里面提取信息，分析信息，成为一个不可避免的问题，而AI工程师可以借力深度学习处理这些问题，实现一些本来只有人类介入才能完成的事情，解放劳动力，提供价值。
作业3-2
p = np.random.randn(10, 10)
q=(p>0)
q
q.sum()
作业3-1：
作业3-2：
12月12日作业
作业2-1
作业3
作业3
1使用numpy计算tanh激活函数
import numpy as np
import matplotlib.pyplot as plt
#设置图片大小
plt.figure(figsize=(8, 3))
# x是1维数组，数组大小是从-10. 到10.的实数，每隔0.1取一个点
x = np.arange(-10, 10, 0.1)
# 计算 tanh函数
t = np.exp(x)
t2 = np.exp(- x)
s = (t - t2) / (t + t2)
#########################################################
# 以下部分为画图程序
# 画出函数曲线
plt.plot(x, s, color='r')
# 添加文字说明
plt.text(-5., 0.9, r'$y=\tanh(x)$', fontsize=13)
# 设置坐标轴格式
currentAxis = plt.gca()
currentAxis.xaxis.set_label_text('x', fontsize=15)
currentAxis.yaxis.set_label_text('y', fontsize=15)
plt.show()
2统计随机生成矩阵中有多少个元素大于0
p = np.random.randn(10, 10)
q = (p > 0)
print(q)
print(np.sum(q))