作业帖 | 百度深度学习集训营

项目

数据集

课程

比赛

模型库

活动

论坛

访问飞桨官网

项目

数据集

课程

比赛

模型库

活动

论坛

访问飞桨官网

DJ星尘发布于2019-12

百度深度学习集训营已经正式开营，每个阶段的作业都将有各自的奖励，欢迎大家学习~

PS：如遇帖子过期、审核不通过的情况，请先复制内容保存在word文档，然后根据提示，完成个人实名验证，刷新后重新粘贴复制的内容，即可提交~

欢迎大家报名参加~

1月9日作业：

作业9-1：在第二章中学习过如何设置学习率衰减，这里建议使用分段衰减的方式，衰减系数为0.1，根据ResNet目前的训练情况，应该在训练到多少步的时候设置衰减合适？请设置好学习率衰减方式，在眼疾识别数据集iChallenge-PM上重新训练ResNet模型。

作业9-1奖励：在作业中随机各抽取5名同学送出飞桨本+数据线+飞桨贴纸

回复帖子形式：作业9-1：XXX

抽奖作业截止时间：2020年1月13日中午12点之前

作业9-2奖励：在作业中随机各抽取5名同学送出飞桨本+数据线+飞桨贴纸

回复帖子形式：作业9-2：XXX

抽奖作业截止时间：2020年1月13日中午12点之前

1月7日作业：

作业8：如果将LeNet模型中的中间层的激活函数Sigmoid换成ReLU，在眼底筛查数据集上将会得到什么样的结果？Loss是否能收敛，ReLU和Sigmoid之间的区别是引起结果不同的原因吗？请发表你的观点

作业8奖励：在作业中随机各抽取5名同学送出飞桨本+数据线+飞桨贴纸

回复帖子形式：作业8：XXX

获奖同学：#820 thunder95、#819 你还说不想我吗、 #818 百度用户#0762194095、#817 呵赫 he、#816 星光1dl

1月2日作业

作业7-1 计算卷积中一共有多少次乘法和加法操作

输入数据形状是[10, 3, 224, 224]，卷积核kh = kw = 3，输出通道数为64，步幅stride=1，填充ph = pw =1

完成这样一个卷积，一共需要做多少次乘法和加法操作？

提示：先看输出一个像素点需要做多少次乘法和加法操作，然后再计算总共需要的操作次数

提交方式：请回复乘法和加法操作的次数，例如：乘法1000，加法1000

作业7-1奖励：抽取5人赢得飞桨定制本+数据线，截止时间2020年1月6日中午12点之前

回复帖子形式：作业7-1：XXX

作业7-2奖励：从正确答案中抽取5人获得飞桨定制本+50元京东卡，截止时间2020年1月6日中午12点之前

12月31日作业

作业6-1：

1.将普通神经网络模型的每层输出打印，观察内容
2.将分类准确率的指标用PLT库画图表示
3.通过分类准确率，判断以采用不同损失函数训练模型的效果优劣
4.作图比较：随着训练进行，模型在训练集和测试集上的Loss曲线
5.调节正则化权重，观察4的作图曲线的变化，并分析原因
作业6-1奖励：抽取5人赢得飞桨定制本+数据线，回复帖子形式：作业6-1：XXX

作业6-2：

正确运行AI Studio《百度架构师手把手教深度学习》课程里面的作业3 的极简版代码，分析训练过程中可能出现的问题或值得优化的地方，通过以下几点优化：

（1）样本：数据增强的方法

（2）假设：改进网络模型

（2）损失：尝试各种Loss

（2）优化：尝试各种优化器和学习率

目标：尽可能使模型在mnist测试集上的分类准确率最高

提交实现最高分类准确率的代码和模型，我们筛选最优结果前10名进行评奖

作业6-2奖励：飞桨定制本+50元京东卡

12月25日作业

12月23日作业

作业4-1：在AI studio上运行作业2，用深度学习完成房价预测模型

作业4-1奖励：飞桨定制本+ 《深度学习导论与应用实践》教材，选取第2、3、23、123、223、323…名同学送出奖品

作业4-2：回复下面问题，将答案回复帖子下方：

通过Python、深度学习框架，不同方法写房价预测，Python编写的模型和基于飞桨编写的模型在哪些方面存在异同？例如程序结构，编写难易度，模型的预测效果，训练的耗时等等？

回复帖子形式：作业4-2:XXX

作业4-2奖励：在12月27日（本周五）中午12点前提交的作业中，我们选出最优前五名，送出百度定制数据线+《深度学习导论与应用实践》教材

12月17日作业

完成下面两个问题，并将答案回复在帖子下面，回帖形式：作业3-1（1）XX（2）XX

作业奖励：在2019年12月20日中午12点之前提交，随机抽取5名同学进行点评，礼品是本+数据线

12月12日作业

获奖者：第12名：飞天雄者

12月10日作业
作业1-1：在AI Studio平台上https://aistudio.baidu.com/aistudio/education/group/info/888 跑通房价预测案例

作业1-1奖励：最先完成作业的前3名，以及第6名、66名、166名、266名、366名、466名、566名、666名的同学均可获得飞桨定制大礼包：飞桨帽子、飞桨数据线、飞桨定制logo笔

作业1-1的获奖者如图：

作业1-2：完成下面两个问题，并将答案发布在帖子下面
①类比牛顿第二定律的案例，在你的工作和生活中还有哪些问题可以用监督学习的框架来解决？假设和参数是什么？优化目标是什么？
②为什么说AI工程师有发展前景？怎样从经济学（市场供需）的角度做出解读？
作业1-2奖励：回复帖子且点赞top5，获得《深度学习导论与应用实践》教材+飞桨定制本

点赞Top5获奖者：1.飞天雄者 2.God_s_apple 3.177*******62 4.学痞龙 5.故乡237、qq526557820

作业截止时间2020年1月10日，再此之前完成，才有资格参加最终Mac大奖评选

报名流程：

1.加入QQ群：726887660，班主任会在QQ群里进行学习资料、答疑、奖品等活动

2.点此链接，加入课程报名并实践：https://aistudio.baidu.com/aistudio/course/introduce/888

温馨提示：课程的录播会在3个工作日内上传到AI studio《百度架构师手把手教深度学习》课程上

全部评论(953)

七

七海鬼武

#342 回复于2019-12

七海鬼武 #340

作业3-1：（1）import numpy as np import matplotlib.pyplot as plt

作业3-1：

（1）numpy实现tanh

import numpy as np
import matplotlib.pyplot as plt
# x是1维数组，数组大小是从-10. 到10.的实数，每隔0.1取一个点
x = np.arange(-10, 10, 0.1)
#画图展示
plt.figure(figsize=(8, 3))
plt.plot(x, tanh_, color='r')
# 添加文字说明
plt.text(-5., 0.9, r'$y=\tanh(x)$', fontsize=13)
# 设置坐标轴格式
currentAxis=plt.gca()
currentAxis.xaxis.set_label_text('x', fontsize=15)
currentAxis.yaxis.set_label_text('y', fontsize=15)
plt.show()

（2）统计矩阵大于0的元素

np.random.seed(1)
p = np.random.randn(10, 10)

q = p[p > 0]
print('q, dtype: {}, shape: {}, size: {}, '.format(q.dtype, q.shape, q.size))

luluweilulu

#343 回复于2019-12

作业2-1

wangyf童鞋

#344 回复于2019-12

作业3-1

（1）

# tanh激活函数示意图
import numpy as np
%matplotlib inline
import matplotlib.pyplot as plt
import matplotlib.patches as patches

#设置图片大小
plt.figure(figsize=(8, 3))

# x是1维数组，数组大小是从-10. 到10.的实数，每隔0.1取一个点
x = np.arange(-10, 10, 0.1)
# 计算 Sigmoid函数
y = (np.exp(x) - np.exp(- x)) / (np.exp(x) + np.exp(- x))

#########################################################
# 以下部分为画图程序
# 画出函数曲线
plt.plot(x, y, color='r')
# 添加文字说明
plt.text(-7.5, 0.75, r'$y=tanh(x)$', fontsize=13)
# 设置坐标轴格式
currentAxis=plt.gca()
currentAxis.xaxis.set_label_text('x', fontsize=15)
currentAxis.yaxis.set_label_text('y', fontsize=15)

plt.show()

（2）

import numpy as np
p = np.random.randn(10, 10)
print(p)
q = (p > 0)
print(q)
num=np.sum(q != 0)
print('True的个数：{}'.format(num))
print('False的个数：{}'.format(np.sum(q == 0)))
print('大于0的元素个数：{}'.format(num))

呆呆的初学者

#345 回复于2019-12

作业3-1：

import numpy as np
%matplotlib inline
import matplotlib.pyplot as plt
import matplotlib.patches as patches
# x是1维数组，数组大小是从-10. 到10.的实数，每隔0.1取一个点
x = np.arange(-10, 10, 0.1)
y =  (np.exp(x) - np.exp(- x)) / (np.exp(x) + np.exp(- x))
plt.plot(x, y, color='r')
# 添加文字说明
plt.text(-5., 0.9, r'$y=tanh(x)$', fontsize=13)
# 设置坐标轴格式
currentAxis=plt.gca()
currentAxis.xaxis.set_label_text('x', fontsize=15)
currentAxis.yaxis.set_label_text('y', fontsize=15)
plt.show()

作业3-2：

import numpy as np
p = np.random.randn(10,10)
q = (p>0)
print('a, dtype: {}, shape: {}, size: {}, ndim: {}'.format(q.dtype, q.shape, q.size, q.ndim))
print("大于1的数有",q.sum(),"个")

求

求飞哥护体

#346 回复于2019-12

3-1

学习使我快乐

#347 回复于2019-12

作业3-1

（1）

import numpy as np
%matplotlib inline
import matplotlib.pyplot as plt
# tanh
z = np.arange(-10, 10, 0.1)
y = (np.exp(z) - np.exp(-z)) / (np.exp(z) + np.exp(-z))
# figure
fig = plt.figure(figsize=(8, 6))
plt.plot(z, y, color='r')
plt.grid(True)
plt.text(-7., 0.9, r'$y=\tanh(z)$', fontsize=13)
# 设置坐标轴格式
currentAxis=plt.gca()
currentAxis.xaxis.set_label_text('z', fontsize=15)
currentAxis.yaxis.set_label_text('y', fontsize=15)
plt.show()

（2）

import numpy as np 
arr = np.random.randn(10, 10)
print('矩阵中大于0的元素共计: {}'.format(np.sum(np.sum(arr > 0))))

凌

凌烟阁主人

#348 回复于2019-12

作业3-1（1）

#!/usr/bin/env python
# _*_ coding:utf-8 _*_
import numpy as np
#matplotlib inline
import matplotlib.pyplot as plt
import matplotlib.patches as patches

#设置图片大小
plt.figure()
# x是1维数组，数组大小是从-10. 到10.的实数，每隔0.1取一个点
x = np.arange(-10, 10, 0.1)
# 计算 tanh函数
s = (np.exp(x) - np.exp(-x)) / (np.exp(x) + np.exp(- x))

#########################################################
# 以下部分为画图程序
# 画出函数曲线
plt.plot(x, s, color='r')
# 添加文字说明
plt.text(-5., 0.9, r'$y=\tanh(x)$', fontsize=13)
# 设置坐标轴格式
currentAxis=plt.gca()
currentAxis.xaxis.set_label_text('x', fontsize=15)
currentAxis.yaxis.set_label_text('y', fontsize=15)
plt.show()

（2）

#!/usr/bin/env python
# _*_ coding:utf-8 _*_
import numpy as np

p = np.random.randn(10, 10)
# print(p)
q = p >0
print('q的数据类型：',type(q), type(q[0,0]))
print('q的元素的取值', q)
pp = p.reshape(100)
positive_num = 0
for idx in range(pp.size):
if pp[idx] >0:
positive_num +=1
print('随机数构成的矩阵中元素大于0的个数',positive_num)

输出结果

q的数据类型：
q的元素的取值 [[ True False True True False True False False False True]
[ True True False False False False True False True False]
[False False True False True True False False False False]
[False False True False False False True True False False]
[False False True True True False False False True True]
[ True True True True True False True True False True]
[False False False False False False False False True False]
[ True False False False False True False True True False]
[False True True True False True False True True False]
[False True True True False False False True True False]]
随机数构成的矩阵中元素大于0的个数 44

Process finished with exit code 0

我的绿豆nice

#349 回复于2019-12

作业1-2：完成下面两个问题，并将答案发布在帖子下面
①类比牛顿第二定律的案例，在你的工作和生活中还有哪些问题可以用监督学习的框架来解决？假设和参数是什么？优化目标是什么？

类似牛顿第二定律的案例如压力与摩擦力之间的关系，通过大量实验，探索出压力与摩擦力之间的关系

假设： f =μN

参数：摩擦因子μ

优化目标: 使实验测得的F与预测F’的差值最小

②为什么说AI工程师有发展前景？怎样从经济学（市场供需）的角度做出解读？

AI是提高生产力的有效方式，是社会发展的加速器。当前在全球AI争霸，国家战略发展大背景下，大量企业加入AI技术行列，对人才需求不断增长。目前我国AI也处于发展阶段，人才缺口巨大，因此AI工程师发展前景可期。

我的绿豆nice

#350 回复于2019-12

作业2-1

Felicia

#351 回复于2019-12

作业3-1

（1）

# tanh激活函数示意图
import numpy as np
import matplotlib.pyplot as plt
import matplotlib.patches as patches

#设置图片大小
plt.figure()

# x是1维数组，数组大小是从-10. 到10.的实数，每隔0.1取一个点
x = np.arange(-10, 10, 0.1)
# 计算tanh函数
s = (np.exp(x) - np.exp(-x)) / (np.exp(x) + np.exp(-x))

#########################################################
# 以下部分为画图程序
# 画出函数曲线
plt.plot(x, s, color='r')
# 添加文字说明
plt.text(-5., 0.9, r'$y=\tanh(x)$', fontsize=13)
# 设置坐标轴格式
currentAxis=plt.gca()
currentAxis.xaxis.set_label_text('x', fontsize=15)
currentAxis.yaxis.set_label_text('y', fontsize=15)

plt.show()

（2）

import numpy as np

p = np.random.randn(10, 10)
num = np.sum(p > 0)
print("p中有{}个元素大于0".format(num))

sljackson

#352 回复于2019-12

作业3-1

（1）

import numpy as np
import matplotlib.pyplot as plt

x = np.arange(-10, 10, 0.1)

# y = (np.exp(x) - np.exp(-x)) / (np.exp(x) + np.exp(-x))
y = (1 - np.exp(-2*x)) / (1 + np.exp(-2*x))

#设置图片大小
plt.figure(figsize=(8, 3))

#########################################################
# 以下部分为画图程序

# f = plt.subplot(121)
# 画出函数曲线
plt.plot(x, y, color='r')
# 添加文字说明
plt.text(-5., 0.9, r'$y=\sigma(x)$', fontsize=13)
# 设置坐标轴格式
currentAxis=plt.gca()
currentAxis.xaxis.set_label_text('x', fontsize=15)
currentAxis.yaxis.set_label_text('y', fontsize=15)

plt.show()

（2）

import numpy as np

# 随机生成一个矩阵
p = np.random.randn(10, 10)
# 使用ReLU函数把负数都变为0
y = np.clip(p, a_min = 0., a_max = None)
# 统计非0的个数
a = np.count_nonzero(y)

print("大于0的个数:{}".format(a))

sljackson

#353 回复于2019-12

sljackson #352

作业3-1 （1） [代码] （2） [代码]

作业3-1

（1）

import numpy as np
import matplotlib.pyplot as plt

x = np.arange(-10, 10, 0.1)

# y = (np.exp(x) - np.exp(-x)) / (np.exp(x) + np.exp(-x))
y = (1 - np.exp(-2*x)) / (1 + np.exp(-2*x))

#设置图片大小
plt.figure(figsize=(8, 3))

#########################################################
# 以下部分为画图程序

# f = plt.subplot(121)
# 画出函数曲线
plt.plot(x, y, color='r')
# 添加文字说明
plt.text(-5., 0.9, r'$y=\tanh(x)$', fontsize=13)
# 设置坐标轴格式
currentAxis=plt.gca()
currentAxis.xaxis.set_label_text('x', fontsize=15)
currentAxis.yaxis.set_label_text('y', fontsize=15)

plt.show()

（2）

import numpy as np

# 随机生成一个矩阵
p = np.random.randn(10, 10)
# 使用ReLU函数把负数都变为0
y = np.clip(p, a_min = 0., a_max = None)
# 统计非0的个数
a = np.count_nonzero(y)

print("大于0的个数:{}".format(a))

浮

浮萍小星子

#354 回复于2019-12

leiming_cool

#355 回复于2019-12

作业3-1

(1)

import numpy as np
%matplotlib inline
import matplotlib.pyplot as plt
import matplotlib.patches as patches

#设置图片大小
plt.figure(figsize=(8, 3))
plt.subplot(121)
x=np.arange(-10., 10.,0.1)
y=(np.exp(x) - np.exp(-x))/(np.exp(x) + np.exp(-x))
#y=np.tanh(x) 简化后的第二种方案
plt.plot(x,y,label="tanh")
plt.legend()
plt.show()

(2)

import numpy as np
np.random.seed(10)
p = np.random.randn(10, 10)
q = (p > 0)
np.sum(q)

Howling_

#356 回复于2019-12

作业2-1：

(1)

(2)

class Network(object):
    def __init__(self, num_of_weights):
        # 随机产生w的初始值
        # 为了保持程序每次运行结果的一致性，此处设置固定的随机数种子
        #np.random.seed(0)
        self.w_1 = np.random.randn(num_of_weights[0], num_of_weights[1])
        self.b_1 = np.zeros((1, num_of_weights[1]))
        self.w_2 = np.random.randn(num_of_weights[1], 1)
        self.b_2 = 0.
    def forward(self, x):
        self.z_1 = np.dot(x, self.w_1) + self.b_1
        self.z_2 = np.dot(self.z_1, self.w_2) + self.b_2
        return self.z_2
    
    def loss(self, z, y):
        error = z - y
        num_samples = error.shape[0]
        cost = error * error
        cost = np.sum(cost) / num_samples
        return cost
    
    def gradient(self, x, y):
        z = self.forward(x)
        N = x.shape[0]

        gradient_w_2 = 1. / N * np.dot(self.z_1.T, (z-y))
        gradient_b_2 = 1. / N * np.sum(z-y)

        gradient_z_1 = 1. / N * np.dot((z-y), self.w_2.T)

        gradient_w_1 = np.dot(x.T, gradient_z_1)
        gradient_b_1 = np.sum(gradient_z_1, axis=0)
        gradient_b_1 = gradient_b_1[np.newaxis,:]

        gradient_w = [gradient_w_1, gradient_w_2]
        gradient_b = [gradient_b_1, gradient_b_2]
        self.gradient_w = gradient_w
        self.gradient_b = gradient_b
        return gradient_w, gradient_b
    
    def update(self, gradient_w, gradient_b, eta = 0.01):
        self.w_1 = self.w_1 - eta * gradient_w[0]
        self.w_2 = self.w_2 - eta * gradient_w[1]
        self.b_1 = self.b_1 - eta * gradient_b[0]
        self.b_2 = self.b_2 - eta * gradient_b[1]

呵

呵呵xyz1

#357 回复于2019-12

3-1

import numpy as np
import matplotlib.pyplot as plt
def tanh(x):
return (np.exp(x) - np.exp(-x)) / (np.exp(x) + np.exp(-x))

x = np.arange(-10.0, 10.0, 0.1)

plt.plot(x,tanh(x))
plt.show()

3-2

import numpy as np
p = np.random.randn(10,10)
q = (p>0)
num = np.sum(q)

print('p中大于 0 的个数:',num)

minxinliu

#358 回复于2019-12

作业3-1-1：

import numpy as np
import matplotlib.pyplot as plt
x = np.linspace(-10., 10., 500)
y = (np.exp(x)-np.exp(-x)) / (np.exp(x) + np.exp(- x))
plt.plot(x, y, color='r')
plt.text(-5., 0.9, 'tanh', fontsize=13)
plt.show()

作业3-1-2：

import numpy as np
p = np.random.randn(10, 10)
print(len(np.extract(p>0, p)))
print(type(p>0))

我湖nb

#359 回复于2019-12

作业3-1
# ReLU和Tanh激活函数示意图
import numpy as np
import matplotlib.pyplot as plt
import matplotlib.patches as patches

#设置图片大小
plt.figure(figsize=(5, 3))

# x是1维数组，数组大小是从-10. 到10.的实数，每隔0.1取一个点
x = np.arange(-10, 10, 0.1)
# 计算 Tanh函数
s = ( np.exp(x) - np.exp(- x) ) / ( np.exp(x) + np.exp(- x) )

#########################################################
# 以下部分为画图程序

# 画出函数曲线
plt.plot(x, s, color='r')
# 添加文字说明
plt.text(-5., 0.9, r'$y=\tanh(x)$', fontsize=13)
# 设置坐标轴格式
currentAxis=plt.gca()
currentAxis.xaxis.set_label_text('x', fontsize=15)
currentAxis.yaxis.set_label_text('y', fontsize=15)

plt.show()

作业3-2

import numpy as np
p = np.random.randn(10,10)
print(p)
q=(p>0)
print(q)
q=np.sum(p>0)
print(q)

[[-1.33673334 -0.2296265 1.0366768 0.36242552 -1.99867459 0.15131605
0.52307543 -0.57937407 -0.46928774 -1.57999845]
[ 1.76640029 -0.93740945 -1.57733957 -1.63003244 1.54112991 1.2283563
1.2895137 0.00975787 0.525565 -1.27667829]
[-0.66930691 -2.10195045 0.58289932 -0.19553542 2.61143284 1.00271348
1.22063638 -1.2004022 0.54824863 0.03428654]
[ 0.46285606 -0.81737028 0.66603394 -0.21866758 0.86700358 -0.32493636
-1.57085591 0.86948256 -0.87300557 0.12945366]
[ 0.24055906 0.11415951 0.19006516 0.54297912 1.10123714 -0.09586773
0.22067124 0.19645496 -1.40318704 -0.3730894 ]
[-0.20020566 -0.91187247 -0.17278794 -0.73992644 -1.13428644 -0.06971358
0.50210139 -0.54148434 -0.14933671 -0.06362447]
[-0.23532544 -0.70052969 0.06473598 -0.08924588 0.70739895 0.17784425
1.42981912 0.11151969 -0.44019341 0.6736735 ]
[-1.07681067 0.8588253 1.11677925 0.96644239 -0.67263343 -0.3631562
0.13083348 -0.3408746 0.08474794 -1.59599399]
[-0.17818671 -1.81745987 -0.83145579 -0.84824091 -0.42115145 -0.02976891
-0.48260603 -0.96807189 -2.97098193 -0.85105152]
[ 0.55560974 -1.00812394 -0.16178252 0.28706054 -1.27500058 -2.02786409
-0.99523964 0.9815391 0.82824677 0.12587528]]
[[False False True True False True True False False False]
[ True False False False True True True True True False]
[False False True False True True True False True True]
[ True False True False True False False True False True]
[ True True True True True False True True False False]
[False False False False False False True False False False]
[False False True False True True True True False True]
[False True True True False False True False True False]
[False False False False False False False False False False]
[ True False False True False False False True True True]]
45
[Finished in 0.3s]

帽

帽檐上的poppy

#360 回复于2019-12

①类比牛顿第二定律的案例，在你的工作和生活中还有哪些问题可以用监督学习的框架来解决？假设和参数是什么？优化目标是什么？

答：数学成绩和物理成绩的关系。假设为线性关系即y=ax，参数为a，优化目标是实际物理成绩与预测物理成绩的差距。

②为什么说AI工程师有发展前景？怎样从经济学（市场供需）的角度做出解读？

答：AI可以从多方面为各中产业工业、医疗、服务业进行赋能，使其迸发出更加多的能量。所以未来对AI工程师的需求会持续上升，而当前合格的AI工程师人数远远达不到市场需求，所以在供不应求的行情下，AI工程师发展前景一定很好。

龙

龙渊破军

#361 回复于2019-12

作业3-1

（1）使用numpy计算tanh激活函数

（2）统计随机生成矩阵中有多少个元素大于0