作业2-1

①类比牛顿第二定律的案例，在你的工作和生活中还有哪些问题可以用监督学习的框架来解决？假设和参数是什么？优化目标是什么？

      目前工作是自动驾驶环境感知工程师。

     之前做的项目有交通标志识别，激光雷达目标检测。这些都是用到深度学习方法来做的。

     交通标识识别是属于图像分类问题，损失函数一般用的交叉熵函数。参数有很多，交通标志大小、形状、颜色分布等等，其实就是和图片像素有关。

     激光雷达目标检测可以看作图像分类的升级应用，不仅要判断出物体的类别，还要再给出物体的实际位置。一般会通过目标的大小，对激光的反射率等作出检测。

②为什么说AI工程师有发展前景？怎样从经济学（市场供需）的角度做出解读？

     首先，人类社会最终都要走向人工智能。

     目前人工智能最火的应用应该就是无人驾驶了 ，如果无人驾驶实现了会减少交通事故死亡率，缓解城市交通拥堵等问题。此外，汽车也将从传统的交通工具转变成娱乐办公空间。这无疑就需要大量的工程师，仅环境感知部分就有许多问题需要解决。根据经济学需求供给关系，当供小于求时，属于卖方市场，此时AI工程师处于有利地位。

    除了自动驾驶需要AI工程师，其它行业也都需要AI工程师。未来20年，机器学习，深度学习就会像今天的Word，PPT，Excel一样，成为每个人必备的计算机知识。

（1）类比牛顿第二定律的案例，在你的工作和生活中还有哪些问题可以用监督学习的框架来解决？假设和参数是什么？优化目标是什么？

油橄榄成熟度预测

假设：线性关系，与多个因素有关

参数：温度，光照，虫害，病害，土壤肥力，水分含量

优化目标：保证油橄榄成熟时在可接受的榨油范围内，并且误差不会太大

（2）为什么说AI工程师有发展前景？怎样从经济学（市场供需）的角度做出解读？

生育率的下降和人民生活品质日益提升的需求需要人们找到更好的劳动力替代方案，而过去最好的劳动力形式就是人力做工，如果机器能够拥有或者逼近类人智能的话，那么在未来人们大可以将繁重的生产工作交给机器，安心去进行创作工作，也不必担心生育率下降带来的生产力降低，更不用担心人老无所照顾（AI可以照顾老人），让AI取代大部分工作，人类会进一步进化，所以AI工程师会有很大需求。

生育率低迷带来劳动力成本上升，进而导致经济增长放缓，市场需要机器人来替代人力来进行生产工作，而各行各业普遍均出现不同层次的人力缺口。AI工程师能够创作出算法来满足生产需要，同时智能机器人的生产也需要AI工程师的算法设计，所以，现在总体上市场对AI工程师的需求大于供应，现有市场急需要大量AI工程师入驻。

①类比牛顿第二定律的案例，在你的工作和生活中还有哪些问题可以用监督学习的框架来解决？假设和参数是什么？优化目标是什么？

工业生产中零件的缺陷检测，给一批缺陷不一的零件，并做记录，哪些是裂缝，哪些是磨损等等，进过训练，得出模型，然后自动识别生产线上的零件是否合格及缺陷种类。

②为什么说AI工程师有发展前景？怎样从经济学（市场供需）的角度做出解读？

AI工程师在各行各业都有很大的需求，各个行业都需要AI为其赋能，实现转型和营收，即供小于需，所以他有着广阔的发展前景。

作业2-1：

作业2-1：

（1）基础题 苹果和橘子的梯度传播

①类比牛顿第二定律的案例，在你的工作和生活中还有哪些问题可以用监督学习的框架来解决？假设和参数是什么？优化目标是什么？

答：

简历筛选

假设：简历通过率与个人学历，在校GPA，实习数，项目数，比赛数等等有关

参数：个人学历，在校GPA，实习数，项目数，比赛数等

②为什么说AI工程师有发展前景？怎样从经济学（市场供需）的角度做出解读？

AI是未来的主题。因此，市场大量能引领公司占领先机的高端人才，同时也缺乏大量的AI应用工程师，可知，AI是市场上各个公司的兵家必争之地。

1.  

回答问题一从上到下，第一列 110，2.2，3.3，165 第二列1.1，1.1，650，第三列1.1，第四列1

作业2-1：

（1）基础题 苹果和橘子的梯度传播

作业2-1

12.12作业（1）

（2）：

def loss(self, X, y=None, reg=0.0):
"""
Compute the loss and gradients for a two layer fully connected neural
network.
Inputs:
- X: Input data of shape (N, D). Each X[i] is a training sample.
- y: Vector of training labels. y[i] is the label for X[i], and each y[i] is
an integer in the range 0 <= y[i] < C. This parameter is optional; if it
is not passed then we only return scores, and if it is passed then we
instead return the loss and gradients.
- reg: Regularization strength.
Returns:
If y is None, return a matrix scores of shape (N, C) where scores[i, c] is
the score for class c on input X[i].
If y is not None, instead return a tuple of:
- loss: Loss (data loss and regularization loss) for this batch of training
samples.
- grads: Dictionary mapping parameter names to gradients of those parameters
with respect to the loss function; has the same keys as self.params.
"""
# Unpack variables from the params dictionary
W1, b1 = self.params['W1'], self.params['b1']
W2, b2 = self.params['W2'], self.params['b2']
N, D = X.shape

# Compute the forward pass
scores = None
z1 = np.dot(X,W1)+b1
a1 = np.maximum(0,z1)
scores = np.dot(a1,W2)+b2

# If the targets are not given then jump out, we're done
if y is None:
return scores

# Compute the loss
loss = None
scores -=np.max(scores,axis=1).reshape(N,1)
correct_scores = np.exp(scores[np.arange(N),y])
sum_line = np.sum(np.exp(scores),axis=1)
loss = np.sum(-np.log(correct_scores/sum_line))
loss /= N
loss += reg*(np.sum(W1**2)+np.sum(W2**2))

# Backward pass: compute gradients
grads = {}
dS2 = np.exp(scores)/sum_line.reshape(N,1)
dS2[np.arange(N),y] -=1
grads['W2'] = np.dot(a1.T,dS2)/N + 2 * reg * W2
grads['b2'] = np.sum(dS2, axis=0)/N
dz1 = dS2.dot(W2.T)*(z1>0)
grads['W1'] = np.dot(X.T,dz1)/N + 2 * reg * W1
grads['b1'] = np.sum(dz1, axis=0) / N

return loss, grads

作业1-2

①类比牛顿第二定律的案例，在你的工作和生活中还有哪些问题可以用监督学习的框架来解决？假设和参数是什么？优化目标是什么？

游泳池排水时间t和排水量v的关系。假设t=wv，参数v，优化目标和案例一样。

②为什么说AI工程师有发展前景？怎样从经济学（市场供需）的角度做出解读？

ai工程师可以让机器有学习能力，就最简单来说，能代替一些人类的工作，比如自动驾驶，对不敢开车，没学车的人来说，或者不想开车的人来说，这是福音，可以激发对汽车的需求，这样汽车行业又可以增加一大波消费者。

12月12日作业

作业2-1：

基础题：

作业2-1基础题

不好意思哈，又提交一次，因为之前都没写作业，格式需要作业+答案~这样子~

1）类比牛顿第二定律的案例，在你的工作和生活中还有哪些问题可以用监督学习的框架来解决？假设和参数是什么？优化目标是什么？

未知缺陷产品预测

假设产品的失效与工艺参数，产品性能，未知缺陷有强相关，输入（工艺参数，产品特性），隐藏层（未知缺陷与关联），输出（二分类OK or NG，优化目标是提高预测的高精确率与召回率，

2）为什么说AI工程师有发展前景？怎样从经济学（市场供需）的角度做出解读？

AI 的优势是提升效率，把复杂繁琐的工作交给机器，在将工作做得更好更快更稳定的同时，极大降低了人力成本。而提高生产效率正是是企业增加市场占有率、提升竞争力的关键。

作业2-2：这是一个双层的神经网络设计，源于CSDN，把这个代码和上课讲的结合一下就可以实现双层网络的房价预测了，主要自己广播机制不太会，要改代码需要改好久，留给有缘人改进

import numpy as np
import math
from planar_utils import plot_decision_boundary, sigmoid, load_planar_dataset, load_extra_datasets

def train_model(learning_rate=0.1):
train_data_x, train_data_y = load_planar_dataset() # 获取数据集

row_count = 13 # 表示输入样例的特征数
examples_count = 404 # 表示样例的数量
hidden_count = 13 # 表示隐藏层单元数量为13

weight1 = np.random.randn(row_count, hidden_count) * 0.01
# 初始化隐藏层权值向量,这里不能全部初始化为0,
# 都为0的效果和单层网络是一样的，而且这里的0.01是超参数
b1 = np.zeros((hidden_count, 1)) # 初始化阈值,这里可以初始化为0
weight2 = np.zeros((hidden_count, 1)) # 初始化第二层的权值
b2 = 0

# 迭代
for i in range(10000):
z1 = np.dot(weight1.T, train_data_x) + b1 # 计算z1
y1_hat = 1.0 / (1 + math.e**(-z1)) # 计算y1_hat
z2 = np.dot(weight2.T, y1_hat) + b2 # 计算z2
y2_hat = 1.0 / (1 + math.e**(-z2)) # 计算y2_hat

loss = - np.sum(train_data_y*np.log(y2_hat) +
(1-train_data_y)*np.log(1-y2_hat)) / examples_count # 计算loss
if loss == 0:
break
print '%d:%f' %(i, loss)

dz2 = y2_hat - train_data_y # 计算dL/dz2
dw2 = np.dot(y1_hat, dz2.T) # 计算dL/dw2
db2 = np.sum(dz2)
dw2 = dw2 * 1.0 / examples_count
db2 = db2 * 1.0 / examples_count

dz1 = np.dot(weight2, dz2) * (y1_hat * (1 - y1_hat)) # 计算dL/dz1
dw1 = np.dot(train_data_x, dz1.T) # 计算dL/dw1
db1 = np.sum(dz1, axis=1, keepdims=True)
dw1 = dw1 * 1.0 / examples_count
db1 = db1 * 1.0 / examples_count

weight2 = weight2 - learning_rate * dw2 # 更新w2
b2 = b2 - learning_rate * db2 # 更新b2
weight1 = weight1 - learning_rate * dw1 # 更新w1
b1 = b1 - learning_rate * db1 # 更新b1

return weight1, b1, weight2, b2

def predict_data(weight1, b1, weight2, b2):
test_data_x, test_data_y = load_planar_dataset() # 获取数据集
examples_count = 102 # 表示样例的数量

z1 = np.dot(weight1.T, test_data_x) + b1
y1_hat = 1.0 / (1 + math.e**(-z1))
z2 = np.dot(weight2.T, y1_hat) + b2 # 计算z2
y2_hat = 1.0 / (1 + math.e**(-z2)) # 计算y2_hat

prediction = np.round(y2_hat) # 计算预测值
print 'correct rate:', np.sum(prediction == test_data_y)* 1.0 / examples_count
return prediction

if __name__ == '__main__':
train_data_x, train_data_y = load_planar_dataset() # 获取数据集
weight1, b1, weight2, b2 = train_model(learning_rate = 1.2) # 训练参数
prediction = predict_data(weight1, b1, weight2, b2) # 根据训练的参数进行预测