2-1(1):

2-1(2):

class Network(object):
def __init__(self, num_of_weights):
# 随机产生w的初始值
# 为了保持程序每次运行结果的一致性，此处设置固定的随机数种子
#np.random.seed(0)
self.w = np.random.randn(num_of_weights, 1)
self.b = 0.

def forward(self, x):
z = np.dot(x, self.w) + self.b
return z

def loss(self, z, y):
error = z - y
num_samples = error.shape[0]
cost = error * error
cost = np.sum(cost) / num_samples
return cost

def gradient(self, x, y):
z = self.forward(x)
N = x.shape[0]
gradient_w = 1. / N * np.sum((z-y) * x, axis=0)
gradient_w = gradient_w[:, np.newaxis]
gradient_b = 1. / N * np.sum(z-y)
return gradient_w, gradient_b

def update(self, gradient_w, gradient_b, eta = 0.001):
self.w = self.w - eta * gradient_w
self.b = self.b - eta * gradient_b


def train(self, training_data, num_epoches, batch_size=20, eta=0.0001):
n = len(training_data)
losses = []
for epoch_id in range(num_epoches):
# 在每轮迭代开始之前，将训练数据的顺序随机的打乱，
# 然后再按每次取batch_size条数据的方式取出
np.random.shuffle(training_data)
# 将训练数据进行拆分，每个mini_batch包含batch_size条的数据
mini_batches = [training_data[k:k+batch_size] for k in range(0, n, batch_size)]
for iter_id, mini_batch in enumerate(mini_batches):
#print(self.w.shape)
#print(self.b)
x = mini_batch[:, :-1]
y = mini_batch[:, -1:]
a = self.forward(x)
loss = self.loss(a, y)
gradient_w, gradient_b = self.gradient(x, y)
self.update(gradient_w, gradient_b, eta)
losses.append(loss)
print('Epoch {:3d} / iter {:3d}, loss = {:.4f}'.
format(epoch_id, iter_id, loss))

return losses

作业1-2：完成下面两个问题，并将答案发布在帖子下面
①类比牛顿第二定律的案例，在你的工作和生活中还有哪些问题可以用监督学习的框架来解决？假设和参数是什么？优化目标是什么？

答：单元反射相位与单元的尺寸可以用监督学习框架来预测：单元尺寸x,单元反射相位y，两者是反比例关系，y=wx+b； 参数：为w，

优化目标：是找出能拟合所有观测样本的最优w与b

②为什么说AI工程师有发展前景？怎样从经济学（市场供需）的角度做出解读？

随着AI的普及以及它本身的含义就是利用模型不断的训练数据最后拟合现实情景，解决实际问题，所以AI的应用非常广泛，并且AI人才需求大于供应，所以AI工程师是非常有前景的。

作业1-2：完成下面两个问题，并将答案发布在帖子下面
①类比牛顿第二定律的案例，在你的工作和生活中还有哪些问题可以用监督学习的框架来解决？假设和参数是什么？优化目标是什么？

答：阵列反射角与单元的尺寸可以用监督学习框架来预测：单元尺寸x,单元反射相位y，两者是反比例关系，y=arcsin（c/(2pi*f)*d/x）； 参数：d/x，

优化目标：是找出能拟合所有观测样本的最优d与x的最优解。

②为什么说AI工程师有发展前景？怎样从经济学（市场供需）的角度做出解读？

因为AI广泛与各行各业结合，例如教育行业，医疗行业，金融行业等，从市场需求来分析，AI的需要远远大于它的供应，所以AI工程师是有发展前景的。

作业1-2：完成下面两个问题，并将答案发布在帖子下面：

问题1:

青少年身高与体重的关系可以通过监督学习进行归纳，通过采集多个少年的此类数据，通过多项式建模进行归纳。

问题2:

发展前景：机器学习特别是深度学习的出现使得人们在解决某些领域的问题时不需要掌握那么多该领域的知识，并对系统的输入数据依据该领域的深厚知识进行精妙的变化和处理。通过大量的数据和算力以及精细构造的模型结果，目前深度模型的性能在稳步提高，但入门难度却在降低，无须过度的领域知识即可着手建模验证想法。

供求关系上：生活领域有大量的深度学习人才需求，但目前深度学习仍在在起步阶段，人才存量还不大，还需要大量的基础开发和应用开发人才，总体上供小于求

作业2-1：（1）

作业2-1：（2）

代码如下：

import numpy as np
import matplotlib.pyplot as plt

%matplotlib inline

class Network(object):
    def __init__(self, layers):
        #layers包括输入层（输出等输入的神经元层）
        np.random.seed(0)
        self.num_layers = len(layers)-1
        self.w, self.b = [],[]
        for i in range(self.num_layers):
            w = np.random.randn(layers[i], layers[i+1])
            b = np.zeros(layers[i+1])
            self.w.append(w)
            self.b.append(b)
            

    def forward(self, x):
        #同layers定义，输入层也有输出（输出等输）
        self.z = [x]
        for i in range(self.num_layers):
            z = np.dot(self.z[i], self.w[i]) + self.b[i]
            self.z.append(z)
        return self.z[-1]

    def loss(self, z , y):
        error = z - y
        cost = error * error
        cost = np.mean(cost)
        return cost
        
    def gradient(self, y):
        N = self.z[-1].shape[0]
        self.grad_z = [ (self.z[-1]-y)/N ]
        self.grad_w = []
        self.grad_b = []
        for i in range(self.num_layers):
            grad_w = np.dot(self.z[-i-2].T, self.grad_z[i])
            grad_b = self.grad_z[i].sum(axis=0)
            # print(grad_b.shape)
            self.grad_w.append(grad_w)
            self.grad_b.append(grad_b)
            if i < self.num_layers-1 :
                grad_z = np.dot(self.grad_z[i], self.w[-i-1].T)
                self.grad_z.append(grad_z)
        self.grad_w = self.grad_w[::-1]
        self.grad_b = self.grad_b[::-1]

    def update(self, eta=0.0001):
        for i in range(self.num_layers):
            self.w[i] = self.w[i] - eta*self.grad_w[i]
            self.b[i] = self.b[i] - eta*self.grad_b[i]
            # print(self.grad_b[i].shape)

    def train(self, train_data, epochs=1, batch_size=10, eta=0.01):
        n = len(train_data)
        losses = []
        for i in range(epochs):
            np.random.shuffle(train_data)
            mini_batches = [train_data[k:k+batch_size] for k in range(0, n, batch_size)]
            for it, batch in enumerate(mini_batches):
                X = batch[:, :-1]
                Y = batch[:, -1:]
                Z = self.forward(X)
                loss = self.loss(Z, Y)
                losses.append(loss)
                self.gradient(Y)
                self.update(eta)
                print('Epoch {:3d} / iter {:3d}, loss = {:.4f}'.format(i, it, loss))
        return losses

def load_data():
    # 从文件导入数据
    datafile = './work/housing.data'
    data = np.fromfile(datafile, sep=' ')

    # 每条数据包括14项，其中前面13项是影响因素，第14项是相应的房屋价格中位数
    feature_names = [ 'CRIM', 'ZN', 'INDUS', 'CHAS', 'NOX', 'RM', 'AGE', \
                      'DIS', 'RAD', 'TAX', 'PTRATIO', 'B', 'LSTAT', 'MEDV' ]
    feature_num = len(feature_names)

    # 将原始数据进行Reshape，变成[N, 14]这样的形状
    data = data.reshape([data.shape[0] // feature_num, feature_num])

    # 将原数据集拆分成训练集和测试集
    # 这里使用80%的数据做训练，20%的数据做测试
    # 测试集和训练集必须是没有交集的
    ratio = 0.8
    offset = int(data.shape[0] * ratio)
    training_data = data[:offset]

    # 计算train数据集的最大值，最小值，平均值
    maximums, minimums, avgs = training_data.max(axis=0), training_data.min(axis=0), \
                                 training_data.sum(axis=0) / training_data.shape[0]

    # 对数据进行归一化处理
    for i in range(feature_num):
        #print(maximums[i], minimums[i], avgs[i])
        data[:, i] = (data[:, i] - avgs[i]) / (maximums[i] - minimums[i])

    # 训练集和测试集的划分比例
    training_data = data[:offset]
    test_data = data[offset:]
    return training_data, test_data

# 获取数据
train_data, test_data = load_data()

# 创建网络
layers = [13, 13, 1]
net = Network(layers)
# 启动训练
losses = net.train(train_data, epochs=50, batch_size=100, eta=0.1)

# 画出损失函数的变化趋势
plot_x = np.arange(len(losses))
plot_y = np.array(losses)
plt.plot(plot_x, plot_y)
plt.show()

结果如下：

作业1-2：

①类比牛顿第二定律的案例，在你的工作和生活中还有哪些问题可以用监督学习的框架来解决？假设和参数是什么？优化目标是什么？

        答：水果的每年的每个季度价格波动，假设的是价格，参数是当季的产量、是否为当季水果、产地运费、水果的品种、水果的大小、种植过程是否使用农药等等。优化的目标是水果当季的价格。

②为什么说AI工程师有发展前景？怎样从经济学（市场供需）的角度做出解读？

       答：未来是互联网进化的时代，人工智能的时代，这个时代需要大量的AI工程师，就如同互联网离不开软件开发工程师一样。随着人工智能的不断发展，大数据时代，区块链，云计算等，许多公司也在向这边靠近，并且政府也有相关的鼓励政策，这样便产生了大量的AI工程师需求缺口。

先回答一个基础题~

作业2-1：（1）

作业1-2：完成下面两个问题，并将答案发布在帖子下面
①类比牛顿第二定律的案例，在你的工作和生活中还有哪些问题可以用监督学习的框架来解决？假设和参数是什么？优化目标是什么？

答：可以利用监督学习框架辅助医生诊断和处方审核。假设病人疾病和各化验结果可以用线性关系来描述，y=j=1∑M​xj​wj​+b参数是病人的症状，如体温，血常规数据，尿常规数据，B超，CT，放射拍片等化验数据。

优化目标：是找出能拟合所有观测样本的最优k与b

②为什么说AI工程师有发展前景？怎样从经济学（市场供需）的角度做出解读？

新的技术带来新的生产力，自从阿尔法GO战胜人类之后，深度学习的AI开始广泛的应用到了社会的各个方面。而算法优化是深度学习效率的核心，AI在很多方向上相较于人类是有很大优势的，而且应用领域也在不断开阔。随着各行各业对人工智能的应用，对AI工程师的需求也就日趋增长。

作业2-1：（1）

（2）基于前一讲，主要改动部分。

作业2-1：（1）

作业2-1：

（1）基础题--梯度传播

作业1-2：

①类比牛顿第二定律的案例，在你的工作和生活中还有哪些问题可以用监督学习的框架来解决？假设和参数是什么？优化目标是什么？

答：预测luckin咖啡店的每日销量，假设每日销量和多个参数成线性关系，包括天气，周几，人员密度，餐馆数量，位置，价格，促销力度，饮品种类。 优化目标是每日预计销量和实际销量的差别应该尽量小。

②为什么说AI工程师有发展前景？怎样从经济学（市场供需）的角度做出解读？

答：Alpha GO战胜人类，充分体现了人工智能的优势。 目前各行各业都在向机器学习和人工智能靠拢，从简单的人脸识别，到疾病分析，再到客流量预测和无人驾驶，AI无处不在，同时政府也出台了各种优惠来扶持AI行业，从而造成市场需要大量的AI工程师。

而目前的大学教育体系和培训体制无法快速跟上，造成人才供给不足，从而造成供需差距的显著扩大，从而导致AI工程师非常抢手，非常有前景，后续晋升空间巨大。

作业2-1：

(1): 基础题：填写购买苹果和橘子的梯度传播

12月10日作业

①类比牛顿第二定律的案例，在你的工作和生活中还有哪些问题可以用监督学习的框架来解决？假设和参数是什么？优化目标是什么？

个人体脂率预测。假设个人体质率（y）与身高（h），体重（w），腰围（s）成线性关系，假设模型是：y=h*w1+w*w2+s*w3。优化目标是模型预测的体脂率和样本体脂率的平方损失函数（y-y')^2的最小化。

②为什么说AI工程师有发展前景？怎样从经济学（市场供需）的角度做出解读？

首先，AI有很多场景可以应用，比如：医院使用AI辅助疾病诊治，学校使用AI辅助教学，农场使用AI辅助种植，还有自动驾驶，语聊机器人，量化金融等等都可以有AI的应用，因此AI的应用场景广泛，所以市场对AI工程师的需求量大。此外，这个行业的技术更新很快，也需要AI工程师注重个人学习和个人发展。因此说AI工程师有发展前景

作业2-1：

（1）基础题：

（2）挑战题：

class Network(object):
def __init__(self, num_of_weights, num_of_hidden1, num_of_hidden2):
# 随机产生w1,w2的初始值
# 为了保持程序每次运行结果的一致性，
# 此处设置固定的随机数种子
np.random.seed(0)
self.w1 = np.random.randn(num_of_weights, num_of_hidden1)
self.w2 = np.random.randn(num_of_hidden1, num_of_hidden2)
self.b1 = 0.
self.b2 = 0.

def forward(self, x):
a1 = np.dot(x, self.w1) + self.b1 #第一层计算
a2 = np.dot(a1, self.w2) + self.b2 #第二层计算
return a1, a2

def loss(self, z, y):
error = z - y
cost = error * error
cost = np.mean(cost)
return cost

def gradient(self, x, y):
a1, z = self.forward(x)
#第一层参数梯度
gradient_a2 = np.dot(x.T, (z-y))
gradient_w1 = np.dot(gradient_a2, net.w2.T)
gradient_b1 = np.dot((z - y), self.w2.T)
gradient_b1 = np.mean(gradient_b1)
#第二层参数梯度
gradient_w2 = np.dot(a1.T, z-y)
gradient_b2 = (z - y)
gradient_b2 = np.mean(gradient_b2)
return gradient_w1, gradient_b1, gradient_w2, gradient_b2

def update(self, gradient_w1, gradient_b1, gradient_w2, gradient_b2, eta = 0.01):
self.w1 = self.w1 - eta * gradient_w1
self.b1 = self.b1 - eta * gradient_b1
self.w2 = self.w2 - eta * gradient_w2
self.b2 = self.b2 - eta * gradient_b2

def train(self, training_data, num_epoches, batch_size=10, eta=0.01):
n = len(training_data)
losses = []
for epoch_id in range(num_epoches):
# 在每轮迭代开始之前，将训练数据的顺序随机的打乱，
# 然后再按每次取batch_size条数据的方式取出
np.random.shuffle(training_data)
# 将训练数据进行拆分，每个mini_batch包含batch_size条的数据
mini_batches = [training_data[k:k+batch_size] for k in range(0, n, batch_size)]
for iter_id, mini_batch in enumerate(mini_batches):
#print(self.w.shape)
#print(self.b)
x = mini_batch[:, :-1]
y = mini_batch[:, -1:]
a1, z = self.forward(x)
loss = self.loss(z, y)
gradient_w1, gradient_b1, gradient_w2, gradient_b2 = self.gradient(x, y)
self.update(gradient_w1, gradient_b1, gradient_w2, gradient_b2, eta)
losses.append(loss)
print('Epoch {:3d} / iter {:3d}, loss = {:.4f}'.
format(epoch_id, iter_id, loss))

return losses

作业1-2：完成下面两个问题，并将答案发布在帖子下面
①类比牛顿第二定律的案例，在你的工作和生活中还有哪些问题可以用监督学习的框架来解决？假设和参数是什么？优化目标是什么？

答：可以利用监督学习框架预测信用卡违约。假设信用卡违约现象和用户画像、用户行为、多头、共债等数据可以用线性关系来描述，y=j=1∑M​xj​wj​+b参数是回归系数w和截距b。

优化目标：是找出能拟合所有观测样本的最优k与b

②为什么说AI工程师有发展前景？怎样从经济学（市场供需）的角度做出解读？

未来是大数据的世界，伴随着硬件技术的发展，大数据相关算法逐渐在工业界投产使用，并有显著效果。AI工程师是研发、落实大数据算法的主力军，未来人工智能产品需求无论是量还是质都有所提高，受供求关系影响，市场对AI工程师的需求也就日趋增长。

作业2-1：

作业1-2：完成下面两个问题，并将答案发布在帖子下面

①类比牛顿第二定律的案例，在你的工作和生活中还有哪些问题可以用监督学习的框架来解决？假设和参数是什么？优化目标是什么？

我认为任何需要靠经验跟连续变化的部分都可以用来作为回归预测的项目，目的是让我们了解趋势，就好像读一本历史书一样。‘

透过观察趋势可以找出最适合我们的操作

在居家方面可已透过家里各项电器的使用对于电费的支出，来对于家中各项电器的使用时间优化。

在健康方面可以透过了解自己的 BMI 变化，对于饮食的热量摄取还有运动时间跟运动量做出回归趋势，根据个人来客制化饮食跟运动的建议跟督促。

②为什么说AI工程师有发展前景？怎样从经济学（市场供需）的角度做出解读？

人类在过去三年生产出来的数据量已经超越了过去三千年的总和，今年最新最快的产品，在明年就像是博物馆内的文物一样。

在过去一个可乐公司的公司决策只需要针对人群 透過前輩的經驗就不會有太大的問題跟毛病，想要獲取這樣的用戶，就想在池塘裡面摘一朵莲花一样。

但是在现代，人群的意象受到广大信息的影响，要锁定用户的意象，仿佛就从直升机上然后要捞出在太平洋上指定的某几片浮萍一样。

如此庞大跟复杂的动向，要掌握它，甚至预测他。我们需要机器在智能方面的助力，就像推土机给人类在挖洞方面的助力一样。