作业7-1：

乘法224*224*9*64*10，加法224*224*9*64*10

作业7-1:

乘法： 3*3*3*224*224*64*10 = 867,041,280 ， 加法：(3*3*3+2)*224*224*64*10 = 931,266,560

作业7-2:

作业7-1:  乘法3870720，加法4157440

作业7-2: 

作业5-3

在手写数字识别任务中，训练10epoch，经过测试 发现SGD作为优化器，learning_rate=0.01时 ，acc最高达到97%，loss采用的是交叉熵，取值为0.2573.

其次是Adam作为优化器，learning_rate为动态调整时，acc为96%，loss的值为0.2495

自己判断的原因是 手写数字识别的图像特征简单，没有太多的峰谷，采用SGD就可以快速到达最优处，在处理复杂图像和目标识别时Adam比较有优势

作业3-1（补作业）：
（1）

# 引用
import numpy as np
%matplotlib inline
import matplotlib.pyplot as plt
import matplotlib.patches as patches

# 设置图片大小
plt.figure(figsize=(8,3))

# x是一维数组，数组大小是从-10. 到 10.的实数，每隔0.1取一个点
x = np.arange(-10., 10., 0.1)
# 计算函数tanh
y = (np.exp(x) - np.exp(-x)) / (np.exp(x) + np.exp(-x))

# 画图
plt.plot(x, y, color='r')
# 添加文字说明
plt.text(-8., 0.8, r'$y=tanh(x)$', fontsize=13)

# 设置坐标轴格式
currentAxis=plt.gca()
currentAxis.xaxis.set_label_text('x', fontsize=15)
currentAxis.yaxis.set_label_text('y', fontsize=15)

plt.show()

（2）

# 引用
import numpy as np

p = np.random.randn(10, 10)
q = (p > 0)
sum = q.sum()
sum1 = np.sum(q)
print(sum)
print(sum1)

作业7-1

输入数据形状是[10,3,224,224]，卷积核kh=kw=3，输出通道数为64，步幅stride=1，填充ph​=pw​=1。

则完成这样一个卷积，一共需要做多少次乘法和加法操作？

答：乘法3*3*3*224*224*64*10 = 867041280，加法(8*3+2)*224*224*64*10=834928640

7-2 计算网络层的输出数据和参数的形状
网络结构定义如下面的代码所示，输入数据形状是[10,3,224,224]

请分别计算每一层的输出数据形状，以及各层包含的参数形状

更改作业7-1:  乘法‭867,041,280‬，加法‭931,266,560‬

作业4-2（补作业）：
python写的算法运行速度快，但是编写过程复杂。不过编写过程更有利于学习，感觉编写以后对整个过程更透彻一些。飞桨编写简单，运行小程序耗时长，更像模块化设计，搭积木，但有时候写了程序感觉有点雾里看花的感觉。

作业7-1

乘法：224*224*64*10*3*3*3 = 867041280

加法：224*224*64*10*(3*3*3+2) = 931266560

作业7-2

作业5-1

with fluid.dygraph.guard():
    model = MNIST('mnist')
    model_state_dict,_ = fluid.load_dygraph('mnist')
    model.load_dict(model_state_dict)
    model.eval()
    
    eval_loader = load_data('eval')
    for _,data in enumerate(eval_loader()):
        image_data,label_data = data 
        image = fluid.dygraph.to_variable(img_data)
        label = fluid.dygraph.to_variable(label_data)
        
        predict,acc = model(image,label)
        avg_acc = fluid.layers.mean(acc)
        print("100张图片的准确率为：{}".format(acc))
        break

因为load_data函数正好是每次返回100张图片，所以切换模型时候把 np.random.shuffle(index)放在data_generator()的全局，即可实现每次随机取100张图片

100张图片的准确率为：name tmp_13, dtype: VarType.FP32 shape: [1] lod: {}
dim: 1
layout: NCHW
dtype: float
data: [0.09]

输出结果是这样的 感觉不对啊，但是找不到原因 

作业7-2

作业7-1：

对于一个输入通道中的像素有9次乘法和9次加法，而一共有三个输入通道，故输出特征的一个像素需要经过27次乘法和29次加法。输出特征一共有10×64×224×224个像素，故：

乘法：867041280

加法：931266560

作业7-2：

作业7-1：乘法 10*222*222*64*3*3*3= 867041280
加法 10*222*222*64*（8*3+2）=834928640

作业7-2：

作业7-1：乘法 （10*222*222*3）*64 * (3*3)= 867041280

加法 (10*222*222)*64*（3*3*3+2）= 914711040

作业7-2：

out = (in+2*padding-kernel_size)/stride + 1

作业7-1：

卷积核为3*3，矩阵的乘法，每次加上bias，故对于一个输入通道中的像素有9次乘法和9次加法，而一共有三个输入通道，需要相加两次，故输出特征的一个像素需要经过27次乘法和29次加法。输出特征一共有10×64×224×224个像素，故：

乘法：867041280

加法：931266560

作业7-1：

根据题意可知：输出的特征图的大小为[10,64,224,224]。因此乘法加法操作数目分别为：

乘法：[3*(3*3)]*224*224*64*10 = 867041280

加法：[3*(3*3-1)+(3-1)+1]*224*224*64*10 = 867041280

上述数字的解释如下：

乘法：第一个3代表输入通道数即图片通道数，(3*3)代表一次卷积乘法数量，224*224代表单通道输出特征图的大小，64代表输出特征图通道数目，10代表图片数量。

加法：第一个3代表输入通道数即图片通道数，(3*3-1)代表一次卷积加法数量，(3-1)代表三个通道卷积结果的加法数量，1代表加偏置项，224*224代表单通道输出特征图的大小，64代表输出特征图通道数目，10代表图片数量。

作业7-2：

作业7-2：

作业7-1：

根据题意可知：输出的特征图的大小为[10,64,224,224]。因此乘法加法操作数目分别为：

乘法：[3*(3*3)]*224*224*64*10 = 867041280

加法：[3*(3*3-1)+(3-1)+1]*224*224*64*10 = 867041280

上述数字的解释如下：

乘法：第一个3代表输入通道数即图片通道数，(3*3)代表一次卷积乘法数量，224*224代表单通道输出特征图的大小，64代表输出特征图通道数目，10代表图片数量。

加法：第一个3代表输入通道数即图片通道数，(3*3-1)代表一次卷积加法数量，(3-1)代表三个通道卷积结果的加法数量，1代表加偏置项，224*224代表单通道输出特征图的大小，64代表输出特征图通道数目，10代表图片数量。

作业7-2：