最新消息:

第3次作业:卷积神经网络(代码练习)

博客园精华 William 1浏览 0评论

卷积神经网络(CNN)

导入相关的库并加载数据 (MNIST)

显示数据集中的部分图像

创建网络

定义训练和测试函数

全连接网络训练:准确率0.87

卷积神经网络上训练(和上面的模型参数相同,但准确率达到了0.94)

通过上面的测试结果,可以发现,含有相同参数的 CNN 效果要明显优于 简单的全连接网络,是因为 CNN 能够更好的挖掘图像中的信息,主要通过两个手段:

  • 卷积:Locality and stationarity in images
  • 池化:Builds in some translation invariance

考虑到CNN在卷积与池化上的优良特性,如果我们把图像中的像素打乱顺序,这样 卷积 和 池化 就难以发挥作用了,为了验证这个想法,我们把图像中的像素打乱顺序再试试。

首先下面代码展示随机打乱像素顺序后,图像的形态:

重新定义训练与测试函数,我们写了两个函数 train_perm 和 test_perm,分别对应着加入像素打乱顺序的训练函数与测试函数。

与之前的训练与测试函数基本上完全相同,只是对 data 加入了打乱顺序操作。

在全连接网络上训练与测试:

在卷积神经网络上训练与测试:

从打乱像素顺序的实验结果来看,全连接网络的性能基本上没有发生变化,但是 卷积神经网络的性能明显下降。

这是因为对于卷积神经网络,会利用像素的局部关系,但是打乱顺序以后,这些像素间的关系将无法得到利用。

CIFAR10数据集

? CIFAR10数据集,它包含十个类别:‘airplane’, ‘automobile’, ‘bird’, ‘cat’, ‘deer’, ‘dog’, ‘frog’, ‘horse’, ‘ship’, ‘truck’。CIFAR-10 中的图像尺寸为3x32x32,也就是RGB的3层颜色通道,每层通道内的尺寸为32*32。

###导入库

展示 CIFAR10 里面的一些图片:

接下来定义网络,损失函数和优化器:

训练网络:

现在我们从测试集中取出8张图片:

把图片输入模型,看看CNN把这些图片识别成什么:

准确率达到了0.62,感觉也不是太靠谱。

VGG16 对 CIFAR10 分类

定义 dataloader

VGG网络定义,下面是模型的实现代码:

圈起来的是运行时报错,之后改了一下。

初始化网络,根据实际需要,修改分类层。因为 tiny-imagenet 是对200类图像分类,这里把输出修改为200。

网络训练:

测试验证准确率

可以看到,使用一个简化版的 VGG 网络,就能够显著地将准确率由 62%,提升到 85%

文章来源:第3次作业:卷积神经网络(代码练习)

转载请注明:AspxHtml学习分享网 » 第3次作业:卷积神经网络(代码练习)

文章评论已关闭!