迁移学习快速入门

此示例说明如何使用深度网络设计器为迁移学习准备网络。

深度学习应用中常常用到迁移学习。您可以采用预训练的网络，基于它学习新任务。与使用随机初始化的权重从头训练网络相比，通过迁移学习微调网络要更快更简单。您可以使用较少数量的训练图像快速地将已学习的特征迁移到新任务。

加载图像数据

在工作区中，提取 MathWorks® Merch 数据集。要访问此数据，请以实时脚本形式打开此示例。这个小型数据集包含 75 幅 MathWorks 商品图像，它们分属五个不同类（瓶盖、魔方、扑克牌、螺丝刀和手电筒）。

folderName = "MerchData";
unzip("MerchData.zip",folderName);

创建一个图像数据存储。通过图像数据存储可以存储大图像数据集合，包括无法放入内存的数据，并在神经网络的训练过程中高效分批读取图像。指定包含提取图像的文件夹，并指示子文件夹名称与图像标签对应。

imds = imageDatastore(folderName, ...
    IncludeSubfolders=true, ...
    LabelSource="foldernames");

显示一些示例图像。

numImages = numel(imds.Labels);
idx = randperm(numImages,16);
I = imtile(imds,Frames=idx);
figure
imshow(I)

提取类名称和类数目。

classNames = categories(imds.Labels);
numClasses = numel(classNames);

将数据划分为训练、验证和测试数据集。将 70% 的图像用于训练，15% 的图像用于验证，15% 的图像用于测试。splitEachLabel 函数将图像数据存储拆分为三个新数据存储。

[imdsTrain,imdsValidation,imdsTest] = splitEachLabel(imds,0.7,0.15,0.15,"randomized");

加载预训练网络

要针对新任务调整预训练的神经网络，请使用深度网络设计器。

deepNetworkDesigner

从预训练网络列表中选择 SqueezeNet，然后点击打开。

The Deep Network Designer start page, showing the mouse hovering over Squeezenet which displays proprties of the model, including its depth (18), parameter memory (4.7 MB), number of parameters (1.24 M), and input size (227-by-227-by-3).

要为迁移学习编辑网络，请执行以下操作：

将类数量设置为新的类数量，在此示例中为 5。
将最后一个可学习层的学习率设置为 10，使新层中的学习速度快于迁移的层。
点击导入。

Customize pretrained network dialog showing the number of classes set to 5 and the learning rate in the last layer set to 10.

深度网络设计器将显示整个网络的缩小视图。

The designer pane in deep network designer, showing the layers in squeezenet.

要检查网络是否准备好进行训练，请点击分析。深度学习网络分析器报告零错误或警告，因此，网络已准备就绪，可以开始进行训练。

Network Analyzer pane showing that there are no errors or warnings.

要导出网络，请点击导出，然后点击确定。该 App 将网络保存在变量 net_1 中。

Dialog with a text field to name the exported network.

指定训练选项

指定训练选项。在选项中进行选择需要经验分析。要通过运行试验探索不同训练选项配置，您可以使用Experiment Manager。

options = trainingOptions("adam", ...
    ValidationData=imdsValidation, ...
    ValidationFrequency=5, ...
    Plots="training-progress", ...
    Metrics="accuracy", ...
    Verbose=false);

训练神经网络

使用 trainnet 函数训练神经网络。由于目的是分类，因此使用交叉熵损失。

net = trainnet(imdsTrain,net_1,"crossentropy",options);

测试神经网络

对测试图像进行分类。要使用多个观测值进行预测，请使用 minibatchpredict 函数。要将预测分数转换为标签，请使用 scores2label 函数。minibatchpredict 函数自动使用 GPU（如果有）。

inputSize = net.Layers(1).InputSize(1:2);

YTest = minibatchpredict(net,imdsTest);
YTest = scores2label(YTest,classNames);

在混淆图中可视化分类准确度。

TTest = imdsTest.Labels;
figure
confusionchart(TTest,YTest);

对新图像进行分类

对一个测试图像进行分类。从 JPEG 文件中读取一个图像，调整其大小，并将其转换为 single 数据类型。

im = imread("MerchDataTest.jpg");

im = imresize(im,inputSize(1:2));
X = single(im);

对图像进行分类。要使用单个观测值进行预测，请使用 predict 函数。

scores = predict(net,X);
[label,score] = scores2label(scores,classNames);

显示具有预测标签和对应分数的图像。

figure
imshow(im)
title(string(label) + " (Score: " + gather(score) + ")")

要了解有关迁移学习以及如何提高网络性能的更多信息，请参阅重新训练神经网络以对新图像进行分类。

参考

[1] ImageNet. http://www.image-net.org.

[2] Iandola, Forrest N., Song Han, Matthew W. Moskewicz, Khalid Ashraf, William J. Dally, and Kurt Keutzer. "SqueezeNet: AlexNet-level accuracy with 50x fewer parameters and <0.5 MB model size." Preprint, submitted November 4, 2016. https://arxiv.org/abs/1602.07360.

[3] Iandola, Forrest N. "SqueezeNet." https://github.com/forresti/SqueezeNet.

另请参阅

imagePretrainedNetwork | dlnetwork | trainingOptions | trainnet | 深度网络设计器