GoogleNetのaccuracyを改善する方法につきまして
显示 更早的评论
プログラミング初心者です。
以下のリンクをもとにgooglenetでDICOM ファイルのclassificationを行いました
以下のコードを削除したり、optionでmaxepochの数やmini-batch sizeを調整しているのですが、なかなかaccuracyは上がらず55%です。
pixelRange = [-30 30];
scaleRange = [0.9 1.1];
imageAugmenter = imageDataAugmenter( ...
'RandXReflection',true, ...
'RandXTranslation',pixelRange, ...
'RandYTranslation',pixelRange, ...
'RandXScale',scaleRange, ...
'RandYScale',scaleRange);
augimdsTrain = augmentedImageDatastore(inputSize(1:2),imdsTrain, ...
'DataAugmentation',imageAugmenter);
alexnetでは90%近いaccuracyを出せているので、googlenetではなぜこういった問題が生じているかご存じでしたらご教示頂けますと幸いです。
采纳的回答
Kenta
2019-2-20
2 个投票
maxepochやminibatchsizeのほかに、初期学習率や、モーメンタム、L2正則、learnratedropfactorなどがあります。
初期学習率やモーメンタムは変更されましたか？
また、学習曲線はどのようになっていますでしょうか？変更可能なパラメータがたくさんあって、迷ってしまいますが、学習曲線があれば、少し見当がつけられるかもしれません。
またalexnetで９０％ほどの精度なのであれば、もしかしたら、うまく走っていないのかもしれません。
（実はファイルのなかでカテゴリが混在している、など）それか、カテゴリ間で画像枚数にかたよりがあれば、精度がさがることもあります。
ただ、私の経験では、alexnet, googlenetの精度はそこまで大きく変わらないような気もするのですが、もしかしたらネットワークやそのデフォルトの値で大きく変わるのかもしれません。
また、計算に少し時間はかかりますが、ベイズ的最適化でパラメータを決定するのも良いと思います。googlenetのファイルを関数として、ベイズ的最適化のコードに組み込めば、自動的にパラメータをしぼりこんでくれます。
https://jp.mathworks.com/help/deeplearning/examples/deep-learning-using-bayesian-optimization.html
9 个评论
ssk
2019-2-20
Itakura様、ご連絡ありがとうございます。学習曲線のスクリーンショットを添付いたします。初期学習率や、モーメンタム、L2正則、learnratedropfactorにつきましても調整してみます。
Kenta
2019-2-20
トレーニングデータに対しては、ほぼ１００％フィッティングしていますね。それに対し、テストデータでは精度があがりきっていないので、過学習をしているようにも見えます。しかし、なんとなく、過学習の曲線とは異なるような気もします。
１点質問があります。トレーニングデータとテストデータはどのように分けていますか？splitEachLabel関数で８：２、などに分けていますか？それともテストデータは別で読み込んでいますか？
過学習だと、モーメンタムの値を大きくしたり、後半あたりのdropoutの大きさをあげたり（これはレイヤーの値を操作）、あとは削除した、とあった、データ拡張を加えたりします。
もし、テストデータがうまく読み込めていると確認できたら、
まずはモーメンタムなどの値をいろいろ変えてはどうかと思います。
ssk
2019-2-20
Kenta
2019-2-20
もしかして、訓練データ数がかなり少ないという状況でしょうか。
それだと不安定になって、alexnetと精度が大きく異なるということもありえると思います。
一度、spriteachlabelで8:2にわけて（'randomized'する）、もし、rng('default')などの乱数を固定するコードがあればそれを削除して、もう一度精度を計算していただけますか？毎回訓練、テストデータの組が変わるので数回試行してみてください。
少し精度が上がるかもしれないのでその結果を教えていただけると幸いです。
ssk
2019-2-20
Kenta
2019-2-20
それだとさきほどの例では各クラス５枚のトレーニングになってますね？
データが少ない分、学習が不安定になったと思います。例えば３０枚くらい集まったらデータオーギュメンテーションも加えてやってみるのはどうでしょう。その際、maxepochの値を大きくすると、その倍数分データを水増しできると思います。
alexnetでよい結果が出た経験もあるならデータを増やせばうまく可能性も高いと思います。
ssk
2019-2-20
試しに50枚でやってみたのですが横ばいが続ききちんと学習できているとはいいがたいですね。。 dataaugmentationも含めて試してみます。
Kenta
2019-2-20
そうですか...報告ありがとうございます。
alexnetでうまくいったのなら、そちらに絞ってみてはどうでしょう。いろんな意味での、そのデータに対するネットワークの向き不向きもあると思いますので。
ssk
2019-2-20
更多回答（0 个）
类别
在 帮助中心 和 File Exchange 中查找有关 確率分布 的更多信息
