maxepochやminibatchsizeのほかに、初期学習率や、モーメンタム、L2正則、learnratedropfactorなどがあります。
初期学習率やモーメンタムは変更されましたか？
また、学習曲線はどのようになっていますでしょうか？変更可能なパラメータがたくさんあって、迷ってしまいますが、学習曲線があれば、少し見当がつけられるかもしれません。
またalexnetで９０％ほどの精度なのであれば、もしかしたら、うまく走っていないのかもしれません。
（実はファイルのなかでカテゴリが混在している、など）それか、カテゴリ間で画像枚数にかたよりがあれば、精度がさがることもあります。
ただ、私の経験では、alexnet, googlenetの精度はそこまで大きく変わらないような気もするのですが、もしかしたらネットワークやそのデフォルトの値で大きく変わるのかもしれません。
また、計算に少し時間はかかりますが、ベイズ的最適化でパラメータを決定するのも良いと思います。googlenetのファイルを関数として、ベイズ的最適化のコードに組み込めば、自動的にパラメータをしぼりこんでくれます。
https://jp.mathworks.com/help/deeplearning/examples/deep-learning-using-bayesian-optimization.html
