Pascal GPU アークテクチャの GPU デバイスの初期化に時間がかかるのはなぜですか？

Question

MathWorks Support Team 2017-3-14

回答： MathWorks Support Team 2017-3-14

GTX 1080 や TITAN X などの GPU デバイスを使用していますが、GPU の初期化に非常に時間がかかります(数分から十数分)。対策方法はありますか？

コマンド例:

tic;a=gpuDevice(1);toc;tic;b=gpuDevice(1);toc;

実行例:

Elapsed time is 202.824174 seconds.

Elapsed time is 202.291023 seconds.

Answer 1

NVIDIA 社の Pascal アーキテクチャの GPU デバイスがキャッシュのための十分な領域の確保が出来ない場合にこのような問題となる場合があります。

回避するためには、ご利用のコンピュータの環境変数 "CUDA_CACHE_MAXSIZE" を大きな値に変更します。多くの場合はデフォルトの 32MB と設定されていますが、例えば 1GB 程度にします。

環境変数の変更ですが、Windowsの場合はコンピュータのアイコンを右クリックし、「プロパティ　＞　システムの詳細設定　＞　詳細設定タブ　＞　環境変数ボタン」により設定画面を開く事が出来ます。

ここで、1GB を設定するためには、

CUDA_CACHE_MAXSIZE 1073741824

とします。実際には 1GB では大きすぎますので適宜調整します。