gpuDevice
查询或选择 GPU 设备
说明
GPUDevice 对象代表计算机中的图形处理单元 (GPU)。您可以使用 GPU 运行支持 gpuArray 变量的 MATLAB® 代码或使用 CUDAKernel 对象执行 CUDA® 内核。
您可以使用 GPUDevice 对象来检查 GPU 设备的属性、重置 GPU 设备或等待 GPU 完成执行计算。要获取 GPUDevice 对象，请使用 gpuDevice 函数。您还可以使用 gpuDevice 函数选择或取消选择您的 GPU 设备。如果您可以访问多个 GPU，请使用 gpuDevice 函数选择要在其上执行代码的特定 GPU 设备。
您不需要使用 GPUDevice 对象在 GPU 上运行函数。有关如何使用支持 GPU 的函数的更多信息，请参阅 在 GPU 上运行 MATLAB 函数。
创建对象
描述
gpuDevice 显示当前选定的 GPU 设备的属性。如果当前没有选定的设备，gpuDevice 将选择默认设备而不清除它。当您想要检查 GPU 设备的属性时，请使用此语法。
D = gpuDevice 返回一个代表当前选定的设备的 GPUDevice 对象。如果当前没有选定的设备，gpuDevice 将选择默认设备并返回代表该设备的 GPUDevice 对象而不清除它。
gpuDevice([]) 使用一个空参量（而不是没有参量）取消选择 GPU 设备并清除其内存中的 gpuArray 和 CUDAKernel 变量。此语法不选择任何 GPU 设备作为当前设备。
输入参量
属性
对象函数
reset | 重置 GPU 设备并清除其内存 |
wait (GPUDevice) | 等待 GPU 计算完成 |
还提供以下函数：
parallel.gpu.GPUDevice.isAvailable(ind) | 如果索引 1 指定的 GPU 受支持且能够被选择，则返回逻辑 true 或 ind。ind 可以是整数或整数向量；默认索引是当前设备。 |
parallel.gpu.GPUDevice.getDevice(ind) | 返回一个 GPUDevice 对象而不选择它。 |
要获得完整的函数列表，请在 methods 对象上使用 GPUDevice 函数：
methods('parallel.gpu.GPUDevice')您可以使用以下命令获取任何对象函数的帮助：
help parallel.gpu.GPUDevice.functionname
其中 functionname 是函数的名称。例如，要获取有关 isAvailable 的帮助，请输入：
help parallel.gpu.GPUDevice.isAvailable
示例
此示例显示如何使用 gpuDevice 来识别和选择您想要使用的设备。
要确定您的计算机中有多少个可用的 GPU 设备，请使用 gpuDeviceCount函数。
gpuDeviceCount("available")ans = 2
当有多个设备时，第一个是默认的。您可以使用 gpuDeviceTable函数检查其属性，以确定它是否是您想要使用的函数。
gpuDeviceTable
ans=2×5 table
1 "NVIDIA RTX A5000" "8.6" true true
2 "NVIDIA RTX A5000" "8.6" true false
如果第一个设备是您想要使用的设备，那么您可以继续。要在 GPU 上运行计算，请使用启用 gpuArray 的函数。有关详细信息，请参阅在 GPU 上运行 MATLAB 函数。
要验证 MATLAB® 是否可以使用您的 GPU，请使用 canUseGPU 函数。如果有可用于计算的 GPU，则该函数返回 1 (true)，否则返回 0 (false)。
canUseGPU
ans = logical
1
要诊断 GPU 设置的问题，例如如果 canUseGPU 返回 0 (false)，请使用 validateGPU 函数。验证您的 GPU 是可选的。
validateGPU
# Beginning GPU validation # Performing system validation # CUDA-supported platform .................................................PASSED # CUDA-enabled graphics driver exists .....................................PASSED # Version: 570.133.07 # CUDA-enabled graphics driver load .......................................PASSED # CUDA environment variables ..............................................PASSED # CUDA_VISIBLE_DEVICES: "0,1" # CUDA device count .......................................................PASSED # Found 2 devices. # GPU libraries load ......................................................PASSED # # Performing device validation for device index 1 # Device exists ...........................................................PASSED # NVIDIA RTX A5000 # Device supported ........................................................PASSED # Device available ........................................................PASSED # Device is in 'Default' compute mode. # Device selectable .......................................................PASSED # Device memory allocation ................................................PASSED # Device kernel launch ....................................................PASSED # # Finished GPU validation with no failures.
要使用另一个设备，请使用另一个设备的索引调用gpuDevice。
gpuDevice(2)
ans =
CUDADevice with properties:
Name: 'NVIDIA RTX A5000'
Index: 2 (of 2)
ComputeCapability: '8.6'
DriverModel: 'N/A'
TotalMemory: 25294995456 (25.29 GB)
AvailableMemory: 25073221632 (25.07 GB)
DeviceAvailable: true
DeviceSelected: true
Show all properties.
或者，您可以确定有多少个可用的 GPU 设备，检查它们的一些属性，然后从 MATLAB® 桌面中选择要使用的设备。在主页选项卡上的环境区域中，选择并行 > 选择 GPU 环境。
创建一个代表默认 GPU 设备的对象并查询其计算能力。
D = gpuDevice; D.ComputeCapability
ans = '8.6'
查询所有可用 GPU 设备的计算能力。
for idx = 1:gpuDeviceCount D = gpuDevice(idx); disp("Device " + D.Index + " has compute capability " + D.ComputeCapability) end
Device 1 has compute capability 8.6 Device 2 has compute capability 8.6
使用 gpuDeviceTable 比较系统中 GPU 设备的计算能力和可用性。
gpuDeviceTable
ans=2×5 table
1 "NVIDIA RTX A5000" "8.6" true false
2 "NVIDIA RTX A5000" "8.6" true true
更改 GPU 的缓存策略。
创建一个代表默认 GPU 设备的对象。
D = gpuDevice
D =
CUDADevice with properties:
Name: 'NVIDIA RTX A5000'
Index: 1 (of 2)
ComputeCapability: '8.6'
DriverModel: 'TCC'
TotalMemory: 25544294400 (25.54 GB)
AvailableMemory: 25120866304 (25.12 GB)
DeviceAvailable: true
DeviceSelected: true
Show all properties.
访问 GPU 设备的 CachePolicy 属性。
D.CachePolicy
ans = 'balanced'
改变缓存策略，允许 GPU 缓存最大数量的内存，以加速计算。
D.CachePolicy = "maximum";
D.CachePolicyans = 'maximum'
通过将属性设置为 [] 将缓存策略重置为默认策略。
D.CachePolicy = [];
调用 reset(D) 或使用 gpuDevice 选择另一个设备也会将缓存策略重置为其默认值。
如果您可以访问多个 GPU，则可以使用并行池在多个 GPU 上并行执行计算。
要确定 MATLAB 中可用的 GPU 数量，请使用 gpuDeviceCount函数。
availableGPUs = gpuDeviceCount("available")availableGPUs = 3
启动一个并行池，其工作单元数量与可用的 GPU 数量相同。为了获得最佳性能，MATLAB 默认为每个工作单元分配不同的 GPU。
parpool("Processes",availableGPUs);Starting parallel pool (parpool) using the 'Processes' profile ... Connected to the parallel pool (number of workers: 3).
要识别每个工作单元正在使用哪个 GPU，请在 gpuDevice 代码块内调用 spmd。spmd 代码块在每个工作单元上运行 gpuDevice。
spmd gpuDevice end
使用并行语言功能（例如 parfor 或 parfeval）将您的计算分配给并行池中的工作单元。如果您在计算中使用启用 gpuArray 的函数，这些函数将在工作单元的 GPU 上运行。有关详细信息，请参阅在 GPU 上运行 MATLAB 函数。有关示例，请参阅在多个 GPU 上运行 MATLAB 函数。
完成计算后，关闭并行池。您可以使用gcp函数来获取当前并行池。
delete(gcp("nocreate"));如果您想使用不同的 GPU，那么您可以使用 gpuDevice 在每个工作单元上选择特定的 GPU，并使用 GPU 设备索引。您可以使用 gpuDeviceCount 函数获取系统中每个 GPU 设备的索引。
假设您的系统中有三个可用的 GPU，但您只想使用两个进行计算。获取设备的索引。
[availableGPUs,gpuIndx] = gpuDeviceCount("available")availableGPUs = 3
gpuIndx = 1×3
1 2 3
定义您想要使用的设备的索引。
useGPUs = [1 3];
启动您的并行池。使用 spmd 代码块和 gpuDevice 将每个工作单元与您想要使用的 GPU 之一关联起来，并使用设备索引。spmdIndex 函数标识每个工作单元的索引。
parpool("Processes",numel(useGPUs));Starting parallel pool (parpool) using the 'Processes' profile ... Connected to the parallel pool (number of workers: 2).
spmd gpuDevice(useGPUs(spmdIndex)); end
作为最佳做法，为了获得最佳性能，请为每个工作单元分配不同的 GPU。
完成计算后，关闭并行池。
delete(gcp("nocreate"));提示
要查询远程 GPU 的属性，请使用您的集群启动一个并行池，然后在
spmd模块内调用gpuDevice。如果工作单元拥有多于一个的 GPU，请改用gpuDeviceTable。cluster = parcluster("myRemoteGPUCluster"); pool = parpool(cluster); spmd D = gpuDevice end
有关使用远程 GPU 的更多信息，请参阅 使用远程 GPU。
