使用远程 GPU

自 R2024a 起

打开实时脚本

此示例展示如何在集群中的多个远程 GPU 上运行 MATLAB® 代码。

如果您可以访问具有 GPU 计算资源的集群，则可以使用并行语言访问和使用这些 GPU 进行计算。此示例展示了如何访问和使用 GPU 资源，即使您的本地机器没有受支持的 GPU。

开发您的算法

首先在本地机器上对算法进行原型设计。虽然设置集群和在远程 GPU 上运行代码的步骤可用于加速在 GPU 上运行的任何代码，但此示例计算标准地图。

标准地图显示了转子受到多次冲击后的角位置和角动量。旋转器是一根棍子，它的一端可以无摩擦地旋转，另一端则被周期性地踢动。踢动旋转体的运动定义为

$p_{n + 1} = p_{n} + K \cdot \sin (θ_{n})$

$θ_{n + 1} = θ_{n} + p_{n + 1}$

其中 $θ_{n}$ 和 $p_{n}$ 决定第 $n$ 次踢动后转子的角位置和角动量，常数 $K$ 表示转子受到的踢动强度。 $θ_{n}$ 和 $p_{n}$ 对 $2 π$ 取模。

定义要仿真的踢球次数，以及要仿真的 $θ_{0}$ 和 $p_{0}$ 值的数量。

numKicks = 500;
numThetaValues = 100000;
numPValues = 10;

在本地机器上运行 K=0 的仿真。这仿真了一个自由旋转体，其角动量 p 保持不变，展示了每个仿真的初始条件。simulateRotator 函数定义在本例的最后，并计算 $θ_{n}$ 和 $p_{n}$ 。如果您的本地机器上有 GPU，请将 K 转换为 gpuArray。如果 K 是 gpuArray，则 simulateRotator 函数使用 zeros 函数的 "like" 语法来分配数组并在 GPU 上执行仿真。否则，该函数将在 CPU 上执行仿真。有关受支持的 GPU 设备的信息，请参阅 GPU 计算要求。

K = 0;
if canUseGPU
    K = gpuArray(K);
end
[pN,thetaN] = simulateRotator(numKicks,numThetaValues,numPValues,K);

绘制仿真结果。函数 plotMap 在本例的末尾定义。

figure
plotMap(numKicks,pN,thetaN,K)

在本地机器上运行 K=0.6 的仿真并绘制结果。

K = 0.6;
if canUseGPU
    K = gpuArray(K);
end
[pN,thetaN] = simulateRotator(numKicks,numThetaValues,numPValues,K);
figure
plotMap(numKicks,pN,thetaN,K)

如果您的本地机器上有 GPU，请分别使用 gputimeit 和 timeit 函数对 GPU 和 CPU 上的执行进行计时，检查仿真是否在 GPU 上运行得更快。

if canUseGPU
    gpu = gpuDevice;
    disp(gpu.Name + " GPU selected.")

    tGPU = gputimeit(@() simulateRotator(numKicks,numThetaValues,numPValues,K))
    K = gather(K);
    tCPU = timeit(@() simulateRotator(numKicks,numThetaValues,numPValues,K))
    
    disp("Speedup when running the simulations on a GPU compared to CPU: " + round(tCPU/tGPU) + "x")

    figure
    executionEnvironment = ["CPU" "GPU"];
    bar(executionEnvironment,[tCPU tGPU])
    xlabel("Execution Environment")
    ylabel("Simulation Execution Time (s)")
end

NVIDIA RTX A5000 GPU selected.

tGPU = 0.0517

tCPU = 2.3159

Speedup when running the simulations on a GPU compared to CPU: 45x

设置集群

此示例使用通过 Cloud Center 创建的 MATLAB Parallel Server 集群。Cloud Center 提供了一种简单方法来创建和管理云计算资源并通过 MATLAB 访问它们。创建集群后，您可以使用发现集群按钮来发现它。有关使用 Cloud Center 创建 MATLAB Parallel Server 集群的更多信息，请参阅创建和发现集群。

创建一个集群对象。在此示例中，云中心集群名为 cloudCenterCluster 并且有四台机器，每台机器都有一个 GPU。

c = parcluster("cloudCenterCluster");

创建池并检查 GPU

创建一个并行池，工作进程数量与集群中的 GPU 数量相等。或者，要使用批处理工作流将工作卸载到集群，例如使用 batch，则不需要创建并行池。

gpusInCluster = 4;
pool = parpool(c,gpusInCluster);

Starting parallel pool (parpool) using the 'cloudCenterCluster' profile ...
Connected to parallel pool with 4 workers.

您可以使用 gpuDevice 和 gpuDeviceTable 函数来检查本地机器上的 GPU。如果您的本地机器没有受支持的 GPU，则调用 gpuDevice 会出现错误，而调用 gpuDeviceTable 则会返回一个空表。要在集群机器上运行这些函数，您可以在 spmd 代码块（或在多个工作进程上运行代码的另一个并行语言功能，例如 parfor 或 parfeval）内运行它们。验证并行池是否可以访问 GPU。

spmd
    gpu = gpuDevice;
    worker = getCurrentWorker;

    disp("Host: " + worker.Host)
    disp("Using an " + gpu.Name + " GPU")
end

Worker 1: 
  Host: ec2-xxxxxxx-240.eu-west-1.compute.amazonaws.com
  Using an A10G GPU
Worker 2: 
  Host: ip-xxxxxxxxx-152.eu-west-1.compute.internal
  Using an A10G GPU
Worker 3: 
  Host: ip-xxxxxxxxx-92.eu-west-1.compute.internal
  Using an A10G GPU
Worker 4: 
  Host: ip-xxxxxxxxx-240.eu-west-1.compute.internal
  Using an A10G GPU

在远程 GPU 上运行仿真

创建并行池后，可以使用 MATLAB 提供的任何交互式并行语言构造，例如 parfor、parfeval 和 spmd。由于本例中每个仿真都独立于所有其他仿真，因此 parfor 是一个不错的选择。有关在并行计算语言功能之间进行选择的更多信息，请参阅并行语言决策表。

使用 parfor-loop 将仿真计算卸载到并行工作进程并将仿真结果返回到客户端会话并计时 parfor-loop。

K = 0:0.1:3;
KTrials = numel(K);

parfor idx = 1:KTrials
    gpuK = gpuArray(K(idx));
    [pN,thetaN] = simulateRotator(numKicks,numThetaValues,numPValues,gpuK);

    pOut(:,:,idx) = pN;
    thetaOut(:,:,idx) = thetaN;
end

Analyzing and transferring files to the workers ...done.

输出数组 pOut 和 thetaOut 包含 gpuArray 数据。如果您的本地机器具有受支持的 GPU，您可以立即在客户端 MATLAB 会话中访问和使用此数据。如果您的本地机器没有受支持的 GPU，请在后续代码中使用它之前调用 gather。

pOut = gather(pOut);
thetaOut = gather(thetaOut);

绘制结果

绘制 K 每个值的结果并将每个图捕获在一个框架中。

F(KTrials) = struct("cdata",[],"colormap",[]);
fig = figure(Visible="off");

parfor idx=1:KTrials   
    plotMap(numKicks,pOut(:,:,idx),thetaOut(:,:,idx),K(idx))
    F(idx) = getframe(fig);
end

播放帧序列。

fig = figure(Visible="on");
movie(fig,F)

支持函数

`simulateRotator`

simulateRotator 函数仿真了 numKicks 次踢球、强度为 K 的踢球旋转器，具有多个初始角位置和角矩值 numThetaValues 和 numPValues。如果 K 是 gpuArray，那么该函数将在 GPU 上执行仿真。否则，该函数将在 CPU 上执行仿真。

function [pN,thetaN] = simulateRotator(numKicks,numThetaValues,numPValues,K)

% Create initial values of p and theta. If K is a gpuArray, create p and theta on the GPU.
zero = zeros(like=K);
p = linspace(zero,(numPValues-1)*2*pi/numPValues,numPValues);
theta = linspace(zero,2*pi,numThetaValues);

[p,theta] = ndgrid(p,theta);

for i=1:numKicks
    p = p + K*sin(theta);
    theta = theta + p;
end

% Modulo 2pi.
p = mod(p,2*pi);
theta = mod(theta,2*pi);

% Convert the final values p and theta to single.
pN = single(p);
thetaN = single(theta);

end

`plotMap`

plotMap 函数绘制 $θ_{n}$ 和 $p_{n}$ ，并根据每个点的初始角动量 $p_{0}$ 为其着色。

function plotMap(numKicks,p,theta,K)

% Color points by initial value of p.
[numPValues,numThetaValues] = size(p);
c = linspace(0,2*pi,numPValues+1);
c(end) = [];
c = repmat(c,1,numThetaValues);

% Plot final p and theta in a scatter plot.
scatter(theta(:),p(:),1,c(:),"filled")


% Add title and axes labels.
title("K = " + gather(K))
xlabel("\theta_{"+numKicks+"}")
ylabel("p_{"+numKicks+"}")
xticks([0 pi 2*pi])
yticks([0 pi 2*pi])
xticklabels(["0" "\pi" "2\pi"])
yticklabels(["0" "\pi" "2\pi"])
xlim([0 2*pi])
ylim([0 2*pi])
grid on

% Add color bar.
cBar = colorbar(Ticks=[0 pi 2*pi],TickLabels={"0" "\pi" "2\pi"});
cBar.Label.String = "p_0";
clim([0 2*pi])

end