GPU 计算

 

MATLAB GPU 计算支持可适用
于运行NVIDIA CUDA 的GPU

在支持 NVIDIA CUDA 的GPU 上执行 MATLAB 计算

 

无需成为 CUDA® 程序员,MATLAB 即可让您能够使用 NVIDIA® GPU 来加速 AI、深度学习和其他计算密集型分析。使用 MATLAB 和 Parallel Computing Toolbox,您可以:

  • 直接在 MATLAB 中调用 NVIDIA GPU,有 1000 多个内置函数可供使用。
  • 使用 MATLAB worker 和 MATLAB Parallel Server 访问台式机、计算集群和云上的多GPU。
  • 使用 GPU Coder 直接从 MATLAB 生成 CUDA 代码,以便部署到数据中心、云和嵌入式设备。
  • 使用 GPU Coder 从 MATLAB 生成 NVIDIA TensorRT™ 代码,实现低延迟和高吞吐量的推理。
  • 将 MATLAB AI 应用程序部署到配备 NVIDIA GPU的数据中心,与使用 MATLAB Production Server 的企业系统集成。

“我们的旧代码需要 40 分钟才能分析一个风洞试验;使用 MATLAB 和 GPU 后,现在的计算时间缩短到了一分钟之内。只用了 30 分钟就实现了在 GPU 上执行 MATLAB 算法 — 不需要低级 CUDA 编程。”

使用 MATLAB 开发、扩展和部署深度学习模型

MATLAB 可让一个用户实施端到端的工作流程,使用 Deep Learning Toolbox 开发和训练深度学习模型。然后,可以通过 Parallel Computing Toolbox 和 MATLAB Parallel Server 使用云和集群资源扩展训练,随后使用 GPU Coder 部署到数据中心或嵌入式设备。

使用 GPU 开发深度学习和其他计算密集型分析

MATLAB 是端到端工作流程平台,适用于 AI 和深度学习开发。MATLAB 提供工具和应用程序,用于导入训练数据集、可视化和调试、利用GPU对CNN进行扩展训练和实现部署。

使用一行代码即可扩展到台式机、云和群集上的其他计算资源和 GPU 资源。

Training Progress

标题

使用 gpuBench 测试您自己的 CPU 和 GPU 硬件。

在 GPU 上扩展 MATLAB 只需极少的代码更改

使用 1000 多个支持 CUDA 的 MATLAB 函数,在 NVIDIA GPU 上运行 MATLAB 代码。使用工具箱中启用了 GPU 的函数,实现深度学习、机器学习、计算机视觉和信号处理等应用。Parallel Computing Toolbox 提供 gpuArray,这是一个具有关联函数的特殊数组类型,可让您直接从 MATLAB 在支持 CUDA 的 NVIDIA GPU 上执行计算,而无需学习低级 GPU 计算库。

工程师无需编写任何额外代码即可使用 GPU 资源,因此可以专注于应用本身而不是性能调优。

使用 parfor 和 spmd 等并行语言结构,可以在多个 GPU 上执行计算。在多个 GPU 上训练模型只需轻松调整训练选项。

借助 MATLAB,无需任何额外 C 编程,还可以将您的现有 CUDA kernel集成到 MATLAB 应用程序。


部署从 MATLAB 生成的 CUDA 代码,使用 TensorRT 实现推理部署

使用 GPU Coder 从 MATLAB 代码生成优化的 CUDA 代码,用于深度学习、嵌入式视觉和自主系统。生成的代码自动调用优化的 NVIDIA CUDA 库,包括 TensorRT、cuDNN 和 cuBLAS,可在 NVIDIA GPU 上低延迟、高吞吐量地运行。将生成的代码作为源代码、静态库或动态库集成到您的项目,然后部署这些代码,从而可在 NVIDIA Volta®、NVIDIA Tesla®、NVIDIA Jetson® 和 NVIDIA DRIVE® 等 GPU 上运行。