主要内容

深度学习数据类型

用于生成使用 NVIDIA TensorRT 高性能推理库的代码的数据类型

自 R2024a 起

模型配置窗格: 代码生成 / 接口

描述

数据类型参数指定 TensorRT 库用于深度学习代码生成的数据类型。

依赖项

  • 此参数要求具有 GPU Coder™ 许可证。

  • 要为 TensorRT 库设置数据类型,请在“配置参数”对话框中,在代码生成设置中,将语言设置为 C++ 并启用生成 GPU 代码。然后在代码生成 > 接口设置中,在深度学习部分,将目标库设置为 TensorRT

设置

"fp32" (默认) | "fp16"
fp32

生成 32 位浮点代码。

fp16

生成半精度浮点代码。

推荐的设置

应用情形设置
调试 
可追溯性 
效率 
安全预警 

编程用法

参数:DLDataType
值:"fp32" | "fp16"
默认值:"fp32"

版本历史记录

在 R2024a 中推出