将AI部署到生产系统及MATLAB云工作流
部署AI除了与开发性能良好的AI模型相关的挑战之外,还包括:
- 满足部署环境的硬件约束,如内存、功耗等
- 监控和维护模型在其生命周期内的性能
本次演讲,将介绍如何使用代码生成解决上述挑战,实现AI模型嵌入式部署,内容包括:
- 量化:机器学习模型的定点转换和深度神经网络的量化使它们适合内存和功率有限的硬件。
- 增量学习和模型更新:代码生成将参数从预测代码中分离出来,增量学习使不断改进模型成为可能。
- ModelDevOps提供了一个跨生命周期管理和治理AI模型的框架。
出版年份: 2021 年 7 月 11 日