边缘和嵌入式人工智能
本视频系列将介绍边缘和嵌入式 AI,即让训练好的模型直接在边缘计算机或嵌入式系统等本地设备上运行,而无需依赖云端。了解这种方法如何实现更快的响应、减少带宽使用、增强数据隐私,并在网络连接不稳定时提高可靠性。
了解为边缘和嵌入式系统开发 AI 与云端部署的区别。虽然基本工作流相似,但必须格外注意针对资源有限的设备对模型进行优化。这些视频涵盖了剪枝、量化和投影等实用策略,以帮助您的模型适应目标硬件并在其上高效运行。通过动手实践示例,了解如何在不牺牲准确性的情况下压缩神经网络模型(有时压缩率可超过 90%),从而将高级 AI 功能引入资源受限的设备。
了解边缘 AI 的实际挑战,包括验证、优化、部署和可靠性考量。
学习如何使用剪枝、投影和量化来压缩神经网络,使其在嵌入式设备上高效运行,同时不损失精度。
了解形式化神经网络验证,包括多面体和区间方法,以及 DeepPoly 和 CROWN 等算法。