使用半精度数据类型的图像量化
此示例说明量化对图像的影响。ex_imagequantization
模型计算棋盘图像的二维傅里叶变换。最左列显示原始图像,结果以定点、半精度和单精度数据类型显示。您可以在生成的图像中看到,虽然定点数据类型并不始终产生可接受的结果,但使用与定点数据类型相同位数的半精度数据类型产生的结果与单精度结果相当。
model = 'ex_image_quantization.slx';
open_system(model);
sim(model)
此示例说明量化对图像的影响。ex_imagequantization
模型计算棋盘图像的二维傅里叶变换。最左列显示原始图像,结果以定点、半精度和单精度数据类型显示。您可以在生成的图像中看到,虽然定点数据类型并不始终产生可接受的结果,但使用与定点数据类型相同位数的半精度数据类型产生的结果与单精度结果相当。
model = 'ex_image_quantization.slx';
open_system(model);
sim(model)