doubleからsi​ngleのキャスト精​度の向上方法？

3 次查看（过去 30 天）
nguyen congkien
nguyen congkien 2018-5-29
编辑： nguyen congkien 2018-5-30
添付画像みたいのキャスト処理をSimulinkモデルで実装してみましたが、 8.333333333333333(double)⇒8.3333330154419(single)になる理由は何でしょうか。 2進数⇔10進数の変換結果が約8.333333313465118になりますが、Simulink上でもこの結果ぐらいになり、浮動小数点のキャスト精度向上するために何か設定・コンフィギュレーションがありますでしょうか。（Matlab R2025Sp1）

请先登录，再回答此问题。

回答（1 个）

Takafumi
Takafumi 2018-5-29
浮動小数点の精度を確認するのに、epsコマンドがありまして、 single 型の精度は代替小数点７桁あたりまでです。
eps('single')
ans =
single
1.1920929e-07
  1 个评论
nguyen congkien
nguyen congkien 2018-5-30
编辑：nguyen congkien 2018-5-30
ご回答ありがとうございます。
知りたかったのが、
・どうしてその結果になるのか。
・どうやって結果の制度を上げるのか。
です。

请先登录，再进行评论。

类别

在 Help Center 和 File Exchange 中查找有关 Simulink 的更多信息

标签

Community Treasure Hunt

Find the treasures in MATLAB Central and discover how the community can help you!

Start Hunting!