計算の桁数の精度

1 次查看（过去 30 天）

rika yamada 2020-6-26

digit(12) で12桁を指定して作った複素数行列

NN1 = vpa(Zn./ZS)

NL1 = vpa(Zl./ZS)

(Zn, ZS, Zl も複素数）があるのですが、これらに関して

>> NN1(500)

ans =

- 9.29055970603e-17 + 3.76968885557e-17i

>> NL1(500)

ans =

- 9.29055970603e-17 + 3.76968885557e-17i

となっていて、同じ値のように見えるのですが、引き算をすると以下のように、差があるのはなぜでしょうか。

>> NN1(500)-NL1(500)

ans =

8.87468518374e-31 - 7.39557098645e-32i

MATLAB 数学

在 Help Center 和 File Exchange 中查找有关数学的更多信息

R2018a

Find the treasures in MATLAB Central and discover how the community can help you!