計算の桁数の精度
1 次查看(过去 30 天)
显示 更早的评论
digit(12) で12桁を指定して作った複素数行列
NN1 = vpa(Zn./ZS)
NL1 = vpa(Zl./ZS)
(Zn, ZS, Zl も複素数)があるのですが、これらに関して
>> NN1(500)
ans =
- 9.29055970603e-17 + 3.76968885557e-17i
>> NL1(500)
ans =
- 9.29055970603e-17 + 3.76968885557e-17i
となっていて、同じ値のように見えるのですが、引き算をすると以下のように、差があるのはなぜでしょうか。
>> NN1(500)-NL1(500)
ans =
8.87468518374e-31 - 7.39557098645e-32i
0 个评论
回答(0 个)
另请参阅
Community Treasure Hunt
Find the treasures in MATLAB Central and discover how the community can help you!
Start Hunting!