摘要 探讨 MATLAB 中反正弦 asin 与反余弦 acos 函数的计算精度问题。
例1. 已知 计算 及
直接贴图吧:
另外,16位的正确值分别为 0.1570785896071048e1、0.1043072384837152e-4、-0.1570785896071048e1 与 0.3141582222865945e1(ISRealsoft 提供)。
容易看出,MATLAB的输出中,与红色数字对应的有效数字是错误数字。这样,MATLAB的输出中分别有5位、9位、5位与4位错误数字;有效数字的错误率分别为 5/16 = 31.25% , 9/16 = 56.25% ,5/16 = 31.25% 及 4/16 = 25% .
注:可参考计算机的错误计算(七十六)与(七十七)。