摘要 计算机的错误计算(六十三)与(六十八)分别探讨了大数与 附近数 的余切函数值的错误计算。本节讨论第三种类型数值: 附近数 的余切函数的计算精度问题。
例1. 已知 计算
不妨先用 Python的 torch库计算:
再用 math库计算:
则两者具有相同的输出:6.41794295207331e-10 .
然而,正确值是 0.6417951961709724e-9(ISRealsoft 提供)。因此,上述两个不同库的函数的输出中,错误数字的占比均为 (16-5)/16 = 68.75% .