摘要 讨论 的计算精度问题。
例1. 已知 计算
不妨在 Excel 的单元格中计算,则有:
若在Python下计算,则输出似乎更精确:
然而,16位有效数字的正确结果为 0.4999999999940000(ISRealsoft 提供)。这样,二者均只有6位正确数字;它们的有效数字错误率均为 (16-6)/16 = 62.5% .
参考文献
[1] McCullough B D, Vinod H D. The numerical reliability of econometric software. J Economic Literature, 1999, 37: 633–665