摘要 计算机的错误计算(七十)探讨了大数的正割函数的错误计算。本节讨论另外一类数值: 附近数 的正割函数的计算精度问题。
例1. 已知 计算
若用 在 Python下编程计算,则有
若在 Excel 中计算,则有:
事实上,16位有效数字的正确结果是 -0.2608541928526347e8(ISRealsoft 提供)。两者的错误数字占比均为 10/16 = 62.5% .
摘要 计算机的错误计算(七十)探讨了大数的正割函数的错误计算。本节讨论另外一类数值: 附近数 的正割函数的计算精度问题。
例1. 已知 计算
若用 在 Python下编程计算,则有
若在 Excel 中计算,则有:
事实上,16位有效数字的正确结果是 -0.2608541928526347e8(ISRealsoft 提供)。两者的错误数字占比均为 10/16 = 62.5% .
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/2069050.html
如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!