摘要 讨论 的计算精度问题。
计算机的错误计算(五十五)、(七十八)以及(九十六)分别列出了 IEEE 754-2019[1]中的一些函数与运算。下面再截图给出其另外几个运算。
另外,计算机的错误计算(三十二)等探讨了其中 的计算精度问题。本节与后面几节讨论其余函数的计算精度问题。
例1. 计算 其中
若在Python中计算,则有:
若用Go函数计算:
package main
import (
"fmt"
"math"
)
func main() {
x := 567.8
expm1Value := math.Expm1(x)
fmt.Printf("%v", expm1Value)
}
则输出与Python的输出几乎相同:3.912071869155035e+246 .
然而,正确值是 0.3912071869155213e247(ISRealsoft 提供)。这样,二者的错误率均为 3/16 = 18.75% .
参考文献
[1] 754-2019 - IEEE Standard for Floating-Point Arithmetic | IEEE Standard | IEEE Xplore