摘要 探讨 的符号。
例1. 请确定 的符号[1]。
在计算过程中,若保留8位、16位、20位有效数字,则计算过程与结果分别如下:
若在Windows 10,Visual Studio 2010下计算:
#include <math.h>
double y=sin(pow(2,(double)100));
printf("%lf",y);
则输出为 0.673521.
容易确定其符号吗?
事实上,若保留10位有效数字,那么正确结果是负数: .
[1] Zimmermann P. Reliable Computing with GNU MPFR. In: Fukuda K et al. eds. ICMS 2010, LNCS 6327. Berlin: Springer, 2010. 42–45