1 有意义数位概念与有意义数位损失

整数的二进制表示使用短除法，网上有很多文章，这里就不再过多赘述了。

提一嘴小数的二进制表示。下面列举了一个例子。

在表示数位的时候，我们使用一个符号sign,一个尾数mantissa,一个指数exponent。

IEEE-754 double-precision floating-point format给出了数的表示形式。

注意这种表示方法是非均匀分布的：

小数在不同的地方可以看到绝对误差是不一样的

然而我们发现相对误差是一样的，除了$0\le x<{\bar{x}}_0$这一段区间。相对误差都是$0.5\times 2^{-53}$

• 最小正值不是0
• 绝对误差不同
• 相对误差相同，引入机器精度（和尾数长度有关）：
  $$machineepsilon=2^{-53}\approx 10^{-16}$$

所以计算机保存尾数是16位的小数，最大程度低保证了尾数的所有位。

机器数的定义为：尾数的第一个$d_1=1$。

或者写作

对于计算机来说，尾数的长度m一般是固定的，

• 单精度实数（32位）：m=24, n=8。
• 双精度实数（64位）：m=53，n=11。
• 但是对于浮点数，二进制小数点的位置一般不是固定的。

举个例子：

$$\frac{1}{10}=0.0{\overline{0011}}_{\text{two }}=0.0\underline{0011}001100110011{\dots }_{two}$$

如果我们规定尾数长度为32位，则$x$表示为。

$$x=0.11001100110011001100110011001100_{two}\times 2^{-3}$$

于是误差表示为：

$$e=\left|\frac{1}{10}-x\right|=0.{\overline{100}}_{\text{two }}\times 2^{-35}\approx 2.328306437\times 10^{-11}$$

对于24位尾数，8位指数的机器数，表示为：

最小分辨率为$2^{-127}$

机器误差举例：

计算精度：$R=0.0714$

机器误差：$R_m=0.5\times 2^{-4}\approx 0.0313$

我们看到$R_m<R$，这是为什么呢？

1.1 怎么分析误差

$x$是精确数，$x^{\prime }$是数值计算的近似数。

定义绝对误差为：

$${\mathrm{E}}_x=|x-x^{\prime }|$$

相对误差为：

$${\mathrm{R}}_x=|x-x^{\prime }|/|x|$$

有意义的数位$d$定义为：

$${\mathrm{R}}_x=\left|x-x^{\prime }\right|/|x|<0.5\times 10^{1-d}$$

例如：

有意义的数位为相对误差定义了一个离散的数字精度等级。它有什么用呢？

好比：

d=3。于是3.141592近似数3.14的前三位都是有效数字：3.14。

而
d=4。于是3.141592近似数3.1429的前四位3是有效数字：3.142。

对有意义数位的直观解释：

这表明虽然$R_x$不能反映在数字的表示中，但是可以通过绝对误差$E_m$来反映(注意小数表示的十分位不能是0)。

另外要注意的是有意义的数位是从左往右第一个非零数字开始的：

根据上面的表达式我们有：

在最后一个式子中$E_a=\left|a-a^{\prime }\right|<0.5$我们看到已经和m没有关系了。

我们把$R_x$得到的有意义数位记作$d_{R_x}$【相对误差引起】，把$E_m$得到的有意义的数位记作$d_{E_m}$【尾数误差引起】。参见下面的例子我们得到：$d_{E_m}=d_{R_x}+1$

看一下不同的尾数保留：

根据

我们让$d=d^{\prime }-1=d_{E_m}-1$作为有效数字，于是有：

$$\begin{array}{l}\left|0.a_1{a}_2{a}_3\dots a_q-0.a_1^{\prime }{a}_2^{\prime }{a}_3^{\prime }\dots a_q^{\prime }\right|<0.5\times 10^{-d}\\ \iff E=\left|x-x^{\prime }\right|<0.5\times 10^{m-d}(注意x^{\prime }=\pm 0\cdot a_1{a}_2\dots a_n\times 10^m,a_1!=0)\end{array}$$

下面来区分一下有意义数位(significant digit)和有效数字(effective digit)：

尽管他们的定义不一样，但是一般他们的数值是相等的（用到了$d=d_{E_m}-1和d_{E_m}=d_{R_x}+1$推得：$d=d_{R_x}$）。

如果我们知道$d$和$m$就可以推知$E$的范围：

如果我们知道$E$和$m$就可以知道近似数$x^{\prime }$多少位是有用的

误差来源：

1. 数学表达式的误差
   
2. 舍入和近似误差

3. 算术误差

2 逼近阶 与渐近记法

大O记号

大Θ的记号：

大Ω记号：

近似阶：

我们有四则运算法则：

3 误差传播与稳定性

四则运算的误差传递：

稳定和不稳定性

误差的增长，线性和指数