参考

• BF16 与 FP16 在模型上哪个精度更高呢
• BF16 与 FP16 在模型上哪个精度更高呢【bf16更适合深度学习计算，精度更高】：

两者差异图示如下：

• BF16 是对FP32单精度浮点数截断数据，即用8bit 表示指数，7bit 表示小数。
• FP16半精度浮点数，用5bit 表示指数，10bit 表示小数；
  这两者精度上差异不一样，BF16 可表示的整数范围更广泛，但是尾数精度较小；FP16 表示整数范围较小，但是尾数精度较高。