经常会碰到一个问题,"为什么 0.1 + 0.2 !== 0.3? ",我找了很多资料,尽可能全面地分析原因和解决办法。
文章可能有点枯燥,囧。
这里先给出判断方法
Ma) <= number.EPSILON 复制代码IEEE 754 64 位浮点类型
IEEE 754
IEEE 754 规定了四种表示浮点数值的方式:单精确度(32位)、双精确度(64位)、延伸单精确度(43比特以上,很少使用)与延伸双精确度(79比特以上,通常以80位实现)。
该标准的全称为IEEE二进制浮点数算术标准(ANSI/IEEE Std 754-1985),又称IEC 60559:1989,微处理器系统的二进制浮点数算术(本来的编号是IEC 559:1989)。
单精度浮点数
单精度浮点数格式是一种数据类型,在计算机存储器中占用 4 个位元(32 bits),利用“浮点”(浮动小数点)的方法,可以表示一个范围很大的数值。
在 IEEE 754-2008 的定义中,32-bit base 2 格式被正式称为 binary32 格式。这种格式在 IEEE 754-1985 被定义为 single,即单精度。需要注意的是,在更早的一些计算机系统中,也存在着其他 4 字节的浮点数格式。
定义
第 1 位表示正负,中间 8 位表示指数,后 23 位储存有效数位(有效数位是 24 位)。
中间八位共可表示 28=256 个数,指数可以是二补码;或 0 到 255,0 到 126 代表-127 到-1,127 代表零,128-255 代表 1-128。
有效数位最左手边的 1 并不会储存,因为它一定存在(二进制的第一个有效数字必定是 1)。换言之,有效数位是 24 位,实际储存 23 位。
双精度浮点数
双精度浮点数(double)是计算机使用的一种数据类型。比起单精度浮点数,双精度浮点数(double)使用 64 位(8 字节) 来存储一个浮点数。 它可以表示十进位制的 15 或 16 位有效数字,其可以表示的数字的绝对值范围大约是 [2.23e-308,1.79e308]
定义
和单精度类似,第 1 位表示正负,后 11 位为指数位,最后 52 位表示精确度(有效位数是 53 位)。
Number in JavaScript
Number.EPSILON
Number.EPSILON === 2.220446049250313e-16,表示 1 与 Number 可表示的大于 1 的最小的浮点数之间的差值。其接近于 2**-52
用 Ma + 0.2 - 0.3) < Number.EPSILON 可以判断 0.1 + 0.2 与 0.3 的大小。
Number.MAX_SAFE_INTEGER
Number.MAX_SAFE_INTEGER 常量表示在 JavaScript 中最大的安全整数(maxinum safe integer)(2**53 - 1、9007199254740991)。
因为 Javascript 的数字存储使用了 IEEE 754 中规定的双精度浮点数数据类型,而这一数据类型能够安全存储 -(2**53 - 1) 到 2**53 - 1 之间的数值(包含边界值)。
这里安全存储的意思是指能够准确区分两个不相同的值,例如 Number.MAX_SAFE_INTEGER + 1 === Number.MAX_SAFE_INTEGER + 2 将得到 true 的结果
Number.MAX_VALUE
Number.MAX_VALUE 属性表示在 JavaScript 里所能表示的最大数值。
MAX_VALUE 属性值接近于 1.79e308,也就是双精度浮点型能表示的最大数字。大于 MAX_VALUE 的值代表 Infinity。
看个例子
Number.MIN_SAFE_INTEGER
代表在 JavaScript 中最小的安全的 integer 型数字 -(2**53 - 1)、9007199254740991.
Number.MIN_VALUE
Number.MIN_VALUE 属性表示在 JavaScript 中所能表示的最小的正值。
MIN_VALUE 属性是 JavaScript 里最接近 0 的正值,而不是最小的负值。
MIN_VALUE 的值约为 5e-324。小于 MIN_VALUE ("underflow values") 的值将会转换为 0。
注意下,用 Ma + 0.2 - 0.3) < Number.MIN_VALUE 将会返回 false
Number.isSafeInteger()
Number.isSafeInteger() 方法用来判断传入的参数值是否是一个“安全整数”(safe integer)。
比如,2**53 - 1 是一个安全整数,它能被精确表示,在任何 IEEE-754 舍入模式(rounding mode)下,没有其他整数舍入结果为该整数。作为对比,2**53 就不是一个安全整数,它能够使用 IEEE-754 表示,但是 2**53 + 1 不能使用 IEEE-754 直接表示,在就近舍入(round-to-nearest)和向零舍入中,会被舍入为 2**53。
0.1、0.2、0.3 分别是怎么表示的
这个地方比较复杂,涉及到二进制小数无法表示时自动截断,在 JS 中测试时发现,截断的精度有时是 52 位,有时是 53 位。在 0.1 + 0.2 中截断精度是 52 位,在 0.1 + 0.5 中截断精度是 53 位。
).toString(2) === "0.000 110011001100110011001100110011001100110011001100110 1“
).toString(2) === "0.00 1100110011001100110011001100110011001100110011001101"
).toString(2) === "0.0100110011001100110011001100110011001100110011001101"
).toString(2) === "0.010011001100110011001100110011001100110011001100110011"
我们看看 0.1 是如何被表示成这么一大串数字的。
0.1 * 2 = 0.2 -> 0 0.2 * 2 = 0.4 -> 0 0.4 * 2 = 0.8 -> 0 0.8 * 2 = 1.6 -> 1 0.6 * 2 = 1.2 -> 1 0.2 * 2 = 0.4 -> 0 0.4 * 2 = 0.8 -> 0 ... 一直循环,无法达到 1 复制代码所以最终 0.1 用二进制表示是 0.0001 1001 1001 1001 ...,但是我们看上面 ).toString() 最后的六位 001101,正常循环应该是 001100,所以截断之后,0.1 二进制表示的值变大了!!!。0.2 转换为二进制表示截断之后也变大了。
通过对比 0.1、0.2 及它们的和的二进制表示,可以发现字符串的长度变化了,但是精确度却没有变化,也就是从 1 开始到最后的字符串长度都是 52。
0.1 + 0.2 本来应该是长度在为 57,但是由于无法表示这样一个数,重新从 1 开始的数字开始计数,会截断最后的三个数字 (最后精确度为 52 或者 53 )。
我们再来看一个例子, 0.1 + 0.5 === 0.6 为 true,实际不能这么比较,极其容易出错。
).toString(2) === "0.0001100110011001100110011001100110011001100110011001101“,字符串长度为 57,精度为 52。
).toString(2) === "0.1"
).toString(2) === "0.10011001100110011001100110011001100110011001100110011",这个字符串长度为 55,精度为 53.
0.1 + 0.5 的原本结果为 0.1001100110011001100110011001100110011001100110011001101,这个数字无法用二进制表示,因为从第一个 1 开始往后的总长度为 55,大于 53,所以截断之后变成了 0.10011001100110011001100110011001100110011001100110011,这个结果和 0.6 的二进制表示正好相等!!!所以有 0.1 + 0.5 === 0.6。
小数什么时候精度为 52 位,什么时候为 53 位
在 0.1、0.2、0.3 分别是怎么表示的 这一节中,我们看到 0.1+0.2 结果的精确度是 52 位,而 0.1+0.5 的精确度是 53 位的,结合之前讲的双精度浮点数的表示方法,不免有个疑惑,精确度不应该都是用 53 位的吗?
我们进一步看看,0.1~0.9 这几个小数的二进制表示
0.1 -> "0.0001100110011001100110011001100110011001100110011001101" 精度 52 位 0.2 -> "0.001100110011001100110011001100110011001100110011001101" 精度 52 位 0.3 -> "0.010011001100110011001100110011001100110011001100110011" 精度 53 位 0.4 -> "0.01100110011001100110011001100110011001100110011001101" 精度 52 位 0.5 -> "0.1" 0.6 -> "0.10011001100110011001100110011001100110011001100110011" 精度 53 位 0.7 -> "0.1011001100110011001100110011001100110011001100110011" 精度 52 位 0.8 -> "0.1100110011001100110011001100110011001100110011001101" 精度 52 位 0.9 -> "0.11100110011001100110011001100110011001100110011001101" 精度 53 位 复制代码说实话,没有从这几个数字中获得什么规律!!!0.7、0.9 的精确度位数和预想的不一样。。
欢迎各位留言讨论这一部分~
如何解决小数运算不准确的问题
小数运算不准是因为要计算的数字小数部分无法用二进制精确表示所导致,我们可以把小数转化成整数运算之后再变回小数来解决!
以下解决办法来自 number-precision
/** * 精确加法 */ function plus(num1: number, num2: number, ...others: number[]): number { if > 0) { // 递归 return plus(plus(num1, num2), others[0], ...o(1)); } // digitLength 是获取小数的点后面的字符个数 // 下面是计算让 num1、num2 都为整数时的最小倍数 const baseNum = Ma(10, Ma(digitLength(num1), digitLength(num2))); // 让 num1、num2 都变成整数,然后运算,然后再变回小数 return (times(num1, baseNum) + times(num2, baseNum)) / baseNum; } 复制代码计算过程类似于
0.11 + 0.345 0.11 -> digitLength1) -> 2 0.345 -> digitLength45) -> 3 故 baseNum = 3 0.11 * 10**3 = 110 0.345 * 10**3 = 345 110 + 345 = 455 455 / baseNum= 0.455 复制代码手动写安全的加减乘数
计算的关键就在于把小数转换成可准确表示的整数,下面的代码只是大概的功能实现,如果要直接使用,可以用 gi…
更新: 由于小数 * 整数也可能导致计算不准确,所以之前的代码存在误差。修复过后不允许直接对小数参数做运算,必须转换成整数运算然后再转换回来
digitLength 获取到数字的小数部分的位数,这是变为整数的关键。
// 兼容多种类型的表示 // 1.11 或者 1.11e-30 或者 1e-30 export function digitLength(num: number): number { // 1.11 -> eSplit: ['1.11'] // 1.11e-30 -> eSplit: ["1.11", "-30"] const eSplit = num.toString().split(/[eE]/) // 右边的 `|| ''` 为了防止 1e-30 -> eSplit: ["1", "-30"] 这种 // 左边 1.11 有两个小数,右边 e 后面有 -30,所以是 2 - (-30) 为 32 const len = (eSplit[0].split('.')[1] || '').length - Number(eSplit[1] || 0) return len > 0 ? len : 0 } 复制代码baseNum 计算出让 num1、num2 都为整数的最小 10 的倍数
export function baseNum(num1: number, num2: number): number { return Ma(10, Ma(digitLength(num1), digitLength(num2))) } 复制代码strip 对错误的数进行修正
/** * 把错误的数据转正 * stri)=0.1 */ +export function strip(num: number, precision = 12): number { + // ).toPrecision(12) => "0.100000000000" + // parseFloat("0.100000000000") => 0.1 + return +parseFloa(precision)) +} 复制代码float2Fixed 把传入的数变为整数
+export function float2Fixed(num: number) { + // 1.23456 => 123456 + if ().indexOf('e') === -1) { + return Number().replace('.', '')) + } + // 1.1e-30 + const dLen = digitLength(num) + // 这个地方需要辅助矫正,num * Ma(10, dLen) 小数和整数相乘仍然可能会出现不准的情况 + return dLen > 0 ? strip(num * Ma(10, dLen)) : num +} 复制代码乘法计算
export function times(num1: number, num2: number): number { const bn = digitLength(num1) + digitLength(num2) - const intNum1 = num1 * Ma(10, digitLength(num1)) - const intNum2 = num2 * Ma(10, digitLength(num2)) + const intNum1 = float2Fixed(num1) + const intNum2 = float2Fixed(num2) return (intNum1 * intNum2) / Ma(10, bn) } 复制代码加法计算
export function plus(num1: number, num2: number): number { const bn = baseNum(num1, num2) - return (num1 * bn + num2 * bn) / bn + // fix:不能使用 num1 * bn,小数与整数相乘可能不准确,需要精确乘 times + return (times(num1, bn) + times(num2, bn)) / bn } 复制代码减法计算
export function minus(num1: number, num2: number): number { const bn = baseNum(num1, num2) - return (num1 * bn - num2 * bn) / bn + return (times(num1, bn) - times(num2, bn)) / bn } 复制代码除法计算
export function divide(num1: number, num2: number): number { const bn = baseNum(num1, num2) - const intNum1 = num1 * bn - const intNum2 = num2 * bn + const intNum1 = times(num1, bn) + const intNum2 = times(num2, bn) // 要检查扩大后的数字是否超过了安全边界 return intNum1 / intNum2 + // 避免把数字扩的太大的写法 + // const num1Changed = float2Fixed(num1) + // const num2Changed = float2Fixed(num2) + // return times(num1Changed / num2Changed, Ma(10, digitLength(num2) - digitLength(num1))) } 复制代码这四种运算的原理都是先放大数字,使之能够精确表示,计算之后再缩小数字,得到实际值。
测试结果
import { plus, minus, divide, times } from './index' test('javascript/number-precision-operation', () => { expect(plus, 0.2)).toBe) // 0.30000000000000004 expect(plus, 0.7)).toBe) // 0.7999999999999999 expect(minus(1, 0.9)).toBe) // 0.09999999999999998 expect(divide, 0.3)).toBe333333333333333) // 0.33333333333333337 expect(times, 0.1)).toBe) // 0.010000000000000002 })作者:云影sky
链接:
来源:掘金
著作权归作者所有。商业转载请联系作者获得授权,非商业转载请注明出处。