js之加减乘除精度问题
场景:在计算金额时对于精度要求比较高,所以需要考虑精度问题
例子:
const m = 1.11;
const n = 100;
//直接进行乘法:
console.log(m*n) //111.00000000000001
解决方案:
使用decimal.js
decimal.js是使用的二进制来计算的,所以可以更好地实现格化式数学运算,对数字进行高精度处理;使用decimal类型处理数据可以保证数据计算更为精确,还可以节省储存空间。
实现步骤:
下载依赖:
$ npm install --save decimal.js
import { Decimal } from 'decimal.js'
使用:
const m = 1.11;
const n= 100;
// 加法
let add = new Decimal(m).add(new Decimal(b))
// 减法
let sub = new Decimal(m).sub(new Decimal(n))
// 乘法
let mul = new Decimal(m).mul(new Decimal(n))
console.log(mul.toNumber()) // 111
// 除法
let div = new Decimal(m).div(new Decimal(n))