解决JavaScript浮点数计算精度问题

之前在使用JS开发过程中发现计算某些浮点数的时候,出现了精度问题 ! 导致出现了一些错误 !

比如: 0.1 + 0.2 = 0.30000000000000004 计算结果并不是我们想要的结果 0.3

刚开始发现的时候我也很纳闷, 这是怎么出现的 ? 后面去百度了一下,才知道原来是由于某些浮点数不能精确的转换成二进制造成的 !

1. 那么 如何将小数转换成二进制呢?

1) 整数部分:除二取余,然后倒序排列,高位补零
2) 小数部分:小数部分乘以2,取整数部分依次从左往右放在小数点后,直至小数点后为0

例如: 0.1 转换成二进制

0.1 * 2 = 0
0.2 * 2 = 0
0.4 * 2 = 0
0.8 * 2 = 1
0.6 * 2 = 1
0.2 * 2 = 0
0.4 * 2 = 0
0.8 * 2 = 1
0.6 * 2 = 1

由于0.1 的二进制 0.000110011001100... 无限循环的

然而最终在计算机中存储的数值是有限的. 所以只能保留多少位..

2.我的解决思路:

先把小数转成整数.在计算, 最后把结果再转换成小数就ok了.


function MathTool() {

    //获取小数长度
    var getDecimalsLength = function (num) {
        return num.toString().split(".")[1] ? num.toString().split(".")[1].length : 0
    }

    //获取最大长度

    var getMaxLength = function (num1, num2) {

        var num1Length = getDecimalsLength(num1);

        var num2Length = getDecimalsLength(num2);

        var p = Math.max(num1Length, num2Length);

        var times = Math.pow(10, p);

        return times

    }

    //加法

    this.add = function(num1, num2) {

        var times = getMaxLength(num1, num2);

        return (this.mul(num1 ,times) + this.mul(num2 ,times)) / times;

    }

    //减法

    this.sub = function(num1, num2) {

        var times = getMaxLength(num1, num2);

        return (this.mul(num1 ,times) - this.mul(num2 , times)) / times;

    }

    //乘法

    this.mul = function(num1, num2) {

        var times = getMaxLength(num1, num2);

        var intNum1 = num1.toString().replace(".", "")

        var intNum2 = num2.toString().replace(".", "")

        var countDecimals = getDecimalsLength(num1) + getDecimalsLength(num2)

        return intNum1 * intNum2 / Math.pow(10, countDecimals);

    }

    //除法

    this.div = function(num1, num2) {

        var times = getMaxLength(num1, num2);

        return (this.mul(num1 , times) / this.mul(num2 , times));

    }

}

    var MathTool = new MathTool();
    console.log(MathTool.add(0.1, 0.2))
    console.log(MathTool.sub(0.0012, 0.0002))

原文地址:https://www.cnblogs.com/lichanglong0/p/10528488.html

时间: 2024-10-12 15:47:13

解决JavaScript浮点数计算精度问题的相关文章

javascript浮点数计算的问题

在使用javascript进行浮点数计算的时候经常会出现各种怪异的问题, 比如7*0.4 js计算结果为:2.8000000000000003. 所以在使用js计算的时候就需要一些特殊处理,思路就是先把js中的数 值扩大到相应的倍数,去掉小数部分再进行计算. var SysRf = SysRf || {}; SysRf.strNum = {}; //浮点数加法运算 SysRf.strNum.add = function(arg1, arg2) { var r1,r2,m; try{r1=arg1

关于js浮点数计算精度不准确问题的解决办法

今天在计算商品价格的时候再次遇到js浮点数计算出现误差的问题,以前就一直碰到这个问题,都是简单的使用tofixed方法进行处理一下,这对于一个程序员来说是及其不严谨的.因此在网上收集了一些处理浮点数精度的文章.觉得别人写的挺好了,我在简单的总结一下,以方便后续查阅. 浮点数误差产生的原因: 先看一个实例: 0.1 + 0.2 =? 0.1 + 0.2 = 0.3? 我们先来看一段 JS. console.log( 0.1+ 0.2); 输出为 0.30000000000000004.是不是很奇葩

关于JavaScript中计算精度丢失的问题

摘要: 由于计算机是用二进制来存储和处理数字,不能精确表示浮点数,而JavaScript中没有相应的封装类来处理浮点数运算,直接计算会导致运算精度丢失. 为了避免产生精度差异,把需要计算的数字升级(乘以10的n次幂)成计算机能够精确识别的整数,等计算完毕再降级(除以10的n次幂),这是大部分编程语言处理精度差异的通用方法. 关键词: 计算精度 四舍五入 四则运算 精度丢失 1. 疑惑 我们知道,几乎每种编程语言都提供了适合货币计算的类.例如C#提供了decimal,Java提供了BigDecim

js float浮点数计算精度问题

/** * floatObj 包含加减乘除四个方法,能确保浮点数运算不丢失精度 * * 我们知道计算机编程语言里浮点数计算会存在精度丢失问题(或称舍入误差),其根本原因是二进制和实现位数限制有些数无法有限表示 * 以下是十进制小数对应的二进制表示 * 0.1 >> 0.0001 1001 1001 1001…(1001无限循环) * 0.2 >> 0.0011 0011 0011 0011…(0011无限循环) * 计算机里每种数据类型的存储是一个有限宽度,比如 JavaScrip

Javascript优化后的加减乘除(解决js浮点数计算bug)

说明 众所周知,js在计算浮点数时候,结果可能会不准确.比如:(在chrome中的运算结果) 2.2 + 2.1 = 4.300000000000001 2.2 - 1.9 = 0.30000000000000027 2.2 * 2.2 = 4.840000000000001 2.1 / 0.3 = 7.000000000000001 网上流传的代码(有bug) 网上流传的优化后的代码如下(有问题的代码,请勿使用) function add(a, b) { var c, d, e; try {

JavaScript 浮点数运算 精度问题

JavaScript小数在做四则运算时,精度会丢失,这会在项目中引起诸多不便,先请看下面脚本. 1 //加减 2 <script type="text/javascript" language="javascript"> 3 alert(1/3);//弹出: 0.3333333333333333 4 alert(0.09999999 + 0.00000001);//弹出: 0.09999999999999999 5 alert(-0.09999999 -

JS数字计算精度误差的解决方法

本篇文章主要是对javascript避免数字计算精度误差的方法进行了介绍,需要的朋友可以过来参考下,希望对大家有所帮助. 如果我问你 0.1 + 0.2 等于几?你可能会送我一个白眼,0.1 + 0.2 = 0.3 啊,那还用问吗?连幼儿园的小朋友都会回答这么小儿科的问题了.但是你知道吗,同样的问题放在编程语言中,或许就不是想象中那么简单的事儿了. 不信?我们可以做个试验. 先来看一段 JS. var num1 = 0.1; var num2 = 0.2; alert(num1+num2 ===

javascript避免数字计算精度误差的方法详解

本篇文章主要是对javascript避免数字计算精度误差的方法进行了介绍,需要的朋友可以过来参考下,希望对大家有所帮助 如果我问你 0.1 + 0.2 等于几?你可能会送我一个白眼,0.1 + 0.2 = 0.3 啊,那还用问吗?连幼儿园的小朋友都会回答这么小儿科的问题了.但是你知道吗,同样的问题放在编程语言中,或许就不是想象中那么简单的事儿了.不信?我们先来看一段 JS. var numA = 0.1; var numB = 0.2; alert( (numA + numB) === 0.3

关于JS数学计算精度不准和自动转科学计数法的问题

在javaScript中,数学计算是一个很坑爹的问题, 由于系统二进制转十进制的误差,导致浮点数的运算精度很不理想,经常会出现一些意想不到的问题. 而js自动将小数转为科学计数法的问题,也让一些自己写数学插件的同学痛苦不已. 第一个,浮点数计算精度: 比如:1.2*3 = 3.599999999.... 解决办法: ⑴将浮点数乘以10的n次幂化为整数,再进行计算,之后再除以10的n次幂,就可以得到我们想要的数值.即:1.2*3 = 12*3/10 = 3.6;(n为小数点后数位之和); 至于多个