js的运算小数点的问题

问题这样的: 37.5*5.5=206.08 (JS算出来是这样的一个结果,我四舍五入取两位小数) 我先怀疑是四舍五入的问题,就直接用JS算了一个结果为:206.08499999999998 怎么会这样,两个只有一位小数的数字相乘,怎么可能多出这么小数点出来。

我Google了一下,发现原来这是JavaScript浮点运算的一个bug。  比如:7*0.8 JavaScript算出来就是:5.6000000000000005 网上找到了一些解决办法,就是重新写了一些浮点运算的函数。 下面就把这些方法摘录下来,以供遇到同样问题的朋友参考:

程序代码 //除法函数,用来得到精确的除法结果

//说明:javascript的除法结果会有误差,在两个浮点数相除的时候会比较明显。这个函数返回较为精确的除法结果。

//调用:accDiv(arg1,arg2)

//返回值:arg1除以arg2的精确结果

function accDiv(arg1,arg2){

var t1=0,t2=0,r1,r2;

try{t1=arg1.toString().split(".")[1].length}catch(e){}

try{t2=arg2.toString().split(".")[1].length}catch(e){}

with(Math){ r1=Number(arg1.toString().replace(".",""))

r2=Number(arg2.toString().replace(".","")) return (r1/r2)*pow(10,t2-t1); } }

//给Number类型增加一个div方法,调用起来更加方便。

Number.prototype.div = function (arg){

return accDiv(this, arg);

}

//乘法函数,用来得到精确的乘法结果

//说明:javascript的乘法结果会有误差,在两个浮点数相乘的时候会比较明显。这个函数返回较为精确的乘法结果。

//调用:accMul(arg1,arg2)

//返回值:arg1乘以arg2的精确结果

function accMul(arg1,arg2) {

var m=0,s1=arg1.toString(),s2=arg2.toString();

try{m+=s1.split(".")[1].length}catch(e){}

try{m+=s2.split(".")[1].length}catch(e){}

return Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,m) }

//给Number类型增加一个mul方法,调用起来更加方便。

Number.prototype.mul = function (arg){  return accMul(arg, this); }

//加法函数,用来得到精确的加法结果 //说明:javascript的加法结果会有误差,在两个浮点数相加的时候会比较明显。这个函数返回较为精确的加法结果。

//调用:accAdd(arg1,arg2) //返回值:arg1加上arg2的精确结果

function accAdd(arg1,arg2){

var r1,r2,m;

try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0}

try{r2=arg2.toString().split(".")[1].length}

catch(e){r2=0}

m=Math.pow(10,Math.max(r1,r2)) return (arg1*m+arg2*m)/m

}

//给Number类型增加一个add方法,调用起来更加方便。

Number.prototype.add = function (arg){

return accAdd(arg,this);

}

在你要用的地方包含这些函数,然后调用它来计算就可以了。 比如你要计算:7*0.8 ,则改成 (7).mul(8) 其它运算类似,就可以得到比较精确的结果。 ------------------------------------------------------------------------------------------------------------------------------------------------------------ 以上是在网上一个JS牛人的博客上转载的,不过上面只提及了加法、乘法和除法的解决办法。 这个时候可能很多人就会想,有了加法,减法还不容易?我就是差点让这个想法给害苦了。 其他的就不多说了, 帖出减法的代码:

function Subtr(arg1,arg2){

var r1,r2,m,n;

try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0}

try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0}

m=Math.pow(10,Math.max(r1,r2));

//last modify by deeka

//动态控制精度长度

n=(r1>=r2)?r1:r2;

return ((arg1*m-arg2*m)/m).toFixed(n); }

时间: 2024-10-24 13:54:42

js的运算小数点的问题的相关文章

js加减法运算多出很多小数点

链接:http://www.jb51.net/article/73043.htm 解决方法:解决这种问题两种方法,第一种就是利用JavaScript 的toFixed(n) 方法,直接获取N 位小数,不过,个人觉得这种方法在数据精度上会有一些问题.如果数据精度要求不高的话可以使用. ? 1 alert((0.1 + 0.2).toFixed(1)); 第二种方法就是自己编写运算方法.以下是自定义加法函数,使用此方法进行相加会避免上面问题. ? 1 2 3 4 5 6 7 8 9 10 11 12

JS浮点数运算Bug的解决办法【转】

37.5*5.5=206.08 (JS算出来是这样的一个结果,我四舍五入取两位小数) 我先怀疑是四舍五入的问题,就直接用JS算了一个结果为:206.08499999999998 怎么会这样,两个只有一位小数的数字相乘,怎么可能多出这么小数点出来. 我Google了一下,发现原来这是JavaScript浮点运算的一个bug. 比如:7*0.8 JavaScript算出来就是:5.6000000000000005 网上找到了一些解决办法,就是重新写了一些浮点运算的函数或直接扩大倍数运算. 下面就把这

js如何判断小数点后有几位

<script> var n=3.143423423;alert(n.toString().split(".")[1].length); </script> js javascrip 截取小数点后几位 第一种,利用math.round var original=28.4531) //round "original" to two decimalsvar result=Math.round(original*100)/100;  //retur

js中控制小数点的显示位数的技术整理

js中自带方法控制小数点的显示位数(四舍五入) alert((12.9299).toFixed(2)); //12.93 alert((12.9243).toFixed(2)); //12.92 小数位数增加的解决办法 javascript数字计算编码中,遇到了如下现象 var money = 116.12*11; //1277.32 money=1277.3200000000002 解决办法: money .toFixed(2);

js 关于运算顺序的问题

先介绍涉及到的概念 表达式:js中的短语,解释器在遇到表达式时,会将短语进行计算,然后再参与到运算中,表达式即js中的短语. j所有的s代码都是由操作符和表达式组成的,因此除了操作符,其他的都是js中的表达式. 如1 + 1 这段代码中,+是操作符,前面的1和后面的1都是表达式. 表达式的分类: 原始表达式:常量(如π).变量.直接量(数字.字符串.正则表达式).关键字 初始化表达式:初始化对象和初始化数组 函数定义表达式: 函数调用表达式: 属性访问表达式: 对象创建表达式:使用new操作符创

js浮点数运算封装, 起因财务部分精确计算

目录 背景 具体代码 背景 项目中用到浮点数,Int 等 js中 Number类型比较多, 加上牵涉到财务软件, 前台js运算等. 有时候会出现精确度的问题 , 公共方法中有好事者写的方法. 此处拿来借鉴. 具体代码 此处拿来借鉴 //数字的四则运算:修复js运算的误差bug function InitNumberOperation() { //除法函数,用来得到精确的除法结果 //说明:javascript的除法结果会有误差,在两个浮点数相除的时候会比较明显.这个函数返回较为精确的除法结果.

js算法运算

//js 加法计算 //调用:accAdd(arg1,arg2) //返回值:arg1加arg2的精确结果 function accAdd(arg1,arg2){ var r1,r2,m; try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0} try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0} m=Math.pow(10,Math.max

js浮点数运算出现误差解决方案

1.数据展示类(使用 toPrecision 凑整并 parseFloat 转成数字后再显示) parseFloat(1.4000000000000001.toPrecision(12)) === 1.4 // True 封装成方法如下: function strip(num, precision = 12) { return +parseFloat(num.toPrecision(precision)); } 2.数据运算类(对于运算类操作,如 +-*/,就不能使用 toPrecision 了

JS小数运算失精度的问题

浮点数值的最高精度是17位小数,但在进行运算的时候其精确度却远远不如整数:整数在进行运算的时候都会转成10进制: 而java和JavaScript中计算小数运算时,都会先将十进制的小数换算到对应的二进制,一部分小数并不能完整的换算为二进制,这里就出现了第一次的误差.待小数都换算为二进制后,再进行二进制间的运算,得到二进制结果.然后再将二进制结果换算为十进制,这里通常会出现第二次的误差. 所以(0.1+0.2)!=03 解决这种问题,可以将小数变成整数进行运算,然后再将结果变为小数. var ca