js数字位数太大导致参数精度丢失问题

最近遇到个比较奇怪的问题，js函数里传参，传一个位数比较大，打印arguments可以看到传过来的参数已经改变。

然后查了一下，发现确实是js精度丢失造成的。我的解决方法是将数字型改成字符型传输，这样就不会造成精度丢失了。如下图：

JS 数字丢失精度的原因

计算机的二进制实现和位数限制有些数无法有限表示。就像一些无理数不能有限表示，如 圆周率 3.1415926...，1.3333... 等。JS 遵循 IEEE 754 规范，采用双精度存储（double precision），占用 64 bit。如图

意义

  • 1位用来表示符号位
  • 11位用来表示指数
  • 52位表示尾数

浮点数，比如


1

2

0.1 >> 0.0001 1001 1001 1001…（1001无限循环）

0.2 >> 0.0011 0011 0011 0011…（0011无限循环）

此时只能模仿十进制进行四舍五入了，但是二进制只有 0 和 1 两个，于是变为 0 舍 1 入。这即是计算机中部分浮点数运算时出现误差，丢失精度的根本原因。

大整数的精度丢失和浮点数本质上是一样的，尾数位最大是 52 位，因此 JS 中能精准表示的最大整数是 Math.pow(2, 53)，十进制即 9007199254740992。

大于 9007199254740992 的可能会丢失精度


1

2

3

9007199254740992     >> 10000000000000...000 // 共计 53 个 0

9007199254740992 + 1 >> 10000000000000...001 // 中间 52 个 0

9007199254740992 + 2 >> 10000000000000...010 // 中间 51 个 0

实际上


1

2

3

4

9007199254740992 + 1 // 丢失

9007199254740992 + 2 // 未丢失

9007199254740992 + 3 // 丢失

9007199254740992 + 4 // 未丢失

结果如图

以上，可以知道看似有穷的数字, 在计算机的二进制表示里却是无穷的，由于存储位数限制因此存在“舍去”，精度丢失就发生了。

想了解更深入的分析可以看这篇论文（又长又臭）：What Every Computer Scientist Should Know About Floating-Point Arithmetic

三、解决方案

对于整数，前端出现问题的几率可能比较低，毕竟很少有业务需要需要用到超大整数，只要运算结果不超过 Math.pow(2, 53) 就不会丢失精度。

对于小数，前端出现问题的几率还是很多的，尤其在一些电商网站涉及到金额等数据。解决方式：把小数放到位整数（乘倍数），再缩小回原来倍数（除倍数）


1

2

// 0.1 + 0.2

(0.1*10 + 0.2*10) / 10 == 0.3 // true

　　

时间： 2024-10-10 02:28:02

js数字位数太大导致参数精度丢失问题的相关文章

使用Jcrop.js剪切图片因图片太大导致精准度丢失的解决办法

一.我在写一个头像上传剪切的demo时遇到了这个问题,正常大小的图片通过maxwidth设置后不会有问题,但是当上传图片太大时,由于被缩放导致Jcrop剪切时获取的不是实际剪切位置,因此需要按比例计算所剪切的图片大小 html代码 1 <%@ page language="java" contentType="text/html; charset=utf-8"%> 2 <%@ taglib prefix="s" uri=&quo

分享工作中遇到的问题积累经验 事务日志太大导致insert不进数据

原文:分享工作中遇到的问题积累经验 事务日志太大导致insert不进数据 分享工作中遇到的问题积累经验 事务日志太大导致insert不进数据 今天开发找我,说数据库insert不进数据,叫我看一下 他发了一个截图给我 然后我登录上服务器,发现了可疑的地方,而且这个数据库之前有一段经历 在月初的时候这个数据库曾经置疑过,启动不起来 Could not redo log record (163041:116859:5), for transaction ID (0:-1175226963), on

[转载]JavaScript 中小数和大整数的精度丢失

标题: JavaScript 中小数和大整数的精度丢失作者: Demon链接: http://demon.tw/copy-paste/javascript-precision.html版权: 本博客的所有文章,都遵守“署名-非商业性使用-相同方式共享 2.5 中国大陆”协议条款. 先来看两个问题: 0.1 + 0.2 == 0.3; // false 9999999999999999 == 10000000000000000; // true 第一个问题是小数的精度问题,在业界不少博客里已有讨论

URL太长导致参数被截断的问题

做Web开发时经常涉及到页面之间的转跳,页面之间的转跳就会涉及到页面之间参数的传递,通过URL传递参数是常用的方法之一,但是微软 说:"Maximum URL length is 2,083 characters in Internet Explorer",也就是说URL是有长度限制的. ASP.NET应用程序前台与后台的数据交换都是通过FORM表单来完成的,FORM表单提供了两种数据传输方式:GET和POST,这个两种数 据传输方式在实际传输中有很大的不同,但ASP.NET框架中已经

单实例，当MongoDB单表数据文件太大导致写入速度变慢

解决办法(待测试): 文件拆分成小文件.主要参数有 Storage options: --storageEngine arg what storage engine to use - defaults to wiredTiger if no data files present --directoryperdb each database will be stored in a separate directory --quota limits each database to a certai

JS数字位数不够，前面位数补零

/** * 自定义函数名:formatZero * @param num: 需要补零的数值 * @param len: 补零后的总位数 */ function formatZero(num, len) { if(String(num).length > len) return num; return (Array(len).join(0) + num).slice(-len);} 原文地址:https://www.cnblogs.com/tonnytong/p/11650158.html

Kubernetes Pod日志太大导致空间问题

日志限制可以通过docker option来进行,但是先要把log-driver修改成json-file模式 # cat /etc/sysconfig/docker OPTIONS='--log-driver=json-file --log-opt max-size=50m --log-opt max-file=5' 清空日志通过 # cat /dev/null > /var/lib/docker/containers/CONTAINER_ID/CONTAINER_ID-json.log OR

JavaScript数字精度丢失问题总结

本文分为三个部分 JS 数字精度丢失的一些典型问题 JS 数字精度丢失的原因 解决方案(一个对象+一个函数) 一.JS数字精度丢失的一些典型问题 1. 两个简单的浮点数相加 0.1 + 0.2 != 0.3 // true Firebug 这真不是 Firebug 的问题,可以用alert试试 (哈哈开玩笑). 看看Java的运算结果 再看看Python 2. 大整数运算 9999999999999999 == 10000000000000001 // ? Firebug 16位和17位数竟然相

JSON 请求太大，无法反序列化。

在post请求中数据太大导致报500错误.错误提示 JSON 请求太大,无法反序列化. 在config中加 <system.web.extensions> <scripting> <webServices> <jsonSerialization maxJsonLength="2147483644"></jsonSerialization> </webServices> </scripting> <