float精度丢失问题解决,用decimal.Decimal

首先来看一个浮点数运算：下面，当2个float类型数据，进行运算，就不能保证精度

a = 0.1b = 0.3print(a)print(b)print(b-a)




那么，怎么让上面的减法值，得到我们想要的 0.2 呢？导入 decimal模块，如果要不丢失精度Decimal类中必须要接收的是 str类型，如果还是传入 float类型，那么精度还是会丢失


import decimala = 0.1b = 0.3print(decimal.Decimal(str(b)) - decimal.Decimal(str(a)))print(decimal.Decimal(b) - decimal.Decimal(a))





原文地址：https://www.cnblogs.com/xiaofeng91/p/12051898.html
				


				
时间： 2024-11-09 05:14:09 

		


		


	

	
	

		


		
float精度丢失问题解决,用decimal.Decimal的相关文章


								

		

			

                Java Float类型 减法运算时精度丢失问题
			

		

		

									

				package test1; public class Test2 { /*** @param args*/public static void main(String[] args) {   Float xx = 2.0f;   Float yy = 1.8f;   Float tt = xx - yy;   System.out.println("tttttt-----" + tt); } } 果然输出结果是: tttttt-----0.20000005 再测试了几个float类型			

		

	

				

		

			

                【解惑】剖析float型的内存存储和精度丢失问题
			

		

		

									

				问题提出:12.0f-11.9f=0.10000038,"减不尽"为什么? 现在我们就详细剖析一下浮点型运算为什么会造成精度丢失? 1.小数的二进制表示问题 首先我们要搞清楚下面两个问题: (1)  十进制整数如何转化为二进制数 算法很简单.举个例子,11表示成二进制数: 11/2=5   余   1 5/2=2   余   1 2/2=1   余   0 1/2=0   余   1 0结束         11二进制表示为(从下往上):1011 这里提一点:只要遇到除以后的结果为0了			

		

	

				

		

			

                float及double类型减法运算时精度丢失问题
			

		

		

									

				当float和double类型在进行减法运算时,会出现精度丢失问题,这种问题主要是由于计算机中普遍使用2进制所造成的.在此做为记录,防止日后遗忘.     public static void main(String[] args) {         float a = 2.1f;         float b = 2.0f;         float c = a - b;         System.out.println("a-b=" + c);     }     //输			

		

	

				

		

			

                float,double等精度丢失问题 float,double内存表示
			

		

		

									

				问题提出:12.0f-11.9f=0.10000038,"减不尽"为什么? 来自MSDN的解释: http://msdn.microsoft.com/zh-cn/c151dt3s.aspx 为何浮点数可能丢失精度浮点十进制值通常没有完全相同的二进制表示形式. 这是 CPU 所采用的浮点数据表示形式的副作用. 为此,可能会经历一些精度丢失,并且一些浮点运算可能会产生意外的结果. 导致此行为的原因是下面之一: 十进制数的二进制表示形式可能不精确. 使用的数字之间类型不匹配(例如,混合使用浮			

		

	

				

		

			

                【转】JAVA程序中Float和Double精度丢失问题
			

		

		

									

				原文网址:http://blog.sina.com.cn/s/blog_827d041701017ctm.html 问题提出:12.0f-11.9f=0.10000038,"减不尽"为什么? 来自MSDN的解释: http://msdn.microsoft.com/zh-cn/c151dt3s.aspx 为何浮点数可能丢失精度浮点十进制值通常没有完全相同的二进制表示形式. 这是 CPU 所采用的浮点数据表示形式的副作用.为此,可能会经历一些精度丢失,并且一些浮点运算可能会产生意外的结果			

		

	

				

		

			

                iOS - Json解析精度丢失处理(NSString, Double, Float)
			

		

		

									

				开发中处理处理价格金额问题, 后台经常返回float类型, 打印或转成NSString都会有精度丢失问题, 因此使用系统自带的NSDecimalNumber做处理, 能解决这问题:经过测试其实系统NSDecimalNumber是对有问题值做了四舍五入处理 ?    还有经过测试, 重要的事说三遍:?处理精度有关的数据请用double?处理精度有关的数据请用double?处理精度有关的数据请用double     float testDouble = [jsonDict[@"Body"]			

		

	

				

		

			

                [转载]JavaScript 中小数和大整数的精度丢失
			

		

		

									

				标题: JavaScript 中小数和大整数的精度丢失作者: Demon链接: http://demon.tw/copy-paste/javascript-precision.html版权: 本博客的所有文章,都遵守“署名-非商业性使用-相同方式共享 2.5 中国大陆”协议条款. 先来看两个问题: 0.1 + 0.2 == 0.3; // false 9999999999999999 == 10000000000000000; // true 第一个问题是小数的精度问题,在业界不少博客里已有讨论			

		

	

				

		

			

                关于JavaScript中计算精度丢失的问题
			

		

		

									

				摘要: 由于计算机是用二进制来存储和处理数字,不能精确表示浮点数,而JavaScript中没有相应的封装类来处理浮点数运算,直接计算会导致运算精度丢失. 为了避免产生精度差异,把需要计算的数字升级(乘以10的n次幂)成计算机能够精确识别的整数,等计算完毕再降级(除以10的n次幂),这是大部分编程语言处理精度差异的通用方法. 关键词: 计算精度 四舍五入 四则运算 精度丢失 1. 疑惑 我们知道,几乎每种编程语言都提供了适合货币计算的类.例如C#提供了decimal,Java提供了BigDecim			

		

	

				

		

			

                经典的精度丢失问题
			

		

		

									

				Java中的类型float.double用来做计算会有精度丢失问题,下面来看下面的示例. public static void main(String[] args) {    test1();    test2(); } private static void test1() {    double totalAmount = 0.09;    double feeAmount = 0.02;    double tradeAmount = totalAmount - feeAmount;