我们知道,浮点数值采用二进制系统表示,二进制系统无法精确表示1/10,就好像十进制无法精确表示1/3 。
所以,我们采用四舍五入/保留小数位方式以获得精简数值。
那么,问题来了:
为嘛2.0-1.9会得到17位小数的数值 (一般都是16位)
『解答』http://www.cnblogs.com/shown/p/6305880.html
时间: 2024-10-10 02:42:05
我们知道,浮点数值采用二进制系统表示,二进制系统无法精确表示1/10,就好像十进制无法精确表示1/3 。
所以,我们采用四舍五入/保留小数位方式以获得精简数值。
那么,问题来了:
为嘛2.0-1.9会得到17位小数的数值 (一般都是16位)
『解答』http://www.cnblogs.com/shown/p/6305880.html