测试浮点数的问题

1、这里浮点数默认是double型,因为默认是double型,所以float型有损精确度,要想运行转换位     bouble,在数值后面加F

2、这里用科学计数法表示,其中e-2相当于2.7*10的-2次方,如果是e+2代表的就是2.7*10的+2次方

如下图是不加F的

运行结果:

加了F的运行结果如下图:

3、同样的数值,bouble和float是不一样的。显示不相等false如图:

时间: 2024-10-07 21:17:21

测试浮点数的问题的相关文章

Android单元测试与模拟测试详解

测试与基本规范 为什么需要测试? 为了稳定性,能够明确的了解是否正确的完成开发. 更加易于维护,能够在修改代码后保证功能不被破坏. 集成一些工具,规范开发规范,使得代码更加稳定( 如通过 phabricator differential 发diff时提交需要执行的单元测试,在开发流程上就可以保证远端代码的稳定性). 2. 测什么? 一般单元测试: 列出想要测试覆盖的异常情况,进行验证. 性能测试. 模拟测试: 根据需求,测试用户真正在使用过程中,界面的反馈与显示以及一些依赖系统架构的组件的应用测

Linux服务器性能压力测试

对于新采购的服务器,需要进行有必要的性能测试.这里选择UnixBench工具进行性能测试.记录如下: 1)安装使用下面的脚本使用了最新版UnixBench5.1.3来测试,注释了关于graphic的测试项(大多数VPS都是没有显卡或者是集显,所以图像性能无需测试),运行10-30分钟后(根据CPU内核数量,运算时间不等)得出分数,越高越好.(提前将UnixBench5.1.3.tgz下载到了服务器的/root目录下了) [[email protected] ~]# cat bench.sh #!

私.Modbus测试_ZC03_rtu,ascii,tcp

ZC:另外一些信息在 "Modbus资料 - codeskill_android - 博客园.html"(https://www.cnblogs.com/codeskilla/p/9998416.html) 1.文章:modbus4j,rtu,ascii,tcp_ip传输模式 - 狂野的河 - CSDN博客.html(https://blog.csdn.net/u013150916/article/details/78065479?locationNum=9&fps=1#com

php数据类型

总括 PHP数据类型包括8种:其中包括四种标量类型.两种复合类型和两种特殊类型.具体是:字符串.整数.浮点数.布尔.数组.对象.NULL.资源 如果想查看某个表达式的值和类型,可以使用函数var_dump() <?php $var = 1; //int 1 echo var_dump($var); echo '<br>'; $var = 1.0; //float 1 echo var_dump($var); echo '<br>'; $var = true; //boolea

软件工程项目之二:结对编程——四则运算生成计算程序

0x01 :简介 本次的编程任务是完成一个具有UI界面的,具备四则运算生成.计算.判断对错功能的程序.本次程序使用C#语言编写,用时为2周. 0x02 :软件工程和PSP表格记录 PSP 2.1 Persinal Software Process Stages Time(Estimated) Time(Real) Planning 计划     Estimate 估计这个任务需要多少时间 24h 36h Development 开发     Analysis 需求分析(包括学习新技术) 8~10

从FindBugs中学Java【一】

findbug 这里[中文列表]: http://svn.codehaus.org/sonar-plugins/tags/sonar-l10n-zh-plugin-1.1/src/main/resources/org/sonar/l10n/findbugs_zh.properties rule.findbugs.IMSE_DONT_CATCH_IMSE.name=不良实践 - 捕获可疑IllegalMonitorStateException rule.findbugs.BX_BOXING_IMM

第3章 C++ I/O流技术

/* 第3章 C++ I/O流技术 3.1 I/O流类 3.2 标准输入输出 3.3 文件输入输出 3.4 流的格式控制 3.5 本章小结 */ // 第3章 C++ I/O流技术 // 3.1 I/O流类 ------------------------------------------------------------------------------------------ // 3.2 标准输入输出 -----------------------------------------

前端学PHP之数据类型

× 目录 [1]总括 [2]布尔型 [3]整型[4]浮点型[5]字符串[6]数组[7]对象[8]NULL[9]资源 前面的话 同javascript一样,php也是一门弱类型语言,或者说成类型松散的语言.在强类型语言中,变量要先指定类型,然后才可以对应指定类型的数制.而php则不必告知变量的数据类型,会根据它的值,自动把变量转换成正确的数据类型.下面将详细介绍php的数据类型 总括 PHP数据类型包括8种:其中包括四种标量类型.两种复合类型和两种特殊类型.具体是:字符串.整数.浮点数.布尔.数组

Float浮点型

浮点型(也叫浮点数float,双精度数double或实数real). <?php$a = 1.234; $b = 1.2e3; $c = 7E-10;?> 要测试浮点数是否相等,要使用一个比该数大一丁点的最小误差值.该值也被称为机器极小值(epsilon)或最小单元取整数,是计算中所能接受的最小的差别值. $a和$b在小数点后五位精度内都是相等的. <?php$a = 1.23456789;$b = 1.23456780;$epsilon = 0.00001; if(abs($a-$b)