SQL反模式学习笔记10 取整错误

2014-10-13 16:44:28

目标：使用小数取代整数

反模式：使用Float类型

根据IEEE754标识，float类型使用二进制格式编码实数数据。

缺点：（1）舍入的必要性： 并不是所有的十进制中描述的信息都能使用二进制存储，处于一些必要的因素，

浮点数通常是舍入到了一个非常接近的值。

　　                   举例：select rate from A where id=123   --Result:59.95

　　                           select * from A where rate=59.95 --Result：empty set;no rows match.

　　                           select * from A where ABS(rate-59.95)<0.000001   --这个才能正确查出数据！

（2）将浮点数视作“近似相等”

如何识别反模式：任何使用Float、Real或者Double Percent类型的设计都有可能是反模式

合理使用反模式：如果要存储的值取值范围很大，大于integer、numeric的范围，那只能用float了。科学计算类的程序通常使用float。

解决方案：使用numeric、decimal类型

使用numeric、decimal代替float，他们不会对存储的有理数进行舍入，因此select * from A where rate=59.95会返回记录。

　　        注意：numeric、decimal在sqlserver乃至sybase中，是完全一样的。

结论：尽可能不要使用浮点数