这种类型又称财务类型,起源于有效数字问题。
FLOAT 单精度,有效数字7位。
有效数字是整数部分和小数部分加起来一共多少位。
当使用科学计数法的,FLOAT型会出现很严重的错误。
比如 877323457832 元钱。写为科学计数法
8.773234e11,还原回来 = 877323400000,损失了57832元。
时间: 2024-10-04 08:00:57
这种类型又称财务类型,起源于有效数字问题。
FLOAT 单精度,有效数字7位。
有效数字是整数部分和小数部分加起来一共多少位。
当使用科学计数法的,FLOAT型会出现很严重的错误。
比如 877323457832 元钱。写为科学计数法
8.773234e11,还原回来 = 877323400000,损失了57832元。