decimal 小数点 位数 问题

decimal(p[,s]),其中p为精度,s为小数位数
p(精度)最多可以存储的十进制数字的总位数,包括小数点左边和右边的位数
s(小数位数)小数点右边可以存储的十进制数字的最大位数
1.在保证小数位且总位数不超过6时
declare @a decimal(6,3) 
set @a=56.342689 
print @a 
得到 
56.343
2.在保证小数位且总位数超过6时
declare @a decimal(6,3) 
set @a=1156.345
print @a
就会报错

http://biancheng.dnbcw.info/mssql/118864.html

时间: 2024-07-28 22:39:05

decimal 小数点 位数 问题的相关文章

转,Oracle中关于处理小数点位数的几个函数,取小数位数,Oracle查询函数

关于处理小数点位数的几个oracle函数() 1. 取四舍五入的几位小数 select round(1.2345, 3) from dual; 结果:1.235 2. 保留两位小数,只舍 select trunc(1.2345, 2) from dual; 结果:1.23 select trunc(1.2399, 2) from dual; 结果:1.23 3.取整数 返回大于或等于x的最大整数: SQL> select ceil(23.33) from dual; 结果: 24 返回等于或小于

java中double四舍五入并设置小数点位数的问题

本文系转载,原文地址:http://blog.csdn.net/star_huang/article/details/7639267 今天遇到个需要将一个double类型的数据保留小数点后两位的问题.在网上搜寻的集中解决方案,copy来一下,备用 首先result_value是处理前的double get_double是用来保存我处理后的double   //方案一: get_double = (double)(Math.round(result_value*100)/100.0) //方案二:

统计给定序列的AT-content ,并设置小数点位数

习题来源: Python for Biologists: A complete programming course for beginner 1 #!/bin/python 2 # calculate the AT content of a DNA seq 3 4 def get_at_content(dna, sig_figs = 2): # sig_figs=2 为默认参数 sig_figs 5 length = len(dna) 6 a_count = dna.upper().count

ava Double: 四舍五入并设置小数点位数

public static void main(String[] args) { // 1. 先乘后四舍五入, 再除; double d = 62.31060027198647; double d2 = Math.round(d*100)/100.0; System.out.println("通过Math取整后做除法: " + d2); // 2. 通过BigDecimal的setScale()实现四舍五入与小数点位数确定, 将转换为一个BigDecimal对象. //下面这个可行 B

MySQL查询小数点位数

怎么查询某个字段中小数有几位? MySQL数据库: 通过下面sql就可以查出来,有2位col*100,有3位col*1000,一次类推: select * from ws_inventory_item where real_quantity*1000 - floor(real_quantity*1000) > 0 备注:floor:函数只返回整数部分,小数部分舍弃. Oracle数据库: select ltrim('124532.62879'-floor('124532.62879'),'0.'

double类型字符串转换成一个纯数字字符串和一个小数点位数的c++代码

今天工作中遇到一个要不一个double型的字符串转换成一个纯字数字符串和一个标志这个数字字符串的小数点有几位的int类型 例如:“23.123”--->“23123” + 3   比较简单.就是把代码贴这里,以后用到了,可以直接拽来用 #include "stdafx.h" #include <stdlib.h>#include <iostream>#include <string> void getInfo(const char* pNum)

xcart小数点位数

xcart小数点的位数默认是2位,有时候需要根据需要更改位数:一开始以为把数据库中的数据类型的位数更改过后,就能生效,结果发现xcart在程序中作了限制,只能是2位.那么只能通过更改程序的方式来更改了,由于时间紧促,只作简单的修改(变通一点的是可以在一般设置里加一个变量来动态控制小数点的位数).以下是修改步骤: 1.如产品中的weight字段更改成3位小数点,首先把数据库中xcart_products 和 xcart_variants 两个表的weight字段改成3位小数 2.把文件 \admi

【iOS】stringWithFormat 保留小数点位数 float double

以前就见过,如下: text = [NSString stringWithFormat:@"%.1f", percentageCompleted]; 但一直没在意.刚一时好奇,查了下,原来很简单: %.1f  表示小数点一位,%.2f 表示小数点2位,依次类推. 这篇文章 ios NSString format 保留小数点 float double 解释得很详细,我只参考了一小部分,有助!分享下!

java Double保留小数点位数

4种方法,都是四舍五入,例: import java.math.BigDecimal; import java.text.DecimalFormat; import java.text.NumberFormat; public class format { double f = 111231.5585; public void m1() { BigDecimal bg = new BigDecimal(f); double f1 = bg.setScale(2, BigDecimal.ROUND