zoukankan      html  css  js  c++  java
  • 精度、小数位数和长度msdn

    SQL Server 2005 联机丛书(2007 年 9 月)
    精度、小数位数和长度 (Transact-SQL)

    精度是数字中的数字个数。小数位数是数中小数点右边的数字个数。例如,数 123.45 的精度是 5,小数位数是 2。

    在 SQL Server 2005 中,numericdecimal 数据类型的默认最大精度为 38。在 SQL Server 的早期版本中,默认的最大精度为 28。

    数字数据类型的长度是存储此数所占用的字节数。字符串或 Unicode 数据类型的长度是字符个数。binaryvarbinaryimage 数据类型的长度是字节数。例如,int 数据类型可以有 10 位数,用 4 个字节存储,不接受小数点。int 数据类型的精度是 10,长度是 4,小数位数是 0。

    当两个 charvarcharbinaryvarbinary 表达式串联时,所生成表达式的长度是两个源表达式长度之和,或是 8,000 字符,以二者中少者计。

    当两个 ncharnvarchar 表达式串联时,所生成表达式的长度是两个源表达式长度之和,或是 4,000 字符,以二者中少者计。

    使用 UNION、EXCEPT 或 INTERSECT 对数据类型相同但长度不同的两个表达式进行比较时,得到的长度为两个表达式中较大的长度。

    除了 decimal 类型之外,数字数据类型的精度和小数位数是固定的。如果算术运算符有两个相同类型的表达式,结果就为该数据类型,并且具有对此类型定义的精度和小数位数。如果运算符有两个不同数字数据类型的表达式,则由数据类型优先级决定结果的数据类型。结果具有为该数据类型定义的精度和小数位数。

    下表定义了当运算结果是 decimal 类型时,如何计算结果的精度和小数位数。当下列任一条件成立时,结果为 decimal

    • 两个表达式都是 decimal 类型。
    • 一个表达式是 decimal 类型,而另一个是比 decimal 优先级低的数据类型。

    操作数表达式由表达式 e1(精度为 p1,小数位数为 s1)和表达式 e2(精度为 p2,小数位数为 s2)来表示。非 decimal 类型的任何表达式的精度和小数位数,是对此表达式数据类型定义的精度和小数位数。

    运算 结果精度 结果小数位数 *

    e1 + e2

    max(s1, s2) + max(p1-s1, p2-s2) + 1

    max(s1, s2)

    e1 - e2

    max(s1, s2) + max(p1-s1, p2-s2) + 1

    max(s1, s2)

    e1 * e2

    p1 + p2 + 1

    s1 + s2

    e1 / e2

    p1 - s1 + s2 + max(6, s1 + p2 + 1)

    max(6, s1 + p2 + 1)

    e1 { UNION | EXCEPT | INTERSECT } e2

    max(s1, s2) + max(p1-s1, p2-s2)

    max(s1, s2)

    * 结果精度和小数位数的绝对最大值为 38。当结果精度大于 38 时,相应的小数位数会减少,以避免结果的整数部分被截断。

  • 相关阅读:
    Spring Data JPA条件查询
    Cannot add foreign key constraint
    项目运行慢的原因剖析
    文本摘要的一些研究概念
    datatables表格设置序号自增
    记录一次没有报错的错误
    final、static、this、super关键字总结
    datatables条件搜索后表格内出现重复字符串
    linux上重装redis,设置密码
    datatables render出现重复的字符
  • 原文地址:https://www.cnblogs.com/si812cn/p/1147209.html
Copyright © 2011-2022 走看看