zoukankan      html  css  js  c++  java
  • mysql-笔记 精度

    decimal数据类型是fixed-point类型,计算结算是准确的。numeric/dec/fixed / integer

    float/double数据类型是 floating-point类型,计算结果是大约的。float/double/double precision/real

    Decimal(M,D):

    M 最大精度位数 1到65

    D小数位数 0到30,不能大于M

    如里 D被忽略,默认为0,如果M被忽略,默认是10

    0 位 需要0个字节

    1-2位 需要 1个字节

    3-4位 需要2个字节

    5-6 位 需要 3个字节

    7-9 位 需要4个字节

    整数位与小数是分别计算存储字节的。

    decimal(20,6) 整数部分占 4+3个字节,小数部分占 3个字节

    decimal 列不存储:+ - ,不允许值大于定义的长度 decimal(M,D)列,允许M-D位在小数占左侧

    1 round() 对于精确类型的数字四舍五入;对于近似类型的数字,取最近的偶数

    select (.1+.2)=.3; select (.1E0+.2E0)=.3E0;

    2 使用 准确值 生成的列是decimal number 类型,使用近似值生成的列是float/double类型

    create table t select 2.5 as a,25E-1 as b;

    3 在decimal 列上取聚合数据也是decimal 类型,在double类型上取聚合数据也是double类型

  • 相关阅读:
    C# TcpServer调试工具
    C#调用百度AI开发平台
    MVC 身份证图像识别(调用dll)
    12.智能快递柜(其他功能)
    智能信报箱
    北斗卫星短信平台
    11.智能快递柜(用户寄件)
    WindowServer优化
    13.智能快递柜(对接流程)
    sublime text3 手动安装插件package control
  • 原文地址:https://www.cnblogs.com/caojuansh/p/10969205.html
Copyright © 2011-2022 走看看