zoukankan      html  css  js  c++  java
  • mysql-笔记 精度

    decimal数据类型是fixed-point类型,计算结算是准确的。numeric/dec/fixed / integer

    float/double数据类型是 floating-point类型,计算结果是大约的。float/double/double precision/real

    Decimal(M,D):

    M 最大精度位数 1到65

    D小数位数 0到30,不能大于M

    如里 D被忽略,默认为0,如果M被忽略,默认是10

    0 位 需要0个字节

    1-2位 需要 1个字节

    3-4位 需要2个字节

    5-6 位 需要 3个字节

    7-9 位 需要4个字节

    整数位与小数是分别计算存储字节的。

    decimal(20,6) 整数部分占 4+3个字节,小数部分占 3个字节

    decimal 列不存储:+ - ,不允许值大于定义的长度 decimal(M,D)列,允许M-D位在小数占左侧

    1 round() 对于精确类型的数字四舍五入;对于近似类型的数字,取最近的偶数

    select (.1+.2)=.3; select (.1E0+.2E0)=.3E0;

    2 使用 准确值 生成的列是decimal number 类型,使用近似值生成的列是float/double类型

    create table t select 2.5 as a,25E-1 as b;

    3 在decimal 列上取聚合数据也是decimal 类型,在double类型上取聚合数据也是double类型

  • 相关阅读:
    13.1 CentOS系统启动流程介绍
    MSSS攝影大賽計劃書(第三版)
    vuex-cart 介绍
    Golang Slice 总结
    使用jQuery在屏幕上居中一个DIV
    多线程-阻塞队列
    javascript常用知识汇总
    CocoaPods 安装和使用
    吴裕雄 12-MySQL WHERE 子句
    吴裕雄 11-MySQL查询数据
  • 原文地址:https://www.cnblogs.com/caojuansh/p/10969205.html
Copyright © 2011-2022 走看看