zoukankan      html  css  js  c++  java
  • mysql中float类型使用总结

    对于单精度浮点数Float:  当数据范围在±131072(65536×2)以内的时候,float数据精度是正确的,但是超出这个范围的数据就不稳定,没有发现有相关的参数设置建议:将float改成double或者decimal,两者的差别是double是浮点计算,decimal是定点计算,会得到更精确的数据。

    下面使用分析,

    首先创建测试表

    CREATE TABLE `customer` (
    `id` ) NOT NULL AUTO_INCREMENT,
    `name` ) DEFAULT NULL,
    `age` ) DEFAULT NULL,
    `jinqian` float(5,2) DEFAULT NULL,
    PRIMARY KEY (`id`)
    ) ENGINE DEFAULT CHARSET=utf8;

    float(m,d)

    m表示的是最大长度,d表示的显示的小数位数。

    例如上面的sql里:float(4,2) 表示:这个浮点数最大长度为5,也就是五位,然后小数部分为2位,至于存储范围,取决于你是否定义了无符号。

    无符号的话,最小是0.0 最大能存储到99999.9,如果有符号的话,范围是:-99999.9至99999.9。

    默认大小为24位数字,精度大约7位数字(经测试为6位),当设置M大小大于24时,自动转换为DOUBLE类型;同时设置M和D时不进行自动转换。

    小数位超过设定值,按四舍五入保存

    ,,90.012);
    ,,90.018);

    上面两个分别被保存为

    小数位如果都是0,则不保存小数位

    ,,90.0);
    ,,90.00);

    上面两个分别被保存为

    总结

    从上面的分析,我们可以得出以下结论:

    1、浮点数存在误差问题;
    2、对货币等对精度敏感的数据,应该用定点数表示或存储;
    3、编程中,如果用到浮点数,要特别注意误差问题,并尽量避免做浮点数比较;
    4、要注意浮点数中一些特殊值的处理

  • 相关阅读:
    Subversion学习笔记
    单元测试 学习笔记 之五
    单元测试 学习笔记 之四
    将全球通讯簿导入pop3客户端联系人
    isa 2006 sp1发布
    使用POWERSHELL管理OCS 2007
    SCCM 2007 排错
    空空排错日志:OCS错误日志14501等解决办法
    在AD没有备份的情况下还原被删除的数据
    冲击波又回来啦?
  • 原文地址:https://www.cnblogs.com/wangcp-2014/p/12306689.html
Copyright © 2011-2022 走看看