zoukankan      html  css  js  c++  java
  • MySQL 浮点数与定点数

    浮点数一般用于表示含有小数部分的数值。当一个字段被定义为浮点类型后,如果插入数据的精度超过该列定义的实际精度,则插入值会被四舍五入到实际定义的精度值,然后插入,四舍五入的过程不会报错。在MySQL中float、double(或real)用来表示浮点数。

    定点数不同于浮点数,定点数实际上是以字符串形式存放的,所以定点数可以更精确地保存数据。如果实际插入的数值精度大于实际定义的精度,则 MySQL 会进行警告(默认的SQLMode下),但是数据按照实际精度四舍五入后插入;如果SQLMode是在TRADITIONAL (传统模式)下,则系统会直接报错,导致数据无法插入。在MySQL中,decimal(或numberic)用来表示定点数。

    浮点数精确性问题例子

    create table t (f float( 8,1));
    desc t;
    insert into t values (1.23456);
    select * from t; -- 1.2
    insert into t values (1.25456);
    select * from t; -- 1.2,1.3

    从上面的例子中,可以发现对于第一次插入值1.23456到float(8,1)时,该值被截断,并保存为1.2,而第二次插入值1.25456到float(8,1)时,该值进行了四舍五入然后被截断,并保存为1.3,所以在选择浮点型数据保存小数时,要注意四舍五入的问题,并尽量保留足够的小数位,避免存储的数据不准确。

    浮点数与定点数的区别例子

    CREATE TABLE test (c1 float(10,2),c2 decimal(10,2));
    insert into test values(131072.32,131072.32);
    select * from test;-- 131072.31,131072.32

    从上面的例子中可以看到,c1列的值由131072.32变成了131072.31,这是上面的数值在使用单精度浮点数表示时,产生了误差。这是浮点数特有的问题。因此在精度要求比较高的应用中(比如货币)要使用定点数而不是浮点数来保存数据。

    注意:在今后关于浮点数和定点数的应用中,用户要考虑到以下几个原则:

    浮点数存在误差问题;

    对货币等对精度敏感的数据,应该用定点数表示或存储;

    在编程中,如果用到浮点数,要特别注意误差问题,并尽量避免做浮点数比较;

    要注意浮点数中一些特殊值的处理。

  • 相关阅读:
    [2017BUAA软工助教]结对项目小结
    DPDK flow_filtering 源码阅读
    DPDK flow_classify 源码阅读
    阅读源代码,查出某个宏定义在哪个头文件内的方法
    pktgen-dpdk 实战
    pktgen-dpdk 运行 run.py 报错 Config file 'default' not found 解决方法
    DPDK RX / TX Callbacks 源码阅读
    DPDK skeleton basicfwd 源码阅读
    DPDK helloworld 源码阅读
    DPDK实例程序:testpmd
  • 原文地址:https://www.cnblogs.com/ooo0/p/14250193.html
Copyright © 2011-2022 走看看