zoukankan      html  css  js  c++  java
  • 定点数与浮点数

    计算机中的定点数与浮点数

    在计算机中,数据有两种表达方式:定点数和浮点数,注意,这仅仅是数的两种表达方式,而不是两种数

    定点数:小数点固定在某个位置上的数据,就是一般的写法。 就好像 0.0000001 ,0.0001111;

    浮点数:小数点位置可以浮动的数据。就像数学中的 1222.2*10^3也可以表示为1.2222*10^6;

    定点数无须赘述,接下来说明一下浮点数:

    浮点数数学表达方式:N=M*R^E

    M(mantissa) 尾数

    R 阶的基数,即底数,就像上面的10,通常是一个常数,在计算机中一般为2、8、16,注意在一台计算机里,所有数据中的R是确定且相同的

    E(exponent) 阶码

    计算机表达方式

    Ms是尾数符号位,被设置到最高位上,为0或1,Ms与M组成一个定点小数

    E是阶码,注意它也有符号位,所以用n+1(1为符号位)表示

    例如:

    单精度浮点数(32位),阶码8位,尾数24位

    双精度浮点数(64位),阶码11位,尾数53位

    --------------------------------------------------------

     

    mysql中的定点数与浮点数

    定点数:DECIMAL(P,D),同Numeric(P,D)

    浮点数:FLOAT、DOUBLE

    mysql中的浮点数无须赘述,接下来说一下定点数:

    P:有效数字数的精度,范围为1〜65

    D:小数点后的位数,范围是0~30。MySQL要求D小于或等于(<=)P

    即可以存储D位小数的P位数

    备注:浮点数其实也能用(P,D)的方式表达,但这是不被推荐的

  • 相关阅读:
    django项目环境搭建备忘
    Python IDE的选择和安装
    MAC上python环境搭建
    hadoop1.2.1+hbase0.90.4+nutch2.2.1+elasticsearch0.90.5配置(伪分布式)
    ubuntu下hadoop完全分布式部署
    ubuntu下集群设置静态ip
    C语言调用库函数实现生产者消费者问题
    poj 1703(带权并查集)
    poj 1330
    poj1724
  • 原文地址:https://www.cnblogs.com/yanze/p/10112673.html
Copyright © 2011-2022 走看看