zoukankan      html  css  js  c++  java
  • float和double

    • float:4字节 结尾要加“f”或“F” -3.403E38~3.403E38
    • double:8字节 -1.798E308~1.798E308

    1、范围

    • float和double的范围是由指数的位数来决定的。
    • float的指数位有8位,而double的指数位有11位,分布如下:
    • float:
      1bit(符号位) 8bits(指数位) 23bits(尾数位)
    • double:
      1bit(符号位) 11bits(指数位) 52bits(尾数位)
    • 于是,float的指数范围为-128+127,而double的指数范围为-1024+1023,并且指数位是按补码的形式来划分的。
    • 其中负指数决定了浮点数所能表达的绝对值最小的非零数;而正指数决定了浮点数所能表达的绝对值最大的数,也即决定了浮点数的取值范围。
    • float的范围为-2^128 ~ +2^128,也即-3.40E+38 ~ +3.40E+38;double的范围为-2^1024 ~ +2^1024,也即-1.79E+308 ~ +1.79E+308。

    2、精度

    • float和double的精度是由尾数的位数来决定的。浮点数在内存中是按科学计数法来存储的,其整数部分始终是一个隐含着的“1”,由于它是不变的,故不能对精度造成影响。
    • float:2^23 = 8388608,一共七位,这意味着最多能有7位有效数字,但绝对能保证的为6位,也即float的精度为6~7位有效数字;
    • double:2^52 = 4503599627370496,一共16位,同理,double的精度为15~16位。
  • 相关阅读:
    深入理解幂等性(转)
    Mysql数据库表结构设计准则
    nodejs以对象做对象的key导致value一直被覆盖
    数组常用方法
    css选择器总结
    CSS 选择器权重计算规则
    ElementUI select
    linux-sed命令
    vue 组件数据传递:
    vue视频: 自定义指令 && 拖拽 && 自定义键盘信息
  • 原文地址:https://www.cnblogs.com/dongfanghao/p/7123750.html
Copyright © 2011-2022 走看看