zoukankan      html  css  js  c++  java
  • java的double和float精度问题

    在IEEE754标准中进行了单精度浮点数(float)和双精度数浮点数(double)的定义。float有32bit,double有64bit。它们的构成包括符号位、指数位和尾数位。 
    这些位的构成如下: 
    种类-------符号位-------------指数位----------------尾数位---- 
    float---第31位(占1bit)---第30-23位(占8bit)----第22-0位(占23bit) 
    double--第63位(占1bit)---第62-52位(占11bit)---第51-0位(占52bit) 

    取值范围主要看指数部分: 
    float的指数部分有8bit(2^8),由于是有符号型,所以得到对应的指数范围-128~128。 
    double的指数部分有11bit(2^11),由于是有符号型,所以得到对应的指数范围-1024~1024。 

    由于float的指数部分对应的指数范围为-128~128,所以取值范围为: 
    -2^128到2^128,约等于-3.4E38 — +3.4E38

    -------------------------------------------------------

    1. bit就是位,也叫比特位,是计算机表示数据最小的单位

    2. byte就是字节

    3.1byte=8bit

    4.1byte就是1B

    5.一个字符=2字节

    6.1KB=1024B

     

    1.字节就是Byte,也是B

    2.位就是bit也是b

    3.转换关系如下:
    1)1KB=1024B

    2) 1B= 8b

  • 相关阅读:
    Struts2拦截器
    Struts2执行过程
    struts.xml属性extends的执行顺序和剖析源码
    Struts2请求流程图
    8.29 脏检查笔记
    transactionManager 以及datasource type解析
    Mybatis
    Interceptor
    ongl(示例3-6 多值类型的数据处理)
    ongl(原始类型和包装类型)
  • 原文地址:https://www.cnblogs.com/bbllw/p/12435274.html
Copyright © 2011-2022 走看看