zoukankan      html  css  js  c++  java
  • 程序是怎样跑起来的 第三章

    第三章总体讲的是计算机进行小数运算的原因。3.1讲了计算机 有时会运算错误,比如将0.1累加100次,结果却不是10,程序没错,计算机也没故障,结果错了,计算机之所以会出现错误,是因为有些十进制的小数无法转换成二进制数。二级制的小数部分要转换成十进制数,是每一位数乘2的负n次幂,这样的总和是个近似值,无法正确表示数值,计算机就会截数,或者四舍五入,这样计算机运算就会出错。
    3.4讲了什么是浮点数,也就是小数,再准确点,浮点数是指用符号,尾数,基数和指数来表示的小数。符号部分是使用一个数据位来表示数值的符号,数据位是1 表示负,0 表示正。尾数是“将小数点前面的值固定为1的正则表达式”,就是把把二进制小数左移 右移几次后,整数第一位成1,1也不保存数据,第二位之后都成为0,以单精度数为例,1011.0011 右移让整数变成1,0001.0110011,然后舔0,让小数点以后的长度为23位,最后舍弃整数的1.结果就是01100110000000000000000,23位。双精度数是52位。指数是“excess系统表现”。它的意思是,将指数范围的中间值设为0,让负数不需要用符号来表示,直接是负数。比如1-10是范围,5是中间值,6就是+1,4就是-1。计算机出错的原因之一是用浮点数处理小数,一是可以无视这些错误,二是把小数换算成整数计算。

  • 相关阅读:
    JavaScript中get和set访问器的实现
    Vue render 函数和JSX语法的使用
    vue项目将第三方包以cdn的方式引入页面不显示
    今天帮忙HMF这位ui大神(傻)解决的小问题。
    SET
    webpack 折腾
    sass折腾
    gulp折腾
    css3
    js递归函数
  • 原文地址:https://www.cnblogs.com/hzusbjxg/p/10562111.html
Copyright © 2011-2022 走看看