zoukankan      html  css  js  c++  java
  • 读《程序是怎样跑起来的》第第三章有感

    第三章讲的主要是关于计算机进行小数运算时出错的原因,首先讲了为什么计算机也会出错,先举了一个例子,将0.1累加100次也得不到10,引出问题,讨论出计算机出错的原因是有一些十进制数的小数无法转换成二进制数,在十进制数与二进制数转换时,有一些无法正确表示的数值,最后都变成了近近似值,计算机无法处理无限循环小数,所以计算机会四首五入或中间截断,所以出现计算机错误的现象。

    接下来讲述了浮点数,浮点数就是只用符号,尾数,基数和指数这四部分来表示的小数,更清楚了什么是精度浮点数和单精度浮点数,知道了在浮点数中1为负数,0为正或0

    最后讲述了如何避免计算机出错的两种方法:1)为回避策略及无视这些错误。2)把小数的化成整数计算。在进行小数的计算时,可暂时使用整数,然后把计算结果用小数表示出来。

  • 相关阅读:
    gitlab+gerrit+jenkins持续集成框架
    多线程自动翻页爬虫
    爬虫超级简单入门
    完整开发流程管理提升与系统需求分析过程 随堂笔记(day 1) 【2019/10/14】
    Logistic Regression
    cmdb项目-2
    cmdb项目-3
    cmdb全总结
    crm-1
    crm-2
  • 原文地址:https://www.cnblogs.com/cuimeng0926/p/10327843.html
Copyright © 2011-2022 走看看