zoukankan      html  css  js  c++  java
  • 浮点数

    1.1.1        精度和误差

    对任何一个数字表示系统,我们假想一个通用方程Rep(A),该函数返回最近进A的值,最理想的系统当然就是对所有的输入,Rep(A)=A.但是在计算机上面表示极短范围内,我们也不能完全正确表示所有范围内所有的实数。Rep方程是一个多对一的映射。无限多的实数A映射到一个确定的返回值。对一个确定的返回值来说,无限多的输入并不等于输出,也就是说,几乎对所有的实数, Rep(A)!=A.这种表是

    一种近似表示法。

                利用(Rep(A)-A),我们可以推导出几种度量误差的值。绝对误差是最简单的表示方法,他被定义为|Rep(A)-A|,仅仅是表示表示值和实际值之间的在数轴上的距离。但是绝对误差不能正确反映真实值和表现值之间的区别,他没有定量误差的另外一个重要的因素——误差对计算结果的影响比例。

                 假定我们有个丈量系统,单位精确到千米。这个单位在丈量地球到太阳之间的距离(149597871千米)可以认为是精确地。但是如果用这个单位来丈量一个苹果的尺寸(0.00011千米)就是非常不精确地,因为可能会四舍五入为0千米。在这两种情况下,绝对误差都是小于1千米,但是明显的,绝对误差不适合所有的情况。

                相对误差通过绝对误差除以实际值来表示:|((Rep(A)-A)/A|,因此相对误差是无量纲的,由于采用了除法,相对误差不能计算一个接近于0的值。

    1.2   浮点数

    1.2.1        科学计数法

    为了更好地介绍浮点数,我们先来回顾一下科学和工程领域的非常著名的实数表示标准:科学计数法。计算机浮点表示法与此相似。科学计数法右两个部分组成:

    1. 一个分数部分,也叫做尾数(mantissa),介于1.0到10.0之间。 
    2. 一个整数部分,也叫指数(exponent)。

    这两个部分一起组合成一个数 mantissaX10exponet

  • 相关阅读:
    ArrayList源码分析_JDK1.8.0_191
    LinkedList源码分析_JDK1.8.0_191
    HashMap源码分析_JDK1.8.0_191
    生产者消费者模型Java实现
    INT整型最小值取负还是本身的问题
    字节跳动面试题
    go sqlx操作数据库问题
    go gin框架调用cmd运行python脚本问题
    Android视频播放不能使用自研播放器
    mac python版本错误问题以及pip版本错误(anacanda)
  • 原文地址:https://www.cnblogs.com/qzzlw/p/2984459.html
Copyright © 2011-2022 走看看