zoukankan      html  css  js  c++  java
  • 整数运算、浮点运算与溢出

    1. 一个示例

    sizeof(int) == 4 的机器上,也即 32 位机器,使用 int 型变量存储 200*300*400*500 会得到 -884901888。这显然违犯了整数运算的特性,计算一组正数的乘积不应该产生一个负数结果。

    另一方面,整数在计算机中的运算满足数学上对整数运算的许多性质。乘法的结合和交换律,下面的任何一个 C 表达式,都会得到 -884901888 同样的负数,数值溢出结果:

    (500*400)*(300*200)
    ((500*400)*300)*200
    ((200*500)*300)*400
    ...

    计算机中的浮点运算有时则会呈现出完全不同的数学属性。由于表示的精度有限,浮点运算是不可结合的。

    3.14 + (1e20 - 1e20) ⇒ 3.14
    (3.14 + 1e20) - 1e20 ⇒ 0.0

    2. 计算机对数字的表示

    整数运算和浮点运算会有不同的数学特性,是因为它们在处理数字表示有限性的方式不同 —— 整数的编码虽然只能编码一个相对较小的数值范围,但这种表示是精确的;而浮点数虽然可以编码一个较大的数值范围,其表示只是近似的

  • 相关阅读:
    阅读文献总结笔记11
    阅读文献总结笔记20
    阅读文献总结笔记13
    阅读文献总结笔记19
    阅读文献总结笔记17
    阅读文献总结笔记18
    阅读文献总结笔记15
    java图片以字符串的形式传输
    java与C#对接签名和验签
    SIP代码大全
  • 原文地址:https://www.cnblogs.com/mtcnn/p/9421112.html
Copyright © 2011-2022 走看看