zoukankan      html  css  js  c++  java
  • 【编程范式】斯坦福公开课-学习笔记1

    1.为什么在内存中用补码表示负数--为了硬件可以用统一的计算方式表达加减法

    简单的正数二进制加法1+5 = 6

    如果表示负数时,只是单独的拿最高位做符号位 则short型的-7 + 7表示为:

    看上式,-7+7结果却得到了-14,而不是0

    但是如果-7用反码来表示,就不会有问题:

    最高位的1出界了,所以得到的就是0了。

    2.short型的取值范围

    用补码表示时,正数的补码是自己,负数的补码是绝对值取反加一。如果只用2byte表示数字,比如short,那么 +0和 -0的都是用 00000000 00000000来表示,那么10000000 00000000 这个表示就没有用了,因为只有10000000 00000000取反加一 = 10000000 00000000, 但是10000000 00000000本身是个负数,因为最高的符号位是1,所以把10000000 00000000人工规定为 -215,故short的取值范围是 -215 ~ 215 - 1 

    3. 短字节负数向长字节拷贝时符号位如何处理 ---- 符号位扩展

    short s = -1;
    int i = s;

    4. float在内存中的表示

    上面的图例表达的数字是,设符号位为s:

    (-1)s*1.xxxxx*2(exp-127)

    即如果我们要表示 7.0 = 3.5 * 2(129 - 127) = 1.75 * 2(130 - 127)

    只要指数位增加一点,后面的小数位就可以乘除2,所以这样表示可以表示范围很大的数字,从2-127~2128(这里只说了正数,表明精度范围大)

    5.如果将float用short形式解读会是怎样的

    float f = 7.0;
    short s = *(short *)&f;

    如图,上述代码的结果是short只会读取float中高2位字节的内容

  • 相关阅读:
    oracle数据库的乱码问题解决方案
    @HTML.checkboxFor()用法
    存储过程实现登录(.net)
    .net中大数据的处理
    xml总结
    获取指定日期是当前月的第几周
    JS中正则方法的使用
    获取指定日期的前一天日期
    通过Oracle函数实现.NET String.Format函数的简单版
    ReportViewer实现多语言
  • 原文地址:https://www.cnblogs.com/dplearning/p/4984771.html
Copyright © 2011-2022 走看看