zoukankan      html  css  js  c++  java
  • INT整型最小值取负还是本身的问题

    在刷LeetCode题目powx-n遇到。


     

    题目描述

    Implement pow(xn).



    public
    double pow(double x, int n) { if (n == 0) return 1; else if (n < 0) return pow(1 / x, -n)); else if (n % 2 == 0) return pow(x * x, n / 2); else return x * pow(x * x, n / 2); }

    测试用例:(x, -2147483648) 无法通过

    原因:-2147483648(整型最小值)取负等于本身。

    Integer.MIN_VALUE是-2147483648,是-2147483647减1得到,-2147483647的原码是0xFFFFFFFF,补码是0x80000001。-2147483648的原码是由-2147483647的原码的非符号位减1溢出,得到原码为0x80000000。符号位不变, 其余各位取反, 最后+1,得到补码0x80000000,和原码一样。
    当计算机进行取负操作时,是将补码的每一位取反然后+1(通常这么记:-n = ~n + 1)。0x80000000按每位取反后是0x7FFFFFFF,加一之后还是0x80000000,所以-2147483648取负还是-2147483648。

    代码修改如下

    public double pow(double x, int n) {
        if (n == 0) return 1;
        else if (n < 0) return 1 / x * pow(1 / x, -(n + 1));
        else if (n % 2 == 0) return pow(x * x, n / 2);
        else return x * pow(x * x, n / 2);
    }
  • 相关阅读:
    Java 引用类型
    Mysql-5.7.14使用常见问题汇总
    CountBoard 是一个基于Tkinter简单的,开源的桌面日程倒计时应用
    HashMap的源码分析
    redis-cluster源码分析
    redis集群方案
    redis集群命令
    redis集群删除master节点
    redis集群添加master节点
    redis集群部署
  • 原文地址:https://www.cnblogs.com/yfzhou/p/10930744.html
Copyright © 2011-2022 走看看