zoukankan      html  css  js  c++  java
  • INT整型最小值取负还是本身的问题

    在刷LeetCode题目powx-n遇到。


     

    题目描述

    Implement pow(xn).



    public
    double pow(double x, int n) { if (n == 0) return 1; else if (n < 0) return pow(1 / x, -n)); else if (n % 2 == 0) return pow(x * x, n / 2); else return x * pow(x * x, n / 2); }

    测试用例:(x, -2147483648) 无法通过

    原因:-2147483648(整型最小值)取负等于本身。

    Integer.MIN_VALUE是-2147483648,是-2147483647减1得到,-2147483647的原码是0xFFFFFFFF,补码是0x80000001。-2147483648的原码是由-2147483647的原码的非符号位减1溢出,得到原码为0x80000000。符号位不变, 其余各位取反, 最后+1,得到补码0x80000000,和原码一样。
    当计算机进行取负操作时,是将补码的每一位取反然后+1(通常这么记:-n = ~n + 1)。0x80000000按每位取反后是0x7FFFFFFF,加一之后还是0x80000000,所以-2147483648取负还是-2147483648。

    代码修改如下

    public double pow(double x, int n) {
        if (n == 0) return 1;
        else if (n < 0) return 1 / x * pow(1 / x, -(n + 1));
        else if (n % 2 == 0) return pow(x * x, n / 2);
        else return x * pow(x * x, n / 2);
    }
  • 相关阅读:
    Windows中Lua环境配置记录
    《Programming in Lua 3》读书笔记(四)
    《Programming in Lua 3》读书笔记(三)
    《Programming in Lua 3》读书笔记(一)
    C++中的struct
    POJ 1080 Human Gene Functions
    POJ 3176 Cow Bowling
    POJ 2533 Longest Ordered Subsequence
    POJ 1260 Pearls
    POJ 1836 Alignment
  • 原文地址:https://www.cnblogs.com/yfzhou/p/10930744.html
Copyright © 2011-2022 走看看