zoukankan      html  css  js  c++  java
  • C# 除法的小数点问题

    在c#中除法默认不保留小数点,

    decimal result = 100 / 1000; // result = 0;

    需要保留小数点,可以如下

    decimal result = 100m / 1000;

    m代表decimal.

    如果是变量要如何处理呢?这是需要用到Math.Round()

    int x= 120;

    int y= 100000;

    decimal result = (decimal)x / y; // (decimal)x/ y 表示把 x 转换成decimal再做除法运算,int 除 int 是会丢失小数点的。

    不过这样的小数点后面的数太多了,需要处理下,这时候需要Math.Round()

    decimal result = Math.Round((decimal)x/ y,2); 后面的2表示保留小数点后2位小数

    --------------------------------------------------------------------------------------------------------

    在C#与法中,“/”除后所得的值的类型,跟他的除数和被除数的类型有关。如:

                             int a=4;

                             int b=5;

                             float c=a/b ;

             则结果为0(因为会先进行int的除法操作,得出结果0,再将结果转为float 0;);

             总之,得出的数都是整形的,最终发现原来除后所得的值的类型,跟他的除数和被除数的类型有关。所以,应写成:

                             float a=3;

                             float b=5;

                             float c=a/b;

             这样,才能得出正确的结论!

    在int里,2/5的结果就是0

    又因为表达式(float num = 2/5)左边是float,而int可以隐式转换成float,所以,C#把0变成了float的:0.0

    如果你要得到正确的结果,必须至少让等号右边的一个数为float:加个小数点,或者加上F:

    2.0/5

    2.0/5.0

    2f / 5

  • 相关阅读:
    POJ1185:炮兵阵地(状压dp)
    POJ3254:Corn Fields(状压dp第一发)
    二进制x&(x-1);
    子集和问题(应用--换零钱)POJ2229:Sumsets
    JAVA math包
    UVA+POJ中大数实现的题目,持续更新(JAVA实现)
    HDU中大数实现的题目,持续更新(JAVA实现)
    SDUT中大数实现的题目,持续更新(JAVA实现)
    JAVA与ACM
    HDU3123:GCC(同余模简单题)
  • 原文地址:https://www.cnblogs.com/hailexuexi/p/2455381.html
Copyright © 2011-2022 走看看