zoukankan      html  css  js  c++  java
  • C#中float, double的精度问题

    在工作中我发现了一个C#浮点数的精度问题,以下的程序运行结果并未得到我预期的结果:

    view source
    print?
    01namespace FloatTest
    02
    03    class Program
    04    
    05        static void Main(string[] args)
    06        
    07            double a = 0.0001;
    08            float b = 0.1F;
    09  
    10            int c = (int)((a * 1000) / b);
    11  
    12            Console.WriteLine("c = {0}", c);
    13  
    14            Console.ReadLine();
    15        
    16    
    17}

    我期望的结果是得到1,结果程序返回的结果为c = 0

    这让我想到了可能是因为浮点数采用IEEE754的表示方法,在运算中b会转换成double,可能是在转换中算法的问题导致精度丢失,为了证实该问题,我做了下面的实验:

    view source
    print?
    01namespace FloatTest
    02
    03    class Program
    04    
    05        static void Main(string[] args)
    06        
    07            double a = 0.0001;
    08            float b = 0.1F;
    09  
    10            int c = (int)((a * 1000) / b);
    11  
    12            Console.WriteLine("a = {0}", a);
    13            Console.WriteLine("b = {0}", Convert.ToDouble(b));
    14            Console.WriteLine("c = {0}", c);
    15  
    16            Console.ReadLine();
    17        
    18    
    19}

    这次果然得到了意料中的结果:float在转成double的时候出现了精度的丢失问题

    a = 0.0001
    b = 0.100000001490116
    c = 0

    如果是在类型转换的时候导致的精度丢失,那我把b改为double应该可以解决这个问题:

    view source
    print?
    01namespace FloatTest
    02
    03    class Program
    04    
    05        static void Main(string[] args)
    06        
    07            double a = 0.0001;
    08            double b = 0.1;
    09  
    10            int c = (int)((a * 1000) / b);
    11  
    12            Console.WriteLine("a = {0}", a);
    13            Console.WriteLine("b = {0}", Convert.ToDouble(b));
    14            Console.WriteLine("c = {0}", c);
    15  
    16            Console.ReadLine();
    17        
    18    
    19}

    这次却是得到我们期望的结果:

    a = 0.0001
    b = 0.1
    c = 1

    因此,在程序中,我们应该尽量的避免浮点数类型转换导致的精度丢失。

    我在GCC上做了同样的实验,结果不管哪种方式得到的结果都是正确的,我只能说可能是double Convert.ToDouble(float)的实现的原因导致的。

  • 相关阅读:
    vue配置跨域
    vue的组件通信
    vue3.0图片循环不出来的解决方案
    具有隐私保护的分布式云数据库中聚合查询的多阶段协议-多级分离查询处理(MSQP)协议
    分布式云数据库
    虚拟网络映射论文
    云技术下的分布式数据库系统
    云环境下的分布式数据库-UDDB
    神经网络
    AlphaGo、AlphaGo zero、Alpha zero
  • 原文地址:https://www.cnblogs.com/wwwzzg168/p/3570015.html
Copyright © 2011-2022 走看看