zoukankan      html  css  js  c++  java
  • Python中的浮点数与decimal

    今天遇到了Python浮点数处理的一个问题:
    比如,如果在代码中这样写:

    print 23.53 + 17.64 + 5.88

    输出 47.05, 这是正确的

    但是,在Python Shell中,却得到了这样一个结果:

    >>> 23.53 + 17.64 + 5.88
    47.050000000000004

    在实际的项目中,如果我们要计算这样一个东西并把它存在数据库中,

    那么存的实际上是一个后者所示的小数位很多的浮点数。而并不是我们认为的前者所示的数
    print输出的时候,实际上也对浮点数进行了舍入
    一个更好的例子:

    x = 0.0
    for i in range(100):
      x += 0.1
    print("%.17lf" % x) #=> 9.99999999999998046
    print(x) #=> 99.1,print 自动舍入,得到了看似正确的结果

    解决这个问题的方法是使用decimal模块

    基本思想是:因为float类型无法在任意指定的小数位上保持精确,所以不用float表示浮点数
    而是用str保存浮点数
    使用decimal可以得到十进制下的标准结果
    如果结果的位数很多,可以对str保存的浮点数进行任意位数的四舍五入操作。
    为了使得到的结果不丢失精度,仍然不能用float来保存,而是获得一个Decimal类型
    可以把这个Decimal当做str存储

    ref:https://my.oschina.net/leejun2005/blog/156793 

  • 相关阅读:
    Codeforces Round #562题解
    Codeforces Round #561题解
    CF1107E Vasya and Binary String(区间dp)
    NC110113 Summer Earnings(bitset)
    NC112798 XOR-pyramid(dp)
    NC23051 华华和月月种树(离线+树状数组)
    py.path模块
    stat模块
    pwd模块
    PrettyTable模块
  • 原文地址:https://www.cnblogs.com/geeklove01/p/8781997.html
Copyright © 2011-2022 走看看