zoukankan      html  css  js  c++  java
  • [Python]round四舍五入精度缺失的解决

    环境:

    os: win7 64bit

           python:2.7.5  32bit

          

    对python四舍五入的解决方案

    现象:

    一般的四舍五入操作都是使用内置的round方法
     
    In [14]: round(2.675,2)
    Out[14]: 2.67
    文档中这样解释的
    The documentation for the built-in round() function says that it rounds to the nearest value, rounding ties away from zero. Since the decimal fraction 2.675 is exactly halfway between 2.67 and 2.68, you might expect the result here to be (a binary approximation to) 2.68. It’s not, because when the decimal string 2.675 is converted to a binary floating-point number, it’s again replaced with a binary approximation, whose exact value is
    In [22]: Decimal(2.675)
    Out[22]: Decimal('2.67499999999999982236431605997495353221893310546875')

    所以对于精度有明确要求的数学计算来说,使用round是不行的


    google中有人这么解决的:

    >>> from decimal import Decimal
    >>> n = Decimal('1.555')
    >>> round(n, 2)
    Decimal('1.56')
    ##但是这个方法在2.7.5中已经不再适用了 


    现在使用的方式是:

    可以使用str.format来格式化数字实现四舍五入
     from decimal import Decimal
    In [15]: '{:.2f}'.format(Decimal('2.675'))
    Out[15]: '2.68''

    错误的写法
    In [12]: '{:.2f}'.format(2.675)
    Out[12]: '2.67'

    In [13]: '{:.2f}'.format('2.675')
    ---------------------------------------------------------------------------
    ValueError                                Traceback (most recent call last)

    In [14]: '{:.2f}'.format(Decimal(2.675))
    Out[14]: '2.67'




  • 相关阅读:
    linux中和salt中的fqdn测试小节
    centos7离线安装rpm包自动解决依赖
    (转)mysql创建表时反引号的作用
    mysql更新一个表里的字段等于另一个表某字段的值
    Navicat permium工具连接Oracle的配置
    IA64与x64的区别
    vsphere和vmware快照的不足之处
    mysql查看某库表大小
    sql之left join、right join、inner join的区别(转)
    读锁和写锁
  • 原文地址:https://www.cnblogs.com/keanuyaoo/p/3279712.html
Copyright © 2011-2022 走看看