zoukankan      html  css  js  c++  java
  • Python模块-decimal

    Python提供了decimal模块用于十进制数学计算,它具有以下特点:

    1. 提供十进制数据类型,并且存储为十进制数序列;
    2. 有界精度:用于存储数字的位数是固定的,可以通过decimal.getcontext().prec=x 来设定,不同的数字可以有不同的精度
    3. 浮点:十进制小数点的位置不固定(但位数是固定的)

    decimal的构建:

    可以通过整数、字符串或者元组构建decimal.Decimal,对于浮点数需要先将其转换为字符串

    decimal的context:

    decimal在一个独立的context下工作,可以通过getcontext来获取当前环境。例如前面提到的可以通过decimal.getcontext().prec来设定小数点精度(默认为28)

    from  decimal import Decimal
    from  decimal import getcontext
    
    d_context = getcontext()
    d_context.prec = 6
    print(d_context)
    
    d = Decimal(1) / Decimal(3)
    print(type(d), d)

    log:

    Context(prec=6, rounding=ROUND_HALF_EVEN, Emin=-999999, Emax=999999, capitals=1, clamp=0, flags=[], traps=[InvalidOperation, DivisionByZero, Overflow])
    <class 'decimal.Decimal'> 0.333333
  • 相关阅读:
    JS 录音
    JS学习笔记 之 作用域链
    JS学习笔记 之 预编译
    JS学习笔记 之 递归
    JS学习笔记 之 函数声明
    JS学习笔记 之 隐式类型转换
    JS学习笔记 之 typeof
    JS学习笔记 之 for循环
    JS学习笔记 之 运算符
    JS学习笔记 之 数据类型
  • 原文地址:https://www.cnblogs.com/keqipu/p/7229350.html
Copyright © 2011-2022 走看看