zoukankan      html  css  js  c++  java
  • Excel

    例如设定单元格格式为数值,并保留小数点后2位,且:
    A1=1111.00,
    B1=5.5%,
    C1=A1*B1=1111.00*5.5%=61.105(C1显示的数值应为61.11),
    D1=0.8,
    计算E1=C1*D1=?

    计算机计算结果为:
    E1=C1*D1=61.105*0.8=48.884(D1显示的数值应为48.88)
    人为计算结果为:
    E1=C1*D1=61.11*0.8=48.888(四舍五入取数为48.89)

    不难看出计算机计算与人为计算的结果有时并不相等,这都是因为计算结果前一步所选取的数值精度不同造成。计算机缺省选取的是无限精度(哪怕是无限循环小数),但是显示出来的数据因为收格式显示,不可能显示出很长的数字串,因此人为计算时选取的是有限精度(通常选用精度为保留小数点后2位)。要解决此问题,可将计算机的计算精度重新调整为“以显示精度为准”,具体操作步骤为:
    “工具”—“选项”—“重新计算”—勾选“以显示精度为准”
  • 相关阅读:
    BM&EXCRT
    杨丰磊
    poj3613 Cow Relays
    详解KMP算法
    信息学作文
    恐怖的奴隶主(bob)
    玩具(toy)
    杯子 (glass)
    P3916 图的遍历
    《上帝给我一个任务,叫我牵一只蜗牛去散步》
  • 原文地址:https://www.cnblogs.com/winner2009/p/1685940.html
Copyright © 2011-2022 走看看