zoukankan      html  css  js  c++  java
  • 定点数转换

    对浮点与定点的转换并不熟悉,只是用到一点点而已。

    1.浮点数转定点数

    在嵌入式程序中,浮点计算会占据大量的处理器资源,在满足一定的精度又不溢出的情况下,转换成定点数进行计算,将具有较大的性能提升。

    不管浮点数在机器内是如何表示的,基本上可以看成是由整数部分加小数部分组成的。假设需要b位的小数精度,转成定点数时乘以2^b即可,也即左移b位。

    示例:

    float x,y,z;

    x=12.5;y=3.0;

    z=x/y;//浮点除法,z=4.1666666....

    用定点数可表示为

    float x,y;

    int ix, iy, iz;

    x=12.5;y=3.0;

    ix = x*1024;iy=y*1024;//先转成精度为10的定点数

    iz = (ix<<10)/iy;//定点除法,iz=4266

    这样算出来iz=4266,用二进制表示为1000010101010,小数部分为后10位:00010101010=170;整数部分为10,即十进制4。因此定点数计算得到z=4.170,与浮点数计算得到的结果4.16666...是很接近的。

    2.小经验

    精度为10的定点数相乘,得到的结果是精度为20的定点数;相反,用精度为20的定点数除精度为10的定点数,得到的结果才是精度为10的。

    人生天地之间,若白驹之过郤(隙),忽然而已
  • 相关阅读:
    spring core与context的理解
    maven项目中pom.xml快速生成
    MariaDB常用命令
    MariaDB快速入门指南
    My_plan_51
    Oracle简介及安装
    Oracle单行函数
    oracle多表查询
    单点登录原理与简单实现
    JavaScript 的时间消耗
  • 原文地址:https://www.cnblogs.com/xiabodan/p/4038654.html
Copyright © 2011-2022 走看看