zoukankan      html  css  js  c++  java
  • Lua与C++ 一个精度误差问题

    近日和服务器同事处理一个游戏数据问题的时候,发现服务器Lua脚本的浮点数据在被服务器c++代码调用有可能出现误差。类似地,如果在客户端用lua的内置函数库去操作浮点数也会重现这样的取整误差情况,举个简单例子如下:

    local k = 1+122/100;
    local t = 250*k
    print("t:",t)
    print("math t:",math.floor(t))
    print(string.format("string t:%d",t))

    理想情况t、math t和string t都是555。

    实际输出只有t是555,math t和string t都是554。

    所以客户端和服务器在同样用一套计算公式去计算某个游戏数据时,由于客户端是纯脚本运算得到结果,服务器是将脚本运算的中间结果t在C++代码中继续处理,中间出现上述的精度误差问题,导致客户端和服务器的结果总是会有一些微小的数值偏差。

    具体的精度误差原因如果有读者知道,欢迎科普一下博主。

  • 相关阅读:
    bugku 求getshell
    HTTP之content-type
    web之robots.txt
    HTTP之User-Agent大全
    bugku 细心
    PHP输入流
    bugku web8
    PHP中sha1()函数和md5()函数的绕过
    bugku 各种·绕过
    【学术篇】烧水问题 打表找规律做法
  • 原文地址:https://www.cnblogs.com/mzdbskipop/p/3964107.html
Copyright © 2011-2022 走看看