-
在开发中金额计算是常见的，今天偶尔发现一个挺奇怪的浮点数计算精度问题
36.66 x 100 取整后得到 3666 ？？？
我也理所当然地认为是3666，然后就直接使用Int接收结果，然而结果是3665 。
然后发现36.66 x 100的结果是3665.99999999995
使用Int接收当然是3665了。
-
知道原因是浮点数计算精度问题了，使用四舍五入即可得到正确结果。即用roundToInt方法而不是toInt方法转化接收结果(kotlin语法)
-
好奇的是，试了其他的比如16.66，26.66等.66数字 乘以100直接toInt转为Int后结果是预期正确的，唯有36.66乘以100直接toInt得到3665。神奇的计算精度问题，具体原因可能要深入二进制世界去了。。。