计算机只有高电位,低电位,只能表示0和1 计算机的世界只有二进制
有些小数转2进制时是无限循环的,要失去精度0.1 0.2 0.4 0.8 0.6这些小数都要不精确,计算时带这些小数的,必定结果不对
解决方案:小数计算,先放大100,计算完结果后四舍五入,再除以100
在线进制转换工具:https://www.sojson.com/hexconvert.html