咨询电话:
15628812133
TAG:
精度
济南建网站float精度丢失

float精度丢失

在对两个float类型的数据进行四则运算的时候,可能会导致出现xx.99999999或x.00000001等情况。 例 在上述例子中可以看到,0.55+0.02并不等于0.57,因为这个结果在内存中其实是0.579999999或0.570000000001所以并不等于0.57。这个问题在底层为C的程序中基本都会出现,例如js,python等等Js例子Python例子这种...
2023-03-24