szhpsjl 发表于 2020-4-11 17:50:07

IAR环境下使用atof()问题请教

如题，IAR FOR 51环境，用的CC2541，使用atof()将一个字符串“3449.2099”输入到一个double型变量中，结果发现小数点最后一位变成了71，输出结果为3.44920971E+3 ，是编译器导致的问题吗。。

gonboy 发表于 2020-4-13 09:39:25

由电脑的设计原理导致的。 二进制PC永远无法完美的表示所有小数。   如果你过于纠结超高精度计算，建议可以自己写算法或FPGA等自己实现。

szhpsjl 发表于 2020-4-13 12:37:56

gonboy 发表于 2020-4-13 09:39
由电脑的设计原理导致的。 二进制PC永远无法完美的表示所有小数。   如果你过于纠结超高精度计算，建议可以 ...

double型是32位的，存储这个小数没问题呀，为什么最后一位小数值会改变呢。

zhugean 发表于 2020-4-13 14:35:39

0.1用二进制是无法精确表示的，0.125就可以

supercoo 发表于 2020-4-14 09:41:21

误差问题，比如2.2转换为二进制，因为在小数转换二进制表示的时候，0.2*2取0,0.4*2取0,0.8*2取1,0.6*2取1，0.2*2取0，这样，小数部分总不能是0，而如果用二进制浮点表示2.25，就不会有误差问题（因为乘两次小数部分就刚好是0了）
页: [1]
查看完整版本: IAR环境下使用atof()问题请教