liudeee 发表于 2009-5-5 14:04:41

又是一个入门问题:float 赋值之后用studio观察变量 发现不对。

我在定义了float a变量后 对其赋值为 a = 65.659, 再用studio软仿 发现a的变成了65.658997,并不是65.659,这是为什么呢?
用atof()函数之后发现转换完的float也不是很精确,要怎么修改呢?

Gorgon_Meducer 发表于 2009-5-7 22:32:35

浮点数使用二进制存储时会产生截断误差,这是无法避免的。
页: [1]
查看完整版本: 又是一个入门问题:float 赋值之后用studio观察变量 发现不对。