430中float类型只有6位有效数字，如果超过6位要如何表示？

hack3er · 发表于 2013-2-5 10:41:42

430中float类型只有6位有效数字，如果超过6位要如何表示？
例如：float num_1=-1234567.890这样赋值。
在IAR里编译后，就是以-1.23456787E+6这样存储
如果将num_1扩大1000倍赋值给long num_2，
num_2得到的值就不是-1234567890
而是-1234567936
而float的范围是3.4*10的-38次方到3.4*10的38次方
long型的范围是-2147483648到2147483648
float num_1和long num_2都没超过范围。
可为什么结果在num_1小数点后的几位都是不对的。
要如何将让float num_1扩大1000倍后得到的num_2是-1234567890？

zgbkdlm · 发表于 2013-2-5 11:52:15

同求啊..

jetlib · 发表于 2013-2-5 12:26:53

这是国际标准规定的，浮点数只有24个bit来表示有效数位，折合成10进大概就是7个有效数字。所以超出部分你需要自己处理。想简单要么就用double，想复杂就自己用定点运算来代替浮点运算来提高效率和精度。

i_kkyu · 发表于 2013-2-5 12:27:52

这个恐怕要自己搞了。

hack3er · 发表于 2013-2-5 13:37:55

jetlib 发表于 2013-2-5 12:26
这是国际标准规定的，浮点数只有24个bit来表示有效数位，折合成10进大概就是7个有效数字。所以超出部分你需 ...

感谢。。

zpxa001 · 发表于 2013-2-5 13:47:28

在工程选项中把浮点数类型配置为64点：

hack3er · 发表于 2013-2-5 14:29:04

zpxa001 发表于 2013-2-5 13:47
在工程选项中把浮点数类型配置为64点：

这样配置后只有用double型的才有效，float型的依然无效。

zpxa001 · 发表于 2013-2-5 14:40:17

本帖最后由 zpxa001 于 2013-2-5 14:42 编辑

hack3er 发表于 2013-2-5 14:29
这样配置后只有用double型的才有效，float型的依然无效。

编译器支持的float型浮点数只可能是32位...
要想获得高精度可以用64位的double型啊...
否则只能自己处理了。

hack3er · 发表于 2013-2-5 14:45:40

zpxa001 发表于 2013-2-5 14:40
编译器支持的float型浮点数只可能是32位...
要想获得高精度可以用64位的double型啊...
否则只能自己处理 ...

谢谢。

x2816960 · 发表于 2013-2-5 22:51:40

学习了，我原来是直接乘个N，变成整数好处理。

i55x · 发表于 2013-2-5 22:53:08

我一般都是用定点替代浮点。

hack3er · 发表于 2013-8-6 16:53:22

jetlib 发表于 2013-2-5 12:26
这是国际标准规定的，浮点数只有24个bit来表示有效数位，折合成10进大概就是7个有效数字。所以超出部分你需 ...

能不能讲讲定点数处理？不是很了解。。

430中float类型只有6位有效数字，如果超过6位要如何表示？

阿莫论坛20周年了！感谢大家的支持与爱护！！

本帖子中包含更多资源

浏览过的版块