单片机直接写入数字有误差吗？

hkk603 · 发表于 2019-12-9 19:48:39

用软件向单片机写入一个浮点数1.49999997e-02。读出来的却是1.50000006e-02。这个误差是怎么产生的啊？

cht-rtos · 发表于 2019-12-9 20:11:15

字长有限

anjiyifan · 发表于 2019-12-9 20:15:43

浮点数是有精度的。对精度要求高的话，换用双精度double类型试试？

laujc · 发表于 2019-12-9 20:44:29

上学的时候，老师就教过，不要直接比较两个浮点数的大小。。。

LSZD · 发表于 2019-12-9 20:48:18

laujc 发表于 2019-12-9 20:44
上学的时候，老师就教过，不要直接比较两个浮点数的大小。。。

那就一定是有的老师没教？

XA144F · 发表于 2019-12-9 22:38:28

软件在处理的因为电子电路中细微的电压波动，造成了半导体中电子的势能随机增加，当增加到大于量子壁垒阈值时这些电子就会产生量子通道效应到达地线，所以造成电路电压偏低几十个甚至上百个电子的电量，也就造成了你写入的数据和读出的数据不同。你把两个数据的差值取取绝对值，除以电子电压纹波均方根与普朗克常量的乘积，就能得到损失的电子个数。而为了解决这个误差，你需要低噪声ldo降压和超级电容滤波，还要保持温度恒定4℃，周围百米范围内不得有任何噪音和震动，建议电池供电，如果要外部供电的尽量使用水电，火电的波动更大核电的核辐射会加剧量子通道效应。

czzhouyun · 发表于 2019-12-9 22:41:10

XA144F 发表于 2019-12-9 22:38
软件在处理的因为电子电路中细微的电压波动，造成了半导体中电子的势能随机增加，当增加到大于量子壁垒阈值 ...

说的我都差点信了

wqsjob · 发表于 2019-12-9 22:44:09

XA144F 发表于 2019-12-9 22:38
软件在处理的因为电子电路中细微的电压波动，造成了半导体中电子的势能随机增加，当增加到大于量子壁垒阈值 ...

太对了
并且量子纠缠会释放少许能量，这样就造成了数据的微小损耗

ronghuaw · 发表于 2019-12-9 22:51:18

据说当年阿波罗登月用的是太阳能电板，没有量子通道效应的问题，所以阿婆罗上的浮点数比较都是相等的。。。

bg3mo · 发表于 2019-12-11 08:07:44

XA144F 发表于 2019-12-9 22:38
软件在处理的因为电子电路中细微的电压波动，造成了半导体中电子的势能随机增加，当增加到大于量子壁垒阈值 ...

佩服，把神学讲述的这么有个性

carefree1986 · 发表于 2019-12-11 08:32:14

你看下浮点数的原理，单精度的浮点数误差很大的

qinxg · 发表于 2019-12-11 08:37:24

浮点数是由0.5, 0.25, 0.125.... 1/2^n等等拼接而成, 必然有误差. 你写入0.5, 0.75之类就没有任何误差

xyz.543 · 发表于 2019-12-11 10:36:40

那尾数的数据已超过了 Long 是吗？若超过而多出来的那尾数，全都收归国有！而若少的就只能自行想办法给补齐啦。

单片机直接写入数字有误差吗？

阿莫论坛20周年了！感谢大家的支持与爱护！！