为什么p (3.0-8.0/3.0)*3.0 == 1.0 显示false？

受pia专用ID · 发表于 2012-1-20 18:01:23

加入我们，或者，欢迎回来。

您需要登录才可以下载或查看，没有账号？注册会员

×

本帖最后由受pia专用ID 于 2012-1-21 20:00 编辑

p (3.0-8.0/3.0)*3.0 #=> 1
但为何p (3.0-8.0/3.0)*3.0 == 1.0就显示false？怎么解决？
p (3.0-8.0/3.0)*3.0 == 1 还是显示false啊
回复地面：
((3.0-8.0/3.0)*3.0).to_f==1
我这么写还是显示false
只能用这个方法了：Math.abs((3.0-8.0/3.0)*3.0-1)<=0.000001

feizhaodan · 发表于 2012-1-21 00:39:56

本帖最后由 feizhaodan 于 2012-1-21 00:40 编辑

p (1.0).class
p (1).class

复制代码

自己对比下。这就是人和计算机认识的区别。

yangff · 发表于 2012-1-21 00:43:06

Math.abs((3.0-8.0/3.0)*3.0-1)<=0.000001
这是普通程序猿
((3.0-8.0/3.0)*3.0).to_f==1
这是文艺程序猿
((3.0-8.0/3.0)*3.0).to_i.to_s(16)=="0x01"
这是2B程序猿

禾西 · 发表于 2012-1-21 01:29:50

p (3.0-8.0/3.0)*3.0 #=>1.0000000000000004

第七水螰 · 发表于 2012-1-21 23:40:30

這是當代計算機浮點運算普遍的缺陷。目前的浮點數表示法是以二進制表示有效數位，當有限的十進制有效數位被轉換為二進制時，很多情況下就會導致二進制的表示成為無限數位。在有限的計算機位（32 位單精度，64 位雙精度）中表示浮點數時，它實際存儲的值只是近似於用戶原本想表示的值，是經過了計算機芯片「零舍一入」的。再經過一系列浮點運算後，這個誤差值就累積起來了，導致運算結果的誤差離預期的越來越遠。以前很多計算機軟件都是忽略了浮點運算的誤差而導致了嚴重的後果，導致火箭航程失控，股票系統崩潰等等。

怕鼠的猫 · 发表于 2012-1-21 23:46:38

尽量先做乘法，最后做除法。尽量谋求整除的效果。

尤其是判定是否相等的时候， a/b==c/d 这样的写法就比较糟糕，不如改成等价的 a*d==b*c ，避免除法，避免舍入误差。

[已经解决] 为什么p (3.0-8.0/3.0)*3.0 == 1.0 显示false？

加入我们，或者，欢迎回来。

点评

点评

贵宾

烫烫烫

开拓者

极短23参与