RGSS3又一個坑娘的BUG

流川枫

i=1.0
i-=0.1
i-=0.1
i-=0.1
i-=0.1
i-=0.1
i-=0.1
i-=0.1
i-=0.1
i-=0.1
p i

以上的腳本在RMVX得出0.1，而RMACE上卻得出0.10000000000000014這樣的腦殘數值。。

而一個遊戲裏 判斷 當 i>0.1時才遞減，但是由於RMACE的腦殘數值，結果運算結果不正常！

怪蜀黍

每自减一次就msgbox一次，看看哪一步出错

orochi2k

VX到VA完成了一次计算机科学回到解放前的革命么~\(≧▽≦)/~

怪蜀黍

i = 1.0
i -= 0.1
i = (i * 10).round / 10.0
每次自减都做这三步吧

Sion

自己 round 呗。浮点数也是取近似值，精度一般用不到那么高，直接用整型得了。

LBQ

论为什么不应该进行大量浮点数运算

无脑之人

RGE问题比这还严重……
设计的时候避免就好了啦，以前精度各种丢的时候不还是一样该做做←←

fux2

运算的时候尽量别用浮点，取结果的时候再取，比如你这里可以改成

1. i=10
   
2. p i.to_f/10
   
3. i-=1
   
4. p i.to_f/10
   
5. i-=1
   
6. p i.to_f/10
   
7. i-=1
   
8. p i.to_f/10
   
9. i-=1
   
10. p i.to_f/10
    
11. i-=1
    
12. p i.to_f/10
    
13. i-=1
    
14. p i.to_f/10
    
15. i-=1
    
16. p i.to_f/10
    
17. i-=1
    
18. p i.to_f/10
    
19. i-=1
    
20. p i.to_f/10

复制代码

chd114

笨方法= =把小数扩大10*N倍···计算完再缩回去···