RGSS3又一個坑娘的BUG

流川枫 · 发表于 2014-4-3 09:49:38

加入我们，或者，欢迎回来。

您需要登录才可以下载或查看，没有帐号？注册会员

x

i=1.0
i-=0.1
i-=0.1
i-=0.1
i-=0.1
i-=0.1
i-=0.1
i-=0.1
i-=0.1
i-=0.1
p i

以上的腳本在RMVX得出0.1，而RMACE上卻得出0.10000000000000014這樣的腦殘數值。。

而一個遊戲裏判斷當 i>0.1時才遞減，但是由於RMACE的腦殘數值，結果運算結果不正常！

晴兰 · 发表于 2014-4-19 20:39:44

提示: 作者被禁止或删除内容自动屏蔽

晴兰 · 发表于 2014-4-17 21:55:57

提示: 作者被禁止或删除内容自动屏蔽

satgo1546 · 发表于 2014-4-17 18:28:40

连帖= =
因为Windows的计算器就是这样，给你舍入了。

流川枫 · 发表于 2014-4-16 19:24:03

a = 1.0
for i in 1..63
a -= 0.1
end
p a

以上的代码在RGSS1和RGSS2上都得到5.3，只有RGSS3不正确。因为RGSS1和2在每次计算浮点数运算后都将浮点数四舍五入到15位小数，所以可以保证加减的精度。但是RGSS3却不再四舍五入到15位于是就出现了脑残数值。

流川枫 · 发表于 2014-4-16 19:05:44

如图在C++中只要将double四舍五入到15位后，就会得到精确的0.1

流川枫 · 发表于 2014-4-16 18:21:15

本帖最后由流川枫于 2014-4-16 18:29 编辑

晴兰：“就像十进制的一个0.333333333....你的计算器表示长度有限，于是变成了0.33333333，加三次便不是1了而是0.99999999。”
掌嘴，自己看图我在C++中计算得出1这就是真实。

流川枫 · 发表于 2014-4-16 16:06:34

晴兰你真是有点自己打自己的嘴巴，自己试试用WIN7或XP自带的计算器做1除以3然后再乘以3的算术吧

你的编程技术真的不行

Shy07 · 发表于 2014-4-6 22:29:45

本帖最后由 Shy07 于 2014-4-6 22:33 编辑

写程序最可怕的就是想当然，千年虫是一例，现在楼主也是同样的错误。

——摘自《松本行弘的程序世界》

Matz 这本书挺不错的，新手和老鸟都可以一读。最近我在读《代码的未来》，感觉也不错。楼主发现问题是值得肯定的，但是没经过验证导致被打脸，可惜。

taroxd · 发表于 2014-4-6 18:15:46

本帖最后由 taroxd 于 2014-4-6 18:19 编辑

这哪里是bug，不信楼主 0.4+0.2 试试看。看看c++会不会悲剧，ruby会不会悲剧
要浮点数精确点楼主可以试试二进制=。= 不然就给我老老实实用整数

给楼主两篇不错的文章（都是常识！）
http://justjavac.iteye.com/blog/1725977
http://justjavac.iteye.com/blog/1724438

晴兰 · 发表于 2014-4-6 12:58:34

提示: 作者被禁止或删除内容自动屏蔽

帐号		自动登录	找回密码
密码			注册会员

[已经过期] RGSS3又一個坑娘的BUG

加入我们，或者，欢迎回来。

点评

评分

浏览过的版块

开拓者

贵宾