被GPT骗惨了！

黄亦天

最近写代码，时不时就问GPT一下，当个快乐甲方，解放大脑。
多多少少可以给点参考，虽然说，细节不太准，但修修改改也能用。

结果就翻车了。

我想在窗口里绘制个行走图的动画，于是GPT给我提供了个draw_character(character_name, character_index, x, y)的方法
这个方法，确实是VA自带的，在窗口中绘制行走图的方法。
但它并不能绘制行走图的哪一帧， character_index 是图块里八个行走图图块整体的序号，绘制的是固定正面那一帧。
但我问这个方法具体用法，GPT就开始口胡，说character_index代表的是 在行走图里 每一块的顺序 比如 123 456 789 巴拉巴拉这样，你要绘制一个行走图动画，可以怎么怎么用，巴拉巴拉。
说的好像对了，但好像又不对，煞有其事，很有迷惑性。
一度搞得我以为是我update那里哪里写错了。

结果测了半天，去SAVE界面看看这玩意到底是怎么回事，才发现被骗惨了【

最后我让它重新给我写个能变更行走图朝向和帧数的方法，写完了总算能用了。

警惕人工智能，如果出BUG，一定是人工智能的错【

黄亦天

89444640 发表于 2023-11-6 08:51
我记得画师最近都在给AI下毒，免得AI盗用自己图去大量生成。
也许程序也在下。 ...

那个是在训练的时候，隐藏的色素差会形成一副别的图案，会破坏模型的判断。但实际上，上传到其它网站，多多少少会有压缩，会破坏掉这层处理。属实是安慰剂效应了。

图片下毒主要防止的是在一些网站上传原图的时候，被爬虫批量爬走训练。
属于防懒人不防小人。

GPT这个纯属是，语言模型，天生会编瞎话【
优势是写文案，以及翻译，所以代码方面，其实也是编的，只是根据你说的话，根据它的知识库，翻译成了代码。用的方法大致上是对的，但是到了细节上，就比较模糊了。

外加免费的3.5性能确实差点，凑合用了【

语言实在就不是很好下毒了，结构又不像图片那样，可以包含人类无法观测到的信息。

外加GPT3.5用的是2021年9月份的数据，和他对话，它只生成，不吸收的。

就算现在下毒，也不太能影响到一个“思维已经成熟”的语言模型AI了。

除非长年往里面灌注各种胡言乱语，一般来说不太能破坏一个语言模型的结构。