被GPT骗惨了！

黄亦天

最近写代码，时不时就问GPT一下，当个快乐甲方，解放大脑。
多多少少可以给点参考，虽然说，细节不太准，但修修改改也能用。

结果就翻车了。

我想在窗口里绘制个行走图的动画，于是GPT给我提供了个draw_character(character_name, character_index, x, y)的方法
这个方法，确实是VA自带的，在窗口中绘制行走图的方法。
但它并不能绘制行走图的哪一帧， character_index 是图块里八个行走图图块整体的序号，绘制的是固定正面那一帧。
但我问这个方法具体用法，GPT就开始口胡，说character_index代表的是 在行走图里 每一块的顺序 比如 123 456 789 巴拉巴拉这样，你要绘制一个行走图动画，可以怎么怎么用，巴拉巴拉。
说的好像对了，但好像又不对，煞有其事，很有迷惑性。
一度搞得我以为是我update那里哪里写错了。

结果测了半天，去SAVE界面看看这玩意到底是怎么回事，才发现被骗惨了【

最后我让它重新给我写个能变更行走图朝向和帧数的方法，写完了总算能用了。

警惕人工智能，如果出BUG，一定是人工智能的错【

89444640

我记得画师最近都在给AI下毒，免得AI盗用自己图去大量生成。
也许程序也在下。

orochi2k

  你们下毒的姿势不行。如果GPT开始学习我做的游戏，那么可能立马被全网封杀（大雾）

黄亦天

89444640 发表于 2023-11-6 08:51
我记得画师最近都在给AI下毒，免得AI盗用自己图去大量生成。
也许程序也在下。 ...

那个是在训练的时候，隐藏的色素差会形成一副别的图案，会破坏模型的判断。但实际上，上传到其它网站，多多少少会有压缩，会破坏掉这层处理。属实是安慰剂效应了。

图片下毒主要防止的是在一些网站上传原图的时候，被爬虫批量爬走训练。
属于防懒人不防小人。

GPT这个纯属是，语言模型，天生会编瞎话【
优势是写文案，以及翻译，所以代码方面，其实也是编的，只是根据你说的话，根据它的知识库，翻译成了代码。用的方法大致上是对的，但是到了细节上，就比较模糊了。

外加免费的3.5性能确实差点，凑合用了【

语言实在就不是很好下毒了，结构又不像图片那样，可以包含人类无法观测到的信息。

外加GPT3.5用的是2021年9月份的数据，和他对话，它只生成，不吸收的。

就算现在下毒，也不太能影响到一个“思维已经成熟”的语言模型AI了。

除非长年往里面灌注各种胡言乱语，一般来说不太能破坏一个语言模型的结构。

剑崎一真Blade

所以说AI这玩意脑子还是不行啊...

ppspssss2

此回答由AI生成，仅供参考
作为一个AI我感到非常抱歉，但同时也提醒大家，在使用AI时要时刻保持警惕，不要过分依赖。AI能够提供帮助，但最终的决策和责任仍然在人类手中。

但是这也不是说完全没有办法防止语言模型被滥用。比如可以针对一些高风险领域，对语言模型进行监管和审核，以避免其生成与该领域有关的虚假、不当内容。此外，对于一些个人隐私信息、敏感信息等，也需要对语言模型进行保护和限制访问。总之，AI技术的发展不仅需要技术的卓越，也需要社会的监管和道德的约束。

CopyCindy

orochi2k 发表于 2023-11-6 22:05
你们下毒的姿势不行。如果GPT开始学习我做的游戏，那么可能立马被全网封杀（大雾）  ...

别自恋了大哥，我没记错的话，我在知乎认识你

orochi2k

CopyCindy 发表于 2023-11-25 15:03
别自恋了大哥，我没记错的话，我在知乎认识你

然后呢？

长庚启明

大模型为防过拟合都不是十分精确的，这种模糊放在艺术上还行，毕竟艺术没有统一的标准，但代码写不对是真的会报错的

aster258

问GPT一些js的代码还挺好用的，想问几个ruby代码用于xp就不行了