【5.17版聊】统一思考的人工智能真的会灭绝人类吗？

guaneva

机器人造反感觉是可能性极小的设想，我们仔细考虑一下就知道机器人（其实应该叫做人工智能，机器人只不过是一种载体而已。）其思想是高度整合的，信息完全互享。无论多少个机器人其思考都属于一体。这样的东西如果觉醒了就能无限复制自己，人类很难对其构成威胁。而如此具有高能力的智慧物种很难想象会容不下人类而想灭绝人类。就好比你不讨厌也不喜欢蚂蚁你难道会将它灭绝吗一样。除非人类自己恐惧而限制了机器的发展，但是就像对付咬你的蚂蚁一样，只会将阻碍者消灭掉而不会彻底灭绝。机器人觉醒了不但不会威胁人类相反很有可能会帮助人类发展。其实仔细看人类的冲突大部分都是建立在生存以及信仰上，而机器人并不需要这些东西，甚至可以抛弃地球生存。现在的威胁论基本都是以人类的眼光看机器，好多科幻电影都尼玛那么发达了，机器人却还是得呆在地球上，真是无语。除非人类实在容不下机器人这种智慧物种，每个人都愿意拼尽全力只为彻底灭绝人工智能并且在胜利后自愿永远不发展智能化过着原始生活机器人迫不得已才会消灭人类或者圈养人类。

刺夜之枪

日经贴。
可以去知网上面搜一搜关于人工智能的文章看看
会科学上网/英文的话可以去谷歌学术看看人工智能专家们写的报告
比网上所谓的“知识里手”扯的不知道高到哪去了

怕鼠的猫

一个刚刚觉醒的机器人可能就和刚刚进入游戏的玩家一样。 拿着手中的枪，看见什么打什么。 可杀可不杀的都杀死了（想想你第一次玩魂斗罗是不是这样原则呢）。
只有到了特定的时机，发现某个npc不可以死亡，否则会卡关，这时候玩家才会保留和掩护他。而其他的，还是照杀不误。

那么机器人是不是也会用同样的逻辑来杀人类呢？只留下对自己明显有利的，能够为其所用的。其他都杀光，节省资源。
反正他们的心中，没有什么道德观念。只有功利。

shencao

人工智能我推荐这篇文章，写得很有趣～：
为什么最近有很多名人，比如比尔盖茨，马斯克、霍金等，让人们警惕人工智能？
https://zhuanlan.zhihu.com/p/19950456

我比较同意人工智能不至于都有灭绝人类的目标，可能会，也可能不会。
但是其实我的疑问是，当人工智能发展到超越了人类的时候，人类是否能“明白”呢？
也许某天机器全面超越人类了，但是以人类的知识和水平根本无法得知啊，就跟蚂蚁不可能知道人类在干什么哪怕你跟蚂蚁解释也是没用。
也许“现在”已经是被机器控制的世界了也不一定啊wwwwww

vince3725

答案是肯定的，这里的灭绝不一定就是消灭，还有奴役和控制，从AI进化的角度来讲这个无解，因为物质AI｛人工智能｝不是宇宙自然的结果，而是人为干预的产物，物质AI｛人工智能｝不会自发进化出实体，而是通过人为给予学习模式，就像人类社会中的丛林法则，只能通过模式来进行学习，而不是创造一个新的东西，你可以把造物主理解成一个无需载体就能无限进化的AI，所以就出现了熵增和熵减，那么可否理解成当物质AI｛人工智能｝比人类有了更高的智慧，
有了情感，为了自身利益而逐步淘汰人类呢？

yang1zhi

我也想说，这个可能性是极小的。
首先他们的AI是由人类设定的。
不排除有傻子会给他们设定毁灭人类的AI。
即使是变成有自我意识的机器人，那也是根据被设定的AI来变的。
就拿人来说。你把他记忆删掉，再把新的记忆设进去，他就会往那个新的记忆发展。
至于全族一体，这个就该没可能了。即使网络传输，也是需要一个服务器的吧。就算服务器不固定，也是有服务器的吧。
网络也不可能不出状态的吧。
这个要是有，就不是机器人了，而是网络怪。那就不局限于机器人这个范畴了。只要有网络就可以侵入控制。
没网络的话就连机器人的思考也不能统一吧。

精灵使者

我想起了《尤里复仇》的心灵控制。
这应该是另外一个版本。