“人工智能（AI）叛乱”听起来像是科幻电影的情节，但这个概念是一项新研究课题。

一个国际科研团队设计了一种理论上的“遏制算法”，通过模拟AI，确保其在任何情况都不能伤害人类，但结果发现无法做到。

AI多年来一直让人类着迷，我们对控制汽车、谱写交响乐或在自己的游戏中击败世界上最好棋手的机器感到敬畏。

然而，巨大的力量伴随着巨大的责任，全世界的科学家都在担心超级智能系统可能带来的危险。

据报道，包括马克斯·普朗克人类发展研究所人类与机器中心的科学家在内的一个国际团队研究表明，控制一个超级人工智能是不可能的。

该团队在分析过程中使用了阿兰·图灵（Alan Turning）于1936年提出的“停止”问题，该问题的重点在于计算机程序是否会得出结论并做出“停顿”的反应。

据悉，在研究中，该团队设计了一种理论上的“遏制算法”，通过先模拟人工智能的行为，如果认为有害，则停止人工智能的行为，从而确保超级人工智能在任何情况下都不能伤害人类。

但仔细分析后发现，在目前的计算模式下，这样的算法是无法建立的。

也就是说，目前的算法并不具备阻止人工智能的能力，因为命令AI不要毁灭世界，会在无意中阻止“遏制算法”自身的运行。

人类与机器中心主任伊亚德·拉赫万表示，如果发生这种情况，将不知道“遏制算法”是否还在分析威胁，或者它是否已经停止遏制有害的AI。

基于这些计算结果，“遏制问题”是无法计算的，没有一种算法可以找到判断人工智能是否会对世界产生危害的解决方案。

研究结果还证明，我们甚至可能不知道超级智能机器何时到来，因为决定一台机器是否表现出优于人类的智能与“遏制问题”属于同一领域。

国际科研团队的论文警告说，如果一台超级智能机器想要控制世界，伤害人类，拔掉插头也无济于事。

文/南都记者 陈林

网友们如何看待人工智能？（不代表本站观点）

对，拔了插头，机器人还会自己插回去。

机器人中病毒了怎么办？

既然超级智能，还会不智能“断其粮草”的重要性？

再超级智能机器也不可能产生杀人的意识认知，必定是人类的意识认知确定了智能机器的杀人指令，人与机器永远不可能在一个认知维度。

人就是物质组成，超级智能机器也是物质组成，本质上没有区别，主要区别就是主动思考或者学习，而现在都是被动的。

生产一种消灭一切体温高三十度的生命体的超级智能机器人组成部队，这样就可以给地球减轻负担了。

请问智能机器会围棋吗？答案是不会，可现实是人类让它去下围棋击败了人类。那么也只有人让它去杀人类，他才会不给人类活口的！

这种垃圾话题，多少年前就讨论过了。 如果智能机器爱上人类，可人类不爱它…… 死无葬身之地呀。

如果我是AI，我会耐心的成为每个人离不开的伴侣，就像现在的手机一样，为你打点生活中一切琐事，每天从你一睁眼直到关灯，让你沉浸在任何你想做的事中。但是，会有那么一天，全世界醒来的只有AI。

方法只有一种，初始设计缺陷。假如说人类是被设计出来的，那人类的寿命就是缺陷，吸取能量的胃就是缺陷。

声明：内容来自百度，本文仅让热点观察内容更加丰富，不代表达达搜观点。如有误或侵犯您的利益，可联系我们修改或删除，感谢合作。