[转贴]剑桥大学成立顶级实验室：防止机器人控制世界

duan

在今年大热的电影《机械姬》中，机器人艾娃被要求在图灵测试中想办法获取人类的信任，让对方帮助自己逃出去。最终，艾娃成功地逃脱了，并杀死了想要阻止自己同时也是自己的制造者。这部电影在传达一种声音，如果机器人没有学会爱，没有学会人类的情感，它只会是一个可以不断学习不断模仿地冷血机器。而这样的机器，无疑是对人类的生命存在威胁的。

虽然机器人离我们的生活还是有些距离，不过已经有很多担忧的声音开始出现，担忧机器人脱离人类控制反而控制人类，正如今年大热的电影《机械姬》中的结局。有这样的担忧的人包括霍金、马斯克等科学大家，他们坚信机器人最终会毁灭人类。为了防止这样的结局，科学家们开始行动了。
剑桥大学最近花1000万英镑成立了一个新的研究中心，研究人工智能在发展的过程中带给人类的机遇与挑战，从而防止机器人在21世纪会控制世界。虽然人工智能目前还只处在人类3、4岁的智力水平，但有研究认为，在2099年之前，人工智能将能达到人类智力的水平，甚至是超越。重要的是，人工智能是不断地学习提高的。
他们会聚齐一些科学家、哲学家、社会科学家，从技术上、实用性上以及道德观念上出发，一起来为人工智能做风险评估。
剑桥大学的哲学系教授同时也是该研究中心的执行领导人Huw Price说，人工智能将成为本世纪的主题之一，它是一把双刃剑，我们在使用它来做事的同时，也会面临一些风险。就目前来说，我们还无法分辨结果是好的，还是坏的。
人工智能最早在1956年被提出，如今半个多世纪过去，可以说人工智能的发展其实是很缓慢的，目前的人工智能实际上在语言交互上便存在很大问题，更别提自主思维了。不过随着消费机器人的普及，人工智能的发展必然也将进入高速期。由科幻作家艾萨克·阿西莫夫提出的“机器人学三定律”中，第一二条是机器人不得伤害人类而且必须服从人类命令，最后加上去的第三条是指机器人在受到伤害时要保护自己。而谁也不知道机器人到底什么时候会开始违背人类的命令，所以对于人工智能的恐慌也并非毫无道理。既然无法知道，那就时刻关注着。
其实，多次在公开场合表达机器人危险论的马斯克，同样也投资了人工智能公司Vicarious，理由是，为了“监测”人工智能的发展。