18-09-10 10:01开发/机器人/大脑
来源:dailystar.co.uk 编辑:大明 【新智元导读】机器人专家提出一个令人不寒而栗的警告:未来的机器人大脑可能出现像人类一样的激进的进化,这可能会造成一场对人类的大规模屠杀!从各国政府、思想领袖、决策者及普通民众都应该意识到这个风险。基于AI的完全自主武器已经跨过了道德边界,每个人都应提高警惕。 美国和英国机器人制造商已被告知,未来的机器人大脑能够实现大规模的谋杀。 一项名为“停止制造杀人机器人”运动报告称,用于战争的自动机器人准备大规模生产之后发出警告。 不过,计算机工程师Subhash Kak说,在未来,这种先进的机器可能像人类的大脑一样激进。 他表示:“鉴于目前的技术水平,目前还不存在机器人大脑实现激进进化的危险。 “另一方面,如果机器人大脑出现故障,可能会产生与人类类似的激进行为。 目前,极端主义宗教团体的领导人对越来越多的年轻人进行煽动,近年来在英国引发了许多恐怖事件,这个方式有点像自我进化的机器人大脑。他补充说,他相信制造商会尽全力降低这种风险。 不过,如果机器人大脑确实发生了这种激进的进化,制造商将会竭力脱开干系,为自己免责。 制造商充分认识到这种风险,会尽量降低这种可能的风险,同时也在向立法机构施压,要求免责。 上周,人权观察组织的高级武器研究员Bonnie Docherty表示,完全自主武器将违反国际人道法。她发出号召,要求各国反对军队使用这类武器。 她表示:“允许开发和使用杀手机器人会破坏既定的道德和法律标准。世界各国应共同努力,在这些武器系统在世界各地扩散之前实施先行禁止。 “来自科学家、思想领袖、科技公司、非政府组织和普通公民的反对意见表明,公众认为杀手机器人跨越了道德的门槛。许多政府都对此表示担忧,他们应立即做出回应。” 马斯克、哈萨比斯等2000多学者签署宣言:决不允许杀人机器人出现! 不过,与联合国的政治家们对此事的暧昧态度相比,AI领域的科学家和企业家们的态度则鲜明得多:决不允许“杀人机器人”出现! 今年7月,来自数百家公司的2000多名科学家,其中许多是机器人和人工智能领域的著名的研究人员和工程师,联名签署宣言,誓言绝不将他们的技能用于开发自主杀人机器。新智元对此曾做了详尽报道:点击阅读 这场宣誓行动由总部位于波士顿的非盈利组织未来生命研究所(Future of Life Institute)发起,来自36个国家的多达160个人工智能相关的公司、覆盖90个国家的2400名个人签署了宣言,他们承诺: 在世界上的任何一个国家,自主武器都对公民构成了“明显而现实的危险”,他们“绝不参与自主武器的开发”。
签署之一承诺的著名人士还包括顶尖的人工智能研究人员Demis Hassabis、Stuart Russell、Yoshua Bengio、Anca Dragan、Toby Walsh以及特斯拉和SpaceX的创始人伊隆·马斯克。 泰格马克教授 这场宣誓行动由泰格马克创办的未来生命研究所发起。今年9月20日,新智元AI WORLD 2018大会有幸邀请到泰格马克教授作为演讲嘉宾,他将带来对AI和生命的最新观点,相信也定将给中国产业界带来极大启发,让更多中国人思考自己的命运,思考这个世界未来的命运。 国内学者也曾参与禁止研发自主武器,周志华展望中国AI原生创新和重大理论突破方向 AI界对全自主武器的担忧一直存在。今年4月,Hinton、Bengio、Jürgen Schmidhuber、Stuart Russell等50多名学者联名向韩国KAIST发出公开信:停止研发全自主武器! 其中,南京大学的周志华教授作为发起人邀请的唯一来自中国大陆的学者,也签署了这封公开信。 周志华教授 作为全部学位均在中国内地获得的学者,AI领域会士“大满贯”得主,AAAI 2019程序主席、IJCAI 2021程序主席,周志华教授可以说是华人AI界最受关注的研究者之一。 在他的带领下,南京大学LAMDA发表了众多优秀论文和技术成果,周志华教授本人提出的“深度森林”也成为AI学界关注的热点。在深度学习狂热的鼎盛时期,周志华教授清醒地意识到深度学习的局限,开始探索深度神经网络以外的方法,充分展现了中国AI学界对原创理论的探索和追求。 2018年伊始,周志华教授出任南京大学计算机科学与技术系主任,3月,南大宣布成立人工智能学院,由周志华教授担任院长,致力于建设一流的AI基础研究和人才培养基地,形成基础研究、人才培养、产业创新协同发展的态势。 产学研深度有机融合是AI产业发展的必然趋势,在中国AI产业发展的关键时间点,在深度学习理论突破和创新需求愈发迫切的2018年,周志华教授如何看待AI理论和技术发展的痛点与关键?如何推动AI的产学研综合发展? AI WORLD 2018,周志华教授将分享他对深度学习的一些思考,以及关于当前机器学习面临的一些重大挑战。 30万读者评选新智元AI Era创新大奖,投下你神圣一票! 2018年,是中国科学技术继续大步向前发展的一年,以人工智能为代表的新兴技术呈现蓬勃发展之势,中国人工智能产业将迎来一个崭新的时代。2017年9月,AI WORLD 2017世界人工智能大会 “AI 奥斯卡”Top 10 评选活动启动,引发了业界强烈反响, 最终获奖者由300多位新智元智库专家和数万读者共同投票选出。 今年,新智元特别设置的AI Era创新大奖,致敬过去一年为我们的工作和生活带来变革的AI创新。 新智元AI Era创新大奖继续把投票权交给微信公众平台的30万读者,评选2018年的AI创新企业、人物、项目三项大奖。 票数统计中,专家票权重为45%,读者票权重为35%,权威指数权重(CBInsights+H指数)占比20%。经过候选人/企业/项目提名、专家票选、读者票选、统计、专家评议,评出AI Era创新大奖获奖名单。 此前,新智元AI Era创新大奖企业项目,已经获得超过25000张投票,在此非常感谢各位读者的踊跃参与。 新智元AI WORLD 2018大会倒计时 10 天
|