登录 : 2016.06.06 11:20 修改 : 2016.06.06 11:21

谷歌正在开发“AI强制结束”,暗含未来“威胁人类”

谷歌正在研究从外部强制结束人工智能的“切断开关(Kill Switch)”。谷歌开发了ALphago,曾于3月份打败了围棋高手李世乭9段,是该领域最领先的公司。“强制结束”研究意味着未来人工智能有可能会成为一大危险,因此吸引了大众的关注。

开发了ALphago的谷歌子公司DeepMind的罗朗ᆞ奥素(音)与英国牛津大学人类未来研究所(FHI)的斯图尔特•阿姆斯特朗在最近的人工智能相关学会上宣读了题为《(人类)可安全介入的行为者(Safely Interruptible Agents)》的论文。行为者就是指人工智能。6月4日(当地时间)美国信息技术专刊《MotherBoard》介绍了该论文,表示“DeepMind的研究者正在开发人工智能的切断开关”。 切断开关是指在弄丢手机等时,远程控制使别人不能使用该机器的技术,是与自爆相似的概念。

如ALphago一般,能够自己学习找到最佳答案,具有“强化学习”功能的人工智能,连开发者都无法理解它的行为。棋艺比李世乭九段差得远的研究开发小组人员所开发的ALphago能够赢得李世乭九段正是因为这个。

但是,这种人工智能不会经常如人类希望的一样行动。微软聊天机器人“Tay”学习了种族歧视的表现,并且能够运用,这就是一个代表性的例子。比尔•盖茨也表示“需要特别小心地接触”,指出了超级人工智能的危险性。如果人类意识到有问题并想终止的话,这种人工智能可判断其对寻找最佳答案有碍,从而使终止按钮失效。这次论文的内容主要是通过数学性论证,可以设计出不能抵抗人类介入的强化学习人工智能。

但争论预计仍将继续。电动汽车特斯拉的首席执行官(CEO)埃隆•马斯克在6月2日(当地时间)的演说中表示,大企业的人工智能可能会成为支配人类的“暴君”。

权五圣 记者

韩語原文: http://www.hani.co.kr/arti/science/science_general/746899.html

相关新闻

评论专栏

图片视频

热门新闻排行榜