谷歌正在开发“AI强制结束”，暗含未来“威胁人类”
谷歌正在研究从外部强制结束人工智能的“切断开关（Kill Switch）”。谷歌开发了ALphago，曾于3月份打败了围棋高手李世乭9段，是该领域最领先的公司。“强制结束”研究意味着未来人工智能有可能会成为一大危险，因此吸引了大众的关注。
开发了ALphago的谷歌子公司DeepMind的罗朗ᆞ奥素（音）与英国牛津大学人类未来研究所（FHI）的斯图尔特•阿姆斯特朗在最近的人工智能相关学会上宣读了题为《（人类）可安全介入的行为者（Safely Interruptible Agents）》的论文。行为者就是指人工智能。6月4日（当地时间）美国信息技术专刊《MotherBoard》介绍了该论文，表示“DeepMind的研究者正在开发人工智能的切断开关”。 切断开关是指在弄丢手机等时，远程控制使别人不能使用该机器的技术，是与自爆相似的概念。
如ALphago一般，能够自己学习找到最佳答案，具有“强化学习”功能的人工智能，连开发者都无法理解它的行为。棋艺比李世乭九段差得远的研究开发小组人员所开发的ALphago能够赢得李世乭九段正是因为这个。
但是，这种人工智能不会经常如人类希望的一样行动。微软聊天机器人“Tay”学习了种族歧视的表现，并且能够运用，这就是一个代表性的例子。比尔•盖茨也表示“需要特别小心地接触”，指出了超级人工智能的危险性。如果人类意识到有问题并想终止的话，这种人工智能可判断其对寻找最佳答案有碍，从而使终止按钮失效。这次论文的内容主要是通过数学性论证，可以设计出不能抵抗人类介入的强化学习人工智能。
但争论预计仍将继续。电动汽车特斯拉的首席执行官（CEO）埃隆•马斯克在6月2日（当地时间）的演说中表示，大企业的人工智能可能会成为支配人类的“暴君”。
权五圣 记者
