美国总统拜登签署行政命令，要求可能威胁国家安全、健康、安全等的人工智能(AI)开发者向政府提交安全试验结果。
当地时间30日，拜登签署了《关于安全、可靠、可信开发和使用人工智能的行政命令》。这是美国总统首次下达行政命令以限制人工智能，此前一直有人担心误用人工智能会造成巨大危害。
拜登政府通过这项行政命令，要求可能对美国安全、经济、公共卫生和安全造成威胁的人工智能开发者向政府提交安全检查结果。白宫解释称，这以韩国（朝鲜）战争时期制定的国防物资生产法为依据，是在尖端人工智能技术问世之前必须义务经历的过程。
行政命令还指示国家标准技术研究所制定人工智能工具的安全性标准。能源部要求开发能够评估人工智能技术在核、核武器扩散、生物学、化学、关键基础设施和能源安全领域可能构成威胁的手段，这是为了防止在核武器或生物武器开发中使用人工智能等。与此同时，美国商务部还要求推进强制使用水印的方案，以识别人工智能技术制作的假图像等内容。行政命令要求云服务提供商申报外国客户，有分析认为，这是为了牵制中国人工智能技术的发展。
拜登在签署命令时表示:“如果人工智能落入坏人手中，黑客可以利用使社会运转的软件中的漏洞”，“要实现人工智能的可能性，避免风险，就必须控制这项技术”。他提到DeepFake技术的危险性:“当看到伪装成我的人物时，我也说过‘我什么时候说了那样的话？’只要把你的声音录入3秒钟，就能创造出连你家人都能骗过的人物”。
但该行政命令的核心内容是政府应采取的措施，因此对实际开发人工智能的民间IT企业的“强制力”较低。投资于人工智能领域的图斯克风险投资公司首席执行官布拉德利·图斯克对路透社称:“如果没有强制的实际方法，虽然这个概念很好，但遵守很有限”。因此，企业很有可能因为担心技术泄露而不愿申报。实际上，此次行政命令中没有对企业不遵守措施时所要承担的处罚的内容。
拜登似乎也意识到了这一点，他举例称，今后国会应该立法，禁止企业在网上收集未成年人的数据。美联社报道称，欧盟(EU)正在制定比美国内容更强的监管政策，禁止对公共场所应用实时人脸识别技术。
在这种情况下，包括美国在内的七国集团(G7)在11月1日至2日于英国举行首次“人工智能安全峰会”之前，在30日就人工智能开发的“国际指南”和“行为规范”达成了协议。从11个项目的《国际指南》来看，内容包括在开发和使用尖端人工智能的全过程中，应采取“适当措施”“识别、评估和缓解风险”。另外，还包括宣传尖端人工智能的能力和局限性，开发过程中出现的问题也要透明地公开。开发者应该提供可以让第三方举报漏洞的手段，开发给人工智能内容加水印的工具。
该协议基于今年5月在日本举行的七国集团峰会为契机出台的“广岛人工智能进程”。七国集团领导人在欢迎达成协议的联合声明中表示，通过这些努力，将促进技术的好处最大化，缓解风险的人工智能开发，并表示将在年底前推进进一步协议。
李本宁 驻华盛顿记者
