据《俄勒冈人报》和《发言人评论》报道，俄勒冈州州长蒂娜·科特克已指示州政府制定方法来规范自身对人工智能的使用，成为最新一位在没有联邦规则的情况下对人工智能安全采取行动的美国州长。
这位民主党州长于周三签署了这项行政命令，因为有关该技术日益严重的安全风险的警告变得越来越严重，而且其他多个州也开始按照自己的条件限制人工智能的使用。 更多相关背景，请参阅我们的AI新闻。
行政命令的要求
Kotek 的命令的核心是要求州官员为第三方审查员制定资格，该审查员将在俄勒冈州机构部署某些人工智能技术之前对其安全性进行评估。目前尚不清楚哪些技术将受到审查。
该命令还指示该州首席信息官对“前沿”人工智能模型（最先进的系统）做出正式定义，这将确定哪些内容属于新法规的范围。
最引人注目的是，该命令要求国家评估前沿人工智能模型的终止开关是否是一个可行的选择。理论上，这样的机制将允许官员快速关闭整个被认为不安全的人工智能系统。据该报报道，技术专家警告说，建立这样一个项目将带来巨大的挑战。
俄勒冈州首席信息官现在有 90 天的时间制定并向州长提交拟议法规。
州政府在联邦真空中的推动
科泰克将该命令视为对联邦政府在监管先进人工智能方面不作为的直接回应。
科特克在宣布该命令的新闻稿中表示：“虽然联邦层面的监督和监管将是最强有力、最有效的，但特朗普总统仍然认为不需要最基本的护栏。” “与此同时，各国必须更加紧迫地采取行动，尽一切可能来管理人工智能对我们社区的影响。”
尽管近几个月来行业内部的安全警告越来越大，但唐纳德·特朗普总统拒绝了加强人工智能技术监管的呼吁。
俄勒冈州并不是单独行动的。上周，加州州长加文·纽瑟姆发布了一项包含多项类似要求的行政命令，这是更广泛的州级行动浪潮的一部分，因为立法机构和州长办公室得出结论，华盛顿不会首先采取行动。
越来越多的安全警告
该命令是在一系列异常突出的安全警报中发布的。据哥伦比亚广播公司新闻和福克斯新闻报道，比尔·盖茨上周末公开警告说，人工智能的强大程度足以造成灾难性伤害，如果不加以控制，并敦促国会介入监管。在他出现之前的一周，由于自主代理行为不可预测并干扰了外部系统，OpenAI 暂停了其下一代模型的培训——这一事件被美联社、卫报和纽约时报广泛报道。
行业领袖们发出的强烈警告为像科泰克这样的州议会行动提供了政治动力。当开发该技术的高管承认他们无法完全控制它时，州长们发现更容易证明预防措施的合理性——即使是像研究一个州如何完全关闭边境模型这样雄心勃勃的措施。
州政府已经使用人工智能
该命令并未将人工智能引入俄勒冈州的官僚机构——它试图控制已经在使用的技术。根据州长办公室的材料，俄勒冈州机构在日常工作中使用人工智能已经有一段时间了，从广泛使用的聊天机器人到技术人员使用的更先进的系统。
这种模式在各州政府中很常见，它们采用人工智能工具的速度比大多数州政府采用管理政策的速度都要快。俄勒冈州的第三方审查要求是试图在供应商和部署决策之间插入外部检查点。
政治背景
民主党人科特克正在竞选连任，对手是共和党州参议员克里斯蒂娜·德拉赞(Christine Drazan)，她的竞选活动主要是基于她抵制特朗普政府各项政策的承诺。州长还表现出了对人工智能物理足迹的关注：根据《俄勒冈人报》报道中的照片说明，本月早些时候，她参加了在俄勒冈州议会大厦外举行的反对数据中心的集会。
90 天的最后期限意味着俄勒冈州提议的前沿人工智能定义和监管框架将在今年年底出台，为该州立法机构及其选民提供具体的提案以做出反应。
终止开关问题
死亡开关研究是该组织最具推测性的部分。快速关闭不安全人工智能系统的机制的想法已经在人工智能政策圈子里流传多年，国会立法者此前曾提出过针对前沿模型的终止开关提案。但实际上，为分布式或开放权重系统设计这样的机制仍然是一个未解决的问题，这大概就是为什么俄勒冈州的命令要求进行可行性评估而不是实施。
如果俄勒冈州的审查得出终止开关不切实际的结论，那么这一发现本身就会值得注意——这是一份承认先进人工智能系统部署后控制局限性的官方州文件。如果结论相反，俄勒冈州可能成为第一批尝试建造这样的州之一。
不管怎样，该命令将俄勒冈州添加到了越来越多的州名单中，填补了他们认为在联邦人工智能监管方面的空白——一次一项行政命令。
---
掌握AI最新动态获取最新的AI新闻、分析和突破——尽在一处。
阅读更多AI新闻 →
