Anthropic人工智能安全草案：联邦优先适用、关停权与计划中的变更

据报道，Anthropic提出的联邦人工智能安全方案正面临安全倡议者和竞争对手的批评。所提供的材料介绍了联邦事务负责人Anthony Cimino计划推动的修订、Encode AI的Nathan Calvin提出的批评，以及OpenAI的Chris Lehane发表的治理声明。

Semafor于10月20日的报道证实了这场争议的整体背景：一份流传的草案被公之于众，Anthropic讨论了相关变更，批评者则质疑草案对州级权力和灾难性风险的处理方式。目前这仍是一场围绕提案的争论，而不是一项已经生效的新法律。

图片来自所提供的AREX/BAAI Hub页面；并非法案文件的图片。

消息来源称，Politico于10月16日披露了这份草案。草案被描述为Anthropic《高级人工智能框架》的立法版本，其中包括一套限制危险模型的联邦程序，以及对外部评估的要求。

据报道，以下几个细节尤其具有重要影响：

报道中提到的阈值针对的是一种拟议的干预机制。这并不意味着低于该阈值的较小危害是合法、可接受的，或可以免除其他一切法律义务。

联邦优先适用与风险阈值的计划修订

联邦优先适用涉及联邦法律何时排除州法的适用。在此问题上，争议集中于：如果联邦框架获得通过，哪些人工智能安全权力仍将由各州保留。

Anthropic的公开框架表示，只有在联邦立法足够有力的情况下，国会才应排除州安全规则的适用，并称这种排除应当保持狭窄范围。该框架表示，各州应继续对联邦框架具体安全职能之外的事项保留管辖权，包括儿童安全和消费者保护。

所提供的材料称，Cimino计划明确说明，各州在独立评估机构以及对实验室停止模型能力的监督方面仍将发挥重要作用。据报道，他还承认，一些议员希望通过立法解决监管权限重叠问题。

消息来源将拟议风险阈值归因于加利福尼亚州现有的一项标准，并称Cimino认为有必要重新评估该标准。在没有完整拟议文本和相关州法律条款逐字对照的情况下，不应据此证明两者的运作方式完全相同。

报告义务与评估机构独立性

据所提供的材料称，拟议更新还涉及危险的内部使用、遏制措施遭到破坏以及访问外部系统等问题。材料还描述了对事故报告义务、评估机构标准以及防止评估机构挑选的进一步工作。所谓评估机构挑选，是指开发者寻找最有利于自己的评审方。

这些担忧与公开框架提出的更广泛要求一致，即应开展合格且独立的评估。该框架提出的议程包括发布安全摘要、定期报告风险，以及为前沿开发者建立更强的安全计划。

该框架还设定了拟议适用范围：模型训练所使用的计算量超过10²⁵ FLOPs，且开发公司达到规定的人工智能收入或研究支出门槛。不能将这些框架标准无声地替代为另一份单独泄露的立法草案的适用范围。

具备保障措施的紧急权力主张

所提供的材料称，Cimino为一种由法院监督的机制进行辩护，认为该机制能够在快速干预与防止滥用之间取得平衡。核心政策矛盾在于：当局如何在灾难性危害发生之前采取行动，同时又对错误限制承担问责。

Anthropic的公开框架主张，政府应拥有阻止或遏制危险部署的权力，同时设置防止监管权力过度扩张的保障措施。该框架还讨论了透明度、模型安全，以及针对生物、网络和失控风险的更广泛韧性措施。

这份公开框架体现了公司的政策立场，但并不能证明泄露草案中的法律措辞已经有效落实了这一立场。

消息来源称，关于控制前沿开发速度的提案仍在探索之中，并未已经完整转化为立法文本。研究未来发展节奏政策的提案，与当前已经可执行的模型开发限制并不是一回事。

批评者质疑平衡性与规则制定过程

消息来源将两项核心反对意见归于Nathan Calvin：联邦优先适用条款范围过宽，以及联邦干预标准过于难以满足。材料还提到，人们担心州法院的权力、证明迫在眉睫危害的高要求，以及法院对政府分析的处理方式。

这些内容是批评者对草案的解读。由于本次报道未获得完整文件，不应将其表述为已经通过司法裁定的法律效力结论。

据Semafor报道，Lehane的独立立场支持全国性的安全标准，同时强调民主决策。他的声明认为，应由民选官员发挥主导作用，任何单一公司，包括OpenAI在内，都不应独自制定规则。

所提供的材料将该声明与支持两党共同提出的FRONTIER Act联系起来。但这一提及并不能证明Anthropic流传的草案就是同一项法案，也不能证明其中任何一项已经通过，或所有参与方都同意具体细节。

Semafor对各家公司华盛顿策略的比较属于编辑分析。它应与以下较为有限的事实区分开来：一份草案曾经流传、批评随之出现，以及相关变更曾被讨论。消息来源提到的其他政府与企业争议，并不能决定这些条款的法律优劣。

变更仍属于未来计划

所提供的消息来源称，已宣布的修订尚未以完整的公开替代文本形式出现。因此，既不能将拟议的联邦优先适用变更视为最终确定的措辞，也不能将修订后的阈值视为已经确定。

其中关于国会时间安排的描述，也不能证明没有任何联邦法律涉及人工智能。即使不存在一项全面的前沿模型安全法，现有法律仍可能适用于与人工智能相关的行为。

接下来最有价值的文件将包括修订后的草案、一份明确标注为已提出的法案、其中的定义及其立法状态。只有这些材料才能支持对州级权力、紧急干预标准、评估机构义务以及任何开发速度控制提案进行直接比较。

常见问题

Anthropic据报道提出的人工智能安全草案已经成为法律了吗？

所提供的报道描述的是一份流传中的提案，并未证明该提案已经通过，也未证明它已经依据自身内容产生当前有效的义务。

这里所说的州法联邦优先适用是什么意思？

它指的是联邦规则排除部分州级权限的适用。争议在于这种排除的范围会有多大，以及各州将保留哪些安全权力。

报道中的阈值是否意味着低于该水平的危害可以被允许？

报道并不支持这一结论。针对某项拟议干预权力设定的阈值，与其他法律和义务的适用范围并不是一回事。

计划中的变更已经写入最终法案了吗？

本次报道并未获得完整的修订立法文本。关于计划变更的声明应与已经通过或最终确定的法律措辞分开理解。

为什么独立评估会引发争议？

评审方需要获得足够的访问权限和专业能力来评估风险，同时还要与支付其工作费用的开发者保持独立。消息来源讨论了这样一种担忧：开发者可能会寻找有利于自己的评估机构，而不是接受严格审查。

OpenAI是否表示企业不应参与政策制定？

这里所报道的声明主张，应由民选官员和民主程序发挥主导作用。它反对的是任何一家企业单独制定规则，而不是禁止行业参与提供意见。

相关工具

• Congress.gov：用于查询已提出的联邦法案、法案文本和立法状态的官方服务。
• Federal Register：用于查询联邦机构规则制定和公告的官方出版平台。

相关链接

• BAAI Hub上的AREX原文：促成本次报道的汇总文章，其中包括其来源限制。
• Anthropic公开政策框架：该公司关于前沿治理和州法联邦优先适用的公开立场。
• Semafor 10月20日的报道：关于泄露草案及其引发分歧的报道。
• Anthony Cimino在消息来源中列出的回应：AREX引用的社交媒体声明；核查期间无法直接获取。
• Nathan Calvin在消息来源中列出的批评：所提供材料中提到的批评内容。
• Chris Lehane关于治理的声明：AREX和Semafor均链接的LinkedIn声明。

总结

这场争议的核心在于联邦干预程序与现有州级权力之间的关系，以及评审方和监管机构能否有效采取行动。Anthropic已经讨论了相关变更，批评者则质疑草案的平衡性，而OpenAI强调应由民选官员发挥主导作用。

一份流传中的提案以及修改它的承诺，并不等同于一项新法律；要评估其影响，实际的修订文本和立法状态仍然至关重要。