Anthropic AI 安全草案：先發制人、關停權力與計畫中的變更

據報導，Anthropic 提出的聯邦 AI 安全方案正面臨安全倡議者與競爭對手的批評。所提供的報導描述了聯邦事務主管 Anthony Cimino 計畫進行的修訂、Encode AI 的 Nathan Calvin 提出的批評，以及 OpenAI 的 Chris Lehane 發表的治理立場。

Semafor 10 月 20 日的報導證實了更廣泛的爭議：一份流傳中的草案被公開，Anthropic 討論了修改方向，而批評者則質疑其對州政府權力與災難性風險的處理方式。這仍是一場圍繞方案的爭論，而不是一項已開始生效的新法律。

圖片來自所提供的 AREX/BAAI Hub 頁面；並非立法文件的圖片。

消息來源稱，Politico 於 10 月 16 日披露了這份草案。報導將其描述為 Anthropic《Advanced AI Framework》的立法版本，其中包括一套限制危險模型的聯邦程序，以及對外部評估的要求。

幾項據報導的細節尤其具有重大影響：

上述報導中的門檻涉及一項擬議中的介入機制。這並不表示低於該門檻的較小傷害均屬合法、可接受，或可豁免於所有其他法律義務。

對先發制人與風險門檻的計畫修訂

先發制人涉及聯邦法律何時取代州法律。在此，爭議在於聯邦框架通過後，哪些 AI 安全權力仍由各州保留。

Anthropic 的公開框架表示，只有透過足夠有力的聯邦立法，國會才應取代州級安全規則，並將預期的取代範圍描述為有限。該框架表示，各州應保留對聯邦框架特定安全職能之外事項的管轄權，包括兒童安全與消費者保護。

所提供的報導稱，Cimino 計畫澄清，各州在獨立評估者，以及監督實驗室停止模型運作的能力方面，仍保有重要角色。他據報導的說法也承認，一些立法者希望透過立法解決監管權限重疊問題。

消息來源將擬議的風險門檻歸因於一項現有的加州標準，並稱 Cimino 認為有必要重新評估該標準。在沒有將完整擬議文本與確切州法律條文並列比較的情況下，不應將這一說法視為兩者運作方式完全相同的證明。

報告義務與評估者獨立性

根據所提供的報導，擬議更新也涉及危險的內部使用、遏制措施遭到破壞，以及對外部系統的存取。報導描述了對事故報告義務、評估者標準，以及防止「評估者購物」的進一步工作；所謂「評估者購物」，是指開發者尋找最有利於自己的審查者。

這些關切與公開框架對合格獨立評估的更廣泛要求相一致。該框架提出的議程包括發布安全摘要、定期進行風險報告，以及為前沿模型開發者建立更強的安全計畫。

該框架也設定了擬議範圍：使用超過 10²⁵ FLOPs 進行訓練的模型，以及由 AI 營收或研究支出超過特定門檻的公司開發的模型。不應將這些框架標準默默套用到另一份外洩立法草案的適用範圍上。

具備防護措施的緊急權力主張

所提供的報導描述了 Cimino 對法院監督機制的辯護，認為該機制在快速介入與防止濫用之間取得平衡。重要的政策張力在於：主管機關如何在災難性傷害發生前採取行動，同時仍須對錯誤限制負責。

Anthropic 的公開框架主張，政府應有權阻止或遏制危險部署，同時建立防止監管權力過度擴張的保障措施。該框架也討論了透明度、模型安全，以及針對生物、網路與失去控制風險的更廣泛韌性措施。

這份公開框架確立了公司的政策立場，但並不能解決外洩草案中的法律語言是否有效落實該立場。

消息來源稱，關於控制前沿發展速度的方案仍在探索中，而非已完全轉化為立法文本。研究未來發展速度政策的提案，與目前已可執行的模型開發限制並不相同。

批評者質疑平衡與規則制定程序

消息來源將兩項核心反對意見歸因於 Nathan Calvin：先發制人的語言過於寬泛，以及聯邦介入標準過於難以滿足。報導轉述了對州法院權力、證明迫切傷害的高要求，以及法院如何處理政府分析的疑慮。

這些是批評者對草案的解讀。由於本次報導未取得完整文件，因此不應將其表述為已經裁定的法律效力結論。

據 Semafor 報導，Lehane 的獨立立場支持全國性的安全標準，同時強調民主決策。他的聲明主張，應由民選官員主導，且不應由任何單一公司，包括 OpenAI，獨自制定規則。

所提供的報導將這一聲明與支持兩黨共同提出的 FRONTIER Act 聯繫起來。但這一提及並不能證明 Anthropic 流傳的草案就是同一項法案，也不能證明其中任何一項已經通過，或所有參與者都同意相關細節。

Semafor 對各家公司華盛頓策略的比較屬於編輯分析。它應與較為有限的事實區分開來：一份草案曾流傳、批評隨之出現，而修改方案也曾被討論。消息來源提及的其他政府與公司爭議，並不能決定這些條款的法律優劣。

變更仍屬未來規劃

所提供的消息來源稱，已宣布的修訂尚未以完整的公開替代文本形式出現。因此，無論是預期中的先發制人變更，還是修訂後的門檻，都不能被視為已確定的文字。

其中對國會時程的描述，也不能證明目前沒有任何聯邦法律涉及 AI。即使不存在一項全面性的前沿模型安全法規，現有法律仍可能適用於與 AI 相關的行為。

下一步最有用的文件將包括修訂後的草案、一份明確標示的正式提出法案、其中的定義與立法狀態。這些資料將有助於直接比較州政府權力、緊急介入標準、評估者義務，以及任何控制發展速度的提案。

常見問題

Anthropic 據報導的 AI 安全草案已經成為法律了嗎？

所提供的報導描述的是一份流傳中的方案，並未證明該方案已經制定成法，也未證明它目前已創設任何義務。

這裡所說的州法律先發制人是什麼意思？

它涉及聯邦規則取代部分州政府權限。爭議在於這種取代的範圍有多大，以及各州將保留哪些安全權力。

據報導的門檻是否代表低於該門檻的傷害可以被允許？

報導並不能得出這一結論。針對某項擬議介入權力設定的門檻，與其他法律及義務的適用範圍不同。

計畫中的變更是否已寫入最終法案？

本次報導未取得完整的修訂後立法文本。關於預期變更的聲明，應與已制定或已定稿的文字分開看待。

為什麼獨立評估具有爭議？

審查者需要有足夠的存取權限與專業能力來評估風險，同時又必須獨立於支付其工作費用的開發者。消息來源提到，外界擔心開發者可能尋找有利的評估者，而不是接受嚴格審查。

OpenAI 是否表示公司不應在政策中扮演任何角色？

此處所報導的聲明主張，應由民選官員與民主程序發揮主導作用。其反對的是由任何單一公司獨自制定規則，而不是禁止業界提供意見。

相關工具

• Congress.gov：用於查詢正式提出的聯邦法案、法案文本與立法狀態的官方服務。
• Federal Register：用於查詢聯邦機構規則制定與公告的官方出版平台。

相關連結

• BAAI Hub 上所提供的 AREX 文章：促成本次報導的資訊彙整內容，包括其來源限制。
• Anthropic 的公開政策框架：該公司針對前沿治理與州法律先發制人的公開立場。
• Semafor 10 月 20 日的報導：關於外洩草案及其引發爭議的報導。
• Anthony Cimino 在來源中列出的回應：AREX 引用的社群貼文；核查期間無法直接取得。
• Nathan Calvin 在來源中列出的批評：所提供報導中提到的批評。
• Chris Lehane 的治理聲明：AREX 與 Semafor 均連結的 LinkedIn 聲明。

摘要

這場爭議的核心在於聯邦介入程序與現有州政府權力之間的關係，以及評估者與監管機構能否有效採取行動。Anthropic 已討論變更方案，批評者則質疑草案的平衡性，而 OpenAI 強調應由民選領導者主導。

一份流傳中的方案，以及修改它的承諾，都不等於一項新法律；要評估其影響，實際修訂文本與立法狀態仍是關鍵。