Anthropicが提案したと報じられている連邦AI安全性案は、安全性擁護者と競合企業の双方から批判を受けている。提供された報道内容では、連邦政策担当責任者Anthony Ciminoによる変更予定、Encode AIのNathan Calvinによる批判、OpenAIのChris Lehaneによるガバナンスに関する声明が説明されている。
Semaforによる10月20日の報道は、より広範な対立を確認している。回覧された草案が公になり、Anthropicが変更を協議し、批判者が州の権限と壊滅的リスクの扱いに疑問を呈したという内容だ。これは新たな法律が施行されるという話ではなく、提案をめぐる議論である。
提供されたAREX/BAAI Hubページのイラスト。立法文書を写した画像ではない。
情報源によると、Politicoは10月16日にこの草案を報じた。そこでは、AnthropicのAdvanced AI Frameworkを立法化した案として、危険なモデルを制限する連邦プロセスと、外部評価を求める要件が説明されている。
報道された詳細のうち、特に重要なのは次の点である。
| 論点 | 提供された報道での説明 | 証拠の限界 |
|---|---|---|
| リスクの閾値 | 50人を超える死亡または重傷、あるいは10億ドルを超える損害につながる差し迫ったリスク。 | 条項全体と定義は草案本文と照合されていない。 |
| 制限手続き | ワシントンD.C.の連邦判事の承認を必要とする政府の申し立て。 | 手続きの説明は、検証済みの最終法案ではなく報道に基づく。 |
| 評価者の監督 | 商務省への登録、開発者から報酬を受けても独立性を保つこと、指定された差し迫ったリスクを評価で確認した後72時間以内に通知すること。 | すべての評価に対する一律の72時間義務とは説明されていない。 |
| 州法の扱い | 連邦ルールが州の権限の一部に優先する。 | 正確な範囲は争点となっており、変更案が提示されている。 |
報道された閾値は、提案されている介入メカニズムに関するものである。それ未満の損害が合法または許容され、他のあらゆる法的義務の対象外になることを意味するものではない。
州法先占とリスク閾値に関する予定変更
州法の先占とは、連邦法が州法に優先し、州法の適用を置き換える場面を指す。今回の対立点は、連邦の枠組みが導入された後、どのAI安全性に関する権限を州に残すのかという点にある。
Anthropicの公開フレームワークは、議会が州の安全性ルールに優先する場合、十分に強力な連邦法を通じてのみ行うべきだと述べ、想定される先占の範囲を限定的なものとしている。また、児童の安全や消費者保護を含め、連邦の枠組みが具体的に定める安全性機能の範囲外にある事項については、州が権限を保持すべきだとしている。
提供された報道内容によると、Ciminoは、独立評価者やモデルを停止する研究所の能力に対する監督に関して、州が重要な役割を保持することを明確にする意向を示している。報じられた説明では、規制権限の重複を解消する法案を求める議員がいることも認めている。
情報源は、提案されたリスク閾値を既存のカリフォルニア州の基準に由来するものとしている。また、Ciminoはその基準を再検討する価値があると考えているという。提案文全体と、該当する州法の条項を正確に並べて確認できない限り、両者が同じように機能すると証明されたと受け取るべきではない。
報告義務と評価者の独立性
提供された報道内容によると、提案された更新では、危険な内部利用、封じ込めの突破、外部システムへのアクセスも扱われる。さらに、インシデント報告義務、評価者の基準、開発者が最も都合のよい審査者を探す「評価者選び」を防ぐ仕組みについても、追加の検討が進められているという。
こうした懸念は、適格な独立評価を求める公開フレームワークのより広範な要件と一致する。同フレームワークが掲げる方針には、安全性の概要を公開すること、定期的なリスク報告、最先端モデルの開発者向けにより強固なセキュリティプログラムを整備することが含まれている。
このフレームワークは、想定する適用範囲も示している。具体的には、10²⁵ FLOPsを超える計算量で訓練されたモデルであり、AI関連の収益または研究支出が指定された閾値を超える企業が開発するものだ。これらのフレームワーク上の基準を、別個に流出した立法草案の適用範囲と同一視してはならない。
セーフガードを備えた緊急権限の根拠
提供された報道内容では、Ciminoが、裁判所の監督下にある仕組みは、迅速な介入と権限濫用の防止とのバランスを取るものだと説明している。重要な政策上の緊張関係は、壊滅的な被害が起こる前に当局が行動できるようにしながら、誤った制限を課した場合には説明責任を果たせるようにすることだ。
Anthropicの公開フレームワークは、危険な展開を阻止または抑止する政府の権限を、過度な規制権限を防ぐセーフガードとともに求めている。また、生物学的リスク、サイバーリスク、制御不能リスクに対する透明性、モデルセキュリティ、より広範なレジリエンス対策についても論じている。
この公開フレームワークは、同社の政策上の立場を示すものである。それによって、流出した草案の法的文言がその立場を効果的に実装しているかどうかが決まるわけではない。
情報源によると、フロンティア開発のペースを管理する提案はまだ検討中であり、立法文言に完全に落とし込まれたわけではない。将来のペース配分政策を研究する提案は、モデル開発に対する現在の強制力ある制限とは異なる。
批判者がバランスと立法プロセスに疑問を呈する理由
情報源は、Nathan Calvinによる主な反論として、先占に関する文言が広すぎることと、連邦政府による介入の基準を満たすのが難しすぎることを挙げている。州裁判所の権限、差し迫った危害について要求される厳しい立証、政府の分析に対する裁判所の扱いについても懸念が示されている。
数分で紹介サイトを作り、リード獲得を伸ばす
アイデアを一文で入力するだけで、We0 AI が紹介サイト、ページ、CMS を生成し、公開後の顧客獲得と流入拡大を支援します。
無料登録で完全なプロジェクトを 1 つ生成
1 つの完全な生成フローを試し、最初のプロジェクトのドラフトをすぐに確認するのに最適です。
これらは草案に対する批判者の解釈である。今回の報道時点では文書全体が公開されていなかったため、法的効果について確定した結論として扱うべきではない。
Semaforが報じたLehaneの別の立場は、民主的な意思決定を重視しながら、全国的な安全基準を支持するものだ。彼の声明は、選挙で選ばれた公職者が主導すべきであり、OpenAIを含む単一の企業が単独でルールを書くべきではないと主張している。
提供された報道内容は、この声明を超党派のFRONTIER Actへの支持と結び付けている。しかし、それによってAnthropicが回覧した草案が同じ法案であること、いずれかが成立したこと、または関係者全員が詳細に合意していることが証明されるわけではない。
Semaforによる各社のワシントン戦略の比較は、編集上の分析である。草案が回覧され、批判が起こり、変更が協議されたという限定的な事実とは区別して扱うべきだ。情報源が言及するその他の政府と企業の対立は、これらの条項の法的妥当性を決めるものではない。
変更は将来のものとして残っている
提供された情報源によると、発表された変更はまだ完全な公開版の置き換え文書として公表されていない。したがって、意図された州法先占の変更も、改訂された閾値も、確定した文言として扱うことはできない。
議会のスケジュールに関する説明から、AIに関係する連邦法が存在しないと結論付けることもできない。包括的なフロンティアモデル安全性法がない場合でも、既存の法律がAI関連の行為に適用される可能性はある。
次に有用な文書は、改訂草案、正式に提出されたことが明確な法案、その定義、そして立法上のステータスである。それらがあれば、州の権限、緊急介入の基準、評価者の義務、開発ペースに関する提案を直接比較できる。
よくある質問
Anthropicが報じられたAI安全性草案は、すでに法律になっていますか？
提供された報道は、回覧された提案について説明している。それによって成立や、同提案が生み出す現在の義務が確認されたわけではない。
ここでいう州法の先占とは何ですか？
連邦ルールが州の権限の一部に優先し、それを置き換えることに関係する。争点は、その置き換えの範囲がどれほど広いのか、そして州がどの安全性権限を保持するのかという点だ。
報じられた閾値は、それ未満の被害を認めるものですか？
報道からそのような結論は導けない。ある提案された介入権限に対する閾値は、他の法律や義務が及ぶ範囲とは異なる。
予定されている変更は、すでに最終法案に書き込まれていますか？
今回の報道のために、完全な改訂立法文書は入手されていない。意図された変更についての発言は、成立済みまたは最終化された文言とは区別して扱うべきだ。
独立評価が議論を呼ぶのはなぜですか？
審査者はリスクを評価するために十分なアクセス権と専門知識を必要とする一方、業務の対価を支払う開発者から独立していなければならない。情報源は、開発者が厳格な審査よりも、自社に都合のよい評価者を探す可能性への懸念を論じている。
OpenAIは、企業が政策に関与すべきではないと述べたのですか？
ここで報じられた声明は、選挙で選ばれた公職者と民主的なプロセスが主導すべきだとしている。その主張は、業界からの意見を全面的に禁止するものではなく、単一の企業が単独でルールを書くことへの反対である。
関連ツール
- Congress.gov：提出された連邦法案、その本文、立法上のステータスを確認するための公式サービス。
- Federal Register：連邦機関による規則制定や通知を確認するための公式刊行物。
関連リンク
- BAAI Hubに掲載されたAREXの記事：この解説のきっかけとなったまとめ記事。情報源の限界も含まれている。
- Anthropicの公開ポリシーフレームワーク：フロンティアガバナンスと州法先占に関する同社の公開された立場。
- Semaforによる10月20日の報道：流出した草案と、それをめぐる対立に関する報道。
- Anthony Ciminoの情報源記載の回答：AREXが引用したソーシャル上の声明。検証時には直接取得がブロックされていた。
- Nathan Calvinの情報源記載の批判：提供された報道内容で参照された批判。
- Chris Lehaneのガバナンスに関する声明：AREXとSemaforの双方がリンクしたLinkedIn上の声明。
まとめ
この対立の中心は、連邦の介入プロセスと既存の州権限の関係、そして評価者や規制当局が実効的に行動できるかどうかにある。Anthropicは変更を協議している一方、批判者は草案のバランスに疑問を呈し、OpenAIは選挙で選ばれた公職者による主導を重視している。
回覧された提案と、それを修正するという約束は、新しい法律ではない。影響を評価するには、実際の改訂文書と立法上のステータスが依然として不可欠である。
