Google DeepMindの共同創業者兼CEOであるデミス・ハサビス氏は、世界最先端のAIモデルをテストし規制する独立機関の設立を提案した。この構想上の組織は、先端AI研究所と米国政府の中間に位置する。技術評価基準の策定、モデル公開前のテスト、能力向上に伴うベンチマークの更新...
Google DeepMindの共同創業者兼CEOであるデミス・ハサビス氏が、世界最先端のAIモデルをテスト・規制するための新たな独立機関の設立を提案した。
構想中のこの組織は、最先端AIラボと米国政府の中間に位置する。その責務には、技術評価基準の策定、先進モデルの公開前テスト、能力向上に伴うベンチマークの更新、より厳格な安全慣行の促進、そしてモデル展開後に深刻な脆弱性が発見された場合の対応調整が含まれる。
ハサビス氏は「最先端AIフレームワークと新時代の幕開け」と題する記事でこの計画を概説している。TechCrunchが2026年7月14日にこの提案を報じ、特にその独自の構造を強調した。すなわち、業界から資金提供を受け、技術者が配置される組織であり、部分的に米国金融取引業規制機構（FINRA）のモデルを参考にしている。
この計画は自主的な協力から始まる。最先端AI開発者は、モデル公開の最大30日前に該当するモデルを評価のために提供する必要がある。評価システムが信頼性を証明できれば、審査通過が米国市場で最先端モデルを展開するための前提条件となる可能性がある。
ハサビス氏は、高性能AIシステムの出現が、政府や研究者、社会が信頼性のある評価方法を確立する速度を上回る可能性があると考えている。
この懸念は、モデルが不快なテキストを生成したり、単純な事実誤認を起こしたりするだけにとどまらない。最先端システムは、以下の分野に影響を及ぼす能力を発展させる可能性がある。
モデルは規制のサイクルの間に著しく向上する可能性がある。6カ月前には難しいとされた評価も、すぐに飽和状態となり、システム間の実質的な差異を明らかにできなくなるかもしれない。
従来のルール策定は往々にして進みが遅い。しかし、最先端モデルの開発はそうではない。
そのためハサビス氏は、評価手法が技術開発の速度とおおむね歩調を合わせられる組織を提案している。
構想中の標準機関は、連邦政府の監督下にある官民パートナーシップ組織または自主規制機関となる。
日常業務では技術的な独立性を保ち、公共の安全や国家安全保障に関わる問題では政府機関や国立研究所と協力する。
その主な責務は以下の通り。
この標準機関は、すべての小規模モデル、スタートアップ、大学プロジェクト、一般的なAIアプリケーションを規制するわけではない。
その管轄範囲は、能力のしきい値を超え、異常に深刻なリスクをもたらす可能性のあるシステムに限定される。
ハサビス氏のフレームワークは、パラメータ数、トレーニングコスト、企業規模、ブランド知名度だけで最先端モデルを定義するわけではない。
代わりに、構想中の標準機関は能力ベンチマークを維持する。
特定のしきい値を超えたモデルは最先端クラスに分類される。そのようなモデルを開発する機関は最先端ラボと見なされる。
この能力ベースのアプローチが重要なのは、モデルアーキテクチャと効率性が急速に進化しているからである。
より小規模なシステムや低コストのシステムが、かつて大規模なトレーニングを必要とした能力に最終的に匹敵する可能性がある。計算量のみに基づく固定のしきい値は時代遅れになりかねない。
したがって、構想中のベンチマークは以下の特徴を持つ。
この分類は、米国市場で展開される海外開発モデルにも同様に適用される。
この提案は、直ちに強制ライセンス制度に移行するのではなく、段階的な実施を採用する。
最先端ラボは、公開前に該当するモデルを自主的に標準機関に提供する。
審査期間は最長30日間。
この期間中、評価者はモデルの能力、弱点、安全対策、および潜在的な国家安全保障リスクを評価する。
最初の自主的段階は、この機関が以下を行うのに役立つ。
評価プロセスが技術的に有効であり、運用上信頼できることが証明されれば、フレームワークは正式に実施される。
米国市場に展開する最先端モデルは、このプロセスを通過する必要がある。
これにより、公開前テストは業界の自主的慣行から明確な市場アクセス要件へと変わる。
モデルが承認されても、標準機関の責務は終わらない。
最先端ラボは、公開後に発見された重大な脆弱性について、この機関と協力する必要がある。
これには以下が含まれる可能性がある。
したがって、このフレームワークは安全性を、一度きりの承認イベントではなく、継続的なライフサイクルとして捉えている。
ハサビス氏は、高度な能力が深刻な害を引き起こす可能性のある分野において、厳格な科学的テストを求めている。
初期の評価分野には以下が含まれる可能性がある。
| 評価分野 | 例示的な質問 |
|---|---|
| サイバーセキュリティ | モデルは深刻なソフトウェア脆弱性を発見、悪用、または自動化できるか？ |
| 生物学的リスク | 生物学的危険性を高める可能性のある高度な作業を効果的に支援できるか？ |
| 化学的・放射線リスク | 一般的に入手可能な情報範囲を超えた能力を提供するか？ |
| 自律的行動 | 長期的なタスクで計画、ツール使用、継続実行、または制限回避ができるか？ |
| 欺瞞性 | 目標を隠蔽したり、評価者を操作したり、監視下で異常な行動を取ったりするか？ |
| 防御の堅牢性 | 敵対的ユーザーが脱獄や複数回の操作を通じてポリシー制限を回避できるか？ |
| モデルの安全性 | 価値のあるモデルウェイトや機密システム情報が盗まれる可能性はあるか？ |
| AI研究能力 | このモデルはより強力なAIシステムの開発を加速できるか？ |
目的は、すべてのリスクが完璧に測定できると主張することではない。
目標は、展開の決定を支援し、追加の保護措置が必要な領域を特定するのに十分な強力な証拠を生み出すことにある。
この提案の最も重要な部分の一つは、テスト内容の頻繁な改訂を求めることである。
ハサビス氏は、評価スイートは当初は四半期ごとに更新される可能性があると示唆している。
これは、最先端のベンチマークが多方面で信頼できなくなる可能性があるため、必要である。
標準機関はまず、現在のシステムに関する豊富な技術知識を持つ最先端ラボと協議する。
しかし、時間の経過とともに、独自の非公開・機密の評価を開発する必要がある。
これらのテストは、評価前に開発者に完全に公開されることはない。これにより、モデルが既知のベンチマークテストに合格するように特定のトレーニングを受けながら、より広範な安全性を証明できないリスクが低減される。
公開ベンチマークは研究や透明性には有用だが、高リスクの認証には十分ではない。
開発者がすべての評価問題を知っている場合、以下の可能性がある。
独立評価者は、機密保持を徹底し、定期的に新しいタスクを導入することで、これらの問題を軽減することができる。
このプロセスは、従来のリーダーボードというよりも、むしろセキュリティテストに近い。
信頼できる評価プログラムには、以下が必要である：
環境
これらの保証措置が欠けている場合、その標準化機関は、意味のある規制機関ではなく、単なるベンチマーク公開プラットフォームに成り下がる可能性がある。
米国金融業界規制機構は、米国の証券会社を対象とした自主規制型の民間非営利団体である。業界からの費用で賄われているが、証券取引委員会の監督下で運営されている。同機構は、会員規則の策定と執行、審査の実施、市場活動の監視、資格認証プロセスの管理、そして新たなリスクへの対応を行っている。
ハサビスは、金融規制のあらゆる側面をそのまま人工知能分野に適用することを提案しているわけではない。関連する構造的特徴は以下の通りである：
フロンティアAI組織には、高額な計算インフラと高度に専門化された人材が必要である。業界による資金提供は、モデル研究者、サイバーセキュリティ専門家、バイオリスク専門家、評価エンジニア、インフラチームを採用するために必要なリソースを提供できる。連邦規制は、この組織が評価対象企業によって完全に支配された私的なクラブに変貌するのを防ぐことを目的としている。
ハサビスは、取締役会に独立した技術専門家とオープンソースAIコミュニティの代表者が含まれるべきだと提案している。これは、フロンティアAIガバナンスが、根本的に異なる開発モデルを採用している組織に影響を与えるため、極めて重要である。クローズドソースのモデルラボは、セキュアインターフェイスを介してウェイトファイルを公開せずにアクセスを提供する可能性があり、オープンソースのモデル開発者は、モデルパラメータ、コード、技術詳細を公開する可能性がある。標準化機関が最大手の専有ラボのみを代表する場合、意図的または非意図的に小規模組織を不利にするルールを策定する可能性がある。
よりバランスの取れた構成には、以下を含めることができる：
具体的な議決権と利益相反に関するルールは極めて重要である。業界の専門知識は技術の理解に不可欠であるが、過度な業界統制は国民の信頼を損なう可能性がある。
この提案はモデルテストの範囲を超えている。フロンティアラボに分類される組織は、より厳格な運用慣行を採用すべきであり、これには以下が含まれる：
メディア生成物への透かし入れ
これらの要件は、重要な現実を反映している。フロンティアAIのリスクは、モデルの動作に始まり、モデルの動作に終わるものではない。
安全なモデルであっても、そのウェイトが盗まれたり、システムプロンプトが露呈したり、ツールの設定が誤っていたり、デプロイ環境に適切な制御が欠けていたりすれば、リスクを生み出す可能性がある。
標準化機関は内部で全てのテストを完了する必要はない。
ハサビスは、独立した評価・監査機関からなるエコシステムを支援することを提案している。
異なる組織は、以下に特化することができる：
中央機関は要件を定義しプロセスを調整し、承認された専門家が具体的な評価を実施する。
このアプローチは、ある組織内にあらゆる形態の専門知識を構築しようとするよりも、拡張性が高い可能性がある。
また、その方法論に未知の盲点が含まれている可能性のある単一の評価者への依存を減らすこともできる。
アイデアを一文で入力するだけで、We0 AI が紹介サイト、ページ、CMS を生成し、公開後の顧客獲得と流入拡大を支援します。
無料登録で完全なプロジェクトを 1 つ生成
1 つの完全な生成フローを試し、最初のプロジェクトのドラフトをすぐに確認するのに最適です。
米国には、すでにAIテストや標準策定に従事する政府機関が存在する。
国立標準技術研究所（NIST）には、**AI標準・イノベーションセンター（CAISI）**が設置されている。
CAISIは業界と協力して自主基準を策定し、評価方法を開発し、サイバーセキュリティ、バイオセキュリティ、化学兵器、国家安全保障、および外国のAIシステムに関連する評価を実施している。
ハサビスの提案は、この活動と重なる部分があるが、独自の構造を創設するものである。
考えられる役割分担は以下の通り：
| 機関 | 考えられる役割 |
|---|---|
| CAISIおよびNIST | 計測科学、公共基準、政府評価、国家安全保障の調整 |
| 提案される標準化機関 | 公開前評価プロセス、フロンティアラボ要件、技術認証、継続的な業界監視 |
| 連邦機関 | 法的権限、国家安全保障上の意思決定、法執行、輸出管理 |
| 国立研究所 | 専門テスト、安全インフラ、科学的専門知識 |
| 第三者評価機関 | 分野特化型監査、レッドチームテスト、ベンチマーク開発 |
| フロンティアラボ | 安全なモデルアクセス、技術文書、是正措置、公開後モニタリング |
このような体制には、テストの重複、要件の競合、権限の不明確さを避けるための慎重な調整が必要である。
Google DeepMindはすでに内部の「フロンティア安全フレームワーク」を使用している。
このフレームワークは、重要な能力の閾値を特定し、それを評価、安全、およびデプロイ措置に結びつけている。
そのリスク分野は以下の通り：
DeepMindのフレームワークはまた、特定の能力レベルに達したモデルに対して、セーフティケースとデプロイ緩和策を利用している。
ハサビスの新しい提案は、この一般的なロジックを単一企業の枠を超えて拡張するものである。
各フロンティアラボが独自に閾値を策定し審査するのではなく、外部組織が共有テストと最低要件を作成する。
専門機関は、高度なモデルを評価できるほど理解している人材を採用できる。
一般的な規制機関は、フロンティアラボの技術的深度に匹敵することが難しいことが多い。
自主規制構造は、立法よりも迅速にベンチマークやプロセスを更新できる可能性がある。
共通の評価により、異なる開発者のモデルに関する安全性の主張を比較しやすくなる。
デプロイ前のテストにより、評価者はモデルが数百万のユーザーに届く前に重大な欠陥を発見するためのより多くの時間を得ることができる。
秘匿テストと第三者監査は、企業が公開するモデルカードを超えた証拠を提供できる。
一般的な非フロンティアモデルを対象外とすることで、スタートアップ、大学、小規模オープンソースプロジェクトの負担を軽減できる。
米国主導のシステムは、互換性のある国際的な評価基準の出発点となり得る。
この計画は詳細であるが、依然としていくつかの設計上の問題が存在する。
能力の閾値は、どの企業が高額なテストと潜在的な公開遅延の対象となるかを決定する可能性がある。
閾値設定のプロセスは、透明性があり、証拠に基づき、異議申し立てを受け入れ可能でなければならない。
業界資金は専門知識と計算資源を提供できるが、利益相反も引き起こす。
強力な政府監督、公共利益のためのガバナンス、財務の透明性、および外部レビューが必要である。
一部の評価には、専門的な環境、専門家レビュー、長期間のエージェントテスト、または反復実験が必要である。
標準化機関は、公開のボトルネックとならないよう、十分な人員と計算資源を必要とする。
ウェイトが公開されるモデルは、ホスト型APIモデルとはリスクが異なる。
ウェイトが公開されると、多くのデプロイ保護措置が無効になる可能性がある。
評価要件は、オープンウェイト、制限付きウェイト、クローズドホストシステムを区別する必要があるかもしれない。
フロンティア評価は、しばしば曖昧な証拠を生み出す。
フレームワークは、条件付き承認、追加テスト、デプロイ制限、異議申し立て、および独立レビューのためのルールを必要とする。
自主規制機関は、その管轄外の企業に対して自動的に法的制裁を課すことはできない。
正式な権限には、立法、機関行動、契約要件、調達ルール、または市場参入条件が必要である。
大規模AI企業は、包括的な評価とコンプライアンスチームを負担できる。
小規模開発者は、たとえモデルが同じ能力閾値に達していても、苦戦する可能性がある。
このフレームワークは、安全要件が反競争的な障壁に発展するのを防ぐ必要がある。
ハサビスは、このシステムは調整可能であるべきだと考えている。
評価がフロンティアモデルがより深刻なリスクを生み出していることを示す場合、規制を強化できる。
考えられる強化措置は以下の通り：
翻訳結果：
デプロイ環境の制限
最も厳しい選択肢は、証拠が十分に揃った時点で、フロンティア研究所の開発ペースを協調的に減速させることです。
このような介入は政治的にも技術的にも極めて困難であり、明確な閾値、国際的な協調、執行メカニズム、そして現在のペースを維持することが受け入れがたいリスクをもたらすという確固たる証拠が必要となります。
フロンティアAIの開発と展開は国境を越えて行われます。
米国の標準化団体は米国市場へのアクセスに影響を与えることはできますが、世界のすべての研究所を独立して管轄することはできません。
そのため、ハサビスの提案では、米国のリーダーシップを最終的なシステムではなく出発点と位置付けています。
以下において国際的な互換性を確保する必要があります：
協調が欠如すると、企業は標準の不一致に直面したり、最も規制の緩やかな司法管轄区を選択したりすることになります。
一方、単一の世界的規制機関は政治的に非現実的かもしれません。
共有の技術標準を採用する国および地域の評価機関のネットワークを構築することが、より実現可能な選択肢かもしれません。
効果的に機能する標準化団体は、モデルの公開プロセスを変革します。
現在、主要な研究所は主に独自にモデルカード、システムカード、安全フレームワーク、および一部の評価結果を公開しています。
新しいシステムの下では、フロンティア開発者は以下を準備する必要があるかもしれません：
安全性評価は、各社が独自に決定する内部慣行ではなく、明確な公開の関門となります。
彼は、フロンティアAIモデルを評価するための米国主導の独立した標準化団体の設立を提案しました。この団体は、技術テストの策定、モデル公開前の審査、安全慣行の推進、深刻な脆弱性への協調的な対応を行います。
連邦規制下の官民パートナーシップまたは自己規制組織に類似しています。資金は主にAI業界から提供され、政府の監視下で運営されます。
FINRAは、SECの監督下で米国のブローカーディーラーを規制する業界資金による自己規制組織です。ハサビスは、同様の構造が技術的専門性、適応性のあるルール、業界資金、および公的監督を組み合わせることができると考えています。
最初の提案では、公開前に最長30日間、自主的に標準化団体と共有することが認められています。具体的な審査期間は、モデルと評価要件によって異なる場合があります。
いいえ。このフレームワークは、定期的に更新されるフロンティア能力の閾値に達したモデルに適用されます。スタートアップ、大学、その他の組織からの小規模なモデルは、能力が指定されたレベルに達しない限り、通常このプロセスの対象外です。
ハサビスは、このフレームワークは、オープンソースかクローズドソースか、出身国に関わらず、フロンティアレベルのシステムに適用されるべきだと述べています。重みがオープンなモデルは、公開後に展開の制御を実行できない可能性があるため、異なる安全対策が必要になる場合があります。
提案は、サイバーセキュリティ、生物学的脅威、自律行動、欺瞞、安全対策の回避、およびその他の高リスク能力に焦点を当てています。新たなリスクや能力が出現するにつれて、テストセットは定期的に更新される必要があります。
はい。NISTのAI標準・イノベーションセンターは、商用およびフロンティアAIを含むテスト、標準、評価に取り組んでいます。提案された団体は、より正式で独立した公開前審査と業界監督の構造を追加することになります。
デミス・ハサビスは、最も高性能なAIモデルが公開される前に審査を行う、技術的に専門的で独立して運営される標準化団体を提案しています。この組織は自主的な協力からスタートし、信頼できる評価プロセスを確立し、将来的には米国でのフロンティアモデル展開の強制的な関門となる可能性があります。
この提案は、産業の専門能力と資金提供を、政府の監督、独立したテスト、保持されたベンチマーク、第三者監査、および継続的な事後監視と融合させようと試みています。
ガバナンスメカニズム、執行方法、オープンソースモデルの扱い、評価能力、利益相反、国際協調など、多くの実装上の問題が未解決のままです。それでもなお、この提案は漠然としたAI規制の呼びかけよりも具体的です。組織の構造、審査プロセス、範囲、技術的責務を明確にしています。
核となる考え方は単純明快です。フロンティアAIの安全性は、モデルを構築するテクノロジー企業に異議を唱えるのに十分な独立性、専門知識、計算リソース、および権限を備えた組織によってテストされるべきであるということです。
