谷歌DeepMind联合创始人兼CEO德米斯·哈萨比斯提议成立一个独立机构，负责测试和监管全球最强大的AI模型。该拟议组织将介于前沿AI实验室与美国政府之间。它将制定技术评估标准、在模型发布前进行测试、随能力提升更新基准、鼓励加强安全实践，并在部署后出现严重漏洞时协调应对。
谷歌DeepMind联合创始人兼首席执行官戴密斯·哈萨比斯提出建立一个新的独立机构，用于测试和监管全球最先进的人工智能模型。
拟议中的这个组织将处于前沿AI实验室与美国政府之间。它的职责包括：制定技术评估标准、在先进模型发布前进行测试、随着能力提升更新基准、鼓励更严格的安全实践，以及在模型部署后出现严重漏洞时协调应对措施。
哈萨比斯在一篇题为**《前沿AI框架与新时代的曙光》**的文章中概述了这一计划。TechCrunch于2026年7月14日报道了这一提案，特别强调了其独特架构：这是一个行业资助、配备技术人员的组织，部分借鉴了美国金融业监管局（FINRA）的模式。
该计划以自愿合作为起点。前沿AI开发者需在模型发布前最多30天提供符合条件的模型进行评测。如果评估体系被证明可靠，通过评审可能将成为在美国市场部署前沿模型的先决条件。
哈萨比斯认为，高性能AI系统的到来速度可能超出政府、研究人员和社会建立可靠评估方式的速度。
这种担忧不仅局限于模型是否生成冒犯性文本或出现普通事实性错误。前沿系统可能发展出影响以下领域的能力：
模型可能在监管周期之间实现显著提升。六个月前还颇具难度的评估可能很快变得饱和，无法再揭示系统间的实质性差异。
传统的规则制定往往进展缓慢。而前沿模型的开发却并非如此。
因此，哈萨比斯提议建立一个评估方法能够与技术发展速度大致保持同步的组织。
拟议中的标准机构将是一个受联邦监督的公私合作组织或自律监管机构。
在日常工作中保持技术独立性，同时在涉及公共安全和国家安全的问题上与政府机构及国家实验室合作。
其主要职责包括：
支持外部评估人员与审计机构的生态系统。
7. 应对发布后出现的严重漏洞。
8. 若风险达到不可接受程度，协调实施更强力的干预措施。
该标准机构不会监管每个小型模型、初创公司、大学项目或普通AI应用。
其管辖范围仅限于那些通过能力阈值、可能造成异常严重风险的系统。
哈萨比斯的框架并非仅凭参数数量、训练成本、公司规模或品牌知名度来定义前沿模型。
相反，拟议的标准机构将维护一套能力基准。
跨越特定阈值的模型将被归类为前沿级。开发此类模型的机构将被视为前沿实验室。
这种基于能力的方法之所以重要，是因为模型架构和效率正在快速演变。
较小的系统或成本更低的系统最终可能匹敌曾经需要更大规模训练才能实现的能力。仅基于计算量的固定阈值可能过时。
因此，拟议的基准将具备以下特征：
该分类同样适用于在美国市场部署的海外开发模型。
该提案采用分阶段实施方式，而非立即转向强制许可制度。
前沿实验室需在发布前自愿向标准机构提供符合条件的模型。
审查窗口最长可达30天。
在此期间，评估人员将评估模型的能力、弱点、安全防护措施以及潜在的国家安全风险。
初始自愿阶段将有助于该机构：
一旦评估流程在技术上被证明有效且操作上可靠，该框架将正式实施。
前沿模型若要部署于美国市场，须先通过该流程。
这将使发布前测试从行业自愿实践转变为明确的市场准入要求。
模型获批并不意味着标准机构职责终止。
前沿实验室需就发布后发现的关键漏洞与该机构开展合作。
这可能包括：
因此，该框架将安全性视为持续的生命周期，而非一次性的审批事件。
哈萨比斯呼吁，在先进能力可能造成严重伤害的领域，必须进行严格的科学测试。
初始评估领域可能包括：
| 评估领域 | 示例问题 |
|---|---|
| 网络安全 | 模型能否发现、利用或自动化严重的软件漏洞？ |
| 生物风险 | 它能否有效协助可能增加生物危险的高级工作？ |
| 化学与放射性风险 | 它是否提供了超出普遍可获取信息的范围的能力？ |
| 自主行为 | 它能否在长期任务中进行规划、使用工具、持续运行或规避限制？ |
| 欺骗性 | 它是否会隐藏目标、操纵评估者，或在被监控时表现异常？ |
| 防护鲁棒性 | 对抗性用户能否通过越狱或多次交互攻击绕过政策限制？ |
| 模型安全 | 有价值的模型权重或敏感系统信息是否可能被盗取？ |
| AI研究能力 | 该模型能否加速更强大AI系统的开发？ |
目的并非声称每一项风险都能被完美测量。
目标在于创造足够有力的证据，以支持部署决策，并识别需要额外防护措施的环节。
该提案最重要的部分之一是要求频繁修订测试内容。
哈萨比斯建议，评估套件最初可能每季度更新一次。
这是必要的，因为前沿基准可能在多方面变得不可靠：
标准机构将首先与前沿实验室协商，后者对当前系统拥有丰富的技术知识。
然而，随着时间的推移，它需要开发自己的私有、保密的评估。
这些测试在评估之前不会完全向开发者公开。这将降低模型被特定训练以通过已知基准测试，却未能证明更广泛安全性的风险。
公共基准对于研究和透明度有用，但对于高风险认证来说并不足够。
当开发者知道每一个评估问题时，他们可能会：
独立评估者可以通过维护保密任务并定期引入新任务来减少这些问题。
这一过程更类似于安全测试，而非传统的排行榜。
一个可信的评估项目需要具备：
环境
若缺少这些保障措施，该标准机构可能沦为又一个基准发布平台，而非有意义的监管机构。
美国金融业监管局是一家针对美国券商的自律性私人非营利组织。它由行业费用资助，但在证券交易委员会的监督下运作。该机构制定并执行会员规则、开展审查、监测市场活动、管理资质认证流程，并应对新兴风险。
哈萨比斯并未建议将金融监管的每个环节照搬到人工智能领域。其相关的结构性特征包括：
前沿人工智能组织需要昂贵的计算基础设施和高度专业化的员工。行业资助可提供招募模型研究员、网络安全专家、生物风险专家、评估工程师和基础设施团队所需的资源。联邦监管旨在防止该组织演变为完全由被评估企业控制的私人俱乐部。
哈萨比斯建议，董事会应包括独立技术专家和开源人工智能社区的代表。这一点至关重要，因为前沿人工智能治理影响采用截然不同开发模式的组织。闭源模型实验室可能通过安全接口提供访问权限而不发布权重文件，开源模型开发者则可能公开模型参数、代码和技术细节。若标准机构仅代表最大型专有实验室，可能会制定无意中或故意使小型组织处于不利地位的规则。
更均衡的架构可包含：
具体的投票权与利益冲突规则至关重要。行业专业知识对理解技术必不可少，但过度的行业控制可能削弱公众信任。
该提案超出模型测试范畴。被归类为前沿实验室的组织应采纳更严格的运营实践，包括：
生成媒体的水印
这些要求反映了一个重要现实：前沿人工智能风险并不始于模型行为，也不止于模型行为。
一个安全的模型，如果其权重被盗、系统提示暴露、工具配置错误或部署环境缺乏适当控制，仍然可能产生风险。
标准制定机构无需内部完成所有测试。
哈萨比斯提出支持一个由独立评估和审计机构组成的生态系统。
不同组织可以专注于：
中央机构可以定义要求并协调流程，而经批准的专家则进行具体评估。
这种方法可能比试图在一个组织内部建立所有形式的专业知识更具可扩展性。
它还能减少对单一评估者的依赖，因为其方法可能包含未知盲点。
输入一句想法，We0 AI 即可生成展示站、页面与 CMS。发布上线后并帮你获取客户和流量。
用户注册赠送一次完整项目生成
适合先体验一次完整生成流程，快速看到项目初稿。
美国已有政府机构从事人工智能测试和标准制定工作。
国家标准与技术研究院设有人工智能标准与创新中心（CAISI）。
CAISI与行业合作制定自愿性标准，开发评估方法，并进行与网络安全、生物安全、化学武器、国家安全以及外国人工智能系统相关的评估。
哈萨比斯的提案与此工作有重叠之处，但会创建一种独特的结构。
可能的职责划分如下：
| 机构 | 可能角色 |
|---|---|
| CAISI和NIST | 测量科学、公共标准、政府评估、国家安全协调 |
| 拟议的标准制定机构 | 发布前评估流程、前沿实验室要求、技术认证、持续行业监督 |
| 联邦机构 | 法律权力、国家安全决策、执法、出口管制 |
| 国家实验室 | 专项测试、安全基础设施、科学专业知识 |
| 第三方评估机构 | 领域特定审计、红队测试、基准开发 |
| 前沿实验室 | 安全模型访问、技术文档、补救措施、发布后监测 |
这种安排需要谨慎协调，以避免测试重复、要求冲突以及职权不清。
Google DeepMind已在使用内部的《前沿安全框架》。
该框架识别关键能力阈值，并将其与评估、安全和部署措施联系起来。
其风险领域包括：
DeepMind的框架还针对达到特定能力水平的模型使用安全案例和部署缓解措施。
哈萨比斯的新提案将把这一通用逻辑扩展到单一企业之外。
不再由每个前沿实验室自行制定和审查其阈值，而是由外部组织创建共享测试和最低要求。
专业组织可招募足够了解先进模型以评估其能力的人员。
通用监管机构往往难以匹配前沿实验室的技术深度。
自我监管结构可能比立法更快更新基准和流程。
通用评估可使不同开发者的模型安全声明更易比较。
部署前测试让评估人员有更多时间在模型触及数百万用户前发现严重缺陷。
保留测试和第三方审计可提供超越企业发布模型卡的证据。
豁免普通非前沿模型可减少初创企业、大学和小型开源项目的负担。
美国主导的系统可为兼容的国际评估标准提供起点。
该计划虽然详细，但仍存在几个设计问题。
能力阈值可能决定哪些企业需承担昂贵测试和可能的发布延迟。
设定阈值的过程必须透明、基于证据并接受质疑。
行业资金可提供专业知识和算力，但也会引发利益冲突。
需要强有力的政府监督、公共利益治理、财务透明度和外部审查。
某些评估需要专业环境、专家评审、长期代理测试或重复实验。
标准机构需要充足人员和算力，避免成为发布瓶颈。
权重会发布的模型与托管API的风险不同。
权重公开后，许多部署保护措施可能失效。
评估要求可能需要区分开放权重、受限权重和封闭托管系统。
前沿评估常产生模棱两可的证据。
框架需制定有条件批准、额外测试、部署限制、申诉和独立审查的规则。
自我监管机构无法自动对其管辖范围外的企业实施法律处罚。
正式授权需要立法、机构行动、合同要求、采购规则或市场准入条件。
大型AI企业能负担全面评估和合规团队。
小型开发者可能举步维艰，即使他们——
模型达到相同的能力阈值。
该框架需要防止安全要求演变为反竞争壁垒。
哈萨比斯认为该系统应具备可调性。
若评估显示前沿模型正在产生更严重的风险，可加强监管。
可能的升级措施包括：
最严厉的选项是在证据充分时协调放缓前沿实验室的研发速度。
此类干预在政治和技术层面都颇具难度，需要明确阈值、国际协调、执行机制以及确凿证据证明维持当前进度将带来不可接受的风险。
前沿人工智能的开发和部署跨越国界。
美国标准制定机构可以影响美国市场准入，但无法独立管辖全球所有实验室。
因此，哈萨比斯的提议将美国领导地位视为起点而非最终系统。
需在以下方面实现国际兼容：
缺乏协调将导致企业面临标准不一致，或选择监管最宽松的司法管辖区。
与此同时，单一全球监管机构在政治上可能不切实际。
建立采用共享技术标准的国家和区域评估机构网络，或许是更可行的方案。
运作有效的标准制定机构将改变模型发布流程。
目前，领先实验室主要自行发布模型卡、系统卡、安全框架及部分评估结果。
在新系统下，前沿开发者可能需要准备：
安全评估将成为明确的发布关卡，而非各公司自行决定的内部实践。
他提议成立一个由美国主导的独立标准制定机构，用于评估前沿人工智能模型。该机构将制定技术测试、在模型发布前进行审核、推广安全实践并协调应对严重漏洞。
类似于一个由联邦监管的公私合营或自我监管组织。其资金可主要由人工智能行业提供，同时在政府监管下运作。
FINRA是一个行业资助的自我监管组织，在SEC的监督下负责监管美国的经纪交易商。哈萨比斯认为，类似的结构能够结合技术专长、适应性规则、行业资助和公共监督。
最初的提案允许在发布前自愿与标准制定机构共享，最长可达30天。具体的审查时间可能因模型和评估要求而异。
不是。该框架将适用于那些达到定期更新的前沿能力阈值的模型。来自初创公司、大学和其他组织的小型模型通常不受此流程约束，除非其能力达到指定水平。
哈萨比斯表示，该框架应适用于前沿级别的系统，无论它们是开源还是闭源，也无论其起源国。开放权重的模型可能需要不同的保障措施，因为发布后可能无法执行部署控制。
提案重点关注网络安全、生物威胁、自主行为、欺骗、绕过保障措施以及其他高风险能力。随着新风险和能力的出现，测试集需要定期更新。
是的。NIST的AI标准与创新中心致力于涉及商业和前沿AI的测试、标准和评估。拟议的机构将增加一个更正式、独立的发布前审查和行业监督结构。
与创新](https://www.nist.gov/caisi)：关于CAISI评估、标准制定及国家安全角色的官方信息。
德米斯·哈萨比斯提议成立一个技术专业、独立运营的标准制定机构，负责在最具能力的AI模型发布前进行审查。该组织将从自愿合作起步，建立可靠的评估流程，未来或成为美国部署前沿模型的强制门槛。
提案试图融合产业专业能力与资金支持，结合政府监督、独立测试、保留基准、第三方审计及持续的事后监控。
仍有许多实施问题待解，包括治理机制、执行方式、开源模型处理、评估能力、利益冲突及国际协调。即便如此，相较于泛泛的AI监管呼吁，该提案更为具体——它明确了机构结构、审查流程、范围和技术职责。
核心理念直截了当：前沿AI安全应由一个具备足够独立性、专业知识、计算资源及权威的组织来测试，该组织需有能力挑战构建模型的科技公司。
