Dario Amodei 的双面 AI 赌注：在构建价值 9650 亿美元的 Anthropic 的同时警告灾难

引言

很少有科技领袖能像 Dario Amodei 一样，如此鲜明地体现前沿AI领域的张力。

多年来，他一直警告称，日益强大的AI系统可能带来灾难性风险、动摇经济稳定、助长危险滥用，甚至最终以人类无法可靠控制的方式行事。

与此同时，他又是Anthropic的联合创始人兼CEO——而Anthropic正是推动这些系统变得更加强大最卖力的公司之一。

这一矛盾正是《The Information》近期一篇长篇人物报道的核心。该报道将Amodei描绘为一位非同寻常地以使命为导向的CEO，他对AI风险的担忧并未减缓公司的崛起。如果说有什么影响的话，那就是对技术失控的恐惧，恰恰是他认为Anthropic必须保持在前沿的原因之一。

这篇中文源文章将这一张力转化为一个刻意挑衅的问题：Amodei是不是一个“双面末日预言者”——一边警告AI可能毁灭人类，一边同时加速迈向更强大AI的竞赛？

现实没有那么戏剧化，但悖论确实存在。

Amodei曾公开论证过以下两个命题：

强大的AI可能带来前所未有的风险。

以及：

如果这些风险得到管理，强大的AI可能从根本上改善人类生活。

他自己的文章清楚地表明，他并不认为这两个立场相互矛盾。在《Machines of Loving Grace》中，他表示强大AI的潜在上行空间之所以可能巨大，恰恰是因为风险同样巨大。在《The Adolescence of Technology》中，他论证称，社会当前正面临一个困难时期——介于获得非凡技术能力与学会安全使用它之间。

这种世界观塑造了Anthropic的研究、治理、文化、产品战略以及与投资者的关系。

A面：AI可能造成灾难性伤害

源报道的前半部分聚焦于Amodei对AI风险异乎寻常的持续关注。

据《The Information》报道，Anthropic的领导层今年早些时候曾就公司在公众对AI焦虑加剧的时刻应如何对外沟通展开辩论。

据报道，部分董事会层面的讨论曾考虑强调更乐观的应用场景——例如医学发现和其他对社会有益的AI用途。

报道称，Amodei抵制了将公司公开传播变成传统科技行业“魅力攻势”的做法。

其根本原因与他公开撰写的文章一致：他认为诚实地谈论严重风险是公司职责的一部分，即使这一信息在商业上令人尴尬。

Anthropic后来因以下方面引发关注——

围绕强大人工智能可能带来的后果而构建的广告，充满了令人不安的诘问。

图片为一篇名为“新Anthropic广告暗示AI可能消灭我们所有人”的文章封面。上方标题为“新Anthropic广告暗示AI可能消灭我们所有人”，下方副标题为“一个惊人的营销策略”。图片主体是一片墓地，墓碑上插着美国国旗，墓碑排列整齐。右下角有“Anthropic via YouTube”的水印。该图片与文档中上下文紧密相关，是对文档中提到的Anthropic公司因广告引发关注的直观呈现，展示了其广告中可能暗示AI危险的内容。

来源文章将这一画面解读为一家公司在推销人工智能的同时，又警示观众AI可能会出现严重问题的惊人案例。

这种紧张感不仅仅是营销手段。

它贯穿于Anthropic的公共政策之中。

该公司现行的《负责任扩展政策》明确围绕未来模型可能带来灾难性风险的可能性而设计。Anthropic表示，随着模型能力的增强，安全防护措施也应相应加强，其政策包括了正式的评估、风险报告、安全性和治理要求。

阿莫迪多年来一直专注于人工智能安全

来源文章将阿莫迪对安全问题的担忧描述为长达十年的持续关注模式，而非近期的品牌战略。

公开记录支持了这一更广泛的论点。

2016年，阿莫迪是 《人工智能安全中的具体问题》 一文的作者之一，这篇具有影响力的论文界定了实践性问题，例如：

• 避免负面副作用。
• 防止奖励黑客攻击。
• 可扩展的监管。
• 安全探索。
• 对分布变化的稳健性。

这些并非抽象的科幻场景。该论文试图将人工智能安全转化为具体的机器学习研究问题。

2017年11月，在OpenAI工作期间，阿莫迪还在新美国安全中心人工智能与全球安全峰会上就人工智能安全和网络安全发表了演讲。

来源文章利用这一早期阶段提出了一个更宏观的观点：早在当前围绕ChatGPT、Claude、智能体以及前沿模型风险的主流讨论展开之前，阿莫迪就已经在担忧日益强大的人工智能可能带来的影响。

他后来成为OpenAI的研究副总裁，并参与了包括GPT-2和GPT-3在内的大型语言模型的研发工作。

他的个人网站也称他是从人类反馈中进行强化学习的联合发明人，这项技术后来成为使大型语言模型与人类偏好对齐的核心手段。

OpenAI内部的谨慎态度

来源文章随后转向了最初由 The Information 报道的一系列内部轶事。

这些细节应被视为来自前同事和知情人士的转述回忆，而非独立记录的公司政策。

该报道称，阿莫迪曾推动对OpenAI敏感研究相关的信息危害进行更严格的审查。

它

另据报道，在2019年OpenAI与微软洽谈重大投资期间，其安全团队曾提出过担忧。

据该报道，一些同事认为阿莫迪的团队过于谨慎，担心那些理论上的未来危险会干扰到眼前的业务需求。

这些紧张关系之所以重要，是因为它们有助于解释接下来发生的事。

阿莫迪并非简单地从“研究员”转型为“初创公司创始人”。

他和几位同事最终于2021年离开了OpenAI，共同创立了Anthropic，其核心理念是前沿AI的发展需要一种不同的机构化安全保障方式。

隔离计算机的故事

原文中最生动的轶事之一是关于阿莫迪对信息安全的处理方式。

《信息报》报道称，在一个安全意识特别强的时期，他曾使用一台隔离计算机（air-gapped computer）来处理敏感工作。

这一故事描述的工作流程是：材料不存放在联网系统中，而是通过物理方式携带或打印，而非通过普通的云服务传输。

原文将此解读为“堡垒心态”的证据。

我们没有必要把这一轶事放大成对Anthropic如今运作方式的普遍性论断。

但它与一个可以公开验证的更广泛观点是一致的：前沿AI实验室越来越将模型权重、研究计划、基础设施和敏感能力信息视为重大安全资产。

Anthropic自己的《2026前沿安全路线图》如今也讨论了非同寻常的强力安全措施，包括对隔离网络的探索性工作，以及针对老练攻击者的更严格防护。

曾几何时听起来古怪的做法，如今已成为公认的前沿实验室安全问题。

与OpenAI的分道扬镳与Anthropic的诞生

Anthropic由一群前OpenAI研究员和领导者于2021年创立，其中包括达里奥和他的妹妹丹妮拉·阿莫迪，她担任联合创始人兼总裁。

原文将这次分裂主要归结为在安全与商业化问题上的分歧。

这与多年来关于创始人们动机的报道方向一致，不过各人分歧的细节远比简单的“安全派与利益派”的对立故事要复杂得多。

Anthropic被刻意设立为一家公益公司。

其宗旨是为了人类的长期利益，负责任地开发和维护先进AI。

该公司还设立了一个长期利益信托，这是一个独立的治理机构，其成员在Anthropic不持有任何财务利益，其职责是帮助在财务成功与公益使命之间取得平衡。

这一结构并不能消除商业压力。

但它确实表明——

Anthropic 试图将使命与资本之间的张力编码进公司的正式治理结构中，而不是仅仅依赖高管的承诺。

另一面：阿莫迪同样相信强大的人工智能可能改变世界

源文章的后半部分翻转了视角。

阿莫迪并非简单的人工智能悲观主义者。

事实上，他的公开写作对足够强大的人工智能所能实现的目标抱有极其乐观的态度。

在2024年发表的 《爱的机器》 中，他描绘了一个强大人工智能加速各领域进步的未来：

1. 生物学与身体健康。
2. 神经科学与心理健康。
3. 经济发展与减贫。
4. 和平与治理。
5. 工作与意义。

他明确反对这样一种看法：他关注风险就意味着他预期人工智能大体上是坏的。

他的论点几乎恰恰相反。

他认为人工智能的上行空间可能如此巨大，以至于灾难性风险才是横亘在人类与一个异常积极的未来之间的主要障碍。

这就是连接他“两面”的概念桥梁。

人工智能可能极其有益
+
人工智能可能极其危险
=
去建造它，但也要建造能够承受它的制度

“他脑子里装着奇点”

源文章描述称，Anthropic 的员工和投资者近乎使用宗教语言来解释阿莫迪的领导风格。

据《The Information》报道，公司内部一些人不把他视为传统意义上的运营型 CEO，而更像是一位关注人工智能能力急剧跃升时会发生什么的长期视野的智识领袖。

报道称，他将许多日常组织决策授权出去，同时花费大量时间思考：

• 人工智能进展。
• 经济学。
• 政治。
• 战争。
• 社会转型。
• 长期技术轨迹。

报道还描述了围绕人工智能驱动增长和劳动力市场冲击的不同速度所进行的内部经济建模。

这些具体的内部数字由《The Information》报道，不应被误认为是 Anthropic 的官方经济预测。

然而，更宏观的主题是独立可见的。

Anthropic 组建了一支专门的经济研究团队，并推出了 Anthropic 经济指数，以研究 Claude 如何改变实际工作。

2026年，它还成立了 Anthropic 研究所，将经济研究、前沿红队测试和社会影响研究整合在一起，以研究快速进步的人工智能可能如何影响就业、制度、法律、安全与治理。

因此，该公司并未将先进人工智能的经济后果视为遥远的外部问题。

而是将其作为核心研究问题进行投入。

达里奥的公开写作既拒绝“末日论”，也拒绝盲目乐观

源文章中的“末日领袖”框架令人印象深刻，但阿莫迪自己的写作更为细致。

在《技术的青春期》中，他明确警告要反对 末日论。

他认为，把人工智能风险当作不可避免厄运的宗教预言是无益的。

他在《爱的机器》中提出了对称的论点：救赎叙事同样可能造成扭曲。

他偏好的框架是分析性的：

采取激进

认真对待严重下行风险
承认不确定性
在有证据支持干预的地方进行干预

这并不会让他的预测显得保守。

他多次提出，能够在多个领域超越顶级人类专家的AI可能在未来几年内出现。

Anthropic的公共政策文件在讨论极其强大的系统出现的可能性时，也使用了2026年底至2027年初的时间范围。

时间上的不确定性仍然很大。

但他的战略决策显然表明，他认为这种可能性值得立即准备。

以使命为核心领导风格

来源文章以异常戏剧化的方式描述了Anthropic的内部文化：与其说是普通的硅谷初创公司，不如说更像一个使命导向型机构。

员工被描绘为不仅仅是为了薪酬或职业发展而加入，而是因为他们相信这份工作具有非同寻常的重大意义。

这类报道本质上很难概括数千名员工的情况。

尽管如此，Anthropic的正式招聘语言和公开研究项目确实异常强调安全性、可解释性、社会影响以及降低灾难性风险。

该公司运行的研究和奖学金项目专门旨在让更多人进入AI安全技术工作领域。

其治理结构同样试图在传统投资者所有权之外，保留公共利益使命。

问题在于，随着Anthropic规模急剧扩大，这种文化能否保持不变。

这正是来源文章商业部分变得重要的原因。

从AI安全初创公司到市值9650亿美元的公司

Anthropic的商业增长非同寻常。

2026年5月28日，Anthropic宣布完成一轮650亿美元的H轮融资。

该轮融资对公司的估值为：

投后估值9650亿美元

该公司还表示，其年化经常性收入已突破：

470亿美元

当月初。

年化经常性收入与年度收入之间的区别很重要。

“470亿美元年化经常性收入”意味着该公司当前的收入速度（按当时年化计算）已突破470亿美元。

这并不意味着Anthropic已经在一个完整的财年内确认了470亿美元的收入。

然而，这种增长说明了为什么投资者愿意给前沿AI公司如此高的估值。

Anthropic表示，Claude在企业中的应用迅速扩大，Claude Code及其更广泛的工作场所工具需求旺盛。

9650亿美元估值是官方公布的

与许多私营公司的估值传闻不同，这个数字不仅仅是媒体的估计。

Anthropic自己公布了9650亿美元的投后估值。

该公司表示，这笔融资

将支持：

• 安全与可解释性研究。
• 更多算力。
• Claude 产品。
• 基础设施。
• 合作伙伴关系。
• 应对增长需求的能力。

源文章将估值与主要上市科技公司进行比较，以强调其规模。

这些比较应谨慎对待，因为私募融资轮估值与上市公司市值并非相同的财务指标。

可以直接说的是，Anthropic 达到了有史以来报告的最大私募公司估值之一。

Anthropic 也已启动 IPO 流程

消息来源显示，投资者已在为 Anthropic 的重大 IPO 做准备。

说有 IPO 流程正在进行，是有官方依据的。

2026 年 6 月 1 日，Anthropic 宣布已秘密向美国证券交易委员会提交了 S-1 注册声明草案。

这使该公司在 SEC 审查后可以选择进行公开募股。

Anthropic 还明确表示：

• 尚未确定 IPO 的最终时间。
• 尚未确定股票数量。
• 尚未确定发行价格。
• 任何 IPO 都将取决于市场状况和其他因素。

因此，“Anthropic 正在准备可能的 IPO”这一说法是准确的。

具体的上市日期尚未确认。

投资者正在买入一位使命驱动的 CEO

消息来源中最有趣的投资者紧张点，不在于 Anthropic 能否增长。

而在于 Amodei 的思维方式，是否符合公开市场投资者习惯持有的那种 CEO 类型。

据《The Information》报道，一些投资者钦佩该公司非凡的商业表现，同时对一位花大量时间讨论文明级风险的领导者感到不安。

这种担忧从双方角度来看都可以理解。

普通投资者可能会优先考虑：

收入
利润率
增长
市场份额
资本效率
股东回报

Amodei 公开表达的优先事项增加了额外变量：

灾难性风险
模型安全
对齐
经济替代
治理
国家安全
人类的长期结果

这些目标并不总是冲突。

安全的产品可以建立信任。强大的安全可以保护知识产权。负责任的部署可以降低监管和声誉风险。

但在某些时刻，它们可能会发生冲突。

Anthropic 的核心机构实验是：当经济激励变得巨大时，一家接近万亿美元规模的公司能否保持有意义的使命。

负责任扩展政策使权衡变得具体

Anthropic 的负责任扩展政策（现为 3.0 版本）提供了最清晰的正式例证之一。

该政策旨在随着模型能力增强而管理灾难性风险。

Anthropic 并非依赖单一永久规则，而是采用：

• 前沿安全路线图。
• 风险报告。
• 能力评估。
• 外部审查。
• 治理流程。
• 逐步升级的安全保障措施。

早期版本的 RSP 包含明确承诺：当所需安全保障尚未就绪时，延迟部署或扩展。

当前版本已有所演变，但核心理念依然存在：

能力的增长应当伴随着更强大的风险管理体系。

这正是阿莫迪的理念从口号转向实践的地方。

该公司正在尝试构建一些机制，使得一旦前沿模型变得危险，这些机制能够约束公司自身的行为。

在激烈竞争之下，这些机制是否仍能保持足够强大，是一个更难回答的问题。

“一边踩油门，一边找刹车”

原文以这一核心比喻作为结尾。

为了防止危险的人工智能被不负责任地制造出来，阿莫迪认为他的公司必须始终保持有能力自行构建世界上最先进的人工智能。

这就产生了一个悖论：

技术可能是危险的。
↓
落后也可能同样是危险的。
↓
因此 Anthropic 必须持续推进。
↓
随着能力提升，它所担忧的风险也在上升。

在这种世界观下，拒绝参与并不会阻止前沿人工智能的发展。

它可能只是将领导权转移给另一个动机不同或保障措施更弱的组织。

因此，阿莫迪的策略并不是“永远让一切慢下来”。

它更接近于：

保持在前沿附近
理解即将到来的事物
构建更强的保障措施
影响政策
让机构做好准备
努力让技术保持有益

批评者可以合理地质疑：一家公司能否客观评估一种它也从中赚取巨额金钱的技术所带来的风险？

支持者也可以合理地主张：前沿实验室掌握着社会理解这些风险所需的信息和技术能力。

随着Anthropic的不断壮大，这两个问题都变得更加紧迫。

公司的治理正是围绕这一冲突设计的

Anthropic的公益公司结构和长期利益信托，正是试图回答同一悖论在制度层面上的版本。

长期利益信托在董事会治理中发挥作用，其存在就是为了维护公司的公益使命。

Anthropic表示，信托成员在公司中不持有任何财务利益。

这并不赋予信托对每项公司决策的无限权力。

但它确实在治理结构内部创造了一个正式的群体，其目的不仅仅是最大化投资者的回报。

目前的Anthropic董事会包括达里奥·阿莫迪、丹妮拉·阿莫迪、外部投资者以及独立的商业领袖。

因此，该公司的治理最好被理解为一个持续进行的实验，而非其使命已得到永久保护的证明。

安全与商业成功如今已密不可分

原文将这家公司描述为一座“圣殿”，运营着一台飞速运转的赚钱机器。

更务实的解读是，Anthropic的安全战略与商业战略已经深度交织在一起。

企业客户关注的是：

• 可靠性。
• 安全性。
• 数据处理。
• 治理。
• 可预测性。
• 模型行为。

因此，Anthropic对安全的重视在商业上是有用的。

与此同时，企业采用所产生的收入也为以下方面提供了资金：

• 前沿模型训练。
• 安全研究。
• 可解释性工作。
• 安全防护。
• 红队测试。
• 经济

研究。

• 政策工作。

这形成了一个反馈循环。

更好的模型
→ 更多客户
→ 更多资本和算力
→ 更强大的模型
→ 更大的安全挑战
→ 对安全防护的更多投资

悬而未决的问题是，该循环中的安全防护方面能否与能力和收入方面一样快速扩展。

两篇文章比“末日论者”标签更能说明这两面性

如果有一种简洁的方式理解阿莫迪的世界观，那就是把他在两个重要文章放在一起读。

爱的机器

这是乐观的一面。

阿莫迪认为，强大的人工智能可以极大加速医学、神经科学、经济发展、治理和人类福祉方面的进步。

技术的青春期

这是风险的一面。

他认为，人类正在进入一个危险的转型期，在这个时期，人类可能在其制度足够成熟以可靠地处理这种力量之前就获得巨大的技术力量。

这两篇文章并非对立。

它们是一个模型的两半：

非凡的能力
+
不成熟的制度
=
非凡的机遇与非凡的风险同时存在

这也比特“末日邪教”的比喻更清晰地描述了Anthropic。

哪些已确认，哪些来自人物报道

常见问题

为什么达里奥·阿莫迪被称为AI“末日论者”？

这个标签源于他反复警告日益强大的AI可能带来的灾难性风险。

阿莫迪本人拒绝宿命论的“末日论”，并认为如果人类能够成功驾驭这一转型，人工智能可能带来巨大益处。

如果达里奥·阿莫迪认为人工智能有风险，为什么他还在不断打造更强大的人工智能？

他的公开立场是，无论Anthropic是否参与，前沿人工智能的发展都很有可能继续推进。他相信，保持在前沿位置能让Anthropic有机会理解风险、开发安全防护措施、影响行业标准，并构建有益的应用程序。

Anthropic估值多少？

Anthropic于2026年5月宣布完成650亿美元的H轮融资，投后估值达9650亿美元。这是私人公司的融资估值，而非公开股票市场的市值。

Anthropic真的每年营收470亿美元吗？

Anthropic表示，其年化收入运行率于2026年5月突破470亿美元。年化收入运行率是将当前收入速度按全年折算的指标，不应与已完成的全年确认收入混淆。

Anthropic会上市吗？

Anthropic已于2026年6月1日向美国证券交易委员会（SEC）秘密提交了S-1注册声明草案，使其在审核完成后可以选择进行IPO。公司尚未正式确定股票数量、发行价格或最终上市日期。

什么是Anthropic的《负责任扩展政策》？

RSP是Anthropic为管理先进人工智能系统带来的灾难性风险而制定的自愿性框架。3.0版本通过安全路线图、风险评估报告、治理流程、外部审查和能力评估，将不断增强的模型能力与更严格的安全措施相挂钩。

什么是长期利益信托？

长期利益信托是一个独立的治理机构，旨在帮助Anthropic在财务成功与其公共利益使命之间取得平衡。Anthropic表示，其信托成员在公司中不持有财务权益，并参与董事会治理。

达里奥·阿莫迪对人工智能是乐观还是悲观？

这两种标签都不全面。他的文章对强大人工智能带来的益处极为乐观，同时对灾难性滥用、目标错位、经济冲击和地缘政治后果高度担忧。

相关工具

• Claude：Anthropic的通用人工智能助手，适用于写作、分析、编程、研究和专业工作。
• Claude Code：Anthropic的智能体编程产品，也是企业采用的主要驱动力。
• Anthropic API：用于使用Claude模型构建应用程序和智能体的开发者平台。
• Anthropic经济指数：Anthropic的研究项目，追踪Claude在各职业、任务、行业和国家中的使用情况。
• Anthropic透明度中心：关于模型安全、风险评估、治理和自愿承诺的公开信息。

相关链接

• The Information人物报道：由Cory Weinberg、Stephanie Palazzolo和Amir Efrati撰写的长篇人物报道，是源文章的重要基础。

Anthropic H轮融资公告：官方确认650亿美元融资轮次，估值达9650亿美元，年化收入达470亿美元。

• Anthropic公司与治理：Anthropic公益公司结构、董事会及长期利益信托基金的官方介绍。
• 负责任扩展政策3.0版：Anthropic当前用于管理日益强大AI所带来的灾难性风险的框架。
• 慈爱机器：达里奥·阿莫迪的乐观文章，探讨强大AI如何改善健康、科学、经济发展、治理和人类福祉。
• 技术的青春期：阿莫迪的配套文章，聚焦灾难性风险、经济冲击、地缘政治，以及如何渡过向强大AI转型的挑战。
• CNAS人工智能安全与网络安全演讲：2017年11月阿莫迪在OpenAI期间讨论AI安全的公开记录。

摘要

达里奥·阿莫迪表面上看似矛盾的观点确实存在，但并非像“末日预言者”标签所暗示的那样简单。他花了大约十年时间研究AI安全问题，并警告强大AI可能带来灾难性风险，同时也在帮助构建日益强大的模型。

他的公开哲学是：上行收益与下行风险密不可分。他预期强大AI将加速科学、健康、经济发展及其他形式的人类进步，但他认为这些收益取决于社会能否在过渡期幸存下来，避免灾难性滥用、失控或制度崩溃。

Anthropic已将这一世界观转化为企业使命和庞大的商业帝国。该公司在2026年5月达到9650亿美元的投后估值，并称年化收入已突破470亿美元。公司还已启动保密的S-1流程，为可能的IPO做准备。

这种商业成功使Anthropic最初的使命变得更加困难，而非更容易。公司必须证明，当持续加速的经济激励变得极为巨大时，安全治理、内部文化及其负责任扩展政策仍能保持其意义。

阿莫迪的核心赌注并非人类应在AI进步与AI安全之间做出选择，而是开发前沿AI的组织必须在同一时间兼顾二者——任何一方的失败都可能代价高昂。