ダリオ・アモデイの二面性あるAIへの賭け：破滅を警告しながら9650億ドルのAnthropicを築く

はじめに

フロンティアAIをめぐる緊張をこれほど明確に体現しているテクノロジーリーダーは、Dario Amodeiをおいて他にいないだろう。

彼は何年にもわたり、ますます高性能化するAIシステムが破滅的なリスクを生み出し、経済を不安定化させ、危険な悪用を可能にし、やがては人間が確実に制御できない行動をとるようになる可能性があると警告してきた。

同時に、彼はそのようなシステムの能力向上を最も積極的に推し進めている企業のひとつであるAnthropicの共同創業者兼CEOでもある。

その矛盾こそが、The Informationによる最近の長編プロフィールの中心テーマとなっている。この記事は、Amodeiを、AIリスクへの懸念が自社の躍進を鈍らせていない、異例なまでにミッション駆動型のCEOとして描いている。むしろ、テクノロジーの制御を失うことへの恐れこそが、Anthropicがフロンティアに留まり続けなければならないと彼が考える理由の一部なのである。

中国語の元記事は、その緊張関係を意図的に挑発的な問いへと転換している――Amodeiは「両面の終末預言者」なのか、すなわちAIが人類を破壊し得ると警告しながら、同時により強力なAIへの競争を加速させている人物なのか、と。

現実はそれほど劇的ではないが、パラドックスは本物である。

Amodeiは以下の両方を公に主張してきた：

強力なAIは前例のないリスクを生み出し得る。

そして：

強力なAIは、それらのリスクが管理されれば、人間の生活を根本的に改善し得る。

彼自身の著作からは、これらの立場に矛盾はないと彼が考えていることが明確に読み取れる。Machines of Loving Graceの中で彼は、強力なAIの潜在的な利点は、まさにリスクが大きいがゆえに計り知れない可能性があると述べている。The Adolescence of Technologyでは、社会は現在、並外れた技術力を獲得してからそれを安全に使いこなすことを学ぶまでの困難な時期に直面していると論じている。

その世界観は、Anthropicの研究、ガバナンス、文化、製品戦略、そして投資家との関係を形作ってきた。

側面A：AIは壊滅的な害をもたらし得る

元記事のプロフィールの前半は、Amodeiの異例なほど持続的なAIリスクへの注視に焦点を当てている。

The Informationによると、Anthropicの経営陣は今年前半、AIに対する一般の不安が高まる中で、同社がどのようにコミュニケーションすべきかについて議論した。

取締役会レベルの議論の一部では、医療発見やその他の社会的に有益なAI活用など、より楽観的な応用を強調することも検討されたという。

プロフィールによると、Amodeiは同社の公的なメッセージを従来型のテクノロジー業界の「魅力攻勢」に変えることに抵抗した。

その根本的な理由は彼の公の著作と一致している――深刻なリスクについて正直に語ることは、たとえそのメッセージが商業的に居心地の悪いものであっても、会社の責務の一部だと彼は信じているのだ。

Anthropicは後に、以下の点で注目を集めることになった

強力なAIの結果に関する不安を煽る問いかけを中心に構成された広告。

この記事は、その映像を、AIを販売しながら同時にAIが深刻な失敗を引き起こす可能性があると視聴者に警告する、企業の顕著な例として解釈している。

その緊張感は単なるマーケティング手法ではない。

それはAnthropicの公共政策全体にわたって見られる。

同社の現在の「責任あるスケーリング政策」は、将来のモデルが壊滅的リスクを生み出す可能性を明確に想定して設計されている。Anthropicは、モデルの能力が向上するにつれて安全策も強化されるべきだと述べており、その政策には正式な評価、リスク報告、セキュリティ、ガバナンスに関する要件が含まれている。

Amodei氏は長年にわたりAI安全に注力してきた

この記事は、Amodei氏の安全保障への懸念を、最近のブランディング戦略ではなく、10年にわたる継続的な傾向として説明している。

公の記録はその広範な主張を裏付けている。

2016年、Amodei氏は影響力のある論文**「AI安全性における具体的な問題」**の著者の一人であり、そこでは以下のような実践的な問題が提起された：

• 負の副作用の回避
• 報酬ハッキングの防止
• スケーラブルな監督
• 安全な探索
• 分布シフトへの堅牢性

これらは抽象的なSFのシナリオではなかった。この論文はAI安全性を具体的な機械学習の研究課題に変えようとした。

2017年11月、OpenAIで働いていたAmodei氏は、新アメリカ安全保障センターの人工知能・グローバル安全保障サミットでもAI安全性とサイバーセキュリティについて講演した。

この記事は、その初期の時代を用いてより大きな点を主張している：Amodei氏は、ChatGPT、Claude、エージェント、フロンティアモデルのリスクをめぐる現在の主流の議論よりはるか以前から、ますます高性能になるAIの影響について懸念していた。

彼はその後OpenAIの研究担当副社長となり、GPT-2やGPT-3を含む大規模言語モデルの開発に携わった。

彼の個人サイトでは、後に大規模言語モデルを人間の好みに合わせるための中核技術となった、人間のフィードバックからの強化学習の共同発明者としても紹介されている。

OpenAI内部での慎重姿勢

この記事はその後、The Informationが当初報じた一連の内部エピソードに移る。

これらの詳細は、独立して文書化された企業方針ではなく、元同僚や事情を知る人々による回顧的な証言として扱われるべきである。

この記事によると、Amodei氏はOpenAIの機密性の高い研究に関する情報ハザードのより厳格な審査を推進したとされる。

それは

また、2019年にOpenAIがマイクロソフトからの大型出資を交渉していた時期に、彼の安全チームが懸念を提起していたことも報じられている。

報道によると、一部の同僚はアモデイ氏のグループを過度に慎重だとみなし、理論上の将来の危険が差し迫ったビジネス上のニーズを妨げることを許していると懸念していた。

こうした緊張関係は、その後の展開を説明する上で重要である。

アモデイ氏は単に「研究者」から「スタートアップ創業者」へと移行したわけではない。

彼と数名の同僚は最終的にOpenAIを離れ、2021年にAnthropicを設立した。そこには、最先端AI開発には安全性に対する異なる制度的アプローチが必要だという信念があった。

エアギャップ・コンピュータの逸話

ソース資料の中で最も印象的な逸話のひとつは、アモデイ氏の情報セキュリティへの取り組みに関するものである。

The Information は、特にセキュリティ意識が高かった時期に、彼が機密作業用にエアギャップ・コンピュータを使用していたと報じている。

その逸話は、資料をインターネット接続システムから隔離し、通常のクラウドサービスを通じて送信するのではなく、物理的に運搬または印刷するというワークフローを描写している。

ソース資料はこれを「バンカー・メンタリティ」の証拠として解釈している。

この逸話を、今日のAnthropicの運営方法に関する普遍的な主張に変える理由はない。

しかし、公に検証可能なより広い論点とは一致している。すなわち、最先端AI研究所は、モデルの重み、研究計画、インフラストラクチャ、機密性の高い能力情報を主要なセキュリティ資産としてますます扱っているということだ。

Anthropic自身の2026年フロンティア安全ロードマップは、現在では異例に強固なセキュリティ対策について論じており、孤立ネットワークに関する探索的作業や、高度な攻撃者に対するより厳格な保護を含んでいる。

かつては風変わりに聞こえたかもしれないことが、現在では最先端研究所のセキュリティ問題として認識されている。

OpenAIとの決別とAnthropicの誕生

Anthropicは2021年に、元OpenAIの研究者およびリーダーたちのグループによって設立された。その中には、ダリオと彼の妹である ダニエラ・アモデイ も含まれており、彼女は共同創業者兼社長を務めている。

ソース資料は、この分裂を主に安全性と商業化に関する意見の相違によるものとして位置づけている。

これは、創業者たちの動機に関する長年にわたる報道とおおむね方向性が一致しているが、個々の意見の相違の詳細は「安全重視派対利益重視派」という単純な構図よりも複雑である。

Anthropicは意図的に 公益企業（Public Benefit Corporation） として設立された。

その表明された目的は、人類の長期的な利益のために高度なAIを責任を持って開発し維持することである。

同社はまた、長期利益信託（Long-Term Benefit Trust) を設立した。これは独立したガバナンス機関であり、そのメンバーはAnthropicに金銭的利害関係を持たず、財務上の成功と公益使命のバランスを取ることを支援する役割を担っている。

この構造は商業的な圧力を排除するものではない。

しかし、それが存在することは示している。

Anthropicは、使命と資本の間の緊張を、経営陣の約束だけに頼るのではなく、会社の正式なガバナンス構造に組み込もうとした。

B面：アモデイは強力なAIが世界を変革し得るとも信じている

元記事の後半は視点を反転させる。

アモデイは単なるAI悲観論者ではない。

実際、彼の公開された文章は、十分に強力なAIが達成し得ることに対して根本的に楽観的である。

2024年に発表された**『Machines of Loving Grace』**（慈愛に満ちた機械たち）の中で、彼は強力なAIが以下の分野での進歩を加速させる未来を描いている：

1. 生物学と身体的健康
2. 神経科学と精神的健康
3. 経済発展と貧困削減
4. 平和とガバナンス
5. 仕事と意味

彼は、リスクに焦点を当てることがAIが主に悪いものになると予想していることを意味するという考えを明確に否定している。

彼の議論はほぼ正反対である。

彼は、AIの恩恵が非常に大きいかもしれないため、破滅的リスクこそが、人類と異常にポジティブな未来との間に立ちはだかる主要な障害であると信じている。

それが彼の「二つの側面」をつなぐ概念的な架け橋である。

AIは異常に良いものになり得る
＋
AIは異常に危険なものになり得る
＝
それを構築するが、それに耐えられる制度も構築する

「彼の頭の中にはシンギュラリティがある」

元記事は、Anthropicの従業員や投資家が、アモデイのリーダーシップスタイルを説明するためにほとんど宗教的な言葉を用いていると述べている。

The Informationによれば、会社周辺の一部の人々は、彼を従来型の事業執行CEOというよりは、AIの能力が急激に加速したときに何が起こるかに焦点を当てた長期的視野の知的リーダーと見なしている。

この記事によると、彼は多くの通常の組織的決定を委任する一方で、以下のことについて考えることにかなりの時間を費やしている：

• AIの進歩
• 経済
• 政治
• 戦争
• 社会変革
• 長期的な技術の軌道

また、AI主導の成長速度と労働市場の混乱に関する社内の経済モデリングについても言及している。

これらの具体的な社内数値はThe Informationによって報じられたものであり、Anthropicの公式な経済予測と混同すべきではない。

しかし、より広いテーマは独立して見て取れる。

Anthropicは、Claudeが実際の仕事をどのように変えているかを研究するために、専任の経済研究チームとAnthropic Economic Index（アンソロピック経済指数）を構築した。

2026年にはAnthropic Institute（アンソロピック研究所）も立ち上げ、経済研究、最先端レッドチーミング、社会的影響に関する研究を統合し、急速に向上するAIが雇用、制度、法律、安全保障、ガバナンスにどのような影響を与え得るかを研究している。

したがって、同社は高度なAIの経済的影響を遠い周辺問題として扱っていない。

それを中核的な研究課題として投資しているのである。

ダリオの公開された文章は「終末論」と盲目的楽観論の両方を退ける

元記事の「終末予言者のリーダー」という枠組みは印象的だが、アモデイ自身の文章はより微妙である。

『The Adolescence of Technology』（技術の思春期）の中で、彼は**終末論（ドゥーマリズム）**に対して明確に警告している。

彼は、AIリスクを不可避の破滅という宗教的な予言のように扱うことは無益だと主張する。

彼は*『Machines of Loving Grace』*の中で対称的な議論を展開している：救済の物語も同様に歪曲をもたらし得ると。

彼が好む枠組みは分析的である：

根本的に

upside seriously
take severe downside seriously
acknowledge uncertainty
intervene where evidence supports intervention

だからといって、彼の予測が控えめというわけではない。

彼は、多くの分野でトップクラスの人間の専門家を上回る能力を持つAIが、数年以内に登場する可能性があると繰り返し示唆してきた。

Anthropicの公開政策文書でも、極めて強力なシステムの可能性について議論する際に、2026年末から2027年初頭というタイムラインが使用されている。

時期をめぐる不確実性は依然として大きい。

しかし、彼の戦略的判断は、その可能性に対して即座の準備が必要であることを明確に前提としている。

ミッションを中心に据えたリーダーシップスタイル

元の記事は、Anthropicの社内文化を異例に劇的な表現で描写している。それは、一般的なシリコンバレーのスタートアップというよりも、ミッション重視の組織に近いものだ。

従業員は、報酬やキャリアアップのためだけではなく、仕事に異常に高いステークがあると信じているからこそ入社するという描かれ方をしている。

そうした報道は、何千人もの従業員に一般化するのが本質的に難しい。

それでも、Anthropicの正式な採用言語や公開された研究プログラムは、安全性、解釈可能性、社会的影響、破局的リスク低減に特別な重点を置いている。

同社は、より多くの人材を技術的なAI安全性の仕事に引き込むことを目的とした研究プログラムやフェローシッププログラムを運営している。

また、そのガバナンス構造も、従来の投資家による所有と並行して、公共の利益を目的としたミッションを維持しようとしている。

問題は、Anthropicが劇的に規模を拡大するにつれて、その文化が無傷で維持できるかどうかだ。

そこで、元の記事のビジネスセクションが重要になってくる。

AI安全スタートアップから9650億ドルの企業へ

Anthropicの商業的成長は驚異的だ。

2026年5月28日、Anthropicは650億ドルのシリーズHラウンドを発表した。

このラウンドで、同社の評価額は次のようになった：

ポストマネー評価額9650億ドル

また、同社は実行率ベースの売上高が、その月の初めに次の水準を超えたと発表した：

470億ドル

実行率ベースの売上高と年間売上高の区別は重要だ。

「470億ドルの実行率ベースの売上高」とは、当時の現在の売上ペースを年間換算したものが470億ドルを超えていたことを意味する。

これは、Anthropicが完了した会計年度においてすでに470億ドルの売上高を認識していたことを意味するわけではない。

それでも、この成長は、投資家がフロンティアAI企業に異常な評価額を付けることをいとわない理由を示している。

Anthropicによると、Claudeの企業導入は急速に拡大しており、Claude Codeやその他のワークプレイスツールなどの製品に対する大きな需要があるという。

9650億ドルの評価額は公式発表

多くの非公開企業の評価額に関する噂とは異なり、この数字は単なるメディアの推計ではない。

Anthropic自身がポストマネー評価額9650億ドルを発表した。

同社は資金調達を発表した。

以下は、提供された内容の日本語訳です。

サポート対象:

• 安全性と解釈可能性に関する研究。
• より多くの計算リソース。
• Claude製品。
• インフラストラクチャ。
• パートナーシップ。
• 増大する需要への対応能力。

元の記事は、その規模を強調するために、評価額を主要な公開テクノロジー企業と比較しています。

これらの比較は、プライベートな資金調達ラウンドの評価額と公開企業の時価総額は同一の財務指標ではないため、注意深く扱うべきです。

直接言えることは、Anthropicがこれまでに報告された民間企業の評価額の中で最大級のものに達したということです。

AnthropicはIPOプロセスも開始している

情報源は、投資家がAnthropicの大規模なIPOにすでに備えていると示しています。

IPOプロセスが進行中であると言える公式な根拠があります。

2026年6月1日、Anthropicは、米国証券取引委員会にフォームS-1登録届出書のドラフトを機密扱いで提出したことを発表しました。

これにより、同社はSECの審査後、公募を行う選択肢を得ることができます。

Anthropicはまた、以下の点を明確にしました:

• 最終的なIPOの時期は設定されていない。
• 株式数は設定されていない。
• 公募価格は設定されていない。
• いかなるIPOも市場環境やその他の要因に依存する。

したがって、「AnthropicはIPOの可能性に備えている」という表現は正確です。

具体的な上場日は未確定のままです。

投資家はミッション重視のCEOを購入している

情報源における最も興味深い投資家の緊張関係は、Anthropicが成長できるかどうかではありません。

それは、Amodeiが公開市場の投資家が所有することに慣れているようなCEOのように考えているかどうかです。

The Information は、一部の投資家が同社の並外れた商業的業績を称賛する一方で、文明規模のリスクについて議論することに多くの時間を費やすリーダーに不安を感じていると報じています。

その懸念は双方の立場から理解できます。

一般的な投資家は以下を優先するかもしれません:

収益
利益率
成長
市場シェア
資本効率
株主還元

Amodeiの公言する優先事項は、追加の変数を加えます:

壊滅的リスク
モデルのセキュリティ
アラインメント
経済的変位
ガバナンス
国家安全保障
長期的な人類の成果

これらの目標は常に矛盾するわけではありません。

安全な製品は信頼を築くことができます。強固なセキュリティは知的財産を保護できます。責任ある展開は、規制上および風評上のリスクを軽減できます。

しかし、矛盾する瞬間があるかもしれません。

Anthropicの中心的な制度的実験は、経済的インセンティブが巨大化したときに、1兆ドル規模に迫る企業が意味のある安全ミッションを維持できるかどうかです。

責任あるスケーリングポリシーがトレードオフを具体的にする

Anthropicの責任あるスケーリングポリシー（現在はバージョン3.0）は、最も明確な公式な例の1つを提供します。

このポリシーは、モデルがより高性能になるにつれて、壊滅的リスクを管理するために設計されています。

単一の恒久的なルールに依存するのではなく、Anthropicは以下を使用します:

• フロンティア安全性ロードマップ。
• リスクレポート。
• 能力評価。
• 外部レビュー。
• ガバナンスプロセス。
• 段階的な安全策。

RSPの初期バージョンには、必要な安全策が準備できていない場合に、展開やスケーリングを遅延させるという明示的なコミットメントが含まれていました。

現在のバージョンは進化していますが、中核となるアイデアは変わりません:

能力提升应当伴随着更强大的风险管理体系。

这正是阿莫迪的理念从口号走向实践的地方。

该公司正在试图构建一套机制，在前沿模型变得危险时能够约束自身行为。

在激烈竞争下，这些机制是否仍能保持足够强大，才是更难回答的问题。

“一边踩油门，一边找刹车”

原文以核心隐喻作结。

为了防止危险的人工智能被不负责任地制造出来，阿莫迪认为，他的公司必须保持能力，能够自行制造世界上最先进的人工智能。

这产生了一个悖论：

技术可能是危险的。
↓
落后也可能是危险的。
↓
因此Anthropic必须继续前进。
↓
随着能力提升，它所担忧的风险也随之上升。

在这种世界观下，拒绝参与并不会阻止前沿AI的发展。

那可能只是把领导权转移给另一个动机不同或保障较弱的组织。

因此，阿莫迪的策略并不是“永远放慢一切”。

它更接近于：

保持在前沿附近
了解即将到来的事物
构建更强大的保障
影响政策
准备制度
努力让技术保持有益

批评者完全可以质疑，一家公司能否客观评估一项同时也为自己带来巨额收入的技术所产生的风险。

支持者也可以合理地主张，前沿实验室掌握着社会理解这些风险所需的信息和技术能力。

随着Anthropic的壮大，这两个问题都变得更加紧迫。

公司治理围绕这一冲突而设计

Anthropic的公共利益公司架构和长期利益信托，正是试图在制度层面回答同一个悖论。

长期利益信托在董事会治理中扮演角色，其存在的目的正是维护公司的公共利益使命。

Anthropic表示，信托成员在公司中不持有经济利益。

这并不赋予信托对每一项公司决策的无限权力。

但它确实在治理结构中创建了一个正式的成员群体，其目的不仅仅是最大化投资者回报。

目前的Anthropic董事会成员包括达里奥·阿莫迪、丹妮拉·阿莫迪、外部投资者以及独立的商业领袖。

因此，该公司的治理最好被理解为一个持续进行的实验，而非使命已永久受到保护的证明。

安全与商业成功如今密不可分

原文将该公司描绘为一座运行着飞速加速的赚钱机器的“神殿”。

更实际的解读是，Anthropic的安全战略和商业战略已经深度交织在一起。

企业客户关注的是：

• 可靠性。
• 安全性。
• 数据处理。
• 治理。
• 可预测性。
• 模型行为。

因此，Anthropic对安全的重视在商业上可能是有用的。

与此同时，企业采用的收入为以下方面提供资金：

• 前沿模型训练。
• 安全研究。
• 可解释性工作。
• 安全性。
• 红队测试。
• 经济

研究。

• 政策業務。

これによりフィードバックループが生まれる。

より優れたモデル
→ より多くの顧客
→ より多くの資本と計算資源
→ より高性能なモデル
→ より大きな安全性の課題
→ 安全対策へのさらなる投資

未解決の問いは、そのループの安全対策側が、能力や収益の側と同じ速さで拡大できるかどうかである。

「ドゥーマー」というレッテルよりも、2つのエッセイがその二面性を明確に示す

アモデイの世界観を簡潔に理解する方法があるとすれば、彼の主要な2つのエッセイを合わせて読むことだ。

『愛に満ちた優雅な機械たち』

これは楽観的な側面である。

アモデイは、強力なAIが医学、神経科学、経済発展、ガバナンス、人類の福祉における進歩を劇的に加速させ得ると主張する。

『テクノロジーの思春期』

これはリスクの側面である。

彼は、人類が危険な移行期に入りつつあり、その期間中に、制度がその力を確実に扱うほど成熟する前に、巨大な技術力を獲得する可能性があると論じる。

この2つのエッセイは対立するものではない。

それらは一つのモデルの二つの半分である。

並外れた能力
+
未熟な制度
=
並外れた機会と並外れたリスクが同時に存在する

これこそが、「終末カルト」という比喩よりも、Anthropicをより明確に描写している。

確認された事実と、プロフィール報道に由来する事実

よくある質問

ダリオ・アモデイはなぜAI「ドゥーマー」と呼ばれるのか？

そのレッテルは、ますます強力になるAIによる壊滅的リスクについて繰り返し警告していることに由来する。

Amodei自身は悲観的な「ドゥーマリズム」を拒否し、人類が移行をうまく管理できればAIは莫大な利益をもたらす可能性があると主張している。

リスクがあると考えるなら、なぜDario Amodeiはより強力なAIを作り続けるのか？

彼の公的な立場は、Anthropicが参加するかどうかに関わらず、フロンティアAI開発はおそらく続くだろうというものだ。フロンティアに近い位置に留まることで、Anthropicはリスクを理解し、安全策を開発し、基準に影響を与え、有益なアプリケーションを構築する機会を得られると彼は考えている。

Anthropicの価値はいくらか？

Anthropicは2026年5月にシリーズHラウンドで650億ドルを調達し、評価額は9,650億ドル（ポストマネー）と発表した。これは非公開企業の資金調達時の評価額であり、公開株式市場の時価総額ではない。

Anthropicは本当に年間470億ドルを稼いでいるのか？

Anthropicは2026年5月にランレート売上高が470億ドルを超えたと発表した。ランレート売上高は現在の売上ペースを年換算したものであり、完了した通年の認識済み売上高と混同すべきではない。

Anthropicは上場するのか？

Anthropicは2026年6月1日にSECにドラフト版S-1を機密提出し、審査後にIPOを進める選択肢を得ている。同社はまだ株式数、公開価格、最終上場日を正式に決定していない。

Anthropicの「Responsible Scaling Policy」とは何か？

RSPは、高度なAIシステムによる壊滅的リスクを管理するためのAnthropicの自主的枠組みである。バージョン3.0では、安全性ロードマップ、リスク報告書、ガバナンスプロセス、外部レビュー、能力評価を用いて、モデルの能力向上とより強力な安全策を結び付けている。

「Long-Term Benefit Trust」とは何か？

Long-Term Benefit Trustは、Anthropicが財務的成功と公共利益ミッションのバランスを取るのを支援する独立したガバナンス機関である。Anthropicによると、トラストメンバーは会社に金銭的利害を持たず、取締役会ガバナンスに参加している。

Dario AmodeiはAIについて楽観的か悲観的か？

どちらのレッテルも不完全である。彼の著作は、強力なAIの利益については非常に楽観的であり、壊滅的な誤用、不整合、経済的混乱、地政学的影響については非常に懸念している。

関連ツール

• Claude：執筆、分析、コーディング、調査、専門業務のためのAnthropicの汎用AIアシスタント。
• Claude Code：Anthropicのエージェント型コーディング製品であり、エンタープライズ導入の主要な推進力。
• Anthropic API：Claudeモデルでアプリケーションやエージェントを構築するための開発者プラットフォーム。
• Anthropic Economic Index：Claudeが職種、タスク、業界、国を超えてどのように使用されているかを追跡するAnthropicの調査プログラム。
• Anthropic Transparency Hub：モデルの安全性、リスク評価、ガバナンス、自主的コミットメントに関する公開情報。

関連リンク

• The Information Profile：Cory Weinberg、Stephanie Palazzolo、Amir Efratiによる長編プロフィールで、元記事の多くの根拠となっている。

Anthropic シリーズH発表: 650億ドルの資金調達、評価額9650億ドル、年間ベース収益470億ドルの公式確認。

• Anthropicの会社概要とガバナンス: Anthropicの公益法人としての構造、取締役会、長期利益信託に関する公式説明。
• 責任あるスケーリングポリシー バージョン3.0: 高度化するAIによる破滅的リスクを管理するためのAnthropicの現行フレームワーク。
• Machines of Loving Grace: 強力なAIが医療、科学、経済発展、ガバナンス、人類の福祉をどう向上させ得るかについてのDario Amodeiによる楽観的なエッセイ。
• テクノロジーの思春期: 破滅的リスク、経済的混乱、地政学、そして強力なAIへの移行を乗り越えるという課題に焦点を当てたAmodeiの姉妹エッセイ。
• CNAS AI安全性・サイバーセキュリティ講演: AmodeiがOpenAI在籍時にAI安全性について議論した2017年11月の公開記録。

要約

Dario Amodeiの見かけ上の矛盾は現実のものだが、「破滅論者」というレッテルが示唆するほど単純ではない。彼は約10年にわたりAI安全性の問題に取り組み、強力なAIが破滅的リスクを生み出し得ると警告しながら、同時にますます高性能なモデルの構築を支援してきた。

彼の公の哲学は、利点とリスクが表裏一体だというものだ。彼は強力なAIが科学、医療、経済発展、その他さまざまな形での人類の進歩を加速すると期待しているが、その恩恵は、破滅的な悪用、制御不能、制度の失敗を起こさずに移行期を乗り越えられるかどうかにかかっていると信じている。

Anthropicはその世界観を企業ミッションであると同時に巨大なビジネスへと変えた。同社は2026年5月に評価額9650億ドル（ポストマネー）に達し、年間ベース収益が470億ドルを超えたと発表した。また、IPOの可能性に向けた機密S-1プロセスも開始している。

この商業的成功は、Anthropicの当初のミッションを容易にするどころか、より困難なものにしている。同社は、加速を続ける金銭的インセンティブが異常なほど大きくなったとき、安全性のガバナンス、内部文化、そして責任あるスケーリングポリシーが引き続き意味を持ち得ることを証明しなければならない。

Amodeiの中心的賭けは、人類がAIの進歩とAIの安全性のどちらかを選ぶべきだというものではない。フロンティアを構築する組織が何とかしてその両方を同時に成し遂げなければならず、どちらか一方の失敗が大きな代償を伴い得るというものだ。