Cerebras上のGPT-5.6 Sol：毎秒750トークンとマルチウェーハ実装理論

はじめに

GPT-5.6 Solは、フロンティアモデルに関する議論を、単なる性能から、同じく重要な要素である応答速度へとシフトさせています。

OpenAIは、GPT-5.6 SolがCerebrasインフラ上で最大毎秒750トークンで動作可能であると発表しました。この速度では、AIシステムはもはや動作のたびに停止するツールとは感じられません。コーディングエージェント、ブラウザ操作エージェント、リサーチアシスタント、コンピュータ操作システムは、意思決定間の待ち時間を大幅に減らしながら、マルチステップのワークフローを実行できます。

この見出しとなる数値は公式です。しかし、その周辺で議論されているアーキテクチャの詳細の多くは公式ではありません。このモデルが約3兆のパラメータを持つ、70から100のウェハースケールシステムにまたがる、あるいは各ウェハーに1ネットワーク層を割り当てるといった推定は、公開されたOpenAIの仕様ではなく、外部の技術分析に基づいています。

本稿では、この区別を明確にします。何が確認され、何がもっともらしい工学的理論にとどまるのか、そしてGPT-5.6とウェハースケール推論の組み合わせがリアルタイムAIにとってなぜ重要なのかを説明します。

毎秒750トークンが重要な理由

毎秒750トークンのスループットは、人々が実際にAIシステムを使用する方法と比較して初めてその価値が理解できます。

かつて一行ずつ表示されていた長い回答が、今ではほぼ即座に生成されます。さらに重要なのは、モデルが内部推論、ツール呼び出し、コード生成、インターフェース操作、フォローアップの意思決定をはるかに高速に実行できる点です。その利点は、単にテキストが早く届くことだけではありません。エージェント全体のループがより応答性の高いものになります。

この変化は、以下のようなワークフローで重要です。

• コードの編集とテストの繰り返し
• ウェブサイトやソフトウェアインターフェースの操作
• 複数の情報源にわたる調査の実行
• 複数のツールやサブエージェントの調整
• ライブの音声または視覚的な対話への応答
• 長いコンピュータ操作アクションの連続の完了

従来のチャットでは、短い遅延は許容されるかもしれません。しかし、ボタンをクリックし、結果を確認し、計画を修正し、継続しなければならないエージェントにとっては、ラウンドトリップごとに摩擦が生じます。高速推論は、その蓄積されたレイテンシーを削減します。

開発者のCaleb Shepherd氏は、GPT-5.6 Solをめぐる議論の中でこの違いを強調しました。最も重要な利点は、コード生成が高速化されることだけでなく、コンピュータ操作が高速化されることです。エージェントは、単純なインターフェース操作の連続を完了するのに、もはや数分を要するべきではありません。

モデルサイズに関する疑問

この速度に関する主張は直ちに技術的な疑問を提起した。最先端のマルチモーダルモデルが、どのようにしてウェハースケールのハードウェア上でこれほど高速に動作するのかという点である。

公開されているOpenAIのドキュメントによると、GPT-5.6 SolはGPT-5.6ファミリーの最先端モデルであり、テキストと画像の入力、105万トークンのコンテキストウィンドウ、最大12万8000の出力トークンを備えている。しかし、モデルのパラメータ数、アクティブパラメータ数、レイヤー数、アテンション設計、物理的なデプロイメントトポロジーは公開されていない。

この情報不足により、開発者やインフラ専門家はCerebrasハードウェアに関する既知の情報から逆算せざるを得なかった。

Peter Gostev氏は核心的な問題を次のように要約している。GPT-5.6 Solが縮小版ではなくフルマルチモーダルモデルである場合、単一のウェハースケールシステムに収めるには大きすぎる可能性がある。残された可能性としては、予想よりも小さいモデル、新しいハードウェア構成、またはマルチシステムによるサービングアーキテクチャが考えられる。

GPT-5.6 Solは70～100枚のウェハーにまたがる可能性があるか？

広く議論された推計の一つは、技術専門家Bleys Goodson氏によるものである。彼の分析では、GPT-5.6 Solの可能性として以下のように提案されている。

• 総パラメータ数は約2～4兆
• トークンあたりのアクティブパラメータは約1,500億
• モデルレイヤー数は約70～90層
• デプロイメントは70～100基のCerebrasウェハースケールシステムに分散

これらの数値は公式な仕様ではない。モデルサービングの制約、メモリ要件、およびCerebrasクラスターが非常に大規模なモデルを複数のシステムに分散できる既知の能力に基づいたエンジニアリングによる推定である。

この理論で注目すべき点は、単にウェハー数だけではない。モデルアーキテクチャとハードウェアの間の想定されるマッピングにある。

「1ウェハー・1レイヤー」デプロイメント理論

提案されている設計では、主要なネットワークレイヤーごとに独自のウェハースケールシステムが割り当てられる。アクティベーションはパイプラインとしてウェハー間を移動し、各ウェハーは自身のレイヤーに割り当てられた計算を実行する。

従来の分散GPUデプロイメントでは、モデル実行には複雑なテンソル並列処理、エキスパート並列処理、およびノード間の頻繁な通信が伴う可能性がある。通信オーバーヘッドは、特にモデルが大規模で、最大バッチスループットではなく低レイテンシを目標とする場合に、深刻なボトルネックとなる可能性がある。

レイヤー単位のウェハーパイプラインは、異なるアプローチを取る。パイプラインがいっぱいになると、複数のトークンを異なるステージで同時に処理できるようになる。ステージを追加することで

最初のトークンが現れるまでの遅延は発生するものの、定常状態におけるトークンスループットが同じ割合で低下するとは限りません。

これは、非常に大規模なモデルが生成を開始した後も高速性を維持できる理由を説明する一助となります。また、デプロイメントにコストがかかる可能性がある理由も説明します。高い逐次処理速度を達成するには、単一のモデルレプリカに非常に大量のハードウェアを専有する必要があるからです。

引用元の記事では、外部のトークノミクス推定値を引用して、GPT-5.6 Solを3兆パラメータのシステムとしてモデル化し、ある仮定の下で約70個のウェハースケールシステムを必要とするとしています。

重要: 70～100個のウェハーという推定と「レイヤーあたり1ウェハー」という記述は、情報に基づいた推測のままです。OpenAIとCerebrasは、この物理的なトポロジーを公に確認していません。

KVキャッシュが重要な制約となる理由

計算は問題の一部に過ぎません。自己回帰モデルは、KVキャッシュと呼ばれるキー・バリューキャッシュも維持するため、以前のトークンからの情報を再利用し、シーケンス全体を再計算する必要がありません。

長いコンテキストを持つモデルの場合、このキャッシュは大量のメモリを消費する可能性があります。システムが多数の同時リクエストをサポートしなければならない場合、この課題はさらに深刻になります。

Cerebrasのウェハースケールプロセッサは、大量の高速オンチップSRAMを搭載しています。このメモリは卓越した帯域幅を提供しますが、それでも限られた貴重なリソースです。従来のアテンションアーキテクチャでKVキャッシュのフットプリントが大きいと、容量を過剰に消費し、処理をプロセッサに近づけておく利点を減少させる可能性があります。

このことから、GPT-5.6 Solは、より低いキャッシュ要件を中心に設計されたアーキテクチャを使用している可能性があるという理論が導かれます。引用元で議論されている可能性としては、以下のものがあります。

1. 高度に圧縮された、または最適化されたKVキャッシュ設計
2. グループ化クエリアテンション、マルチクエリアテンション、または潜在アテンション技術
3. トランスフォーマーレイヤーとステートスペースコンポーネントを組み合わせたハイブリッドアーキテクチャ
4. 生成トークンあたりのメモリトラフィックを削減する、その他のハードウェアを意識した変更

正確な設計は不明です。OpenAIは、これらの方法のいずれか、またはすべてが使用されているかどうかを判断するのに十分なアーキテクチャの詳細を公開していません。

確実に言えることは、この規模になるとハードウェアとソフトウェアの共同設計の重要性がますます高まるということです。汎用アクセラレータクラスタのみに最適化されたモデルは、ウェハースケールシステム上で大きなパフォーマンスを活用できない可能性があります。

アテンションとFFN計算は分割できるか？

別の仮説として、モデルの異なる部分を異なるハードウェアが処理できる可能性があります。

Transformer推論は、大きく分けて2つのカテゴリの処理によって占められています。

• アテンション: トークン間の関係を処理し、シーケンス長とキャッシュ動作に強く影響されます。
• フィードフォワードネットワーク計算: 多くの場合、計算量が非常に多く、モデルパラメータのかなりの部分を占めます。

パラメータ

開発者のJohn Lam氏は、従来のアクセラレータがアテンションを処理し、Cerebrasシステムがフィードフォワードネットワーク層を処理する可能性があると示唆しました。このようなアテンション-FFN分解により、各ワークロードを最適なハードウェアアーキテクチャに割り当てることができます。

繰り返しますが、これは仮説であり、開示されたGPT-5.6のデプロイ詳細ではありません。技術的に関連性があるのは、異種推論システムが実用的になりつつあるからです。プロバイダは、1つのアクセラレータがすべての演算を均等に実行できると期待する代わりに、モデルを専門化された計算、メモリ、ネットワーキングシステムに分割できます。

その代償は、システムの複雑性が増すことです。スケジューリング、アクティベーション転送、フォールトハンドリング、レイテンシ制御はすべて、リクエストが複数種類のハードウェアをまたぐ場合、より困難になります。

Kimi K2.6の先例

Cerebrasは、ウェハースケールシステムが非常に大規模な混合専門家モデルを異常な高速で提供できることをすでに実証しています。

Cerebrasは、Kimi K2.6に関する公式資料で、1兆パラメータのオープンウェイトモデルを毎秒約1,000トークンで提供していると説明しています。同社は、モデルの重みを複数のウェハーに分散し、アクティベーションをそれらの間でストリーミングできると述べています。また、カスタムカーネルと投機的復号化によってサポートされ、元の重みを低精度で保存し、高精度で計算することも説明しています。

これは、マルチウェハー推論が現実的かつ運用可能であることを示す重要な証拠です。ただし、GPT-5.6 Solが同じ構成、同じ精度戦略、同じモデル分割を使用していることを証明するものではありません。

このKimiのデプロイは、CerebrasがOpenAIのレイテンシ戦略にとってなぜ重要なのかを示しています。ウェハースケールシステムは、非常に高いオンデバイス帯域幅と、多数の個別アクセラレータパッケージ間の通信への依存度の低減を基に構築されています。

OpenAIが2026年1月に発表したパートナーシップでは、同社が750 MWの超低レイテンシCerebrasコンピューティングを追加する計画であると述べられていました。目的は明白で、推論レイテンシを低減し、インタラクティブAIをより即応的にすることでした。

GPT-5.6 Solと限定的な高速アクセス

OpenAIは当初、CerebrasをバックエンドとするGPT-5.6 Solのバージョンを、容量拡大中の間、一部の顧客向けに限定ロールアウトすると説明していました。

その制限は理解できます。各モデルレプリカに数十のウェハースケールシステムを専有するデプロイは、コストがかかり、容量に制約があり、

即時スケーリングが難しい。そのため、レイテンシに直接的なビジネス価値があるワークロードに対して、高速アクセスが優先的に位置づけられる可能性がある。

例としては以下が挙げられる：

• インタラクティブなコーディングエージェント
• ライブカスタマーサポートシステム
• 金融・業務調査エージェント
• ツール呼び出しを繰り返す科学ワークフロー
• 音声およびコンピュータ利用アプリケーション
• 高価値のエンタープライズ自動化

OpenAIの現行GPT-5.6ドキュメントには、対応する製品およびAPIアクセス全体でSol、Terra、Lunaがリストされている。Cerebrasを搭載した特別な毎秒750トークン構成は、標準的なGPT-5.6アクセスとは異なる容量、利用資格、またはルーティング制約が別途存在する可能性がある。

Jalapeño：OpenAIのカスタム推論チップ

Cerebrasとの提携は、より広範なOpenAIのインフラ戦略の中に位置づけられる。

2026年6月、OpenAIとBroadcomは、OpenAI初のインテリジェンスプロセッサであるJalapeñoを正式に発表した。これは、従来のワークロードから派生した汎用プロセッサではなく、最新のLLM推論のためにゼロから設計されたカスタムアクセラレータである。

OpenAIによると、このチップは同社のモデルロードマップ、カーネル、サービングシステム、メモリ移動、ネットワーキング要件、製品ニーズに基づいて設計されたという。Broadcomはシリコン実装とネットワーキングの専門知識を提供し、Celesticaはボードおよびラックレベルの統合を支援する。

OpenAIはまた、最初のチップが初期設計から製造テープアウトまで9ヶ月で完了し、AIモデルが設計と最適化プロセスの一部を支援したと述べている。

すでにいくつかの点が確認されている：

• JalapeñoはLLM推論のために設計されている
• 業界全体の現在および将来のモデルをサポートすることを目的としている
• エンジニアリングサンプルがラボで機械学習ワークロードを実行中
• 現在の最先端システムと比較して、大幅に優れた電力効率が期待される
• より詳細な技術パフォーマンスレポートが計画されている
• このプラットフォームはマルチジェネレーションロードマップの一部である

JalapeñoによってCerebrasとの提携が不要になるわけではない。むしろ、これら2つの取り組みは補完的なものとして理解できる。CerebrasはOpenAIに確立された超低レイテンシアーキテクチャへのアクセスを提供し、Jalapeñoは自社の推論スタックに対する長期的な制御を強化する。

OpenAIのフルスタックインフラ戦略

より大きな変化は明らかだ：フロンティアAI企業は、もはやハードウェアをモデルの下にある中立的な層として扱っていない。

OpenAIは現在、以下の領域にわたって取り組んでいる：

• モデルアーキテクチャ
• トレーニングおよび推論カーネル
• メモリシステム
• ネットワーキング
• スケジューリング
• デプロイメントインフラ
• カスタムシリコン
• エンドユーザー製品

これにより、同社は共通の目標に向けてスタック全体を最適化できる。モデルアーキテクチャの変更でメモリ負荷を軽減できる。モデルの最も一般的なカーネルに合わせてチップを設計できる。最も重要なアクティベーションとパラメータ移動パターンに合わせてネットワーキングを選択できる。サービングシステムは、これらの利点を低レイテンシまたは低コストとして公開できる。

その結果、フィードバックループが生まれる：

1. より優れたモデルがエンジニアのインフラ設計と最適化を支援する。
2. より優れたインフラにより、トレーニングと推論の効率が向上する。
3. 効率向上により、より大規模または高速なモデルの提供が可能になる。
4. より高速で、より

高性能なモデルは、より優れた製品と、より多くの利用を生み出します。
5. 利用の増加が、次世代インフラへの資金を生み出す。

したがって、毎秒750トークンを処理するGPT-5.6 Sol構成は、単なる速度の実証ではありません。これは、モデル、ハードウェア、ネットワーク、およびサーバソフトウェアを一つのシステムとして設計した事例です。

確認されたことと、依然として推測の段階にあるものは？

公式情報源により確認済み

• OpenAIは、Sol、Terra、Lunaを含むGPT-5.6ファミリーを発表しました。
• GPT-5.6 Solは、このファミリーの最前線モデルです。
• OpenAIは、Cerebras上で最大毎秒750トークンのGPT-5.6 Solを発表しました。
• OpenAIとCerebrasは、超低遅延推論に特化した大規模なインフラパートナーシップを結んでいます。
• Cerebrasは、1兆パラメータのKimi K2.6モデルに対して、毎秒約1,000トークンの処理を実証しました。
• OpenAIとBroadcomは、LLM推論アクセラレータ「Jalapeño」を発表しました。
• Jalapeñoは、OpenAI、Broadcom、Celesticaの支援を受けて設計されました。

公には確認されていない事項

• GPT-5.6 Solの総パラメータ数
• トークンあたりのアクティブパラメータ数
• モデルの正確なレイヤー数
• 70～100枚のウェハーへの正確な展開
• 1レイヤーにつき1ウェハーという厳密なマッピング
• ハイブリッド状態空間アーキテクチャ
• DeepSeekスタイルのキャッシュ技術の使用
• GPU上でのアテンションとCerebras上でのFFNの分割

これらのカテゴリを区別して扱うことが不可欠です。推測に関するアイデアは技術的に妥当であり、システム設計の問題を理解する上で有用ですが、公式のGPT-5.6仕様として提示されるべきではありません。

FAQ

GPT-5.6 Solとは何ですか？

GPT-5.6 Solは、OpenAIのGPT-5.6ファミリーにおける最前線モデルです。OpenAIは、コーディング、研究、コンピュータ利用、科学、サイバーセキュリティなど、要求の厳しいエージェントワークフロー向けの複雑な専門業務に位置づけています。

GPT-5.6 Solは公式に毎秒750トークンで動作していますか？

OpenAIは、Cerebrasを搭載したGPT-5.6 Sol構成が最大毎秒750トークンで動作可能であると発表しています。実際のアプリケーション速度は、プロンプトのサイズ、ツールの使用、推論設定、ネットワーク遅延、キャパシティによって変わる可能性があります。

GPT-5.6 Solは本当に100枚のCerebrasウェハーを使用していますか？

その数字は、公式のアーキテクチャ公開ではなく、外部の技術的推定に基づいています。OpenAIとCerebrasは、モデルのウェハー数や正確な物理的な展開設計を確認していません。

「1レイヤーにつき1ウェハー」とはどういう意味ですか？

これは、各ウェハースケールシステムが主要なモデルレイヤーを保持し計算し、アクティベーションを次のステージに渡すパイプラインを表しています。この設計は、パイプラインが満たされた後も高いトークンスループットを維持できる可能性がありますが、GPT-5.6 Solに関する理論であり、確認された事実ではありません。

なぜKVキャッシュサイズがウェハースケール推論にとって重要なのですか？

KVキャッシュは、コンテキスト長、モデルアーキテクチャ、バッチサイズ、同時ユーザー数に応じて増加します。オンチップメモリが非常に高速であっても容量には限りがあるため、低遅延サービスにはキャッシュサイズとメモリ移動の削減が不可欠となる場合があります。

CerebrasはGPUクラスターよりも高速ですか？

Cerebrasは、特定の推論ワークロードにおいて大幅に高速になる可能性があります。そのウェハースケールアーキテクチャは、高いオンデバイス帯域幅を提供し、一部の通信オーバーヘッドを回避するためです。

マルチGPUシステムに見られる。パフォーマンスは依然として、モデル、バッチサイズ、精度、コンテキスト、およびサービング構成に依存する。

OpenAIのJalapeñoチップとは？

Jalapeñoは、OpenAIがBroadcomと共同開発した、LLM推論向け初のカスタムインテリジェンスプロセッサである。OpenAIは、これがマルチジェネレーションのフルスタックコンピューティングプラットフォームの一部であり、パフォーマンス、効率性、スケーラビリティの向上を目的として設計されていると述べている。

開発者はGPT-5.6 SolにAPI経由でアクセスできるか？

はい。OpenAIのAPIドキュメントにはGPT-5.6 Solがリストされており、gpt-5.6がSol階層にルーティングされるエイリアスとして識別されている。利用可能性、レート制限、価格、およびサポートされる機能は、開発者アカウントと現在のAPI利用規約に依存する。

関連ツール

• OpenAI API: GPT-5.6モデル、ツール、構造化出力、エージェントワークフローを使用したアプリケーションを構築。
• OpenAI Playground: 実装前にモデルプロンプト、推論設定、API動作をテスト。
• Cerebras Cloud: Cerebrasウェハースケールシステムによる高速推論にアクセス。
• ChatGPT: OpenAIの会話インターフェースを通じて、サポートされているGPT-5.6推論オプションを使用。
• Codex: GPTモデルをコーディング、リポジトリ作業、長期実行ソフトウェアタスクに適用。

関連リンク

• GPT-5.6公式発表: GPT-5.6ファミリー、機能、価格、入手可能性に関するOpenAIの公式概要。
• GPT-5.6 Sol APIモデルドキュメント: 公式のコンテキスト制限、価格、モダリティ、エンドポイント、サポートツール。
• OpenAIとCerebrasの提携: OpenAIによる750MWの超低遅延Cerebrasコンピュートの発表。
• Cerebras Kimi K2.6 エンタープライズ推論: 1兆パラメータモデルを毎秒約1,000トークンで提供する詳細。
• OpenAIとBroadcomがJalapeñoを発表: OpenAI初のカスタムLLM推論プロセッサの公式発表。
• GPT-5.6デプロイメント安全性ハブ: GPT-5.6に関するOpenAIの安全性評価とデプロイメント情報。

まとめ

GPT-5.6 Solの報告されている毎秒750トークンのピーク値は、低レイテンシ推論がAIエージェントの実用的な動作をどのように変えうるかを示している。最も重要な改善点は、テキストが単純に速くなることではなく、反復的な推論、ツール使用、コーディング、コンピュータ制御ループ全体での遅延が短縮されることである。

Cerebrasはすでに、ウェハースケールシステムが1兆パラメータモデルを毎秒約1,000トークンで処理できることを示している。これにより、大規模なマルチウェハーのGPT-5.6デプロイメントは現実味を帯びるが、広く議論されているパラメータ数、ウェハー数、キャッシュアーキテクチャ、およびアテンション-FFN分割は依然として外部推定の域を出ない。

OpenAIのCerebrasとの提携と独自のJalapeñoチップは、同じ方向性を示している。すなわち、AIにおける次の飛躍は、モデル、メモリ、ネットワーキング、アクセラレータ、およびサービングの共設計からますますもたらされるということである。

各システムが連携。

確認されたブレイクスルーは、毎秒750トークンのフロンティア推論であり、その基盤となる正確なハードウェア構成はまだ公表されていません。