記事のサマリー（TL;DR）
- Jalapeño は Nvidia Blackwell 比でユーザーあたりトークン数・キロワットあたりスループットの両方で優位を示した
- Broadcom と共同開発し、OpenAI 自社モデルも設計プロセスに参加。2026年末に小規模展開開始
- prefill・通信フェーズのボトルネックを最小化する設計で、低レイテンシと高スループットを両立
国内 AI インフラ・クラウド利用企業が注目すべきカスタムシリコン競争の動向
OpenAI が自社チップを持つことの意味は、API 単価と応答速度に直結します。Jalapeño が 2027 年に本格展開された場合、OpenAI API の推論コストが低下するか、同コストでより高速なレスポンスが得られる可能性があります。日本国内で ChatGPT Enterprise や OpenAI API を業務システム・Salesforce・kintone などと連携させている企業にとって、レイテンシ改善はユーザー体験に直接影響します。一方、Google（TPU）・AWS（Trainium/Inferentia）・Meta に続く形で主要 AI プロバイダーが相次いでカスタムシリコンを内製化しており、Nvidia 依存度の分散という業界構造の変化も読み取れます。調達コスト・SLA 交渉・マルチクラウド AI 戦略を検討している情シス・経営層は、2027 年の Jalapeño 本格展開を一つの節目として認識しておく価値があります。
詳細
Hot Chips カンファレンスで初のベンチマーク公開
2026年8月25日（火）に開催された Hot Chips カンファレンスで、OpenAI は推論専用チップ「Jalapeño」の詳細と初期ベンチマーク結果を公開しました。ベンチマークには SemiAnalysis の InferenceX 指標が使用され、Jalapeño は現時点で市場に出回っている最高水準の推論プロセッサと比較して、ユーザーあたりのトークン数とキロワットあたりのスループットの両方で上回る結果を記録しました。
OpenAI のハードウェア責任者である Richard Ho 氏は報道向けの説明会でこう述べています。「結果が示すのは、現在の最先端に対して非常に大きなパフォーマンス向上です。Jalapeño は単位電力あたりより多くの AI 処理をこなしながら、応答も速く返せます。多くのユーザーを効率的に捌けるだけでなく、低レイテンシも実現できます。」
比較対象は Nvidia Blackwell、ただし展開時期には注意
今回の比較対象は Nvidia Blackwell システムです。ただし Ho 氏は、Jalapeño が本格展開に達するころには競合製品もさらに進化している可能性を認めており、数値の解釈には文脈が必要です。
展開スケジュールとしては、**2026年末に「ごく小規模な量」**での稼働開始を見込み、本格的な展開は 2027年になる見通しです。
Broadcom との共同開発、OpenAI 自社モデルも設計に参加
Jalapeño は 2025年10月に初めて発表され、Broadcom との密接な連携のもとで開発されました。注目すべき点は、OpenAI 自身のモデルが開発プロセスを支援したことで、AI がチップ設計に活用された事例としても注目されます。
OpenAI はこのチップをマルチジェネレーション・プラットフォームとして位置づけており、AI プロダクト・モデル・チップ・メモリをすべて連携して開発していく方針です。フルスタックでの垂直統合アプローチにより、推論処理中に摩擦を生みやすい特定フェーズへの対処が可能になったと説明しています。
prefill・通信フェーズのボトルネックを設計段階で排除
Jalapeño が特に力を入れているのは、推論処理における prefill フェーズと通信フェーズでの遅延の最小化です。OpenAI のブログポストには次のように記されています。
「Jalapeño はデータ移動と通信遅延を最小化するよう設計されています。これにより、レスポンス生成中に使用される KV キャッシュを含むモデルの状態を明示的に配置・ローカル保持しつつ、各推論フェーズに最適なコンピューティング・メモリ・ネットワークの組み合わせをシステムが選択できます。」
KV キャッシュのローカル配置という設計判断は、トークン生成速度と並列処理効率に直結する技術的アプローチで、大規模マルチユーザー環境での安定したレイテンシ維持を狙ったものです。