「AIの会社が半導体まで自分で作れるわけないでしょ」。そう思ってる？ 数字が出た。しかも、思っていたより厄介な形で。
前回の記事では、モデルを置く棚のほうに130億ドルの値札が付いた話を書いた。作る側から見ると、棚も、モデルが通る道も、気付いたら他人のものになりかけている。だからOpenAIは横に広げるんじゃなく、下を掘った。8月25日、その掘った先の最初の数字が出た。
700ワットのチップが、上の世代の機械に勝った
8月25日、Hot Chipsという半導体の会議で、OpenAIが自社の推論用チップ「Jalapeño」の初めてのベンチマーク結果を公開した（OpenAI）。6月にBroadcomと組んで発表したチップで、そのときは電力あたりの性能が今の最先端よりかなり良くなるはずだと言うだけで、最終的な性能はまだ測っている最中だった（OpenAI）。今回、測り終わった分が出てきた。
使ったのはSemiAnalysisが公開しているInferenceXというベンチマーク。試したのはGPT-OSS 120B、DeepSeek R1 670B、Kimi K2.5 1Tの3本で、うち2本は他社が作ったモデルだ。結果は、ピーク時の電力あたりの処理量が比較対象の1.5〜1.9倍、応答が返ってくるまでの時間が1.7〜3.6分の1。やりとりの多い使い方だと2.1〜4.1倍の性能が出た（OpenAI）。比較相手はNVIDIAのBlackwell世代のシステムだ（TechCrunch）。
倍率より、電力のほうを見てほしい。Jalapeñoの定格は700ワット。しかも実際に測った持続電力は550ワット以下だったとOpenAIは書いている。参考までに、NVIDIAの次の世代であるRubinは、計算用のダイ1つで900〜1,150ワットだ（SemiAnalysis）。
なぜ電力で測るのか。SemiAnalysisの説明が身も蓋もない。今のOpenAIを縛っているのは金でも土地でもなく、データセンターに引ける電気の量だからだ。つまり1ワットからどれだけトークンを絞り出せるかが、そのまま商売の上限になる。同じことをNVIDIAのジェンスン・フアンも今年のComputexで言っていた、とSemiAnalysisは書いている。「1ギガワットの電力があるなら、ワットあたりのスループットが売上だ」。売る側と買う側が、同じものさしを見ている。
測ったのは第三者、数字を出したのはOpenAI
ここは正直に書いておく。この数字はOpenAIが出したものだ。
SemiAnalysisはラボに呼ばれて、InferenceXが実際に動くところを目の前で確認している。ただ、ベンチマークの全項目を自分たちの手で回したわけじゃない。長い文脈を何往復もするエージェント向けの試験の結果は、まだ見ていない（SemiAnalysis）。実務で起きるのは、むしろそっちに近い。
比較相手についても、SemiAnalysisははっきり書いている。Blackwellと比べるのはいくらか不完全で、公平とも言い切れない、と。JalapeñoはHBM4という新しいメモリを使うので、本当に競う相手はRubin世代のほうになる。しかもRubinは今まさに顧客への出荷が始まっていて、Jalapeñoはまだ試作品しかない。
そのRubinの7月時点の公表値と並べても、電力あたりの処理量ではJalapeñoが上回るそうだ。ただし、かかる金まで含めて割り算するとほぼ互角、というのがSemiAnalysisの見立てになっている。
つまり「NVIDIAを抜いた」は、条件を全部書き出すとかなり狭い話になる。OpenAI自身、発表の最後にこう書いている。NVIDIAや他のパートナーのアクセラレータは、学習でも推論でも今後も広く使い続ける、と。抜いたと言った同じ文書で、買い続けると宣言している。配備が始まるのも年内にごく少量で、まとまった量が動くのは来年だ（TechCrunch）。
人間の専門家が書いたコードのほうが、遅かった
で、私が引っかかったのはここ。
OpenAIは6月の時点で、設計を始めてから製造用のデータを固めるまで9か月だったと言っていた。半導体としては異常に速い。理由として、自社のモデルを設計に使ったと説明していた（OpenAI）。
今回、その中身が少しだけ具体的になった。もともとの生産計画に入っていなかったオープンウェイトのモデル3本を、Codexと社内のモデルを使って2か月で高速化した。そしてGPT-OSSの一部の計算ブロックでは、AIが生成した実装が、人間の専門家が書いた既存の実装より1.5〜1.8倍速く動いた（OpenAI）。OpenAI自身が但し書きを付けている。選んだブロックの話であって、モデル全体ではない、と。
それでも、この一行は重い。チップの性能を最後の数%まで絞り出すカーネルの最適化は、半導体の中でもいちばん職人の腕が出る場所だ。そこで人間が抜かれた例が、倍率付きで公表された。
SemiAnalysisはこの点について、ベンチマークに並べたような留保をひとつも付けずに書いている。この開発期間は正気じゃない、AIがチップ設計を速くしているという主張は本物だ、と。数字には但し書きを重ねた人たちが、時間の話には何も付けなかった。
ついでに書いておくと、OpenAIはラボで冗談としてDoomを動かして見せたらしい。1993年のあのゲームを、Codexへの指示だけでこのチップに移植したそうだ（SemiAnalysis）。冗談の形をしているけど、これも同じことの証拠だと思う。
米国時間の8月26日、NVIDIAが決算を出す（NVIDIA）。数字がどう出ても、Jalapeñoの話とは直接つながらない。
チップの順位は、Rubinが本格的に出回れば入れ替わる。入れ替わらないのは、チップを速くする手がもう人間だけじゃなくなった、というほうだ。設計する側が速くなると、次のチップはもっと早く出てくる。そこだけは戻らない。
参考・引用記事
- Jalapeño's first results show industry-leading speed and efficiency in AI inference（OpenAI）
- OpenAI and Broadcom unveil LLM-optimized inference chip（OpenAI）
- OpenAI Jalapeño: Better Than Nvidia Blackwell（SemiAnalysis）
- OpenAI's Jalapeño chip is built for fast inference at scale, benchmarks show（TechCrunch）
- OpenAI's 700W Jalapeño ASIC outpaces 1,400W Nvidia flagship GPU（Tom's Hardware）
- OpenAI's upcoming Jalapeño chip looks like it'll be an inference beast（The Register）
- NVIDIA Sets Conference Call for Second-Quarter Financial Results（NVIDIA）
