Googleがコンフィデンシャルコンピューティング向けTPU 8txと2チップ構成のTPU 8i Maxを追加

Googleは2026年11月9日、第8世代TPUファミリーに2つの製品を追加すると発表し、今年のシステム数は合計4つになりました。TPU 8txはTPU 8tの学習用シリコンを再利用し、第5世代AMD EPYCホストCPUと組み合わせて、Googleがハードウェアレベルのコンフィデンシャルコンピューティングと呼ぶものを提供します。データとモデルの重みが、保存時や転送時だけでなく使用中も隔離されたままになるということです。Googleはこれを、機密性の高い推論と小規模な学習（クラスタ間でデータを移動させないプライベートなファインチューニング、蒸留、強化学習を含む）に位置づけ、TPU 8iと共有するBoardflyネットワーク上で、複数ステップのエージェントに対してTPU 8tより最大2倍低いレイテンシに達すると述べています。

TPU 8i Maxは2つのTPU 8i推論チップを1つのパッケージに収めます。Googleによれば、既存のラック設置面積のまま、TPU 8iと比べて演算能力、SRAM、HBM帯域幅が2倍になります。どちらの製品についても絶対的なFLOPS、メモリ容量、価格、提供時期は示されておらず、11月10日に発表を報じたTechCrunchも同じ欠落を指摘しています。

ソフトウェア面にはチップと同じだけの紙幅が割かれています。先月オープンソース化されたTorchTPUは、vLLMとSGLangのバックエンドでPyTorchとHugging FaceのモデルをTPU上で実行します。同じくオープンソース化されたTPU Syncは、HBM、ホストDRAM、ストレージ、ネットワークを1つのメモリ階層に統合し、KV転送のレイテンシと最初のトークンまでの時間を90%以上削減するとされています。Cloud PathwaysとGKEの動的スライシングは一般提供になりました。

なぜ重要か

注意深く読むべきはコンフィデンシャルコンピューティングの部分です。Googleは構成証明や認証の詳細を示していないので、コンプライアンスチームはまだTPU 8txを既存の統制フレームワークに対応づけられません。相対的な主張（これが2倍、あれが90%）には基準値がなく、InferenceXとAgentXの結果は公表されたスコアではなくSemiAnalysisの分析に帰されています。PyTorchユーザーにとって実用上の変化はTorchTPUとXLA Serving Engineで、これまで多くのチームをGPUに留めてきた移植コストを下げます。どちらのチップについても、容量計画を立てるのは価格と日程を待ってからにしてください。